薛林率先向日軍發起進攻，戰術是集中兵力在二至三個街道間，輕重機槍一起開火，并不斷派兵登上房頂，因為已經秘密疏散了人群，薛林在不得已情況下動用了小口徑迫擊炮，用以威懾日軍。
薛林這邊一開打，其他北伐軍將領一時也不知所措，正在這猶豫的時候，王天培也率領著近三千人趕來，不用說，這是來報仇的，在前一天王天培所部被日軍吃了近一個團，這口氣，王天培咽不下。
“已經開打了，”王天培拿著望遠鏡觀看戰情：“好像是薛林的部隊，聽這炮聲一定是這小子在徐州繳獲的德國造。”
“我們怎么辦？總司令的命令不許進攻，薛林這是在抗令。”一旁的副官問道。
“他娘的，”王天培憤憤的罵了一句：“不讓進攻，不讓進攻，就是這混蛋的不讓進攻，老子被打了個突襲，一個團報銷了，憑什么在中國的土地上老子只有挨打的份，給我打，薛林都敢打，我有什么不敢的。”
王天培這邊馬上加入了戰斗，而且打得異常兇猛。
日軍這邊也馬上開始反擊，這幫日本人可分不清哪些是薛林的部隊，哪些是沒有進攻日軍的部隊，一律向中國軍隊的陣地開始進攻，同時福田彥住下令，把濟南城外圍的日軍向濟南商埠靠攏，爭取一舉打下司令部，逼蔣介石簽下城下之盟。
日軍這一還擊，這可給這些北伐將領氣壞了，明明已經后撤，明明不是自己開打，卻還要挨著欺負，也不管什么命令了，紛紛向日軍開始反擊，一時間戰火四起，街道兩旁子彈對射，一個街道，一個房間，爭奪的異常慘烈，打了沒多久，日軍有些吃不消了。
日軍在進攻司令部大樓時料想后面的北伐軍會不老實，但沒想到打的如此激烈，好在司令部的北伐軍沒有反擊。
薛林手持沖鋒槍，勇往直前，手下將士深受鼓舞。
“一班長，把那樓上的機槍給我炸了，媽的，有這顆釘子，沖不上去。”薛林躲在一堵墻后面，剛一露頭，就被一排子彈打了回來。
“旅長，沖不上去，死了好幾個兄弟了。”
“旅長，我看六團那有個山炮，咱能調來不。”
薛林喘著粗氣，咬著牙：“李大麻子的六團，不歸我管。”薛林想了想：“管不了那么多了。”薛林感到必須要趕快打退日軍，否則一旦日本人調來援軍，那就難辦了，救不了蔣介石不說，自己還有可能被軍法處置。
必須打退日軍，這樣還能將功補過，要不然，有很多人等著看自己笑話。
想到這，薛林把錢壯叫來：“大壯，你帶一連去，把旁邊李麻子的炮給我搬來，他要不給，就搶過來。”
錢壯領著二三百人過去后，薛林想想，擔心錢壯治不了他，吩咐幾個團長不許輕易沖鋒后，便馬上也向六團跑過去，果然，這個六團正老實的在后面歇著呢，真是支聽話的部隊，幾門山炮就擺在前面。
“幾個兄弟辛苦了，借你們的炮一用。”說罷，錢壯就派人去挪炮。
六團的人馬上圍了過來，“你們這是干什么？總司令有命令，不許還擊，這炮我們不能借。”一個營長說道，剛說完便推開了薛林的士兵，并把炮圍了起來。
錢壯氣的滿臉通紅，指著這個營長罵道：“你他娘的在這當縮頭烏龜，我們留血流汗，要不是我們沒帶這玩意，就你這廢鐵，給我還不稀罕。”
“你說誰是縮頭烏龜？你們不服從命令反倒有理了……。”
兩邊的士兵紛紛大喊，有的已經槍對槍，錢壯沒心情和這小白臉辯論，便想來硬的。原來這個六團是李武的部隊，李武還在駐守萊蕪，但派了幾個團進駐濟南，這李武別看陰險狡詐，但率軍確實以聽話著稱，結果手下軍官紛紛不敢違抗軍令。
在錢壯想動武時，薛林從后面趕來。
薛林手里提著沖鋒槍，滿臉灰塵，說道：“叫李大麻子來見我。”
“你是誰？”
“這是我們旅長。”士兵說道。
“原來是長官，”這個營長立即站直了腰板：“我們團長在團部，這一時過不來。”
“這炮我們先用，回頭我和你們團長說。”薛林說道。
“這可不行，我們團長發話了，沒有總司令命令，一槍一彈不能出營。”
話還沒說完，薛林抬手就給這營長一記耳光，接著對著他喊道：“我沒時間和你廢話，滾，”說完薛林手又一揮：“把炮推走。”
這一個耳光給那位營長打懵了，愣愣的看著炮被拿走。
薛林走后，這個營長趕緊反應過來，馬上給團長打電話。
李大麻子氣的在電話另一頭直罵娘：“好你個薛林，你自己抗命還要拉著我，欺負到我頭上了。”同時又擔心薛林對日軍用炮，會把事態擴大，萬一事后總司令追查，自己會被牽連，所以馬上給蔣介石發電，把薛林搶炮的事情向蔣介石匯報。
他也不想想現在蔣介石哪有心情管這事，外面打的快成一鍋粥了，全亂了，蔣介石根本管不住軍隊。
隨著一聲炮響，樓頂的日軍機槍手被炸上了西天，薛林大喊一聲，繼續向前沖。
日軍且戰且退，為了避免更大傷亡，總指揮福田彥助準備撤退，但福田彥住顧及顏面，還不好輕易撤退，繼續給蔣介石拍電報，威脅蔣介石必須停火，否則青島的日軍將大規模支援濟南。
蔣介石氣急敗壞，罵道：“外面怎么又打起來了，是哪個王八蛋還擊的，敢違抗我的命令。”
“總司令消消氣，這也分不清到底是誰開的第一槍了，現在也不是追究誰責任的時候，正好趁著現在比較亂，總司令還是趁著現在及時脫險為宜，一旦日軍孤注一擲攻下司令部，可就晚了。”王正廷說道。
蔣介石一聽有道理，便換上普通衣服，準備趁亂逃出大樓，躲進附近民巷。