1938年初，隨著華北、華中的得手，日軍大本營又把貪婪的目光投向了華中重鎮(zhèn)--徐州。這里是津浦鐵路和隴海鐵路的交匯點(diǎn)，是中國鐵路在華中地區(qū)的樞紐，歷來為兵家必爭之地。日軍瞄向徐州，意圖相當(dāng)?shù)拿鞔_，就是要打通津浦鐵路，解除日后進(jìn)攻武漢的右側(cè)威脅，再由隴海鐵路西上，切斷平漢線，一舉拿下武漢，逼蔣介石投降。
日本人的如意算盤撥弄得嘩嘩作響，此舉若是成功，將給國民政府帶來致命的打擊，極有可能會打垮蔣介石的抵抗意志，最終采取與日本人合作的態(tài)度。日本人對幾千年前中國兵家鼻祖孫子的一句話領(lǐng)悟得相當(dāng)深刻：“不戰(zhàn)而屈人之兵。”退一步說，即使頑固的蔣介石不投降，失去武漢，也意味著他將被趕入西南大山中，國民政府也隨之降為中國的一個地方政權(quán)，那時蔣介石政權(quán)還能有多少權(quán)威？中國的半獨(dú)立政權(quán)可多得是，蔣介石為各省軍閥注目的焦點(diǎn)，讓他下臺，必能在各省得到熱烈擁護(hù)。到時候，日本人在另起爐灶，扶植第二個大滿洲帝國。
中國的農(nóng)歷春節(jié)過后，日軍大本營撤消了華北派遣軍的編制。從國內(nèi)陸續(xù)調(diào)來了幾支精銳師團(tuán)，組建了新的華北方面軍。由多田駿代替了寺內(nèi)壽一出任方面軍的司令官，由笠原幸雄代替了板垣征四郎出任參謀長。部隊(duì)下轄第1軍（8師團(tuán)、第14師團(tuán)、第20師團(tuán)、第10師團(tuán)）、第2軍（第4師團(tuán)、第15師團(tuán)、第108師團(tuán)）。另外方面軍直轄第5師團(tuán)、第109師團(tuán)、戰(zhàn)車第3師團(tuán)、騎兵第4旅團(tuán)、獨(dú)立第11旅團(tuán)、獨(dú)立第14旅團(tuán)，總兵力達(dá)到了20萬人以上。
蔣介石處決了韓復(fù)榘，要與日本人在戰(zhàn)場上再決雌雄。但京、滬大血戰(zhàn)后，國軍部隊(duì)死傷慘重，現(xiàn)下早已是無兵可調(diào)了。迫不得已，他只有把川軍、東北軍、西北軍和山東軍這些雜牌部隊(duì)投入戰(zhàn)場，他手上也只有這些部隊(duì)了，本著死馬當(dāng)作活馬醫(yī)的原則，蔣介石把這些部隊(duì)交到了李宗仁的手上。眼見部隊(duì)沒有了指望，蔣介石就只能把希望放在李宗仁的身上了，他希望李宗仁能在徐州地區(qū)創(chuàng)造一個軍事史的奇跡。
剛剛進(jìn)駐徐州的李宗仁非常明白蔣介石的用心，蔣介石真是太精明了，即使被日本人窮追猛打到這一步，也沒打算放過李宗仁這個與他爭斗了十?dāng)?shù)年的地方實(shí)力人物。自張學(xué)良和他的東北軍被老蔣消耗掉以后，李宗仁的桂系便成了老蔣統(tǒng)一中國的最大障礙，雙方打打和和的十幾年，一直都是勾心斗角的貌合神離。直到抗戰(zhàn)爆發(fā)，桂系宣布支持政府抗日后，蔣介石才對桂系稍稍的改變了態(tài)度。
日軍沒給李宗仁太多的準(zhǔn)備時間，新上任的多田駿就組織了4個師團(tuán)的兵力向徐州方向撲來。日軍第10師團(tuán)（嘰谷師團(tuán)），在其他幾個師團(tuán)尚未就緒時，就急不可待的殺了過來。在張八嶺、岱山一線被西北軍的第31軍頑強(qiáng)的擋住了。日軍利用飛機(jī)、重炮做掩護(hù)，強(qiáng)度池河。第31軍與日軍血戰(zhàn)了10天，后接到李宗仁的命令，讓開正面，占領(lǐng)兩側(cè)山地，放日軍第10師團(tuán)過來。第10師團(tuán)先后攻陷蚌埠、定遠(yuǎn)、懷遠(yuǎn)、鳳陽，并開始強(qiáng)度淮河。
負(fù)責(zé)守衛(wèi)淮河防線的是東北軍于學(xué)忠的51軍，在與日軍激戰(zhàn)3天后，終于攔下了日軍第10師團(tuán)的腳步。考慮到51軍已連戰(zhàn)數(shù)日，部隊(duì)損失巨大，李宗仁急令西北軍張自忠的第59軍前去增援51軍。張自忠自打“蘆溝橋事變”后，就憋著勁要和日本人血戰(zhàn)一場，好以此來一雪前恥。有了張自忠的支援，51軍和59軍合力將日軍阻擋在了淮河岸邊。
與南路日軍相比北路日軍進(jìn)展的十分困難，因?yàn)橛辛隧n復(fù)榘的前車之鑒，所以士氣很高。這令南下的日軍遭到了頑強(qiáng)的抵抗，讓貪功冒進(jìn)的第5師團(tuán)（此時，板垣已奉調(diào)回國，出任日本陸軍大臣）舉步為艱。第5師團(tuán)在日本陸軍中素有“鋼軍”的稱號，而第5師團(tuán)下屬的第21旅團(tuán)更是號稱“陸軍之花。但是此次在臨沂地區(qū)，他們做夢也想不到會嘗到失敗的滋味。第5師團(tuán)第21旅團(tuán)有3個步兵聯(lián)隊(duì)，1個炮兵聯(lián)隊(duì)，1個騎兵大隊(duì)，輜重，工兵部隊(duì)以及**舉的偽軍，共約2萬來人，向臨沂地區(qū)突進(jìn)，沿途遭到龐炳勛第3軍團(tuán)、沈鴻烈部的節(jié)節(jié)抵抗，第5師團(tuán)第21旅團(tuán)被阻擋在湯頭鎮(zhèn)、尤家莊一帶，距離臨沂城只有10公里。
為了粉碎日軍在臺兒莊會師的戰(zhàn)略企圖，坐鎮(zhèn)徐州的李宗仁南線布兵于淮河兩岸，北線布鎮(zhèn)于騰縣一帶，分別阻擊津浦線上的南北之?dāng)场５靥幈本€的臨沂城，歷來都是魯南的軍事重鎮(zhèn)，距離臺兒莊有90公里。臨沂城一旦失守，臺兒莊也就難以維系了。要挫敗第5師團(tuán)、第10師團(tuán)會師臺兒莊，進(jìn)而攻擊徐州的作戰(zhàn)計劃，就必須把第5師團(tuán)死死的擋在臨沂地區(qū)，并給第5師團(tuán)予以重創(chuàng)，因此臨沂一戰(zhàn)就變得尤為重要。守衛(wèi)臨沂的是龐炳勛的第3軍團(tuán)，雖然名義上是軍團(tuán)編制，但實(shí)際上龐炳勛的手上只有5個團(tuán)，另外就是沈鴻烈部的3個地方保安團(tuán)。面對日軍兇猛的火力。龐炳勛的第3軍團(tuán)傷亡極大，他連連向李宗仁發(fā)來求救電報，第5戰(zhàn)區(qū)參謀長徐祖貽來赴臨沂指揮，同時，李宗仁緊急從張自忠的59軍抽調(diào)部分兵力前來增援臨沂。
張自忠將軍親率4個團(tuán)的援兵，經(jīng)過一晝夜的急行軍于黎明時分趕到了臨沂。龐炳勛當(dāng)即要求張自忠接替臨沂城防。但張自忠將軍認(rèn)為與其消極防御，不如以攻為守，擊敵側(cè)背，以解臨沂之危。龐炳勛覺得這個計劃值得一試，就欣然同意了張自忠的計劃。張自忠指揮部隊(duì)暗渡沂水，以2個團(tuán)的兵力向日軍發(fā)起決死沖鋒。第5師團(tuán)第21旅團(tuán)突遭襲擊，頓時就停止了對臨沂的進(jìn)攻，讓龐炳勛的第3軍團(tuán)獲得了短暫的喘息。張自忠將軍原本就是西北軍里的一員猛將，在加上他報仇心切，因而他不顧犧牲，率領(lǐng)部隊(duì)發(fā)揚(yáng)西北軍的大刀精神，與日軍展開了激烈的肉搏戰(zhàn)。
戰(zhàn)至天黑，戰(zhàn)區(qū)長官部認(rèn)為張自忠部已損失待盡，建議張自忠部撤出戰(zhàn)斗。這一刻，李宗仁已被張自忠的英勇所感動，他覺得不能讓張自忠部損失待盡，因此決定用自己的桂系部隊(duì)替換下了張自忠部。誰知張自忠已經(jīng)殺紅了眼，并沒有執(zhí)行他的命令。同日，龐炳勛軍團(tuán)也組織部隊(duì)對日軍發(fā)動了反攻，張、龐兩軍從前后夾擊日軍，經(jīng)過一夜的激戰(zhàn)，先后占領(lǐng)尤家莊、傅家屯一線。天亮后，兩軍再次發(fā)起攻擊，將第5師團(tuán)第21旅團(tuán)趕出了臨沂地區(qū)。
此次作戰(zhàn)，張、龐兩軍共約傷亡3000多人，但日軍亦被消滅1000多人，**舉的偽軍被打死打傷3000余人。在這次戰(zhàn)斗中，國軍部隊(duì)擊斃了日軍第21旅團(tuán)第11聯(lián)隊(duì)長野裕一郎大佐，還有聯(lián)隊(duì)參謀年田少佐。此次戰(zhàn)斗的勝利，不但打疼了第5師團(tuán)，也震驚了武漢的蔣介石。他對張、龐兩軍的戰(zhàn)績感到異常的高興，蔣介石大筆一揮，親自下達(dá)了對張、龐兩軍的嘉獎令，號召全軍部隊(duì)都要向張、龐兩軍學(xué)習(xí)。蔣介石對張自忠更是大加稱贊，他高興的對侍從們說道：“好漢到什么時候都有種，這張自忠一上戰(zhàn)場，就用日本人的血為自己洗刷了恥辱。”65
臨沂之戰(zhàn)，張自忠用實(shí)際行動征服了國人。國人一改過去斥之為漢奸的態(tài)度，轉(zhuǎn)而向張自忠將軍投去了崇敬的目光。但真正被張自忠將軍感動的，還是第5戰(zhàn)區(qū)的官兵們。首先是這次被困臨沂的龐炳勛將軍，當(dāng)他向李宗仁求援時，聽說援兵是張自忠的59軍，龐炳勛的心里就直打鼓，心說怎么派他來了，看來這下我第3軍團(tuán)是在劫難逃了。原來張自忠和龐炳勛早就認(rèn)識，當(dāng)年他們都是馮玉祥的部下。只是當(dāng)年有過一些誤會，致使這么多年以來，就從沒聯(lián)系過。這次，張自忠不計前嫌，拼死相救，這讓龐炳勛的心里感到了極其的慚愧。他心悅誠服的說道：“自忠將軍不不計前嫌，為人光明磊落，關(guān)鍵時刻，冒死來援，真是讓我龐某人感到汗顏啊！”
雖然張、龐兩軍打退了第5師團(tuán)的進(jìn)攻，但只是暫時緩解了第5戰(zhàn)區(qū)的壓力。津浦路正面嘰谷廉介的第10師團(tuán)卻異常的囂張，他認(rèn)為當(dāng)面的中國軍隊(duì)不堪一擊，攻占徐州簡直就是易如反掌，便不顧其他友軍部隊(duì)的配合，孤軍向徐州地區(qū)突進(jìn)。