七月下旬，蔣介石派劉斐促請白崇禧入京。七月三十日，劉斐船過九江，到廬山訓(xùn)練團(tuán)晤陳誠，並得與在團(tuán)受訓(xùn)的黃旭初、夏威會(huì)面。黃、夏聯(lián)名寫信給白崇禧，謂陳辭修教育長寄語，促健公入京，果能早日命駕，則將有助於抗戰(zhàn)大計(jì)的制定。八月二日，蔣介石親電白崇禧，邀他入京就副總參謀長。三日，白氏電覆蔣介石，允即入京。蔣介石於即日派了一架水陸兩用機(jī)由德籍機(jī)師駕駛到桂林候接。八月四日下午一時(shí)，白崇禧乘該機(jī)飛南京，同行的有潘宜之、劉斐、黃季陸等人。下午三時(shí)抵達(dá)，張羣、何應(yīng)欽、程潛、朱培德、張治中等人到場接機(jī)，當(dāng)晚蔣介石在官邸設(shè)宴招待白氏。
白崇禧此次入京，促成了大團(tuán)結(jié)的形勢，馮玉祥、閻錫山、劉湘、龍雲(yún)以及領(lǐng)導(dǎo)人周恩來、朱德、葉劍英等都先後到達(dá)南京，顯示出精誠團(tuán)結(jié)，一致禦侮。
八月十二日，南京召開最高國防會(huì)議及黨政聯(lián)席會(huì)議，商決抗戰(zhàn)大計(jì)，並決定推蔣介石爲(wèi)陸海空軍大元帥，以軍事委員會(huì)爲(wèi)抗戰(zhàn)最高統(tǒng)帥部。軍委會(huì)擴(kuò)大編制，以白崇禧爲(wèi)副總參謀長，因總參謀長程潛赴平漢線任第一戰(zhàn)區(qū)司令長官。白崇禧遂代行總參謀長職務(wù)。另設(shè)第一至第六部，分掌軍令、軍政、經(jīng)濟(jì)、政略、宣傳、組訓(xùn)事宜。
當(dāng)時(shí)白崇禧曾建議設(shè)置大本營，以示全民團(tuán)結(jié)抗戰(zhàn)的最大決心。蔣介石不贊成，他說：“中日未經(jīng)宣戰(zhàn)，即以軍委會(huì)主持戰(zhàn)事可也。”
蔣介石爲(wèi)給予白崇禧順利行使幕僚長權(quán)力的便利，調(diào)黃紹竑爲(wèi)第一部長，主持軍令工作。當(dāng)時(shí)軍委會(huì)以山西情勢危急，遂派黃紹竑前往山西視察，並協(xié)助第二戰(zhàn)區(qū)司令長官閻錫山指揮作戰(zhàn)。黃紹竑在協(xié)調(diào)晉軍和八路軍作戰(zhàn)行動(dòng)方面起了積極的作用。
實(shí)踐證明，蔣、白之間經(jīng)歷了這麼多年的隔閡和猜疑，此次入京會(huì)晤之後，彼此都沒有需要任何疏通和解釋，便能夠在共同對敵的民族大義鼓舞下，開誠相見，並肩戰(zhàn)鬥。“兄弟鬩牆，外禦其侮”，原來是中華民族偉大傳統(tǒng)精神的體現(xiàn)。在這裡更證明了它是一條真理。
八月十三日，日寇以上海公共租界爲(wèi)根據(jù)地，於上午九時(shí)十五分向江灣及閘北方面進(jìn)犯，軍委會(huì)命張治中率軍三師奮勇應(yīng)戰(zhàn)，全面抗戰(zhàn)於是開始。軍委會(huì)隨即劃淞滬爲(wèi)第三戰(zhàn)區(qū)，以馮玉祥爲(wèi)司令長官，顧祝同爲(wèi)副司令長官。蔣介石慣於直接指揮，白崇禧此時(shí)以副總參謀長的地位，只能作爲(wèi)最高統(tǒng)帥的代表，經(jīng)常到前線巡視，指導(dǎo)作戰(zhàn)方略，協(xié)調(diào)部隊(duì)。
時(shí)軍委會(huì)劃兩廣爲(wèi)第四戰(zhàn)區(qū)，以何應(yīng)欽爲(wèi)司令長官。八月二十八日，白崇禧電李宗仁雲(yún)：“統(tǒng)帥部決將津浦線劃爲(wèi)第五戰(zhàn)區(qū)，並請我公出任司令長官。過去公首倡焦土抗戰(zhàn)主張，國人深表贊同，如能乘此時(shí)期，躬行實(shí)踐，則對中外視聽，必有重大影響。敬盼迅賜卓裁電覆。”李首先謙遜一番，最後還是答應(yīng)擔(dān)任，並令韋雲(yún)淞的第三十一軍和廖磊自兼的第四十八軍開動(dòng)北上，參加抗戰(zhàn)。
白崇禧在淞滬前線視察，發(fā)現(xiàn)第三戰(zhàn)區(qū)司令長官馮玉祥白天不在長官部，而住在離上海約一百五十里的宜興張公洞。他把私章交給顧祝同代拆代行。白崇禧因此向蔣介石建議，在黃河以北的宋哲元、石友三、孫連仲（1893—1990，國民革命軍二級陸軍上將，著名抗日戰(zhàn)爭將領(lǐng)。馮玉祥的十三太保之一，抗日戰(zhàn)爭時(shí)期因堅(jiān)守臺(tái)兒莊而聞名中外。曾先後任國民政府青海省、甘肅省、河北省主席。）、馮治安（1896—1954，1912年投身於馮玉祥將軍麾下。“七七事變”後與日本侵略軍展開了英勇不屈的戰(zhàn)鬥，拉開了中國全面抗日的帷幕。1949年隨國民黨去臺(tái)灣。）各部，都是馮玉祥一手訓(xùn)練的部隊(duì)，如將河北及山東北部劃爲(wèi)第六戰(zhàn)區(qū)，以馮玉祥爲(wèi)司令長官，則在指揮上將可收駕輕就熟之效，蔣介石同意照辦。因此自九月十六日起馮玉祥轉(zhuǎn)作第六戰(zhàn)區(qū)司令長官，由蔣介石自兼第三戰(zhàn)區(qū)司令長官。後因西北軍將領(lǐng)反對馮玉祥前往指揮，蔣介石又請馮氏回來擔(dān)作軍委會(huì)副委員長。
在白崇禧視察期間，還發(fā)現(xiàn)蔣介石在部隊(duì)中製造矛盾，陳誠的嫡系部隊(duì)第十八軍，原來由第九集團(tuán)軍總司令張治中指揮，後來蔣介石發(fā)表陳誠爲(wèi)第十五集團(tuán)軍總司令，第十八軍改由陳誠直接控制，可是蔣介石卻沒有把這一變更通知張治中。及張治中去看第十八軍的兵力部署，該軍軍長羅卓英（1896—1961，由下級軍官升至國民黨第18軍軍長。1935年，晉銜陸軍中將。1942年任遠(yuǎn)征軍司令長官，入緬作戰(zhàn)。後轉(zhuǎn)往印度，主持蘭伽遠(yuǎn)征軍訓(xùn)練。抗戰(zhàn)勝利後，曾任廣東省主席。後去臺(tái)灣。）居然這樣說：“張總司令竟到我們這裡來了？”使張治中感到非常難堪。因憤而辭職。後經(jīng)白崇禧居中調(diào)度，蔣終批準(zhǔn)張辭職，改以朱紹良任第九集團(tuán)軍總司令。
有一件事證明白崇禧自外於蔣介石，蔣氏乘專列到蘇州指揮，白崇禧偕行。一夜，蔣介石叫他的侍衛(wèi)長王世才送五萬元給白崇禧，白氏拒而不受。自此以後，蔣介石就不給白崇禧送錢了。對將領(lǐng)施恩施惠，原是蔣介石籠絡(luò)部下的一貫手法，白崇禧這樣拒絕他的“恩賜”，對蔣氏頗有“見外”之感。以後蔣、白之間始終抱有一定距離，與此也有多少關(guān)係。
白崇禧對淞滬戰(zhàn)事，以爲(wèi)上海附近夾在黃浦江和長江中間，港灣縱橫，日寇仗著陸海空聯(lián)合作戰(zhàn)的威力，易於發(fā)揮優(yōu)勢。我軍則因裝備較劣，後方交通澀滯，在這裡與敵進(jìn)行陣地戰(zhàn)，不見得怎樣有利，而以轉(zhuǎn)移到山川險(xiǎn)要地區(qū)與敵決戰(zhàn)爲(wèi)宜。對此，蔣則以爲(wèi)，上海華洋雜處，與歐美各國利益息息相關(guān)。在淞滬與敵長期作戰(zhàn)，可能引起國際干涉，而對“九國公約”會(huì)議的召開寄予厚望。後來事實(shí)證明，他的幻想終成泡影。
滬戰(zhàn)初期，我實(shí)行攻勢作戰(zhàn)，曾一度進(jìn)展到匯山碼頭，八月二十二日晚，敵第三師團(tuán)、第十一師團(tuán)及第一〇一師團(tuán)之一部分於川沙、獅子林、寶山等地同時(shí)登陸，向羅店、瀏河之線南犯，其主力於二十九日陷羅店，旋吳淞、寶山亦相繼不守，我軍全線轉(zhuǎn)移到北站、江灣、廟行、雙草墩之線，與敵展開激烈的爭奪戰(zhàn)。
九月中旬，到滬敵軍還有第六、第九、第一一六師團(tuán)各一部，經(jīng)激戰(zhàn)後，我軍乃退守蘊(yùn)藻濱南岸，陳行、廣福、瀏河之線。十月七日，敵第三、第九兩師團(tuán)由蘊(yùn)藻濱北岸開始強(qiáng)渡，企圖一舉突破我陣地，進(jìn)佔(zhàn)大場南翔。
十月中旬，我爲(wèi)恢復(fù)蘊(yùn)藻濱南岸陣地，決定進(jìn)行反攻，乃以廖磊集團(tuán)軍第七軍、第四十八軍爲(wèi)第一路軍，由黃港北、侯宅、談家頭附攻擊蘊(yùn)藻濱南岸之?dāng)常灰匀~肇第六十六軍爲(wèi)第二路軍，由趙家宅向東攻擊；以孫元良第八十八師爲(wèi)第三路軍，由廣福南側(cè)地區(qū)攻擊前進(jìn)。十月十九日，攻擊開始，適逢敵主力向我進(jìn)攻，遂演成爲(wèi)大規(guī)模的遭遇戰(zhàn)，因彼此裝備懸殊，我軍傷亡甚大，如桂軍第七軍傷亡過半，死傷旅長龐漢禎、夏國璋、秦霖等六七人，團(tuán)長廖雄、謝鼎新等十多人。我被迫後退，敵乘勢猛攻，大場旋告不守，至是我上海守軍側(cè)背，大受威脅，乃於十月二十六日向蘇州河南岸轉(zhuǎn)進(jìn)。
十一月五日，敵第六、第八兩師團(tuán)，由杭州灣北岸全公亭金山衛(wèi)等處登陸，直逼松江，我吳克仁部因集結(jié)未畢，遂被擊破。此時(shí)我淞滬陣地側(cè)背益感受到嚴(yán)重威脅，軍委會(huì)乃於十一月九日下令上海全線撤退。總結(jié)滬戰(zhàn)集結(jié)了全國精銳，支持了三個(gè)月，雖不能如蔣介石所預(yù)期那樣，引起國際上的實(shí)際支持，但也初步粉碎了日寇速戰(zhàn)速?zèng)Q的美夢。