有多年作戰經驗的蔣介石對于濟南這個戰略要地的重要性當然是十分明白的，而且他也已經預感到，雙方都在徐州地區集中了大量兵力，這個自古就是兵家必爭之地的徐州地區不久就會有一場大戰。如果濟南能夠掌握在自己手中，不僅可以將粟裕的幾十萬兵力拖在山東，又能使未來的大戰開戰以后讓粟裕有后顧之憂，所以蔣介石決定給王耀武增加兵力。為了搶時間，蔣介石命令空軍司令王叔銘安排大批空運力量，很快從青島、徐州向濟南運送了一個整編師和兩個旅的兵力，使王耀武手中的兵力達到了三個整師又五個旅，共11萬人。同時蔣介石命令徐州“剿總”副司令杜聿明指揮黃百韜、李彌、邱清泉三個兵團共17萬人組成所謂“進剿兵團”，一旦濟南打響，就分路北援濟南。此外，蔣介石還命令他的空軍部隊以濟南、青島為基地，以北平、徐州為輔基地，集中戰斗機162架、重型轟炸機42架，作為空中打擊與支援力量。于是，王耀武增強了信心，就把全力投入到濟南的防守，等待著華東野戰軍對濟南的攻城。
勢態很明顯，雙方都看準了這一著棋，都把濟南這一仗看作了未來在徐州地區大戰的一場必不可少的前奏。
濟南的攻防之戰將是一場惡仗。
在西柏坡，毛澤東和中央軍委的負責人一直注視著粟裕當時設在濟寧的指揮部，因為他們也一致認為，必須解放濟南，但“這是一次嚴重作戰”。因為，打濟南的主要麻煩不在于濟南的11萬守軍，而在于我軍只要在濟南一打響，蔣介石在徐州地區的大量援軍必然北上，如何才能成功地在打援中大量殲滅敵人的有生力量，不使我軍在濟南城下的攻堅戰形成被動局面，是應當著重考慮的大問題。為此，中央軍委和華東野戰軍負責人之間的電報不斷，反復研究，最后才定下了作戰方案。這一仗，總的指揮由粟裕負責，而攻城指揮，由許世友負責。攻城兵力，以山東兵團為主，共為50個團14萬人；打援兵力，安排90多個團18萬人。
打援的主要地區，放在兗州和鉅野（今巨野）之間，夾運河而陣，以便于屆時能主動地在河東或河西殲滅敵人。攻城分為兩個階段：第一階段首先攻占城西的飛機場，截斷敵人空中援助支持的通道；第二階段再行攻城。整個戰役爭取一個月完成，但要做好打三個月的準備。此外，中央軍委還命令中原野戰軍做好準備，如果蔣介石要從鄭州、信陽調動張軫兵團、孫元良兵團向山東支援的話，就加以阻擊，配合濟南方面的華東野戰軍。就在中共中央政治局西柏坡九月會議期間，中央軍委與華野前線的電報仍然不斷，整個戰役的具體計劃，則是在緊張籌備九月會議的進程中完成的。9月2日，毛澤東在華東野戰軍最后完成的作戰方案上做了“完全同意”的批復。當天，華東野戰軍就下達了開始行動的作戰命令。
濟南戰役的攻城總指揮是許世友。
許世友擔任攻打濟南的攻城兵團司令員，粟裕給了他六個半縱隊，還有特種兵縱隊的大部和一些地方部隊，共有14萬人。許世友把這14萬人分成了東西兩個集團：東面攻城集團軍由九縱司令員聶鳳智、政委劉浩天指揮，西面攻城集團軍由十縱司令員宋時輪、政委劉培善指揮。
9月7日，許世友下達了對濟南發起攻擊的命令。這一天，正是中共中央在西柏坡召開政治局會議正式開會的前一天。當政治局會議正式開幕的時候，我十幾萬大軍正在向濟南城下開進。
9月15日夜，我東、西兩面的攻城集團軍已分別從濟寧、汶上和泰安、萊蕪地區逼近濟南城郊。16日夜，突然向守軍發起攻擊并迅速將外圍突破。經過兩天一層一層地摧毀敵人的工事，西集團軍在18日就已逼近飛機場，炮火已使得敵人的飛機不能自由起降。蔣介石運送部隊給濟南的空中支援只能停止。東集團軍則已占領茂嶺山、硯池山、回龍山等要點，直撲外城。正當王耀武全力保衛機場和城區時，一件讓王耀武萬萬想不到的事情發生了：19日，奉命守衛西城區的第九十六軍軍長吳化文率所部三個旅兩萬余人宣布起義。
吳化文起義是解放戰爭進入決戰時期的第一次國民黨軍起義，是整個解放戰爭中第一個在大型戰役戰場上起義的國民黨軍軍長（1945年10月30日，國民黨第十一戰區副司令長官高樹勛邯鄲起義是在內戰前夕起義的，雙方未發生戰事），此事在當時曾引起了很大的震動。
吳化文起義在當時是一件大事，因為它不僅對解放濟南有利，而且可以動搖和瓦解蔣介石集團的其他將領。吳化文在歷史上對我黨、對人民是犯有重大罪過的，但是只要他能幡然悔過，棄暗投明，我黨仍然是歡迎的。這對于加速蔣介石集團的分化，具有十分重要的作用。朱德曾經對吳化文起義說過“對我打下濟南起了相當作用，今后作戰，就需要這樣的起義”。吳化文起義還有一個作用是表明了我黨強大的政治工作威力。吳化文部起義之后，經過整編，成為人民解放軍第三十五軍，以后與原華東野戰軍的魯中南縱隊合并，仍稱三十五軍，吳化文仍然擔任軍長，他的幾個部下仍然擔任副軍長和師長，在我軍派入干部的幫助教育與全面整頓之后，部隊面貌煥然一新，不僅參加了淮海戰役、渡江戰役和解放南京，而且在1949年4月24日占領蔣介石的總統府，將紅旗插上蔣介石總統府的門樓的，就是三十五軍的革命戰士。
由于吳化文的起義，將濟南的西大門敞開，打破了王耀武的防御體系，濟南戰局急轉直下。9月20日，濟南城外守軍被我全殲。22日夜，我軍使用重炮加坦克（我九縱出動了坦克4輛，這是我軍首次在攻城中使用坦克）配合步兵的連續爆破，一舉攻破外城。由于濟南的內城高達15米，被挖空建造成三層的機槍工事，城下還有城壕和無數碉堡，強攻不易，所以我軍經過充分的準備之后，于23日18時以猛烈的炮火先向敵人陣地進行了40分鐘的破襲，然后開始攻城。第二天拂曉，突入內城，經過激烈巷戰，我九縱七十三團二營首先攻入山東省政府。24日17時，濟南全城解放。但是，省政府里沒有王耀武，全城搜索，也沒有王耀武。
原來，就在我軍攻入城的時候，王耀武自知全軍覆沒已是無可避免，就化裝成一個小商販，混在市民之中逃出了濟南城，向青島方向逃去。由于王耀武是山東人，也比較能混，所以一直在老百姓中混了好幾天，才在壽光縣境內被我軍抓住，送進了戰俘營。王耀武被俘后，曾經為自己未能和吳化文一道起義而后悔，他在給吳化文的一封信中說：
“君為座上客，弟為階下囚。你起義向我說一聲，我也起義不好嗎？”
被俘50天之后，他在我軍辦的山東解放軍官教導團教育之下，在我華東新華廣播電臺向全國發表了廣播講話。
我是前國民黨山東省主席兼第二綏靖區司令官王耀武，今天借這么一個機會向各位做簡單的報告。首先我說明這次濟南失敗的原因。守濟南的軍隊有10萬之眾，有關作戰的物資也不為不多，市郊工事經兩年來不斷修筑不為不堅，但是僅8天的戰斗就被全部殲滅了。就是吳化文不起義，亦是很快地要被殲滅。這又是什么緣故呢？因為國軍沒有理想信仰，反人民，反大眾，加以解放軍英勇為人民大眾的犧牲精神及優越的技能，實令人欽佩。所謂得民者昌，失民者亡，所以很迅速地將戰斗結束了。其次我要給蔣先生一點意見。在北伐與抗戰中你有一時期與共產黨合作，所以得到成功。但是你堅持獨裁，完全為四大家族打算，因此兵連禍結，全國無一片干凈土。為了取得軍事上經濟上的外援，不惜與美帝國主義訂了那么多的辱國條約，斷送子子孫孫的幸福。以現在局勢看，國民黨的失敗已經注定，還要做最后的掙扎是多么不智。最好命令全國國民黨軍隊立即向人民解放軍無條件投降，使全國立即恢復和平，國家民族多保存一點元氣。
作為華東重鎮的濟南，我軍只用了8天就攻克。當蔣介石得知吳化文起義的消息后，他已知道濟南必丟無疑，也知道我軍的打援大軍正在等他，所以并未催促杜聿明率兵北援濟南。當濟南已被攻克時，蔣介石原來部署的援助大軍的三個兵團中只有一個兵團在動，另兩個還在集結之中。所以，我軍原來準備的打援殲敵計劃未能實現。就這一點來說，華東野戰軍是有一點遺憾的。但是，濟南戰役除了在如何打攻堅戰這一問題上為今后提供了有益的經驗之外，在如何利用敵方內部矛盾去分化瓦解敵人，爭取敵人中的一部分能在戰場上起義或投誠，以減少我方的傷亡、保護城市免遭破壞也提供了十分有益的啟示。從具體的戰果來看，這一仗共殲敵10.4萬人，抓獲敵高級將領23人（除王耀武外，還有他的副司令牟中珩、國民黨山東省黨部主任委員龐鏡塘等）。由于菏澤、臨沂、煙臺等地的國民黨軍在濟南解放之后都先后逃走，故而整個山東除青島之外全部落入我手，使華北、華東兩個解放區完全連成了一片，這給我軍的下一步行動帶來了極大的方便。當然，在這一次攻堅戰中我軍也付出了代價，我三縱第八師師長王吉文、十三縱第三十七師政委徐海珊等在戰斗中光榮犧牲。
濟南戰役是在中共中央西柏坡九月會議這次大決戰的總動員會議召開期間進行的。濟南戰役的巨大成功不僅大大地鼓舞了到會的我軍各路將領，而且消除了會議討論中對我軍的大城市攻堅能力的某些疑慮。用毛澤東修改審定的新華社社論《慶祝解放濟南的偉大勝利》中的話說，“任何一個國民黨的城市都無法抵御人民解放軍的攻擊了”，包括“北平、天津、沈陽三點”在內。所以，中央軍委總參謀長周恩來說：“濟南戰役的勝利，揭開了人民解放戰爭戰略決戰的序幕。”