3月下旬，國民黨軍對(duì)山東解放區(qū)的重點(diǎn)進(jìn)攻正式開始。先后被調(diào)往山東戰(zhàn)場的兵力達(dá)到24個(gè)整編師(軍)、60個(gè)旅，45萬人，并以其精銳主力整編第74師、第5軍、整編第11師為骨干，分別編成三個(gè)機(jī)動(dòng)兵團(tuán)，擔(dān)任主要突擊任務(wù)。
其中第1兵團(tuán)8個(gè)整編師共20個(gè)旅20萬人，由司令官湯恩伯指揮，是進(jìn)攻的主要集團(tuán)，該兵團(tuán)企圖首先占領(lǐng)沂水、坦埠一線，爾后與第2、第3兵團(tuán)通力向北、向東進(jìn)攻，迫使華東野戰(zhàn)軍主力決戰(zhàn)或北援黃河。
另外，第2綏靖區(qū)5個(gè)軍部署在膠濟(jì)鐵路(青島一濟(jì)南)和津浦鐵路(天津一浦口)泰安以北地區(qū)，策應(yīng)3個(gè)兵團(tuán)作戰(zhàn);第3綏靖區(qū)2個(gè)整編師在嶧縣、棗莊為2線部隊(duì)。
4月上旬，國民黨軍以一部兵力打通了津浦鐵路徐州至濟(jì)南段和臨沂至兗州的公路，占領(lǐng)魯南解放區(qū)后，三個(gè)兵團(tuán)分別由臨沂、泰安、泗水向魯中山區(qū)發(fā)起全線進(jìn)攻，企圖尋找華東野戰(zhàn)軍主力決戰(zhàn)。
敵軍總兵力達(dá)13個(gè)整編師(軍)、34個(gè)旅，25萬余人，相當(dāng)集中，為了避免在進(jìn)攻中被華野分割殲滅，采取了“密集靠攏、加強(qiáng)維系、穩(wěn)扎穩(wěn)打，逐步推進(jìn)”的方針。
4月初，華東野戰(zhàn)軍自焦?jié)纺舷?，隱蔽配置于與國民黨軍方陣相對(duì)應(yīng)的50 公里地帶，相距僅10公里左右。6日，國民黨軍派飛機(jī)對(duì)駐坦埠附近的華東野戰(zhàn)軍指揮部進(jìn)行轟炸 ，19日發(fā)起了全面進(jìn)攻。
華東野戰(zhàn)軍展開了阻擊戰(zhàn)。華東野戰(zhàn)軍在山東的兵力有9個(gè)步兵縱隊(duì)和一個(gè)特種兵縱隊(duì)，約27萬余人，與國民黨軍兵力相比居于劣勢。
從3月下旬至5月上旬一個(gè)多月的時(shí)間里，華東野戰(zhàn)軍主動(dòng)出擊，與敵進(jìn)行了幾次接觸和作戰(zhàn)，但除了4月下旬在泰安殲滅了敵第72師主力外，其余大量殲敵的計(jì)劃均未實(shí)現(xiàn)。
華東野戰(zhàn)軍司令員兼政治委員陳毅、副司令員粟裕于5月上旬調(diào)整部署，將主力東移，后撤一步;并以準(zhǔn)備南下華中的第2、第7縱隊(duì)隱蔽集結(jié)于莒縣地區(qū)，以進(jìn)入魯南的第6縱隊(duì)隱蔽在平邑附近地區(qū)，待機(jī)配合主力作戰(zhàn)。
華野主力東移后， 使蔣介石、陳誠產(chǎn)生了錯(cuò)誤判斷，誤認(rèn)為華野“攻勢疲憊”，可能繼續(xù)向東北方向的淄川、博山方向撤退。遂于5月10日命令各部兼程前進(jìn)，跟蹤追剿，以實(shí)現(xiàn)在魯中山區(qū)與華野主力決戰(zhàn)之目的。
顧祝同轉(zhuǎn)令3個(gè)兵團(tuán)放膽向博山、沂水一線疾進(jìn)。右翼第1兵團(tuán)改變原定的穩(wěn)扎穩(wěn)打戰(zhàn)法，不待第2、第3兵團(tuán)統(tǒng)行動(dòng)，即以整編第74師為骨干，在整編第25、第83師的配合下，于5月11日自垛莊、桃墟地區(qū)進(jìn)攻坦埠，企圖乘隙占領(lǐng)沂水至蒙陰公路;另以第7軍及整編第48、第65師在左右兩側(cè)擔(dān)任掩護(hù)。
5月11日晚，華東野戰(zhàn)軍收到了中央密電，立即呈送粟裕。 陳粟二人連夜召開了就近第1、第4、第8、第9縱隊(duì)及特種兵縱隊(duì)領(lǐng)導(dǎo)人作戰(zhàn)會(huì)議，12 日晨下達(dá)了以第1、第4、第6、第8、第9縱隊(duì)擔(dān)任割裂圍殲整74師的任務(wù)，以第2、第3、第7、第10縱隊(duì)擔(dān)任阻援任務(wù)的命令，并決定戰(zhàn)役于13黃昏發(fā)起。
5月11至13日，整編第74師在整編第83，第25師掩護(hù)下自垛莊北進(jìn)至黃鹿寨、舊寨、野豬旺等地，被第9縱隊(duì)擊退，隨后占領(lǐng)楊家寨、佛山角、馬牧池等地，準(zhǔn)備14日攻占坦埠（這就是通過趙繼統(tǒng)手送出的所謂‘誘敵’計(jì)劃，用王牌部隊(duì)整編74師冒進(jìn)為餌，實(shí)施‘中心開花’戰(zhàn)術(shù)）。
5月13日上午，敵3個(gè)師又發(fā)起攻擊，至下午4時(shí)懼殲后退至黃斗頂山、重山、馬牧池。當(dāng)晚，華東野戰(zhàn)軍第1、第8縱隊(duì)以一部兵力在整編第74師正面實(shí)旋阻擊，主力從其兩翼尋隙向縱深楔進(jìn)。
第1縱隊(duì)第3師攻占曹莊及其以北高地，逼近蒙陰，構(gòu)成對(duì)外正面阻擊整編第65師;縱隊(duì)主力攻占黃斗頂山、堯山、天馬山、界牌等要點(diǎn)，割斷了整編第74師與整編第25師的聯(lián)系，并殲整編第25師一部，該師大部縮回桃墟。
第8縱隊(duì)主力攻占桃花山、磊石山、鼻子山等要點(diǎn)，割斷了整編第74師與整編第83師的聯(lián)系;一部占領(lǐng)盂良崮東南的橫山老貓窩。同時(shí)，第4、第9縱隊(duì)從正面發(fā)起攻擊，占領(lǐng)黃鹿寨、佛山及馬牧池、隋家店一線，扼制了整編第74師的進(jìn)攻。
第6縱隊(duì)由銅石地區(qū)急速北上，于14日晨抵達(dá)垛莊西南觀上、白埠地區(qū)。13日晚，整編第74師前沿?fù)?jù)點(diǎn)遭到攻擊時(shí)，張靈甫電告委座“計(jì)劃實(shí)施順利，敵人已上鉤。”
5月14日10時(shí)，74師向盂良崮，垛莊方向撤退，并組織一部兵力進(jìn)行反擊。華東野戰(zhàn)軍發(fā)現(xiàn)整編第74師南撤，立即乘勝猛攻。擔(dān)任正面攻擊的第4、第9縱隊(duì)經(jīng)徹夜攻擊，進(jìn)占唐家峪子、趙家城子一線;第6縱隊(duì)在第1縱隊(duì)一部協(xié)同下，于15日拂曉攻占垛莊，截?cái)嗔苏幍?4師的退路;第8縱隊(duì)攻占萬泉山，同第1、第6縱隊(duì)打通了聯(lián)系，在蘆山、孟良崮地區(qū)形成了對(duì)整編第74帥的四面包圍。
整編第74師這么快被包圍，蔣介石、顧祝同雖感吃驚，但認(rèn)為74師所處地形有利，已控制制高點(diǎn)，必能堅(jiān)守，按照計(jì)劃左右鄰加速增援，可造成與華東野戰(zhàn)軍主力決戰(zhàn)的機(jī)會(huì)。
因此，除令整編第74師固守待援，牽制華東野戰(zhàn)軍主力外，嚴(yán)令新泰的整編第11師、蒙陰的整編第65師、桃墟的整編第25師、青鴕寺的整編第83師以及河陽、湯頭的第7軍、整編第48師等部迅速向整編第74師靠攏;并調(diào)第5軍自萊蕪南下，整編第20師自大汶口向蒙陰前進(jìn)，企圖用10個(gè)整編師的兵力在蒙陰、青駝寺地區(qū)殲滅華東野戰(zhàn)軍主力。
他在給徐州綏靖公署主任顧祝同的電報(bào)中談到“靈甫終于給我國軍尋找了一個(gè)殲滅共軍陳粟部于孟良崮的大好機(jī)會(huì)。因?yàn)槲?4師戰(zhàn)斗力強(qiáng)、裝備精良，且處于有利地形；再之，有恩伯、敬久、歐震三兄兵團(tuán)大軍云集，正是我國軍同陳粟決戰(zhàn)的好機(jī)會(huì)，現(xiàn)命令74師靈甫部堅(jiān)守陣地、吸引共軍主力，再調(diào)10個(gè)師之兵力增援74師，以圖里應(yīng)外合，中心開花，夾擊共軍，決戰(zhàn)一場，殲陳粟大部或一部之兵力，一舉改變?nèi)A東戰(zhàn)局···”