1947年1月，鲁南战役后，国民党还没有从苏中、宿北和鲁南战役的失败中警醒。
南京。陈诚在他的官邸经过一番深思熟虑之后，认为国军虽然在内战以来损失了近30万，但苏皖解放区被占领，而且这是富庶地区，是陈、粟的根据地。现陈、粟主力被挤进山东境内，这应当说是国军在战略上的“胜利”，因为30万与国军几百万部队相比，仅仅是个小小的数字。他为他的这个见地而有些沾沾自喜，便向蒋委员长呈报，“共军大势已去”，“国军部队虽略受损失，但就全盘战局而言，实属莫大之成功”。与此同时，他还推断，共军经过连续作战，伤亡损失一定重大，而且部队刚刚集中，有不少原来的地方武装，战斗力不会强。临沂是山东解放区首府，共军必竭力死守。蒋介石见到陈诚的呈报后，觉得有道理。于是，蒋介石、陈诚便制订了“鲁南会战计划”。至此，蒋介石还嫌不够，还派陈诚坐镇徐州。
完成了鲁南战役后的华中部队，转移到山东解放区首府临沂休整。此时，华东战场的作战中心由苏北转入山东。陈、粟首长分析了华东战场形势，为迎接敌人的大举进攻，首先按中央军委命令，对山东、华中两支部队进行合编，正式组成华东军区、华东野战军，建立中共华东野战军前敌委员会（简称华野前委）。新四军兼山东军区、华中军区、山东野战军、华中野战军番号同时撤销。
华东野战军由原山东野战军、华中野战军和山东军区主力部队组成。陈毅任司令员兼政治委员，粟裕任副司令员，谭震林任副政治委员，陈士榘任参谋长，唐亮任政治部主任，刘先胜、张元寿任副参谋长，钟期光任政治部副主任。陈毅同时担任中共华东野战军前委书记。华东野战军下辖第一、第二、第三、第四、第六、第七、第八、第九、第十纵队共九个纵队和特种兵纵队，后来又组建了第十一、第十二纵队。
第一纵队为原山东野战军的第一纵队：司令员兼政治委员叶飞，副司令员何克希，副政治委员谭启龙，参谋长张翼翔。第一、第二、第三旅依次改称第一、第二、第三师。原华中野战军第十三旅改称独立师，归第一纵队指挥。
第二纵队由原山东野战军第二纵队及华中野战军第九纵队三个团合编组成：司令员兼政治委员韦国清，副司令员张震，副政治委员康志强，参谋长詹化雨，政治部主任邓逸凡。第四旅改称第四师，第九纵队三个团组成第五师，第九旅改称第六师。
第三纵队由原山东野战军第八师和鲁南军区滨海警备旅合编组成：司令员何以祥，政治委员丁秋生，副司令员覃士冕，政治部主任刘春。第八师番号不变，滨海警备旅改称第九师。3月，把鲁南军区第十师调归第三纵队，改称第七师。
第四纵队为原华中野战军第一师：司令员陶勇，政治委员王集成，参谋长梅嘉生，政治部主任刘文学。第一、第二、第三旅依次改称第十、第十一、第十二师。
第六纵队为原华中野战军第六师：司令员王必成，政治委员江渭清，副司令员皮定均，副政治委员兼政治部主任陈时夫，参谋长杜屏。第十六、第十七、第十八旅依次改称第十六、第十七、第十八师。
第七纵队为原华中野战军第七师：司令员成钧，政治委员赵启民，副司令员林维先，参谋长胡定千，政治部主任黄火星。第十九旅改称第十九师。第五旅改称第二十师。3月，以第二十师第五十九团和鲁中军区独立第四、第六团合编组建第二十一师。
第八纵队由原鲁中军区第四、第九师和警备旅合编组成：司令员王建安，政治委员向明，副司令员孙继先，参谋长张仁初，政治部主任王一平。三个师旅依次改称第二十二、第二十三、第二十四师。
第九纵队由原胶东军区第五、第六师及警备第三旅合编组成：司令员许世友，政治委员林浩，参谋长聂凤智，政治部主任刘浩天。三个师旅依次改称第二十五、第二十六、第二十七师。
第十纵队由原渤海军区第七、第十一师合编组成：司令员宋时轮，政治委员景晓村，副政治委员刘培善，参谋长赵俊，政治部主任肖望东。第七师改称第二十八师，第十一师改称第二十九师。
第十一纵队为原华中野战军第七纵队：司令员管文蔚，政治委员姬鹏飞，副司令员兼参谋长胡炳云，政治部主任李干辉。辖第三十一、第三十二旅。
第十二纵队为原华中野战军第十纵队：司令员陈庆先，政治委员曹荻秋，副司令员覃健、常玉清，政治部主任孙克骥。辖第六、第十、第三十旅。
特种部队司令员陈锐霆，政治委员张藩，参谋长钟国楚，政治部主任刘述周，辖榴炮团、野炮团、骑兵团、工兵团和特科学校。
除第十一、第十二纵队在苏中、苏北坚持斗争外，其余纵队共27万人，均在山东解放区执行内线作战任务。
华东军区由原山东军区、华中军区合并组成。陈毅任司令员，饶漱石任政治委员，张云逸任副司令员，黎玉任副政治委员，陈士榘任参谋长，舒同任政治部主任，袁仲贤、周骏鸣任副参谋长，唐亮、张凯任政治部副主任。
华东军区辖鲁南、鲁中、胶东、渤海、苏中、苏北六个军区，加之华东军事政治大学和东江纵队、淮北支队、滨海军分区，共约30万人。
鲁南军区司令员张光中，政治委员傅秋涛，副司令员郭化若、万春圃，副政治委员张雨帆，参谋长赵一萍，政治部主任张雄。
鲁中军区司令员王建安，政治委员向明，副司令员邝任农、钱钧，副政治委员高克亭，副政治委员兼政治部主任李培南，参谋长张仁初。
胶东军区司令员许世友，政治委员林浩，副司令员王彬，副政治委员金明，政治部主任赖可可。
渤海军区司令员袁也烈，政治委员景晓村，副司令员宋时轮、廖容标、曾生，副政治委员王卓如，副政治委员兼政治部主任周贯五。
苏中军区由第十一纵队兼。
苏北军区由第十二纵队兼。
华东军政大学校长由张云逸兼任，副校长余立金、曾生，政治部主任欧阳平。
这次整编，统一了组织、编制、制度，调整充实了基层组织，进一步实现了组织指挥上的集中统一。但由于国民党军大规模进攻在即，整编任务未能全部完成，许多工作是在莱芜战役以后进行的。
在部队整编的同时，中共中央华东局和华东野战军在临沂附近召开了前委扩大会议，即鲁南会议。
饶漱石在会上传达了中共中央和毛泽东对当前形势和任务的指示，着重研究了加强部队建设和提高部队战斗力的问题。在会上，饶漱石作了《艰苦奋斗，迎接民主新高潮》的报告，陈毅作了《一面打仗一面建设》的报告。陈毅强调指出：“华东野战军是山东、华中部队的会合，是全解放区兵力最大最集中的地方，是解放区爱国自卫战争的主要战线之一，又是美蒋集中大军进攻的主攻方向。特别是今后山东地区将成为中国人民与美蒋恶势力的决战场所之一。因此，我们的任务很大，担子很重。”针对当时部队中存在的某些不良倾向，陈毅号召华东全军要树立整体观念，加强党的领导，加强政治工作，打破由于过去历史条件造成的山头主义、本位主义和游击主义；要加强群众观念和群众工作，遵守群众纪律，积极参加农村的土改运动；要“以战养战”“以战教战”，打一仗，进一步；加强军队内部及军政、军民团结，以争取伟大的胜利。
鲁南会议后，华东部队上上下下抓紧时间准备，迎接即将来临的大战。
1947年1月下旬，在华野指挥所，粟裕和华野的几个领导有些坐卧不安，他们一次次地围在一起分析研究着敌情。在粟裕脑中，中央军委的那封“争取在1个半月到2个月内再歼敌10个旅”的电报已经变成了一纸作战命令。他不断地考虑如何利用内线作战的有利条件，依托山东解放区，积极创造战机，打更大的歼灭战。
与此同时，国民党在徐州召开军事会议，制订了“鲁南会战”计划，集中近30万人由南北两线进攻山东解放区，企图在临沂附近或沂蒙山区同华东野战军主力决战，蒋介石派陈诚坐镇。南线由整编第十九军军长欧震指挥8个整编师（军）21个旅（师）为主要突击兵团，自台儿庄、新安镇、城头一线三路北犯临沂。北线由第二绥靖区副司令官李仙洲指挥3个整编师（军）共9个旅（师）为辅助突击兵团，自明水、周村、博山南下，乘虚直驱莱芜、新泰、蒙阴一线，企图捣毁解放军后方基地，配合南线聚歼华东野战军于临沂、蒙阴地区。另以8个整编师（军）担负陇海、津浦、胶济铁路沿线的守备任务。国民党军不但纠集了华东战场所有机动兵力，而且派出大批飞机配合作战。此外，还从冀南、豫北战场抽调4个整编师（军）集结于鲁西南地区，企图阻止晋冀鲁豫野战军东援和华东野战军西撤。
1月27日，一年前被迫起义并担任华中民主联军总司令的郝鹏举率所部叛变，捕杀我军联络干部朱克靖等7人。国民党军将其改编为第四十二集团军，置于海州以西的白塔埠、房山街地区，负责进犯临沂的侧翼掩护任务。
1月26日，华野领导经过反复研究，依据当前敌情，提出集中50个团的兵力，先打南线敌人右路的初步方案。
1月28日，中共中央军委电示陈毅、粟裕、谭震林：如果陈诚之进攻确将于2月上旬或中旬举行，我军拟以待其进攻再打为有利。31日又电示：蒋军日内即将进攻，似此甚有利于我军在野战中大量歼敌，我军方针拟宜诱敌深入。2月3日，又电示：敌发动进攻前，要抓紧时间休整部队，多一天好一天，休整即是胜利；敌发动进攻后，要诱敌深入，敌不动我不打，敌不进倒有利于我，不利于敌之地点我亦不打，要完全处于主动地位。歼敌时，要集中绝对优势兵力，先打弱者，后打强者。每次歼敌不要超过4个旅，最好是3个旅，一则保证速胜，二则手中留有未使用的大量兵力，可以接着打第二仗。中共中央华东局和华东军区亦下达了紧急动员令，要求解放区军民“一切为了战争，一切为了胜利”，全力以赴粉碎国民党进攻。
1月31日，南线国民党军分左、中、右三路开始北犯，妄图对我进行南北合击。
2月3日，华野拟订了在临沂及其以南地区作战的三个方案。如敌右路前进较快，则首先集中兵力歼灭整编第二十五师及整编第六十五师一部于郯城以东、东海（今海州）以西地区；若敌左路前进较快，则首先集中兵力歼灭整编第十一师于沂河以西的苍山地区；若敌左右两路均前进迟缓，而中路突出时，则首先集中兵力歼灭整编第七十四师于沂河、沭河之间，郯城以北地区。力争实现第一方案，即首先歼灭战斗力较弱且侧翼暴露之右路敌军。
依据第一方案，同日，华野三纵从正面对中路之敌进行了顽强的抗击，以诱敌左右两路突出冒进，然后寻机歼其右路，再逐个击破其他各路。但敌人并未中计，左右两路不仅不突出冒进，反而就地加紧构筑工事。而北线之敌李仙洲部则于当天分别由明水、博山向南进击，4日占领莱芜、颜庄等地。
2月4日，中央军委电示：“敌愈深入愈好打，我愈打得迟愈好。只要你们不求急效，并准备于必要时放弃临沂，则此次我必能胜利。目前，敌人策略是诱我早日出击，将我扭打消耗后，再稳固地占领临沂。你们切不可上当。晋冀豫野战军正积极行动，对华东地区作战会起到良好的配合作用。”
军委的这一指示，给了陈毅和粟裕很大的启迪——敌逼我在临沂地区作战，我们必要时可放弃临沂，作战的回旋余地就大得多。
陈毅放下手中的烟，对粟裕说：“南线敌人重兵密集，战机难寻，而北线敌人孤军深入，威胁我后方。我们不如改变原定作战方针，置南线敌重兵集团于不顾，而以主力北上，以绝对优势兵力歼灭北线之敌。”
粟裕觉得陈毅的这一想法十分高明，于是，他对战场实际情况又作了进一步的分析。
粟裕认为，与南线敌军比较，北线敌军兵力少，战斗力也相对较弱，且孤军深入。李仙洲本人在军事指挥方面的能力不强，缺乏同华野作战的经验。华野如将主力隐蔽北上，可占据绝对优势，有把握将其歼灭。歼灭此敌，可解除敌对华野后方的威胁，打通渤海、胶东和鲁中的联系。如果华野能歼山东之敌三分之二，将便于华野今后集中更大的兵力南下出击，向津浦线和中原发展。
2月4日，粟裕将自己对战场进一步分析的情况向陈毅作了汇报，陈毅非常高兴。而后，陈毅将粟裕对战场把握的情况告诉谭震林，谭震林觉得这个想法很大胆，可行性很强。前委成员一致同意粟裕的想法。在酝酿北上歼李仙洲集团的同时，华野首长还力争在临沂附近歼南线之敌一部，以打击敌人的气焰，隐蔽我军北上作战的意图。为此，华野于2月5日向中央军委提出了三个作战方案：第一，以第二纵队进攻白塔埠、驼峰镇地区的叛军郝鹏举部，并趁势威胁海州，诱敌东援或北进，相机予以歼灭；第二，如第二纵队行动未能吸引敌军东援或向临沂挺进，则除留一个纵队在临沂以南监视敌人外，主力集结于临沂以北休整，以待敌之北进，再选歼敌机会；第三，如南线之敌仍不北进，或北进后不便歼灭，则以一个纵队留在临沂地区伪装华野主力与其纠缠。主力则兼程北上，彻底解决北线之敌，进击胶济线，威胁济南，吸引南线之敌进至临沂以北山区或增援胶济线。而后华野再全力反击，视机各个歼灭南线之敌。
2月6日，中央军委和毛泽东即复电批准了华野的北上作战方案，指出：“完全同意来电第三方案，这可能使我完全处于主动地位，使蒋介石完全陷于被动。”一个深思熟虑的作战方案拉开了序幕。
2月6日24时，白塔埠、驼峰镇等阵地炮火连天，华野二纵发起了讨伐郝鹏举的战斗。
郝鹏举，曾任日伪淮海省省长。日本投降后，郝即投奔蒋介石，改换门庭，被国民党委任为新编第六路军总司令。1946年1月，郝迫于形势，率部起义，改编为华中民主联军，移驻山东解放区滨海地区。新四军为加强其内部政治思想建设，应邀派进去一批政工干部。1947年1月，国民党军以31万人马企图在鲁南临沂地区寻歼华野。郝鹏举见势重投国民党，被委任为第四十二集团军总司令及鲁南绥靖区司令官，所率4个师约万人，分驻在白塔埠、驼峰镇等地，充当国民党军“鲁南会战”的马前卒。
2月3日，二纵司令员兼政治委员韦国清接到讨郝命令，当晚即率部东进渡过沭河。5日进至白塔埠、驼峰镇地区。四师负责攻击马小埠子、东小埠子，经过5个小时的战斗，次日拂晓两处即被克，除少数敌人逃至白塔埠之外，大部守敌被歼。六师负责攻击蔷薇村，所属十八团向王小埠子发动攻击，连攻几次，未获成功。师长滕海清从俘虏口中得知，该镇有敌二师师部和一个团，随即增加兵力发动新的攻势，迫敌弃阵而逃。六师跟踪追击，歼灭逃敌。2月7日，四师、六师向白塔埠发动攻击，一举突入镇内，生擒被蒋介石委任为总司令不及十日的郝鹏举。
五师主攻驼峰镇。向驼峰发起攻击时，由于出击地点选择不当和火力不够集中，连攻几次均未奏效。师长姚运良组织部队总结经验教训，后集中3个团分三路同时发动进攻，迫敌弃镇南逃。讨郝战斗历时一天，歼敌集团军总部及二师、四师共5000余人。陈毅同志接到战报，欣然提笔写下了《示郝鹏举》一诗。诗曰：“教尔作人不作人，教尔不苟竟狗苟。而今俯首尔就擒，仍自教尔分人狗。”
也许是郝鹏举汉奸本性使然，此时他以为陈毅司令员还会仁慈地宽恕他，一再请求要见陈毅司令员。陈毅接见了他。他见到陈毅，连忙下跪，挥泪求饶，请求给他一条生路。陈毅义正词严，痛斥其叛逆行径，说道：“目前你既然到了此地，一切由人民处理……我立刻派人送你到后方去，听候发落好了。”郝鹏举瘫坐在地，俯首连说：“我对不起军长，请军长饶命……”
我军生擒郝逆，并有直取海州之势，但各路敌军置郝军于不顾，仍按原定计划向临沂齐头并进。陈毅、粟裕命令部队一面加强对北边李仙洲集团的侦察，一面加紧准备北上。
2月10日，华野下达了全军主力北上歼灭李仙洲集团的行军命令。
华东野战军参谋长陈士榘带领二纵、三纵留守南线，他命令各师团都以华野主力纵队番号相称。陈毅同志为动员解放区军民打赢这一战役，亲自写了《决胜之歌》。歌词是：同志们，战斗吧！自卫战争决胜的时刻到了，把华东变成蒋军的坟墓！让敌人的进攻，像沂蒙山的雪、沂河的水，迎风消解，化为尘土！让我们以空前的歼灭战，欢庆胜利的新春，向着即将诞生的新中国，红旗报捷，狂歌献舞！
陈参谋长命令部队将这首歌的词曲油印，发到前线的战壕里，故意让敌人发现。此外，他还不断组织部队和驻地老百姓大挖工事，大设鹿砦、路障，扬言誓死保卫临沂。
国民党军信以为真。华野主力部队已隐蔽北上数日。南线国民党军七十四、八十三师等还频频向坐镇徐州的陈诚报告：共军主力仍麇集在临沂周围，正在夜以继日地抢修工事。
与此同时，为延缓敌人向北推进，并使敌人更加相信华野部队的战场中心仍在南线，华野三纵司令员何以祥和政委丁秋生命令第七、八师迎击来敌。七师先在榆林、唐家桥正面阻击推进最快的敌七十四师，八师则于马头西北阻击沿沂河两岸北进之敌。随后，三纵和二纵一个师移至沂河、沭河之间实施阻击。2月12日，敌七十四师、八十三师等在十八辆坦克、四架飞机和大量火炮的掩护下，同时向李家庄、小哨、八里屯、七级山等村镇发起攻击。三纵和二纵一部顽强抗击，予敌以重大杀伤，随后稍向后撤。14日，蒋军气势汹汹地迫近临沂城，将部队做梯次展开，摆出一副决战架势。
陈士榘参谋长见滞敌前进的目的已经达到，遂令三纵等部不声不响地北撤，移至临沂以北高里地区待机。
2月15日，国民党军不攻而破临沂。他们以数万之众进入市区，却不见华野一兵一卒，也很少遇到临沂老百姓。尽管如此，南线蒋军仍将战功吹得震天响，他们说“在临沂围歼共军16个旅”，“共军伤亡惨重，不堪再战”。陈诚更是得意扬扬，说：“陈毅残部已无力与国军作战，欲与刘、邓部会合。国军正追剿中。山东之大局指日可定。”
为进一步迷惑敌人，华野指挥部专门派出一支部队日夜兼程赶至兖州，组织民兵在运河上架起一座又一座浮桥。此外，指挥部还派出另一支部队协助当地政府，在黄河各渡口上筹集大量船只。
鲁中军区第二军分区司令员封振武率领分区三个团沿着泰（安）、新（泰）公路，经徂徕山，昼夜不停地向泰安方向运动。途中，一些兄弟部队也按照野战军指挥部的命令向兖州佯动，并在运河上架桥，制造我军即将西渡黄河的假象以迷惑敌人，掩护华野主力隐蔽地向莱芜地区开进。
不久，陈毅突然派人把封振武找来，对他说：“现在情况很急，大部队走后，李仙洲指挥的四十六军（即整编第四十六师）可能乘机由莱芜南犯，占领新泰、蒙阴两县。现决定由你率分区三个团阻击敌四十六军，迟滞其行动，使他不能那样快地进占两县。你们能抗击5天到7天最好。”封振武想，二分区的三个团都是新建不久，装备也差，能抗击四十六军2.3万人一个星期吗？因而面有难色。陈毅看出了他的顾虑，便说：“当年诸葛亮大摆空城计，身边只有两个老兵和一个琴童，迷惑了握有重兵的司马懿。你现在有三个团的兵力，还不能同敌人周旋一番吗？你这个阻击战打得越好，越有利于我们大部队调整部署。”然后说，“详细情况请粟裕司令给你说吧！”
粟裕把封振武带到作战地图前，对封振武说：“这次给你的任务很艰巨，但也有许多有利条件，完成任务不成问题。首先，敌人这个部队同他的上级有矛盾，对南犯蒙阴不甚积极，正处在进退两难之际。另外，你们可以打出主力部队的番号，虚张声势，迷惑他们。陈军长不是教你唱空城计吗，就是要造成敌人的错觉。古时不是有个孙膑庞涓的故事吗，孙膑用每日减灶的办法诱庞涓上当，你这次不妨以增灶的办法，使敌人摸不清我们的虚实……”
随后，封振武即率领部队向西走，每经过村庄都特地多搭草铺，走时一个不拆。国民党军果然中计，陈诚据情判断我军向西走无疑，因而命令一度犹豫的第二绥靖区副司令官李仙洲放胆率部南进，实现南北夹击作战计划。
李仙洲，黄埔军校第一期学员。1932年7月，其奉命参加对鄂豫皖苏区的第四次“围剿”。1933年至1936年，李先后在江西、黄河西岸进逼红军。抗战爆发后，李仙洲率第二十一师开赴华北，在居庸关一带与优势装备的日本侵略军鏖战七昼夜，全师伤亡及失踪官兵达2000多名。
1946年，李仙洲转任徐州绥靖公署济南第二绥靖区副司令官，成了资历较浅的王耀武的副手，第二十八集团军番号也随之撤销。
此次，李仙洲任北线总指挥，他指挥霍守义的第十二军、韩练成的整编第四十六师、韩浚的第七十三军，自明水、淄川、博山南下策应，企图南北对进，夹击鲁中、鲁南解放区，迫使解放军在临沂地区展开决战。
华野部队接到北上命令后，立即迅速向各自的预定集结地域隐蔽开进。广大指战员不畏艰苦，克服和忍受各种困难，冒着雨雪严寒，夜行晓宿，行进在道路崎岖的鲁中地区。与此同时，山东省支前委员会和华野后勤部队，则进行着巨大的组织工作，依据华野作战方向的改变，重新调整和部署各项支前和战勤工作，使原先集中在临沂方向的民工支前大军迅速掉头随军北上。从临沂至莱芜地区的150多公里的北进途中，几十万支前民工队伍风餐露宿、跋山涉水，用肩挑、畜驮和推独轮小车，把近亿万斤的粮草、弹药及时地转运到北线。在敌军南下时，我军空舍清野，不给敌留下一粮一柴；到处布雷，频繁破路，陷敌于极大困境。
2月10日，陈毅和粟裕在指挥部商量作战方面的情况，忽然有哨兵来报，说在蒙阴前面抓到一个国民党姓李的“高级特务”。陈、粟吩咐赶快送进来。原来，那人竟是被派到敌整编第四十六师，去同该师师长韩练成联络的敌工科长杨斯德。
韩练成过去曾在中共南京办事处的安排下，见过董必武等人，同解放军早就有联系。解放军派杨斯德和刘贯一两人到韩部联络。这次是韩练成托杨斯德来通报情况的。杨斯德通报的情况是：李仙洲率第七十三军军部及第十五师位于颜庄，第一九三、第七十七师分别位于和庄和张店（今淄博市）；第十二军军部率两个师位于莱芜、口镇地区，其新三十六师归第七十三军指挥，位于蒙阴寨；第四十六师位于新泰及其周围。得到情报后，华野随即定下了先歼灭敌第七十三、第十二军，再解决第四十六师的战役决心。
敌人于2月15日进占临沂后，坐镇济南的第二绥靖区司令官王耀武从航空侦察中发现华东野战军有部队经费县向西北运动，遂对进占临沂的“捷报”产生怀疑，判断华野会放弃临沂掉头北上，赶紧在16日命令李仙洲集团急速回师，缩回莱芜、颜庄地区。但蒋介石、陈诚却相信了他们的部属所发来的“捷报”，又得到了我军在运河上架桥、有西渡迹象的情报，认为我军“东临大海、西际湖山、局促一隅，流窜非易”，“似将在东阿、范县间渡黄河”。因此严令李仙洲集团再度南进，确保新泰、莱芜，并派部队向蒙阴、大汶口侧击“陈匪”。同时，又令第十五师、第六十四师等部西进临城，沿津浦路北上兜堵“奸匪”。李仙洲部收缩后，华野坚持既定决心。17日，李仙洲部重占新泰、颜庄。
2月18日，华野对原定作战部署作了新的调整，进一步明确区分了各纵队的任务，以第一、第八纵队攻莱芜，第四纵队攻颜庄，第七纵队切断敌第四十六军与第七十三军的联系，第六纵队攻口镇，第九纵队控制博山以南。战役原定19日发起，因时间仓促，准备不周，决定延至20日。
王耀武查明了华野主力北移，准备攻歼新泰、莱芜的企图，令新泰、颜庄之敌星夜北撤，并令第七十三军之七十七师迅速自张店经博山南下归建。华野随即又对作战部署作了相应调整，决定由第八纵队主力与第九纵队一起，以伏击手段，首歼南下归建之敌七十七师于博山以南地区。战斗预计于20日15时发起，并定于当晚攻歼莱芜、颜庄之敌主力。
2月19日，华野八纵、九纵主力进至和庄，设伏部署刚刚就绪，敌七十七师就进至和庄。为防止颜庄敌四十六军向莱芜靠拢，华野遂改变原有计划，提前两小时向该路立足未稳之敌发起攻击。
九纵二十五师悄悄抢占和庄东北、西南一带高地，随后即以七十三团主攻和庄，以另两个团向和庄附近之敌发起攻击。八纵两个师向不动村发起攻击，鲁中军区警备第五团则在西北方向策应。战至当日18时，六十五团夺取燕子山，六十六团、六十九团相继夺取金山、凤凰山及其北侧据点，迫残敌缩至不动村镇内固守。2月21日，六十九团三营与六十八团一营乘胜向该镇发起总攻，经两个多小时的激战，将敌大部歼灭。
九纵两个团向收缩和庄周围之敌发起攻击，很快突入镇内。
由不动村、和庄夺路而逃至青石关的残敌，被守候在那里的鲁中军区警备五团全歼，敌师长田君健被击毙，敌七十七师覆没。
九纵离开胶东，首仗告捷，司令员许世友非常高兴。战斗还没有结束，许世友即打电话对华野参谋长陈士榘说：“前些日子要你尽快给我纵下达任务，怕肥肉被别的纵队抢走了，轮到我们只剩下些汤。可这次，七十七师这块肥肉却让我纵和八纵吃上了……”
吐丝口南距莱芜12公里，是由胶济路进入沂蒙山区的咽喉要地。该镇不大，镇内街道依山，民房交错，城墙坚固，建有六座城门，门楼上敌火力甚强。李仙洲集团军总部将它作为向南进攻的一个补给基地，囤有百吨弹药和数十万斤粮食。
六纵司令员王必成和政委江渭清进行精心研究，决定以十六师全部和十八师两个团担任主攻，用四面攻围战法夺取该镇。
2月20日19时39分，十六师各部向该镇发起攻击。四个团苦战一夜，只占领镇内一席之地。王必成厉声说道：“这个新编三十六师还真不熊，我叫他最多活不了三天！”说罢，他和副司令员皮定均率参谋人员进入镇内，勘察地形，了解敌情，对部署作了相应调整，然后再令部队发起新的攻势。
2月21日15时，进入镇内的四个团同时发动攻势，仍然难以突进。十七师则在镇北一举吃掉敌人一个团。后敌三十六师一零六团向南突围进入吐丝口镇，十七师两个团和纵队特务团迅速予以歼灭，毙伤和生俘敌1200余人。
2月22日17时，皮定均副司令员指挥五个团发起第三次总攻。
当晚，四纵赶到莱芜城郊，接管一纵二师阵地。此时，进抵莱芜近郊的华野部队，除一纵、四纵，还有七纵、八纵各一部。10万余人把龟缩在莱芜城内和东门外几个高地上的4万多蒋军围得严严实实。
锦阳关地处明水之南、莱芜之北，两侧山峰险峻、关口奇窄。2月20日20时，二十八师一部攻占该关。21日9时，二十八师一团与三团一营攻占锦阳关北面大寨山。随后，二十八师三团配合独立师在黑峪口、水淹洞，与敌九十六军暂十二师激战五个多小时，迫敌败走。
见此情景，十纵司令员宋时轮深有感触地说：“把我纵放在这里，真是英雄无用武之地。不过，这种情况也难以避免。打仗就像演戏一样，有的部队当主角，有的当配角，有的也就只能跑跑龙套罢了。”
一纵和八纵二十四师负责攻歼莱芜的李仙洲集团总部、七十三军军部及十五师。一纵于2月20日22时发起攻击。一师二团攻占城北四零零高地后，继而攻占矿山、马良庄。三师七团经三次强攻，突入小曹村；八团在城西南进攻曹家庄、马湾崖，歼敌还乡团一部。二师于21日凌晨攻占了城东的戴家花园、吴家花园。至此，一纵对莱芜已构成三面包围。
莱芜城内的国民党军面临危局，一筹莫展。李仙洲深知，不论做何种选择都难以摆脱挨打处境。2月21日晚，第二绥靖区司令官王耀武发来电报，要他们尽快“将在莱芜的部队全部撤至明水及其以南地区，集结待命”。李仙洲立即召集七十三军军长韩浚、四十六师师长韩练成、前方指挥所少将高参王为霖、第二绥靖区司令部第二处少将处长陶富业等会商，分析形势。李仙洲认为在共军重兵包围之下，突围不利，因而不同意撤退。但韩浚和韩练成等主张遵命后撤，他们认为如不撤退，败难辞咎，胜亦无功，况且城内粮食仅能维持三天，若不撤，从外面接济粮弹殊非易事。李仙洲便说：“既然诸位主张遵令撤退，我无异议。但是，既要撤退，宜早不宜迟，应立即开始行动。”第七十三军军长韩浚主张于22日凌晨开始撤退，整编第四十六师师长韩练成则说，该部驻城外，收拢部队需要时间，力主推迟一天。最后决定在23日撤离莱芜。
与此同时，王耀武派其副参谋长罗辛理携信飞去南京，当面向蒋介石报告此战况和突围计划。蒋介石深思半晌，说：“敌前撤退不利。既已下令北撤，应特别注意后尾及两侧的安全。”蒋介石说完后，带着不安的情绪匆忙给王耀武写了封信，信中言道：“罗副参谋长带来的信已收阅。敌前撤退，如部署不周密，掌握不确实，就会受挫折。应周密部署，并派强有力的部队做后尾及侧后的掩护。固守吐丝口的新编三十六师必须坚守原阵地，以此作为北撤部队的依托。我当严令王叔铭（时任国民党军空军副总司令）指挥空军集中力量轰炸扫射，竭力掩护部队转移，并祈上帝保佑我北撤部队的安全和胜利。”
野指获悉敌突围决心后，即下令阻击部队略向后缩，以诱敌出城。
陈毅又接见从敌整编第四十六师归来的刘贯一，将作战步骤告诉了他，要他在我军攻歼李总部时阻止韩去增援。为了求得此次战役的彻底胜利，陈毅要他和杨斯德继续留在韩部积极活动，动摇韩部军心，并要防备对方在紧急情况下可能翻脸而产生的危险。最后，陈毅深情地对刘贯一说：“我代表党中央和华东局，向你们两位同志表示党对你们的态度。党对同志们是非常爱护和关心的，为了完成这一光荣任务，需要你们两位同志去担当，你们两个人要留下来继续在那边同2.3万敌人斗争。”这使刘贯一十分激动，他说：“受党和上级耐心教育了好几年，我虽然水平不高，但是在任何情况下决不会向敌人屈服，请上级放心！杨科长的水平比我高得多，他也决不会向敌人低头，亦请首长放心！”
这时，莱芜城东北方向发生了战斗。作战室向陈毅报告，这天早晨，敌第七十七师由博山南下，午后到达莱芜城东北之和庄、不动地区。预伏在该地区南北一线山地的第八、第九两纵队主力立即发起突然攻击，战斗进展顺利。陈毅十分高兴，对粟裕说：“我们前后改变了七次作战方案，总算把李仙洲抓住了！”当晚10时30分，陈毅即下令全线发起进攻。
2月22日入夜，李仙洲受到华野各纵猛烈攻击，亲自登上南城墙指挥，命令城南守军撤至莱芜城外的汶河北岸及城东高地，引诱华野追击。当华野渡河追击时，他又命令城上城下部队合力反击。天亮前，华野暂时退回河南山地。在此期间，李仙洲得到报告：城外西北角最高山头已被共军攻占。这个制高点的丢失，不但使城内顿感威胁，而且将严重影响第二天的全军撤退。李即命令不惜任何代价，务要夺回该山头。经过反复猛烈地争夺，拂晓前将这个制高点重新占领。
2月23日晨6时，敌整编第四十六师师长韩练成神秘地失踪了（韩练成在中共联络人员帮助下，脱离该师，隐身于莱芜城内）。李仙洲感到事情有些蹊跷，即赶到部队集合场地，问该师军官：“你们师长哪里去了？”众答：“不知道。”于是，李立即派人到处去找，结果踪影全无。至8时许，第七十三军军长韩浚前来问李为什么还不出发。这时已延误了两个小时，几万人马不能再等，李仙洲这才满腹狐疑地下令各部开始行动。李仙洲部分两路向北齐头并进。10时许，先头部队在城北十余里的芹村、高家洼一带，遇到华野四纵和七纵的进攻。李仙洲对韩浚和整四十六师参谋长杨赞谟说：“当前共军约有五六个师，我军尚有六师之众，人数相当。而共军武器装备远逊于我军，且我军士气未衰，尚可一战。我军应乘北撤之机，将来犯共军全部歼灭，至少也要歼其大半！”韩、杨均表示同意。李具体计划是，令莱芜城北高地的后卫部队和吐丝口镇的新编第三十六师固守原阵地，东、西两路军增强左、右侧后卫兵力，向前来围攻的华东野战军施行全力反击。冲出重围后，再从东、西对华野部队实施反包围。同时令城北高地和吐丝口镇的部队分别从南、北两端出击，形成四面围歼的形势。李仙洲认为，这着“妙棋”如果实现，即使不能全歼解放军，也可“给以沉重的打击”。
但李仙洲万万没有想到的是，刚过12点钟，当其后续部队刚刚离开莱芜城和城北矿山阵地之后，华野四纵一个师和七纵一部即断了其后路。攻打吐丝口的六纵虽仍强攻不下，但坚决卡死了敌北撤的咽喉要道。与此同时，预伏在东西两翼的强大华野突击兵团，只等命令，立即出击。
13时整，红、蓝、白三色信号弹升上天空，华野部队以排山倒海之势，同时从东西两面发起大规模冲锋。一时间，枪炮声、飞机声、喊杀声混成一片。敌萧重光师和海兢强师首先被斩成几段，随后被一块块分割，最后被各个歼灭。萧重光和海兢强二人则被当场活捉。
国民党空军副总司令王叔铭（李仙洲黄埔军校一期同学、同乡），亲自率领几十架轰炸机、战斗机，飞临战场上空来帮助李仙洲逃跑。李仙洲眼看无力自保，急忙通过无线电话请求王叔铭“全力向共军轰炸、扫射，务期与地面部队协同作战”。尽管王叔铭下令向华野阵地猛轰，但已无法挽救败局。
面对如此严重的形势，国民党军队中那些高级将领和幕僚们争相逃命。李仙洲身边开始还有个七十三军军长韩浚，可在他腿部负伤之后，韩浚即不辞而别。李只好一个人挣扎着继续向北缓行，不久因头昏栽倒在沟里，被路过那里的华野八纵二十四师一个副教导员发现，当了华野的俘虏。
李仙洲被俘之后，不胜感慨地说：“早知道你们会找到我头上来，可他们一定要我来碰！”
李仙洲在莱芜战役中左腿受伤被俘。当时他想，作为蒋介石的嫡系将领反共多年，一旦落到共产党人手里，迟早会被杀掉。华野首长在那么多的俘虏中一时辨不出谁是李仙洲，后通过做一位小兵的工作才知道。于是，华野工作人员去找李仙洲，说有事同他谈。他一离开，立即有十几名人员跟着他，问他是不是李仙洲，他就是不说。后来，华野尽力给他治伤，着意照顾他的生活。华野首长让华东野战军特种兵纵队司令员、他的原部下陈锐霆去看他。陈锐霆问他可有什么不便，他说就是有点儿冷。陈锐霆当场脱下自己的毛衣给他穿上，他非常感动。与此同时，陈毅特别关照炊事员说：“李仙洲是山东人，爱吃水饺。”同时又交代，“他愿吃什么就做什么。”3月15日，陈毅亲自探视正在养伤的李仙洲，同他进行了亲切交谈。谈话间，陈毅拿了个小板凳，垫在他的伤腿下面，说：“受伤的腿需要垫高一些。”这使李仙洲深受感动。
李仙洲腿伤痊愈之后，即被转移到后方，在东北战犯管理所和北京功德林战犯管理所一面学习，一面劳动。
莱芜战役从2月20日发起，至23日结束，短短3个昼夜，华东野战军即以弃守临沂和伤亡8000人的代价，歼灭国民党正规军第二绥靖区前进指挥所、2个整编师（军）部及其所辖的6个旅（师）、第十二军新三十六师大部，毙伤俘国民党军官兵5.6万余人。其中俘获绥靖区副司令官1名、正副军长各1名、正副师（旅）长12名，击毙正副师（旅）长各1名。连同南线及胶济沿线作战，共歼国民党军达7万余人，缴获各种火炮350余门、汽车50余辆，击落飞机4架，控制了胶济路西段及其南北地区，使鲁中、渤海、胶东、滨海等区连成一片，巩固了后方基地。24日，中共中央军委致电祝贺莱芜大捷。
莱芜战役的胜利，使蒋介石南北会师、侵吞整个山东的“鲁南会战”计划成为一场梦。蒋介石在政治上与军事上遭到一次又一次沉重的打击，进一步加深了国民党内部的混乱和高级将领间的矛盾，徐州绥靖公署主任薛岳因此被撤职。此后一个多月，国民党军未敢再组织进攻。第二绥靖区司令官王耀武在给整编第八十三师师长李天霞的信中痛心疾首地悲叹：“莱芜战役损失惨重，百年教训，刻骨铭心！”