1946年，国民党挑起内战后，其徐州绥署主任薛岳指挥25个半旅和1个快速纵队分4路向苏北和鲁南解放区进攻，从北、西、南三面形成半包围状态。中共中央军委指示，合并解放军山东、华中两个野战军指挥部，陈毅为司令员兼政委。10月上旬，薛岳派马励武率国民党整编第26师和第1快速纵队战车营，自山东韩庄向峄县以西的解放军发起攻击，并占领枣庄。11月初，马励武率部进逼山东解放区的首府———鲁南重镇临沂。马励武虽有孤军突出之感，但自恃手中有第一快速纵队的坦克开路，天上有飞机掩护，仍然保持进攻态势，只是暂时就地筑工事防守，伺机继续向临沂方向进攻。

陈毅(坦克上中)等在缴获的坦克前和战士合影。

对于进攻之敌，中共中央军委指示：第一仗拟以打26师为宜。因该师系鲁南主力，该师被歼，全局好转。陈毅等在权衡了敌我力量和利害后，随即主持召集了师以上干部会议，传达了中共中央军委关于鲁南战役的指示，进行了具体的作战部署。

战役于1947年1月2日夜10时发起，由于行动突然，敌人在事前未能发觉，因而进展顺利。到4日晨，国民党第26师师部及两个旅的大部已被歼灭，其残部和第1快速纵队也被包围于陈家桥、作字沟等狭小地区。

第1快速纵队为美蒋合建，由美军装备训练、蒋介石的儿子蒋纬国苦心经营的“国军精华”，拥有坦克数十辆和汽车数百辆，而当时解放军华东部队中的绝大多数干部战士不仅没有打过坦克，而且也没有看见过坦克。在宿北战役之前的台峄线作战中陈毅便发现和敌人坦克交手的部队打坦克的办法少，有恐惧心理。战后，他亲自调查总结打坦克的经验，提出“反坦克最有效是破路，锯大树作障碍并利用爆炸。我手榴弹、地雷爆炸力小，山炮、迫击炮命中率不大，机关枪能穿甲者效力最好”。并掀起了反坦克与土工作业的热潮。

1月4日上午，天气由阴转雨，雨雪交加，寒风刺骨，道路泥泞，敌人的重装备几乎陷于瘫痪状态，解放军立即对“快纵”发起攻击。为了挽救失败，敌人在徐州派了飞机给予地面部队以支援，不过他所规定的空投联络信号和标志被陈毅指挥部的报话机收听到了，也照样布置了空投场，使敌人的很多物资被投送到了解放军手上。

“快纵”见空中和地面增援无望，于10时左右开始突围。陈毅、粟裕立即命令各部队乘机突击，将其80旅大部歼灭。未被歼灭的敌坦克、汽车、炮队和步兵混杂一起，向峄县方向夺路溃逃，但主要逃路和桥梁已被解放区军民破坏，埋了雷、挖了沟，加上洼地泥泞，车辆、火炮陷下不能动弹。解放军指战员不顾坦克、大炮和各种火器的拦阻射击，奋勇冲入敌阵，他们用秫秸、稻草烧坦克，甚至爬上坦克用铁锹、铁镐砸天线、砸折光镜；几个小时便把这支装甲部队歼灭。到下午3时，国民党整编26师和第1快速纵队几乎被全部消灭，只有7辆坦克逃跑。

战斗胜利结束后，陈毅立即赶赴现场察看。在一辆刚缴获的美制坦克车前，陈毅纵身登上坦克，在高高的炮塔顶上坐下，一脚踏着炮身，和同行人员合影留念，并乘兴赋诗一首：

快速纵队走如飞，印缅归来自鼓吹。鲁南泥泞行不得，坦克都成废铁堆?？焖僮荻咏褚砸?，二十六师汝何为。徐州薛岳掩面哭，南京蒋贼应泪垂。

9日晚，陈毅乘胜指挥部队向峄县县城发起攻击，激战至11日拂晓，歼整编第51师第114旅一部、整编第52师第98团及整编第26师后方机关、保安团队等共7000余人，俘获整编第26师师长马励武，缴获逃入峄县的7辆坦克。

此役历时19天，陈毅等指挥山东野战军和华东野战军共歼国民党军5.3万余人，缴获坦克24辆、各种火炮200余门、汽车474辆，首创华东战场人民解放军一次歼灭国民党军2个整编师(加1个快速纵队)的纪录。