黄百韬兵团下属悍将拒绝撤退，理由是怕自己成了关羽
淮海战役第一阶段，也就是打黄百韬兵团的时候，六十四军军长刘镇湘一度非常嚣张。其他几个军军长商量说要不要突围的时候，刘镇华坚决反对。他认为要打就打，就在碾庄和解放军决战就行，何必走来走去，并且拿出自己的中将大礼服穿上，表示准备在这里战死。
黄百韬兵团刚开始撤退的时候，为了等从海州撤退的四十四军，耽误了两天时间，所以刚开始撤退，担任掩护的六十三军就被解放军追上并且很快包围了，之后华野一纵队赶到，继续围歼，其他部队则继续追击黄百韬兵团的其余部队。因为黄百韬耽误了两天时间，所以渡过运河之后，解放军在碾庄一带包围了黄百韬兵团。
到了运河边的时候，因为黄百韬事先没有在等待四十四军耽误的这两天时间里假设渡河的浮桥，所有官兵都只能从运河大铁桥上通过，加上跟随四十四军一起撤退的一辆十轮大卡车卡在了铁桥上，动弹不得，导致整个队伍堵在铁桥上无法前进，更加耽误了时间。
这时候，黄百韬没有办法，只能命令一百军强渡运河，他最信任的二十五军在后面掩护全兵团继续渡河，六十四军率先渡过运河占领阵地，充当整个兵团的前卫。很快解放军先头部队赶到，和黄百韬兵团交火，二十五军损失惨重，一百军也被歼灭了一个师。这样，等到渡河之后，还比较完整的就剩下六十四军了。所以，这时候刘镇湘反而成了整个兵团的核心主力部队，说话就比较硬气。
黄百韬的本意是继续撤退，一直撤退到离徐州更接近的大许家一带再依托徐州抵抗解放军，徐州城内的部队也好救援，但是因为在渡河之前，六十四军是全兵团的前卫，最先渡河抢占阵地的，所以这时候其它部队都没有既设阵地，所以认为应该继续撤，而刘镇湘则因为渡河早，已经构筑好了阵地，所以坚决主张就地抵抗，坚守待援。
其实刘镇湘还有两个理由是能够成立的。一方面，六十四军和六十三军一样，都是粤军部队，而六十三军被切断和兵团主力的联系之后，六十四军如果不救援，那就没有人能够去救援了，所以刘镇湘希望能够呼应六十三军。另一个理由则是，刘镇湘认为此前突围的部队都被围歼了，而坚守待援的部队多少还有些逃出生天的机会。
刘镇湘反对继续向徐州附近撤退还有一个原因是，按照事先兵团的命令，到达大许家一带之后，刘镇湘部的驻地是在附近的土山，而这个土山据说是三国时期曹操生擒关羽的那个地方，所以刘镇湘认为比较晦气，就坚持在碾庄一带就地坚守待援。
被包围之后，黄百韬就向徐州报告情况，请求刘峙派兵救援，刘峙马上派刚从商丘，砀山一带东撤而来的邱清泉兵团以及刚从徐州以东撤回来的李弥兵团，两个兵团沿陇海路两侧，平行攻击，向东救援黄百韬兵团。但黄百韬和邱清泉豫东战役后关系紧张，所以把希望主要寄托在李弥兵团身上。但因为徐州原来的卫戍部队冯治安部出现了何基沣、张克侠起义的事，所以刘峙将李弥的一个军留在徐州担任城防，等正在从宿州北上的孙元良兵团到来之后，才又归建。
邱清泉兵团一开始的攻击出工不出力，明明有五个军，却舍不得投入他最核心的骨干部队第五军，十二军是杂牌军，邱清泉不信任，七十四军又是整编七十四师被歼灭后重建的部队，战斗力差，所以只用七十军和七十二军两个军攻击，实际上是磨洋工。一直到过了两天统帅部着急了，严令邱清泉必须突破解放军的阻击阵地，邱清泉才派七十四军迂回潘塘镇，结果又和也想迂回攻击徐州机场的解放军遭遇，打了一阵后打不过去，双方都撤退了。
黄百韬看救援指望不上了，于是召集下属各军军长商量下一步的行动。除了已经被围歼的六十三军之外，二十五军军长陈士章，一百军军长周志道个四十四军军长王泽浚都同意赶紧突围，但是六十三军刘镇湘坚决反对，并且拿出了自己的将官大礼服穿上，以表示要死在这里也不肯突围。于是黄百韬又命令全兵团继续坚守待援。
按照邱清泉在豫东战役中得出的结论，解放军的持续攻击能力并不是很强，只能持续一个星期到十天左右，如果还不能攻破，而国军救援又比较积极，解放军就会放弃已经到了嘴边的肉，主动撤退。在豫东战役中，邱清泉就是这样救出了黄百韬。所以邱清泉在救援时并不算特别卖命，主要还是在等着解放军主动撤退。不过，这次邱清泉却算错了，因为这时候的华野是下决心要歼灭黄百韬兵团的，而在豫东战役围歼黄百韬兵团只是灵机一动，兵力不足，所以就主动放弃了。
黄百韬倒是真是一条好汉，整个兵团除了六十三军之外，剩余不到十万人，但是却坚守碾庄半个月，从十一月八日被包围，一直坚守到十一月二十二日才最后被歼灭。而且，打黄百韬兵团是整个淮海战役期间华野伤亡最高的，达到了惊人的2.8:1，而在歼灭杜聿明集团时，伤亡比是9.8:1。可见在黄百韬兵团被包围时，整个兵团的士气并不低落，战斗意志还是比较顽强的。
援军等不来，突围出不去，阵地日渐被解放军突破，黄百韬也逐渐绝望了，但他并没有自己逃走，反而告诉刘镇湘，说他年龄大了，就在这里为党国尽忠，刘镇湘还年轻，要突围出去。在最后时刻，事先并不高调的黄百韬真如他自己所说过的那样，自杀身亡，而当初叫嚣着要个碾庄阵地共存亡的刘镇湘反而被俘了，活得好好的，并没有自杀。