黄维下令分散突围后，预定时间还没到，黄维胡琏就乘战车跑了
黄维兵团被包围在双堆集之后，一直和外面没有联系，只有顾祝同在被包围之初乘飞机来到双堆集上空，与黄维通话，要求黄维站稳脚跟，固守待援。一开始，黄维还想乘解放军未完成合围，想向东南方向的固镇方向迂回，和正在从蚌埠向北进攻的李延年、刘汝明兵团汇合，取得补给之后，再一起向北攻击，但国军统帅部拒绝了黄维的这个方案，并指出包围黄维的只是解放军的地方部队，数量不多，黄维应该继续坚决向东攻击，击破当面的解放军阻击部队，迅速到达徐州，以解黄百韬之围。
当时黄维兵团下辖十八军、第十军、十四军和八十五军，共四个军，其中第十八军是黄维兵团的骨干部队，下辖的整编十一师是国民党五大主力之一，也是陈诚的土木系的老部队，在陈诚担任参谋总长的时候，美国援助国民党军的装备，陈诚都尽量优先装备十八军，所以十八军的装备非常好，整编十一师也是国军在中原战场上的主力部队之一。第十军本来就是中央军，十四军原本不是中央军，但到淮海战役的时候已经基本上被改造成了中央军，只有八十五军是何应钦一系的部队，成分比较复杂，包含一些地方部队。
1948年十一月初，也就是淮海战役前夕，黄维兵团的驻地尚在河南驻马店附近集结。十一月五日，黄维兵团接到统帅部命令，并要求不得以任何借口迟延行动，向徐州进发。当时黄维兵团下属的八十五军尚未和兵团汇合，所以只有十八军、第十军和十四军三个军一起行动，而且路线也是统帅部指定的经正阳、新蔡、阜阳、蒙城、宿县，最后到达徐州，参加国军当时正在计划的徐蚌会战。十一月八日，黄维兵团开始行动，沿途经过浍河、淝河、汝河、洪河、颍河、涡河、北淝河等合流，所以进展很慢，到二十一日，才到达到达涡河附近，遭到解放军的阻击。
此时黄维兵团的任务仍然是迅速到达徐州，救援黄百韬兵团。但在十八日到达蒙城的时候，已经遇到解放军的阻击，有被包围的危险。黄维请示能否利用涡河掩护，向怀远方向转进，与铁路正面的友军建立联系，保证侧翼安全之后，再向宿县攻击，但国防部没有批准，仍然严令黄维继续攻击前进。而这时在浍河背水而阵，阻击黄维的正是解放军名将陈赓，也是黄维在黄埔军校第一期的同学。黄维奉命继续强度浍河，攻击解放军正面阵地，虽然渡过了浍河，但已经陷入了包围。
战斗进行到二十五日，已经陷入解放军包围圈，而且解放军不断向黄维兵团的阵地突击，再想正面击破解放军包围圈已经不可能了，于是黄维下令与解放军脱离接触，向固镇方向转移，已经渡过浍河北岸的十八军和第十军部队也撤回南岸，开始转移，仍在南岸的十四军和八十五军则担任掩护任务。到二十五日夜间，黄维兵团开始撤退，意图马上被解放军发现，随即展开追击。黄维原计划是兵团的四个军交替掩护，十八军和十四军第一天攻击，第十军和八十五军在后面掩护，第二天第十军和八十五军担任攻击，十八军和十四军担任掩护。但刚开始行动，就被解放军追击，包围在了双堆集，黄维只能固守待援。
此时国军的第一反应是由徐州的杜聿明集团向南攻击，李延年、刘汝明两个兵团向北攻击，南北对进，以解黄维之围。但到二十八日，国军统帅部就决定放弃徐州，徐州的三个兵团经萧县、永城、涡阳、阜阳撤退，到蚌埠集中后再向北进攻。杜聿明并明确提出，打就不能撤，撤就不能打。这就意味着，杜聿明集团实际上已经放弃了救援黄维，至少是要让黄维坚守到徐州的三个兵团安全撤退到阜阳之后，才有能力向北攻击。
而黄维在包围圈里并不知道这个消息，一直到杜聿明集团已经开始撤退的十二月一日，黄维才知道杜聿明集团已经放弃徐州，但他得到的消息是杜聿明集团要放弃徐州后南下与黄维兵团会和。这个消息一度让黄维兵团非常兴奋，觉得突围有望。但很快就得到国防部的通报，杜聿明集团也被包围在了陈官庄、青龙集一带，进退两难。本来不在前线的黄维兵团副司令官胡琏也在十二月一日乘飞机回到了包围圈中，并带来了统帅部“固守待援、死斗必生”的消息。但坚持到十二月十日左右，杜聿明集团也未能打过来，黄维开始准备突围。
按照当时的计划，空军要先空投大量凝固汽油弹和糜烂性瓦斯弹，也就是毒气弹，以掩护黄维兵团突围。但是到了十三、十四两天，黄维兵团的阵地不断被解放军突破，黄维和胡琏商量后认为，再坚持下去也没有希望了，与其坐以待毙，不如决心突围。下定决心之后，黄维报请国防部和空军，要求空军进行掩护，十五日开始突围。十五日上午九点多，空军副总司令王叔铭飞到双堆集上空，和黄维通话，表示不能按计划实施，黄维强硬表示：你不能按计划实施，我只好自己断然处置了。于是下令各军分散突围。
当时解放军已经将十四军和八十五军歼灭得差不多了，所剩不多，主要是第十军和十八军两个军分别突围，突围之后的第一集合地为蚌埠之南，第二集合地为滁县，并规定当天黄昏开始行动。突围命令下达后，各部队就开始争先恐后的逃命，有的部队开始提前突围。到黄昏时，战车营受到解放军炮击，不得不移动以躲避炮弹，其他部队以为已经开始突围，所以都开始乱跑，建制完全被打乱了，指挥官找不到士兵，士兵找不到指挥官。黄维和胡琏分乘两辆坦克突围，黄维所乘的坦克被卡在壕沟里不能动弹，做了俘虏，只有胡琏一路猛冲，突围而出，到了李延年兵团。
其中，第十军覃道善命令下属的三个师分为两部分，七十五师向双堆集正面突围，十八师和一一四师向东北方向突围。七十五师向东突围成功，师长王靖之逃脱了，十八师和一一四师两个师中，十八师在前面攻击，打开缺口后一一四师随后跟进，但十八师在师长尹俊率领下确实打开了一个缺口，突围出去了，当一一四师准备跟进的时候，缺口又被解放军堵住了，国军士兵突围无望，纷纷缴枪投降，覃道善和一一四师师长一同被俘。
十八军原本下辖三个师，但在被包围的时候，四十九师自己逃走了，所以只剩下了十一师和一一八师两个师。在决定突围之后，黄维、胡琏和吴绍周分乘一辆战车，由十一师提供掩护，黄维和胡琏亲自指挥，向西突围，一一八师则由十八军军长杨伯涛率领，向西北方向突围，兵团所属炮兵、工兵残余部队也随杨伯涛行动。黄维和胡琏所在的十一师先行行动之后，杨伯涛还不知道，一直等到黄昏，杨伯涛等得不耐烦了，才下令开始行动。但杨伯涛和师长尹钟岳事先选定的一个负责突围指挥的营长刚一开始攻击就被打死，部队全乱了，失去了指挥，杨伯涛和尹钟岳只好各率一部分乱兵，想跟着十一师突围。这时十一师也被打散了，杨伯涛本想渡河逃走，结果跳进河里发现冷水刺骨，又挣扎上岸，就被解放军俘虏了。