1949年12月13日，在解放军的追击中，黄杰兵团残部仓惶逃入越南境内。刚入越境，就见法国士兵子弹上膛，刺刀闪闪，如狼似虎地在公路边对着残军，还有数十门大炮已经撕下了炮衣。 从法军里传出话来：“为了双方安全，你方应将所有的枪支子弹、轻重武器及通讯器材等等都自动放在公路旁边，等你们到达目的地后再送还。” 残军明知放下武器是兵家所忌，但他们在法军威逼下，还是一律放下了自己的武器，连伙夫也将炊具丢在了路旁。天近黄昏时，残军艰难地抵达谅山郊区，由于法军不准入城，只好在距城约十公里的公路旁原地宿营。大家精疲力尽，又累又饿，互相背靠背在雨后湿泥地坐下休息。 黄杰兵团第十师的参谋徐晓东记起当年冯子才在谅山之战曾把法军打得大败，自己却屈膝法军，不禁潸然泪下。 第二天，法军要残军在公路上列队西进。不知到了什么地方，突然法军传令：“发现还有少数人的武器未交出，为了免除对我军的威胁，你们自动交出，否则我们要搜查。” 未等残军反应，两旁的法兵便凶神恶煞地动起手来，稍有反抗，就是一顿皮鞭毒打。法军哪里是在搜查武器，实际上是在搜劫钱财，凡金条银圆一律拿走，手表、金戒指都被扣下。徐晓东亲眼见师长张用斌的随从副官的数百银圆，陈副师长的20根金条（每根二两重），还有参谋长刘泽民的太太的两只金镯子，统统被法军搜劫走，徐晓东的手表及金笔、毛线衣亦被劫去。 此后，几乎天天搜，如同篦子刮了又刮。最令人痛恨的是法军还骗去了许多随军眷属，哄骗她们说：“你们走不动，我们用汽车把你们送到目的地。”其他部队与丈夫失散的太太们无人照料，有些上了圈套。后来少数受害者逃出，揭露了法军对她们发泄兽欲后再卖掉的罪行。 张用斌察觉法军行为不正，当晚即令全师随军妇女都集中师部，剪掉长发，着军服化装为军官混入师部人员之中，不准掉队、不准嬉笑，因此十师的妇女幸免遭辱。 大约经过十天的艰苦跋涉，忍饥挨饿，风餐露宿，才到达目的地。大家满以为是河内，谁知却是鸿基区辖地孟良。鸿基在越南的东北部，濒临北部湾，一面靠海，三面环山，是东西长约十公里，南北宽约三公里的一块狭长盆地。 第十师的残军都被关入了鸿基集中营，那里原已关有数千人，嘈杂不堪。法军首先要残军造两份官兵花名册，将官另造一份，因为将官们一律要离开部队，另行幽禁。张用斌让徐晓东不要告诉大家这里是集中营，以免引起官兵不安，并嘱徐晓东把他（张用斌）改名为张强，职务上是文书，其他将官和上校团长也都一一作了改动。 法军将押解来的人，不论男女老幼，亦或官兵，一律以100人归为一堆，用绳索围住，大小便就地解，不准越过绳索，违者鞭打；每人每天发给大米半斤，没有炊具和柴火，只得生嚼；加之当地气候恶劣，常常风雨交加，令人苦不堪言。 张用斌实在忍耐不住这种生活，趁黄昏时法军没注意，偷着跳出“划地为狱”的圈子。刚跑出不远，他突然发现一幢没有房顶的红砖水泥结构房屋，虽内外野草丛生，但门楼上约1米宽的雨棚尚可避风雨。于是，他不顾凶险跑回去，悄悄把张用斌接来，继而陈副师长、参谋长刘泽民、师部各科室办事人员等陆续都集拢来，这里就成为张用斌的指挥部。 一连十多天阴雨绵绵，人人相对无言，倍觉凄凉。令人感到意外的是天气变晴的那天，兵团司令黄杰忽然来了。他看到大家个个面黄肌瘦、愁病加身，不禁泪流满面。 大家看到黄杰由法军上尉率领20多个荷枪士兵监视，无人敢上前搭话，黄杰每到一处也只能招手致意而已。后来黄杰向法军多次交涉，才被获准召集连以上百余名军官讲话，但仍有法军上尉及翻译官在一旁监视。黄杰也无胆乱讲，无非是说了些“使大家吃尽苦，受了屈，深感内疚”等话。 经黄杰反复同法军协商，法军允许残军在鸿基范围内活动，可是在所有通道上都设有法军岗哨，仍不准离开鸿基。 活动范围大了，人们互相接触的机会也多了，上下级、同事、夫妻都开始自由结合，想方设法改善居住条件。有人找来残存的铁板、断铁轨，磨成刀斧砍树折枝、拔草割藤，备料盖棚子。在短时间内，大小茅棚鳞次栉比，解决了人们日晒雨淋之苦。吃的方面也有所改善，除每人每天供给半斤大米外，又补发给少量牛肉罐头。罐头盒子成了做饭烧水的家伙，罐头包装箱子则成了做桌椅的好材料。 生活条件有所改善，黄杰便着手整编队伍，黄杰所倚重的第十师只剩了一个完整的二十八团，其他均是各军师零散的残兵败将，而且官多兵少，整个鸿基集中营受编不过3000余普通士兵，军官竟然比士兵多。黄杰以二十八团为基础，收编各个军师散兵又扩充两个团，任张用斌为训练处长直辖这三个团；还成立了直属营、警卫营、卫生营、通讯营、工兵营、炮兵营、输送营；各部队编余的军官，成立了军官大队，属训练处管辖。 整编并非一帆风顺，不是黄杰兵团的官兵不愿受节制，发生过几次冲突，闹过事。由于张用斌早有预防，将二十八团调到司令部周围警戒，命警卫营加强防卫，加之黄杰亲自出面调解，风波才得以平息。
