蒋介石自1949年逃往台湾后，始终没有放弃“反攻大陆”的梦想。
然后相机行事，留越转台皆可自卫，未知兄意如何？”黄杰决定听陈诚的假道入越之策，再根据时局变化作打算，派人与法国驻印度支那高级专员比荣和驻越法军总司令班加吉中将洽谈假道之事。
12月12日，双方签订假道协定。法方同意黄杰率部由越南海防转运台湾，但要求他们：一、以500人为一队入越；二、缴械入境，武器暂由法军封存；三、由法方负责沿途安全警戒及提供食品。这样做的目的是防止国民党残兵扰民。黄杰全部答应，并保证官兵一定纪律严明，不扰法越民商。
然后，官兵和跟随而来的湖南等地的地方团队闲杂人员、警察、流亡学生和平民，在黄杰的带领下，经禄平、谅山长途步行，抵达法方指定地点——蒙阳。
可是，一到蒙阳，他们即被法军监管软禁，随身携带的财物全被抢走。之后，每人每天仅给四两米维持性命。
蒙阳是一座废弃的煤矿，三面环山，终日不见阳光，荆棘丛生，到处都是蚊、蝇、蛇、鼠。官兵们来到野山中，只好自己上山砍木斩草，搭建草棚，忙了大半个月，才搭起木寮，安顿下来，从此过着“牛马不如”的生活。
由于解放军在大西南胜利进军，国内其他国民党残军无处可逃，也纷纷从广西、云南逃入越南境内，随即被法军遣送到莱姆法郎和金兰湾。到1950年1月为止，退逃越南的国民党官兵达到33400人之多，被法方强迫在当地当苦役。
1950年3月，黄杰派人返回台湾，专门向蒋介石报告了自己和部队在越南的艰难处境。但是，台湾方面暂时没有解决的办法。
不久，国民党第26军残留滇东南“打游击”的第272师残部，经不住解放军的追剿，2000多人逃到中越边境，偷渡红河遭到越共游击队伏击，师长余启佑坠河淹死，残部1023人由师参谋长张亚龙率领，狼狈不堪地逃到越南西南部的富国岛。