1989年黄维临行前夜突然离世，外界流传两种说法，家属回应均为虚假消息
1980年初春，北京西城，全国政协的一间资料室灯光彻夜不熄。六十六岁的黄维伏在案前，摊开军委旧档与南京方面的电令，一笔一画核对战役名称。他抬头对身边的年轻整理员说：“写‘淮海战役’可以，但请在括号里加上‘又称徐蚌会战’，这是一条命令，也是对历史的交代。”那位青年愣了一下，只答了声“明白”，连夜改稿。
要理解这份执拗，目光得拉回1948年。那一年的冬季，黄维率第12兵团自安徽蒙城南下，遭华野诸军合围，在陈官庄被俘。12万将士覆没，使他从国民党最年轻的兵团司令瞬间跌入战俘行列。1959年起，他随同批战犯进入北京功德林接受政策感化，十六年的规训和学习，为1975年的特赦埋下伏笔。

那一年，新中国宣布最后一次战犯特赦。黄维被点名列入首批名单，离开管理所时，他写下一封字句简短的信，请工作人员转呈中央。几日后，毛泽东批示“可供县团级以上同志传阅”，表示“改造值得肯定”。此后，黄维被安排为全国政协文史资料委员会专员，月薪200元，负责整理国民党档案。
家事却没这般顺畅。夫人蔡若曙随他由上海迁至北京，常年忧惧与病痛消磨了她的意志。一次深夜，她写下诀别字条后纵身坠楼。消息传来，黄维沉默良久，只嘱子女“照顾好自己”，便再次回到办公桌前。外人难以想象，这位曾经的“钢军司令”在丧偶之痛中，仍以整理旧档为生。
夹杂私情和公事的工作常常考验他。邓演达遇害一案，旧传“陈诚告密”，黄维认定与事实不符。他用半年翻检北平、南京、广州三地卷宗，提出“实由军统密报”之说，最终获采纳。有人揶揄他替昔日同僚洗冤，他只淡淡一句：“史实是铁，不容打磨。”这股轴劲儿，让文史馆里的年轻人私下称他“活档案”。

两岸气氛自80年代中后期起悄然松动。作为黄埔五期教官，黄维接连收到同学会的聚会函、电邀。1986年，他曾收到台湾方面递来的“补发二十年军职薪酬”提议，汇率折算相当可观。他却回电谢绝：“已得新生，岂可再领旧薪。”这种态度，在当时的圈子里颇为少见。
1989年春节后，民间渠道终于促成一次访问台湾的计划。黄维将自己、几位昔日部属以及两名学界同人的姓名列入赴台团名单，行程定在3月21日。1月，他先赴香港，与几位黄埔旧友小聚，商量统一能走的民间路。席间，有人打趣：“老黄，你可要保重身子，别真成了‘秘密武器’。”黄维笑而不语，只端杯示意。

返回北京后，他连日奔波于办证、体检、写备忘。医生提醒心脏负荷过重，他依旧每天骑车往返资料馆。3月19日晚，他整理出一摞新修订的《徐蚌会战述评稿》，对秘书说：“明天再核一遍，就可以带去给那边的老兄弟看看。”凌晨两点，突发心肌梗死，被紧急送往阜外医院。3月20日清晨，心脏停止跳动，终年七十五岁。
次日清晨，首都机场贵宾通道的送行席取消。外界很快有了猜测：暗杀、阻止访台、旧部复仇……流言四起。女儿黄慧南在追悼会后对前来探询的记者平静答道：“父亲这些年体弱多病，是突发心梗，无他因。”一句话止息了众口，也映照出长期关注政治阴谋的敏感心理。

黄维留下的，不止一纸未成行的访台名单。更长远的，是他历年审订的两百余万字国民党军政档案，为后世研究近现代军事与党政史留下不可替代的坐标。学界公认，他的笔记里，既见到对老上级蒋、陈的怀念，也看得到对新中国政策的认同。这样复杂而真实的心路，使他成为理解那一代国民党将领命运转折的窗口。
人们常说，历史是胜利者的叙事。但在一摞摞发黄的文件之间，曾经的败军之将用四分之一生涯证明：只要把自己摆进档案，后人总能从中读到完整的时代。