黄维有个外号“书呆子”，做事认死理，做人不圆通，不懂得与时俱进，不拉帮结派结党营私，与同侪袍泽讲原则不讲人情，因而“得罪”了不少人，但也有很多人知道他的脾气秉性，遇到他来检查工作，只好自认倒霉。老蒋知人善用，并没有让这位抗战英雄继续带兵，而是把他放到了军事教育、检查军需等黑脸的岗位上，发挥他比较轴的书生意气。到了淮海战役时，老蒋实在没人了，又要让黄维上前线担任十二兵团司令，黄维推脱不开，跟老蒋争取：“打完这一仗，我还想回去教书。”老蒋答应了，命运没答应。黄维兵团被歼，黄维本人被捉，之后被送到了功德林战犯管理所，拒不接受思想改造，其实在关进功德林之前，他就在采访中记者问他为什么当时不投降时，留下了“著名”的一段话：“只有战死的烈士，没有苟且的将军！我为什么要投降?为了国家民族利益，我要战斗到一兵一卒！”
进了功德林之后，黄维脾气不改，别人读进步书籍，写读书改造心得，他在边上背诵于谦的《石灰吟》；别人交代罪行，他一个字不写一句话不说；别人骂老蒋，他不给一句恶评。分析黄维的心理，他根本看不起旁边这些明哲保身的人，甚至是痛恨那些他当年就十分抵制并得罪过的做事圆通、及时改头换面的人，潜意识里，他认为假如国民党内都是他自己这样的人，就不会落个现在的下场。而现在，自己这样“正直、廉洁、有理想有原则”的人需要交代罪行，当年那些看开形势改头换面的人居然高居庙堂之上，命运如此吊诡，自然心绪难平。但黄维面对关押过他的抚顺管理所金所长（后任）却感情深厚，金是红军小战士出身，却赢得了黄维的内心尊重。1959年第一批特赦战犯时，上级本来都通知了他的妻子做好准备，岂料当时的管理所坚决不从，把他挽留了下来，害的他妻子精神方面经受了极大的打击。 黄维从第一批考虑被特赦的对象又等待了16年，等到1975年最后一批战犯特赦，终于被释放，他在管理所最后的岁月，把精力都投在了发明“永动机”上，他试图用这种方式，完成他对于”利国利民”的最后诠释，被关到最后一天也没有在政治上服软。
刚回家一年，妻子就因为精神问题自杀，他伤心之余，却像过着“里面”一样的生活——仍然在研究他的“永动机”。回到社会之后，他先后担任全国政协文史专员，第五、六届全国政协常委，黄埔同学会理事，这些头衔使得他有机会见到他的“仇人”郭汝瑰和廖运周。郭汝瑰，前国民党国防部作战厅厅长，当年就是他把淮海战役有关的机密情报转交给了对方，才使得国民党在淮海的调动无秘密可言。廖运周是淮海战役中黄维手下的一个师长，在被包围的关键时刻，假装突围，实则率部起义，断送了黄维突破的最佳时机。
据说只要在各种工作场合每每见到此二人，黄维必定“怒目而视”，早晚等对方把目光躲回去，他才得胜收工，又有名句：“你们可以付之一笑，我笑不出来！”海峡对岸曾给他传话，要补发给他几十年的中将工资，让他先去第三地暂住（当时未开通直航），他又犯轴：“这边对我挺好！也没杀我，家人没受我连累，孩子也受到教育”，没去。1989年，两岸开放探亲，黄维准备去对岸看看，临行之前，因心脏病突发死于北京。“为人耿直，尊重感情，个性刚强，生活俭朴，为人称道”——这是全国政协对晚年黄维的评价。
黄维的女儿回忆：被俘虏那年，黄维只有44岁。他与杜聿明、宋希濂等人一起被关在北京功德林监狱里。初到功德林时，抵触情绪很大，处处与管教人员对立，还吟诵于谦的《石灰吟》“自勉”，不少战犯后来的回忆录里对此都有描述，说他即便到了战犯管理所里也一直挺着腰杆走路，不失“将军”的威风；他甚至还留起了胡子，自称“在国民党时期留的胡须，不能在共产党的监狱里剃掉”。当时监狱规定，每个战犯读被指定的书后，要结合自己的罪行谈读书体会。杜聿明读了《论持久战》后写了万余字的读书笔记，并要求将自己的读后感寄给蒋介石。有的战犯在谈体会时，发言长达2个多小时。但是黄维不讲话也不表态。与宋希濂、杜聿明这些积极改造的战犯相比，他成了“抗拒改造”、“最顽固不化”的典型。
有一部描写战犯改造的电影里也有这样一个镜头：在一次学习中，其他战犯都在积极揭露蒋介石的罪行，黄维不仅不揭发，反而发表攻击诽谤毛主席的言论，学习组组长董益三等便动手打了他，黄维也不肯示弱，结果双方打成一团。特赦出来后，董益三和黄家就住在一个楼，后来在政协工作，黄维和他还经常坐一辆车回来，但黄维从来也没有跟她提过这件事，女儿想即便是真的，在那个特殊年代里发生的事情，黄维后来也不会再放在心上。不过，现在想起来比较有意思的是，一方面，黄维是“顽固不化”的典型代表，另一方面，也正因为如此，政府也煞费苦心、不惜任何代价要将他改造过来。
