1954年6月29日，汤恩伯在日本医院做手术时，因失血过多，死在手术台上。对于这个昔日爱将之死，在台湾的蒋介石非常的冷淡，说：“死了也好。” 1949年1月，汤恩伯任京沪杭警备总司令，奉蒋介石之命凭借长江天险妄图固守京沪杭地区，当时国军精锐大部都被解放军歼灭，残留的蒋介石嫡系就剩下胡宗南、汤恩伯这两个大的集团。 华中“剿总”的白崇禧集团虽然也有实力，但是蒋介石已经指挥不动了，在淮海战役中，蒋介石想要调华中的国军去救援被解放军包围在陈官庄的杜聿明集团，但是白崇禧不仅不让桂系部队去，连在华中的蒋的嫡系部队宋希濂兵团要去，也被白阻止。 在解放军席卷东南和西南的时候，蒋介石所主要依靠的就是汤恩伯和胡宗南，但是，耐人寻味的是，汤、胡都是损兵折将，但是到了台湾后，胡宗南虽然受到不少攻击，蒋介石还是给了他一些职务，胡宗南在1962年2月14日病死后，蒋介石亲自参加祭奠，发表纪念讲话，并颁发“褒扬令”，可以说死后是极尽哀荣的。 对于汤恩伯，蒋介石则是另外一副面孔了。汤恩伯1950年到台湾后，所有职务全部免除，给了一个战略顾问的闲职，他彻底赋闲在家。 汤恩伯死后，蒋介石也是不依不饶，在汤死后不久，蒋在一次会议上极尽挖苦地说：“汤同志（汤恩伯）之死距离他指挥的上海保卫战的时候，只有五年的光景。这五年时间，还不到两千天，照我个人看法，假使汤同志当时能在他指挥的上海保卫战最后一个决战阶段，牺牲的话,那对他个人将是如何地悲壮。我想他弥留的时候,回忆前尘，内心之感慨、懊丧和抱恨终天的心情，一定是非常难过的,所以是值得我们检讨痛惜和警惕的。” 论损兵折将，胡宗南要比汤恩伯严重得多，胡宗南基本葬送了全部的部队，而汤恩伯好歹还从上海、东南等地撤逃了一些部队，那么为何蒋介石对汤恩伯如此愤恨呢？这和民国元老陈仪有莫大的关系。 汤恩伯原名汤克勤，他早年到日本士官学校留学的名额就是陈仪给争取的，费用也由陈仪资助。汤恩伯曾在陈仪的手下当过排长、少校参谋等职务。陈仪膝下无子女，汤恩伯的妻子王锦白是陈仪的义女，可以说汤恩伯能够发迹，陈仪的提携是很关键的。为了感激陈仪，汤改名“恩伯”，并拜陈仪为“义父”、“恩师”。 陈仪早年与蒋介石关系尚可，但后来由于政见不同而交恶。1948年8月，蒋介石委任陈仪为浙江省主席，陈仪以年迈精力不济为由相辞。后经汤恩伯数番苦劝，才勉强赴杭州就职。9月底，陈仪的旧部郑文蔚来往杭州，劝说陈仪脱离南京政府，迎接解放军渡江。 但是陈仪这个省主席，没有兵权，他能动用的就只有手中的几个保安团，他认为这点兵力弃暗投明，影响不大。因此，他想到了他的义子，时任京沪杭警备总司令的汤恩伯。1949年1月27日，陈仪特派外甥丁名楠带亲笔信赶赴上海，劝汤恩伯临阵起义。 汤恩伯看了信后，随即写了一封亲笔信让丁名楠带给陈仪。汤恩伯在信中说，不日将来杭州与陈共同谋划起义具体事宜。就在陈仪翘望汤赴杭之时，汤恩伯却已密告蒋介石。据汤恩伯后来讲，他曾向蒋介石提出条件，不能处死陈仪，蒋介石是答应了的。 蒋介石得悉后，立即密令保密局局长毛人凤将陈仪抓捕并将其押到台湾。蒋介石派林蔚劝陈仪认错，写一个悔过书，但陈仪拒绝了，说：“我有何错？我无错可认，他不高兴，可以杀我。” 陈仪被抓后，汤恩伯便背上了骂名，他的同僚们也大都心中对汤恩伯的行为所不齿，汤恩伯顿时成了“受气包”不受同僚的待见。 汤恩伯为了营救陈仪，前往台北去见蒋介石，但遭到拒见。焦急的汤恩伯四处求人，但因陈仪是蒋介石铁了心要处决的人，无人敢去触霉头。 为救陈仪，汤恩伯又去找张群，让张群求情。蒋介石得知后，怒气冲冲地说：“陈仪之罪，他汤恩伯心里不清楚吗?这事任何人求情都不行！汤恩伯堕落了，他要为陈仪说话，我不见他！” 在此情况下，汤恩伯把最后的希望寄托在毛人凤身上，让他说一说好话。毛人凤对汤恩伯说：“我一定竭尽全力为你办好这件事。” “笑面虎”毛人凤在汤恩伯走后，马上去见蒋介石，力主杀了陈仪。本来蒋介石准备让汤恩伯主持对陈仪的行刑，但汤恩伯坚决不干。 1950年6月18日，陈仪在台北马场町被枪决，由陈仪的妹夫、“国防部”政务次长袁守谦等人监督执行。 陈仪死后，汤恩伯为了消除、减轻“卖师求荣”的印象，他在寓所内设置灵堂，每天焚香跪拜，反复唠叨说：“我虽不杀伯仁，伯仁却由我而死。” 心中有愧的汤恩伯，私下花钱请人代笔，为陈仪著书立传，但就在这本约40万字的书稿快完成时候，被情报人员报告给了蒋介石，蒋大怒，让抄缴书稿，并令汤恩伯反省。 陈仪之死让汤恩伯在人生的最后几年众叛亲离，他的妻子王竟白带着三女一子前往美国定居，与汤恩伯彻底决裂，汤恩伯的同僚也对其颇有微词。汤恩伯的“卖师求荣”也未能获取蒋介石的信任，反而让他备受猜忌，从此不再受重用。
