“汤恩伯屡战屡败，你让他从金门回来吧。”1949年，蒋介石对于汤恩伯的表现很失望，便招他回来，可当陈诚询问蒋介石：“汤恩伯回来之后，怎么安排？”时，蒋介石却陷入了沉默，陈诚明白，汤恩伯已经被放弃了！
1949年5月，汤恩伯奉命死守上海。当时他手头有几十万大军，装备也算精良。蒋介石对他的期望很高，希望他能依托长江天险和上海的坚固工事，至少撑上几个月，好为国民党转移物资和黄金争取时间。
结果事与愿违，汤恩伯的防线如同纸糊的一般，仅仅扛了十几天，上海就宣告易手。更让国军内部寒心的是，汤恩伯在下令撤退时，私心极重。1949年7月2日，陈诚奉蒋介石之命，在台北的一所宾馆里召开了一场“上海防卫战失败检讨会”。这场会议，名义上是总结教训，实则就是一场针对汤恩伯的“批判大会”。
会上，原第37军军长罗泽闿眼含热泪，当众发难。他控诉汤恩伯在上海战役最后关头，给其他嫡系部队下达了撤退命令，唯独把驻扎在浦东、条件最差的37军蒙在鼓里。这种做法导致37军在毫无准备的情况下全军覆没，罗泽闿本人还是靠着化装成平民才死里逃生捡回一条命。
面对同僚的口诛笔伐，坐在台下的汤恩伯只能一直低头不语。散会后，他还私下大发牢骚，抱怨大陆打了那么多败仗都没开检讨会，偏偏拿他的上海战役开刀。其实他心里比谁都清楚，这场专门为他准备的会议，等同于蒋介石借陈诚之手，剥夺他军权的最后通牒。
打仗不行，如果人品过硬，或许还能在老头子那里混个好印象。可汤恩伯偏偏在做人上，也触碰了底线。这就不得不提那件让整个国民党高层都感到齿冷的“出卖恩师”事件。

汤恩伯能够发迹，全靠浙江省政府主席陈仪的提携。当年汤恩伯连去日本留学的路费都凑不齐，全仗着陈仪慷慨解囊，毫无保留地资助他读书，还将名额给了他。为了报恩，原名“汤克勤”的他，特意改名为“恩伯”，甚至拜陈仪为义父。这种恩情，重如泰山。
1949年初，陈仪看清了国民党败局已定，派人密劝汤恩伯一起起义。按照常理，哪怕汤恩伯不愿意跟着走，大可以婉言拒绝，或者念及旧情放陈仪一马。偏偏汤恩伯为了向蒋介石表忠心，反手就把陈仪的密信交了上去。这直接导致陈仪被捕，并押送到了台湾。
蒋介石起初嘉奖了汤恩伯的“大义灭亲”，但骨子里对这种卖师求荣的行为极为警惕。到了1950年，蒋介石决定处决陈仪。为了检验汤恩伯的忠诚度，蒋介石下令让汤恩伯亲自处决陈仪。这一下汤恩伯慌了，他苦苦哀求，坚决不干，甚至托张群等人向蒋介石求情。
蒋介石听闻后勃然大怒，斥责道：“陈仪犯那么大的罪，他汤恩伯心里不清楚吗？任何人求情都不行！他活堕落了！”在这位最高裁决者眼中，既然选择了背叛恩师来投诚，理应做戏做全套。事到临头又退缩，恰恰暴露了此人既无情义，又没胆量。最终，陈仪死于马场町刑场，汤恩伯也在蒋介石心中彻底失去了最后一点信任。
没了兵权，失了圣意，汤恩伯在台湾的日子可谓如坐针毡。后来他被挂上了一个“战略顾问”的虚衔，实际上沦为一个领闲职的边缘人。每天看着同僚们的冷眼，他心里盘算起了另一条退路——逃往日本。
早在中国大陆彻底易手之前的1949年5月，汤恩伯就偷偷留了一手。他利用职权，令亲信秘密将50万美元的军费汇到了美国，随后转给日本的王文成、龙佐良。这两人用这笔巨款，在日本为汤恩伯寻找退路置办豪宅。
天下没有不透风的墙。这笔“买房款”的风声最终还是传到了蒋介石的耳朵里。前方将士在浴血拼杀，高级将领却挪用军费在国外置办房产，这让蒋介石雷霆大怒。据说，当时汤恩伯声称要执行“特殊任务”未办签证就登上了飞往日本的飞机。蒋介石判定他要逃跑，直接下令军警强行冲上飞机，硬生生把汤恩伯从机舱里给拉了下来。
经此一役，汤恩伯的政治生命彻底画上了句号。他被软禁在台湾，郁郁不得志，身体状况也急转直下。因为长期的精神压抑，他患上了严重的胃病，后来被确诊为十二指肠肿瘤。
直到1954年，由于病情实在无法控制，在家人多次打报告后，蒋介石才勉强同意放他去日本东京做手术。那年5月，汤恩伯在极度虚弱中飞抵日本，住进了庆应大学医院。遗憾的是，在一个月后的手术台上，年仅54岁的汤恩伯没能挺过来，死在了异国他乡。
消息传回台湾，国民党高层反应极度冷淡。蒋介石在公开场合毫不避讳地表示：“他死了也好。”在蒋介石看来，汤恩伯要是死在上海防卫战，或者是死在金门，尚能算个烈士，最后死在日本，只能说是一种莫大的讽刺与悲哀。