1929年1月10日夜，杨宇霆与常荫槐去见张学良时，被卫兵枪杀于“老虎厅”。蒋介石的“文胆”陈布雷得知后，非常惊讶，说：“杨宇霆精干有才能，也绝非亲日派，竟然突兀被杀。” 1928年6月4日，张作霖在皇姑屯被炸身亡，年仅27岁的张学良主政东北。当时很多奉系的军政要人虽表面上拥戴张学良，而实际持观望态度，一些元老甚至居功自傲，不把张学良放在眼里，其中尤以杨宇霆为最。 张作霖在世时，视杨宇霆为左右手，关系极为密切。杨宇霆协助张作霖办成了几件大事：一是建立了东北海军；二是制定田赋制度，从军阀、地主手中挖出大量未开垦的荒地，让东北农民耕种；三是修筑战备公路，当时东北的南满铁路权属归日本所有，修战备公路，可以使交通运输不受日方的挟制，一旦开战，可以用公路与日军周旋；四是督办奉天兵工厂，自制武器弹药装备部队。 此外，杨宇霆还在日方向张作霖提出要在东北实行“杂居”时，认为万万不可答应，力劝张作霖不要答应，经过数度交锋，日方深感杨宇霆“不易对付”，是个棘手的对手。杨宇霆为人孤傲，性格上有很多缺点，但是在大义上还是有可取之处，尽管他毕业于日本陆军士官学校，但绝非亲日派。 张作霖死后，杨宇霆飞扬跋扈，对张学良动辄予以训斥。每当张学良有事向杨宇霆询问，或提出一些主张时，杨宇霆常对他说：“你不懂，别瞎掺和，我会做决定。” 有一次，某官员求见张学良不得，只好找到杨宇霆。杨宇霆大怒说：“汉卿子承父业，如此不理事务。”随后，杨宇霆便带着那位官员来到帅府，问卫兵：“汉卿何在？” 卫兵说：“尚未起床。” 杨宇霆怒气冲冲直接来到张学良的卧室外，大声嚷道：“快起来，有公事办。” 张学良急忙披衣起床迎出，杨宇霆竟指着他的鼻子说：“老帅在世时，可不这样，你这个家伙，若是再这样下去，东北的事能干好吗？” 张学良忍无可忍，反驳说：“我干不了你干！” 据当年在帅府听差的赵吉春回忆：杨宇霆明里暗里没少攻击张学良，当着奉系元老的面，经常痛心疾首地说：“小六子难堪大任！” 当着张学良的面，杨宇霆又以长辈的口吻说：“汉卿！你给人的观感可不够好啊。”话语间总有“高高在上”的意思，这自然引起张学良的反感。 有一次，杨宇霆给父亲祝寿，张学良带着妻子于凤至前往，在杨公馆时，张学良受到冷遇，而当杨宇霆出来后，宾客都肃然起立。于凤至都非常不满，对张学良说："你哪里像东北的主人，杨宇霆眼睛里面还有你吗？" 杨宇霆遭至杀身之祸的直接导火索是：1929年1月10日，杨宇霆为支持好友常荫槐扩充实力，掌管东北铁路。当日下午五时许，杨宇霆和常荫槐一起携带事先拟好的文件到帅府，让张学良签字。 这个文件的内容是欲成立东北铁路督办总署，任命常荫槐为总署督办。因为事先，杨宇霆并未就此事与张学良沟通过，张学良没有一点思想准备。虽然张作霖过去也有成立一个铁路督办署的想法的，张学良对此也并非不赞同，但他却并不想把这块权力交给常荫槐。于是，张学良只能找一些表面的东西兜圈子，比如说成立督办总署涉及到铁路收回的问题，事关外交，须先进行交涉，然后再作研究决定。 杨宇霆、常荫槐则认为成立东北铁路督办总署势在必行，有这个机构，总比没有这个机构好。显然双方谁也不能说服谁，于是就起了争执。 争执了半个多小时，张学良借口马上到饭点了，让杨宇霆和常荫槐吃完饭再谈，杨宇霆和常荫槐不愿意在帅府吃饭，表示回去吃完饭后晚上过来谈。 在两人走后，张学良气愤异常，思考片刻后，用电话召来奉天警务处长的高纪毅，对他说：“杨宇霆、常荫槐两人欺我太甚，他们已回去吃饭，一会儿就会回来。我给你命令，立刻将他们二人处死，你带卫士去执行！” 高纪毅问：“在哪里执行？” 张学良说：“就在老虎厅。” 高纪毅领命后，选了六名卫士，由他和张学良的侍卫副官谭海率领，布置在老虎厅附近。二个多小时后，杨宇霆、常荫槐来到帅府，被请到老虎厅就座。两人刚坐下，高纪毅和谭海带着六个卫兵拿着手枪进入老虎厅，高纪毅对杨宇霆、常荫槐说：“奉长官命令，将二位处死，即刻执行。” 这个变故让杨宇霆、常荫槐毫无准备，两人顿时呆住了，连话也说不出来。六名卫士分为两组，杨宇霆、常荫槐分别被两名卫士按住，一名卫士对头部开枪。高纪毅、谭海在场监刑，几声枪响后，杨宇霆、常荫槐陈尸老虎厅。 第二天一大早，张学良发出通电，历数了杨宇霆、常荫槐二人的诸多罪状，如结党营私，任人唯亲，中饱私囊等等。 事后，张学良命人给杨、常两家各送去一万元的抚恤金，并亲自给在德国留学的杨宇霆的长子杨春元写去了一封慰问信，嘱咐他安心学习。 除了优抚家属之外，张学良还亲自为杨宇霆写了一副挽联：虽同西蜀偏安，总为幼常挥痛泪；凄绝东山零雨，终怜管叔误流言。 从张学良的挽联中，可以看出，他在杀掉杨宇霆后，很快就感到后悔了。但是，人的脑袋不是韭菜，割掉就没有了，有些事情当时做错了，后悔是毫无意义的。
