1931年春，蒋介石邀请吴佩孚到南京会晤，这引起了吴佩孚的惊恐，去的话大概率会遭到软禁，不去的话接下来恐怕就要遭到强硬的手段。后来，张学良释放善意，吴佩孚考虑再三后，去了北平。 1927年，失去地盘和军队的直系军阀首脑吴佩孚，前往四川去了杨森的地盘。吴佩孚打算依托杨森的支持，东山再起，他在居所挂起了“孚威上将军”的旗号，搭起了大帅行辕的架子，试图成立所谓的“川、滇、黔、湘、陕五省联军”。 第二次直奉大战，吴佩孚兵败后，经过大半年筹划，在湖北东山再起，就任14省联军总司令，这次他筹建五省联军，也是想仿照前例，重整旗鼓。 在吴佩孚到四川之初，四川军阀对他都很客气，不断地派人送钱送物，但一旦他拉起大旗，想以四川为基地东山再起时，军阀们就都不干了，对这个“吴大帅”的态度变得恶劣起来。不过，杨森倒是一直对吴佩孚的态度始终如一，执礼甚恭。 1927年12月27日，南京对吴佩孚发布通缉令，杨森不敢再公然收留吴佩孚，派人将吴佩孚及其带来的亲随安排在大竹县云雾山笠竹寺，以避风头。安排完毕后，杨森给南京去电，说吴佩孚已经逃离他的防区，不知所踪。 吴佩孚到笠竹寺待了不过三个月，就被四川军阀罗泽洲盯上了。吴佩孚身边有二千人的卫队，装备精良，川军的装备水平在军阀中是末流的，罗泽洲带一个师包围笠竹寺，声言只要把卫队主动缴械，绝不伤一人性命。 面对逼迫，吴佩孚尽管气得发抖，但却也只能退让，将卫队装备交出后，逃往绥定。绥定是军阀刘存厚的地盘，他派人把吴佩孚一行接到了绥定的河市坝居住。 在刘存厚的睁一只眼闭一只眼之下，吴佩孚利用影响力招兵买马，半年时间内将卫队扩充到六千多人，编为三个旅。 1928年12月，杨森联络了四川大小十几个军阀，进攻刘湘，试图夺取对整个川东的控制权。川东之战不到两个月，就以杨森的惨败而告终，所辖的21县地盘被刘湘夺占大部。 杨森落败后，成为“川东霸主”的刘湘对吴佩孚并无好感，时刻想让这个碍眼的“大帅”离开四川。在刘湘的压迫下，吴佩孚再也难以扩充兵力，被迫带着手下移居宣汉。 宣汉地处渝川陕鄂结合部，刘湘赶吴佩孚出川，只差最后一脚了。吴佩孚到宣汉后，杨森自顾不暇，无力继续接济，刘存厚为了交好刘湘，也断了补给。在这种情况下，吴佩孚手下的几千人，连吃饭都成了问题，对此昔日威风凛凛的“吴大帅”也是巧妇难为无米之炊，时间一长，部下纷纷逃散。成了光杆司令的吴佩孚，气得大病一场。 中原大战结束后，张学良主持华北军政，他派代表去见吴佩孚，邀请到北平居住。蒋介石这边，也发去电报，让吴佩孚到南京一叙，说有要事相商。 吴佩孚担心去了南京后，会落一个长期软禁的下场，思前想后，他决定还是去北平更为妥当。对外，吴佩孚释放烟雾弹，声言要去南京长住。 刘湘见吴佩孚终于要走了，松了一口气，派人送去路费，说可由川东乘船去南京。杨森以为吴佩孚真的要去南京，劝阻说：“玉帅万万不可去南京，否则后悔也来不及。” 吴佩孚不便向杨森明说这是“明修栈道暗度陈仓”的计策，只得含糊其辞，说：“我想没那么严重吧。” 就在刘湘等着吴佩孚沿江东下时，吴佩孚却悄悄带手下到了甘南。吴佩孚到甘南后，并不打算马上去北平，而是采取观望，看有无在西北拉起一支人马，重整旗鼓的机会。 这时，发生了“雷马事变”，驻防兰州的雷中田和马文车突然发动兵变，将甘肃省代主席马鸿宾扣押，雷中田自任甘肃保安总司令，马文车自任甘肃省主席。 事变发生后，吴佩孚认为这是极好的机会，积极和雷中田、马文车联络，被两人迎入兰州。 1931年11月，雷中田、马文车发表通电，提出“拥吴坐镇西北，以解后顾之忧”。这封通电可捅了马蜂窝，蒋介石大为震怒，严令各部向兰州进攻，雷中田、马文车的部队被击溃，吴佩孚见状，只得一路辗转，逃去了北平。 吴佩孚到北平后，张学良对他很是恭敬。张学良有北平军分会代主任的身份，名义上可以节制的部队除了东北军外，还有中原大战后被改编的原西北军、晋绥军。当年直军和东北军是生死对手，除了于学忠这个吴佩孚的旧部外，东北军将领对吴佩孚大都是无感的，但西北军、晋绥军暗中联系吴佩孚的人并不少。 蒋介石担心吴佩孚和北方将领联合，去电嘱咐张学良，不可和吴佩孚过多接触。此后，张学良对吴佩孚采取“敬鬼神而远之”的态度，生活上给予优待，军政方面则不许他插手。 吴佩孚本以为到北平后，张学良会给他一个头衔，但却一无所得，牢骚满腹的他，只得当起了“闭门大帅”。 热河沦陷后，张学良辞职下野，带着妻子出洋考察，北平军分会由何应钦主持。何应钦到任后，对吴佩孚不假辞色，将吴佩孚本就不多的部下强行遣散。 每当有人替吴佩孚抱不平，吴佩孚总是说：“我只是不愿翻脸罢了，否则振臂一会，自然应者如云，很快就会聚集起一支大军。” 大家听后，也都是一笑置之，正所谓“时来天地皆用力，运去英雄不自由”，属于吴佩孚的时代已经结束了。
