1924年10月，在山海关前线的吴佩孚，得知北京被冯玉祥袭占，曹琨被软禁后，气愤的对张福来说：“我自认张作霖不足为惧，没想到后院失火。” 一个多月前，奉系首领张作霖为报二年前第一次直奉大战失败之仇，率奉军主力，气势汹汹的杀向山海关。 直系首领曹琨，一面以“大总统”的名义发布对奉系的讨伐令，一面任命在洛阳练兵的吴佩孚为讨奉军总司令。 9月18日，吴佩孚来到北京，在四照堂召集直军将领开会，决定兵分三路，第一路由吴佩孚亲率，直趋山海关；第二路为王怀庆的第二军，出喜峰口；第三路为冯玉祥的第三军，出古北口。 接着，吴佩孚又委任张福来为援军总司令。这里面有个插曲，张福来上任后，乘火车去前线，火车要开动时，他突然跑下来和送行的人握手。列车长不知道张福来下车，让列车出发，等开出站台，这才发现张福来不在，连忙让火车倒回来。 大战在即，直军的援军总司令两次上车，坊间流传这是要打败仗的征兆。 在四照堂军事会议后，冯玉祥去找曹琨，以主力调走后，城防空虚为由，建议将孙岳的部队调来北京。曹琨没有多想，很痛快的就答应了，并任命孙岳为京畿警备副司令兼城防司令。 吴佩孚对冯玉祥不放心，密嘱胡景翼、王承斌等人暗中监视冯军动向。吴佩孚不知道的是，冯玉祥已和胡景翼、孙岳订立了“反直三角联盟”，王承斌此前被吴佩孚明升暗降，夺去兵权，内心很是不满，对冯玉祥后来的行动也并未反对。 仗还没开打，直系内部就暗潮汹涌，相比之下，奉系内部尽管也有矛盾，但远不如直系这么致命。 就兵力而言，直军占据优势，吴佩孚亲率的嫡系部队有十余万，加上王怀庆、冯玉祥两路，总兵力不下二十万。奉军出关的兵力为十五万，在战况激烈时，张作霖紧急从后方搜罗部队，但也只增调了二万余人。 战事打的越胶着，耗时越长，对直军越有利，因为除了参战的二十万直军外，直系在各省的督军，掌握的兵力加起来也不下二十万，曹琨、吴佩孚已向直系督军发去电令，让派兵助战。 张作霖也知道时间不等人，他派两路偏师去牵制王怀庆、冯玉祥的部队，将奉军战斗力最强的部队全部集结在山海关，力图在此地决战，击败直军主力。 在山海关一线，奉军和直军反复拼杀，战况惨烈，奉军的装备水平高于直军，炮兵更是占据压倒优势，直军阵地一度几近崩溃。10月11日，吴佩孚亲临一线，督率直军反击，稳住了阵地。 17日，吴佩孚从北京调来的援军赶到，夺回部分阵地，直奉两军陷入拉锯。 这时的吴佩孚，对战局很是乐观，他对部下打气说，只要等各省督军派来的十万援军赶到，就可以杀出山海关，直捣奉天。 然而，吴佩孚的盘算落空了，冯玉祥的部队突然掉头急行军，奔袭北京。22日傍晚，鹿钟麟率冯军先头部队在孙岳部的接应下，顺利入城，并迅速包围了曹琨的总统府，将卫队缴械，火车站、 电报局、电话局等重要的地点也被控制。 北京被袭占，曹琨被软禁的消息传到山海关前线，吴佩孚差点没被气死，许久才缓过神来，他叫来张福来商议对策。 张福来说：“单一个冯玉祥还好说，可他和胡景翼、孙岳联合了，王怀庆的部队也被奉军击败了，我们在山海关完全被孤立了。” 吴佩孚气冲冲的说：“王承斌不知是真不知道还是装傻，我几天前问他冯玉祥的情况，他说一切正常，没有异动。我这就带部队杀回去，把大总统救出来。” 张福来劝道：“万万不可，山海关的兵力本就捉襟见肘，一旦抽走部队，必然全线溃兵。” 吴佩孚说：“我带少数精兵回师，你带着大部队坚守山海关，等我击败冯玉祥，救出大总统后，再回过头来打张作霖。” 张福来说：“分兵作战，实在不妥，带少了无济于事，带多了，山海关也守不住。我建议放弃山海关，河北也不要了，直接把主力撤到河南，在和其他各省督军的部队会合后，再行和张作霖、冯玉祥决战。” 吴佩孚说：“你这个办法不行，我只挑八千精兵，其余的由你指挥，务必坚守山海关。” 吴佩孚也清楚，单靠这八千人，显然不是冯玉祥、胡景翼、孙岳联军的对手，他率部到杨村后就停止前进，转而给齐燮元、孙传芳、萧耀南等南方的直系将领去电，让他们速派部队北上。、 然而，南方的直系督军、将领们，在得知曹琨被囚禁后，都摆出作壁上观的姿态。山海关的直军，本就军心动荡，见吴佩孚离开，更是毫无斗志。 张作霖趁机下令奉军总攻击，战斗力锐减的直军一触即溃，仅几天时间十几万大军就土崩瓦解，张福来仅带千余人逃离。 奉军抓了近十万直军俘虏，并将其大部收编，实力大增。奉军入关后，冯玉祥派数万部队进攻杨村，吴佩孚不敌，率部败走军粮城。 11月初，奉军进占唐山等地后，和冯玉祥部对吴佩孚呈夹击之势。见再待下去就要当俘虏，吴佩孚决定去山东，不料山东督办郑士琦见直系败局已定，马上翻脸派兵拦截，不许吴军过鲁。 无奈之下，吴佩孚只得托北洋海军的关系找了几艘运输舰，带着两千多残部登船南下。在船上，吴佩孚得知曹琨交出总统大印，宣布辞职后，又气又悔，忍不住老泪纵横。
