1920年7月，皖系兵败后，张作霖的奉军在战后疯抢战利品，曹琨大骂说：“张雨亭真是地道的胡子，连两个灯都不放过。” 直皖之战，奉军是直军的盟友，但出力并不算大。战后接收战利品时，奉军比作战时积极地多，张作霖派兵占领皖军南苑营房，劫走南苑机场12架飞机，还率先接收了东直门的军火库房，从中抢走的军用品装了整整100多车。 当张作霖的部下得知直军在北苑附近一个新建军火库中接收军用品时，又风风火火赶去抢收，后来为了两个空军用的探照灯，与直军大打出手，最终靠着人多势众抢走了探照灯，扬长而去。 直军首脑曹锟得知后，不满地说：“张雨亭真是地道的胡子，得到那些东西还不够，连两个灯都不放过。” 皖系落败后，北洋总统徐世昌与总理靳云鹏成了实际上的傀儡，张作霖除继续任东三省巡阅使外，晋授镇威上将军外，还获得北洋政府拨付军费1000万元。曹锟成为直鲁豫三省巡阅使，，吴佩孚为直鲁豫三省巡阅副使。 之后，在靳云鹏的撮合下，张作霖又与曹锟结为儿女亲家，以弥补两人因战后争夺与分赃产生的裂痕。 但一山难容二虎，无论如何弥补裂痕，两方的矛盾与争夺终究无法避免。按照约定，8月12日起，奉军应该陆续撤军返回奉天，直奉两系各留一师驻京，但后来张作霖又加派了两个旅进驻北京。 不仅如此，张作霖还极力扩张势力范围，不仅派兵占据京津要地，而且将其势力迅速扩展到察哈尔、热河、绥远，于1921年5月兼任蒙疆经略使。当然，直系在抢占地盘方面也不含糊，在控制河南之后又抢占了湖北。 1921年12月，张作霖向徐世昌提议改组内阁，靳云鹏闻讯后随即请辞，在张作霖的推荐下，徐世昌任命梁士诒出任国务总理。 除了张作霖，直系的支持也是离不开的，所以梁士诒允诺组阁后为直系筹集军费500万元。然而，梁士诒组阁后，不仅不兑现对曹锟的诺言，而且处处与直系为难，对直系的要求除了拒绝便是拖延不办，对奉系则有求必应，处处唯张作霖之命是听，令曹锟、吴佩孚恼怒不已。 此时，张作霖已暗中联系皖系、安福系、交通系与直系对抗。在此情况下，曹锟、吴佩孚决心发起倒阁运动。在压力之下，梁士诒虽然不舍，但还是决定到天津一避。梁士诒走后，徐世昌立即令颜惠庆署理国务总理。 梁士诒的出走，令张作霖怒不可遏，他不甘心就此输给曹琨、吴佩孚，他不仅致电指责徐世昌，并且宣称将对直系付诸武力。 其实，张作霖对直系用兵的想法由来已久，直皖大战不久后，奉系便开始大肆扩军，除在东北招兵外，还派人在通州招兵，为直奉大战做准备，并与皖系残余势力等联合。 4月19日，一切准备就绪，张作霖通电宣布，将率兵入关。曹琨、吴佩孚也反唇相讥，列举张作霖十大罪状，辱骂张作霖为“白山黑水之马贼”。张作霖立刻反击，重点历数吴佩孚罪状，将吴佩孚比作安禄山、史思明。 4月29日，张作霖对奉军下达总攻击令，第一次直奉战争爆发。 由于奉军的兵力和武器装备皆在直军之上，最初的战事对奉军有利，特别是东线，一开始就占据优势。然而，西线战场上，吴佩孚对奉军实行包抄作战，使奉军背腹受敌，加上奉军第十六师邹芬所部阵前倒戈，西线奉军迅速溃败。 西线战败消息传来，东线奉军士气大减，而吴佩孚也迅速加入到东线作战，使得东线战势骤然逆转。 5月4日，张作霖亲赴一线督战，希望能扭转战局，无奈奉军兵败如山倒，败局已定，张作霖不得不下达了退却令，率兵向关外退去。 奉系兵败撤退后，直系控制了北洋政府。5月10日，徐世昌在吴佩孚的逼迫下，下令解除张作霖东三省巡阅使、蒙疆经略使、奉天督军及省长等本兼各职。 不过，张作霖虽然战败，但还有相当数量的兵力，这个“东北王”的声势依然浩大，所以徐世昌的撤职命令，实际上毫无意义。 5月19日，张作霖被推举为东三省保安总司令兼奉天省长，继续牢牢控制住东三省的张作霖，为第二次直奉大战积极做准备。 第一次直奉大战中，奉军纸面上的人数和火力均在直军之上，但却迅速溃败，不能不令张作霖深刻反思。 奉军素质低下是兵败的主要原因，旧的绿林以及行伍出身的军官，是无法带出一支训练有素的近代化军队的。 于是，张作霖开始招揽人才，重用新派将领，并于1922年秋成立整军经武的执行机关“东三省陆军整理处”，实行“精兵主义”，将奉军重新整编为27个旅，统一名称为“东三省陆军”。 1922年8月，张作霖在东三省保安总司令部下设航警处，后在葫芦岛炮台山建立航警学校，为海军培养和输送人才。1923年春，张作霖又设立“东三省航空筹备处”，并设立航空学校，积极培养航空人才，选拔优秀青年到国外受训，并从德国、法国花重金购进大批新式飞机。此外，还扩建兵工厂，扩建陆军粮秣厂，制造先进武器和军需用品。 就在张作霖积极备战的同时，掌握直军精锐的吴佩孚却变得骄横起了，加之他和其他直系大员矛盾加剧，这就为后来的兵败，埋下了伏笔。
