1929年初，马鸿逵来到南京后，冯玉祥让他写文章骂蒋介石。马鸿逵以读书不多为由拒绝，心中却有了倒戈的心思。 马鸿逵是冯玉祥的部下，但却不是老班底，属于后来加入的杂牌。1928年，二次北伐时，冯玉祥将所部改编为九个方面军，其中孙良诚、马鸿逵、石友三部编为第一方面军，孙良诚任总指挥。 张宗昌率直鲁联军主力，向豫东地区反扑。冯玉祥部与之在兰封、砀山、曹县接连展开激战。 马鸿逵部被冯玉祥调到陇海路正面布置的三道防线的第二道，第一道防线由新归附的刘镇华部担任，冯玉祥的老部队则在第三道防线。 由于刘镇华部弹药缺乏，在直鲁联军猛攻下，伤亡很大，冯玉祥又严令不准后退，否则军法从事。刘镇华去找马鸿逵哭诉，马鸿逵深感唇亡齿寒，私下支援一批弹药，这让刘镇华部得以守住阵地。 直鲁联军后来在西北军的反击下，全线溃退，向砀山、曹县退去。马鸿逵部的骑兵向砀山追击，步兵则和孙良诚部负责进攻曹县。 曹县易守难攻，由直鲁联军姜明玉部约一万余人把守。孙良诚、马鸿逵所部屡次强攻，均告失败。孙良诚情急之下，派出精锐手枪团强攻，结果伤亡大半，孙良诚痛心疾首，后悔不迭。 在屡次攻城中，马鸿逵部也多有伤亡，屡攻屡败，屡败屡攻，如此三个月，攻城仍无进展。 这时，冯玉祥坐不住了，令孙、马两部限期攻下曹县，马鸿逵感到强攻行不通，便令旅长马全良率部，花费整整五昼夜，从西关挖地道来到城墙夜，埋设炸药，炸毁了城墙。 孙良诚部立即攻入城中，终于将曹县拿下。然而，让马鸿逵没有想到的是，孙良诚为抢头功，率部攻入城中后，竟拒绝马鸿逵部进城，只准其在城外休整，所缴武器装备也全部落入孙良诚部。 马鸿逵火冒三丈，打仗被安排在第一线也就罢了，居然连城门都不让进，心中倍感屈辱。 就在此时，蒋介石以总司令的名义到河南视察战事，特地召见马鸿逵。在归德，马鸿逵见了蒋介石，蒋介石对马鸿逵刻意笼络，说了一些鼓励的话后，意味深长的说：“以后有机会再谈。” 虽没有深入了解，但蒋介石表面工作做得很好，给了马鸿逵很大的面子，这就为马鸿逵后来投靠蒋介石埋下了伏笔。 1929年1月，以裁军为目的的军事编遣会议在南京召开。但会议并未收到预期效果，各军阀对于裁减军队纷纷消极抵抗，冯玉祥自然也不例外。 冯玉祥当时还兼任军政部长，这年春天，冯玉祥下令所属西北军师以上将领集合南京受训。 此时第二集团军（西北军）刚刚缩编，马鸿逵的第四军被缩编为暂编第十七师，没有正规师的番号。对于缩编，马鸿逵并无多少异议，但对于自己的部队缩编后还是暂编的番号，心中十分不满。这次南京受训，马鸿逵作为缩编的师长，与其他17个将领一同来到南京。 18个将领到南京后，住在冯玉祥官邸的大厅内，每人一把椅子，一张军床，一套简单寝具，四人共享一张方桌，由冯玉祥的参谋长曹浩森为临时班长，对18个将领进行管理。 集训的两周时间里，18个将领如同新兵一样，不能单独外出，所有活动均要集体行动。冯玉祥与蒋介石之间的矛盾，马鸿逵早已知晓。冯玉祥让大家多写文章批评蒋介石，马鸿逵借口“读书不多，不会作文”，拒绝执行冯玉祥的命令。 就在马鸿逵这次来南京之前，他就给父亲马福祥发去密电，提出投靠蒋介石的建议。马福祥正有此想法，父子俩一拍即合，马福祥不久前已经先马鸿逵一步去南京见蒋介石。 但想见到蒋介石，也不是一件容易的事情，马福祥花钱托关系，多次求见，均没有得到召见。对此，马福祥故意逢人便讲： “蒋总司令真忙，我多次去见，他都抽不出时间，这种情况长此下去的话，会把总司令的身体累坏的。” 这话传到蒋介石耳中，他马上安排见马福祥。马福祥见到蒋介石后，两人相谈甚欢，从此成为座上宾。 后来，在蒋介石的提名下，马福祥被任命为国民政府委员。 虽然马福祥和蒋介石拉上了关系，但这次到南京后，马鸿逵仍不敢公开与蒋介石走得太近，生怕引起冯玉祥的怀疑。 就在南京受训期间，有一天，蒋介石在冯玉祥陪同下召见受训的18个将领，18人排成一列，蒋介石依次与每人交谈。当蒋介石来到马鸿逵面前时，亲切表示，在归德曾与马鸿逵见过面。马鸿逵吓了一跳，低头不敢多说话。当然，这是蒋介石当着冯玉祥的面故意说的。 南京集训结束后，马鸿逵部即被冯玉祥由临清调防武定，马鸿逵立即觉察，冯玉祥已开始为反蒋做军事准备。 事态已发展到如此地步，再不表明态度就来不及了。马鸿逵当机立断，书写长信一封，秘密派专人送往南京，交到蒋介石手中。 信里，马鸿逵表达了对冯玉祥的不满，以及对蒋介石的支持，并解释了两次面见蒋介石“失礼”的原因。还向蒋介石汇报了冯玉祥在南京集训的内容，以及冯玉祥的军事动向。 至此，马鸿逵终于明确态度，决定叛冯投蒋。5月，韩复榘、石友三在洛阳联合通电反冯拥蒋，马鸿逵也随即加入。这次西北军的大倒戈，让冯玉祥极为震惊，气得自扇耳光。
