西魏大统元年（535年）春正月，宇文泰遣李虎等率军攻取灵州（今宁夏回族自治区灵武西南），并迫使曹泥投降西魏，宇文泰因此进封为都督中外诸军事、大行台、安定公，同年东魏高欢遭大行台尚书司马子如、大都督窦泰、泰州刺史韩轨等攻潼关，宇文泰率军屯驻霸上（今陕西省西安市以东）以防御长安，司马子如与韩轨夜渡蒲坂津（今山西省永济县西）并攻入华州城（今陕西省华县），被华州刺史王罴率军击退，之后东魏忙于抗击南梁，而西魏宇文泰起用苏绰等人推行改革，两军暂时没有发生大规模冲突，但双方都互相声讨指责对方。西魏大统二年（536年）正月，东魏丞相高欢亲率一万骑兵突袭西魏北方重镇夏州（今陕西省靖边县东北白城子），擒拿刺史并徙五千户而归，之后西魏灵州刺史曹泥等人又叛降东魏，宇文泰部将率军围灵州城，高欢命阿至罗率三万骑径度灵州，绕至西魏军后缴获十匹战马并逼退西魏军，此战西魏的军队遭受重创。 西魏大统二年（536年）十二月，高欢趁西魏关中饥荒严重之际率军讨伐西魏，他派遣司徒高敖曹趋上洛（治今陕西省商县)，大都督窦泰率军攻潼关。次年正月，东魏丞相高欢屯军蒲坂城（今山西省永济县西），在黄河上造三座浮桥以准备渡河西攻，而西魏丞相宇文泰则驻军广阳（今陕西省临潼市东北），宇文泰意图出其不意偷袭东魏营寨，该策略获得行台左丞苏绰、中兵参军达奚武的赞同，但宇文泰返回长安后发现诸将意见不一，于是他在直事郎中宇文深的建议下扬言欲保陇右，而亲率大军偃旗息鼓直奔小关。窦泰获悉后仓促从风陵渡渡河，宇文泰在马牧泽伏击窦泰并大破东魏军，高欢因黄河冰薄而不能救援，只得撤浮桥退兵。南线的东魏军在高敖曹的率领下节节胜利，但获悉高欢退兵后高敖曹也退出洛州（治所在今陕西省洛南县）。
