中大通六年（公元534年）四月，宇文泰率领军队向陇地进发，留下侄子宇文导以都督的身份镇守原州。宇文导是宇文泰哥哥宇文颢之子，少时雄杰豪迈，仁义慈惠，深受宇文泰的喜爱，一直带在身边。这一年，宇文导二十三岁，开始独当一面。行军路上，宇文泰军令严肃，秋毫无犯，百姓都非常高兴。出木狭关后，天降大雪，厚达两尺，宇文泰还是带着队伍日夜兼行，准备给侯莫陈悦来个出其不意。侯莫陈悦得到消息后，退到略阳防守，只留下一万人留守水洛。宇文泰一到，水洛的人马立马投降。宇文泰派几百名轻骑赶往略阳，侯莫陈悦撤到上邽，要李弼来和他一道抵御宇文泰，接着又放弃州城，向南撤退，占据山中险要自保。李弼深知侯莫陈悦必败，暗中派使者到宇文泰那里请求做他的内应，然后对所部道：“侯莫陈公准备返回秦州，你们这些人为什么还不整理行装？”李弼的妻子是侯莫陈悦的姨母，也就是说他是侯莫陈悦的姨父，众人对他的话深信不疑，争相赶往上邽。李弼抢先占据上邽城门稳定秩序，随后带着全城人马投降了宇文泰，宇文泰马上任命他为秦州刺史。就这样，宇文泰再得一员大将。当天晚上，侯莫陈悦派出队伍准备迎战，但将士们无心作战，人人自危，溃不成军。侯莫陈悦生性猜疑，军队崩溃之后，再也不敢相信任何人，也不让部下靠近，和两个弟弟、儿子以及谋杀贺拔岳者一共七八人，抛弃大部队飞奔而去。之后的几天里，他们到处盘旋，无所适从。有人建议前往灵州依附曹泥，侯莫陈悦答应了，他自己骑上骡子，命手下人徒步跟随，准备穿过山路赶到灵州，宇文泰派原州都督贺拔颖在后面追赶。望见追兵到来，侯莫陈悦万念俱灰，于荒野之中上吊自杀。此时，距离贺拔岳被杀只有两个月，侯莫陈悦徒为宇文泰做嫁衣。进入上邽后，宇文泰引荐薛憕为记室参军，没收侯莫陈悦府中的仓库，财物堆积如山，他自己分文不取，全都犒赏士兵。随从偷偷地拿了一只银瓮回来，宇文泰严肃惩处了他，然后将银瓮剖开分给将士。这时，侯莫陈悦的同党、豳州刺史孙定儿还据州不降，手下共有几万人马，宇文泰派都督刘亮前往袭击。刘亮，中山人，出身将门世家，祖父刘祐连曾任北魏蔚州刺史，父亲刘持真曾任镇远将军、领民酋长。刘亮少时豪迈洒脱，有纵横天下之谋，身材魁梧雄健，见者无不畏之。中大通三年（公元531年），刘亮以都督的身份跟随贺拔岳西征，解除岐州之围，攻打侯伏侯元进、万俟道洛、万俟丑奴、宿勤明达等叛军时常常一马当先，冲锋陷阵。贺拔岳被杀后，刘亮和诸将一起迎立宇文泰，就此成为宇文泰麾下大将。对于即将到来的危险，孙定儿浑然未觉，毫无防备。刘亮先在州城附近的山头竖起一杆大旗，然后带领二十名骑兵飞奔进城。孙定儿正在设置酒宴，突然看见刘亮赶到，又惊又怕，不知所为。刘亮指挥士兵砍死孙定儿，然后遥指城外大旗，命两位骑兵道：“出去叫大部队进来。”城中之人服服贴贴，无人敢动，豳州就此平定。趁着北魏大乱，故氐王杨绍先逃回武兴，重新自立为王。凉州刺史李叔仁被他辖内百姓捉住后，氐、羌、吐谷浑各族所在的地方叛乱蜂起，从南岐一直到瓜、鄯等地，跨州据郡的现象数不胜数。宇文泰命李弼镇守原州，夏州刺史拔也恶蚝镇守南秦州，渭州刺史可朱浑道元镇守渭州，卫将军赵贵行秦州事，征收豳、泾、东秦、岐四个州的粮食供给军队。杨绍先自知无力抗衡，又害怕被宇文泰兼并，主动送来妻子、儿子作为人质，向宇文泰臣服。至此，宇文泰成为北魏在关西的话事人，实力仅次于高欢。夏州长史于谨趁机向他进言道：“您占据关中险要而易守之地，将士骁勇善战，土地肥沃富饶。现在，皇帝在洛阳，身受凶恶之徒的胁迫，如果向他陈述您的诚意，讲明时事对他的利害，请他将迁都关西，您就可以挟天子而令诸侯，禀承皇帝之命讨伐叛乱，建立齐桓公、晋文公那样的大业，这可是千载难逢的好机会！”宇文泰认为他言之有理，开始认真谋划这件事。平定六镇起义时，于谨先后跟随元纂、元深作战，虽屡立战功，但无奈主公不给力，始终没混出个名堂，之后又跟随辛纂跟南梁耗了几年。
元子攸即位后，以于谨为镇远将军，不久改任直寝，跟随元天穆征讨葛荣，平定邢杲，拜为征虏将军，又跟随尔朱天光平定关陇叛军。尔朱天光失败后，于谨进入潼关，投奔贺拔岳，被任为卫将军、咸阳郡守。一年前，贺拔岳以宇文泰为使持节、武卫将军、夏州刺史，宇文泰到了夏州后，以于谨为防城大都督，兼任夏州长史。于谨的前半生相当坎坷，几乎是跟谁谁死，但他的厉害之处在于，每次被打回原形都能重新站起来，以硬实力找到下一个东家。
与宇文泰合作时，于谨已年过四十，若论出身和资历，他比宇文泰还高，但他为人低调，懂得谦让，故而能够与宇文泰和平相处，甘居其下。
听说宇文泰平定了秦、陇，高欢这才意识到他可能对自己的地位形成威胁，便派使者用甜言蜜语和厚礼来结交宇文泰。宇文泰不仅没有接受，还封好书信派都督张轨去献给元修。
斛斯椿问张轨道：“高欢的叛逆之心路人皆知，唯有西边的宇文泰众望所归，不知他的才能与贺拔岳相比如何？”张轨回答道：“宇文公论文足以经国，论武能够平乱。”斛斯椿道：“果真如你所言，那宇文泰是可以依靠的对象。”和斛斯椿一样，元修也被宇文泰的强大所诱惑，将其视为复兴北魏的希望，急欲和他达成更深入的交流，以对抗高欢的欺凌。
