先后收服李元忠和高乾兄弟，高欢实力大增，动起了讨伐尔朱氏的心思，镇南大将军斛律金、军主库狄干以及娄昭、段荣等都力劝他起兵。
娄昭，代郡平城人，高欢的妻弟。娄昭为人方雅正直，大度深谋，弓马冠世，既是亲戚也是麾下大将，累迁至中军大都督。
下定决心后，高欢先假借尔朱兆的名义写了一封信，对部下说尔朱兆要把六镇之人配给契胡为部曲，士兵们听后都很恐惧。高欢又伪造一张并州符令，要征调他的部队讨伐步落稽，然后真的集结起一万人马，假装出发，孙腾与都督尉景为六镇人向高欢请求停留五天，一连停留了两次。最后，高欢亲自将这支队伍送到郊外，流着眼泪与将士们告别，将士们都失声痛哭，声震原野。眼见情绪已经达到最高潮，高欢开始出场，对将士们道：“我与你们都失去了故乡，情义如同家人，没想到上面如此征调我们！今天，我们若西向并、汾，讨伐步落稽，必死无疑，延误军期又该当处死，配属契胡，还是要死，我们该如何是好？”众人齐声道：“只有造反了！”高欢假装为难道：“造反乃迫不得已之计，应推举一人为首领，谁能担当呢？”众人共推高欢为首领，高欢道：“你们都是乡里乡亲，难以控制。当初葛荣虽有百万大军，却无法令制度，终究还是败亡了。现在既然推举我为首领，就应该跟以前有所不同，不能凌辱汉人，不得违反军令，生死任我指挥调度才行。不然，终究是一群乌合之众，会被天下人所耻笑。”众人都点头道：“我们不论生死都听您号令！”通过高超演技，高欢成功将六镇军民改组成一支忠于他的军队。中大通三年（公元531年）五月二十二，高欢在信都起兵，但尚未敢公开声言反叛尔朱氏。这时，正值李元忠发兵逼近殷州，高欢命高乾假意前往救援。高乾轻骑入城会见镇守殷州的尔朱羽生，与他一起商议军事，尔朱羽生跟高乾一起出城，高乾趁机将其斩杀，然后带着他的人头前来拜见高欢。高欢摸着胸口道：“我心已决！”遂以李元忠为殷州刺史，镇守广阿，然后上表朝廷历举尔朱氏罪状，尔朱世隆将奏表扣留，没有上报元恭。攘外必先安内，高欢的背叛让尔朱世隆深感清除异己的重要性，首当其冲是以杨播、杨椿、杨津为代表的弘农杨氏家族。杨播性情刚毅，杨椿、杨津则性格谦恭，皆位至三公，一门之中出了七位郡守，三十二位刺史。而且，杨氏家族都素有声望、品德，世代孝悌，缌服以内的亲属同灶而食，全家男女上百口和睦相处。元子攸诛杀尔朱荣时，杨播的儿子杨侃参与了谋划，其余参与者城阳王元徽和李彧都是杨家的姻亲。尔朱兆攻入洛阳后，杨侃逃回华阴故里，尔朱天光派杨侃的岳父韦义远召请杨侃，要与他盟誓，并答应赦免他的罪行。杨侃道：“尔朱天光即使食言，死者也不过只我一人，还希望保全一家百口。”便出来和尔朱天光相见，果然被尔朱天光所杀。此时，杨播已死，杨椿已致仕，和儿子杨昱住在华阴，杨椿的弟弟、冀州刺史杨顺、司空杨津、杨顺的儿子、东雍州刺史杨辨、正平太守杨仲宣都在洛阳。七月，尔朱世隆诬奏杨氏谋反，请朝廷收捕治罪，元恭没有同意。尔朱世隆苦苦奏表，元恭不得已，只好命有关部门审查上报。七月初四深夜，尔朱世隆派兵包围杨津府第。与此同时，尔朱天光派兵至华阴逮捕杨椿一家，杨氏这一支不分老少全被诛杀，家财籍没入官。事后，尔朱世隆上奏元恭道：“杨氏确实想谋反，竟敢抗拒前往收捕的官军，现已全部杀掉。”元恭叹惋良久，朝野内外无不痛惜、愤怒。杨津的儿子杨逸时为光州刺史，尔朱仲远派人到光州将其斩杀，只有杨愔在全家遭杀戮时恰巧外出，得以幸免。听说高欢起兵反抗尔朱氏，杨愔前往信都面见高欢，向他诉说家族之祸，并为高欢出谋划策，高欢一向器重杨愔，便以他为行台郎中。杨愔，杨津之子，幼年风度沉敏，出入门闾从不嬉戏，六岁学史，十一岁学《诗》、《易》，尤好《左氏春秋》。成年后，更是言论高雅，风神俊悟，举止可观，时人都认为其将来前程远大。这一年，杨愔刚好二十岁，加入高欢麾下后，一直深受高欢信任，逐渐成为北齐的开国功臣。听说高欢起兵反叛，尔朱仲远和尔朱度律自恃力量强盛，并没有太担心这件事，只有尔朱世隆对此忧心忡忡。尔朱兆的反应最干脆，率步骑两万从井陉出发，直扑殷州，李元忠弃城逃奔信都。
八月初九，尔朱仲远和尔朱度律等正式出兵讨伐高欢。
九月十二，北魏朝廷以尔朱仲远为太宰。第二天，又以尔朱天光为大司马，尔朱家族开始联手绞杀高欢。
孙腾劝说高欢道：“现在我们与朝廷隔绝不通，号令无所禀受，如果不立一位皇帝的话，军队就会没有斗志而瓦解溃散。”高欢犹疑不定。最终，在孙腾的一再请求下，高欢决定拥立勃海太守元朗为皇帝。元朗，拓跋晃玄孙，元融之子，时年十八岁，幼年以聪明著称。但即便再聪明，他也只是高欢拿来当幌子的，没有任何发言权。十月初六，元朗在信都城西即皇帝位，改元中兴，以高欢为侍中、丞相、都督中外诸军事、大将军、录尚书事、大行台，高乾为侍中、司空，高敖曹为骠骑大将军、仪同三司、冀州刺史，孙腾为尚书左仆射，河北行台魏兰根为右仆射。魏兰根本是北魏重臣，平定六镇起义时立下大功，却在元子攸和尔朱荣的内讧中进退失据，还被侯渊击败，部下离散殆尽，无奈投奔高乾。如今，他只剩下一张老脸，在高欢手下混饭吃。
