在占据冀州，并得到高乾、高敖曹、李元忠、封隆之等人后，高欢已然有了与尔朱氏一决高下的资本。眼见时机已经成熟，高欢便开始行动。

为了让自己手中的军队死心塌地为自己效力，高欢决定导演一出好戏。他先是命人伪造尔朱兆的军令，说是尔朱兆下令高欢所率六镇降兵全部回到山西，要将他们作为契胡军的部曲去攻打稽胡。这可让饱受契胡军摧残的将士们惊恐不已，还没等他们反应过来，高欢又假装军命严急，从军中简选万余兵士，马上催促出发。这时孙腾和尉景站出来假装为士兵请命，请求宽缓五日，之后高欢又假意再宽缓五日行期。这样停留了两次后，高欢才亲自将这支队伍送到郊外，流着眼泪与将士们告别，将士们都失声痛哭，声震原野。

见众人已经上钩，高欢开始抚慰告诫将士们，言语之中充满了怂恿之意，他向将士们表示自己和他们一样是失去了家乡的人，大家情义如同一家人。如今尔朱兆征调他们去讨伐步稽胡，那只有送死的命，现在已经行军日期了，也是死罪一条，配属契胡又是死路，还是要死，这种情况下高欢问众人该怎么办？众人齐声说道只有造反了，并表示誓死效忠高欢，高欢趁机与众人约法三章。普泰元年（南梁中大通三年，公元531年）六月庚申日（二十二日），高杀牛犒飨将士，正式在信都起兵。

但狡诈的高欢没有公开表示反对尔朱氏，因为他要用兵不血刃的方式解决眼前驻守殷州的尔朱羽生。高欢先是令李元忠发兵逼近殷州，又令高乾假意率军前往援救殷州。高乾抵达殷州后轻骑入城会见尔朱羽生，与尔朱羽生一起商议军事计划。尔朱羽生信以为真跟高乾一起出城劳军，结果被彭乐趁机生擒，殷州得以平定。随后高乾带着尔朱羽生的人头前来拜见高欢，高欢摸着胸口表示和尔朱氏彻底决裂的日子到了。遂任命李元忠为殷州刺史，镇守广阿，上表朝廷历数尔朱氏的罪状，但尔朱世隆将此表私藏扣押，没有上报元恭。

尔朱氏集团对于高欢起兵似乎并不以为意，除了尔朱世隆以外的人都觉得消灭高欢是件轻松的事。先是尔朱兆率步兵和骑兵二万人马从井陉出发直扑殷州，李元忠见敌军来势汹汹弃城逃奔信都。八月丙午日（初九），尔朱仲远、尔朱度律等率兵讨伐高欢。一时间尔朱氏兵风正盛，让高欢也是颇为头疼。

为了让起兵名正言顺笼络人心，孙腾劝说高欢另立一帝，高欢对此一度有些犹疑不定，但在孙腾的一再请求下，最终立勃海太守元朗为皇帝。十月壬寅日（初六），元朗在信都城西即皇帝位，改年号为中兴。任命高欢为侍中、丞相、都督中外诸军事、大将军、录尚书事、大行台，高乾为侍中、司空，高敖曹为骠骑大将军、仪同三司、冀州刺史，孙腾为尚书左仆射。

见人心稳定，高欢开始对尔朱氏反击，但他率先采用的却是反间计。他先是派人到尔朱兆军中散播尔朱世隆兄弟要谋杀尔朱兆，又派人到尔朱仲远军中说尔朱兆与高欢共同谋划要杀掉尔朱仲远等人。本就智商有限的尔朱氏众人果然上当，开始相互猜疑，均徘徊不进。

时间一久，尔朱仲远等也知道这不是办法，便派斛斯椿、贺拔胜前往尔朱兆处调停。随后尔朱兆率三百名轻骑来到尔朱仲远处，与尔朱仲远同坐大帐下。但这尔朱兆哪是来和解的，只见他脸色有不平之气，手中更是挥舞着马鞭，长啸凝望远方。没过多久，他便怀疑尔朱仲远等人有变化，于是便赶快离开大帐出来，头也不回的骑马走了。尔朱仲远赶忙派斛斯椿、贺拔胜等人追赶尔朱兆想要继续解释，谁知这两人反被尔朱兆抓了起来带回营中，过了一天才放还。

见尔朱兆如此冥顽不灵，难以沟通，尔朱仲远等人愤怒地带着军队离开了尔朱兆。虽然战场态势朝着有利于高欢的方向发展，但面对尔朱兆强悍的契胡军，高欢心中还是有些底气不足，好在经过亲信都督段韶的一番分析，高欢才平复了心情。十月辛亥日（十五日），高欢在广阿以弱胜强大破尔朱兆，俘获敌军五千余人。

广阿之战的胜利无疑极大鼓舞了高欢所部的士气，对于消灭尔朱氏他们已然充满了信心，那么之后的战局又会如何发展呢？