公元531年，高欢已经在山东站稳了脚跟，就开始准备和尔朱氏翻脸了。为了鼓动部下的士气，高欢伪造了一封尔朱兆的命令，宣称尔朱氏要征发高欢手下的将士出征，打完后还要把将士分给契胡贵族当部曲。部曲是带有军事关系的依附农民，没有基本的人身自由。六镇将士既对自己的命运感到悲伤，又仇恨下命令的尔朱兆。将士出征的当天，高欢流着眼泪对部下发表演讲说：“我和大家一样都是远离家乡，今天上级下达了这种无理的命令，大家要么战死沙场，要么因为延误军期被处死，要么给人家当部曲被鞭子抽死，大家说我们还有什么出路啊？”众将士齐声高呼：“反了吧，反了吧，将军带我们反了吧。”于是，高欢就在当年六月在信都起兵，公开反叛了尔朱氏。
一年之后，高欢在韩陵以3万步兵击溃了尔朱氏的20万联军，尔朱兆被迫上吊自杀，高欢开始掌握北魏政权。
