第二天早晨，尔朱兆归营，又下令让高欢渡水过到他的大营。

高欢也想壮着英雄胆过去，被部将孙滕劝止。

尔朱兆隔河破口大骂，无奈河水奔涌大军又过不去，只得驰还晋阳。

高欢回营，到了军中统管兵士家属的念贤那里假意寒暄。

念贤是尔朱兆安插在高欢营中的心腹，用以监视高欢。

高欢坐下后就夸念贤腰中宝刀漂亮，取来观看。

念贤不知是计，递刀与高欢。

高欢随手一刀，拔掉了尔朱兆在军中最后一个钉子。

高欢到山东后，严肃军纪，秋毫无犯，每过麦地，自己下马拉住缰绳，当地人民非常欢喜，受到拥戴（这和《三国演义》中曹操的表演同出一辙。

）毕竟受尔朱家族恩多，高欢也不知自己属下对尔朱兆控制的魏朝有多么忠心，他还不敢挑明和尔朱兆决裂。

为了让属下军人无路可退，和他一道起兵，他想出一计‐‐他派手下人伪造尔朱兆的军令，下令高欢所率六镇降兵全部要回山西，作为契胡军人的部曲去攻打稽胡。

本来六镇降兵就一直饱受尔朱氏契胡兵的欺凌，现在要被征发去当契胡人的奴兵，都有生不如死的感觉。

高欢假装军命严急，从军中简选万余兵士，马上催促出发。

部将孙滕和尉景也假装为士兵请命，宽缓五日。

士兵又忧又惧，高欢接着又假意再宽缓五日行期。

待到六镇军士的惊恐酝酿得差不多，火候正好，高欢作为统帅，与这支万余人的先遣军举行告别式，他自己也泪落如雨，做出一副万般无奈的样子。

即将踏上去山西之路的士兵一片嚎哭之声，悲从中来，惊天动地。

高欢叹息一声，说：&ldo;我和你们都是镇户出身，一家人呵。

现在西去打仗，肯定得死！

迟误军期，到目的地后也得死；发配给契胡人当部曲，还得死！

总之，都是死路一条。

我们该怎么办呢？&rdo;士兵们马上齐呼：&ldo;只有造反！

&rdo;高欢很焦急的样子：&ldo;造反是不得已的事情，谁能带头呢？&rdo;将士雀呼，共推高欢。

高欢一副万不得已，为众担罪的样子。

踌躇再三，他对六镇降兵说：&ldo;你们这些人乡里乡亲很难统驭。

想想看，葛荣有百万之众，就是没有军规战纪，散漫无制，最后难逃败亡。

如果你们推我为领军，就不能再像从前一样，不能随意欺负汉人（六镇降兵多为鲜卑人），不能违犯军令。

不然的话，我可不和你们一起造反。

&rdo;&ldo;生死由您做主！

&rdo;万余军士同声呐喊。

于是高欢杀牛宰羊，犒赏士兵，在信都起兵。

为了名正言顺，高欢与属下拎出魏朝宗室、渤海太守元朗为帝。

532年，高欢初次与尔朱兆交锋，以少胜多，在广河大败尔朱兆，俘获五千多人。