高歡剛加入杜洛周的起義軍時，想的是如何出人頭地，在戰場上闖出一番名堂。然而很快他就失望了，杜洛周拿手的是煽動大夥兒起來造反，領導能力十分缺乏，對待下屬也很糟糕，不值得追隨。他私下與幾位同志一商量，決定尋找機會幹掉杜洛周，自己做起義軍的首領。
計劃尚未實施便洩了密，杜洛周派人追殺高歡，逼得他拖家帶口狼狽逃竄，身邊只剩了段榮、蔡俊、尉景等死黨。
當時落魄的景象，高歡一輩子也不會忘記。他騎著家中唯一的一匹馬，在前面走，婁昭君抱著女兒，背著兒子，騎著牛緩緩跟在後面。高歡每跑一段路，就得停住腳等一下老婆孩子。最可氣的是兒子高澄年紀小，一不小心就從牛背上掉下來，婁昭君還得下牛去撿。高歡又急又怒，就彎弓搭箭，要射殺親生兒子。婁昭君嚇得大喊，幸虧段榮從後面上來，救起高澄。一行人磕磕絆絆，終於逃脫險境，到了葛榮大軍的地盤。
（「丟妻棄子」的倒霉事在布衣出身的開國君主身上屢見不鮮，從劉邦到劉備，再到高歡，高歡是武人，處理方式也狠過兩位劉皇帝。劉邦有夏侯嬰，劉備有趙雲，高歡也有一位出身入死的部下段榮，雖則段榮的地位要高過夏侯嬰和趙雲，他是婁昭君的姐夫。一個人成就大事，最不可或缺的是「與人謀，得人助」，其他方面的能力，倒在其次，這是領導氣質的真諦，也是高歡勝過北方起義的眾多「草莽英雄」之處）
威震河北的葛榮，在高歡眼裡同樣不入流，只不過打仗稍強而已。他算是看穿了，這些六鎮出來的土包子，囂張不過一時，沒什麼前途（高歡顯然是把自己列入了牛包子的行列）。高歡的目光，轉向了在平定叛亂中初露鋒芒的秀容豪酋爾朱榮。
爾朱榮是契胡部的首領，「契胡」這個民族，我們不該陌生，它是「羯胡」的異譯（「契」、「羯」古音十分接近）。換言之，爾朱氏與後趙石氏同族。不同的是，爾朱家族在永嘉之亂中沒有南下中原，依舊留在北方的秀容（今山西朔州西北），是當地部族的酋長。
北魏初年，爾朱氏追隨拓跋珪、拓跋燾等皇帝，四處征討其他部族，戰功卓著，得了大量的封賞。傳到爾朱榮的父親爾朱新興手中，家財豐盈，牲畜數萬，是孝文帝時代北方有名的養馬大戶。爾朱新興每次去洛陽覲見皇帝，王公貴族們爭相送他珍寶古玩，為的是換取爾朱新興的好馬。
和平年代好馬被當作寵物看待，一到打仗，那就成發家的重要資本了。爾朱新興死後，爾朱榮繼承了家產。他生得皮膚白皙，容貌俊美（契胡就是白人的一支，關於爾朱榮的相貌，我們可以通過今天東歐、中亞的種族推想個大概），對手下號令嚴整，是遠近聞名的偶像級人物。六鎮起事，秀容一帶也發生了多起叛亂。爾朱榮賣了家裡的牛羊，招募驍勇義士，分發馬匹衣物，組軍平叛。
在長城南北打仗，馬匹的多少與優劣足以決定勝負，在戰術含量低的亂戰中尤為明顯。不出兩年，爾朱榮已經是山西最強大的平叛勢力。山西一帶的大小叛亂，基本都被他輕鬆解決、，這與北魏正規軍在河北的節節敗退形成了鮮明的對比。打了勝仗，他上表要求東進支援河北，北魏朝廷對他有所忌憚（畢竟不是自己的子弟兵），雖然任命他為大都督，都督並、肆、汾、唐、恆、雲六州諸軍事（基本就是整個山西了），卻否決了他轉戰的要求，只讓他安心守在山西。
高歡在河北轉了一圈，最後結論：還是山西好地方。他第二次「叛逃」，離了葛榮的隊伍，去秀容拜見爾朱榮。
有趣的是，爾朱榮對於不見經傳的高歡，早已「久仰大名」。
原來，高歡在懷朔結交的一堆好友，基本上分為兩類。段榮、尉景這些與高歡沾親帶故，關係特鐵的，一直跟著高歡浪跡天涯；另一類是司馬子如、孫騰、劉貴、侯景這些擔任小官小職的，為了逃難，都跑到了爾朱榮手下做事。這些人在爾朱榮身邊，時不時地就誇讚高歡如何如何的氣度不凡，如何如何的見識卓群（可見當年的好酒沒少喝，也沒白喝），說得爾朱榮心中癢癢。像他這樣世家出身的子弟，一般都好才（財、才是相通的）。他也的確在東征西討的過程中網羅了不少人才，比如前文所提的賀拔勝、賀拔岳兄弟，在元淵失敗後，也被他收入麾下。聽了高歡這麼多好處，爾朱榮巴不得能立即見到高歡。
當高歡第一次真正站在他面前時，他卻不免有種夢想破滅的感覺。現實中的高歡風塵僕僕、一臉憔悴，好似一個無家可歸的流浪漢，哪有一點蓋世奇人的樣子。
爾朱榮對著身邊擔任參軍的劉貴白了白眼，露出些許不滿意。劉貴心領神會，便說：「容我先為高歡更衣，主公再招見他。」
爾朱榮應允。第二次見面時，感覺好了一些。爾朱榮想試試他的才能，便領著他到馬廄裡，指著一匹馬說：「這馬性格暴烈，不好對付，你給我修理一下馬鬃吧。」
高歡年輕時在懷朔鎮軍中，少不了跟各種脾氣的馬打交道，自己雖然沒錢養馬，卻比終日玩馬的有錢人更懂馬。他不動聲色地走到馬的身前，撫著馬鬃，操著工具，什麼籠頭韁繩都不用，便動起手來。那匹平日裡從不聽人使喚的馬也是奇了，任憑高歡怎麼處置，一聲沒吭，一蹄沒踹，乖乖地讓高歡把鬃毛修得清清爽爽。
任務完成，高歡轉過身，隨口道：「收拾惡人與對待這匹馬的道理是一樣的。」
爾朱榮已經看呆了，他還從未見過辦事這麼利索的人，更沒想到高歡還能總結出這麼深刻的哲理，心想：劉貴那些人果然沒有騙我。印象徹底改變。他把高歡迎入內室，屏退左右，畢恭畢敬地問道：「閣下如何看待當今時事呢？」
高歡想了想，說：「聽說明公收養天下名馬，產地有十二處之多，而每個地方的馬顏色完全一樣，不知是何用意呢？」
爾朱榮若有所悟，卻不正面回答，說：「且說說你的意思。」
當時北魏朝中的權力經歷了又一次的易手。領軍將軍元叉幽禁胡太后五年，防備鬆懈，不再阻撓孝明帝與胡太后的往來。胡太后便與孝明帝以及高陽王元雍三個人秘密商定計劃，於正光六年（公元525年）突然行動，解除了元叉的職務和兵權，削去已故太監劉騰的爵位，由胡太后重新臨朝攝政。之後胡太后又聲稱有人告發元叉謀反，下令賜死元叉，並為情人元懌平反。
胡太后不在乎各地州鎮亂得怎麼樣，二次掌權後，她養了更多的小白臉來滿足淫慾。最有名的，一個是她父親從前的下屬鄭儼，另一個是元懌的親信徐紇。胡太后寵幸兩人，把他們提拔為中書舍人，負責起草詔書，又讓鄭儼做諫議大夫，徐紇做光祿大夫。鄭儼和徐紇長得比元懌漂亮，卻沒有元懌的才能，朝中自然被攪得烏煙瘴氣，年齡漸長的孝明帝對他們十分厭惡。
胡太后生怕丟掉好不容易再次到手的權力，對親生兒子也是格外提防，想盡辦法把他架空。只要是與孝明帝過往過密的大臣，就會被她找個理由除掉。有個蜜多道人因為會說多種語言，常隨孝明帝左右，胡太后擔心他用自己聽不懂的話向皇帝通風報信，便派人暗殺了他。母子之間的關係越來越緊張。孝明帝手中沒有一兵一卒，連內宮的禁軍都被胡太后等人掌控。他急需找到一股力量，助他奪回大權。
沒在朝中做過官卻對政治極其敏銳的高歡，就是在這樣的背景下，將他對時局的心得體會向爾朱榮和盤托出。他說：
「當今天子愚弱，太后淫亂，寵信惡人，專擅朝綱，以至政令不行。依賀六渾之見嘛（他以自己的鮮卑名自稱），明公英明神武，正該乘勢發兵，打起『清帝側』的旗號，討伐鄭儼、徐紇，然後霸業可成。」
高歡的一席話，不但很有見地，也讓爾朱榮十分受用。爾朱榮此時的驚喜，絕不亞於劉備聽到隆中對時茅塞頓開的快感。爾朱榮早有心吞併天下，他得到賀拔兄弟時，就曾說過：「吾得卿兄弟，天下不足平也。」高歡把他心中的疑問一掃而空，說出了他想說卻不知該怎麼說的話。於是他堅信，高歡是上天賜給他的超級人才，相見恨晚哪！兩人越談越投機，從正午直談到半夜才歇息。自此高歡便做了爾朱榮的親信，參與入洛平亂的謀劃。
（高歡的時局分析水準相當高。他的手段，即所謂「奉天子以討不臣」，永遠是政治正確、居於主動的。可以這麼說，如果不是由於起家的實力太弱，不得不借助其他勢力的話，高歡完全可能在大亂伊始就脫穎而出。亂世中，最為難得的一點，便是透過混亂的表象，看清背後的本質）
就在這次談話後不久，一封密令遞到了爾朱榮的手中。孝明帝果然也看中了爾朱榮，請他率兵進洛陽，脅迫胡太后還政。爾朱榮正求之不得呢，他即刻點起兵將，以高歡為前鋒，直奔洛陽。
大軍走到上黨（今山西壺關），忽然接到孝明帝的私詔：停止進軍。爾朱榮心下生疑，並沒有退兵，而是派人到洛陽繼續打探。幾天後，從洛陽傳來了震撼的消息：十九歲的孝明帝暴崩。