「宇文」二字，既表示姓氏，也表示部族，是鮮卑語的音譯。《北史》說「宇文」意為「天子」，恐有附會之處。據楊憲益先生考證，鮮卑語的「宇文」與今天滿語的Niowan（青色）一詞同源，專指當時的一條河——青水，也叫濡水（今灤河上游，內蒙古赤峰一帶），是宇文部族起源的地方。楊先生甚至還斷言，宇文的意思「青色」，也就是「黑色」，其實正對應宇文泰的鮮卑名「黑獺」的前半部分。這個說法未免誇張了些，因為鮮卑人的名姓一般是分得很清楚的，而不像某些民族那樣有名無姓，不過亦可看作一家之言。
宇文部馳騁塞外，被慕容部建立的前燕所滅，遺民內遷到昌黎，我們在《縱橫十六國》中已有詳盡介紹。後燕被北魏打敗後，宇文氏的掌門人宇文陵舉家投奔了拓跋珪，不久後就遷往六鎮之一的武川鎮。
從宇文陵到宇文泰，宇文家族在武川鎮共經歷了五代。武川鎮的西面緊鄰高歡所處的懷朔鎮，破六韓拔陵起事，這兩個鎮都是重點攻擊的對象。（有趣的是，六鎮時代，宇文泰在東，高歡在西；將來稱霸天下，兩者卻調了個個兒，高歡在東，宇文泰在西）
宇文泰的父親宇文肱，並沒有逐大流跟著造反，而是與武川軍主賀拔度拔組織了一支騎兵隊伍進行抵抗。破六韓拔陵攻打武川的部將衛可孤，便是死於宇文肱與賀拔度拔發動的突襲。
宇文肱有四個兒子：長子宇文顥，次子宇文連，三子宇文洛生，宇文泰年紀最小。將門出虎子，宇文肱雖算不上將門，卻也是在六鎮幾代相傳的職業軍人，四個兒子自小在馬背上長大，上了戰場個個生龍活虎，不在話下。
與衛可孤一戰，敵軍人數極多，刺殺衛可孤得手後，宇文肱的戰馬忽然受驚，不慎翻身落馬，面臨圍攻。宇文顥遠遠望見，迅速率領幾騎人馬，衝入重圍，所向披靡，殺退了數十名敵軍士兵。他親自斷後，掩護父親上馬脫身，敵軍騎兵重新集結，蜂擁而至，宇文顥寡不敵眾，力竭而死。
宇文肱痛失長子，恨不能回轉身去馬上報仇，可他也清楚，就靠眼前糾結起的這點兵力，搞突襲或許有勝算，要想徹底打敗遍地皆是的反政府武裝，形同癡人說夢；兵荒馬亂之際，塞上六鎮已非久居之地。想到此，他帶著三個兒子，跟著賀拔度拔等人，向南逃亡。
當時北魏朝廷的軍隊主力，由廣陽王元淵率領，駐紮在五原（今內蒙包頭西北）。賀拔度拔讓次子賀拔勝先行一步，趕往五原，通報襲殺衛可孤的消息，以便接洽。風雲難測，賀拔勝剛走，賀拔度拔與宇文肱的部眾便遇到了反叛北魏的敕勒騎兵的襲擊。賀拔度拔戰死，其餘人馬也失散，宇文肱父子向東避往中山，賀拔度拔的另兩個兒子賀拔允和賀拔岳則南下五原，投賀拔勝去了。
（賀拔勝才略過人，到了五原後深受元淵器重，被任命為軍主，之後因屢立戰功又升為將軍。宇文泰後來興起，賀拔兄弟的這股軍事力量極為關鍵。）
宇文肱父子在中山並沒有過上幾天和平的日子。
破六韓拔陵雖然被鎮壓了，但他的六鎮軍投降的仍有數十萬。北魏把這些人重新安置到河北各州的軍府，意思說，邊境上我力所不逮了，那就移到我有能力控制的範圍之內吧。
由於朝廷軍征剿不力，各地的叛亂客觀上迫使地方武裝發揮作用，藉機強大起來。這跟秦末陳勝起義、漢末黃巾軍大起義導致軍閥割據混戰的局面，道理上如出一轍。中國歷朝歷代，凡定都北方的王朝一到末期，幾乎都是因內亂一發而不可收，最終走向分崩離析、社會重組，典型的還有隋、唐、元、明、清；而定都南方的王朝一到末期，則幾乎都是因敵國（或敵對勢力）入侵而滅亡，典型的如之前的蜀漢、東吳、之後的南陳、南宋、民國等等。
把投降的六鎮軍民（「降戶」）放在邊境地區，容易為那些准軍閥所利用，確實不合適；但是擺到自己的眼皮子底下，在王朝全盛時期或許是高招，現在卻只可能是雪上加霜，北魏朝廷過分相信自己的軍力和控制力了。
元淵聽說朝廷的決定，立即感歎道：「此輩復為乞活矣，禍亂當由此而作。」他不由聯想到了對十六國大亂具有重要影響的流民軍隊——乞活軍，也預見到更大的禍亂即將降臨，卻只能發出無奈的哀鳴。
杜洛周和鮮於修禮以實際行動給了元淵一個肯定的答覆。
杜洛周是出自柔玄鎮的鮮卑人，杜是孝文帝時期改的單姓，鮮卑姓是「獨孤渾」，南朝的史書裡寫作「吐斤」。鮮於修禮來自懷朔鎮，地位更低。「鮮於」這個乍一看很鮮卑的姓，其實與鮮卑無關，他是十六國時期遷入華北的丁零族的後裔，與敕勒人倒攀得上近親。
鮮於修禮在定州的左人城起兵，宇文肱父子賴以避亂的中山，正是定州的治所。宇文肱的部眾雖不是「降戶」，卻也被鮮於修禮一股腦地編入軍中，攻打定州城。（在後期的起義隊伍中，像高歡那樣一心為折騰而來的是少數，像宇文肱父子這類明顯無意造反的人，比例是相當大的。可見北魏朝廷對於由六鎮湧入河北的大規模鎮民，沒能出台一套有效的撫恤和管制方案，以至民眾無所適從，唯一的選擇就是跟著軍頭上司混飯吃。反正已經天下大亂，死在戰場上，總好過死在逃難中）
元淵鎮壓破六韓拔陵立了大功，在六鎮降戶中很有威懾力，本是對付鮮於修禮的最佳人選。北魏朝廷卻對他懷有猜忌（從宣武帝到孝明帝內鬥了好多年，宗室越是聲望高，能力高，越是不敢重用），召他回洛陽，任命左衛將軍楊津為北道大都督，前往支援。
楊津是孝文帝手下猛將楊播（參見《明主昏君》）的弟弟，風度頗似其兄。他聽說定州告急，防備不力，便揮師入城據守。鮮於修禮的軍隊猛攻東門，打下了外城，內城中喧囂一片，軍心不安。楊津親自大開內城城門，出擊迎敵。外城的敵軍始料不及，被沖得七零八落，死傷數百人。
宇文肱和次子宇文連，都死在了這場戰役之中。宇文洛生、宇文泰兩兄弟來不及擦去悲痛的淚水，就隨大軍南撤到了呼沱河畔（今河北正定一帶）。
鮮於修禮的士氣跌入低潮，北魏朝廷派揚州刺史長孫稚與河間王元琛北上，想來個徹底解決，哪知反倒給鮮於修禮的軍隊送上大禮。長孫稚和元琛有私人恩怨，不但不能安心合作，還互相掣肘。戰場上長孫稚不想進攻，元琛不聽，執意要打。兩人的軍隊一支在前，一支在後，失去了呼應。長孫稚的軍隊在走到呼沱河北面的五鹿時被鮮於修禮攔腰截擊，元琛也不回軍相救，魏軍大敗。
鮮於修禮絕處逢生，觸底反彈，勢頭更盛，麾下大軍號稱十萬，超過了北面的杜洛周。這時，起義軍內部發生了內訌。鮮於修禮手下一名叫作元洪業的部將乘他不備，把他殺死，想挾眾投降北魏，軍中一時潰亂。另一名部將葛榮收拾部眾，攻殺了元洪業，成為起義軍新的首領。
葛榮是鮮卑人，本姓賀葛，以前在懷朔鎮做過鎮將，對於打仗的事兒懂的比只做過鎮兵的鮮於修禮要多。（在這種烏合之眾的軍隊裡，有本事的怕橫的，橫的怕不要命的。真正能打仗的未必有出頭之日，不過最後還得靠他們出來收拾殘局。從鮮於修禮到葛榮，從葛榮到後來的高歡、宇文泰，無不如此，所謂「大浪淘沙始見金」）他一接手，起義軍的戰鬥力便發生了質的飛躍。
長孫稚、元琛失利後，北魏朝廷撤了兩人的職，重新任命廣陽王元淵為大都督，章武王元融為左都督，裴衍為右都督，同時受元淵節度，三軍並進。
葛榮避開魏軍主力，率軍退到北邊的瀛州，轉戰白牛邏（今河北蠡縣一帶），以輕騎兵與元融的左軍周旋，擊殺元融。元淵退往定州，定州城中的楊津懷疑他要造反，不但不納他入城，還派都督毛謚出兵討伐。元淵從小路逃跑，在博陵地界被葛榮的部下俘虜，隨後斬首。
連殺了魏軍兩位親王，葛榮春風得意，儼然河北霸主。孝昌二年（公元526年），他自稱天子，國號大齊，改元廣安；然後再度南下，圍攻冀州治所信都城。
在杜洛周軍中不遂心願的高歡，也於此時轉投葛榮的帳下。