“大禹分九州”傳説裏的“九州”，並沒有幷州。幷州古屬冀州之域，舊籍所載，虞舜以冀州地廣，南北太遠，分置幷州。虞舜時期幷州大致範圍是以今太原為中心，北達忻、雁，南至昭餘祁（山西中部的古代湖泊），西越黃河，北逾太行山的廣大地區。後世在此基礎上有所變動。幷州名稱的由來，有很多種説法，有説“地在兩谷之間，故曰幷州”，也有説因在“常水、衞水之間也”，更有説幷州時而並之，時而分之，故曰並。最可信的近代人的説法是，幷州之名，得之於遠古時期的“並人部落”。
東漢的幷州，一直以來都是戍邊的重要區域，地廣人稀程度，跟“難兄難弟”的涼州相比，不遑多讓。這樣一塊兵燹不斷、人煙稀少的土地，註定是一塊“窮兇極惡”之地。
東漢時期，幷州最多時，轄太原、上黨、西河、雲中、定襄、雁門、朔方、五原、上郡等九郡。因為幷州屬於邊境戰事頻發之地，所以西漢至東漢，它的管轄範圍都時有增縮。到東漢末年，幷州境內的南匈奴部、烏桓部，以及境外強大的鮮卑部以及東部羌人都在蠶食着幷州。
早在東漢光武帝時期，南匈奴單于就入主幷州，甚至將他們的王庭設在了幷州西河郡的美稷縣。塞外的烏桓來投靠，被光武帝安排在幽州和幷州落腳，其中幷州的雁門、太原、朔方三郡安置烏桓人。
東漢光武帝希望這些草原上的騎手們，能夠為大漢守衞邊疆。事實上，他們也確實為北部邊疆的穩定，做出了突出的貢獻。只不過，隨着時間的推移，這一股漢化的遊牧民族軍事力量，不滿於漢政權對自己的索取無度，開始公然反叛。
桓靈時期，幷州北端的雲中郡和五原郡，已經逐漸陷入匈奴等外族之手。到了靈帝末年，幷州的定襄、雲中、五原、朔方、上郡5郡，落入了烏桓人、匈奴人、鮮卑人、羌人等胡人的手裏。
破壞影響力最大的是休屠胡的叛亂。休屠也稱屠各、休著各、酋塗，亦作浮圖，休屠各，皆是漢地表音之異譯，有説是大地女神的意思。匈奴休屠部落，早在西漢時期就已經在河西走廊上建立王朝，現在的甘肅武威在西漢初就是匈奴休屠王居地。
此後，休屠胡雜居於幷州、涼州、關中等地，應該説是比東漢時期的南匈奴更早歸附內遷的匈奴部落，此時歸南匈奴管治。靈帝時期，社會動盪不安，四處叛亂不斷，內附的南匈奴部，本身又有為大漢朝戍邊的職責，因此此時中央不斷徵調匈奴人部隊，到幽州去平漁陽張純張舉的叛亂。休屠胡不是南匈奴部的嫡系，因此被南匈奴單于徵調無度，終於引起了他們的反抗。
他們首先幹掉了西河郡太守和幷州刺史張懿，甚至史書有説，他們聯合南匈奴左部胡，號稱有十萬人，殺了南匈奴的單于羌渠，另立新單于。而老單于之子於夫羅不得不南下流亡，並和白波軍勾結入侵司隸校尉所屬的河東郡。
白波軍其名得於起事地西河郡白波谷(今山西襄汾縣永固鎮),，活動範圍在西河、太原、河東一帶。白波軍的舉事成功，可能與休屠胡殺西河郡太守的“蝴蝶效應”有關。但放在188年黃巾勢力捲土重來的大背景下，白波軍，與太行山一帶的黑山軍一樣，同為黃巾餘部勢力。白波軍首領郭太率領十多萬白波軍，聯合內遷於汾河流域的南匈奴單于於夫羅，攻太原郡、入河東郡，擊敗董卓大將牛輔，威脅首都洛陽的安全。
190年關東聯軍討董之時，白波軍事實上助力了關東聯軍。面對關東聯軍，董卓除了畏懼孫堅之外，其他諸侯都被他打趴下了。即便實力如此，董卓見聯軍聲勢浩大，又怕白波軍南下渡河切斷其通往關西的去路，就火燒洛陽，遷都長安。並仍派遣李傕等人繼續和白波軍作戰。
後來白波軍首領郭太戰死，楊奉、韓暹、李樂、胡才等白波將軍，居然成為了“救駕天子，迎奉還都”的大功臣，也成為了繼董卓西涼勢力之後，第二股掌握中央政權的勢力。這裏不展開敍述，在之後的篇章裏，我們會重點介紹。
起初面對幷州亂局，朝廷不是沒有做出挽救的努力。幷州刺史張懿被殺之後，朝廷火速任命丁原為幷州刺史。丁原史書上記載不多，從少量的史料文字中，可以看出他是一位勇猛果敢的武將，常常身先士卒。在他麾下聚集了呂布、張遼、張楊等一批得力干將。丁原還打造了一支幷州狼騎，它是當時東漢最精鋭騎兵與步兵的組合。
史書上，沒有記載丁原上任之後，幷州的局勢控制得如何。只知道上任不久的丁原，就奉大將軍何進之命進京，並擔任守衞京師的要職——執金吾。很快這支入主洛陽的幷州狼騎，在丁原與董卓的火併中，被更有權謀手段的董卓給收編了。丁原也被投靠董卓的義子呂布出賣，身首異處。董卓此時一心只想霸佔洛陽，對幷州已經一點興趣都沒有。至此，幷州的局勢愈發動盪。幷州地方勢力，在“討董”問題上，即“是討伐董卓還是討好董卓”的問題上，開始站隊和互相攻擊。
堅定的“討（伐）董派”張楊，早年時因為武勇過人被幷州刺史張懿任命為武猛從事。丁原繼任後，將其送到皇帝私人武裝西園軍裏進修。大將軍何進派他又回了幷州，募得精兵，並留在上黨，準備殺回京城，消滅十常侍勢力。在觀望期間，順便還平定了上黨的山賊之亂。何進被十常侍殺害後，董卓趁機進京，掌握朝中大權，無惡不作。
於是張楊率兵進攻上黨太守所在治所壺關(今山西長治市北)，但未能攻下。因此張楊轉而攻佔其他諸縣，隊伍發展到幾千人。史料中未能説明為何他要攻打上黨太守，或許是時任上黨太守是“討（好）董派”，也或許張楊此時已經成了山賊流寇性質的武裝。
由此可知，《三國演義》裏的第十五鎮諸侯上黨太守張楊，是作者有意拔高張楊的形象而虛構的，史料中他名義上和事實上都未能當上黨太守，諷刺的是，張楊還被敵人董卓任命為河內郡太守。但是，歷史上確實有記載張楊率領他的武裝，前往河內郡，與袁紹和王匡會盟討董。