在中國古代歷史上，大司馬和大將軍一樣，都是地位顯赫的武將官職。《周禮》以大司馬為夏官之長。韋昭《辨釋名》曰： “大司馬，馬，武也，大總武事也。大司馬掌軍，古者兵車一車四馬，故以馬名官。訓馬為武者，取其速行也。” 如黃帝時期的大司馬容光，西周大司馬姜子牙（呂尚、姜尚），齊國大司馬田穰苴（司馬穰苴）。
秦始皇嬴政建立秦朝後，沒有設立大司馬官職。到了西漢時期，武帝劉徹於建元二年（前139年）罷太尉，元狩四年（前119年）始置大司馬，以大將軍衞青、驃騎將軍霍去病功多，特加號大司馬，以冠將軍之號。自此之後，大司馬成為漢朝地位最高的武將官職。而就本文所要説的東漢末年，則有兩位諸侯分別被東漢朝廷封為“大司馬”。不過，這兩位大司馬都沒有獲得善終的結局，一個被曹操消滅，另一個作為漢室後裔，則被公孫瓚除掉。
大司馬：劉虞
劉虞（？－193年），字伯安，東海郡郯縣（今山東省郯城縣）人。東漢宗室大臣，東海恭王劉強之後，丹陽太守劉舒之子。因此，和劉備、劉璋、劉表等人一樣，劉虞也是漢室後裔。中平元年（184年），黃巾起義爆發，黃巾軍攻破冀州諸郡。此後，朝廷任命劉虞為甘陵國相，前去安撫百姓。
中平五年（188年），朝廷因為劉虞在北方的威望很高，任命他為幽州牧。
《後漢書·卷七十三·劉虞公孫瓚陶謙列傳第六十三》中記載：及董卓秉政，遣使者授虞大司馬，進封襄賁侯。
永漢元年（189年），董卓篡奪大權，派使者授予劉虞大司馬，進封襄賁侯。對此，在筆者看來，雖然董卓挾天子以令諸侯。但是，為了拉攏這些刺史和州牧，董卓也需要用加封官職來進行籠絡。彼時，劉虞作為幽州牧，又是漢室後裔，自然成為董卓的重點拉攏對象。於是，董卓以東漢朝廷的名義，授予劉虞大司馬這一官職。
初平元年（190年），董卓拜劉虞為太傅，召他入朝任職。但因道路阻塞，冊封的命令竟不能夠到達。公孫瓚奉命征討烏桓時，受劉虞的節度。公孫瓚只注重自己的部隊強大，放任部曲襲擾百姓，而劉虞注重仁義，很關愛百姓，於是與公孫瓚之間逐漸出現了矛盾。
初平四年（193年），劉虞自己糾合十萬人進攻公孫瓚。臨行前，幽州牧劉虞的從事程緒勸阻，被劉虞斬首。劉虞告訴士兵：“不要多傷人，只殺公孫瓚一個就行了。” 但是，劉虞的士兵不擅於作戰，又愛惜百姓的房屋，下令不許焚燒城池，一時間竟攻不下來。公孫瓚於是召集精鋭勇士數百人，順風縱火，趁勢突襲。劉虞遂大敗，向北逃至居庸縣。公孫瓚追擊，三日城陷，抓住了劉虞。
最終，公孫瓚派人殺了劉虞。劉虞死後，其舊部鮮于輔、齊周、鮮于銀推舉閻柔為烏桓司馬，與公孫瓚部將鄒丹戰於潞河之北，斬殺鄒丹等四千餘人。烏桓峭王及後與劉虞子劉和合袁紹兵於興平二年（195年）破公孫瓚於鮑丘，殺二萬餘人。
大司馬：張楊
張楊（？－198年或199年）（《後漢紀》作張陽），字稚叔，幷州雲中（今山西原平縣西南）人，東漢末年羣雄之一，割據河內。中平六年（189年），漢靈帝駕崩，蹇碩被大將軍何進所殺，何進派遣張楊回幷州召集兵馬，留在上黨郡，並平定了上黨郡的山賊之亂。但何進不久之後就被宦官張讓等誅殺，董卓趁機進入東漢都城洛陽，掌握朝廷大權，無惡不作。於是張楊率兵進攻上黨郡太守於壺關，但未能攻下，於是張楊率所領寇略諸縣，逐漸壯大了自己的實力。
初平元年（190年），袁紹、袁術、曹操等關東諸侯組成聯軍，討伐篡奪東漢朝廷大權的董卓。對此，張楊也選擇了加入。後來，董卓詔封張楊為建義將軍、河內太守。自此開始，張楊長期割據在河內郡一帶，成為東漢末年的一方諸侯。初平四年（193年），呂布被趕出長安後，投奔南陽袁術，袁術因呂布胡作非為而欲除之，呂布因害怕而投奔了張楊。對於張楊來説，和呂布這位名將存在比較良好的關係。所以，興平元年（194年），袁紹暗中使人殺掉呂布，呂布從袁紹處逃出後再次投奔了張楊。
興平二年（195年），漢獻帝因為李傕、郭汜作亂而流亡至河東，張楊率兵前往安邑救援。百官都很飢餓，張楊使數千人揹着米提供食物。在此基礎上，張楊因為救駕有功，所以被漢獻帝劉協拜為安國將軍，假節、開府，封晉陽侯。到了建安元年（196年），張楊被漢獻帝劉協拜為大司馬、假節鉞。對於當時的漢獻帝劉協，只能通過冊封官職，以此來籠絡張楊這些諸侯。當然，後來曹操迎奉了漢獻帝劉協，總算讓東漢朝廷不用繼續顛沛流離了。至於張楊的大司馬這一官職，也就沒有實質的意義了。換而言之，張楊沒有實力挾天子以令諸侯，儘管有大司馬的頭銜，卻沒有相對應的權力。
根據《三國志》等史料的記載，建安三年（198年），曹操圍呂布於下邳，張楊與呂布的關係向來比較好，想要去救援，卻失敗了，於是率軍前往東市，遙與呂布成掎角之勢。張楊部下楊醜，將張楊暗殺。因此，張楊及其勢力，最終被曹操徹底消滅。而就張楊的朋友呂布來説，同樣在之後被曹操擊敗。在解決張楊、呂布、袁術等諸侯後，曹操擁有了和袁紹展開官渡之戰的基礎。而就袁紹那一邊，除掉大司馬劉虞的公孫瓚，最終則是被袁紹消滅。所以，在公元199年前後，袁紹獲得了幽州、青州、冀州、幷州這四個州的地盤。對此，你怎麼看呢？