1904年，日本出兵入侵中國東北挑起了日俄戰爭。經過一年多廝殺，日本獲勝。長期覬覦我國東北土地的日本侵略者，藉口保護南滿鐵路權益，專門成立了一支所謂的“滿鐵”守備隊，另外還留駐南滿一個師團。兩部兵力大約兩萬人，歸屬關東總督指揮。當時日本在其控制的東北地區設置了“關東州”，所以這支部隊也稱為“關東軍”。
1919年，為提升關東軍地位，日本撤銷了關東都督府，設立了權限較小的關東廳，並在關東都督府陸軍部的基礎上組建了關東軍司令部，統帥駐紮在中國東北的日軍各部。關東軍從此直接受日本天皇指揮，獨立性大大增強。
太平洋戰場的炮灰
眼看德國進攻蘇聯受挫，日本十分忌憚，不敢貿然進攻蘇聯。趁英法等國忙於歐洲的非洲戰事，無力東顧之機，日本人決定先發動太平洋戰爭。關東軍於是奉命南下。
1941年12月7日，日本偷襲珍珠港，挑起太平洋戰爭。次年6月，日軍在中途島海戰中遭到慘敗，被迫停止了戰略進攻，轉而採取守勢。關東軍也不敢再主動挑起事端。1942年下半年，日本《陸軍綜合作戰方案》專門指示關東軍，要“防止對蘇發生戰爭，維持北方靜謐狀態”，但仍在繼續擴充關東軍力量。1942年10月，日本將關東軍司令部升格為關東軍總司令部，增設兩個方面軍司令部和裝甲軍、關東防衞軍司令部以及第二航空軍司令部。
從1943年下半年起，為挽回太平洋戰場的頹勢，日本大本營開始陸續從關東軍抽調兵力增援太平洋戰場，指望這支“精鋭之師”能夠挽救自己失敗的命運。1945年1月，大本營又從關東軍抽調13個師團和一支特設的具有高度機械化的常備兵團赴太平洋戰場。可是，關東軍不但沒能扭轉太平洋戰爭的敗局，反而白白充當了對美作戰的炮灰。4月初，美軍攻佔沖繩島，並對日本本土開始空襲，日本不得不集中兵力進行本土決戰的準備，為此又從關東軍抽走7個師團，並將關東軍儲備的近1／3的戰略物資以及大批人員調回國內。
1945年5月初，德國無條件投降後，蘇聯的視線逐漸轉向遠東地區。中國共產黨領導下的東北各抗日武裝也不斷打擊和消滅日軍力量。關東軍只好重新擴充力量，進行備戰。為此，關東軍將在東北的25萬退伍的日本軍人重新徵集，並編成8個師團、7個混成旅團、1個坦克兵團和5個炮兵聯隊，作為臨時部署兵力的補充。經過迅速補充，關東軍兵力一舉達到24個師團，約70萬人。關東軍兵力的增加只是一種表面的膨脹，武器裝備和戰鬥素養僅僅相當於以前的8個半師團。特別是由於日本在各個戰場連遭慘敗，士氣低落，關東軍往日的威風已經不復存在。
成為逃跑兵團
歐洲戰事結束後，蘇軍開始騰出手來對付關東軍。1945年8月8日蘇聯向日本宣戰。此刻，蘇軍元帥華西列夫斯基指揮的150萬重兵已經利用夜幕掩護在中蘇邊境展開。9日凌晨，蘇軍突然從三個方向同時向日軍發起了強大的突擊行動。拂曉，蘇軍幾乎在所有方向上跨過了國界，強渡了額爾古納河、黑龍江和烏蘇里江，分別從後貝加爾、黑龍江沿岸和濱海地區進入了中國東北境內，在5000公里的正面戰場上展開了強有力的攻擊。9日，毛澤東主席也發表了《對日寇的最後一戰》的聲明，配合蘇軍的進攻行動。
儘管關東軍早有對蘇作戰的準備，甚至一度還拉出與蘇軍決戰的架勢，但是，由於關東軍設想決戰的時刻是1946年，不僅未能偵察到蘇軍的實力，甚至連蘇聯正式對日宣戰的消息，也沒能提前得到。在蘇軍的強大攻勢下，關東軍精心佈設的陣線很快就土崩瓦解，總司令部慌忙決定放棄“新京”(長春)，固守通化，並指令偽滿洲國皇帝溥儀隨總司令部遷往通化，企圖在通化一帶與蘇軍決戰。此時的關東軍官兵已經完全沒有了鬥志，紛紛逃命。原來設想的大決戰竟然化為一場拼命的追逃遊戲。蘇軍各個方面軍的作戰行動都進展順利。特別是由克拉夫欽科上將指揮的近衞坦克第六集團軍在大興安嶺的突擊行動收到了奇效，在不到一週時間已前突到東北中部地區，創造了一個奇蹟。關東軍從此一蹶不振。
難逃滅亡命運
8月10日，日本大本營下達命令，指示關東軍在萬不得已的情況下，可以放棄滿洲，退守朝鮮。但長期以日軍“王牌”自居的關東軍為了維護自己“皇軍之花”的臉面，仍然負隅頑抗，不肯投降。可是，這種打腫臉充胖子的姿態並不能重新喚起日本的士氣。8月15日，日本天皇裕仁公開宣佈投降。但驕橫的關東軍藉口沒有收到日軍大本營的停戰命令，仍然繼續抵抗。到17日，除海拉爾、虎頭和東寧等少數築壘地域的殘餘日軍仍在頑抗外，關東軍已經完全喪失了抵抗能力。眼看敗局已定，關東軍最後一任總司令山田乙三大將終於向蘇軍提出了停戰談判的請求。
8月19日中午，蘇軍阿爾捷緬科上校率5名軍官、6名士兵組成的軍使團，在9架殲擊機護航下到達長春機場與日軍進行談判。迫於壓力，山田乙三向蘇軍代表交出了象徵指揮權的軍刀，宣佈自己和部屬成為蘇軍俘虜。此次戰役中，關東軍損失約67.7萬人，其中8.3萬人被擊斃，59.4萬人投降，而蘇軍僅傷亡3.2萬人。
不僅如此，那些靠關東軍發家的日本高級戰犯大都也沒有逃脱正義的審判。曾任關東軍憲兵司令、參謀長的東條英機，曾任關東軍副參謀長、參謀長的板垣徵四郎，曾任關東軍參謀長的木村兵太郎，曾供職於關東軍司令部、後任第七方面軍總司令的土肥原賢二，曾供職於關東軍司令部、後任第十四方面軍參謀長的武藤章，均被送上了絞刑架。其他一些臭名昭著、惡貫滿盈的關東軍將領要麼受到懲罰，要麼揹着千古罵名苟且偷生。
日本關東軍為何在蘇軍面前不堪一擊？
其一，蘇軍精通草原上的大兵團作戰，關東軍主要依靠步兵夜間襲擊。蘇聯軍隊繼承了當年蒙古騎兵大兵團機動作戰傳統，坦克裝甲車輛、飛機、火炮、後勤車隊、重化學工業的迅猛發展使這一傳統完成了現代化。這種機械化戰法在開闊的平坦地形上有明顯優勢。斯大林格勒、庫爾斯克、白俄羅斯、東普魯士諸戰役就是證明。日軍基本上仍系舊時代的舊戰法，主要依靠步兵夜間襲擊。這種戰法無力與蘇軍抗衡。後來在二戰期間，蘇軍攻入我國東北全殲日本關東軍，再次證明了這一點。
其二，蘇軍在裝甲車和坦克方面佔有優勢，而日軍的技術裝備相對落後，陸軍裝備實力遠遜於蘇軍。蘇聯軍事工業發達，武器裝備先進，數量龐大，品種齊全。諾門罕戰役雙方
投入的作戰兵力大約均為5萬～6萬人，但雙方兵力的編成、結構和使用有差別。蘇軍側重機械化部隊，在坦克、裝甲車輛、後勤運輸上佔優勢。火炮數量雙方大體相當，但蘇軍大口徑炮數量佔優，射程較日方遠，彈藥供應充足，每門火炮發射的彈藥相當於日軍的3～
4倍。蘇軍坦克無論在功率、裝甲、重量、火炮口徑、火炮長度還是在射程、車速等方面，均比日軍高出不止一個檔次。在戰鬥中，日軍第1坦克師團參戰的坦克和裝甲車輛，幾乎全被擊毀。日軍不僅坦克低劣，而且戰術單調，失敗是必然的。
其三，蘇軍最終掌握了戰場制空權，影響了諾門罕戰役的結局。
戰役初期，雙方航空兵實力大體相當，蘇軍飛機數量略佔優勢，一線配置作戰飛機250
架（戰鬥機150架、轟炸機100架）；日軍作戰飛機150架，由於已在中國戰場作戰兩年，侵略經驗豐富，特別是在6月27日偷襲轟炸塔木斯克機場（蒙古境內）的戰鬥中，擊毀擊傷近百架蘇軍戰機（日方資料稱124架），改變了空中力量對比。但蘇軍極為重視制空權的爭奪，蘇軍總參謀部很快調來最優秀的飛行員，並從內地轉到戰區大批新型伊—16戰機和海鷗式戰機。在激烈的爭奪制空權作戰中，蘇軍漸佔上風。戰爭後期，蘇聯空軍不僅在戰場上實施近距離對地面的空中支援，而且轟炸了日軍腹地的將軍廟機場及後勤設施。由於損失了大量最有經驗的飛行員，日軍在空中已處弱勢，制空權易手。
其四，蘇軍能夠勝利的另一個重要因素，是當時日軍陸、空軍主力被牽制在武漢、廣州戰役，對諾門罕地區的日軍無後繼增援實力。1939年8月30日，諾門罕日軍被圍殲當日，日軍參謀總長向關東軍司令官下達命令：“大本營的意圖是在處理中國事變期間，以帝國軍隊的一部分在滿洲防備蘇聯，維持北方的平靜。為此在諾門罕盡力不擴大作戰，籌劃迅速結束之。”
其五，指揮官朱可夫才是蘇軍取得勝利的直接原因。朱可夫與關東軍統帥部PK，毫無疑問，朱可夫勝出。朱可夫參加過第一次世界大戰，十月革命爆發後的次年加入蘇聯紅軍，在與高爾察克白軍的戰鬥中從士兵升至連長，後升任騎兵團團長、坦克團團長、騎兵旅旅長、騎兵第4師師長、騎兵第3軍和第6軍軍長等職。朱可夫擔任騎兵團團長時，就主張建立坦克兵團，反對按傳統的辦法將坦克分散配屬給步兵，以發揮快速突擊的作用。蘇軍組建第一批坦克部隊時，總參謀部要選拔兩名傑出的騎兵團長擔任坦克團團長。斯大林確定的最後人選是：朱可夫和帕伏洛夫。朱可夫以極大的熱情和上進心投入工作，以罕見的耐心和剋制態度去做那些看來是細小的事情，並以講究方法和深思熟慮的態度要求別人完成任務，很快就把這支部隊治理得井井有條。上級每次組織軍事演習，朱可夫團的成績都名列前茅。而朱可夫一舉成名，卻是在諾門罕戰役之後。1939年6月2日，蘇聯國防人民委員伏羅希洛夫在莫斯科接見了朱可夫，派他到諾門罕前線指揮作戰。朱可夫曾在1938年被派往中國擔任軍事顧問，對日軍的作戰特點比較瞭解。