1945年8月日本宣佈無條件投降後，八路軍冀東軍區第16軍分區司令員曾克林動作迅猛，率領所部4000餘人立即攻克山海關挺進東北，成為我軍第一支出關的隊伍，在瀋陽，蘇軍一度將日軍倉庫交與曾部管理，因此所獲武器甚多，短時間內即擴軍至20000餘人。不久，曾克林乘蘇軍飛機前往延安彙報，使我軍確立了“向北發展、向南防禦”的戰略方針。
新四軍3師師長黃克誠
延安據此調動了各解放區的11萬部隊和2萬幹部趕往東北，同時命令正前往山東的林彪也轉道出關，就任“東北人民自治軍”司令員。其中僅八路軍山東軍區就動員了60000多人馬，分水陸兩路向東北進發，接到出關命令的，還包括正在蘇北淮陰地區休整的新四軍第3師，時任師長正是後來的開國大將黃克誠。
林彪
新四軍3師是一支英雄部隊，也是當時確定進軍東北人數最多的部隊，待命出動的有四個主力旅和三個特務團共計35000餘人。並且新四軍第3師的前身就是“八路軍南下支隊”，乃是為了支援陳毅粟裕新四軍江北指揮部的黃橋決戰，於1940年在黃克誠的率領下到達蘇北的，本來就是八路軍的老底子。
在出發之前，黃克誠所部曾經接到通知，要求3師留下大部分武器裝備，移交給留在蘇北堅持鬥爭的其它兄弟部隊，然後僅攜帶少量輕武器前往東北。這個通知的起因，便源於曾克林曾經彙報東北地區的武器裝備極為豐富。這對於嚴重缺乏武器裝備的我軍來説，當然是重大利好消息，山東軍區的出關部隊可以獲得極大補充，而留在蘇魯地區的八路軍、新四軍部隊也將大大改善裝備情況，一舉兩得。
所以在山東軍區奉命出關的60000多部隊中，絕大部分照此通知執行，以期更加壯大隊伍。但是黃克誠師長對此持反對意見，他沒有輕信東北到處是武器和物資的説法，下令全師帶齊武器裝備和充足的彈藥，甚至還要求各旅、各團帶上過冬的棉衣出發。在這位後來的開國大將看來，一支部隊若沒有全副武裝而前往另外一個陌生的戰場，那將是非常危險的行為。
黃克誠大將
看着其它兄弟部隊輕裝前往東北，而第3師數萬官兵卻要負重長途跋涉，當時有許多幹部戰士不免抱怨，發牢騷者大有人在，部隊空手出關然後集體換裝日械豈非更划算？然而，隨後的事實證明，黃克誠這一舉動具有驚人的預見性。
從蘇北到關外有上千裏的路程，當第3師的指戰員靠着兩隻腳走到遼西時，已經是東北天寒地凍的11月份（行程50多天）。而在這兩個月裏，國內形勢發生了很大變化，“東北保安司令長官”杜聿明率領的蔣軍第13軍、第52軍已經突破山海關，正在向東三省腹地武裝開進，延安則命令已經到達東北的林彪組織部隊反擊，以阻擋敵人的攻勢。
杜聿明到達東北
1945年11月16日，林彪司令員在興城最先遇見了八路軍山東軍區第7師，這是由原渤海軍區司令員楊國夫（開國中將）率領的8000多山東子弟兵。林彪驚訝地發現，楊國夫師不僅嚴重缺乏武器彈藥，戰士們還穿着單衣，許多戰士甚至沒有鞋而赤着腳作戰！因為長途行軍早已經把鞋子走爛了，卻沒有地方可以補充。
幾天以後黃克誠率部到達東北與林彪會面，他們的一致看法是，進入東北的我軍已面臨極大的困難：在重慶和美國的政治壓力下，蘇軍不准我方進入大城市，不准我軍接收日軍留下的武器裝備和軍用物資，也沒有地方黨組織和政權提供支持，來自山東、蘇北、晉察冀、晉冀魯豫、陝北的11萬大軍面臨“七無”的尷尬境地。
楊國夫中將
經請示延安後，林彪命令東北人民自治軍（東野前稱）實施“讓開大路，佔領兩廂”的戰略，放棄與敵人的正面硬頂，因為蔣軍隨後到達的第71軍、新一軍、新六軍等部都是美械精鋭，缺槍少彈的我軍暫時無力與敵正面交鋒。而在掩護我軍主力戰略展開以及後來的四平保衞戰中，新四軍3師都承擔了最重要的任務，無它，只有這支部隊人數最多、裝備最齊、戰鬥力最強。
在東北野戰軍後來組建的主力縱隊中，聞名天下的二縱（第39軍）和六縱（第43軍）都有新四軍3師的老底子，他們在東北解放戰爭初期起到了定海神針般的作用。而正是黃克誠師長的先見之明，讓這支部隊能夠迅速投入戰鬥，這就是開國將帥們的大智慧！
新四軍3師行軍途中