從1931年日軍侵犯我國東北開始，一直到1945年日方宣佈投降為止，十四年之中發生了無數的堪稱“慘烈”的戰役，比如淞滬會戰、常德會戰等等。可是，在若干場的大小戰役中，持續時間最長、敵我雙方陣亡士兵數量最多，同時也是唯一一次的，寫在日本作戰史中的，日軍傷亡數量超過我軍的戰役就是被譽為“東方莫斯科保衛戰”的衡陽保衛戰。
1944年，曾經痴心妄想的喊出“三個月亡華”狂妄口號的日軍，已經被困在中國戰場13年之久，而且這時除了空襲外，還是尚未觸碰到我國的西南地區。而此時在中國戰場都難有進一步行動的日本，又陷入到了和美軍的曠日持久的消耗戰中。
日本國土面積有限，各類工業資源也十分匱乏，而美軍進入戰場後，也迅速的切斷了日本的海上交通補給線。除了是企圖進一步的侵華外，同時也是為了開闢西南的陸上交通線，日軍高層制定了“一號作戰”的計劃，內容就是三天內攻取衡陽，七天內打通西南交通線。
1944年5月27日開始，已經完成集結的日軍發動了豫湘桂戰役，並於6月18日佔領長沙，隨後又兵分三路進犯衡陽。當時的衡陽承擔的是交通樞紐的作用，比如粵漢鐵路和湘桂鐵路的交匯點都是位於衡陽，而且衡陽也是湘江流域範圍內的最大城市之一。
之前的常德會戰和長沙會戰中，衡陽也都是主要遭受戰火的區域之一，所以有不少的難民和政府機關也都在此地，這也使得當時的衡陽超過省會長沙，成為湖南的最大城市。而日軍此番氣勢洶洶的奔來，一場惡戰也肯定是在所難免了。
此時負責在衡陽擔當守衛工作的是曾參加過臺兒莊戰役、武漢會戰和長沙會戰的的第十軍軍長方先覺。日軍方面則是由被譽為日本名將的，第11軍司令官橫山勇指揮。士兵數量方面，方先覺手下共有17000餘人，而對面的日本則是十萬大軍。
因為長沙已經淪陷，奉命堅守的方先覺軍長還是以防禦作為主要戰略，並下令士兵們在地面上修繕碉堡、挖戰壕，樓房內挖射擊孔，地下開挖坑道，同時組織將城中百姓向安全地區轉移。
1944年6月22日晚8點，從我方設在耒水東岸的安全部隊率先發現日軍行蹤並開槍交火開始，衡陽保衛戰也正式打響！戰役開始的同時，方先覺軍長又下達命令，如若抓到日軍便衣特務，一律無需上報，當場處決！
6月23日，雖然日軍強渡耒水失敗，但是在三日後，日軍已經攻佔了衡陽機場，同時從西和西南部的位置，形成了對衡陽的半包圍狀態。6月28日，日軍終於向衡陽城發動總攻，而國軍和日軍雙方圍繞張家山等高地據點，進行了反覆20多次的爭奪，反覆的爭奪戰中，比如停兵山等高地據點我方的守軍全部陣亡，無一人生還，而日軍也同樣付出了上千人的代價。
經歷的暫時的休整後，日軍再度於7月11日發動第二次進攻，而且還不惜以違背國際公約使用大量的毒氣彈等生化武器的代價下，還是被守軍擊退。待到8月3日，又經過一輪休整的日軍開始對衡陽城內傾瀉大量的炸藥，並輔以步兵的穿插攻擊。
長沙歷來就被認為是“火爐城市”，同樣位於湖南的衡陽自然也是差不多少，尤其南方的夏季除了高溫外，還有不停的降雨。而氣候因素也使得城內守軍的日子愈發難過，倒不是天氣炎熱無法忍受，而是躺倒在陣地之前大量的日軍屍體開始腐爛，並散發出令人難以忍受的陣陣惡臭。同時，瘧疾等疾病也開始在軍隊中悄然蔓延開來。
因為遲遲得不到增援，城內守軍的食物也成了問題，不誇張的說，當時整個衡陽城中已經到了連樹葉和草根都被吃光了的地步，甚至連天上的鳥都要繞過衡陽城飛翔。
8月7日，日軍坦克衝破衡陽。待到8月8日，最早出現在夏商周時期的衡陽原型衡湘國，並在楚莊王時期形成基本城市雛形的衡陽城，經過城中軍民47天的艱苦守衛後宣告陷落！
此戰，中方17000人的軍隊傷亡了15000餘人，其中6000餘人英勇就義；日寇的十萬軍隊傷亡了60000餘人，其中有29000餘人被打死。
衡陽保衛戰中，雖然中方失敗，但是同樣起到了牽制日軍腳步，打亂“陸上交通線”的計劃。另外，衡陽保衛戰更加振奮了我國軍民的抗日決心，並提升了我國的國際地位，還被譽為是“東方的莫斯科保衛戰”。
抗戰勝利後的1947年8月，衡陽被授予“抗戰紀念城”的稱號，並於嶽屏山建塔留念。