1937年，抗日戰爭全面爆發後，日軍進攻上海，逼近南京。迫於壓力，蔣氏和我方達成協議，明確南方八省的游擊隊伍和紅軍改編為新編第四軍，簡稱“新四軍”，葉挺為軍長，項英為副軍長，張雲逸為參謀長，袁國平為政治部主任。
改編按照國軍編制，在新四軍部隊一開始沒有設政委職務，葉挺、項英、張雲逸、袁國平成為新四軍的第一批領導組織者。合作抗日初期，形勢基本平穩，配合也比較密切。但是到了1940年之後，局勢直轉直下，蔣氏心懷鬼胎，擔心新四軍在南方不斷壯大，強行要求在黃河以南的新四軍在1個月內全部集中到黃河以北。
為了維護抗日大局，從1941年1月開始，葉挺率新四軍約9000多人向北轉移。讓人氣憤和震驚的是，蔣氏竟然趁着新四軍集合轉移的機會，想一舉消滅新四軍。
1941年1月6日，新四軍部隊來到皖南涇縣一片茂密樹林的時候，突然遭到蔣軍8萬多人的偷襲，新四軍大部犧牲，葉挺被捕，項英犧牲，張雲逸逃脱，而袁國平則舉槍自盡，袁國平成為皖南事變中犧牲的最高將領，也是最悲壯的一位將領，這便是震驚中外的“皖南事變”。那麼，當時袁國平遭遇了什麼？他為什麼選擇舉槍自盡？
在皖南涇縣樹林裏遭蔣軍襲擊後，袁國平帶領殘餘部隊展開突圍，在突圍中，他被子彈擊中，傷情非常嚴重。他和戰士們在一處山窩處休息的時候，警衞連副連長李甫率100多名戰士也突圍到了該處。李甫看到了首長傷得那麼嚴重，非常難過，就安排戰士抬着袁國平一起突圍。袁國平覺得自己傷得那麼嚴重，會影響部隊行軍速度，便強烈要求李甫帶着戰士們先走，自己帶着少部分兵力斷後。李甫當然不會把首長留下，他知道，斷後基本上就意味着犧牲。
在突圍過程中，袁國平看到戰士們一個個犧牲，非常痛心，他認為自己是累贅，連累了戰士們，讓部隊付出了很大犧牲。為了讓大家可以輕裝上陣，避免更多人犧牲，袁國平趁大家不注意的時候，掏出手槍，朝着自己腦門開了一槍，頓時血流如注，壯烈犧牲。
看到首長如此深明大義，以這樣的方式結束自己的生命，戰士們非常傷心，圍着袁國平的遺體痛哭起來。
袁國平犧牲後，李甫為了帶領戰士們突圍，把遺體交給當地游擊隊的負責人劉奎，叮囑他務必保管好。劉奎和一名木匠把袁國平的遺體安葬在木匠的祖墳地裏。為了留好記號，劉奎用刺刀在青磚上刻了“袁國平”3個字，並把青磚放在遺體邊，還在袁國平的身邊放了一根軍用皮帶。
劉奎交代木匠，務必要保護好袁國平的遺體，等打完仗，他會回來找遺體。他把袁國平的姓名、職務、籍貫等信息，寫在一張紙上，隨後率部繼續征戰。1949年，我軍攻克了蕪湖，木匠委託兒子去部隊打聽是不是新四軍的部隊，並通過部隊和劉奎取得了聯繫。
後來，根據命令，南京軍區將皖南事變中犧牲的項英、袁國平重新安葬。劉奎從抗美援朝戰場被召回，根據其作出的記號，從皖南涇縣將袁國平的遺骨找到，並與項英的遺骨一起運回南京，用石膏還原後入棺，安葬在雨花台畔。
袁國平犧牲的時候只有35歲，他的革命生涯雖然短暫，卻做出了不可磨滅的貢獻。
袁國平畢業於黃埔軍校第四期政治科，是名副其實的科班生，軍事理論紮實，實踐鬥爭豐富，先後參加了北伐戰爭、南昌起義、廣州起義。1930年，袁國平擔任紅3軍團政治部主任，此後先後擔任了軍政委、紅1方面軍政治部主任、紅軍總政主任等職務。
組建新四軍的時候，毛主席特意指定理論功底深厚、軍事實踐豐富的袁國平任新四軍政治部主任，組建新四軍政工系統。袁國平從遙遠的西北地區來到江南任職，2年時間內，新四軍政治工作開展得有條不紊，促進了新四軍政工工作的制度化、系統化和規範化。令人遺憾的是，這樣一位才華橫溢的幹部過早犧牲。他踐行了“如果有100發子彈，要用99發射向敵人，最後一發留給自己，決不當俘虜”的莊嚴諾言。