1947年5月，陳毅指揮華野五個縱隊經過三日激戰，在孟良崮全殲國民黨整編第74師，敵師長張靈甫自殺。
第74師，是蔣介石的五大主力之一，全師被殲，師長有去無回，蔣介石氣得暴跳如雷。6月25日，他就發起了“魯中第三期會戰”，進行報復，意在圍殲陳毅手下的葉飛、陶勇第一、第四縱隊。
蔣介石以為若把陳毅的一、四縱吃掉，整個華東戰場的形勢就會翻轉，以7個整編師、20多萬兵力對他們發起三面夾擊。陳毅當即決定兩個縱隊轉兵南下，會攻滕縣。
時值雨季，葉飛和陶勇的部隊行軍、作戰變得十分困難，淋透了，涼風一吹，渾身起雞皮疙瘩；雙腳被雨水泡腫，再被砂石一磨，腳底都破了皮。並且，所剩無幾的糧食也發了黴，大部分連隊斷了炊。7月20日，兩個縱隊停攻滕縣，向東轉移。
敵第65、85兩個整編師並排向一、四縱逼進，先頭部隊距滕縣僅十餘公里。24日，葉飛和陶勇兩個縱隊撤到棗莊以東地區，敵整編第7、45、57師和整編第5師又從臨沂方向趕過來，敵第75師自泗水南下，在津浦鐵路一線進行阻擊，兩個縱隊陷入了國民黨軍7個整編師的合圍之中。情況變得異常緊急。
為了突圍，葉飛和和陶勇經過商量，決定留下四縱第10師牽制敵人，掩護主力掉頭向西，跨過魯南，揮師越過津浦鐵路，進入魯西根據地去。
此舉就是棄卒保帥。
陶勇司令員交代師長盧勝說：“不論付出多大代價，一定要保證主力突圍。你們掩護任務完成後，再同山東內線兵團會合。”
陶勇準備犧牲一個師，去保住兩個縱隊。在出發前，他心情難受，對盧勝也是難分難捨，特地叫人做了幾盤菜，還備了一些酒，把盧勝和政委韓念龍叫過來。
陶勇握住他們的手，說：“老盧、老韓，這次留下你們孤軍與幾十倍的敵人周旋，必定凶多吉少，但為了大局，你們要多保重!”
盧勝心裡清楚，這是送行酒，和韓念龍一起表示：“請司令員放心，只剩下一兵一卒，也要掩護主力安全轉移!”
兩人的表態，讓原本悲壯的送行，反而變得慷慨激昂。
25日晨，盧勝和韓念龍率領部隊到達棗莊東側的鼻子山，29團的前衛連與國民黨軍遭遇了。盧勝立即命令各部佔領有利地形，準備阻擊敵軍。當盧勝登上山頂時，發現敵人正在山腳下一條鄉村路上成一線展開。他說：“要牽制敵人，我們就要擺出個架勢！”馬上調整部署，將手下三個團在鼻子山組成了一條半月形防線，達到10裡之長，完全是兩個縱隊的架勢。
7時許，戰鬥就打響了。
國民黨軍漫山遍野地衝了上來，第10師三個團打得狠，打得猛，很快就打退了敵人的第一次進攻。緊接著，敵軍發動第二、三次進攻，火力一次比一次猛，敵機也來了助戰。激戰持續到中午，槍聲才稀落下來。
但是，國民黨大軍始終沒有突破前面的第10師防線。
蔣介石三次進攻都沒能奏效，以為真遇上了陳毅的主力，繼續調動大量兵力向第10師陣地猛攻。為了儲存力量，盧勝下令將部隊轉移到石橋、張家莊、黃連山一帶，繼續阻擊。
第二天上午8時，當部隊到達黃連山腳下時，敵軍也正好趕到。第29團迅速攀上石壁，先敵佔領了半面山。
敵軍依仗著強大的炮火，猛烈轟擊29團陣地。戰士們居高臨下，把幾十斤甚至上百斤重的石塊推了下去，砸死砸傷不少敵兵。但是，由於敵人太強大，第10師的傷亡也十分巨大。為了掩護主力安全轉移，盧勝和韓念龍咬緊牙，進行死頂。
戰至第三日黃昏，全師還剩2500人。盧勝、韓念龍於是帶著隊伍轉移到上道溝。此時，糧食沒有了，許多輜重和多餘的武器成了累贅。盧勝下令輕裝前進。
幹部戰士一時想不通。師炮兵營營長王英找到盧勝，紅著眼睛說： “這些炮來之不易啊!是多少戰友用生命換來的，說什麼我們也得帶著！”
盧勝說：“不要計較幾門炮、幾件物資。留得青山在，不怕沒柴燒。”
全師扔掉了包袱，行動變得輕捷了，在山溝裡轉來轉去，與敵人打起了游擊戰。他們走幾里，派一個連和敵軍交戰一會兒。敵軍剛把兵力集中起來，盧勝又派兵跑到另一個山頭放槍，弄得敵人想打，打不著，欲丟又捨不得，只好跟在他們的屁股後邊死攆。
8月2日，一縱和四縱主力終於突出了敵人的重圍。3日凌晨，盧勝趁敵軍調整部署之機，兵分兩路，越過臨費公路，經青駝寺，直達魯南解放區。
在六天之中，全師同合圍的敵軍進行大小18次戰鬥，自己也付出了巨大代價。全師4000多人只剩下1600多人，戰鬥減員近2／3。但是，他們成功地掩護了主力突圍。陳毅說：“盧勝救了兩個縱隊！”