1934年下半年，各路紅軍在國民黨軍隊的圍追堵截下，主力被迫進行了艱苦卓絕的長征，但同時，紅色根據地需要留守部分隊伍打游擊，以迷惑、牽制敵人，從而掩護紅軍主力從容集結突圍，這些留隊伍，為紅軍長征的勝利作出了重要貢獻。
比如贛閩蘇區的中央紅軍突圍時，當時為了迷惑敵人，蘇區的留守部隊有一萬六千多人，編成紅二十四師、十多個獨立團及其他地方部隊接過防務任務。在北、東、西三路，與國民黨軍隊展開了頑強的阻擊戰，把幾十萬“圍剿”蘇區的敵軍，緊緊拖在這一帶，為中央紅軍集結、休整、補充贏得了時間，為紅軍主力轉移突圍起到了重要的掩護作用。
這些留守部隊，各部門、各機關仍然保持原來的名稱；留下來的各部門負責人，繼續照常領導執行各部門的工作制度和任務。《紅色中華》報仍然以中華蘇維埃共和國中央政府機關報的名義正常出版，宣傳內容仍然是擴大紅軍、徵收公糧、優待紅軍家屬等，製造各種假象，成功地迷惑了敵人，使敵人一直以為紅軍主力還在這裏，不敢貿然進犯，只能小心翼翼地一步一步向前推進，直到一個多月之後，才知道中了空城計，此時的紅軍主力，已經安全轉移到了湖南、廣西一帶了。
但是，敵人大部隊佔領根據地後，大搞白色恐怖和反攻倒算，實行殘酷至極的軍事“圍剿”和政治“清鄉”，這些留守紅軍的處境就非常艱難，只得上山打游擊，因此，大部分留守隊伍都化整為零，損失慘重，甚至全軍覆沒。
然而，在紅25軍長征的時候，有一支僅60來人一個連的留守隊伍，在當時25軍223團政治處主任陳先瑞的率領下，通過短短二年時間的發展，離開紅軍主力部隊他，獨立開展地方工作，並很快站穩腳跟，打開了新的鬥爭局面，部隊發展到三四千人一個獨立師。他因此為創建鄂豫陝革命根據地做出了重要貢獻，被毛澤東同志譽為紅軍的“陝南王”。
1934年12月，紅二十五軍在政委吳煥先、副軍長徐海東率領下，千里轉戰，甩掉國民黨軍的圍追堵截，勝利地進入了陝西省西南地區。領導決定以鄂豫陝三省邊區為立足之地，創建新的革命根據地。
這個“三角”地帶，北靠秦嶺，南瀕漢江，懸崖峻峯，地勢險要，是歷代兵家縱橫馳騁的戰略要地，素有“全秦咽喉”之稱。明朝末年，農民起義軍領袖李自成曾率軍幾進幾齣這一地區，為中國農民革命的歷史譜寫下光輝的篇章。
為此，軍委決定由時任223團政治處主任的陳先瑞，率領該團3營7連的60來人留守根據地，並給他佈置三項重要任務，第一、瞭解鄂陝邊界地區的民情地形，儘快熟悉和掌握地方情況；第二、以抗捐、抗税、抗糧、抗丁、抗債為鬥爭口號，廣泛發動羣眾，鎮壓土豪劣紳，摧毀地方反動勢力，建江蘇維埃鄉村政權；第三、與紅軍主力保持聯繫，將敵情動態和單獨活動情況，及時向上級領導做出報告。
陳先瑞接到任務之後，着手在鄂陝邊界的鄖西、山陽、鎮安、旬陽等地，開展了轟轟烈烈的宣傳發動和組織羣眾工作，創建新的革命根據地。
首先，第七連對外改稱“鄂陝遊擊師”，陳先瑞任遊擊師師長。從此，陳先瑞就離開紅軍主力部隊，獨立開展地方工作，並很快站穩腳跟，打開了新的鬥爭局面。
其次，成立了一批區、鄉、村蘇維埃政權，發展和壯大了地方武裝力量。雖然紅25軍主力長征走了，國民黨軍仍以20多個團的兵力，所謂的“劃區清剿”，拖住了一大批“圍剿”紅25軍的國民黨軍隊。
再就是主動出擊打勝仗，一年之後陳先瑞指揮這支隊伍，首戰青銅關旗開得勝，殲敵龐炳勳部第四十軍一一五旅二三○團一個營，斃傷敵營長以下百餘人。同時，乘勝前進，一舉佔領寧陝、佛坪等幾個縣城，進一步擴大紅色政權。
1937年，這支部隊已經發展到了三四千人，奉命到達商縣地區，與南下配合友軍作戰的紅十五軍團勝利會師。軍團領導徐海東、程子華、王首道等，對紅七十四師獨立堅持陝南的游擊戰爭，都給予很高的評價。
抗戰期間，這支英勇的紅軍隊伍改編為八路軍第一一五師後方留守處，後為西北留守兵團警備第四團、警備第一旅第二團。陳先瑞擔任留守處主任等職，擔負保衞陝甘寧邊區、保衞黨中央的任務。後任豫中軍分區司令員兼政治委員，開闢了豫中抗日根據地。
抗戰勝利後，陳先瑞奉命南下，任豫中軍分區司令員兼獨立第三旅旅長，後任桐柏軍區副司令員、豫南軍區司令員，參加了桐柏戰役，先後任第38軍副軍長，豫西軍區、陝南軍區副司令員兼十九軍副軍長，抗美援朝戰爭爆發後，他任十九兵團政治部主任、副政治委員，5次赴朝參戰，榮獲朝鮮民主主義人民共和國一級國旗勳章。
1955年，陳先瑞被授予中將軍銜。