1946年秋，華東戰場，戰雲密佈，形勢緊張。
我軍雖經過“七戰七捷”，卻未能遏制國民黨軍隊的攻勢。8月7日攻泗縣，山東野戰軍第8師和華中野戰軍第9縱隊兩支部隊打國軍第172師，雖殲敵3000，卻未能攻克泗縣；9月保兩淮，激戰5天后失守；12月，漣水又被敵人佔領。敵軍進攻的氣焰十分囂張，我華東部隊處境艱難。
後來成為開國上將的陳士榘，在擔任山東野戰軍參謀長不久後，繼任華東野戰軍參謀長。
受命於危難之秋，對華東艱難的局勢，他作了中肯的分析和考慮。他指出：戰役中的具體問題解決不好不是主要因素，主要因素是戰略指導思想問題。
解放戰爭初期，敵強我弱。蔣介石企圖打通津浦路，蘇中、蘇北、淮北等地必然是他要全力首先佔領的地區。而我軍採用西班牙保衞馬德里和蘇聯保衞斯大林格勒的戰法，死守鏈水是不妥當的。
陳士榘認為：漣水、兩淮(淮陰、淮安)失守，究其原因在於戰略思想不統一。
當時，華中野戰軍、華中軍區的領導強調華中地區的重要性，要求陳老總將山東野戰軍的主力帶到華中地區作戰；山東野戰軍、山東軍區的領導則強調山東地區的重要性，要求華中野戰軍北上會合，協同作戰。
究竟哪個地區重要，哪個地區更有利於大量殲滅敵人，沒有統一的認識。因而，組織上也缺乏統一的指揮。
當時，山東野戰軍司令員兼山東軍區司令員是陳老總，華中野戰軍司令員是粟裕，政委是譚震林，華中軍區是鄧子恢、張鼎丞負責。幾個單位互不隸屬，各有各的戰役部署和作戰計劃，只能互相建議或通過黨中央來協調兩野兩區的作戰行動，很不方便。陳老總的工作也很困難。
但此時國軍的攻勢更加咄咄逼人。敵軍集中了進攻全國解放區總兵力的三分之一，共62個師進攻華東解放區，其中包括整編11師、74師和新5軍，國民黨軍隊“五大主力”中的三大主力，總兵力達50萬人，約4倍於我。在敵軍氣勢洶洶的攻勢下，津浦路以西的廣大地區被佔領，我軍只能在魯南，蘇北狹小的地區與敵對峙。敵軍繼而由徐州、兩淮、棗莊、嶧縣地區分路向東推進，其目的就是將我華東部隊分割成四、五塊而各個擊破。
鑑於華東戰場的嚴峻形勢，陳老總意識到，如果山東和華中兩野兩區的部隊仍然各自為戰，勢必難於集中兵力粉碎敵軍大兵團的進攻。於是，陳老總於1946年9月21日發電報向中央建議：將華中野戰軍和山東野戰軍合為一個野戰軍。翌日，中央覆電同意。但當時並沒有明確“華東野戰軍”的稱號，僅僅是確定沭陽為兩野戰軍、兩軍區的指揮部，仍然保留了兩野兩區的指揮機關，並沒有統一的指揮機構。
由於當時的戰略思想仍不明確，在關於華東戰場作戰方針的關鍵問題上，存在很大的分歧，而華中局的幾位領導又把戰鬥失利的責任歸罪於陳老總，並開展了對他的批判，還撤銷了山東野戰軍參謀長宋時輪的職務。
關鍵時刻，陳士榘以鮮明的態度支持陳老總，積極襄助陳老總工作。
為了統一全區的戰略思想認識，1946年9月到12月，兩野兩區以及中央軍委之間，就華東地區的作戰方針問題進行了長達3個多月的磋商討論，來往電報有上百分之多。磋商的重點集中在兩個問題上，即是集中兵力作戰，還是分兵各自為戰？集中兵力於蘇北，還是魯南，或是西渡運河越過津浦路出擊淮北地區？爭論的焦點是集中兵力於何處與敵作戰的問題。
説白了，就是山東的同志堅持集兵於魯南殲敵，華中的同志則堅持集兵於華中作戰這期間，部隊南調北移作戰數次，均未獲大量殲敵的戰果。
陳士榘始終堅持集中兵力于山東地區作戰。
陳士榘提出這個意見時作了兩點陳述：一，當時敵人的作戰方針是打通津浦路，將華東、華北、東北聯結起來，而蘇中、蘇北靠近滬寧，威脅南京，他必然傾其全力攻佔。加上敵強我弱，應避其鋭；二，山東地區羣眾基礎好，地形條件也優於蘇皖地區，應把山東地區作為華東戰區的立足點，有條件時向蘇皖等省發展。當時正逢雨季，集中兵力在山東作戰更為有利。
陳士榘的意見言簡意賅，切中要害，在戰區最高領導集團中產生了影響。1946年12月24日，中央軍委在反覆徵詢意見後，終於明確指示：“集中兵力於魯南作戰。”
正確統一的作戰方針立即影響到戰爭結果和戰局的發展，1946年12月和1947年1月，在不到一個月的時間裏，華東野戰軍接連舉行了宿北、魯南兩大戰役，連戰皆捷，殲敵8萬餘人。從此，全軍指戰員越戰越勇，華東戰局發生了重大轉變。