對桂系軍隊：下死命令。當日軍第13師團沿津浦路向北推進時，李宗仁下令“始終釘住津浦線，使敵軍不能北進”。第31軍官兵利用有利地形死守，同時不斷派出小股部隊實施襲擾性反擊，竟與兵力多於自已數倍的日軍糾纏了1個多月，令日軍都大感意外。
對東北軍：委以重任。李宗仁將防守淮河的重任交給了于學忠的第51軍。這個軍雖僅有兩師，但東北軍官兵因家破人亡戰鬥意志格外強勁。在戰鬥的緊要關頭，軍長於學忠親臨前線組織敢死隊，並鼓勵部下：“東北淪喪之痛刻在咱們心頭，想生存下去就要與日軍血戰到底。我們下定必死的決心，我們可以都死光，但是必須讓日軍付出代價！”
對山東軍：分而治之。1938年1月，山東省主席韓復榘因為臨陣脱逃、棄守山東被逮捕處決，孫桐萱代理集團軍司令，麾下部隊在台兒莊戰役中被李宗仁分開。55軍被調到藤縣北襲擊敵人後路，後劃歸劉汝明指揮；12軍守曹縣，金鄉及北黃河沿線；56軍被調去策劃襲擊濟南，後來這些部隊一度收復濟寧，有利的支援了台兒莊大捷。
對川軍：主動收留。穿着草鞋的川軍出於民族義憤，不遠千里出川抗日，但第一站選錯了地方，去了精打細算的閻錫山那裏。衣食彈藥無從補充的川軍無奈之下搶了晉綏軍的倉庫，第一、二戰區都不要他們，最後李宗仁主動接納他們，並補充了部分槍械和大量彈藥，令川軍各部感激涕零。最後，這些川軍也在藤縣保衞戰中一戰正名。
對西北軍：恩威並用。龐炳勳部雖然號稱一個軍團，但實際兵力僅5個團，還被強令要壓縮1團編制，不然就停發軍餉，最後還是李宗仁出面説情，好歹保住了5團建制，還配發了部分武器。張自忠因為平津陷落後與日軍周旋，一度背上漢奸的罵名，後來逃到南京時險些被人懲辦，幸好李宗仁出面向蔣介石澄清，並保薦他重回舊部任職。
1937年10月，李宗仁被任命為第五戰區司令長官，率領共計29個師附1個旅28萬餘人駐節徐州，負責防守山東和江蘇北部的廣大區域。相比其他戰區，李宗仁所轄部隊雖然人數不少，但部隊組成十分複雜。
部隊成分複雜或損失慘重
鄧錫侯、楊森部屬川軍，剛剛被閻錫山第二戰區趕出來；龐炳勳、張自忠部均屬西北軍，但兩人長期不和；于學忠部屬原東北軍，東北淪陷後長期漂泊；孫桐萱部屬山東部隊，其上司韓復榘被逮捕，軍心浮動。
另有李品仙、廖磊部3個軍是李宗仁的桂系親軍，但其中僅第31軍齊裝滿員。其餘的第7軍、第48軍6個師剛剛參加過淞滬抗戰，不僅打出了陣地戰階段唯一一場大規模反擊，還在戰役最後階段為掩護主力後撤頑強阻擊日軍，付出了將近5萬人的巨大傷亡，還沒有補充整訓。
捏沙成團，凝聚強大戰力
對此，秉性寬厚的李宗仁也不禁牢騷滿腹：“這些部隊均久被中央列為雜牌部隊，蓄意加以淘汰之不暇，更談不到糧餉和械彈的補充。因此，這些軍隊的兵額都不足，訓練和士氣也非上乘，與當時上海作戰的部隊相比擬，這些部隊實在是三四等的貨色……”
但是，就是這些裝備簡陋的地方雜牌，就是這些歷史上矛盾重重的部隊，卻在隨後的幾個月裏，在以台兒莊為中心的廣大區域，將日軍華中部隊阻擊於淮河南岸，將華北日軍兩個精鋭師團擊潰，斃傷日軍2萬餘人，取得了當時對日作戰的巨大勝利。
那麼李宗仁是如何將這些軍隊整合在一起，並凝聚成強大戰力的呢？
但對隨後調入麾下、同屬西北軍系的孫連仲第2集團軍，李宗仁就顯出了“慈不掌兵”的一面。1938年4月5日，在台兒莊血戰十餘日的孫連仲語帶哽咽地懇求：“第2集團軍已經傷亡十分之七，可否請長官答應他們暫時撤到南岸，好讓第2集團軍留點種子，也是長官的大恩大德。”
但李宗仁硬着心腸回答：“敵我在台兒莊已血戰一週，勝負之數決定於最後5分鐘。你務必守至明天拂曉。這是我的命令，如違抗命令，當軍法從事。”最後，也正是這一番毫無情理的堅持，爭取了最後的寶貴勝利。