作為一種多功能坦克，“謝爾曼”坦克誕生了多種衍生型號，它能夠噴火、掃雷和架橋，甚至能泅渡進行兩棲攻擊。
它也許不是防護最好、速度最快的坦克，也沒有強大無比的坦克炮，但對於空中力量佔據統治性優勢的美軍來說，效能平均，適合大量生產的“謝爾曼”坦克就是最好的選擇。
曾經有人開玩笑說，在整個二戰期間美國幾大軍種中最不重要的就是陸軍，因為美國陸軍的武器除了M1伽蘭德步槍和吉普車外，幾乎乏善可陳。這話不能說完全沒有道理，從B-29“空中堡壘”轟炸機到P-51“野馬”戰鬥機，從“艾奧瓦”級戰列艦到“埃塞克斯”級航空母艦，美軍的海空武器算得上領袖群倫。
但美國陸軍的地面武器也不是真的一無是處，比如總產量超過4.9萬輛的M4“謝爾曼”坦克，就是一種將防護、火力和機動性綜合得相當平均的武器，巴頓和佈雷德利這樣的一代名將都對其讚賞有加。
早在20世紀30年代，納粹德國開始打造他們的鐵甲軍團的時候，美軍高層也做出了坦克將在未來的戰爭中發揮巨大作用的預判，啟動了新型坦克的研製計劃。1941年3月，M3“格蘭特”坦克正式裝備美國陸軍。
這種坦克裝有一門37毫米坦克炮和3挺M1919A4型機槍，裝甲厚度在13～50毫米之間，主要效能和德國的III號坦克大致相當。在機動性方面，M3坦克裝有兩臺凱迪拉克公司生產的七缸發動機，可以提供250匹馬力的動力，這對於戰鬥全重只有12噸的M3是綽綽有餘。然而1940年的法國戰役讓美國人大跌眼鏡：英法的馬蒂爾達II型和Char B1中型坦克在小規模作戰中將德軍的III號坦克揍得體無完膚。
眼見37毫米坦克炮如此不中用，美軍高層認為必須給部分M3坦克換裝更有威力的75毫米坦克炮。可M3的炮塔根本容納不下身管更粗的75毫米坦克炮，根本就不是一個配套的系統。軍方不管這一套，反正支票本在他們手中揮舞，能修改就拿訂單，沒思路就閃一邊。
最終，M3的生產商美利堅汽車與鑄造公司選擇了妥協，設計師仿效法國Char B1中型坦克的模式，將一門75毫米坦克炮安裝在了M3坦克的車體內。這樣，M3坦克就具有了兩門火炮一，門是炮塔上的37毫米坦克炮另一，門是車體裡面的75毫米坦克炮。
1940年7月11日，美國軍械委員會正式批准M3坦克量產。然而過於騎牆的設計遭到了美軍將士的一致聲討，其中最為詬病的有兩點第一：，M3火力太弱，它的37毫米坦克炮在1000米距離上無法擊穿德軍IV號坦克的前裝甲，那門“雞肋”一樣的75毫米火炮左右轉角只有30度一，旦遭遇敵方坦克的側翼攻擊，必須先調整車頭的方向才能攻擊，在瞬息萬變的戰場上這等於自殺。
第二，M3坦克的防禦性能不佳，由於採用鉚接技術而非焊接技術（簡單來說，鉚接就像穿衣服時用了釦子，把衣服兩邊扣在一起，而焊接則是把兩種東西用融化了的某物黏結在一起，焊接工藝的坦克遠比鉚接工藝的堅固），雖然便於大量生產，但坦克一旦被敵方炮火擊中，裝甲板就會瞬間崩裂，無數的鉚釘在衝擊力的作用下會橫掃整個坦克艙，那場面和用衝鋒槍掃射坦克乘員別無二致。不過當時M3坦克已經生產出了500多輛，軍方只得硬著頭皮將其接收。
謝爾曼坦克第一次大顯身手是在北非戰場。1942年6月，英軍丟掉了北非重鎮託布魯克，美國總統羅斯福決定幫助盟友穩定局勢，300輛嶄新的“謝爾曼”坦克和100門105毫米榴彈炮被運輸船隊送往了埃及。正是在這批技術兵器的支援下，英國第8集團軍組建了全新的第10裝甲軍。
1942年10月23日，英軍以“謝爾曼”坦克為先導，向非洲軍團發動了進攻。經過12個小時的苦戰，英軍在南北兩線突破德軍陣地，隆美爾麾下的III號和IV坦克被摧毀200餘輛，基本喪失了反擊能力。實戰證明，III號坦克和IV坦克無法抵擋“謝爾曼”鋪天蓋地的攻勢，無論是集團作戰還是區域性單挑，“謝爾曼”都不處於下風。
到了1943年2月，美國第2軍在突尼西亞的凱瑟琳山口戰役中吃了大虧，損失了200多輛坦克和近萬士兵，“謝爾曼”坦克也遇到了可怕的對手——裝有88毫米坦克炮的德國“虎”式坦克。
在實戰中，6輛“虎”式扼守凱瑟林山口的法爾德小道，它們連續擊毀了美軍15輛坦克其中一，輛“”謝爾曼更是在2700米外被“虎”式坦克一炮敲掉了炮塔。到1943年5月北非德軍投降為止，德國人部署在北非的33輛“虎”式坦克一共擊毀盟軍坦克150輛坦克，“謝爾曼”坦克佔據大頭。
1944年7月1日，一輛“黑豹”坦克在諾曼底西部和30多輛M4A3型“謝爾曼”坦克激烈對射。戰鬥持續了半個小時，“黑豹”坦克連續擊毀了美軍17輛坦克，最終在打光了全部炮彈後全身而退。按照德國坦克手的事後回憶，“黑豹”的前裝甲至少經受了26發75毫米穿甲彈的打擊，掉頭逃跑時後裝甲又捱上了11發炮彈。
即使如此，“謝爾曼”也沒能留下這輛傷痕累累的“黑豹”。7月27日，武裝黨衛隊第2“帝國”裝甲師的巴克曼中士和他的“黑豹”坦克在法國聖洛附近和美軍的15輛“謝爾曼”坦克遭遇。巴克曼將“黑豹”停在十字路口，單槍匹馬攔住美軍去路。在接下來的戰鬥中，巴克曼的車組連續擊毀了9輛“謝爾曼”，倖存的美軍不得不呼喚攻擊機前來救駕，這才迫使巴克曼撤走。
按照美國人的戰後統計，每擊毀一輛“黑豹”坦克美軍要付出5輛“謝爾曼”坦克。好在二戰中“黑豹”產量只有6000輛左右，僅相當於“謝爾曼”產量的1/8，拼消耗也是“謝爾曼”贏得勝利。 “謝爾曼”坦克對付不了“黑豹”，對於防禦能力更強的“虎”式重型坦克就更別提了。
1944年，在法國卡昂附近的波卡基村，德國“虎”式坦克第一王牌魏特曼採用攻擊後立刻轉移的戰術，連續擊毀了英軍4輛“謝爾曼”坦克，20輛“克倫威爾”坦克、3輛M5“斯圖爾特”輕型坦克，創造了坦克史上的經典戰例。1945年3月，美軍第3裝甲師的一個坦克營和一輛“虎”式坦克在萊茵河畔相遇。
牙尖嘴利的“老虎”在身中47發炮彈的情況下，先後摧毀了美軍17輛“謝爾曼”坦克和8輛M26“潘興”坦克，以至於美軍師長在戰後咬牙切齒地說：“那個東西（‘虎’式）幹掉了我一個連！”既然“謝爾曼”坦克效能平平，那幾百萬美軍怎麼橫掃西歐、直搗德國本土的呢？其實道理很簡單，美國人從來不和別人進行某種武器的單獨比拼，而是喜歡依靠一個強大的體系將對方碾碎。
每當“虎豹”逞兇之時，美軍的P-51“野馬”戰鬥機、坦克殲擊車、“謝爾曼”坦克和巴祖卡火箭筒就會輪番上陣，再勇猛的“虎豹”最終也會被馴服。而在太平洋戰場上，由於日軍對於機械化戰爭毫無認識，雖然組建了4個所謂的“戰車師團”，但是其裝備的坦克實在是慘不忍睹。
以日軍裝備最多的九五式和九七式坦克為例，前者最大裝甲厚度只有16毫米，火炮為一門37毫米坦克炮；後者最大裝甲厚度增加到33毫米，火炮口徑提升為47毫米，可防護性和火力仍然不如德國人早期的III號坦克，著實讓“謝爾曼”體驗了一把“拔劍四顧心茫然”的滋味。 1945年1月，日軍第2戰車師團在菲律賓的馬尼拉城下向美軍“叫板”，正愁沒有對手的“謝爾曼”坦克從容迎戰。
兩個月之後，第2戰車師團這個編制徹底從日軍建制中消失了，203輛九七式和19輛九五式被“謝爾曼”坦克加工成了“日式烤肉爐”，而“謝爾曼”坦克只損失了40多輛，其中完全無法修復的只有1/4。在接下來的硫磺島戰役中，美國海軍陸戰隊又賦予了“謝爾曼”新的任務——他們給“謝爾曼”裝上E4-5型車載火焰噴射器，遇到日軍死守的碉堡，就用坦克炮或炸藥包實施壓制，然後用車載火焰噴射器將其燒燬。
這種戰術殺傷效果明顯，而且可以有效保護己方士兵，算是“謝爾曼”多用途的最好證明。 第二次世界大戰結束後，數量眾多的“謝爾曼”坦克跟隨美國大兵駐紮海外。經過一番估算，美國人發現將其運回國內的費用比在國內生產造新坦克還高，於是電影《戰爭之王》中的場景出現了，美軍開始在駐紮地打折甩賣“謝爾曼”，甚至還半賣半送地給了“友好國家”一批。
此後，“謝爾曼”相繼出現在崎嶇不平的朝鮮山地、風沙漫天的中東沙漠和潮溼悶熱的印度次大陸。直到20世紀80年代，南美洲的智利和巴拉圭仍然將“謝爾曼”坦克作為本國陸軍的制式裝備，這也算是一種無形的褒獎吧。