KV-2作為二戰時期蘇軍的重型裝備，雖然數量不多，但卻是二戰初期少數能在戰場上以寡敵眾的武器，創下的戰績至今為人津津樂道。不過KV-2雖然被稱為重型坦克，實際上更像是重型突擊炮。
KV-1重型坦克於1938年在SMK重型坦克的基礎上着手研發，次年年初定型測試，12月得到正式命名，大約2個月後開始量產服役。
以KV-1為基礎演變而來的KV-2重型坦克，大約在KV-1正式定型左右即開始研發，1940年2月進行測試，1941年年初定型並正式命名。
由此可見KV-1和KV-2前後相差不過幾個月，都以同一裝甲底盤為基礎，如此高度重複的時間點來看，如果蘇軍僅僅是想擁有一款最強的重型坦克，那麼完全可以二選一，不必兩者都裝備，然而KV-2的產量不過202輛，可見它並非是為了替代KV-1而生。
除了研發時間緊迫，當時另一件大事對KV-2的影響同樣不可忽視，那就是蘇芬戰爭。這場始於1939年初冬的戰爭，直接影響了蘇軍裝甲部隊的建設。當時蘇軍大量裝備的輕型坦克雖然機動性可觀，但是火力和防禦力太差，在芬軍構築的簡單防線面前都損失慘重。
此時蘇軍迫切需要一種具有重型裝甲和重型火炮的裝甲武器，其作用和後來的三號突擊炮類似，就是憑藉着厚重的裝甲，以大口徑火炮發射榴彈破壞敵防線火力點，為大軍打開突破口。因此KV-2着重提升了防禦和主炮，至於機動性，則足夠使用就可以。
在二戰前期，要論最強單車作戰能力的坦克，非KV-1莫屬。當時德式坦克尚未研發出重型坦克，而其他國家重甲坦克如B1、瑪蒂爾達等，其安裝的火炮以及裝甲防護力都無法和KV-1相比。至於KV-1的機動能力，雖然故障率略高，尚在可接受的範圍內。
在整個二戰初期，以KV-1的實力在一對一時完全可以不懼任何對手，這一點在“巴巴羅薩”計劃前期的實戰中也得到證明。所以蘇軍完全沒有必要短時間裏緊急開發一種新的重型坦克，而是應該循序漸進，穩紮穩打發展可靠的下一代坦克。
有意思的是，在KV-2的操作手冊上明確標註瞭如何使用穿甲彈和反混凝土彈，實際中主要發射52千克重的高爆彈，穿甲彈也並非常規穿甲彈藥，而是半穿甲戰鬥部，裝備數量十分稀少。
以此來看蘇軍賦予KV-2的作戰任務就是反一切火力點，而非擔任坦克中軍與敵展開坦克大戰，所以KV-2更像是頂着重型坦克之名的重型突擊炮，當然它確實也具備一定的坦克戰能力。
KV-2作為KV-1最著名的變形坦克之一，它犧牲了機動可靠性，換取了強大的攻防能力，作為一種輔助進攻的武器裝備倒也可以滿足作戰需求，如果能按照蘇軍的設想投入實戰，必將是撕裂敵人防線的重拳。
然而“巴巴羅薩”計劃的實施打了蘇軍一個措手不及，原本數量不多的KV-2被迫走上一線，用以遲滯德軍的攻勢，這些數量不多的KV-2哪怕是發射榴彈，在與對手那些38T、二號、三號等輕裝甲目標對抗時仍然佔據優勢，巨大的爆炸威力也足以將它們轟成零件狀態。
遺憾的是，蘇德戰爭前期並非KV-2擅長的攻堅戰，而是蘇軍一邊倒的潰敗之戰，裝甲部隊無法捏緊拳頭進行有效的反擊，一些KV-2甚至連炮彈都沒有就開上了戰場，數量太少的它們雖然讓對手吃了不少的虧，但是對整體戰局而言不過是杯水車薪，無法改變事態發展進程。
雖然1941年後KV-2不再生產，但是在經過戰爭前期的混亂之後，1943年同樣安裝152毫米口徑大炮的SU152出現，它的可靠性和破壞力都比KV-2更強，勉強算得上KV-2的延續了。