1945年8月15日，日本法西斯宣布无条件投降，随后盘踞在鲁南重镇临沂的日军便沿着津浦路南段向徐州集结投降。临沂周围据点的一些伪军也随日军向徐州集结，但仍有6000多伪军企图固守临沂，等待国民党来接收，抗拒我军的受降。
▲败局已定，日军收缩兵力向大城市和主要交通线撤退
为了彻底歼灭这批冥顽不化的敌人，我滨海军区部队决心拿下临沂。但临沂是日伪军苦心经营了数年的坚固据点，其城墙高15米，厚达12米，上面遍布着火力点，而且有宽大的护城河，此外还有数道瓮城，伪军吹嘘是“固若金汤”。事实也的确如此，我军先后在8月15日、17日和20日对临沂先后发起了3次攻击，但是因为部队配合不好、低估了城防工事的坚固程度和伪军困兽犹斗的战斗力，攻击都失利了。
▲临沂的城墙和敌军工事
痛定思痛，山东根据地领导人罗荣桓亲自指示部队要吸取教训，再接再厉，并由山东军区特务团、原教导2旅4团和鲁中2分区11团协同攻城。经过讨论，我军决心使用坑道爆破炸开城墙。11团立即在城外西北角的一处高地上筑起地堡，架起4挺机枪掩护坑道的掘进，随后我攻城部队又打报告请示鲁中、滨海两军区拨运1500公斤黑色炸药、2万枚手榴弹和2万发机枪子弹，准备打硬仗。
9月10日，坑道挖好后，我军随即将炸药填入药室，并于当天夜里，按预定时间起爆，连续的剧烈爆炸震天动地，强烈的爆炸火光照亮了整个临沂城，坑道爆破取得成功，厚实的西北城墙被炸开了一个120米宽的巨大口子，上面的大炮楼也炸飞了。
▲我军使用云梯攻城
我教导2旅4团部队立即由突破口发起攻击，但垂死挣扎的伪军从突破口的两侧向我军猛烈射击，我军连续2次攻击都被击退。这时，指挥部当机立断，立即命令第2梯队投入战斗，想突破口两侧的敌人发起攻击，我11团1营冲上西北角城墙，歼灭了顽抗的伪军，在站稳脚跟后，由突破口向城墙东侧攻击前进；我警卫营1连也紧跟1营冲上西北角城墙。
▲临沂外围被我军摧毁的碉堡
城墙上的战斗异常残酷激烈。战前临沂的伪军组织了1000多人的“敢死队”，除了他们原有的步枪外，每人还配备1支驳壳枪和一把鬼头刀，并且许下重赏。伪军的敢死队一再向我攻击部队发起反冲击，企图把我军打回去。我突击部队每前进一步，都要付出一定的代价。
为了粉碎敌人的这支精锐敢死队，我军也将一支突击队投入战斗，这支突击队由30名彪形大汉组成，每人配一把驳壳枪、100发子弹，手持一杆两三米长的钩镰枪，专门对付敌人敢死队手里只有1米左右的鬼头大刀，而且杀死了顽抗的敌人，还可以把敌人的尸体拖过来作为工事。由于城墙宽度有限，敌人的敢死队虽然人多，但是兵力无法展开，而我军的30个大汉刚好把12米宽的城墙堵的严严实实，伪军的敢死队开始处于下风了。
在我军的这支突击队投入战斗后，敌我双方的战斗更加惨烈，双方一个地堡一个地堡的争夺，这场长矛对大刀的肉搏战，进行了10多个小时，我军打掉了2万多发机枪子弹和1万多枚手榴弹，终于歼灭了伪军的精锐“敢死队”，包围了北门城楼和西门城楼。
▲临沂解放后，我军浩浩荡荡开入城内
两个城楼的守敌见大势已去，发生内讧，伪军打死了一些拒不投降的头目和一些特务，打出白旗，向我突击队投降。我军在控制两个城门楼，立即打开城门，城外的主力部队趁机分路向城内各据点展开攻击。
▲临沂的城墙在激战中遭到了严重破坏
向城内纵深推进的攻击部队兵分五路，经过10多个小时的激战，逐巷逐屋争夺，终于彻底歼灭了城内全部守敌，于9月11日胜利攻克临沂城。