抗日戰爭勝利前夕，為適應大反攻的需要，八路軍山東軍區奉中共中央軍委命令組建野戰軍。其中，第六、第十三團與濱海軍區獨立第三團被合編為山東解放軍第一師。

1945年8月，山東解放軍第一師展開對日偽的反攻作戰后，迅速沿膠濟鐵路前進，沿途摧毀日偽的抵抗，于9月2日進逼諸城，將縣城包圍起來。此時，日本已宣布無條件投降，駐諸城日軍撤往高密。諸城縣城內只剩下偽軍張步云部。

山東解放軍第一師多次勸說張步云開城投降、戴罪立功，但張竟置國家民族大義于不顧，繼續公然與人民為敵，并揚言“就是殺老百姓吃，也要死守諸城”。山東解放軍第一師立即決定攻克諸城，消滅這股偽軍。

9月4日，第一師各團按作戰計劃進入陣地。晚10點，攻城部隊在炮火掩護下向諸城外圍敵人發起進攻，一團炸毀東關外碉堡，攻入東關，與敵展開巷戰，20分鐘后完全占領東關，直逼城下；攻打西關的部隊在成功爆破圍墻后立即冒雨發起沖鋒，將守敵消滅。張步云見狀，一面命令屬下“繼續死守”，一面以“去國民黨軍李延年部處搬救兵”為借口，化裝逃走。

9月6日晨，第一師攻城部隊向城內偽軍發動攻勢。炮兵用密集火力摧毀了城東南炮樓，并擊中了張步云的指揮部。7時左右，城內敵人組織了500多人的“敢死隊”，出西門進行反撲，攻城部隊與敵人展開激戰，1小時后，將敵人“敢死隊”全部消滅。隨后第一師一面繼續進行攻城的準備，一面在城外部署部隊，準備隨時打擊突圍之敵。

下午6時，攻城部隊冒雨發起總攻。爆破組在圍城部隊的火力掩護下，迅速將炸藥運抵西北門外。隨著一聲巨響，爆破組炸開了西北門，攻城部隊迅速沖入，和敵人展開巷戰。不久，東北門、南門也被攻克，至夜8時15分，第一師部隊攻占全城各個要點，偽軍一部被殲，一部繳械投降。偽軍殘部1000余人企圖從東南門向城外突圍，遭到城外伏擊部隊的迎頭痛擊，很快被殲滅。

此戰，山東解放軍第一師斃傷偽軍300余人，俘2100余人。繳獲了守敵的所有武器彈藥以及兵工廠、火藥廠。9月8日，攻城部隊舉行入城式。（呂勃東）