5月2日清晨，苏军攻占了帝国总理府。根据苏军官方的说法，这场战斗与国会大厦之战类似。苏军从威廉广场发起进攻，用榴弹炮炸开正门，随后在总理府内展开了数次战斗。隶属于第5突击集团军第9步兵军（由I.P.罗斯利中将指挥）的政治官安娜·尼库琳娜少校在屋顶上举起了红旗并展开。比弗认为苏军官方的说法有所夸大，因为大部分德军作战部队在前一天晚上就已经通过突围撤离，总理府内的抵抗肯定远没有国会大厦内那么强烈。凌晨1点，苏军截获了德军第56军发来的无线电报，请求停火，并表示将派遣使者举着白旗前往波茨坦桥。魏德林将军及其参谋人员于早上6点投降。上午8点23分，魏德林被带到崔可夫中将面前。崔可夫曾指挥斯大林格勒战役并取得胜利，他问道：“你是柏林守军的指挥官吗？”魏德林回答说：“是的，我是第56装甲军的军长。”崔可夫接着问：“克雷布斯在哪里？他说了什么？”魏德林回答说：“我昨天在帝国总理府见过他。”魏德林又补充道：“我以为他会自杀。”在随后的会谈中，魏德林同意柏林无条件投降。他同意命令柏林守军向苏军投降。在崔可夫和苏联第一乌克兰方面军参谋长瓦西里·索科洛夫斯基将军的指示下，魏德林将投降命令写下来。动物园防空塔的350名守军最终撤离了大楼。零星战斗发生在一些孤立的建筑物内，一些党卫军仍然拒绝投降。苏军直接将这些建筑物炸成废墟。大多数德国人，无论是士兵还是平民，都对在红军食堂领取食物表示感激。苏军挨家挨户搜捕所有身穿制服的人，包括消防员和铁路工人，这导致他们后来夸大了城内德军的总人数。