1949年，梁思成提议将人民大会堂建在五棵松，但此建议遭到苏联专家的强烈反对。苏联专家认为，大会堂作为党和国家的重要机关，应该建在天安门附近，以加强首都的政治象征意义。此外，建在老城区能够充分利用现有设施，节省巨额开支。
尽管梁思成坚持保护老城区古建筑的初衷，他的意见最终未能影响决策。1954年，随着全国人大常委会成立，办公场所严重不足，毛泽东曾言，革命胜利后要建造一座能容纳万人的大礼堂。于是，在1958年中央决定建设“十大建筑”，其中人民大会堂作为重中之重，选址确定为天安门前。
中央的决策考虑了工作效率，天安门的地理位置优越，接近其他重要机构。尽管苏联专家的意见已不再重要，施工工作却极为紧张。为了确保按时完成，大会堂设计方案经过多次修改，最终确定了一个17.18万平方米的大型方案，比原定面积大得多。方案一经确定，拆迁工作迅速展开，涉及机关单位和居民搬迁，拆房数量达到2170间。
建设过程中，全国各地的工人和技术人员都纷纷支援，施工现场的工人数量一度达到3.5万人。经过两年的紧张施工，1959年7月，人民大会堂初步完成，准备验收。
在1959年9月的参观中，毛泽东提议将其命名为“人民大会堂”，表达其属于人民的象征意义。10月1日，新中国成立十周年庆典在此举行，标志着这一雄伟建筑正式投入使用。
