1921年6月,毛泽东接到关于召开中国共产党第一次全国代表大会的通知。6月29日下午6时,毛泽东、何叔衡在长沙乘船北上,经武汉转赴上海。在这第四次前来上海的途中,毛泽东与同学萧子升(萧三之兄)共处一个舱室,萧子升曾回忆:“那是最后一个夜晚,我们同床而睡,一直谈到黎明,毛泽东一直劝说我加入共产党,他说,如果我们全力以赴,不要一千年,只要30年至40年的时间,共产党就能够改变中国。”历史证明,毛泽东的预见非常准确。
7月上旬,毛泽东、何叔衡抵沪后,与从各地陆续到达的中共一大代表以“北京大学暑期旅行团”名义,借宿于上海白尔路389号(今太仓路127号)博文女校。博文女校校舍系3楼3底的石库门房屋,内外两进。正值暑期,中共一大代表有9人住在这里,楼上西厢房前间为毛泽东、何叔衡的卧室。李达曾回忆,“毛泽东同志在代表住所的一个房间里,经常走走想想,搔首寻思”“他是正在计划着回到长沙后如何推动工作,要想出推动中国革命事业发展的办法”。博文女校校长黄绍兰之女黄允中曾回忆:“那时我和母亲都搬到楼下住,我母亲不许我上楼去打扰他们,但那时我还不懂事,有时还偷偷上楼玩,记得我有一次走到毛主席住的房间里,毛主席叫我小妹妹,摸摸我的头,还给我吃糖。”
7月23日晚,中共一大在上海望志路106号(今兴业路76号)客厅召开。7月30日晚是第六次会议,原定议题是通过党的纲领和决议、选举中央机构,由于一个密探突然闯入,大家迅速分散离开,最后一天的会议转移到浙江嘉兴南湖的一条游船上举行。会议期间,毛泽东报告了长沙共产党早期组织的工作情况,因“长沙小组,宣传与工运都有了初步成绩。看当时各地小组的情形,长沙的组织是比较统一而整齐的”,给与会者留下深刻印象。当讨论到工人群众的组织形式时,毛泽东根据自己的实践和体会,赞同“我们的劳动运动总方针应该把整个工人阶级团结在一起,组织起来”。中共一大代表有多人在回忆时谈到毛泽东,如陈潭秋说:在会议中,毛泽东兼“任记录”;刘仁静说:毛泽东“十分注意听取别人的发言”;包惠僧说:“我同毛泽东是在第一次全国代表会议时才见面”“对他的印象是老成持重”“如果要说话即是沉着而有力量”。