党组织的建设，发展党员是最基础、最重要的工作。青年人是思想最活跃，参与社会改造最积极的生力军，同时也是缺少社会经验、急需培养塑造的一个群体，是发展党员重要的预备力量。为此，1920年8月，上海共产主义小组决定成立社会主义青年团，并指派最年轻的俞秀松（1916年，17岁的俞秀松考入浙江省立第一师范中国足彩网_亚博足彩app-新万博体育在线推荐。在校时积极参加五四运动，参与创办《浙江新潮》。）领导筹建工作。8月22日，在上海法租界飞路霞新渔阳里6号的《新青年》编辑部里，俞秀松、施存统等八名团员，组成了上海社会主义青年团。在俞秀松撰写的社会主义青年团的章程中，明确规定团的主要任务是研究科学理论，实现自由平等，宗旨是实现社会主义改造和宣传社会主义。随后，团员们迅速积极地发动和指导北京、武汉、长沙、广州、天津等地青年团组织的建立。1921年初，上海社会主义青年团就达到200余人，全国有1000多人。1921年3月，在上海建立了中国社会主义青年团临时中央执行委员会，俞秀松任书记。

在那个时候中国共产党还是个秘密组织，而社会主义青年团是半公开的组织，所以，很多诸如纪念马克思、五一国际劳动节等活动都是以团的名义开展。在党的领导下，青年团有组织地开展会议、报告、组织罢工等活动，在这些活动中，刘少奇、任弼时、萧劲光等一大批青年脱颖而出，后来成为了优秀的共产党员和领导骨干。

青年团员们穿上短褂走近劳动群众，编辑通俗刊物抨击黑暗社会，开办夜校普及工人教育，发动工人争取改善劳动时间提高工资……知识分子与工人阶级，通过青年这根纽带紧紧地连在了一起。党的各种思想和政策，也通过青年团的努力得以在群众中广泛传播。

1921年7月，俞秀松作为中国唯一受青年共产国际正式邀请的中国社会主义青年团代表，在少共国际二大向世界宣告：“第一个青年团建于上海，其原则是准备社会革命”。俞秀松作为中国青年运动的先驱者，在运用马克思主义思想同中国青年运动实际相结合的探索中，形成了社会主义青年团的先进思想，实践了建立中国社会主义青年团的正确主张。