一九二○年五月以后，陈独秀、李汉俊、陈望道、李达、施存统、俞秀松、沈玄庐等人在第三国际远东局代表威经斯基的帮助下，在上海《新青年》杂志社，经过多次酝酿，成立了中国第一个“共产党”组织，作为筹建中国共产党的发起组，当时的名称就叫“共产党”。
它除了出版《新青年》《共产党》杂志，宣传马克思主义，指导各地建党，开展工人运动以外，一项重要的工作，就是领导青年运动，组织社会主义青年团。因为五四运动以后，许多青年由于反对腐败的军阀统治和封建礼教的束缚，离开了学校和家庭，来到当时新文化运动的中心《新青年》杂志社，寻找出路。
陈独秀等发起组的同志们热忱地接待他们，安置他们，并委派发起组中最年轻的成员俞秀松和张太雷，于一九二○年八月，在这些青年中建立了社会主义青年团，当时简称“S·Y·（英文“社会主义青年团”的缩写）。①俞秀松任书记，主持团务。最初只有八名团员，后来在“工读互助团”中积极发展，不到一个月，就达到三十多名。
刘少奇、罗亦农（罗觉），任弼时、肖劲光、柯庆施（柯怪君），贺昌、许之桢、傅大庆、梁百达、王一飞等人都是最早的团员。
②此外，上海党的发起组成员也都加入了青年团
