中国共产主义青年团的组织源头，主要是青年群体。即青年群体的形成是青年团产生的组织基础。新文化运动的兴起是青年团产生的思想基础；马克思主义的传播是青年团产生的理论基础。五四运动标志着中国青年新的觉醒，由“五四”开始的青年运动的实践，是青年团体产生的重要条件；五四运动之后，中国青年运动出现了一个全新的局面，中国青年要求改造社会的呼声越来越高，建立一个以马克思为理论指导的青年政治团体，成为历史的要求；马克思主义与中国青年运动相结合，是青年团产生的重要条件。十月革命及俄国共青团的影响是中国青年团产生的外部条件。中国共产党的诞生不仅直接缔造了青年团，而且为青年团的建立提供了领导保证。

五四运动后，中国青年要求改造社会的呼声响彻祖国大地，各地青年纷纷成立社团，宣传新思潮、新文化的刊物如雨后春笋，大量涌现，仅一年时间，就出现400多种。其中具有不同程度的社会主义倾向就有200多种。在五四运动中，青年知识分子看到工人阶级表现出来的伟大力量。一些具有初步共产主义思想的知识分子开始到民间去，在工人中开办学校，组织工会，促进了马克思主义与中国工人运动的结合。马克思主义与中国工人运动的结合，为中国共产党和中国共青团的创建作了思想和组织上的准备。

同时，湖南、湖北、浙江、安徽、四川等地，很多青年对旧社会不满，要求思想解放。他们脱离家庭和学校，探索改造社会的新道路。从自发的革命意识到自觉的革命行为，需要科学的理论指导和有效的组织动员。因此，中共早期组织成立后，随即组建了青年团早期组织。

1920年8月，在共产国际的帮助下，上海首先建立了共产主义小组。在这个党的早期组织的筹建过程中，共产党的发起人李大钊、陈独秀等人就对发展中国青年运动、在青年中培养和挑选预备党员的工作给予了极大的关注。因此，上海共产主义小组一成立，陈独秀便指派小组内最年轻的成员俞秀松组建社会主义青年团。8月22日，上海社会主义青年团由俞秀松、施存统等8人正式发起建立。