1925年8月，顾作霖来到上海，先入暨南大学，不久又转入上海大学社会学系读书。是年冬天，顾作霖在上海大学加入了中国共产主义青年团，1926年春天，转为中国共产党党员。

　　1925年12月至1926年10月，顾作霖担任共青团杨树浦部委第三任书记，并参加党的部委会。从此他开始了专职从事青年运动和工人运动的革命生涯。

　　顾作霖来到杨树浦任职时，团部委设在杨家宅（今榆林路476号），团部委在隔壁过街楼上办了杨家宅平民夜校，顾作霖就以工人夜校为基地开展工作。他通过教学活动，向青年工人宣传马克思主义，培养了一批积极分子，还常依靠他们的掩护到厂里干些杂活，借以了解工人的生活和资本家如何剥削压迫状况，有时还出入棚户区访问工人。他以真诚和热情赢得了工人们的信任，为开展革命工作建立了良好的群众基础。

　　1926年的春节前，根据青年工人的要求，顾作霖与团干部们商量后，筹办了一个春节同乐会，在韬朋路（今通北路）榆林路附近的一个大院里搭起临时戏台，春节期间请了演独脚戏的、耍杂技的、唱沪剧的和变魔术的艺人来表演，工人及家属免费入场，热闹非凡。这次活动使他又结识了工人中的一批积极分子，进一步密切了与群众的联系。

　　由于他和工人交往密切，熟悉工人的生活，所以在夜校上课时能用工人的语言通俗形象地揭露帝国主义、封建军阀的反动面目，宣传党的主张，给工人指点斗争方向。大家都喜欢听他讲课，并把厂里的各种事情讲给他听。几个月之后，顾作霖在新怡和纱厂、老怡和纱厂、永安纱厂、东方纱厂、申新六厂培养了许多青年工人成为共青团员，孙长胜、严小妹就是他的学生，这些团员以后就成为上海工人第三次武装起义的骨干分子。顾作霖经常到厂里去作调查研究。有一次，他在老怡和纱厂听团支部书记王根英讲到一个11岁的扫地童工被机器轧死、资本家置之不理的情况，就同王根英等商量，发动工人向资本家交涉，如果资本家不发抚恤金，就发动罢工。交涉的结果，迫使厂方向死难童工家属发了抚恤金。

　　1926年5月30日，为纪念“五卅”惨案一周年，在党组织发动下，上海工人在南京路上举行大规模示威，杨树浦地区的示威队伍由顾作霖同党的杨树浦部委书记张叔平共同指挥，最后取得了胜利。

　　1926年11月，上级决定顾作霖任中共江浙区委（上海）职工运动委员会委员兼共青团江浙区委（上海）委员、组织部长。他在周恩来、罗亦农、赵世炎等人领导下，配合北伐战争，积极筹划、参与上海工人的武装起义。

　　1927年6月，顾作霖被任命为共青团江苏省委书记。期间，顾作霖与南洋兄弟烟草公司浦东分厂女工、团支部书记杨龙英（又名杨淡清）结婚。婚后杨龙英从事地下交通工作，并掩护顾作霖的革命活动。

　　1927年8月，党中央派顾作霖去山东担任中共山东省委委员、共青团山东省委书记。

　　1929年春，顾作霖回到上海，任共青团江苏省委书记，住在沪东平凉路榆林里。他多次深入沪东区巡视指导工作。1929年7月15日，中共江苏省委鉴于沪东区委几个主要领导人都患病，委派顾作霖代理沪东区委书记至8月。

　　1931年初，党的六届四中全会后，顾作霖告别了妻儿，与任弼时、王稼祥一起历经一个多月行程，到达了江西宁都中央苏区。顾作霖到苏区后，任团中央书记，并主持共青团苏区中央局的工作。

　　1934年1月，在六届五中全会上顾作霖被选为党的中央委员、政治局委员，担任红军总政治部代理主任，红一方面军野战政治部主任。为打破国民党的第五次“围剿”，顾作霖夜以继日、呕心沥血，积劳成疾，导致肺结核病情恶化，于5月28日病逝在战斗的前线，时年27岁。中共中央、共青团中央和中国工农红军总政治部为他举行了隆重的追悼仪式，周恩来、博古、朱德、林伯渠等都讲了话，向这位年轻的共产主义者表示沉痛的哀悼。1934年6月1日《红色中华》上载文说：“顾作霖同志九年来的英勇奋斗，在中国革命史上留下了光辉的名字，在共产主义青年团运动史上留下了光辉的名字。”