在全国工人运动高涨和安源工人斗争胜利的鼓舞下，1923年2月1日，京汉铁路总工会在郑州召开成立大会。直系军阀吴佩孚派军警捣毁会场，迫害会议代表。在中国共产党的领导下，京汉铁路总工会决定全路总罢工，号召工人“为争取自由而战！为争取人权而战！”并将总工会移到汉口江岸办公。2月4，总罢工开始了。不到三个小时，全线客车、军车、货车一律停驶，京汉铁路立即瘫痪。7日，军阀吴佩孚在美英帝国主义的指使下，调动军队，血腥屠杀京汉铁路工人。在郑州、江岸、长辛店等地工人被杀四十多人，伤数百人。被捕入狱罡十多人，被开除一千多人，造成“二七惨案”。江岸分会委员长共产党员林祥谦被捕。敌人把林祥谦绑在电线杆上，用刀逼他下令复工。林祥谦同志高呼“头可断，工是不上的！”宁死不屈，英勇就义。京汉铁路总工会的法律顾问共产党施洋也被杀害。罢工坚持到2月9日结束。“二七”大罢工是我国工人运动第一次高潮的顶峰。它显示了中国无产阶级的组织力量和政治觉悟，扩大了党在群众的影响。罢工失败后，全国工人运动暂时转入低潮。
从“二七”运动中，党逐步认识到：在半殖民地半封建的中国，要战胜强大的敌人，不能单靠工人阶级孤军作战，必须建立一个以工人为领导的、工农联盟为基础的广泛的统一战线。