冯玉祥北京政变失败后，1925年，同共产党人取得了联系。在他的部队中，聘请苏联顾问帮助他训练军队，还起用了一批共产党员。1926年3月，冯玉祥从绥远平地泉启程赴苏联访问，8月中旬离苏回国。在此期间他加入国民党，并宣布国民军全体入国民党。国民党中央任命他为国民军党代表、国民政府委员、军事委员会委员。时广东国民政府已开始北伐，北伐军胜利进入湖北。9月17日，冯玉祥在绥远五原誓师，宣布就任国民军联军总司令，率军南下参加北伐，与广东国民政府北伐军遥相呼应。同年底占领陕西。1927年5月，冯就任国民革命军第二集团军总司令职，率军出潼关，进入河南。6月1日，冯玉祥的国民军与武汉国民政府的北伐军会师于郑州。