1927年4月，由于苏联领导中国共产党在中国国民党内煽动拉拢中国国民党左派人士，此举使蒋大怒，蒋为首的中国国民党右派在上海进行“清党”，解散中国共产党组织，并逮捕中国共产党人，同时另组“南京国民政府”，与“武汉国民政府”分庭抗礼。武汉政府决定军事上继续北伐，希望与冯玉祥合作先取得北京。唐生智转而支持武汉政府。4月底，何键率军北上，至河北一带与张作霖奉军作战。
与此同时，郭亮、柳直荀、夏曦等中国共产党员和中国国民党左派分子，于1926年中起在湖南展开土地改革，于各地成立农会组织，斗争地主及富农，并成立特别法庭审理“土豪劣绅”。国民革命军第三十五军军官多为湖南士绅阶层出身，为数不少军官家庭于后方受中国共产党批斗。何键父亲在长沙被抄家，逮捕后游街示众。
湖南军界中于是逐渐出现严重反共情绪，最终在1927年5月21日引发马日事变。三十五军驻长沙第三十三团许克祥部，在内政部暗中指示下进行清党，封锁中国共产党各机关，解除中国共产党武装、逮捕和处决中国共产党人。月中，冯玉祥先后会武汉及南京政府后决定支持南京，在其军中亦展开清党。
