龙潭战役后,张作霖估计南京国民党军一时无力大举北进,决定在津浦路南段采取守势,转而向河南方面进攻冯玉祥。冯玉祥为摆脱困境,以许诺直隶、京津地盘为条件,争取与阎锡山结盟,共同对付奉军。9月29日,阎锡山发出誓师讨奉通电。10月4日,张作霖亦明令讨伐阎锡山。晋奉关系彻底破裂。
晋奉开战后,冯玉祥为配合晋军作战,也于10月中旬向张宗昌的直鲁联军展开攻击。晋军对奉作战,先胜后负,最后双方在娘子关、雁门关一线形成相持状态。西北军对直鲁联军之战,则先负后胜,在兰封一战中俘获直鲁联军3万余人。在徐州战役中,西北军与何应钦的国民革命军联合作战。张宗昌、孙传芳率残部北逃。
1928年2月,重新上台的蒋介石在南京主持召开了国民党二届四中全会。会议决定继续北伐。4月7日,蒋介石以国民革命军总司令的名义下达总攻击令。北伐军进入山东后,进展顺利,5月1日一举占领济南。未料日本以保护其侨民为借口,悍然动武,于5月3日制造了震惊中外的“济南惨案”。日本的侵华行径激起了中国各界的民族义愤,也导致奉系内部发生分化。常荫槐、潘复等奉系人物鉴于国内政争致外人乘隙,劝张作霖顺应潮流,停战言和,免为后世唾骂。孙传芳亦表示不能再负责前线军事:“现在济南事变,日人侮我太甚,本人受良心之督责,不愿再事内争。”在战场失利和一致对外的舆论压力下,张作霖于5月9日发表了停战议和通电。