1928年4月2日，张学良、杨宇霆下达攻击令，命令于学忠、戢翼翘、富双英各军及骑兵第一、第二两军，以戢翼翘为中心，向丰乐镇一带的冯玉祥部队进攻。冯军不敌，向漳河南岸退去，戢翼翘率部紧追，逼近了安阳城北面。于学忠占领了回龙镇，逼近安阳城东面，两军成夹击之势，对冯军孙连仲部形成合围，歼敌1500余人，安阳指日可下。与此同时，张作相的第五方面军也已经进占了山西重镇大同，进逼五台，占领井陉，整个晋北已处于奉军包围之中，阎锡山部队摇摇欲坠，已呈崩溃之势。
但是此时张作霖所最担心也最不愿意看到的情况还是发生了。进入4月中下旬，鲁南局势已经岌岌可危。蒋介石于4月9日发布北进的总攻击令后，13日许琨就丢掉了韩庄。张宗昌不得不令各部在泰安、界首两地布防，张宗昌相信自己的实力，以为自己兵多粮足，无论如何也可以学习杨虎臣、李虎臣二虎守西安的壮举，即使八个月守不到，守上个四个月总可以了吧？四个月不行，两个月那是绝对可以的。但是事与愿违，仅仅过了半个月左右，蒋军就攻占了泰安，29日又攻占了界首，张宗昌败军纷纷溃退，济南的门户大开。