9月18日，一个关系到战争胜负的重大事件发生了，雄踞关外静观虎斗的奉军统帅张学良，宣布放弃中立立场，通电拥蒋，随即挥师入关，占领确山。战局急转直下。
面对南北受敌，弹尽粮绝的败局，性格坚韧的冯玉祥仍企图背水一战，力挽狂澜。无奈诸将已纷纷动摇，投蒋的投蒋，独立的独立，投降的投降，眼睁睁大势已去，众叛亲离，山穷水尽，使他只能对空悲切，面壁浩叹，被迫于10月5日率总部渡黄河北上。
中原大战结束时，张自忠的第六师除配属梁寇英的王修身第十七旅随梁投蒋外，尚有第十六、第十七旅一部和手枪团的大部，约五千余人，是西北军残部中最完整的部队之一。
西北军的土崩瓦解，使张自忠同其它将领一样面临着前途的选择问题。当他听说冯玉祥北渡，即令自己的部队由郑州渡河北上。这时，蒋介石派人给张自忠投委任状，任命他为第二十三路军总指挥。张就地召开干部会议，讨论去从。有人反对投蒋，也有人认为这是千载难逢的良机，奉劝他接受任命。张自忠经过慎重考虑后郑重地对大家说：“我们做军人的，很要紧的就是忠诚。现在西北军失败了，很多人背叛了冯先生，但我张自忠不能这样做，这是个气节问题。再说，蒋介石虽然给我封了官，可我们毕竟是败军，投到人家那里难保不受人家宰割。你们怕不怕受罪？要是怕受罪，我不带走了，这里有钱有官，大家以后不会再跟我受苦；要是不怕跟着我受罪，咱们就渡河北撤。大家同意不同意？”