来到西安，张国焘住进国民党高级将领住的西京招待所。这晚，张国焘房间里客人来往不断，全部是国民党军政要员。第二天下午，蒋鼎文送来两张去武汉的车票。当时国民政府军政机关大都搬到武汉，中共也在武汉建立了八路军办事处和秘密的中共中央长江局。就要前往武汉了，不知出于何种目的，张国焘竟在登车前让张海给在西安的林伯渠打了个电话，林伯渠赶到车站时，张国焘已经上了车。
“祖涵（林伯渠的字），我要去武汉了。”见到林伯渠，张国焘叹口气说。
“中央批准了？”
“没有，是我自己要去的，中央已经容不得我了……你帮我和延安方面说一声吧，我去和蒋介石谈一谈抗日统一战线问题。”
“不行，没得到中央批准不能擅自行动！”林伯渠急切地说，“这样，你先和我下车，我们好好谈谈，然后你再做决定。”
但张国焘去意已决，车上又有国民党的两名便衣特务，开车之前，林伯渠只好告辞，然后将此事通知了正在武汉的周恩来。4 月11 日张国焘抵达汉口（因前线吃紧，火车到洛阳后停了两天），被周恩来派来的李克农等人先行接走。但在张国焘的要求下，没有住到八路军办事处，而是住进江汉路的一家旅馆，派警卫战士吴志坚、邱南章看守。