1932年1月,前往中央苏区首府瑞金,任中央军事政治学校校长兼政治委员。10月,任中国工农红军总参谋长,协助朱德、周恩来在前方指挥作战,取得第四次反作战的胜利。长征初期,协助军团长董振堂执行后卫任务,掩护中铜雕景观红军雕塑通过国民党军四道封锁线。
1934年底,复任红军总参谋长,兼中央纵队司令员。1935年1月,指挥先遣部队突破乌江,智取遵义,甩开了敌军主力,使伤亡大半、疲惫不堪的中央红军获得了一次难得的短期休整。
遵义会议上,他坚决拥护毛泽东的主张。5月,兼任红军先遣队司令,同政治委员聂荣臻率部进入大凉山,与彝族首领小叶丹歃血为盟,使全军顺利通过彝族聚居区。
继而指挥所部在安顺场强渡大渡河,打开红军北上的通路。