1934年夏，中央苏区第五次反“围剿”失败，迫使中央红军不得不于10月开始战略大转移——长征。在此历史重要关头，叶剑英以其惊人的胆识和智慧，为党、为人民作出了巨大贡献。
红军长征前夕，叶剑英由中华苏维埃共和国福建军区司令员调任当时的中央革命军事委员会四局局长，兼管军委直属队的工作。他到任后，首先从各方面调查了解干部情况，及时向军委提出干部配备方案。当时，不少同志因为抵制“左”倾错误，受到残酷斗争，无情打击。有的被以莫须有的罪名撤职，开除党籍。在战略转移前，“左”倾错误领导者把这部分被打击的干部看作是“包袱”、“累赘”，想甩掉一批，杀掉一批。叶剑英在自己职权范围内尽最大努力，抵制了这种错误的做法。他亲自找这些同志谈话，深人群众中开展调查研究，深感其中的多数同志是对“左”倾错误领导不满，拥护党的好干部，有的人虽然犯过错误，但性质并不严重；有的则是编余干部。他认为，既不能把党的这些宝贵财富视为“包袱”，随意抛弃，更不能随意杀掉。因此，他力主这部分干部应该得到保护。于是冒着有可能遭打击的危险，仗义执言，尽量设法让他们一同随军突围转移。当时国家保卫局内部决定，对犯“错误”干部开列了一个留走名单。名单上有五六十个干部，分成A、B、C三类，一类是要杀的，一类是要留在苏区的，另一类是可以参加突围转移的。当保卫局长带着这份名单，征求叶剑英意见时，叶据理力争，要求尽量少留人，坚决反对杀人。凡是他了解情况的，逐个陈述自己对他们的看法，极力加以保护。名单上有边章伍的名字，被划入要枪毙的一类。叶剑英说，这个同志我非常熟悉，他毕业于保定军官学校，很有学问，军事理论和军事素质比较高，是军队有用之才；他参加宁都起义也是有功劳的，工作很有成绩，他是个好人，怎能把人家列为反革命呢？保卫局长被说服了，便把边章伍的名字勾掉。此后，叶剑英与边章伍一起共事多年，从未向边提起此事。后来，边章伍知道了这件事，激动地对妻子说，我这个脑袋是叶参座给保下来的，什么时候也不要忘了他救命之恩！此事一直传为佳话。
那张干部“名单”是一个信号。叶剑英感到问题非常严重，自己有责任保护好一些蒙受冤屈的同志。
在一次讨论如何组织军委纵队的会议上，他向军委领导人提出了妥善安置和保护干部的建议和方案，在他的提议下，经过军委批准，组成军委干部团（属随营学校），保留战斗骨干，收编红军大学和其他几所已被撤销的学校中的部分教员、学员和受“左”倾领导打击排斥的所谓“犯错误”的干部和编余干部。这些干部能分配到各个军团和安排在军委机关的尽量安排，随时可以调入。这样，保护了党和红军的一批重要干部，其中就包括萧劲光、郭化若等。这批干部在遵义会议之后，都先后恢复名誉并分配了工作，他们不仅在战争年代发挥了重要作用，而且在新中国成立以后，大多成为党和军队的高级领导干部。
当然，尽管叶剑英等主持正义的领导者竭尽全力进行保护，但由于自身处境也很困难，对一些被强行留下、在当时很有影响的重要干部也爱莫能助，有的甚至是亲密战友，也无能为力。叶剑英后来回忆说：“李德这个人可厉害，他讲不赢道理，就用组织手段整你、处理你。长征时很多干部没带出来，像瞿秋白、古柏、毛泽覃、刘伯坚这些同志战死的战死，有的被杀掉。这都是李德他们搞的。”
叶剑英与刘伯坚是十分熟悉的老战友。刘于1926年同邓小平等先后被派到冯玉祥的部队做政治工作。他的公开身份是国民军联军政治部副部长，深得冯玉祥信赖。1931年在中央苏区参与策划组织宁都起义后，任红五军团政治部主任，功勋卓著。长征突围前，“左”倾错误领导者因为他在莫斯科东方大学学习期间，反对过王明宗派集团，因此，被留在苏区，担任赣南军区政治部主任。可是刘伯坚并没有因为受排斥而消沉，仍然忘我地工作。为了护送主力红军渡过于都河，他亲临架桥工地，开展后勤支援工作，从早到晚，站立河畔桥头，为长征战友送行。他见到叶剑英，特意把酒饯别，倾诉衷肠。两位老战友依依不舍，心情十分沉痛。刘伯坚望着滚滚的东流水，对叶剑英说：“现在大队人马向西转移了，我留在赣南没有什么作用，你还是想办法反映反映，让我跟着走吧！”其实，叶剑英又何尝未反映过呢？他曾几次把刘伯坚的要求向军委作了汇报，提议让他随队长征，但“左”倾领导者却说刘伯坚“婆婆妈妈的”，没有什么用，就是不同意他参加长征。叶剑英无可奈何，只好互道珍重，洒泪而别。后来，刘伯坚在赣南的一次作战中负伤被俘，坚贞不屈，壮烈牺牲。牺牲前，曾在狱中留下《带镣行》的著名诗篇。1962年，叶剑英在《建军纪念日怀战烈》诗中赞日：“红军抗日事长征，夜渡鄂都溅溅鸣。梁上伯坚来击筑，荆卿豪气渐离情。”
这是多么激越悲壮、寓意深邃的诗句啊！当年刘伯坚在于都河畔、黎板桥头，送行惜别的情景，跃然纸上，使人想起战国荆轲刺秦王，和与易水畔击筑送行的好友高渐离的诗句：“风萧萧兮易水寒，壮士一去兮不复还。”刘伯坚的壮烈一生，令人景仰不已。叶剑英每每回忆起这段历史，心情都十分沉重，对“左”倾错误领导者深恶痛绝。他惋惜地说，他们在长征前有意甩掉的许多好同志，后来不少人惨遭敌人杀害，这是令人十分痛心的！
1934年10月初，中央颁布《野战军10月10日至20日行动日程表》，规定了中央红军主力转移的出发日期和到达的地域。中革军委发出第五号命令，决定将军委、红军总司令部、总政治部及其直属部队组成第1野战纵队，又称军委第1纵队，与主力红军一起行动，叶剑英任司令员兼政治委员。博古、张闻天、周恩来、毛泽东、朱德、王稼祥、李德等随这个纵队行动。此外，中共中央机关、中华苏维埃共和国中央政府机关等单位组成第2纵队，亦称中央纵队，李维汉任司令员兼政治委员。
10月10日，中央红军开始长征。中共中央、中革军委率领红1、红3、红5、红8、红9军团，军委第1、第2纵队，共8.6万余人，从瑞金等地出发西进，进行大规模的战略转移。为保守军事机密，中革军委规定军委及各部队对外使用的代号是：军委为“红星”，军委第1纵队为“红安”，第2纵队为“红章”。在战略转移前夕，总参谋长刘伯承因不满李德的错误指挥而被降职到第五军团当参谋长。从这时起至黎平会议，叶剑英以军委第1纵队司令员兼政治委员的身份主持总司令部的日常工作。
10月21日，叶剑英率领军委第1纵队随主力红军从于都西南王母渡、新田之间，突破敌人第一道封锁线，于25日全部渡过信丰河。11月8日，在汝城以南之天马至城口间，通过第二道封锁线。15日，在良田与宜章间，通过第三道封锁线。12月1日，主力红军渡过湘江，通过敌人第四道封锁线。在突破这道封锁线时，面对国民党军几十万兵的前堵后追，博古等领导人一筹莫展，只是命令部队硬攻硬打。红军指战员经过浴血奋战，虽然杀开了一条血路，却付出了惨重的代价，中央红军折损过半，由出发时的8万多人很快地减到3万多人。红军战士的鲜血染红了湘江水，谱写了一曲悲壮的战歌。
突围行军中，叶剑英协助周恩来、朱德处理繁忙的军务，及时传达并贯彻执行军委的各种命令、指示，随时处理部队行军作战遇到的各种问题。他经常找负责人碰头，研究如何应付遭遇战和防止敌人空袭问题，组织部队克服各种艰难险阻，通过一道道封锁线。许多小事，他也非常细心。路过湘西少数民族地区时，住在老百姓的木板房里。这种木板房容易起火，他特意制定防火措施，防止发生火灾。一路上，他最关心的是掌握敌军的部署和动态。那时中共中央和地方党组织已经失去了联系，有关敌人的情报来源主要靠两条：一是地面侦察；二是通过无线电台侦听，破译敌台情报。叶剑英精心组织电台的同志分几个梯队交替行军，昼夜坚持工作，保证通信联络畅通无阻，及时为军委提供准确的敌我情况动态。电台的人员少，工作很辛苦，叶剑英在艰苦的行军中，常去看望他们，称他们是无名英雄，时时处处为他们着想，帮助解决各种困难。
红军渡过湘江，行进到湖南和广西交界的西延山区。这里，山势陡峭，道路崎岖。翻过山岭，涉过河流，前面是一片开阔地。叶剑英带领队伍迅速通过开阔地，向对面的小山上走去。这时，周恩来走过来，告诉叶剑英命令部队切勿休息，立即前进，防止敌人空袭。叶剑英马上具体布置各单位注意防空。就在这时，敌机飞来了。叶剑英命令部队在路边隐蔽。敌机越飞越低。突然向着叶剑英及部队隐蔽的山腰处俯冲投弹。叶剑英见势不好，赶快跑开。刚跑了几步，一颗炸弹正好落在附近，“轰”地一声爆炸。叶剑英摔倒在地。
“参谋长，你？受伤没有？”警卫员范希贤见状，马上奔过来扶他。叶剑英自己爬了起来，踉踉跄跄地继续往前走去。这时，他才感到右大腿靠臀部的地方，一阵阵疼痛。用手一摸，鲜血已经渗透了裤子，不断地往下流。范希贤将他扶到一处平坦的地方，让他躺下，然后叫马夫立即去报告卫生部。
总卫生部部长贺诚闻讯赶来，把叶剑英扶上担架，伤口还在流血。抬到总卫生部临时所在地时，同志们都关切地围上来询问他的伤势，他虽然感到痛得厉害，却坚强地忍住，平静地回答说：“没关系，不要紧。”
经医生检查，发现一块弹片打进了靠近臂部的地方，有好几公分深。由于环境和技术条件的限制，弹片无法取出，只好留在体内了。医生对伤口作了简单的包扎，叶剑英便坐着担架，继续上路了。警卫员把棉大衣给他盖在身上，才发现大衣被炸穿了许多窟窿。原来，炸弹爆炸时，叶剑英正用右手拎着大衣。如果不是这件棉大衣护着，说不定还会有生命危险呢！叶剑英每谈起这次负伤留在身上的弹片，就风趣地说：“留着它作纪念，可以使自己不忘过去。”
叶剑英对待自己负伤不大在意，但他对待别人却非常关心，使许多同志感受到温暖。他带伤工作，劳累过度，又加上营养不良，身体消瘦，几次吐血，却仍坚持行军，还经常把自己的乘马让给伤病员骑。参谋孔石泉在通过少数民族地区时，脚负了伤，走路困难。叶剑英把自己的马让给他骑。几十年后，孔石泉回忆起这件事，仍很动情地说：“叶司令员很关心我，如果没有他的那匹马，我也许走不出少数民族地区了！”
1934年12月，中共中央决定部队进行整编，军委第1、第2野战纵队合编为军委纵队，确定由总参谋长刘伯承兼司令员，陈云任政治委员，叶剑英任副司令员兼一局局长，负责指挥行军作战。
为了贯彻中央新的战略方针，周恩来、朱德、刘伯承、叶剑英研究制定了抢渡乌江、占领遵义的行动方案。1935年1月7日凌晨，先头部队占领遵义城。9日，中共中央、中革军委在当地人民群众的欢呼声中进入遵义城。1月15～17日，党中央在遵义召开政治局扩大会议。会议集中批判了王明“左”倾冒险主义在军事上的错误，通过了《中央关于反对敌人五次“围剿”的总结的决议》，重新肯定了以毛泽东为代表的正确军事路线。会议改组了党的中央领导，增选毛泽东为政治局常委。遵义会议结束了王明“左”倾冒险主义在党中央的统治，实际上确立了毛泽东在红军和党中央的领导地位，在最危急关头，挽救了红军，挽救了党，挽救了革命，成为中国革命一次伟大的历史转折。
遵义会议期间，中央纵队未单独设立司令部，由总司令部兼理。据黄鹄显、曾三、吕黎平等回忆，叶剑英在总司令部协助周恩来、朱德指挥作战，日夜守候在作战值班室，处理紧急军务。他拖着带伤的身体，不分昼夜地工作，有时一天只能休息三四个小时。他负责军委纵队的工作，还要领导军委一局的工作，每天不但要处理大量上报下达的文电，有时还须亲自起草电文。工作严肃认真，一丝不苟。他起草电文喜欢用毛笔写，一笔一画，工工整整。写完后又一字一句点着看，认为准确无误了，然后签上“剑英”二字。他常对军委总部的参谋人员说，一字之差，可能会关系到部队同志的生死存亡，写好后一定要多看两遍。参谋起草的电文，他逐字逐句修改，有时只留下头尾，内容几乎全部改写，改完后，送给参谋重抄，然后他还要认真再看两遍，才签字发出。有的参谋人员不懂电报中的韵目代日，地支代日代时，他不厌其烦，把着手教，帮助参谋人员提高工作能力。
遵义会议后，中央红军决定北渡长江，与红四方面军会合。1935年1月19日，中央红军向川南土城赤水方向开进。一天，中央机关行军到一条山谷时，突然从北边半山坡上冲来敌军一个连的兵力，向中央机关人员猛烈开火。毛泽东、周恩来、朱德等都在敌射程范围内，情况非常危急。中央机关人员只好躲进一条流水沟里。过了一会儿，敌军吹起冲锋号，冲下山来，高喊：“活捉朱毛！”在这千钧一发之际，叶剑英率队从后面跟了上来。他当即下令：“通信排跟我来！”亲自带领一个排迅速冲上南面的高山，集中火力向北边压下来的敌人还击。敌军遭到阻击，摸不清底细，不敢再往下冲。双方对峙了一阵，敌军退去。中央机关转危为安。大家说：“好险呀！要不是叶参谋长及时赶到，我们就要吃枪子儿了！”
1935年2月28日，中央红军在第二次占领遵义的老城老鸦山战斗中，红3军团参谋长邓萍不幸牺牲。3军团向中央发电报，指名要求叶剑英去接任。中央考虑战斗正在激烈进行，前方需要派得力的人，便同意了3军团的要求。叶剑英在危难之际奉命前往3军团任参谋长，协助彭德怀、杨尚昆指挥3军团作战。
3月上旬，中革军委在打鼓新场附近召开重要军事会议，研究成立军事指挥小组问题。出席会议的有军委委员以及红1、3军团负责人、纵队司令员、政委等。3军团参谋长叶剑英和政治部主任刘少奇也出席了这次会议。会议经过讨论，确定由毛泽东、周恩来、王稼祥组成三人小组，负责指挥全军的军事行动。就在会议讨论下一步红军进军方向时，敌机突然袭来。在危急时刻，叶剑英第一个想到的是毛泽东，他眼疾手快，拉着毛的手，急忙跑出房间，隐蔽到山脚边的茅草地里。敌机空袭过后，继续开会。会后，叶剑英在三人小组的领导下，和彭德怀、杨尚昆一起制定3军团的作战计划，指挥部队趁夜经潭厂、两路口，袭取仁怀，三渡赤水。然后攻占铁厂、大村，在二郎滩四渡赤水，南渡乌江，直趋贵阳。
部队人不歇步，马不停蹄，翻山越岭，来到金沙江畔。金沙江的支流很多，过每一道河，叶剑英都要亲自勘察地形，指挥架设浮桥，或组织人员向敌军夺船渡河。行军作战中遇到问题，他总是找几个科长来一起商量解决办法后向彭德怀汇报，最后再作决定。有一天，部队行军80里，到宿营地时已经很晚了，走在前边的部队突然来电说，行军前方有一座桥被水冲断了，需要连夜架修。这时大家经过一天的行军，人困马乏，已经很疲劳，叶剑英带伤走路，更是周身酸痛，但他仍然连夜召集司令部李天佑、孙毅等几个科长碰头研究办法，并要亲自带工兵连夜去抢修。几位科长看到他身体虚弱，坚决不让他去。叶剑英接受了大家的意见，将架桥任务交给孙毅。临走前，他对可能遇到的问题，又作了具体交代，才放心地让孙毅带工兵连20多个战士前去。他们走了几十里路，在河边整整奋战了一夜才把桥架通。
彭德怀、杨尚昆和叶剑英率领3军团渡过金沙江、大渡河后，乘胜继续北进。经林枰，从二郎山旁越过人迹罕至、野兽成群的深山老林，指挥部队击溃四川军阀杨森所部6个旅的堵截。于6月初，占领了天全、芦山、宝兴，为后续部队扫清了道路，迅速赶到夹金山脚下。
夹金山是红军长征翻越的第一座海拔4000米以上的大雪山。它位于四川宝兴县西北、懋功东南，高耸人云，气候寒冷，空气稀薄，山顶积雪终年不化。红军指战员从云南一路转战来到四川，每人只有一套单衣，要过雪山了，想补充点衣服也无处可寻。最初他们想带些烧酒御寒，但山脚下人烟稀少，哪里去找这许多烧酒？叶剑英找大家商量，布置部队要多准备生姜、大蒜、大葱、辣椒，以备上山冷时咀嚼压寒，并对爬雪山提出了一些具体要求。
上午八九点钟，部队开始上山。叶剑英拄着拐棍，口里含着姜片，与警卫员范希贤一起向山上攀登。雪山上的气候，变幻莫测，刚才还是阳光灿烂，过不多久就下起了鹅毛大雪。暴风夹着雪，打到脸上、手上，像刀割似地疼痛。叶剑英和大家一样穿着单薄的军装，冻得浑身直打哆嗦。人们用手捂着脸，冒着暴风雪，踉踉跄跄，艰难地行进着。如果不小心，掉进雪窝里或雪崖下，就永远爬不起来了。好不容易走到山顶，叶剑英远远看见有三个人坐在那里，走近一看，三人都已冻僵牺牲了。他默默地摘下军帽，含着热泪向这些无畏的战友告别，陷入了沉思：自从离开中央苏区，一路上牺牲了那么多好同志。他情不自禁地低吟：“越过千山与万水，红军西游何时还？……”
爬过雪山，部队吃粮非常困难，只好靠野菜充饥。有的连野菜也吃不上，只好吃草根、树皮。为了搞到粮食，叶剑英率3军团教导营与藏民联系买粮。可是，沿途藏民多受国民党的欺骗宣传，把粮食都藏匿起来，不肯卖给红军。在这种情况下，叶剑英仍然教育部队要爱护少数民族兄弟，绝不能违反群众纪律。他带头执行纪律，遵守少数民族的风俗习惯，并且规定了一些具体的政策和措施。叶剑英要求大家宁肯搞不到粮食，饿着肚子，也不准随意侵扰藏族兄弟。有的藏民因受反动宣传的欺骗，拿起大刀长矛对付红军。叶剑英教育部队，绝对不准还击。由于他带头执行中国共产党的少数民族政策，许多藏民很受感动，积极动员躲在山上的群众陆续回家，纷纷把余粮卖给部队，有的甚至乐于为红军带路。
1935年6月中旬，中共中央和中央红军与红四方面军在懋功胜利会师，两支部队总兵力10万余人。同日，在懋功县城召开了胜利会师庆祝大会，两军指战员兴高采烈，欢欣鼓舞。然而，就在广大干部战士欢庆会师的大喜日子里，红四方面军主要领导人张国焘与党中央之间，在红军前进方向和战略方针上，却出现了越来越大的分歧。
7月21～22日，党中央在黑水芦花召开政治局会议（即芦花会议），与张国焘进一步会商，着重讨论红四方面军行动问题。张国焘、徐向前在会上汇报了红四方面军从鄂豫皖到川陕苏区的历史，与会同志充分肯定了红四方面军的各项工作成绩，赞扬了红四方面军广大指战员英勇善战的精神。同时也严肃批评了张国焘的严重错误。
同一天，中革军委决定以原四方面军总指挥部为红军前敌总指挥部，徐向前兼总指挥，陈昌浩兼政治委员，并应四方面军领导要求，任命叶剑英为参谋长。
叶剑英接到命令后，向毛泽东、朱德、周恩来等告别，几位领导人同他进行了亲切谈话。随后，他带领红军总司令部机关的10余名作战参谋和机要干部，立即从黑水出发，去毛儿盖红军前敌总指挥部报到。
叶剑英到指挥部后，抓紧实施机关的思想建设和组织建设，同时积极准备攻打松潘。然而，由于张国焘的阻挠破坏和其他原因，使红军在毛儿盖地区耽误了一个多月，失去了占领松潘的机会。敌人在这一个多月内，完成了对红军围追堵截的部署。8月3日，中共中央被迫放弃松潘战役计划，决定改经草地北上。据此，红军总部制定了《夏洮战役计划》，将一、四方面军编为左、右两路军，以一方面军的第5军、第32军，四方面军的第9军、第31军、第33军为左路军，在朱德、张国焘、刘伯承率领下，从卓克基出发，经阿坝北进；以一方面军的第1军、第3军，四方面军的第4军、第30军为右路军，在徐向前、陈昌浩、叶剑英率领下，从毛儿盖出发，经班佑北上阿西。党中央、中革军委随右路军行动。
从毛儿盖地区北上，必须经过一望无际、渺无人烟的茫茫大草地。为了查明与找到过草地的捷径，以减少损失，缩短路程，叶剑英到30军讲完打骑兵的战术要领后，在程世才军长帮助下找到了一位姓李的向导。他亲自向老李作调查，然后，迅速从30军回到前敌总指挥部汇报情况，并提出愿率一部分兵力先行开路。毛泽东听取叶剑英汇报后，马上召集会议，进一步研究右路军北上的具体路线，最后肯定了右路军经草地到班佑，然后走拉卜愣的行军路线，并决定叶剑英率两个团先行开路。
茫茫草地，气候多变。荒无人烟，浊沼横潦。战士们走在烂草淤积的沼泽里，踏着一窝一窝的草蔸前进，偶尔失足，踩进淤泥中，就会陷下去，越陷越深，以至没顶。
叶剑英抱病带领部队行军，和大家肩并肩、手牵手走在沼泽地里。别人休息了，他忙着召开干部会，了解行军中的情况和问题，要求各单位加强政治思想工作，以顽强的毅力克服困难。同时，还要向前敌总指挥部报告敌情、地形、宿营地点以及大部队行军需要注意的事项等。
一天晚上，部队在沼泽地年朵坝宿营。只见满天乌云翻滚，顿时倾盆大雨直灌下来。因为没有帐篷，没有栖身之处，大家或蹲或坐，紧靠在一起，忍着饥寒，苦捱苦撑。程世才回忆说，那天夜里，我们和叶剑英坐在一块大石头上，全身都湿透了，冻得直打寒颤。有些同志在饥寒中无声地倒了下去，再也没站起来。叶剑英看到这种情景，就鼓动士气，给大家讲故事，领唱《国际歌》。高亢的歌声响彻夜空，使大家振奋起来。第二天早晨，天气晴朗，碧空无云，同志们集合在一块湿草地上，埋葬了战友的尸体。叶剑英领着大家伫立默哀，并以坚定的语气说：“我们活下来的人，要想着牺牲的同志。我们一定要走出草地，争取胜利！”
在草地走了三四天以后，带的干粮都吃完了。叶剑英就同大家一起找野菜，吃野菜。有人吃了中毒，浑身浮肿，躺在草地上，部队减员越来越多。
部队又经过几天艰苦行军，好不容易来到了大草地北端的班佑。班佑，被大家想象成为“草原的天堂”，其实不过是二三十户游牧藏民的集居地。在这个小寨里并没有像样的房屋，有的只是用树枝拱起屋架，外面涂以牦牛粪的“牛屎房子”。
叶剑英和程世才等经过草地能住进这样简陋的房子，比起风餐露宿已经好得多了。他和大家生起火来，烤烤湿衣服，吃点炒面，睡上一觉，已经感到很满足了。多少年以后，他忆起“牛屎房子”的生活，还津津乐道。
班佑靠大路边，是敌人骑兵经常出没的地方。叶剑英在进班佑前一天，先头部队与敌骑兵相遇，打了一仗。进班佑后，敌人3000多骑兵又来向265团驻地进攻。叶剑英当机立断，与程世才一起指挥部队迅速占据有利地形，用密集火力阻击敌人。同时，命令264团增援，打退了敌骑兵的进攻。
在这次战斗中，缴获了敌军许多马匹。第二天，程世才派出两个营的部队去“打粮”，又从敌骑兵手中夺得了几匹马和一些牛羊。叶剑英向程世才建议，把战利品分出一部分送给党中央机关和后续部队。后来，秦邦宪见到叶剑英、程世才，感激地说：“你们送来一头牛，让我们饱餐了一顿，这是过草地后，我们得到的最好礼物！”
叶剑英抓紧在班佑小住的时间，继续找向导老李和当地藏民调查去甘南的行军路线。待毛泽东、周恩来、徐向前、陈昌浩等陆续到达班佑后，他向毛泽东等报告了先遣部队一路情况和下一步部队行动的意见。他建议说，按照原计划去拉卜愣，还要走4天的草地，一路上会遇到许多敌人骑兵，不好对付；如果从班佑向东北转弯，越过巴西，占领包座，很快就可以到达甘南。毛泽东翻看地图，又征求周恩来等人的意见，点头说，剑英的意见很好，我们就决定从这里转弯。此后，右路军即从班佑改道，向巴西、包座、俄界前进。叶剑英成功地完成了开路先锋的任务。
在右路军行进的同时，张国焘率领左路军到达阿坝之后，却按兵不动，他拒不执行中央要左路军迅速出班佑向右路军靠拢、全力向洮河以东发展的指示。相反，他坚持左右两路军全力出洮河以西，越黄河深入到青海、新疆等边远地区的主张，并借口“噶曲河涨水，上下三十里均无涉点”，拒绝向右路军靠拢。
9月3日，张国焘致电徐向前、陈昌浩并转呈中央，提出改变北上方针，主张南下，要求“右路军即乘胜回击松潘敌，左路军备粮后亦向松潘进，”“茫茫草地，前进不能”，强令已经东进至墨洼附近的左路军先头部队第5军返回阿坝。据欧阳毅回忆，朱德和刘伯承对此坚决反对，并亲自到河边派人测试河水的深浅，认为部队完全可以过河，多次提出要部队按原定计划同已抵班佑、巴西的右路军会合，共同北上。但张国焘不予理睬。不仅如此，张国焘还给陈昌浩发出指示，命令右路军南下，并企图分裂和危害党中央。时任前敌总指挥部参谋长的叶剑英识破了张国焘的阴谋，立即报告了毛泽东。毛泽东感到事态严重，随即同张闻天、秦邦宪赶到第3军军部驻地，同在那里养病的周恩来、王稼祥等一起，进行紧急磋商。党中央为坚持北上方针，避免红军内部可能发生的武装冲突，决定率红1、3军和军委纵队迅速转移，脱离险境，先行北上。
叶剑英返回前敌总指挥部（潘州镇汉官衙门）以后，又办了两件事：第一件，找司令部作战科副科长吕继熙（肌吕黎平），要了一份十万分之一的甘肃地图；第二件，给带领宣传队在包座30军进行慰问演出的红3军宣传部长刘志坚发报，要他见电立即返回红3军驻地。
就在中央决定北上的那天夜里，张国焘在命令右路军南下之后，于9月9日24时又致电党中央和右路军领导人，声称：北上会遇到不能克服的困难，红军南下更好，提出“南打又为真正进攻，决不会做瓮中之鳖”，要求中央考虑。实际上张国焘这时已经下令右路军南下，此电提出的所谓建议，显然是为了欺骗中央、掩盖其胁迫整个右路军南下的企图。党中央于9月10日凌晨率第1、第3军出发北上。
叶剑英对于张国焘此次与党闹分裂事件的经过，曾于1981年1月、1982年的3月和4月作过详细的回忆谈话：
大概在1935年9月上旬，我们到了巴西一带一个叫潘州的村子里。我和徐向前、陈昌浩同住在一间喇嘛庙里。中央机关和毛主席他们也住在附近。张国焘率左路军到了阿坝，就不走了，不愿再北进。中央多次催他北上，他就是不动。他还阻止陈昌浩等人北上。我们在巴西那一带等他。
9号那天，前敌总指挥部开会，新任总政治部主任陈昌浩讲话。他正讲得兴高采烈的时候，译电员进来，把一份电报交给了我，是张国焘发来的，语气很强硬。我觉得这是大事情，应该马上报告毛主席。我心里很着急，但表面上仍很沉着，把电报装进口袋里。过了一些时候，悄悄出去，飞跑去找毛主席。他看完电报后很紧张，从口袋里拿出一根很短的铅笔和一张卷烟纸，迅速把电报内容记了下来。然后对我说：“你赶紧先回去，不要让他们发现你到这来了。”我赶忙跑回去，会还没有开完，陈昌浩还在讲话，我把电报交回给他，没有出漏子。那个时候，中央要赶快离开，否则会出危险。到哪里去呢？离开四方面军到3军团去，依靠彭德怀。
毛主席提议去3军团开政治局会议，他们临走的时候，张闻天和秦邦宪找到我，对我说，“老叶，你要走啊，这里危险。”我知道有危险。但是我想，军委直属队还在这里。我一走，整个直属队就带不出来了。我要等直属队走后才能走。我对他们说：我不能走，你们先走吧。如果我一走，恐怕大家都走不了啦。我以后会来的。
究竟怎样带直属队走？我一时没有想好。忽然，我想起了张国焘要南下的电报，决定利用他要南下的电报做文章。
我先和徐向前讲：“总指挥，总政委来电要南下，我们应该积极准备。首先是粮食准备。先发个通知给各个直属队，让他们自己找地方打粮食去。限十天之内把粮食准备好。”他说：“好！”得到他的同意后，我写了个通知，准备发给各个伙食单位。通知上说，今天晚上两点钟出发，自己找地方去打粮。通知写好以后，给陈昌浩看，他认为很对嘛，应该先准备粮食。接着，我就找直属队负责人开会。参加的有李维汉、杨尚昆、李克农、萧向荣等，大概七八个人。我讲了这个事情。我说，中央已经走了，今天晚上两点我们也走。大家对表。早一分钟晚一分钟都不行，整整两点动身。我要求大家严格保密，同时要按规定时间行动。
会后，我回到喇嘛庙。我和徐、陈住在一个屋子里，一个人住一个角落。中间还有一盏马灯，我们是亮着马灯睡觉的。
那天晚上我怎么睡得着呢，睡过了两点就完了。我九点钟上床，心里老在想着时间，十点、十一点、十二点、一点，我躺在床上不敢睡着，大约一点四十五分左右就起来了。我预先曾派了一个小参谋叫吕继熙，把甘肃全图拿来。我把它藏在我床底下的藤箱子里。我起来后，把大衣一穿，从床底下把地图拿出来，就往外走。
我先到萧向荣那里，他也刚起来。我告诉他，赶紧把地图藏起来，并说，这张地图你可千万要保管好，不要丢了，这可是要命的东西。当时，全军只有一份甘肃地图。我交地图给他的时候，离两点还有五分钟。我一摸身上，手枪忘记带了，要回去拿，萧向荣说：“你不要回去，回去危险！”我说：“不要紧的，我是公开出来的。出来检查去打粮的队伍。”
我回去拿了手枪，又轻轻推了睡在门口的“死卵”（警卫员范希贤），他没有醒来，我怕惊动旁人就走了。我装作巡视部队出发的样子，因为这是参谋长应该做的工作，不会引起怀疑。
就这样，叶剑英当晚由于情况紧急，来不及通知毕占云、吕继熙、陈茂生等人，一个人离开喇嘛庙，匆匆跨出大门上路。他牵着一匹骡子，来到一个磨房附近，杨尚昆已在那里等他。草原上空乌云密布，地面寒气袭人。两个人一点也不感到冷，既紧张又兴奋，急忙赶路。走出不远，就听到后面传来的马蹄声。他们躲过“追兵”，又走了好一会儿，才赶到军委直属队休息的地方。据胡立教回忆，同志们看到他们来了，高兴地说：“你们开小差跑出来了。”叶剑英风趣地说：“不！不是开小差，而是开大差，是执行中央北上方针。”在一个叉路口，叶剑英碰到了正在焦急等待他们的彭德怀、张闻天、秦邦宪等。脱险后重逢，格外亲切，大家七嘴八舌，说得很热闹。这时，秦邦宪拉了他一把，说，参座，你还不快走！叶剑英立即起身，加快步伐，继续赶路了。夜黑路不熟，叶剑英和杨尚昆，赶上第3军部队，已是拂晓时分了。毛泽东、周恩来、王稼祥正在焦急呢。见了面，毛泽东高兴地说：哎呀！你们可出来了，好！好！我们真为你们担心。会齐了队伍，便朝第1军所在地俄界进发。
9月10日凌晨，中共中央在北上途中发出《中央为执行北上方针告同志书》，指出张国焘的南下方针“对于红军是没有出路的，南下是绝路”。号召党和红军坚决拥护中央的战略方针，迅速北上，创造川陕甘新区。同时再次致电张国焘：“阅致徐、陈调右路军南下电令，中央认为完全不适宜的。中央现在恳切的指出，目前方针只有向北，才是出路，向南则敌情、地形、居民、给养都对我极端不利，将使红军陷于空前未有之困难环境。中央认为，北上方针绝对不应该改变，左路军应立即北上。……”中央走后，张国焘于10日凌晨4时又致电中央说，已得悉中央率第3军单独北上，表示“不以为然”，公开抗拒中央命令，仍坚持南下，拒绝北上。同日，党中央再次向右路军领导人徐向前、陈昌浩发出“指令”：张国焘令右路军南下，显系违背中央屡次之决定及电文。为不失时机地实现自己的战略方针，“中央已令一方面军主力向罗达、俄界前进。4军、30军归你们指挥，应于日内尾1、3军团（第1、3军）后前进。”并指出：由于张国焘不能实行总政治委员之责任，违背中央战略方针，中央“特直接指令前敌指挥员（党员）及其政委，并责成实现之”，“以后右路军统归军委副主席周恩来指挥之”。
此时身为右路军政治委员的陈昌浩站在张国焘一边。他送信或致电第1、第3军领导人并转全体人员，要他们反对中共中央，说什么“中央不经过总部组织路线，自己把一方面军部队及直属机关，昨晚开去”；“中央在毛周逃跑路线上，已经把一方面军几十万健儿葬送”。信中煽动说：“……胡为乎几个人作恶，分散革命力量，有益于敌”；“吾兄在红军久经战斗，当挥臂一呼，揭此黑幕”。他挑拨第1、第3军和中央的关系，妄图拉拢彭德怀等领导人，同时，不折不扣地按照张国焘的“秘密命令”行事。陈昌浩发觉中央单独北上以后，立即召开高级干部会议，说“中央投敌去了”，是“逃跑路线”等等。据当时任第4军军长的许世友于1982年11月24日回忆，陈昌浩命部队作战斗准备，准备去追，竞给第4军下令要28团追击中央。许世友请示徐向前，徐向前说：“哪有红军打红军的道理！叫他们听指挥，无论如何不能打！”徐向前的这个决断，避免了两支主力红军的冲突，表现了一个无产阶级革命家、军事家以大局为重、以团结为重的恢宏气度。
9月11日，叶剑英和大家到达俄界。同日，党中央为了争取张国焘改正错误，再次电令“张总政委立即命令左路军向班佑、巴西开进，不得违误”。张国焘置若罔闻，抗拒命令，反诬中央逃跑，制造分裂。他公然继续致电1、3军领导人，恶毒诬蔑中共中央率领红一方面军主力单独北上的行动。
9月12日，中共中央政治局在俄界举行扩大会议，着重讨论与张国焘的斗争及今后的战略方针问题。叶剑英出席了会议。会议一致通过《关于张国焘同志的错误的决定》。决定深刻地揭发和批判了张国焘分裂党、分裂红军、反对北上战略方针、退却逃跑以及军阀主义的严重错误，号召红四方面军广大指战员，团结在党中央周围，同张国焘的右倾分裂主义作坚决的斗争。为了挽救张国焘，争取和团结红四方面军广大指战员，这个决议没有向全军公布，只发至中央委员。会议还决定将红一方面军主力和中央军委纵队改编为中国工农红军陕甘支队，彭德怀为司令员，毛泽东为政治委员，叶剑英为参谋长。第二天，中共中央率领陕甘支队由俄界地区出发。14日，中共中央再次致电张国焘，再一次要张立即取消南下的决心及命令，服从中央电令，具体部署左路军与4军、30军继续北进，指斥张国焘“不得中央同意，私自把部队向极端危险的方向（阿坝及大小金川）调走，是逃跑主义最实际的表现”。
但是，张国焘顽抗到底，一意孤行。他令左路军和右路军的4军、30军南下后，对朱德、刘伯承等进行迫害，另立“中共中央”，宣布“撤销”毛泽东、周恩来、博古、洛甫工作，“开除”其中央委员及党籍，并下令“通缉”。宣布对杨尚昆、叶剑英“免职查办”，直至狂妄地要求取消党中央。
对于叶剑英在上述事件中为党作出的贡献，毛泽东在其后几十年中曾多次提到，称赞叶剑英“诸葛一生唯谨慎，吕端大事不糊涂。”徐向前于1977年5月14日叶剑英八十寿辰之际，赠叶剑英一首“七绝”，其中写道：“吕端当愧公一筹，导师评论早已定。”聂荣臻也同时赠诗一首：“川西传讯忠心耿，京华除害一身胆。行若吕端识大事，功成绛侯有愧颜。”
中共中央对叶剑英在长征途中同张国焘的斗争，作了高度评价和明确的结论。1985年9月16日，中共十二届四中全会在写给叶剑英的致敬信中说：“长征途中，您同张国焘企图危害中央和中央红军的阴谋进行勇敢机智的斗争，为党立了大功。”
1935年9月中旬，陕甘支队在北上进军中，叶剑英协助毛泽东、彭德怀指挥部队斩关夺隘，越过岷山，于17日攻克天险腊子口。18日占领甘南的哈达铺。陕甘支队在哈达铺进行休整。9月20日，中共中央政治局常委会决定，红1军团改编为第1纵队；红3军团改编为第2纵队；中央军委纵队改编为第3纵队，叶剑英任司令员。休整后，叶剑英率领第3纵队继续北进。9月27日，红军占领榜罗镇和通渭县城。在这里。叶剑英和几位同志从国民党报纸上看到有关陕甘苏区的消息，遂向中央提出北上陕北的建议。其时，中央也正在分析全国局势，对陕甘苏区和西北军的情况尤为关注。在榜罗镇，党中央政治局常委举行会议，根据陕北尚有相当规模的苏区和红军等情况，决定党中央率领陕甘支队进至陕北，和当地红军一起，保卫和扩大陕北根据地。会后，陕甘支队分三路北上，于10月上旬翻越六盘山主峰，在铁角城附近，与敌骑兵遭遇，发生激战。当时，彭德怀、叶剑英站在一个山头上的破庙里用望远镜观察敌情。突然，彭德怀一把将他按倒，一颗子弹从头上呼啸而过。叶剑英对这件事一直铭记心头，曾多次对孩子和身边工作的同志说：“彭总救过我的命！那一次好险啊！”
陕甘支队继续向吴起镇前进。在吴起镇何连湾一带，彭德怀、叶剑英指挥部队消灭了一股敌军。10月19日到达吴起镇。叶剑英协助彭德怀指挥部队击溃尾追的敌骑兵2000余人。22日，叶剑英出席了中央政治局在吴起镇召开的扩大会议。会议决定党和红军今后的战略任务是“建立西北的苏区，领导全国大革命”。
至此，中央红军胜利结束了历时1年、途经11个省的2.5万里长征。长征在中国和世界人民面前高高矗立起一座丰碑。它铭刻着红军战士们在中国共产党领导下英勇奋战的壮丽史诗。叶剑英以对党的耿耿忠心和殷红鲜血为这恢宏史诗谱写的光辉的篇章，永放光芒。