博古本人对于日趋严峻的局面一筹莫展，他整天拿一把手枪在脑门上比划，嘴里呢喃着：“这样一下，就完了，就好了。”当时广大的红军将士都在迫切要求撤换现有领导，一向态度隐晦的林彪也因为湘江一役使红一军团受损过重而对博古、李德颇有怨言。
黎平会议后，一军团奉命抢渡乌江天险，林彪、聂荣臻率一师，军委率二师分别在江界和回龙场两地同时渡过。在行军途中，毛泽东、朱德、周恩来、博古等人来到一师，恰巧军团司令部刚宰了一口猪。大家一起“打牙祭”，这是长征途中难得的享受。吃完饭后，毛泽东等人正要出门，碰上李德进来。毛泽东往里一指，告诉李德说：“里面有饭，进去吃吧!”没想到这么平常的一句话却很快变成了“毛主席说李德是饭桶”，流传到各军中。
1935年1月2日，红一、二两师渡江成功，接着打开遵义城。遵义是黔北首府，贵州第二大名城，这里汉、苗、黎各族商贾云集，市面十分热闹。遵义是红军长征以来所占领的第一座中等城市。
从1月14日开始，林彪、聂荣臻奉军委指示，将部队日常工作交给参谋长左权和政治部主任朱瑞，专心致志地参加中央政治局扩大会议，史称“遵义会议”。
遵义会议是15日晚饭后在一间长方形的房间内宣布开始的。二十多名中央政治局委员、政治局候补委员和各军团军政主要首长参加会议。他们围坐在一个小铁火炉周围，正中三把椅子上坐着博古、周恩来和毛泽东。博古很高很瘦很黑，戴一副高度近视眼镜，像一个“黑面木偶”。他是会议的主持者，又处在被审查的地位。他在为第五次反“围剿”斗争所作的总结报告中，一再强调客观原因，推诿责任。与他相反，作为军委主要负责人的周恩来一开始就坦率地承认了自己在军事指挥方面的错误，很快便获得了与会者的谅解。
毛泽东一改过去总是等到最后才发言的惯例，第一个站起来作了长篇讲话。他批评李德犯了进攻中的冒险主义、防御中的保守主义、退却中的逃跑主义，导致反“围剿”斗争的失败。毛泽东十分策略地避开政治路线，不提政治错误，只提军事错误。他的发言博得热烈的掌声。接着，王稼祥、洛甫、朱德、聂荣臻、彭德怀先后发言，表示支持和同意毛泽东的意见。
林彪在遵义会议上，没起多大作用。这一点，遵义会议时为李德担任翻译的伍修权是这样认为的：
林彪本来是支持李德那一套的，会上被批判的“短促突击”等等，也是林彪所热心鼓吹的……会议虽然没有指名道姓地批判他，他实际上也处于被批判的地位。所以在会上，基本上是一言不发的。
聂荣臻也说，“林彪没发什么言”。
遵义会议整整召开了三天。散会后，林彪并没有按照会议的要求向全军团传达会议精神。十几天后，红一军团才从其他部队获悉遵义会议的主要内容。遵义会议精神过了十几天后才传到红一军团的原因，时任一师师长的李聚奎这样认为：
一方面，因为一军团在党中央召开遵义会议之前，已进到离遵义五十公里以外的桐梓、松坎地区，且遵义会议一结束，我师就作为先头部队奉命向赤水方向前进，军情紧急，来不及向我们传达；另一方面，参加遵义会议的军团政委聂荣臻同志因脚打泡，化脓未好，坐担架随中央纵队行军，没有回到前方部队；再一方面，不能不说同林彪对遵义会议的态度暧昧有关。
虽说林彪在参加遵义会议之后就回到了部队，但却没有及时给我们传达。
在遵义会议上遭到无情批判、成为众矢之的的红军“太上皇”李德想起了一向对他很尊敬、很友好的林彪。在遵义会议上被解除了指挥权之后，李德提出到红一军团去随军行动。这个要求得到批准。李德拉着驮满了特殊食品的一匹马，兴致勃勃地来到红一军团，没想到受到了林彪冷冰冰的接待。寒暄之后，林彪指定军团管理科科长照顾好李德的生活，说完便不再理他，一摔手离开了李德。这使李德十分恼火。二进遵义时，翻译伍修权去看他，他一肚子气没处发，见伍修权拿了小桌上的一个核桃，勃然大怒：
“你为什么吃我的核桃?你和我只有工作关系，没有吃核桃的关系。”
遵义会议红军虽然解决了领导权问题，但军事形势仍不乐观。国民党在短时间内调集了近四十万兵力，组成了“铁壁合围”式的几层包围圈，封锁了乌江、金沙江，企图再次将红军聚歼于此。
红军能否跳出包围圈，取决于极端灵活的战略战术，要用反复穿插的曲线行军调动敌人部署，诱使蒋介石让出或减少江防兵力。为此，毛泽东重执帅印后，于1935年春指挥了他称之为“一生得意之笔”的四渡赤水战役。
激战娄山关，三军团夺魁；再取遵守城，一军团告捷。林聂欲建新功，唯有毛泽东一人反对。“有时真理掌握在少数人手里。”
聂荣臻是最早称林彪为“魏延”的人。为了反对部队走弓背，林彪胆大包天，竟然上书中央，要求毛泽东随军主持大计，由彭德怀负责前敌指挥。
会理会议追究换帅风波。“你是个娃娃，懂得什么？林彪的信是彭德怀同志鼓动起来的！”毛泽东把林彪的错误记到了彭德怀的身上。彭德怀采取不抗辩、不申明的态度，背了二十多年的黑锅。
飞夺泸定桥决定红军的命运。夺桥的勇士得到的最高奖励是一套列宁服、一个笔记本、一支钢笔，不是林彪抠门，而是他只能拿出这么多东西。
林彪在毛泽东面前是一个娃娃。毛泽东重新回到领导位置时，对林彪在长征途中的过失都宽容地原谅了。
南国春早。二月的贵州，一望无际的群山披青挂绿。爆芽的柳枝，葱茏的小草，团团簇簇的野花，令人心旷神怡。遵义会议后，红军官兵的面貌焕然一新。尽管长途行军身体十分疲惫，但他们失而复得、期待已久的游击战略又回到他们身边。2月16日，军委发布《告红军战士书》，阐述了今后红军行军作战新的指导思想。《告红军战士书》中写道：
为了有把握的求得胜利，我们必须寻找有利的时机与地点。在不利的条件下，我们应该拒绝那种冒险的、没有把握的战斗。我们必须走大路，也必须准备走小路，我们必须准备走直路，也必须准备走弯路。
熟悉的思想，熟悉的战术，熟悉的语言。《告红军战士书》准确无误告诉广大基层指战员一个信息：毛泽东又开始重掌军权，中央换了舵把子。
毛泽东披挂上阵决心打几个胜仗以振奋军心，但是土城之仗，红军遭敌夹击，伤亡惨重。这时舆论对新的中央领导核心十分不利。战士中有骂娘的，有些营团干部也跟着骂。有些了解一点情况的人也说，中央不是在遵义城开了会吗?还是打败仗。这些论调，自然而然地通过各种渠道输送到红军最高统帅部。“军事三人团”中，周恩来、王稼祥忧心忡忡，毛泽东不以为然，“土城之役，问题出在情报不准。起初以为只有川军两旅四团，接敌才知数倍于前。这是个意外。大家有意见很自然，有意见怎么办?再打一个胜仗不就平息了吗?”说罢，他一挥手，仿佛把这些烦恼和不快轻烟般地抛至脑后。
2月26日，红军在国民党铁桶合围下绕了一圈，来到云贵高原著名的天险娄山关脚下。这里群峰环立，直削如剑，沟壑纵横，狰狞可怖，一夫当关，万夫莫开，历来为兵家必争之地。娄山关驻扎着贵州军阀王家烈的数师人马，横亘在国民党包围圈中央，成为红军回师黔北、再占遵义的障碍。中央军委集中兵力，由彭德怀指挥，猛攻娄山关，击溃敌军两个师二十八个团，扭转了长征以来红军尽打败仗的局面。毛泽东、周恩来、朱德率各军团军政首长登上关口，这时，天边晚霞正红，火红的亮光透过云朵照射到巍峨的群峰之上，如同威武壮士披上了金色的霞衣，格外壮观。
“好一座铁关啊，终于被我们敲开了。”周恩来兴奋地说。
“万峰插天，中通一线。这样的雄关隘口，你们能攻下来，不容易!不容易!”朱德顾盼着四周险峻的峰峦严肃地说。
山风呼啸，吹得毛泽东蓬松齐耳的长发纷纷扬扬。他心情凝重，百感交集，吟成《忆秦娥》新词一首：
西风烈，
长空雁叫霜晨月。
霜晨月，
马蹄声碎，
喇叭声咽。
雄关漫道真如铁，
而今迈步从头越。
从头越，
苍山如海，
残阳如血。
“主席，下一步行动方向如何确定?”总参谋长刘伯承打断了毛泽东的诗兴。
“追击，乘胜追击，再占遵义。”毛泽东不假思索地吩咐道，“这次老三有功，也很辛苦，攻击遵义的任务交给老大。”
林彪高兴地接受任务，纵马飞驰至指挥所，命令号兵用号音通知各师长、政委、参谋长前来开会。