为攻占莫斯科，德军中央集团军的下一个目标是斯摩棱斯克，这是向莫斯科推进的必经之地，面对德军的是沿第聂伯河与道加瓦河建立的旧斯大林防线，守军是西方方面军第13集团军及最高统帅部预备队的第20、第21及第22集团军，另外还有刚刚编成的第19集团军及第16集团军，它对德国第3装甲集群的第39装甲军构成了很大的威胁。1941年7月6日，苏军第20集团军第5及第7机械化军的700辆坦克，发起了大规模反攻，但德军在强大的空军支援下取胜，两个苏联机械化军在3天的战役中，被彻底摧毁。
同时，德军第3装甲集群的第20装甲师，在道加瓦河东岸建立了桥头堡，直接威胁维捷布斯克。在南面，远离主要进攻方向，德军第2装甲集群向第聂伯河一带的守军，发起突然进攻，苏军第13集团军被迫后退，损失了5个师，当德军两个装甲集群向东推进后，在斯摩棱斯克一带的苏军第16、第19及第20集团军有被包围的危险。
在斯摩棱斯克南面，古德里安的第2装甲集群快速前进，其第129摩托化步兵师于7月16日攻占斯摩棱斯克。在北面，由于沼泽地带下雨仍是一大问题，霍特的第3装甲集群进展较慢，而苏军仍然坚持战斗，以突破包围。7月18日，德军两个装甲集群的先锋距离只有10公里，但最后仍用了8天时间，才将包围圈封闭，之后又用了10天时间清理包围圈，最后虽然有30万苏军被俘，但由于德军未能及时封闭空隙，令20万苏军得以逃脱。他们在斯摩棱斯克与莫斯科之间重新建立防线。8月上旬，斯摩棱斯克战役基本结束，战役迟滞了德军向莫斯科推进的速度。
鉴于以上情况，希特勒放弃包围战术，“巴巴罗萨”行动进行了4个星期，希特勒及其最高统帅部清楚地意识到，虽然遭受到人员及物质的巨大损失，但苏联仍未崩溃，德军中央集团军群两翼在苏军的反攻下遭到削弱，希特勒决定将中央集团军群的坦克，调往北方集团军群和南方集团军群作战，他认为德国应用经济上的打击来摧垮苏联，希望德军快速攻占列宁格勒及南方的乌克兰。
对于纳粹德国来说，拿下乌克兰的粮仓和油田至关重要。对苏联来说，乌克兰也是必保的。此时，德军已经兵临乌克兰首府基辅，如何守卫基辅，苏联指挥中枢却出现了严重分歧。
1941年7月29日，朱可夫打电话给斯大林，准备当面汇报自己对基辅保卫战的打算，斯大林在办公室接见了朱可夫，当时在场的还有苏联总政治部主任梅赫利斯——此人自私、狭隘，经常向斯大林打朱可夫的小报告。
斯大林有一个特点，听部下汇报的时候，不喜欢坐着，总是捏着烟斗，哪怕烟斗灭了，也要捏着烟斗在房间里走来走去，时不时停下来，走近对方，用烟斗理理胡须，注视着对方。他不愿意说话，说话时声音很低。斯大林不喜欢笑，笑也不发出声。用朱可夫的话讲：“斯大林意志坚强，性情深沉，目光锐利，但容易冲动。”
当斯大林听到德军有可能向坚守在基辅的苏军西南方面军实施包围时，脚步停了下来，他问：“你的建议是什么呢？”朱可夫回答说：“首先，应从西部方向加强1个集团军给西南方面军。”调1个集团军过来？斯大林马上打断他的话：“你怎么了？难道你认为可以削弱莫斯科方向的防御吗？”朱可夫说从西部，也就是从白俄罗斯调1个集团军加强给乌克兰方向，而白俄罗斯当面就是莫斯科，所以斯大林说“难道你认为可以削弱莫斯科方面的防御吗”，朱可夫说：“不，斯大林同志，我不是这样认为的。我是想，这个方向的敌人暂时不会向莫斯科方向推进，我们可以在半个月内从远东调来8个师，来加强莫斯科方向的防御。”接着，他谈了自己的意见。这时梅赫利斯发言了，他挖苦朱可夫说：“你是不是想把远东送给日本人呢？”要从远东调来8个师，那远东防御就会受到削弱。朱可夫看了梅赫利斯一眼，没理他。
朱可夫继续对斯大林讲：“我们一方面向中央方面军加强兵力，一方面将西南方面军立即撤出，撤过第聂伯河，使得西南方面军和中央方面军形成一个拳头伺机打出去。”西南方面军担负着基辅的防御任务。斯大林听完以后，捏着烟斗走近朱可夫，这时候烟斗已经灭了，他用严厉的目光盯着朱可夫，问了一句：“那基辅怎么办？”
朱可夫感到最关键的时刻到了，他知道放弃基辅和斯大林要坚守基辅的理念不一致，但他豁出去了，他要把自己的想法讲出来，他说：“作为总参谋长，我有责任建议——放弃基辅。”当时斯大林没有说话，仍然看着朱可夫。但朱可夫还是把自己的想法说完了，他说：“放弃基辅后，我们可以在西部方向马上组织反突击，夺回叶利尼亚突出部，如果不夺，德军很可能会利用这个突出部，作为桥头堡进攻莫斯科。”
朱可夫最后一个尾音还没发完，斯大林突然火了，他厉声喝道：“哪有什么反突击！把基辅交给敌人，亏你想得出！简直是胡说八道！”
朱可夫听到这儿也豁出去了，撕碎龙袍是死，打死太子也是死。他当面反驳：“斯大林同志，如果你认为我这个总参谋长只会胡说八道的话，你把我的职务撤销好了，把我派到前线去，或许在那里我会对祖国有点用处。”在场的人愣了，斯大林在苏联就是真理啊！房间里静得可怕，好半天斯大林才说了一句话：“请你冷静一下，没有你，我们更行。”
朱可夫接着说：“斯大林同志，我是一名军人，随时准备执行最高统帅部的任何决定，但我对形势和作战方法有清醒的认识，我相信我这个建议是正确的，我和我的总参谋部怎样想的，我就应该怎样向你汇报。”斯大林还在摆弄烟斗，他平静下来了，说：“朱可夫同志，冷静些。请你先出去，我一会儿叫你再进来。”朱可夫推门而出。
朱可夫在门外等了半小时，斯大林把他叫回办公室，说道：“是这样的，朱可夫同志，我们方才商量了一下，决定解除你的职务，由沙波什尼科夫接替。不过，你还是统帅部成员之一，我想让你到前线去。”朱可夫说：“到哪个部队？”斯大林说：“你愿意到哪儿呢？”朱可夫回答：“我可以做任何工作，指挥一个师，一个军，一个集团军，一个方面军，只要祖国需要。”
这时斯大林感觉朱可夫还是有气，他反而笑了，安慰他说：“你冷静些，冷静些。”想了一会儿，斯大林说：“你方才说叶利尼亚突出部，你想在那里组织一次反突击是不是？你就到那个地方去负责好了，我从现在开始，任命你为预备队方面军司令员，你准备什么时候去？”朱可夫说：“1个小时之后，我离开莫斯科。”
就这样，由于作战问题的分歧，并且顶撞了斯大林，朱可夫被撤销了总参谋长职务。当时作为总参谋长，朱可夫是统帅部大本营军事指挥机关的最高首长，他自然对战争全局心里有数。当时苏军从南到北，所有的方向都面临严重局面，朱可夫根据战场形势得出结论，对付德国快速军团在行进中实施的突破，苏军最好的战法就是通过反突击，以积极的防御不断地迟滞、消耗、疲惫和杀伤敌人。可要实施这个战法必须满足两个条件：第一，在苏军重兵集团面临被德军合围和歼灭的威胁下，尽快从敌人的包围圈内撤出来，以避免更大的伤亡和损失，该撤的时候要撤；第二，收缩苏军重兵集团兵力，用撤出的兵团实施反突击。朱可夫根据战场情况，认为当务之急是放弃基辅，收缩兵力，再实施反突击，否则在乌克兰方向的西南方面军和中央方面军，将有被全歼的危险。然而，朱可夫的想法和斯大林“寸土必守”、利用坚守现有阵地、实施反击的战争理念不一样。
由于斯大林拒绝采纳朱可夫的意见，西南方面军的主力部队迅速被德军分割包围，陷入一片混乱。9月17日，斯大林让苏军总参谋长沙波什尼科夫元帅下令同意西南方面军突围，但为时已晚。9月19日，基辅陷落。西南方面军在合围中继续战斗，为其解围的尝试由于兵力不足，无果而终。仅部分军队分成小群得以向东突围，最后共有15万官兵突出德军重围。9月20日，西南方面军司令基尔波诺斯上将、军事委员会委员布尔米斯坚科和参谋长图皮科夫少将在突围战斗中阵亡。从包围圈中逃脱的有布琼尼元帅、铁木辛哥元帅及政治委员赫鲁晓夫。9月26日，西南方面军基本被歼灭，总计66.5万苏军成为俘虏。这场战役，是战争史上规模最大的一次围歼战。作为“巴巴罗萨”计划的一部分，德军取得了这场战役的完胜。
这是苏军前所未有的大败，超过了六七月份在明斯克的灾难，苏联西南方面军需要重建。
基辅保卫战结束后，整个乌克兰成为德军的囊中之物。德军之所以能够顺利夺取乌克兰，与罗马尼亚军队的付出有重要关系。
在二战中，罗马尼亚军队作为德军的仆从，大部分时间充当“小弟”的角色。而在1941年夏秋之际的敖德萨战役中，罗马尼亚军队充当了轴心国一方的进攻主力。这次战役成为罗军在二战史上的最强一击。
基辅保卫战，战争史上规模最大的围歼战。
苏德战争爆发后，罗马尼亚先后派遣22个师投入东线作战，在兵力上远胜其他仆从国，如匈牙利、保加利亚。敖德萨战役就是以罗军为主进行的一次攻坚战。
1941年7月，希特勒要求罗马尼亚军队在德军支援下，攻占苏联黑海港口城市敖德萨，切断苏联通过敖德萨从黑海向乌克兰输送兵力和物资的通道，同时也方便德军抽出兵力进犯苏联腹地。
8月3日，罗军第4集团军在司令尼古拉伊·索皮卡中将的指挥下，横渡德涅斯特河。罗军计划兵分两路，左翼第3集群负责正面强攻敖德萨，右翼第5集群负责由敖德萨以南发起侧攻。
8月8日至10月16日，敖德萨战役全面展开，双方搏杀之激烈，较苏德两军有过之而无不及。战至最激烈时，双方竟展开了一场中世纪般的搏杀：罗军骑兵抽出锋利的马刀，策马出击；苏军步兵排着整齐的队列，步枪上好雪亮的刺刀，高喊着“乌拉”，杀向罗军骑兵。一时间，敖德萨外围血肉横飞、杀声震天。这场战役，最终以罗马尼亚军队获胜而告终。德军借此切断了苏军从黑海通向乌克兰的运输线，得以顺利控制乌克兰。