诺门坎位于中蒙边境地区，当时是伪满洲国和“蒙古人民共和国”的边界争议地区。1936年，苏联同“蒙古人民共和国”签订了《苏蒙友好互助条约》。
1939年5月11日，在诺门坎地区哈拉哈河畔，伪满军队跟伪蒙军队，在“国境”上发生了冲突。两天之后，23师团将情况报告给关东军司令部。司令部依据植田谦吉大将下发的《满苏边境纠纷处理纲要》做出决定，让23师团长小松原中将出兵坚决反击。小松原中将派了一个骑兵联队增援伪满军队，该联队的指挥官是东八百藏中佐。与此同时，苏联根据《苏蒙友好互助条约》也出兵外蒙古。1939年5月22日到24日，日本陆军航空兵跟苏联远东空军首次交战，苏联空军由于受大清洗等因素影响，战斗力下降，在首轮交战中吃了亏。日本飞机还轰炸了苏联远东的一些城市，不久，日本陆军航空兵掌握了制空权。
后来，朱可夫到了前线，他特别要求斯大林把参加过西班牙内战的老飞行员派来，不要菜鸟。因为日军航空兵并不落后，战斗力强大。5月28日，日本第23师团的骑兵联队成功偷袭了伪蒙军第6师师部，师长被击毙。但东八百藏中佐的部队马上遭到了附近苏军和伪蒙军余部的夹攻，苏联人出动了坦克和装甲车，东八百藏指挥的骑兵联队纵马挥刀冲向苏联坦克。马刀砍坦克这种事是上演过的，结果可想而知。5月29日，23师团骑兵联队全部被歼灭，东八百藏也阵亡了。
同时，山县武光大佐指挥的第23师团步兵64联队攻占了742高地，并且构筑了工事。当东八百藏的骑兵联队被全歼之后，山县武光的64联队遭到苏蒙联军的围攻。战斗一直持续到6月7日，伤亡惨重的64联队撤出战斗，归队的不足400人。日军一个旅团六七千人，下辖两个联队，一个联队怎么着得三四千人，日军联队相当于中国的团。64联队归队的不到400人，说明损失了大概90%的兵力。第23师团不属于两旅团四联队编制的甲种师团，属于三联队编制的丙种师团，一下子丧失一个步兵联队，可谓伤亡惨重。苏蒙联军方面，伪蒙军一个骑兵师受重创，师长死了，当然它一个骑兵师就千八百人，本来就是傀儡军，战斗力也不强。
战斗胜败很明显，相比苏蒙联军，还是日军损失惨重。可是，日军23师团得到补充后，竟然给上级发“捷报”，可见日本人非常擅长讳败为胜，一直到后来美国轰炸日本本土，把日本列岛都封锁了，日本国内民众才知道原来日军在前线一直打败仗。
关东军司令部收到23师团谎称的“捷报”，以为战争取得重大战果，马上报给东京大本营，东京大本营来电，先对胜利表示祝贺，然后暗示关东军扩大战果。所以，6月20日，关东军司令官植田谦吉大将下达了集结命令，23师团全部，第7师团26联队加28联队的一个加强大队，调往诺门坎，同时把第2飞行师团调到海拉尔。为了对付苏联的装甲部队，植田谦吉还把东北日军唯一的装甲部队，号称心肝宝贝的第一战车师团（驻地在公主岭），也调到诺门坎一线。植田谦吉甚至还想从关内调兵增援诺门坎，但由于被侵华战争拖住了后腿，未能如愿。
到1939年6月，关东军第2飞行师团部抵达海拉尔，各旅团也先后抵达。1939年6月22日，夏至这一天，日本120架战机跟苏联空军95架战机在哈拉哈河上空遭遇，日本30架战机被击落。
6月27日，关东军出动137架飞机，成功轰炸了苏蒙方面的塔木斯克机场，苏联远东空军受到重创。6月29日，日军第一装甲师团到达了诺门坎的集合地，23师团全部、第7师团也都抵达了集合地，完成了关东军司令部的部署。这时日军兵力包括第23师团的64、71、72联队，第7师团的26联队，再加上第7师团28联队的一个加强大队，被打残的东八百藏64骑兵联队余部，还有两个坦克联队、两个炮兵联队、两个工兵联队，外加一个飞行师团、一个汽车联队。重武器方面一共准备了212门火炮，包括反坦克炮128门、山炮24门、野炮60门；飞机182架；坦克82辆、装甲车26辆、汽车400辆。这就是日本当时尽最大可能拼凑出的机械化力量，当时关东军参谋辻政信坚信，凭借这些东西足以打败远东苏军。但是，日军根本不了解当时对手苏联是什么情况。
1939年6月1日，苏联后来被称为“胜利之神”的朱可夫赶到了前线，担任苏蒙联军的指挥官，也就是57特别军军长。他上任后，马上要求莫斯科给前线增加兵力。朱可夫打仗就是这样，跟蒙哥马利差不多，必须拥有绝对优势才会发动进攻。二战时，苏军、美军、英军、日军都是这样打仗，没什么战略战术，主要是拼实力，日军可能还有点儿巧劲儿，像苏美的军队就完全是拼实力，一线平推。反倒是德军的战术最精彩，穿插、迂回、包抄，运用各种战术。
朱可夫要求莫斯科必须派三个步兵师、一个坦克旅，而且要加强炮兵和航空兵。莫斯科为了稳定东方，好好教训小日本，完全同意了朱可夫的要求，给他派来了21个荣获苏联英雄称号的飞行员和当时最先进的飞机。
1939年6月27日，日军第7飞行旅团100多架飞机空袭远东苏军的3个空军基地，事后报捷说击落飞行苏机99架，击毁地面苏机25架。但是，另一种说法是，朱可夫早就预料到这次空袭，放的都是飞机模型。实际上，直到7月，苏日两军的空战一直在进行，在苏军的增援兵力到达之前，日军是占据优势的。
日本诺门坎前线的总指挥官、23师团长小松原中将制订了两岸夹击苏蒙军的作案方案。1939年7月1日，日军第7师团步兵26、28联队从哈拉哈河上游渡河进入西岸，攻占苏蒙军炮兵阵地，居高临下炮轰东岸苏蒙军阵地。然后23师团、第1战车师团和伪满兴安骑兵师正面进攻哈拉哈河东岸的苏蒙军，形成夹击，歼灭苏蒙军。26、28联队奉命渡过了哈拉哈河，由于兵力上占有优势，再加上伪蒙军准备不足，日军初步达到了渡河的作战任务。
但是，驻守的伪蒙骑6师进行了激烈抵抗，为朱可夫赢得了几个小时的宝贵时间。朱可夫火速赶到战场，连发三道命令，派重炮部队、装甲部队向日军反攻，并且派飞机轰炸日军。已经渡河成功的日军没有想到，苏蒙军在兵力处于劣势的时候会发动反攻。日本人在中国战场的经验是，一个大队打国民党一个师，向来是以少胜多，所以日军在兵力占绝对优势的时候，认为打赢没问题，没想到苏军兵力处于劣势时还敢反击。
苏军坦克装甲洪流滚滚而来，使日军付出了惨重的代价。很快，苏军突破了日军防线，装甲部队在朱可夫的指挥下迂回进军到了渡口第7师团26联队侧翼，切断了日军补给，直插23师团师团部，23师团参谋长大内大佐阵亡，师团部岌岌可危，师团长小松原中将准备切腹，幸好一小队速射炮兵赶到，打退了苏联坦克，最后这个小队就剩下六个人、一门炮，小松原赶紧率部撤退到山上。
当苏军坦克发动猛攻的时候，担任正面进攻的日本第23师团和第1坦克师团并没闲着，第1坦克师团的师团长安冈中将，在经过30分钟炮火轰击后，率领87辆中轻型坦克、37辆装甲车，在23师团步兵联队的配合下发动进攻，但很快被苏军挡住，始终无法突破苏军的防线。这是因为苏军的炮火很猛烈，装甲力量也占尽优势，相比之下，日军重武器非常缺乏，同时步兵、坦克协同作战能力不足，战术呆板。小日本的坦克装甲薄弱，是薄钢板用铆钉铆上的，苏联坦克当时已有了焊接装甲。另外，日军坦克的37炮、57炮，都是短管炮，射程很近，这种炮更多是用来支援步兵的，很难击穿苏联坦克的装甲，尤其是正面装甲。
而苏联还有喷火坦克，经常是小日本的炮打到苏联坦克上，人家都没感觉，接着往前开，冲到日本坦克面前，一喷火，把日本坦克烧掉了。日本士兵在跟苏联坦克决战过程中发现，他们唯一能够对付苏联坦克的武器是苏打水瓶子，就是往苏打水瓶子里面灌上汽油，做成简易燃烧瓶。因此，当一支新的部队开往前线的时候，撤下来休整的部队给他们的最好装备就是这些空苏打水瓶。士兵居然要拿燃烧瓶对付坦克，仗打到这个份儿上，根本就打不下去了。
7月4日，小松原中将终于跟安冈中将会合了。地面战争暂时告一段落，但是空战仍然十分激烈。日军毕竟在兵力上占优势，累计参战兵力5万多人。苏军在跟日军作战的过程中损失也很惨重，如果不是有几百辆装甲车和坦克，苏联人也顶不住。所以双方打成了相持状态，都在等待救兵。很快苏联出动了上千辆卡车，昼夜不停地往前线运送援兵和武器弹药，而日军就没这个实力。苏军的第57特别军改为第1集团军，朱可夫担任司令官，下辖第36摩托化师，57、82步兵师，第11装甲旅和第7、8、9摩托化旅，还配了一个212空降兵旅。
1939年7月23日，当日晴空万里，日本军队集中了百十来门重炮，发射炮弹1.5万发，试图压制住苏军火力，但遭到了苏军的猛烈回击。当时苏军师属火炮都是122毫米口径，到军一级都是152毫米的主炮，像76毫米炮都作为团炮，很普遍。而日本师团装备的都是75毫米炮，甚至还有日俄战争时候的老炮。日军火炮射程最远的是90式野炮，仍然是75毫米口径，能够打十几公里。其他的38式、41式，只能打几公里远，根本打不着苏联人。日本人的所谓重炮，也就是120毫米、105毫米、100毫米口径的，无论从口径到射程都比不上苏联的师属火炮，就这样的所谓重炮，也只有军一级甚至方面军才能配备。
而且苏军半个多月一直在修建工事，纵深3公里，日本人根本搞不掉苏联人。据说，第4旅团的玉田大佐，成功夜袭了一个苏军炮兵阵地，但是大佐本人阵亡了（日本人很爱搞夜袭，可最后的结果基本上是全体“玉碎”）。日本人终于认识到与苏军的巨大差距，自己的这支轻步兵部队完全不是苏联装甲重炮的对手。关东军司令部无奈下达命令停止进攻，占领东岸战线构筑阵地，准备持久战。
日军在苏日战争中巨大的伤亡引起东京大本营的严重不满，此时关东军还在伪满进行了总动员，大力增援，但这些增援都没有得到大本营的同意，大本营跟关东军这时已势同水火。1939年8月20日，就在日本关东军骑虎难下、半死不活之际，朱可夫的大反攻开始了，他要求得到的全部增援力量已基本到位。苏蒙军从南、北、中兵分三路向日本人发动了全面进攻。首先扫荡了日本的高射炮阵地，然后以150架轰炸机、100架战斗机、数百门火炮狂轰日军阵地，一个半小时内日军的炮火根本无力还击，日军的观察所、通信设施以及炮兵阵地都被摧毁。
但是，日军不要命，很顽强，拼命抵抗，战到最后一个人也不投降，战斗仍十分激烈。苏蒙军遇到了异常顽强的抵抗，这是苏军也没有想到的。为此，朱可夫开始动用战略预备队，并加强了炮火支援。26日傍晚，苏军坦克部队和摩托化部队完成了对日军第6军（关东军为统一指挥诺门坎前线部队而特别组建的，司令官获州立兵中将）的合围。随后开始穿插分割，分片分块歼灭被围敌军。由于流沙、沙坑、沙丘遍布，加之日军顽强抵抗，苏蒙军仗打得很苦，全在啃“硬骨头”。
这个时候就是比一个狠劲儿！在反攻作战中，朱可夫展露了他果断严厉的指挥风格。当苏军向纵深进攻时，朱可夫命令步兵第36师攻打日军的一个阵地。这个阵地关系到整个战役的成败，日军抵抗得十分顽强，苏军这个师伤亡也很大，师长发现再次进攻有困难，于是打电话给朱可夫请求暂缓进攻。朱可夫却命令他再次进攻。过了一会儿，朱可夫打电话问这个师长是否继续进攻了，那个师长说，部队伤亡大，一时还无法向前推进。朱可夫对那位师长说：“现在，我只问你一句话，你还能不能发起攻击？”那位师长回答：“有困难！”朱可夫立即说：“好，我现在解除你的师长职务，让参谋长接电话！”参谋长接过电话后，朱可夫问：“你能否继续进攻，完成任务？”参谋长说：“没有问题，司令员同志！”“那好，从现在起，你就是师长了！”
可是，这位新任师长还是没有组织起新的进攻。朱可夫没等听完对方解释，就打断道：“从现在起，你不再是师长，等候新师长的到来！”
他转过身，在自己的司令部里找到一名上校军官，向他明确了任务，并把炮兵预备队给了他。第三个师长坚决按照朱可夫的意图发起了进攻，最后终于攻占了日军阵地。所以，苏联有这样坚决的指挥官，日本关东军即便增派第7师团给第6军，还计划把第2、第4师团调往前线，同时令第23师团死守待援，都无济于事。
这时23师团覆灭在即，跑都来不及。最后小松原中将率领残部2000余人，每个人两手各举一颗手榴弹，抱定必死之心，才勉强杀出重围。
8月30日，东京大本营派参谋次长来到伪满洲国，传达大本营命令，说关东军兵力不足，诺门坎战争不应扩大，应该立刻设法终结，立足于长期坚守。实际上就是让关东军放手认输，只是日本人很好面子，措辞婉转。9月1日德国入侵波兰，欧战爆发，为了应对世界局势的波动，日本大本营再次严令关东军停止进攻，而关东军司令植田大将，要求东京准许发动一次收拢死难将士尸体的进攻，还放话说你们不让我打，干脆就把我解职吧。东京大本营果然把他解职了，捎带免职的还有参谋长矶谷廉介，此人就是台儿庄会战时的第10师团的师团长。一个月内，关东军司令部作战部长和所有作战参谋通通被解职，可见日本政府也感觉这场战斗丢死人了。
苏联有朱可夫这般坚决的指挥官，日军惨败在所难免。
日本政府开始通过外交途径收拾残局，9月9日苏日双方开始谈判，9月16日签署了《停战协定》。战争的结果，苏蒙军伤亡6000余人，损失78架飞机，113辆坦克；日军伤亡超过5万，战死的就有2万人，特别是作为“国宝”的第1战车师团几乎损失殆尽，连番号都给撤销了，日军装备损失是苏蒙军的5倍。而且大量日军军官阵亡，包括关东军第23师团参谋长，64、71、72联队长，第1坦克师团第3战车联队长，第2飞行集团第15飞行战队队长，这些人都是大佐，全部战死。日本国内报纸哀叹，大量高级军官如此集中伤亡，这是日俄战争以来所未有过的。
这一战打醒了日军北进派的迷梦，他们多少明白了现代化战争是什么样子，认识到自己跟苏军武力之间存在多大差距。在苏德战争爆发后，日军情报部门通过研究判定德军本年内无力迫使苏联投降，而明年的形势不一定有利于德军，所以日军最终放弃了“北进”计划。
诺门坎战役不仅沉重打击了日军的嚣张气焰，还促使日本将“北进”的国策改为“南进”，这就为日本的最终失败埋下了伏笔。同时，诺门坎之战使苏联能够在莫斯科战役的关键时刻抽调远东边境的20个师投入欧洲战场，从而起到了扭转战局的决定性作用。
对亚洲战场而言，诺门坎战役使关东军向关内增兵的计划无法实施，而此时正值中国抗战的艰苦时期，因此诺门坎战役客观上也支援了中国的抗日战争。更关键的是，日本大本营在“南进”战略的布局下，偷袭了珍珠港，将美国拖入了战争，不但失去了与德国在远东会师的机会，还使自己陷入了不能应对的太平洋战场。