在1935年至1936年初，镇压与逮捕在国内与党内并没有遇到明显的反抗。虽然这些镇压引起了一些党员极大的不安，但没有发生任何有组织的抗议行动。这种情况，使得斯大林更加大胆地实行他的清洗计划。
随着恐怖大清洗的加剧，作为专政机关的内务人民委员会，便成为一个重要的政治部门。斯大林把它变成自己的权力工具，扩大了人员编制。斯大林在1937年二三月份的苏共中央全会上，为他的镇压清洗制定了一个理论依据。
在这次全会上，斯大林提出了一个论点，即随着苏联社会主义建设的顺利发展，阶级斗争日益激化。他宣称：党内仍有隐藏的日本、德国和托派奸细阴谋集团。在这次全会上，除已有的“破坏分子”“代理人”“叛徒”这些字眼之外，又多了一个新的含义模糊的词——“两面派”。从此，在处决党的干部时，就常常使用这个词。大规模的镇压与清洗，很快便降临到苏共与苏联人民头上。
为了给“大清洗”披上“合法”外衣，1936年8月19日至24日，苏联最高法院军事法庭举行了第一次公开审判，被告是所谓的“托洛茨基-季诺维也夫联合总部”成员季诺维也夫、加米涅夫、斯米尔诺夫等16人。在审讯中，法庭没有出示任何证据，所有的指控都建立在被告的“交代”和“承认”上，在没有律师辩护的情况下，被告的“供词”被作为定罪的依据。
法庭最后宣布，季诺维也夫等人与已被驱逐出境的托洛茨基相勾结，主使谋杀基洛夫的罪名成立，判处16名被告死刑并立即执行，没收全部财产。判决后不到24小时，报纸即报道：“死刑已经执行。”这次审判，对所有被告都处以极刑的做法，导致了以后更大规模的镇压。
1937年1月，苏联最高法院军事法庭对所谓的“托洛茨基反苏平行总部”进行了肃反运动中的第二次公开审判。被告中的著名人物有皮达可夫、拉狄克、索科尔尼科夫、谢列勃里亚利夫。这些人过去是布尔什维克和苏联出名的活动家，积极参加了十月革命和苏联国内战争，在20世纪20年代中期是托洛茨基的积极拥护者，为此被开除党籍。
在20世纪30年代初，他们实际上和托洛茨基断绝了关系，恢复了党籍，并在各人民委员部出版机构及其他单位中任领导职务，但还是被指控“接受托洛茨基指示”，“背叛祖国，从事侦察和军事破坏工作，实行恐怖和暗害勾当”。与第一次公开审判的程序一样，17名被告中皮达可夫等13人被判死刑，拉狄克等4人被判处10年或8年监禁。
由于拉狄克在受审时交代他与布哈林、李可夫等有“罪恶的联系”，1937年2月底，布哈林、李可夫在出席中央全会时被捕。3月初，苏共召开中央全会，斯大林在会上做了报告。他在报告中强调，托洛茨基主义已经“变成了一伙暗害分子、破坏分子、间谍和杀人凶手组成的寡廉鲜耻的无原则的匪帮，他们按照外国谍报机关的指示进行活动”。
1937年2月23日，苏共中央宣布把布哈林、李可夫开除出党。次年3月，苏联最高法院军事法庭对所谓“右派-托洛茨基联盟”进行了肃反运动中第三次公开审判。布哈林等21名被告被以“谋害罪”和“叛国罪”起诉，其中包括布哈林、李可夫在内的19人被判处死刑。
布哈林在被捕前几天，给党的几位领导人写了一封信。他在信中写道：“我就要离开人间了，我不是在无产阶级的斧钺下低下了我的头，无产阶级斧钺应该是无情的，但也应该是纯洁的。我在万恶的机器面前是无能为力的，这台机器居然使用了中世纪的方法，拥有无比强大的力量，大量地炮制有组织的造谣、诽谤。这些万能的机构能把任何中央委员、任何党员磨成粉末，把他变成叛徒、恐怖分子、暗害分子、间谍。如果斯大林对自己产生怀疑的话，那这个机构也会立即找到证据的。”
布哈林是在审讯人员威胁要把他的妻子与刚出生的儿子杀死时，他才开始交代并承认了自己的“罪行”。到1937年底，实际上所有反对派成员都被捕了，不管他们被捕时持什么观点。
三次公开审判，都是肃反运动中为欺骗国内外舆论而精心炮制的假案，这几次审判所涉及的对象，也只是肃反运动中无数冤屈者的极少数代表。实际上，肃反运动所制造的冤假错案，远比公开审判所暴露的多得多，清洗的对象，从中央到基层，几乎包括所有的社会领域和各个阶层。
苏联著名作家爱伦堡曾出席过对肃反对象的审判，据他亲眼目睹，大多数被告精神萎靡不振，非常消极。这些人用机械的语言交代，没有其本人正常时所特有的语调与风度。因此有人猜想，审判者可能利用药物或其他极端手段，才获得了被告的口供，因为这些人毕竟曾经是出生入死的革命者。内务部的鹰犬们，大多数也难逃被清洗掉的命运，暴君都是用人时脸朝前，不用人时脸朝后，过河拆桥、卸磨杀驴。而这一情形，古今中外一再上演。
内务部的工作人员，在审讯“反革命犯罪分子”时，经常喝得烂醉，大喊大叫道：“今天我审问你，明天不知道谁审问我。”在这个时候，总能看到一些花白头发的受审者，把年轻的审讯者搂在怀里，轻声地安慰他们。
“大清洗”究竟制造了多少冤案、杀害了多少无辜者，至今没有一个确切的统计数字，但作为一场政治性镇压运动，其规模之大、涉及面之广、危害之深，在历史上堪称空前，它是俄国历史上最黑暗的一页，在人类罪恶史上也留下了浓墨重彩的一笔！
1953年斯大林去世，苏联开始重新审查这些案件。1956年2月，赫鲁晓夫在第二十次党代会上做报告时说，过去两年里已有7679人被“恢复名誉”。他们中大多数都已死去。更令人震惊的是，在1934年号称“胜利者代表大会”上选出的134名党中央委员会委员中，有98人，即占全部委员的70.9%，在1937～1938年期间被逮捕和枪毙。
斯大林死后，苏共政治局立刻要求安全部门提供有关在押“反革命犯罪分子”人数的详细资料。1954年2月，苏总检察长、公安部长、司法部长向苏共政治局联名递交了相关报告。报告中说，从1921年到1954年2月1日止，以“反革命罪”判刑的人数是377.738万人。其中被处死刑的有64.298万人，被判劳改和监禁的有236.922万人，被判流放和强制迁居的有76.51万人。在所有判刑人员中，对大约290万人的判决是由政治保卫局工作组、“三人审判组”和特别专案组等非常规司法机关做出的。剩下的90万人是由一般的法院、军事法庭和最高法院做出的。
1992年，当时的俄罗斯联邦国家安全部档案登记处处长，向舆论界通报了苏联时期的全部“政治犯”资料。这些资料显示，从1917年到1990年，总计有385.39万人以政治罪名（反革命罪、国事罪）被判处各类刑罚，其中82.7995万人被判处死刑。但是，这里有一小部分死刑判决没有被执行，而是改判为其他刑罚。与之相对照的是，1825～1917年沙皇俄国只判刑了625名政治犯，其中死刑不到200人。一位在斯大林监狱里长期坐牢的沙俄将军感叹，跟斯大林比起来，我们的尼古拉皇帝实在是太仁慈了，所以他丢了江山，但斯大林也做了我们皇帝想做却没做成的事——“现在牢房里关的全是犹太人和布尔什维克”。