作为斯大林备战工作的一部分，军队和共产党中靠不住的那些人，显然并不是他唯一要打击的对象。生活在苏联边境地区的许多族群都被认为是那种一旦发生战争就可能背叛的人。在西部边境有乌克兰人、波兰人、拉脱维亚人、德意志人、爱沙尼亚人、芬兰人、保加利亚人、罗马尼亚人和希腊人，在近东有土耳其人、库尔德人和伊朗人，在远东有中国人和朝鲜人。

“大恐怖”的内容之一就是种族清洗，生活在边境地区的有几十万人遭到逮捕、驱逐和处决。有人估计，在叶卓夫时代，这样的少数民族成员在被捕的人当中占到了五分之一、在处决的人当中占到了三分之一。

另外还有人估计，在1936～1938年，有80万非俄罗斯人被流放到苏联的中亚地区。虽然在1939年的时候，对党员、国家官员和军官的大镇压终于结束了，但斯大林对边境居民的种族与政治清洗仍在继续。在苏联1939年入侵波兰东部之后，有40万波兰人遭到逮捕、驱逐或处决。在被枪杀的人当中有2万名波兰战俘，他们就是著名的1940年4～5月“卡廷大屠杀”中的受害者。

红军在1940年夏占领了波罗的海各国，导致几十万爱沙尼亚人、拉脱维亚人和立陶宛人遭到驱逐。在1941年6月苏德战争爆发以后，由于担心少数民族与敌人合作，斯大林又开始了新一轮的疯狂的种族清洗。在伟大的卫国战争期间，有200万少数民族的成员——伏尔加河的德意志人、克里米亚的鞑靼人、车臣人和其他外高加索居民——被流放到苏联内地。