Joseph Stalin'in gizli polisi, Halkın İçişleri Komiserliği seçildi. Adı, NKVD'nin Rusça'daki kısaltmasını aldı ve 1934'te kuruldu.
Rusya’daki ilk gizli polis Cheka olarak biliniyordu ve öncelikle Bolşevikler tarafından siyasi gündemlerini ilerletmek için kullanılıyordu. Ancak, Rus İç Savaşı sona erdiğinde, Cheka dağıldı. İşlevleri Devlet Siyasi Müdürlüğü'ne veya GPU'ya devredildi. GPU ilk başta Cheka’dan daha az güçlüydü; Bununla birlikte, Joseph Stalin iktidara geldiğinde, grubu NKVD olarak yeniden adlandırdı ve gücünü, özellikle cezai gücünü yeniden kurdu. Bu şekilde güç kullanan polis, bu zamana 1930'ların Büyük Terörü olarak atıfta bulundu.