Комитет государственной безопасности при Совете Министров СССР был образован согласно Указу Президиума Верховного Совета СССР от 13 марта 1954 года. Именно эту дату можно считать официальной датой его рождения. Хотя на Лубянке свой профессиональный праздник чекисты отмечали и сейчас отмечают 20 декабря — день создания ВЧК.

Первым председателем КГБ был назначен Иван Серов. Он сделал стремительную карьеру при Иосифе Сталине, а при Никите Хрущеве активно участвовал в процедуре реабилитации жертв судебного произвола и к июню 1957 года уволил более 18 тысяч чекистов, якобы причастных к «чисткам» (в том числе сорок генералов).

Первая волна кадровой «чистки» завершилась в феврале 1956 года, когда Иван Серов «отчитался» перед ЦК КПСС об увольнении 16 тысяч сотрудников «как не внушавших политического доверия, злостных нарушителей социалистической законности, карьеристов, морально неустойчивых, а также малограмотных и отсталых работников».

Второй этап «очищения» закончился в июне 1957 года, когда из органов госбезопасности уволили еще 2000 сотрудников центрального аппарата «за нарушение советской законности, злоупотребление служебным положением и аморальные поступки». Из них 48 человек занимали должности начальников отделов и выше. В результате, как отмечалось в справке, подготовленной Иваном Серовым к июньскому (1957 года) пленуму ЦК: «…Заменены почти все руководящие работники главных управлений, управлений и отделов центрального аппарата. На эти должности более 60 человек направлены ЦК КПСС с руководящей партийной и советской работы».

Еще 554 партийных и советских работника заняли освободившиеся руководящие посты в региональных подразделениях КГБ.

В результате кадровых сокращений штатная численность Комитета госбезопасности сократилась к 1957 году, по сравнению с 1954 годом, наполовину. При этом не учтена замена профессиональных чекистов на чиновников из советского и партийного аппарата.