Единственным ведомством, временами пытавшимся нагнать на них страх, оставался КГБ, председателя которого в 1973 году (через 20 лет после Л. Берии) вновь ввели в состав Политбюро. Произошло это после того, как Ю. Андропов сумел довольно успешно разворошить мафиозные гнезда в двух советских республиках - Азербайджане и Грузии.

В Азербайджане широкомасштабная чистка началась в 1969 году. Для начала Андропову пришлось поставить во главе республиканского ЦК бывшего председателя КГБ Азербайджана Гейдара Алиева. Придя к власти, Алиев основательно взялся за кадры, и первые результаты не заставили себя ждать. Еще будучи председателем республиканского КГБ, он имел данные о том, что начальник следственного отдела прокуратуры республики Саша Бабаев и ответственный работник той же прокуратуры Иза Кулиев вкладывают деньги в подпольные цеха и регулярно получают свою долю прибыли с левого производства. Став хозяином республики, Алиев получил возможность уличить прокурорских работников в неблаговидных поступках. Правда, ничего страшного с ними не произошло - их просто уволили с работы. Но по тем временам и это было весьма громким событием. Каток чистки прошелся чуть ли не по всей республиканской номенклатуре, и под него попали несколько членов бюро республиканского ЦК, председатель Совета Министров, партийный секретарь Баку, а также многие министры и партийные секретари областных и городских организаций. Газета "Бакинский рабочий" чуть ли не ежедневно сообщала читателям о случаях взяточничества, расхищения социалистической собственности, о подпольных частных заводах и о соответствующих наказаниях, среди которых порой фигурировала и смертная казнь.

В первый же год своего пребывания на посту первого секретаря ЦК Алиев сменил министра внутренних дел республики и двух его заместителей.