Общее руководство образованными главными управлениями было возложено на заместителя наркома ВД СССР по войскам И.И.Масленникова.

20 апреля 1939 г. был сформирован Мобилизационный отдел (Моботдел) НКВД СССР. Его начальником был назначен майор гб И.С.Шередега.

Приказом НКВД СССР № 363 от 19 июня 1939 г. при наркоме внутренних дел СССР была организована Контрольно-инспекторская группа. Этим же приказом руководителем этой группы был назначен заместитель начальника Секретариата НКВД СССР капитан гб Н.С.Сазыкин (по совместительству).

20 июня 1939 г. был организован 5 спецотдел (Гохран) НКВД СССР. Его начальником был назначен старший лейтенант гб В.Н.Владимиров.

22 июня 1939 г. был организован Отдел железнодорожных и водных перевозок НКВД СССР. (Начальник — капитан гб С.И.Зикеев).

5 августа 1939 г. была образована Следчасть ГТУ НКВД СССР. Начальником Следчасти и заместителем начальника ГТУ НКВД СССР был назначен майор гб Н.И.Синегубов.

Приказом НКВД СССР № 0253 от 9 августа 1939 г. Переселенческий отдел НКВД СССР был расформирован.

4 сентября 1939 г. Следчасть НКВД СССР была расформирована, а на основе ее аппарата были организованы:

Следчасть ГУГБ НКВД СССР во главе с майором гб В.Т.Сергиенко;

Следчасть ГЭУ НКВД СССР во главе с майором гб П.Я.Мешиком.

В.Т.Сергиенко стал также заместителем начальника ГУГБ НКВД СССР (до него начальником Следчасти НКВД СССР и заместителем начальника ГУГБ НКВД СССР был Б.З.Кобулов.

19 сентября 1939 г. было образовано Управление НКВД СССР по военнопленным и интернированным (УПВИ НКВД СССР). Начальником этого управления был назначен майор П.К.Сопруненко.

На 1 января 1940 г. структура центрального аппарата НКВД СССР была следующей:

Руководство НКВД СССР (5 человек: Берия, Меркулов, Масленников, Чернышов, Круглов);

Секретариат НКВД СССР (200 человек, начальник С.С.Мамулов);