IVE 3. Контрразведка — Запад. Реферат вел контрразведработу против французской и бельгийской разведок. Начальник реферата — штурмбанфюрер СС доктор Шефер.

IVE 4. Контрразведка — Север. Вел контрразведработу против английской и американской разведок. Начальник реферата — гауптштурмфюрер СС Клеменс.

IVE 5. Контрразведка — Восток. Вел работу против СССР и Польши. До войны разрабатывал сотрудников советского полпредства и торгпредства в Берлине и консульств на территории Германии. Начальник реферата — гауптштурмфюрер СС Гейслер, с 1942 г. — штурмбанфюрер СС Кубицкий.

IVE 6. Контрразведка — Юг. Вел контрразведработу против разведслужб Италии и Югославии. Начальник реферата — криминальный советник Раух.

Группа IVФ. Задачи группы: контроль над въездом иностранцев в Германию и выездом немцев за границу и разработка положений о паспортизации и пропускной системе. Начальник группы — министериаль-советник Краузе.

Группа специального розыска. Была организована в 1942 г. и выполняла особо важные задания Гитлера, Гиммлера, Кальтенбруннера и Мюллера по слежке за министрами, партийными функционерами, сотрудниками РСХА, разрабатывала их связи. До войны эта служба входила в реферат IVA4.

В группе работали примерно 15 сотрудников во главе с криминаль-комиссаром полиции Шеффлером.

Помимо вышеназванных групп в непосредственном подчинении начальника IV управления находились следующие рефераты:

Реферат IVH. Был организован при Гестапо в 1938–1939 гг. для централизованного учета штатных агентов и контроля над их работой как внутри страны, так и за границей. В реферате имелась картотека и хранились личные дела агентов. Оперативные органы имели справки или дубликаты личных дел, а также рабочие дела этих агентов.