Всего на территории Германии было 15 главных секторов и 20 секторов СД. Главные сектора базировались в Берлине, Бреславле, Данциге, Дрездене, Дюссельдорфе, Гамбурге, Катовицах, Кенигсберге, Мюнхене, Познани, Праге, Райхенберге, Штеттине, Штуттгарте и Вене.
Местные органы СД имели в своем составе: 1-й отдел — кадровая служба, 2-й отдел — административно-хозяйственный, 3-й отдел — «наблюдение за внутренней жизнью». Именно этот последний отдел являлся основным в секторе. Помимо этих отделов в аппарате некоторых местных органов СД были отделы, ведавшие разведкой в иностранных государствах.
Низовыми звеньями местных органов СД были отделения (ауссенштеллен) и опорные пункты (штютцпункты), действовавшие под контролем и руководством главных секторов и секторов в городах и районах Германии.
Органы СД на оккупированной территории
Оперативные группы СД (айнзатцгруппы) были созданы накануне войны в мае 1941 г. Всего было создано 4 группы — А, Б, Ц, Д. Каждая из групп состояла из штаба, специальных команд (зондеркоманд), действовавших в районах расположения армейских частей, и оперативных команд (айнзатцкоманд), действовавших в оперативном тылу армии.
Айнзатцгруппы и их подразделения укомплектовывались служащими полиции, гестапо и СД.
За несколько дней до начала войны с СССР Гейдрих отдал приказ о занятии всеми подразделениями СД исходных пунктов, из которых впоследствии они выдвинулись в глубь советской территории. К этому времени, каждая из айнзатцгрупп насчитывала в своем составе до 600 человек. Эти группы были также снабжены необходимым количеством автотранспорта. Оперативные и особые команды СД насчитывали в своем составе 120–170 сотрудников. Из них: 10–15 человек — офицеры, 40–50 — унтер-офицеры и 50–80 рядовых СС.