Так дело обстояло в Польше, но с началом oпeрации «Барбаросса» почти весь личный состав СС оказался на передовой, поэтому кроме печально известных Einsatzgruppen, безопасность осуществляли всего пара бригад и кавалерийских полков. Постепенно полицейские формирования оказались разбавленными солдатами, набранными в Прибалтике и на Украине. Тем не менее СС продолжало осуществлять общий контроль в тыловых районах через высшие штабы СС, полиции и СД.

Немецкая военизированная полиция взяла на себя роль мобильной жандармерии. Каждый высший штаб СС и полиции располагал по меньшей мере одним полком, в том числе в Греции и Сербии. Со временем полиция тоже оказалась разбавленной местными добровольцами. В 1943 году полицию разделили на SS-Polizei и Schutzpolizei. Но территории, контролируемые полицией, были столь обширны, что полиции часто требовалась дополнительная поддержка. В первое время после оккупации какой-либо территории, в поддержку немецкой полиции придавались местные полицейские части и отряды ополченцев. В России многие из таких отрядов, известных под названием Schutzmanschaften (или коротко «Schuma») укомплектовывались жителями Прибалтики, казаками и украинцами. В составе Schuma выделялись «фронтовые» и «караульные» части. В Сербии, Хорватии и Черногории полицейские добровольческие полки были сформированы на базе Volksdeutsche Hilfspolizei.

Хотя на территориях, контролируемых армией, действовали части СС и полиции, армия формировала собственные полицейские части. Сначала в России дислоцировалось всего девять полицейских дивизий, каждая из которых состояла из одного линейного и одного ополченского (Landeschuetzen) полков, мобильного полицейского батальона и минимального количества артиллерии. Перед этими малочисленными и плохо оснащенными частями поставили совершенно нереальную задачу, тем более, что многие солдаты дивизий были отправлены на фронт.