В канун войны в подчинении Канариса был постоянный аппарат, насчитывавший около восемнадцати тысяч человек помимо агентуры и негласных осведомителей.

Всей деятельностью абвера руководил сам Канарис. В его ведении находилось пять отделов. Общий отдел, возглавляемый полковником Остером, осуществлял руководство агентурной сетью абвера. Иностранный отдел во главе с капитаном 1 ранга Бюкнером был, по сути дела, органом внешних сношений абвера. 2-й отдел, руководимый полковником фон Лахузеном, ведал организацией подрывной и диверсионной деятельности. 3-й отдел был органом государственной безопасности и вел контрразведывательную работу.

Вся разведывательная работа находилась в ведении 1-го отдела, или, как его называли, секретной информационной службы. В составе этого отдела было несколько подотделов (по одному на каждый вид вооруженных сил – сухопутные войска, военно-морские и военно-воздушные силы) и пять групп. Группа 10 ведала разработкой специальных видов оружия, средств микрофотографирования и тайнописи, изготовлением подложных паспортов и других документов, а также самых различных предметов, без которых невозможна эффективная деятельность разведки. Группа II занималась разработкой агентурных радиостанций и организацией агентурной радиосвязи.

Только небольшая часть личного состава 1-го отдела постоянно находилась в Берлине, размещаясь в пятиэтажном здании у Тирпицуфера. Именно эти люди руководили широко разветвленной сетью тайных агентов. Лишь некоторые из этих агентов работали на периферии постоянно, а большинство их периодически отправлялось из Берлина с заданиями в самые различные районы страны и за границу. Многие из тайных агентов абвера были добровольцами, сотрудничавшими с нацистами главным образом из симпатий к гитлеровскому «новому порядку». Были и наемные агенты, но им платили немного, исходя из той неопровержимой истины, что ценных сведений за деньги приобрести нельзя.

Насколько бы прочны ни были позиции Канариса на высшей ступеньке иерархической лестницы абвера, положение его нельзя было считать безопасным. И Канарис знал об этом. Он был бы никуда негодным шпионом, если бы не сознавал той опасности, которая грозила и ему и абверу со стороны Рейнхарда Гейдриха, руководителя гестапо и службы безопасности (СД).