С 1938 по 1944 г. центральный аппарат военной разведки и контрразведки ОКБ состоял из 5 основных отделов:

1. Абвер–1 занимался сбором развединформации о военно—экономическом потенциале стран вероятного противника;

2. Абвер–2 проводил диверсионные операции за рубежом и в тылу воюющих с Германией стран. Диверсионное спецподразделение «Бранденбург–800» подчинялось непосредственно руководителю этого отдела;

3. Абвер–3 отвечал за организацию контрразведки в трех составных частях вермахта и за границей;

4. Иностранный отдел совместно с МИД Германии курировал разведдеятельность военных атташе за границей и нелегально обеспечивал проведение секретных операций кригсмарине за рубежом;

5. Отдел «Ц» — центральная картотека и архив.

В 1940 г. Адольф Гитлер произвел Канариса в адмиралы военно—морского флота, отмечая тем самым его вклад в реализацию военно—политической стратегии Третьего рейха. Канарис принимал активное участие в разработке и осуществлении операции «Барбаросса».

Канарису было 48 лет, когда он возглавил разведку. Внешне, несмотря на свежесть лица, он выглядел старше, потому что его волосы были уже совершенно белыми. Вскоре среди тех, кто с ним имел дело, за Канарисом закрепились клички «Седой старец», «Седой». Это можно легко понять, потому что Канарис зрелостью своих решений и сдержанностью, с которой он обычно преподносил их, производил впечатление мудрого старика. Он ни с кем не откровенничал, его манера выражаться была, — по словам человека, который работал вместе с ним в Сопротивлении против Гитлера, — «эклектичной».