Главной задачей абвера было обеспечение безопасности Германии от внешних врагов путем ведения интенсивной разведки и контрразведки. Служба СД, подчиненная Геидриху, была орудием борьбы с «внутренними врагами». Тем не менее сферы деятельности этих двух организаций часто соприкасались, и за кажущейся на первый взгляд атмосферой сотрудничества и дружбы между их руководителями нетрудно было разглядеть непрерывную борьбу за власть, которую вели Канарис и Гейдрих.

Гейдрих добивался роспуска абвера и хотел по крайней мере ограничить сферу его деятельности сбором военной информации. Эти намерения Гейдриха были продиктованы служебными интересами, но у него были и личные причины для неприязни по отношению к Канарису. Гейдрих был моложе Канариса на семнадцать лет и, как и он, начинал карьеру в военно-морском флоте. Но служба во флоте не принесла Геидриху никаких лавров. Канарис стал контр-адмиралом и вышел в отставку с почетом. Гейдрих же, еще будучи младшим лейтенантом, проворовался и был с позором уволен.

Занимая теперь высокий пост, Гейдрих все еще чувствовал себя обиженным и, видя в Канарисе представителя флота, старался стать выше его и подчинить себе руководимую им организацию.

Со своей стороны Канарис, казалось, делал все, чтобы выполнить возложенные на него обязанности и завязать дружбу с Гейдрихом. Он часто приглашал его к себе домой, уговорил поселиться неподалеку от своей виллы в пригороде Берлина. Но в действительности Канарис презирал Гейдриха и, как и подобало руководителю секретной службы, имел козырь для борьбы с ним. В личном сейфе Канариса хранился документ, свидетельствовавший о том, что у Гейдриха, этого ярого антисемита, в жилах текла и еврейская кровь.