По важности и по численности своего персонала третий отдел разведки шел непосредственно после первого отдела. Его служебной сферой была собственно контрразведка, то есть он должен был препятствовать успешной работе разведки и контрразведки противника в Германии, не только раскрывать системы шпионской службы противника, но и разлагать их (например, с помощью провокаторов, вводимых в них), предотвращать возможный саботаж противника против германского вермахта и военной промышленности. Эти задачи, естественно, вели к довольно тесному сотрудничеству со службой безопасности гестапо.
Значительно меньше, чем два других отдела, был отдел разведки номер два, задачей которого, в первую очередь, была работа в тылу противника, то есть саботаж во вражеском стане, нарушение важных связей за линией фронта противника, задачи, которые довольно точно совпадали с задачами британского «Коммандос», получившего известность во время войны. Для проведения этих задач в отдел по возможности привлекались агенты из соответствующих стран, недовольные политикой своих государств. В Восточной Европе это были чаще всего представители угнетенных национальных меньшинств; установление связей с такими элементами входило поэтому в сферу работы отдела. Можно сразу сказать, что Канарис несколько скептически относился к идее саботажа. Он реально оценивал возможности в этой области, чтобы ожидать даже от успешных мероприятий саботажа какого—либо существенного, не говоря уже решающего, эффекта. Против саботажа говорило, по его мнению, также то обстоятельство, что результаты, которых можно было бы ожидать от актов саботажа, никак не соответствовали бы той атмосфере озлобленности и ожесточения, которая возникла бы в связи с этим в лагере противника. И, наконец, он чисто по—человечески был против опасности, которая каждый раз угрожала жизни и здоровью гражданских лиц — мужчин и женщин.