В 1922 году он принимает на себя еще одну тайную роль, став одним из главных организаторов негласной программы перевооружения военно-морского флота. Он участвует в создании нелегальных судоверфей и торпедных заводов за рубежом, манипулируя при этом значительными суммами для взяток и фондами для финансирования этих секретных проектов

Канарис был «неугомонен душой», как охарактеризовал его в секретном докладе один из начальников, «блестяще выполнявшим необычные и трудные задачи по управлению секретными военно-политическими операциями во время его частых миссий за границей». В те дни Канарис был постоянно в пути, переезжая под вымышленными именами и легендами при осуществлении тайных программ строительства военно-морских сил.

Так он провел большую часть бурных двадцатых годов. Другие появлялись на сцене и исчезали, но Канарис оставался постоянным кадром этого тайного консорциума, направляемого из архиконсервативного флота, – идеолог, кукловод, рабочая лошадка и специалист по улаживанию конфликтов, доверенный адмиральской клики. Хотя он не участвовал ни в одном из заговоров, он стал мишенью для подозрений и нападок социал-демократов. Он оставался на действительной службе, и в его секретном личном деле скопилось множество блестящих характеристик. Он постоянно повышался в звании, а его власть и влияние росли еще быстрее. Как оценил своего нешаблонного подчиненного один из его начальников, Канарис стал заглавным элементом в механизме, подрывающем основы Веймарской республики.

И в 1933 году он приветствовал приход Гитлера к власти.

Хотя ему еще не было пятидесяти, щуплый, с желтоватой морщинистой кожей, Канарис выглядел значительно старше.