До поры до времени основных фигурантов по делу «Клубок» не трогали. Всерьез занялись ими только в начале 1937 г., т. е. уже после того, как Ежов сосредоточил в своих руках поистине огромную власть. Первым 11 февраля 1937 г. арестовали руководителя «заговора» А.С. Енукидзе. Это произошло в Харькове, где он тогда работал в скромной должности. 29 марта вслед за ним взяли Г. Г. Ягоду — уже как руководителя самостоятельного «заговора в НКВД», стремившегося затянуть расследование по делу «Клубок». 27 апреля в Киеве арестовали Петерсона. И вот тогда-то произошло самое загадочное. Уже в момент обыска Петерсон написал покаянное письмо на имя Ежова. Он добровольно признался и в самом «заговоре», в своем активном участии в нем, заодно назвав всех «соучастников» — Енукидзе, Корка, Тухачевского и Путну.

С этого момента следствие, а вместе с ним и аресты новых лиц пошли одновременно по трем линиям. По делу «Клубок» проходили Енукидзе, Петерсон, Корк, Медведев, Фельдман, Тухачевский, Путна и Якир, при котором последние два года служил Петерсон. В «заговоре в НКВД» оказались замешанными бывший нарком Г.Г. Ягода, его заместитель Г.Е. Прокофьев, начальник особого отдела ГУГБ М.И. Гай (призванный по должности обеспечить лояльность армии), начальник отдела охраны К.В. Паукер, его заместитель по оперативному отделу З.И. Волович. По делу о «военном заговоре» арестовали еще в августе 1936 г. В.М. Примакова и В.К. Путну, а в конце мая 1937 г. — М.Н. Тухачевского, И.Э. Якира, И.П. Уборевича, М.Е. Медведева, Б.М. Фельдмана, А.И. Корка, Я.Б. Гамарника. И здесь бросается в глаза одна, казалось бы, странная деталь: большинство военачальников проходило одновременно по двум, вроде бы не связанным между собой (если верить официальной версии) «делам».