«Пляской жизни и смерти» называл те дни председатель Чрезвычайной комиссии Дзержинский. Нужно ли снова говорить о том, сколько было пролито тогда крови – в том числе и безвинной? Но давайте еще раз вспомним и о волне бандитизма, захлестнувшей тогда Россию, о бесчисленных ночных убийствах и грабежах на улицах Питера и Москвы. Кто-то должен был с этим покончить. Красные были безжалостны к своим политическим противникам, но и сами пощады не ждали. «Первый призыв» ВЧК действительно верил: он сумеет так выстроить свою работу, что «принцип справедливости и закона», как надежный фундамент, никогда и никем не будет поколеблен. Никто из них не готовился стать охранителем государства, вся предыдущая жизнь как раз была посвящена его разрушению. Но… странным образом здесь, в пламени войны и мятежей, в паутине заговоров, посреди разрухи и развала зарождалась одна из самых активных и искусных спецслужб XX века.

Уже в апреле 1918 года Петерс вместе с Дзержинским в Москве возглавил операцию по ликвидации вооруженных анархистских отрядов, в том же месяце был избран первым в истории ВЧК секретарем парторганизации. Тогда же он руководил ликвидацией «Союза защиты родины и свободы» Б. Савинкова в Москве и Казани.

6 июля 1918 г. во время вооруженного выступления левых эсеров Петерс вместе с членами коллегии ВЧК В. В. Фоминым и И. Н. Полукаровым заменил охрану V Всероссийского съезда Советов в Большом театре на более надежных латышских стрелков. 7 июля, уже после подавления мятежа и заявления Дзержинского об отставке, Петерс постановлением Совнаркома был назначен временным председателем ВЧК. 22 августа после возвращения Дзержинского Петерс был утвержден его заместителем.