Уже в апреле 1918 года Петерс вместе с Дзержинским в Москве возглавил операцию по ликвидации вооруженных анархистских отрядов, в том же месяце был избран первым в истории ВЧК секретарем парторганизации. Тогда же он руководил ликвидацией «Союза защиты родины и свободы» Б. Савинкова в Москве и Казани.
6 июля 1918 г. во время вооруженного выступления левых эсеров Петерс вместе с членами коллегии ВЧК В. В. Фоминым и И. Н. Полукаровым заменил охрану V Всероссийского съезда Советов в Большом театре на более надежных латышских стрелков. 7 июля, уже после подавления мятежа и заявления Дзержинского об отставке, Петерс постановлением Совнаркома был назначен временным председателем ВЧК. 22 августа после возвращения Дзержинского Петерс был утвержден его заместителем. В этом качестве он руководил следствием по делу Фанни Каплан, стрелявшей в Ленина, и операцией по т. н. «заговору послов», включая аресты и следствия. Яков Петерс настаивал на полной неподконтрольности ВЧК, которая производит «обыски, аресты, расстрелы, давая после отчет СНК и ВЦИК». Но на посту зампреда ВЧК его сменил И.К.Ксенофонтов. Петерс стал работать в Московском ревтрибунале и возглавил штаб по борьбе с контрреволюцией в Москве.
В мае 1919 Петерс был направлен в Петроград чрезвычайным комиссаром города и прифронтовой полосы «по очистке города от контрреволюционных банд» (с мандатом от Совета обороны РСФСР) и по предложению Комитета обороны Петрограда назначен начальником штаба внутренней обороны (затем начальником внутренней обороны) города… Фактически он стал диктатором Петрограда, развернув в нем кампанию массового кровавого террора. Петерс лично возглавил повальные аресты и расстрелы внутри города, были составлены списки (по телефонным книгам) подлежащих аресту бывших сановников, военных, капиталистов, дворян и т. д. Он отдавал приказы арестовать жен и взрослых членов семей офицеров, которые перешли на сторону белых.
В августе 1919 г. Петерс был назначен комендантом Киевского укрепрайона и начальником гарнизона, до оставления города Красной Армией. В октябре того же года Петерс был уже в Туле, став член военного совета укрепрайона.
За границей Якова Петерса называли самым безжалостным большевиком, убившим тысячи людей. По этому поводу в 1919 году корреспондент лондонской газеты «Дейли экспресс» попросил миссис Петерс дать ему интервью, поведав, что ее муж, председатель Революционного трибунала, «проводит все свое время, подписывая приказы о казнях в ходе московского террора». Мэй отвечала твердо и с достоинством, показала письма из России. Статья об этой встрече была озаглавлена так: «Жена главаря террора. Московский начальник убийц в качестве идеального мужа».
Статья появилась 7 октября, а уже через два дня та же «Дейли экспресс» описывала последствия «белого» террора в Москве, количество жертв при взрыве в помещении Московского комитета партии большевиков, покушения на большевистских лидеров. «Среди убитых и знаменитый красный террорист Яков Петерс». Еще через полгода, весной 1920-го, его снова объявили мертвым – «убит в Ростове деникинцами». Мэй тем летом получила брачное предложение – ее уже считали вдовой.
Мэй Петерс не решилась на поездку к мужу в пугающую се Россию. Это сделала другая женщина – английская художница и скульптор Клэр Шеридан. Осенью 1920 года она с трудом добралась до большевистской Москвы. Позже кузина Черчилля напишет о своих посещениях дома N11 на Лубянке, о встречах с Дзержинским, скульптурный портрет которого лепила, с другими руководителями ВЧК и ВКП(б): «Отнюдь не честолюбие, которое движет у нас политиками, а убеждение в том, что зло и несправедливость должны быть уничтожены, сделало из этих людей революционеров. Добиваясь такой цели, люди с утонченным умом вынесли долгие годы тюрьмы, лишения революций и войн, немыслимое напряжение каждодневного труда… Честолюбцы же в России все остались по другую сторону баррикады».
Клэр ехала к человеку, которого продолжала любить. Но увидеться они смогли только весной 1921-го в Ташкенте. В это Петерс уже был чрезвычайным комиссаром в Туркестанской республике (с июля 1920 года, до этого полпред ВЧК на Северном Кавказе) и членом Туркестанского бюро ЦК РКП(б). Он руководил операциями против антибольшевистских банд Дутова, Анненкова, Энвер-паши, а также уничтожением «пособников» басмачей. В это же время он налаживает планомерный отлов английских и французских шпионов. И одновременно подбирает и формирует первую советскую резидентуру для переброски в страны Антанты.
Как уже говорилось, Петерс лично ответственен за многочисленные расстрелы, казни заложников, пытки, конфискации и т. д. Яков Петерс был одной из наиболее одиозных фигур в ЧК, отличаясь крайней безжалостностью.
По сообщениям газет того времени, когда к нему, как к главе города явились представители ростовских-на-Дону трудящихся и заявили, что рабочие голодают, Петерс им ответил: «Разве это голод, когда ваши ростовские помойные ямы битком набиты разными отбросами и остатками? Вот в Москве помойные ямы совершенно пусты и чисты – будто вылизаны – вот вам голод!».
В феврале 1922 г. Петерс был отозван в Москву и назначен членом Коллегии и начальником Восточного отдела ГПУ. Работая в Восточном отделе, Петерс в 1925 году был главным инспектором погранвойск ОГПУ. К 10-летию ВЧК в декабре 1927 он был награжден орденом Красного Знамени.
31 октября 1929 г. Я. X. Петерс был освобожден от обязанностей члена Коллегии и начальника Восточного отдела ОГПУ. С 1930 г. был членом Президиума Центральной контрольной комиссии ВКП(б). В 1930–1934 гг. – председатель Московской контрольной комиссии ВКП(б).
Здесь начинается совсем другая история и другая работа, далекая от трибун, перестрелок и партийных дискуссий, и появляется совсем не знакомый нам Петерс, который, по словам его друга Алксниса (будущего командующего ВВС СССР), незадолго до смерти Дзержинского дал тому слово «никогда не выпускать из рук тех незримых нитей, что защищают страну не хуже армий и укрепленных границ».
Член Центрального Комитета партии, председатель Партийной Контрольной комиссии Яков Петерс в тридцатые годы не подписывал секретных директив. Разработчики тайных операций лишь в редких случаях знали, чьи идеи они воплощают. Знали только Сталин и еще несколько человек…
Сталин внешне всегда прекрасно относился к Петерсу, говорил о нем как о «последнем романтике революционных боев». На XVI съезде, когда все громили Бухарина, Рыкова, Томского, простил ему «энергичное молчание» по поводу «правой опасности» и развитие идеи о контроле масс. Похоже, простил и большее – участие в «заговоре» Тухачевского. Или не простил?
