Гражданская война окончилась, и из Москвы пришло распоряжение об откомандировании Баевского в органы военной цензуры. Артур Матвеевич служил в отделе военной цензуры полевого штаба Реввоенсовета Республики (Симферополь, Ростов-на-Дону). После передачи военной цензуры в ведомство Ф. Дзержинского, в августе 1921 года А. М. Баевский был направлен на работу в ВЧК и назначен старшим цензором-контролером Информационного отдела чрезвычайной комиссии.
Однако в начале 1923 года служба Артура Матвеевича в органах госбезопасности неожиданно прервалась. Вместе с большой группой чекистов Баевский направляется на укрепление советского кинематографа. С января 1923 года по июнь 1924 года он являлся коммерческим директором созданного в то время объединения Госкино, с июля 1924 года по февраль 1925 года — членом правления акционерного общества «Межрабпомфильм», а с марта 1925 года по сентябрь 1926 года — главным инспектором акционерного общества «Пролеткино». Одновременно он учится на литературном факультете 1-го Московского государственного университета.
В октябре 1927 года А. М. Баевский возвращается на работу в центральном аппарате органов государственной безопасности. На этот раз его назначают уполномоченным 8-го (немецкого) отделения Контрразведывательного отдела ОГПУ. Служил под началом опытных чекистов Отто Оттовича Штейнбрюка и его заместителя Карла Ивановича Силли, с которым позднее вместе работал во внешней разведке и дружил.
Начальник отделения немец Отто Штейнбрюк был бывшим капитаном австро-венгерской армии, позже руководителем военного аппарата компартии Германии. В органах госбезопасности с 1920 года. Находился на нелегальной работе, являлся резидентом ОГПУ в Швеции.
Биография Карла Силли была схожа с биографией Артура Баевского, только в «зеркальном отражении». Венгр по происхождению, Силли в 1914 году был призван младшим унтер-офицером в австро-венгерскую армию. В одном из боев в марте 1915 года попал в русский плен. Содержался в лагере в Красноярске. В апреле 1918 года вступил в РКП(б) и в Красную гвардию, а спустя два года был направлен на работу в органы ВЧК.
Трудясь бок о бок в течение нескольких лет с этими видными чекистами, Артур Баевский многому у них научился в профессиональном плане. В декабре 1927 года за успехи в службе он был награжден почетным нагрудным знаком «10 лет ВЧК-ОГПУ».
Из воспоминаний старшего сына А. М. Баевского — Георгия:
«Отец много работал, домой приходил поздно. Уже в то время запомнилось его увлечение музыкой, особенно классической — Чайковский, Бородин, Бетховен… Это увлечение осталось у него с юношеских лет, когда он совмещал занятия в средней школе с музыкальным образованием.
В одной из комнат стояло пианино, на стене висели портреты Бетховена и Вагнера. На пианино играла мама.
У отца был хороший голос, и во время дружеских застолий он любил петь арии из опер, песни из репертуара Ф.И.Шаляпина. Увлекался папа и фотографией.
Мать — Валентина Юльевна — некоторое время работала машинисткой в редакции популярного тогда журнала «Огонек».
В начале 1930 года А. М. Баевский был зачислен в Иностранный отдел ОГПУ и почти сразу же направлен на работу в берлинскую резидентуру под прикрытием должности сотрудника полпредства.
Из воспоминаний старшего сына А. М. Баевского — Георгия:
«В Берлин выехали всей семьей: отец, мать и мы с младшим братом Владимиром. В те годы о работе отца мы знали только одно: он сотрудник советского полпредства.
Жизнь в Германии периода Веймарской республики была поначалу сравнительно спокойной. Много нового, необычного пробуждало у нас живейший интерес. Уже в первые дни отец показал нам берлинское метро, на котором, казалось, можно было проехать в любую точку этого большого города.
Вместе с отцом мы часто гуляли по Берлину. Обращало на себя внимание большое количество народа на улицах, все куда-то спешили, множество автомашин, движущихся с большой скоростью, и шуцманы (шупо) — полицейские на перекрестках. Поднятый жезл шупо был строгим знаком-предупреждением для каждого пешехода и водителя. Чистота и порядок, особое уважение к немногим еще военным (отец подчеркивал: к тем, кто проиграл Первую мировую войну), повышенное внимание вообще к мундиру, униформе».
В Берлине разведчику Баевскому пришлось действовать в довольно сложных условиях.
Уже в начале 1930-х годов внутриполитическая обстановка в Германии, где к власти рвались фашисты, стала значительно осложняться. Началась милитаризация страны, в ее руководящих кругах откровенно поговаривали о необходимости реванша. В германской внешней политике наметилась активизация антисоветских настроений. Германское правительство во главе с рейхсканцлером фон Папеном и министром иностранных дел фон Нейратом все больше склонялось на сторону Англии и Франции, вынашивавших планы борьбы с Советской властью и коммунизмом в целом.
Вот что говорится во 2-м томе «Очерков истории российской внешней разведки» относительно этого периода:
«В 1931 году Центр поставил перед берлинской резидентурой задачу по проникновению и получению информации во всех политических партиях Германии, в финансовых и промышленных кругах, в военных организациях и группировках, в различных культурных объединениях, научных организациях по изучению Востока (СССР), в разведке и других спецслужбах.
Оценивая в 1932 году работу берлинской резидентуры, Центр отмечал: «Мы имеем весьма ценное агентурное и документальное освещение внешней политики германского правительства… Кроме политической информации, к нам регулярно поступает информация о деятельности германской разведки, проводимой через МИД, с указанием конкретных лиц, ведущих эту работу».
Из воспоминаний старшего сына А. М. Баевского — Георгия:
«С приходом к власти Гитлера в Берлине многое изменилось. Назначение нацистского фюрера канцлером Германии фактически означало установление фашистской диктатуры, конец Веймарской республики. Начались массовые облавы, аресты коммунистов и демократов в рабочих кварталах. По улицам Берлина проходили факельные шествия молодчиков в коричневой форме — штурмовиков. Быстро увеличивалось количество молодых ребят в организации «гитлерюгенд», щеголявших в новой форме со свастикой на рукаве. Отношение к нам многих немецких знакомых резко ухудшилось».
… Еще в 1925 году берлинской резидентурой ОГПУ, руководимой Владимиром Владимировичем Бустремом, был привлечен к сотрудничеству директор частного детективного бюро пан Ковальчик. Родился он на Украине в 1878 году в семье немецкого колониста и носил немецкую фамилию Шмидт. Учился на агронома в Киеве, Данциге и Брюсселе. До Первой мировой войны занимался фермерством на Украине, владел мельницей и маслобойней.
В 1914 году его как немца выслали из Киева в Одессу. Но с приходом на Украину германских войск мобилизовали в полевую полицию и зачислили переводчиком к начальнику киевского уголовного розыска. Затем Шмидт служил на сыскной работе в одесском уголовном розыске. Приобретя опыт сыщика, уехал в Польшу. Владел польским, украинским, французским, немецким и русским языками.
В начале 1920-х годов он под фамилией Ковальчика обосновался в Берлине, где и открыл частное детективное бюро. Имел устойчивые связи в полицай-президиуме, полицейских участках и консульствах.
Прибыв в Берлин, Артур Баевский принял Ковальчика на связь. Работа с агентом успешно продолжалась до окончания командировки разведчика. От детектива, в частности, были получены списки русских эмигрантов, активно сотрудничавших с гестапо.
… Как отмечалось выше, одним из важных направлений деятельности берлинской резидентуры являлось проникновение в местные спецслужбы, в том числе и в армейскую разведку Германии — абвер. Решить эту задачу удалось оперативному работнику резидентуры Карлу Силли, который привлек к сотрудничеству с советской внешней разведкой ответственного сотрудника контрразведывательного подразделения абвера майора Вера (оперативный псевдоним «Янычар»). После отъезда Силли в Москву связь с «Янычаром» поддерживал Баевский.
Артур Баевский внес большой вклад в успешную деятельность берлинской резидентуры. В столице Германии он проработал по май 1933 года. Добился конкретных вербовочных результатов. В 1932 году за успешную работу был награжден Грамотой ОГПУ и почетным именным оружием.
После завершения командировки А. М. Баевский около года работал в центральном аппарате внешней разведки.
С июля 1934 по август 1937 года он находился в загранкомандировке в Стокгольме, где возглавлял «легальную» резидентуру (оперативный псевдоним Гаиб). По прикрытию являлся сотрудником одного из отделов торгпредства СССР в Швеции.
Из воспоминаний старшего сына А. М. Баевского — Георгия:
