В соответствии с этим решением Политбюро ЦК РКП(б) Председатель ВЧК Ф. Э. Дзержинский 20 декабря 1920 года издал приказ N 169 об организации Иностранного отдела ВЧК, как самостоятельного разведывательного подразделения, на которое возлагалось ведение закордонной разведки. Этот день принято считать днем создания внешней разведки органов госбезопасности. Иностранный отдел стал руководящим органом закордонной агентуры ВЧК.
В августе 1921 года в связи с переходом руководителя ИНО ВЧК Я. Х. Давыдова (Давтяна) на работу в Наркомат по иностранным делам, С. Г. Могилевский был назначен руководителем внешней разведки. Начальником ИНО ВЧК он являлся до марта 1922 года. К этому времени Гражданская война в России в основном завершилась победой Красной Армии над интервентами. Только на дальнем Востоке и Приморье оставались японские оккупанты, которые были изгнаны отттуда осенью 1922 года.
6 февраля 1922 года по предложению В. И. Ленина декретом ВЦИК РСФСР Всероссийская чрезвычайная комиссия была упразднена. На ее базе было образовано Государственное политическое управление при Наркомате внутренних дел РСФСР. Его работа ограничивалась, в основном, решением политических задач. В ГПУ было создано Секретно-оперативное управление (СОУ), в состав которого вошел и Иностранный отдел. На него по-прежнему возлагалась задача ведения разведывательной работы за рубежом. Однако поскольку в те времена Советская Россия находилась в политической изоляции, од новременно ведением разведывательной работы за рубежом занимались и Полномочные представительства ГПУ в Закавказье, в Забайкалье, в Средней Азии, на Дальнем Востоке и в Приморье.
Так, в частности, полпредство ГПУ на Дальнем Востоке вело разведку против Японии с территории Китая силами резидентур в Пекине и Харбине. Полпредство в Закавказье (Тифлис) занималось организацией разведывательной работы по Турции, Ирану, Ближнему Востоку и Балканам. Аналогичные задачи решались и другими полномочными представительствами. Главное внимание при этом уделялось ведению работы по белогвардейским эмигрантским организациям, нашедшим убежище за рубежом, борьбе с их специальными службами, а также выявлению их состава и планов подрывных акций против Советской России.
Одним из первых серьезных испытаний для С. Г. Могилевского на посту начальника ИНО стала оперативная подготовка к международной конференции в Генуе. Под его руководством внешней разведке удалось получить в ряде европейских стран упреждающую секретную информацию о намерениях правительств этих стран на конференции. ИНО ГПУ получило также сведения о том, что Англия и Франция стремятся создать вокруг Советской России «санитарный кордон» из стран «малой Антанты» и добиться дипломатической изоляции Москвы.
Уже в период Генуэзской конференции внешняя разведка перехватила переписку видных деятелей белой эмиграции Симона Петлюры и Василия Шульгина, присутствовавшим при акте отречения Николая П от трона. Из этой перепискинее чекисты узнали, что против советской делегации во главе с Г. В. Чичериным готовится террористический акт. Благодаря своевременно принятым мерам, покушение удалось предотвратить.
Советской делегации на Генуэзской конференции удалось сорвать планы Антанты по дипломатической изоляции нашего государства. 16 апреля 1922 года после заключения в итальянском городе Рапалло договора с Германией об установлении дипломатических и торговых отношений блокада Советской России была прорвана.
После открытия в Берлине официального дипломатического представительства была создана и первая совместная «легальная» резидентура ИНО ГПУ и Разведупра РККА в Германии. Ее возглавил сотрудник военной разведки Сташевский. Но уже в феврале 1923 года его сменил опытный работник ИНО ГПУ Бронислав Бортновский, еще в августе 1918 года принимавший участие в ликвидации «заговора послов», возглавляемого британским разведчиком Б. Локкартом.
Берлинская резидентура ИНО становится опорным пунктом закордонной разведки органов госбезопасности в Европе. Из берлинской резидентуры Центр получал важную политическую и экономическую информацию. Германия являлась также страной, из которой в Москву активно направлялись образцы современной техники.
Однако главной задачей внешней разведки в тот период оставалась борьба с белогвардейской вооруженной эмиграцией, которая рассматривалась в качестве главного противника. Ее руководители стремились сохранить воинские формирования белого движения, чтобы использовать их в будущей интервенции против Советской России. В одном из писем руководителя белой эмиграции генерала Врангеля своим сторонникам прямо писалось: «Главная и единственная задача русской военной эмиграции — борьба с советской властью». После революции из России выехало свыше двух миллионов человек. Далеко не все они вошли в вооруженные белогвардейские формирования, однако далеко не все из последних отказались от мысли об «освободительном походе» в Советскую Россию.
Подготовка к «крестовому походу» против большевиков носила различные формы. Достаточно сказать, что только в армии Врангеля, обосновавшегося первоначально на Балканах, действовала Академия Генерального штаба и несколько военных училищ. Врангель рассчитывал, что в случае вооруженной интервенции в Советскую Россию его войска «просто сметут прибалтийские страны для завоевания плацдарма против большевиков». Одновременно белая эмиграция планировала террористические акты против советских руководителей в самой стране и ее представителей за рубежом.
Важная роль в реализации планов белогвардейской эмиграции отводилась спецслужбам Врангеля. Его разведка в ту пору располагалась в Белграде и ею руководил бывший жандармский генерал Е. К. Климович. До 1920 года он возглавлял врангелевскую контрразведку и прославился своей жестокостью в Крыму. Накануне штурма Перекопа Красной Армией по приказу этого генерала были расстреляны тысячи человек, заподозренных в «симпатиях к большевикам».
После эвакуации армии Врангеля из Крыма в Турцию белая эмиграция создала в Константинополе «паспортно-пропускное отделение», возглавляемое генералом Глобачевым, которое занималось ведением разведки против Советской России. Врангелевскую контрразведку — Сыскное бюро — в этой стране возглавлял бывший начальник сыскной полиции в Москве Кошко. Следует сказать, что и в других белогвардейских формированиях за рубежом также имелись собственные спецслужбы, которые, помимо ведения разведывательной работы, занимались организацией террористических акций на территории Советской России и против ее представителей за рубежом.
Свидетельством тому служит убийство советского представителя в Женеве В. В. Воровского, осуществленное белым эмигрантом Конради. Позднее выяснилось, что за спиной террориста стояли главари белой военной эмиграции генералы А. Туркул и А. Кутепов.
В марте 1922 года Соломон Григорьевич Могилевский получил новое ответственное назначение. Поскольку он имел большой опыт контрразведывательной работы, по предложению Ф. Э. Дзержинского его назначили полномочным представителем ГПУ в Закавказье, председателем Закавказской ЧК и одновременно командующим внутренними и пограничными войсками Закавказской Федерации. В конце 1923 года С. Г. Могилевский становится членом Коллегии теперь уже Объединенного Государственного политического управления при СНК СССР.
Чекисты Закавказья под руководством С. Г. Могилевского провели успешные операции по ликвидации политического и уголовного бандитизма в регионе, вскрыли контрреволюционную деятельность бюро ЦК грузинских меньшевиков и Закавказского бюро эсеров, пресекли враждебную дечтельность ряда агентов английской, американской и французской разведок. Летом 1924 года С. Могилевский руководил ликвидацией меньшевистского восстания в Грузии.
За большие заслуги перед Родиной Соломон Могилевский в 1924 году был награжден орденом Красного Знамени.
В марте 1925 года в Сухуми должен был состояться съезд Советов Абхазии. На него были приглашены заместитель председателя Совнаркома Закавказской Федерации Александр Мясников (Мясникян), председатель Закавказской ЧК Соломон Могилевский и заместитель наркома рабоче-крестьянской инспекции в Закавказье Георгий Атарбеков, бывший в прошлом начальником Особого отдела 11-й Армии.
Георгию Атарбекову, работавшему ранее в Закавказской ЧК, было кое-что известно о темном прошлом заместителя председателя Грузинской ЧК — начальника секретно-оперативной части Лаврентия Берии, в частности, о его сотрудничестве с разведслужбами мусавватистов в Баку. Своими подозрениями Г. Атарбеков поделился с А. Мясниковым, который всячески препятствовал росту Берии по служебной лестнице, и с С. Могилевским, который в свою очередь заинтересовался прошлым этого деятеля.