На новом месте Мильке проявил характерное для него рвение и организационный талант, который в нем давно уже приметили Советы. Он создавал структуры нового министерства по образцу советского МГБ. Это были три основных управления: контрразведки, диверсий и подрывной деятельности.
Немалое беспокойство Советам доставляла деятельность западных разведок, в особенности ЦРУ и американской военной разведки. Хотя ни одна их этих двух американских разведывательных служб не обладала достаточными возможностями для отслеживания деятельности советских оккупационных войск и политических маневров Москвы, зато в их распоряжении был бывший генерал вермахта Рейнхард Гелен. Бывший начальник отдела «Иностранные армии востока» верховного командования сухопутных войск заключил с американцами сделку. В 1945 году он покинул свое убежище в Баварских Альпах и сдался союзникам, предложив им при этом услуги своей тайной организации. Он передал в целости и сохранности всю документацию по Советскому Союзу. Главным условием сотрудничества, выдвинутым Геленом, была самостоятельность при финансировании со стороны США. Он соглашался работать на Америку до тех пор, пока Германия не восстановит свой суверенитет.
Американцы пошли на эту сделку, подстегиваемые фактом резко участившейся засылки советских шпионов на Запад. Американская и британская контрразведки сотнями вылавливали агентов, засылавшихся в зоны западных союзников под личиной беженцев. А ведь не успел минуть и год после того, как прозвучало эхо последнего выстрела войны. В мае 1946 года к американцам перебежал сотрудник НКГБ, захвативший с собой секретный приказ № 24, к которому прилагался список из 17 агентов и адреса их местожительства. Реакция американской военной контрразведки (Си-Ай-Си) была мгновенной. Все семнадцать человек были схвачены. В ходе допросов эти шпионы назвали сотни других имен, дав Си-Ай-Си возможность подготовиться к нанесению мощного удара.
21 июня 1946 года началась операция «Бинго», первая и самая широкомасштабная в ряду последующих послевоенных операций по нейтрализации советской шпионской сети. Согласно директиве Си-Ай-Си под грифом «совершенно секретно» предусматривался арест, допрос или взятие под наблюдение 385 лиц либо идентифицированных в качестве агентов, либо фигурировавших в качестве основных подозреваемых. По большей части это были советские граждане, жившие в лагерях для перемещенных лиц, среди которых были и офицеры Красной Армии в чине до полковника включительно, попавшие в плен к немцам. Этим людям угрожала репатриация, что означало для них ГУЛАГ или расстрел. Неудивительно, что под давлением обстоятельств большинство из них пошло на сотрудничество с НКГБ. Было среди них и несколько профессиональных разведчиков, которые специально сдались в плен, в соответствии с классической схемой инфильтрации. Они стали двойными агентами, внедрившись в абвер, контрразведку вермахта или гестапо.
Таким образом, опыт Гелена и его сотрудников был необходим не только для сбора информации о Советах и о внутриполитическом положении в ГДР, но и для успешной борьбы с коммунистическими шпионами. Точно так же и Мильке стал незаменимым человеком для Советов в борьбе с организацией Гелена.
Воинственность СССР приняла новые размеры после того, как Соединенные Штаты разработали план Маршалла, предусматривавший оказание помощи разоренной войной Европе, в том числе и Советскому Союзу и странам Восточной Европы. Сталин отверг этот план, поскольку он расходился с его собственными замыслами в отношении Восточной Европы и Германии. В июле 1947 года Чехословакия решила принять участие в проекте возрождения экономики. Два месяца спустя на встрече в Варшаве по предложению СССР был создан Коминформ — отдел информации коммунистических партий.
На этом совещании присутствовали руководители всех восточноевропейских коммунистических партий, а также компартий Франции и Италии. Сталин дал ясно понять, что Коминформ создан с единственной целью — сорвать план Маршалла. Реализацию замысла Сталина предполагалось начать с дестабилизации ситуации во Франции и Италии путем организации мощной забастовочной волны при помощи профсоюзов, контролировавшихся коммунистами. Когда эта попытка не удалась, Сталин решил консолидировать Восточную Европу, где размещались мощные группировки советских войск. Чехословакия непосредственно граничила с Западом, и Сталин полагал, что в силу этого обстоятельства ее нужно покрепче привязать к Советскому Союзу. Вдохновляемые Москвой чехословацкие коммунисты организовали в феврале 1948 года переворот, в результате которого было свергнуто законно избранное демократическое правительство.
Блокада Советским Союзом Западного Берлина и установление в Чехословакии коммунистической власти окончательно встревожили правительства стран Западной Европы, а также Соединенных Штатов и Великобритании, и без того обеспокоенных милитаризацией Восточной Германии. В ответ на это Соединенные Штаты, Британия, Франция, Бельгия, Нидерланды, Люксембург и Португалия создали в апреле 1949 года Организацию Северо-Атлантического Договора (НАТО), являвшуюся чисто оборонительным союзом. Вторжение коммунистической Северной Кореи в Южную Корею проложило путь для членства Западной Германии. В 1950 году НАТО трансформировалось в военный союз.
По мере того как холодная война усиливалась, условия жизни в Восточной Германии почти не улучшались. Люди едва сводили концы с концами. Новое правительство ГДР, марионетка Кремля, в борьбе с недовольством среди заводских рабочих и крестьян все больше полагалось на сотрудников Штази. Ульбрихт, утверждавший, что социальное недовольство было делом рук агентов капитализма, однажды приказал Мильке лично посетить один крупный завод и «арестовать нескольких таких агентов» в назидание всем остальным. Заместитель главы Штази «выявил» агентов в рекордно короткий срок.
Тем временем восточногерманское руководство уже пережило фазу чисток, проводившихся советским МГБ, а затем МВД, тайной полиции, переименованной в очередной раз после того, как ее в марте 1953 года опять возглавил Лаврентий Берия. Десятки высокопоставленных функционеров СЕПГ были исключены из партии с ярлыком «врагов рабочего класса». Большую часть исключенных составляли старые коммунисты, которые после прихода Гитлера к власти бежали не в Советский Союз, а на Запад. Их обвинили в сотрудничестве с Ноэлем Филдом, «агентом американской секретной службы». Филд, американский коммунист, в годы второй мировой войны проживал в Швейцарии. Аллен Даллес из американского Управления Стратегических Служб (УСС-OSS) использовал Филда для установления контактов с коммунистическим подпольем. Ноэль был особенно близок с немецкими эмигрантами — членами французского движения сопротивления, организованного французской компартией.
Такие же чистки были проведены в Чехословакии, Венгрии и Болгарии, где Филд появился в качестве свидетеля на показательных процессах, которые закончились тем, что некоторые обвиняемые были приговорены к смертной казни. Советы просто не доверяли всем членам коммунистических партий, которые искали убежища на Западе. Но все эти бури стороной обошли Эриха Мильке, который спокойно продолжал трудиться на своем посту заместителя министра МГБ. Этот факт — еще одно доказательство, что он годы войны провел в СССР, а не во Франции и Бельгии, как указал в анкете, заполненной им в 1945 году.
5 марта 1953 года умер Иосиф Сталин. На следующий день специально созванный пленум ЦК СЕПГ выразил глубокую скорбь по поводу кончины диктатора, назвав его в некрологе «великим другом Германии, который словом и делом помогал нашему народу».
Два месяца спустя, 5 мая 1953 года, СЕПГ отметила 135-ю годовщину со дня рождения Карла Маркса увеличением норм выработок на заводах. Город Хемниц был переименован в Карл-Маркс-Штадт, и в качестве высшей награды ГДР был учрежден орден Карла Маркса. Партия, похоже, переживала период единства и политического спокойствия. Однако он продолжался всего лишь две недели. Еще раньше Мильке докладывал руководству, что группа партийных функционеров пытается организовать заговор. В результате последовали исключения из состава Политбюро и Центрального Комитета.
Недовольство среди рабочих, вызванное увеличением норм выработки без соответствующего повышения зарплат, достигло критической точки 16 июня 1953 года. Скорее всего, смерть Сталина своеобразным стимулом послужила для них. В тот день около сотни строителей, сооружавших дома для партийно-государственной элиты на Сталин-аллее, устроили перед началом работы митинг протеста. Слух об этом быстро разнесся по близлежащим стройплощадкам, и вскоре толпа в несколько сотен мужчин и женщин направилась к дому правительства, где ранее размещалось министерство авиации Германа Геринга. Демонстранты скандировали лозунги протеста в течение пяти часов, прежде чем к ним вышел министр. Его попытки утихомирить собравшиеся были освистаны, и он удалился в здание, которое охраняли усиленные наряды полиции. Из казарм по тревоге были вызваны специальные полицейские части, однако они пока не пытались разогнать демонстрантов. Протестующие вернулись на Сталин-аллее и призвали к всеобщей забастовке. На следующий день в демонстрациях в Восточном Берлине приняло участие уже около 100 000 человек. В других городах на улицы вышло в общей сложности около 400 000 человек. Требования повсюду были одни и те же: свободные выборы тайным голосованием.