Несмотря на то что Гитлер проявлял повышенный интерес к античным сооружениям, данные раскопки имели для него отнюдь не искусствоведческое, но политическое значение. Исследования античных сооружений Олимпии позволяли ему продемонстрировать мнимую приверженность принципам олимпийского движения, что, в свою очередь, могло использоваться для собственной пропаганды. Организационный комитет по проведению Олимпийских игр 1936 года предложил Карлу Диму обратиться к Пьеру де Кубертену как почетному председателю МОК с просьбой основать Олимпийский исследовательский центр, в рамках которого должно было бы осуществляться обобщение наработок французского барона, равно как и обобщение олимпийских идей. Когда об этой идее стало известно Гитлеру, то он в конце 1936 года направил в Женеву тайное послание, в котором предлагал создать на территории Германии поддерживаемый властями на государственном уровне Олимпийский институт. Эта уловка сработала — уже несколько дней спустя в рейхсканцелярию пришло письмо, в котором Пьер де Кубертен не только соглашался с этой идеей, но и просил Гитлера, дабы тот приложил максимум усилий к основанию указанного института. Для национал-социалистической пропаганды это был прекрасный информационный повод. Общественности дело было представлено так, будто бы Кубертен по собственной инициативе просил немецкие власти основать Олимпийский институт, хотя на самом деле инициатива исходила от имперского правительства. В своих воспоминаниях Карл Дим пытался представить третью версию. Он утверждал, что Кубертен давно вынашивал этот план, но только в Германии эти идеи нашли полное понимание. Якобы Кубертен поделился своей задумкой с Гансом фон Чаммером, а тот лишь проинформировал об этом Гитлера.
Во время своего посещения Женевы Герман Эссер, являвшийся президентом Имперского объединения иностранного туризма, передал Кубертену приглашение посетить Берлин. В столице рейха планировалось обсудить детали и уладить формальности, касающиеся основания института. Встреча основателя олимпийского движения и фюрера немецкого народа была почти идеальным предлогом, чтобы национал-социалистическая пропаганда вновь заявила всему свету о «мирных намерениях Третьего рейха». Однако, сославшись на тяжелую болезнь, Пьер де Кубертен вежливо отказался от посещения Германии (состояние барона ухудшалось с каждым днем, и он скончался в сентябре 1937 года). Чтобы ускорить основание института, в начале 1937 года было принято решение направить в Женеву Карла Дима. Именно ему предстояло вести все переговоры. Выбор пал на Дима сразу же по нескольким причинам. Он не был членом национал-социалистической партии, а потому мог произвести впечатление непредвзятого человека. Кроме этого после окончания Берлинских игр Дима едва ли можно было как-то с пользой для властей использовать в министерстве внутренних дел, за которым он был закреплен. А также от Ганса фон Чаммера он получил задание заниматься общим управлением Имперской спортивной площадки в Берлине. Все это указывало на то, что именно Дим был идеальной кандидатурой для ведения переговоров по поводу основания в Германии Олимпийского института. Ну и опять же не надо было забывать, что Дим уже не одно десятилетие был дружен со многими представителями олимпийского движения и был лично знаком с Кубертеном. Их новая встреча состоялась 8 мая 1937 года. В тот день разговор коснулся в том числе самочувствия Кубертена. Тот не строил иллюзий и знал, что в ближайшее время должен был умереть. И тут Диму удалось невероятное — он смог убедить Кубертена, чтобы тот завещал все свои документы, архивы и письма Олимпийскому институту. Якобы это могло помочь воплотить в жизнь до сих пор нереализованные идеи основателя олимпийского движения. Более того, Кубертен завещал национал-социалистической Германии, чтобы она являлась хранительницей олимпийской идеи, тем самым способствуя сохранению мира и взаимопонимания между народами.
Казалось бы, Карл Дим полностью справился со своей миссией и после ее выполнения мог вновь приступить к управлению гигантским спортивным комплексом Берлина. Однако участие Дима в пропагандистских играх на этом не закончилось. В августе 1937 года Карл Дим вновь оказался в Женеве. На этот раз он привез с собой послание от Имперского спортивного руководителя, в котором содержались гарантии имперского правительства, касавшиеся поддержки Олимпийского института. Также Ганс фон Чаммер в своем письме предлагал поставить во главе института Карла Дима. Кубертен полностью согласился с этими предложениями, что стало его последним принципиальным решением в жизни. Смерть Кубертена едва ли могла как-то повлиять на создание Олимпийского института, так как все детали были уже заранее согласованы. Осенью 1937 года все оставшиеся нерешенными вопросы касались исключительно имперского правительства Германии. 19 октября 1937 года министр внутренних дел Вильгельм Фрик не только подписал документы о выделении 50 тысяч рейхсмарок, но и сформировал круг задач, которыми должен был заниматься институт. Перечислим их: «1. Научное обобщение главных олимпийских принципов и обмен мыслями с носителями олимпийской идеи всего мира. 2. Учреждение олимпийского архива, который должен стать международным справочным бюро олимпийского движения и олимпийского искусства. 3. Выпуск ежеквартального журнала «Олимпийское обозрение», который должен быть преемником выпускаемого Пьером де Кубертеном «Олимпийского ревю». Карл Дим должен был стать управляющим делами Олимпийского института, облеченным директорскими полномочиями. Нельзя не отметить, что после окончания Берлинских игр его заработная плата в очередной раз уменьшилась, а потому дополнительная работа была как нельзя кстати. Вильгельм Фрик, в свою очередь, отмечал, что «Дим, являясь лучшим экспертом по вопросам олимпийского движения, мог способствовать росту международного авторитета Германии».
Официально новое учреждение именовалось Международным олимпийским институтом (МОИ), а журнал «Олимпийское обозрение» считался вестником Международного олимпийского комитета. Но все это не помешало первый выпуск журнала открыть программной статьей Ганса фон Чаммера. В ней Имперский спортивный руководитель рассуждал о предназначении нового института: «Этим шагом Германия еще раз продемонстрировала мирные намерения Германии и немецкого народа, о чем не раз заявлял фюрер». На фоне откровенных рассуждений Вильгельма Фрика высказывания Чаммера выглядели как издевательство.
После того как 16 декабря 1937 года Имперское министерство финансов утвердило размеры финансирования института, Карл Дим направился в Лозанну, чтобы перевезти в Берлин первую часть архивов Кубертена. Для этого не потребовалось вести длинные переговоры, так как завещание Кубертена было для МОК обязательным к исполнению документом. В итоге официальное открытие Международного олимпийского института без каких-либо проблем произошло 9 февраля 1938 года. Теперь от МОК требовалось согласие на то, чтобы национал-социалистическая Германия являлась официальной преемницей всего духовного наследия Кубертена. Речь шла не о документах, а об общей совокупности идей, положенных в основу олимпийского движения. Выполнение этого задания в очередной раз было поручено Карлу Диму, которого в марте 1938 года послали на заседание МОК, проходившее в Каире. На этот раз успех не во всем сопутствовал ему. Поначалу тон на заседании задавала прогерманская группировка, в которую входили граф Байе-Латур, Зигфрид Эдстрём, Эйвери Брэндедж и т. д. Но в итоге удалось добиться только формального разрешения на издание «Олимпийского обозрения». Поскольку как раз во время заседания МОК произошел аншлюс Австрии, то Карлу Диму не удалось убедить абсолютно всех, что «Германия с се миролюбивыми целями должна стать центром всего олимпийского движения». Но национал-социалистической прессе это обстоятельство не помешало подать информацию исключительно в выгодном для себя свете.
Международный олимпийский институт начал свою деятельность в апреле 1938 года. В то же время Карла Дима официально назначили директором этого учреждения. Несмотря на то что финансирование института происходило но линии имперского правительства, предпринимались многочисленные попытки изобразить его как совершенно независимую от национал-социалистов структуру. Если говорить о конкретной деятельности Дима на посту директора института, то она в основном сводилась к выпуску журнала «Олимпийское обозрение», большую часть статей в который он сам и писал. Эти материалы были посвящены истории спорта, спортивно-практическим темам, популяризации наследия Кубертена. До апреля 1943 года журнал выходил раз в квартал. Затем раз в полгода. Последний его выпуск увидел свет в октябре 1944 года. На тот момент здание Международного олимпийского института очень сильно пострадало от воздушных налетов. В огне погибли многие рукописи Кубертена, документы и фотографии, относящиеся не только к Олимпиаде 1936 года, по и другим играм. В своей послевоенной книге «Жизнь, посвященная спорту» Карл Дим сообщал читателю, что, «продолжая олимпийскую деятельность даже в годы войны, я предпринимал множество зарубежных поездок». Эта информация не совсем соответствовала действительности. Да, Дим в годы Второй мировой войны много раз бывал за пределами Германии. Но ни в одной из этих поездок он не был в качестве директора Международного олимпийского института. Представляется весьма интересным, как и почему Карл Дим выезжал за рубеж.
