Осенью 1882 года Ювачев был переведен на Балтийский флот и поступил в Петербургскую морскую академию. 13 августа 1883 года был арестован. В 1884 году на «процессе 14-ти» (он был одним из шести обвинявшихся по нему офицеров) восьми подсудимым, в том числе и ему, был вынесен смертный приговор, но казнили только двоих — Штромберга и Рогачева. Ювачеву в числе других смертная казнь была заменена 15-летней каторгой.
Четыре года он находился в знаменитой Шлиссельбургской крепости. Именно там началось его духовное перерождение: из пламенного революционера И. П. Ювачев превратился в глубоко верующего, религиозного человека. Он стал совершенствовать свое знание греческого языка и даже попытался сделать новый перевод Евангелия. Вера Фигнер писала: «Политические убеждения Ювачева за год заточения совершенно изменились: из борца, завоевателя свободы насильственным путем он превратился в миролюбца в духе Толстого». Не случайно позже он выбрал себе и значимый псевдоним: «Миролюбов».
Обрадованное таким превращением революционера тюремное начальство даже предлагало Ювачеву постричься в монахи, однако он ответил отказом, ссылаясь на то, что не считает себя достойным этой стези.
Весной 1887 года Ивана Павловича отправляют в Москву, а оттуда в Одессу. Летом в трюме парохода «Нижний Новгород» его везут для отбывания каторги на остров Сахалин, куда он прибывает в сентябре.
Надо сказать, что, хотя по приговору ему были определены каторжные работы, на Сахалине каторги как таковой не существовало. Сахалин стал местом отбывания наказания каторжных всего 12 лет назад, по закону 1875 года, — и был фактически территорией ссылки, поскольку никаких тяжелых работ на острове не имелось. Сразу же, в сентябре 1887 года, Ювачева определили в селение Рыковское, где он сначала был плотником, а затем — с 1888 года — фактическим заведующим метеостанцией. В этом качестве он занимался обследованием берегов Татарского пролива, составил морскую карту западного берега Сахалина. Именно в Рыковском Ювачев встретился с прибывшим на Сахалин А. П. Чеховым. Впоследствии в десятой главе книги «Остров Сахалин» Чехов напишет о нем теплые строки: «В Рыковском есть школа, телеграф, больница и метеорологическая станция имени М. Н. Галкина-Враского, которою неофициально заведует привилегированный ссыльный, бывший мичман, человек замечательно трудолюбивый и добрый; он исправляет еще также должность церковного старосты». Ювачев имел возможность публиковать свои метеорологические наблюдения; так, к примеру, был издан «Краткий обзор погоды в селении Рыковском на острове Сахалине в 1894 г.», а в таганрогском музее Чехова имеется работа «Свод метеорологических наблюдений в сел. Рыковское на о. Сахалине» (1894) с дарственной надписью: «Многоуважаемому автору книги „Остров Сахалин“ Антону Павловичу Чехову от Ив. П. Ювачева». В 1893 году Чехов сделал Ювачева прототипом революционера — героя своего «Рассказа неизвестного человека».
Надо сказать, что обычно ссыльнокаторжным не разрешали встречаться с людьми, приезжавшими на Сахалин из столиц, но для Ювачева было сделано исключение из-за его «примерного поведения», которым он отличался еще в Шлиссельбурге. По этой же причине ему разрешили работать по специальности. В конце концов, «каторжная» жизнь Ювачева на острове сложилась так, что в 1891 году он стал капитаном первого сахалинского парохода «Князь Шаховской», на котором также проводил научные изыскания.
Там же, на Сахалине, Ювачев влюбился в Марию Антоновну Кржижевскую, приехавшую добровольно работать на остров и желавшую «умереть с каторжными». Она работала акушеркой и фельдшерицей, а затем стала официальной заведующей метеорологической станцией, на которой Ювачев работал. «Мне кажется, я любил ее и любил искренно, даже страстно», — записал он вскоре после того, как она скончалась от чахотки.
В 1895 году ему разрешили уехать с острова — это был первый случай освобождения с Сахалина политического заключенного. Ювачев переезжает во Владивосток, где живет два года. В 1897 году он возвращается в Европейскую Россию, живет сначала в Любани, затем получает разрешение переехать в Санкт-Петербург. В 1899 году ему окончательно возвращают все гражданские права.
С 1897 года Ювачев начал сотрудничать в журнале «Исторический вестник». В первых семи книгах этого журнала за 1900 год публикуются его воспоминания «Восемь лет на Сахалине» (в 1901 году книга вышла отдельным изданием). Побывал он и в паломничестве в Палестине, очерки о котором публикуются в «Историческом вестнике» в 1902 году (отдельное издание — 1904 год). За свои научные труды И. П. Ювачев был избран членом-корреспондентом Главной физической обсерватории Академии наук.
И. П. Ювачев был человеком чрезвычайно интересным, притягивавшим к себе людей. В январе 1901 года, когда он находился в Ташкенте, с ним познакомился путешествующий Максимилиан Волошин. Восхищенный личностью Ювачева, Волошин 17 января пишет матери: «Он какой-то совсем удивительный человек — примиренный, ровный — в типе Достоевского и религиозный. Статьи его очень стоит прочесть. Он тут тоже „техником“ и на изысканиях. Мы с ним видимся почти каждый день и ведем бесконечные разговоры». 4 февраля он снова пишет матери о Ювачеве: «Я приеду с Ювачевым и он остановится на несколько дней в Москве, и я вас тогда непременно познакомлю с ним. Он удивительно интересный и удивительно хороший человек. В нем какая-то удивительная уравновешенность и примиренность, которая особенно поражает после его рассказов о тех ужасах, которые он переиспытал за 4 года в Шлиссельбурге и за 8 лет на каторге. Положим, он сам не любит это говорить и говорит очень редко об этом. Он глубоко религиозен, до экстаза, но и это в нем как-то очень уравновешенно и не поражает. Вообще это очень интересный и симпатичный человек во всех отношениях, и мне ужасно интересно, какое впечатление произведет он на вас».
В феврале того же 1901 года И. П. Ювачев вместе с М. Волошиным выехал из Ташкента и через Самарканд, Ашхабад, Красноводск, Баку прибыл в Тифлис. Проехав по Военно-Грузинской дороге, они 4 марта приехали в Москву, где Волошину нужно было, в частности, получить свои документы в канцелярии университета.
В 1902 году Ювачев знакомится с Надеждой Ивановной Колюбакиной, которой тогда было 33 года. Судя по всему, знакомство это произошло при посредничестве княжны М. М. Дондуковой-Корсаковой, с которой он, видимо, познакомился еще в Шлиссельбурге. Княжна давно занималась благотворительностью — в частности, она посещала Петропавловскую и Шлиссельбургскую крепости, где помогала узникам деньгами, продуктами, вещами, поддерживала их дух, ходатайствовала за них перед начальством. Она входила в Санкт-Петербургский дамский благотворительно-тюремный комитет, под патронажем которого существовало «Убежище принцессы Ольденбургской» для женщин, освободившихся из тюремного заключения. В этом убежище Надежда Ивановна тогда работала заведующей прачечной (позже она стала заведовать всем заведением). Через год, 16 апреля 1903 года, состоялось ее венчание с Иваном Павловичем.
