В поисках работы мать решила перебраться в Вильно, находившийся с 1920 года под польским управлением. Полонизация города шла полным ходом, и «лишние» литовцы, да еще с еврейскими корнями, не приветствовались. Каждые полгода Григулевичам приходилось продлевать разрешение «на жительство», и Иосиф воспринимал это как унизительную дискриминационную процедуру.
Неожиданно, как это всегда бывает, нагрянула беда и самым радикальным образом изменила судьбу парнишки с той идиллической черно-белой фотографии.
В середине декабря 1931 года за Иосифом пришли агенты польской «дефензивы». «Первый арест был для меня нелегким испытанием, — признавался он позднее, — хотя и не был неожиданным. Я видел слезы на глазах у матери и думал: “Опять к ней пришло горе. А скоро ли она услышит обо мне хорошие вести? Впереди тюрьма!” Шел обыск, но я думал: ни отступать, ни сворачивать в сторону не буду — надо идти дальше».
В эти же дни была брошена в тюрьму большая группа гимназистов и активистов компартии Западной Белоруссии (КПЗБ), которая нелегально действовала на территории Ви-ленщины. Причина ареста была, в общем-то, смехотворной: члены нелегальной комсомольской организации рассовали по карманам пальто в общей раздевалке Виленской гимназии листовки, и директор М. Шикшнис тут же узнал об этом, поскольку доносительство в гимназии процветало.
Представление о «раннем» Григулевиче, его взглядах и убеждениях могут дать автобиографические заметки, опубликованные в Литве в сборнике «Революционное движение в Вильнюсском крае в 1920—1940 годах». Наверное, это был единственный период в жизни Григулевича, о котором он вспоминал без самоцензуры и ограничений, налагаемых подпиской о «неразглашении».
В окружении полицейских агентов, сверкая наручниками, Иосиф гордо, как и полагается несгибаемым революционерам, прошагал по городу в «дефензиву» на Свентоянскую улицу «для оформления», а потом в «централку» — дом предварительного заключения в Игнатьевском переулке. Допрашивал Григулевича некий Пясецкий, который специализировался на искоренении коммунистической крамолы в Вильнюсе. «Пясецкий начал с того, что он “все знает”: “Признайтесь, и мы забудем этот печальный инцидент. Польские власти относятся к литовцам дружески, более того — поляки и литовцы братья. Ах, ваши убеждения? Ну что ж, известное дело: кто в молодости не был социалистом, — даже маршалек (Пилсудский) им был; вы нам подтвердите то, что мы знаем, и сразу же окажетесь на свободе”. В ответ на “медовые” эти речи я категорически отрицал свою принадлежность к комсомолу или компартии и утверждал, что политикой не интересовался, а занимался только учебой».
Всего было арестовано 13 учащихся-литовцев, из которых большинство выпустили «на поруки». Из гимназистов за решеткой остались только двое — Д. Пумпутис, секретарь комсомольской организации, и Григулевич. Прямых улик против Иосифа не было, он успел уничтожить всю нелегальщину и комсомольские документы на квартире задолго до обыска. Обширный компрометирующий материал на него был получен от полицейской агентуры, «расколовшихся» гимназистов младших классов и из похищенных охранкой докладов вильнюсского окружкома партии в адрес ЦК КП Западной Белоруссии. В статистических справках о членах комсомольской организации в Вильнюсе неизменно значилось: караим — 1. Установить этого «караима» не представляло труда. Даже в читальне Товарищества белорусской школы, которая считалась «логовом коммунистов», нашелся у сыщика Пясецкого «человечек», который с живописными подробностями сообщил о крамольных речах Григулевича.
Из «централки» Иосифа перевели в известную строгостью режима виленскую тюрьму Лукишки. Именно там, в апреле 1933 года, он узнал о смерти матери, близкого дорогого человека. «Огромное личное горе» — так вспоминал об этом Григулевич. Ничто не предвещало несчастья, оно обрушилось на него внезапно. Из заключения был освобожден один из сокамерников Григулевича. Зная, что у того нет своего угла в Вильнюсе, Иосиф посоветовал ему остановиться на квартире у матери. Первый же ее разговор с гостем, рассказавшим о тюрьме и бесчеловечных условиях содержания заключенных, оказался для Надежды Лаврецкой роковым. Она была настолько потрясена услышанным, что сердце не выдержало. Ей было 47 лет…
Иосиф остался один на один с суровой действительностью. Отец не мог помочь из далекой Аргентины ни материально, ни морально. Приехать он тоже не мог, поскольку и польские и литовские власти были прекрасно осведомлены: в дни большевистского переворота в Петрограде Григулевич-старший был среди красногвардейцев и принимал активное участие в установлении советской власти. Нелегальная городская организация комсомольцев взяла Иосифа под свою опеку, снабжала продуктами, небольшими денежными суммами для покупки необходимого в тюремном киоске.
В марте 1933 года следствие было закончено. «Дефензива за полтора года сделала все, — вспоминал Григулевич, — чтобы подвести нас под статью 102 русского дореволюционного кодекса, которым тогда пользовались пилсудчики. В обвинительном акте наша деятельность рассматривалась как подрывная и антигосударственная. Признаться, мне это импонировало. Я хорошо знал, что по указанной статье в свое время судили тысячи революционеров, боровшихся с царским режимом».
17 мая 1933 года в газете «Вильняус ритоюс» появилось сообщение «О судебном процессе над учащимися Вильнюсской литовской гимназии», в котором говорилось:
«12—13 мая с. г. в Вильнюсском окружном суде разбиралось дело по обвинению бывших учащихся гимназии имени Витаутаса Великого: Д. Пумпутиса, Ю. Григулявичуса, Ю. Айдулиса, К. Мацкявичуса и студента И. Каросаса. Все они обвинялись в принадлежности к коммунистической партии и в распространении идей коммунизма. Первых двух — Д. Пумпутиса и Ю. Григулявичуса — суд признал виновными и осудил на 2 года тюремного заключения условно. Трех остальных: Ю. Айдулиса, К. Мацкявичуса и студента И. Каросаса оправдали».
После разгрома Литовской советской республики суд над молодыми коммунистами Виленщины был первым процессом такого рода и потому привлек немалое внимание литовской и польской общественности. Обвинителем на суде выступал прокурор пан Ястшембский, председательствовал судья пан Лимановский. Обвиняемых защищали адвокаты Петрусевич, Ясинский, Шишковский и Сукеницкая. По делу были опрошены 24 свидетеля. Подсудимые не скрывали левых убеждений, защищали свое право изучать общественно-социальные проблемы под марксистским углом зрения. Обвинитель Пиотровский (Григулевич назвал именно его, а не Ястшембского), «бывший белогвардеец, перешедший на службу к пилсудчикам», пытался доказать, что на скамье подсудимых находятся экстремисты и отщепенцы, представляющие реальную угрозу для безопасности Речи Посполитой. Адвокаты старались представить своих подзащитных идеалистами-правдоискателями, будущими светилами Литовского научного общества и литовской культуры. Выступил в свою защиту и сам Иосиф:
