По предложению дяди Самуила на семейном совете решили, что параллельно мальчики будут заниматься музыкой. Исаак слушал очень внимательно, ведь он уже окончательно решил стать взрослым. Ему казалось главным получить форменный костюмчик, а всё остальное у него уже было: талант, прилежание и сумасшедшее желание побеждать. Дядя Самуил приводил в обоснование какие-то резоны про деньги, про скрипача Лантуха, про городской оркестр. Исаака это не интересовало. Он знал, что будет другим не из-за первого, второго или третьего. Он будет таким потому, что так надо, потому что это заложено в его характере. Каким он будет, он ещё точно не определил, но другим — это точно. Ему не хотелось быть посмешищем в семье, как дядя Самуил, или скрипачом Лантухом, который прилично зарабатывал только потому, что был один на весь город. Он знал, что это не для него.
Началась подготовка к отъезду. Теперь следовало преодолеть "черту оседлости", выдуманную царскими министрами. К сожалению, чтобы жить в Харькове, еврею надо было иметь особый социальный статус, хотя бы мелкого ремесленника. Мальчиков решили отдать в ученики к мастеру-переплётчику, и они выдержали целый экзамен на звание подмастерья. Из сухонькой жёлтой руки чиновника Борис и Исаак получили маленькие удостоверения в зелёной обложке. Эта "ксива", как на идише называли все казённые бумаги, давала право на жительство в Харькове, позволяла снимать комнату, любить харьковских темноволосых красавиц и восторгаться их глухим украинским "г".
Всю интригу с "ксивами" придумал дядя Самуил, который посчитал, что он на свете самый хитрый, коль скоро смог обмануть самого царя с его "чертой оседлости". Все были счастливы, а дядя принёс благодарственную молитву своим музыкальным божкам, поставив "Патетическую симфонию" Чайковского. Парни её молча выслушали — мысли их были далеко от тёмной дядиной комнаты, пропахшей табаком. Они видели себя спящими в новых кроватях, на новом месте — часто бывает, что маленький человек прежде всего думает о том, где он будет спать. Оказаться в Харькове было для них по меньшей мере тем же, что побывать в Лондоне или Париже.
Дунаевский-старший приобрёл для обоих мальчиков форменные костюмы училища ИРМО (Императорское русское музыкальное общество) с позолоченными лирами на бархатных петлицах и золочёными пуговицами на чёрных курточках. Когда счастливые мальчики наконец-то приехали в Харьков и прошлись по улицам большого города, им чудилось, что из-за каждого угла за ними наблюдает дядя Самуил.
Исаак начал жить на новом месте, вдали от дома. Он не знал, что эта перемена мест обернётся новым чудесным переживанием, связанным с женщинами. Пока что, надев форменную фуражку, он ещё несмело поглядывал на открытые окна женской гимназии и на учителей. Учителя носили синие сюртуки с зелёными пуговицами. Исаак взирал на них с благоговением — они казались ему такими учёными! Но чего они хотели от него, он не знал.
Директором гимназии был Николай Николаевич Кноринг — немец из обрусевших. Исаак смотрел в глаза Николаю Николаевичу, изучал его спину и тёмную бородку, а также пенсне, которое казалось двумя половинками земного шара. С Кнорингом Исаака надолго связали какие-то таинственные узы, симпатия, которая невесть откуда рождается между двумя людьми.
Кноринг резко отличался от других преподавателей. Объясняя свой предмет, он мерил класс большими размашистыми шагами, и глаза его горели неподдельным восторгом. Были у него и минусы. Например, он читал "Русское знамя" и другие черносотенные газеты, но всё равно нравился Исааку больше других. В гимназии в основном преподавали учителя-евреи — об этом отцу Исаака рассказал дядя Самуил, который каким-то непостижимым образом знал всё, что творится на белом свете. Мальчик всегда считал, что его дядя волшебник.
Однажды один из учеников прибежал к Николаю Николаевичу и сказал, что кто-то из еврейских мальчиков обозвал русского Бога сволочью. Кноринг вызвал обвиняемого на допрос. Приняв весьма торжественный вид, он спросил:
— Как же это вы позволили себе обругать Бога?
Маленький святотатец сконфуженно ответил:
— Это я не Бога обозвал, а только дощечку.
Присутствовавший при этом инспектор громко расхохотался:
— О, это будущий философ!
Вообще о жизни в аналогичных гимназиях накопилось множество былей, чаще всего невесёлых. Например, у одного еврейского мальчика был недурной голос, и его приняли в гимназический хор. Однажды приехал к ним попечитель. Похвалил хор, погладил мальчика по голове, а потом что-то сказал директору. О чём они говорили, мальчик не понял. Слышал только слова: "Жаль, жаль". Потом уже ребёнку объяснили: оказывается, попечитель жалел, что такой хороший голос — и вдруг достался еврею.
О жилье позаботился отец. Семь лет Исаак с Борисом будут жить в семье Дерковских на Грековской улице, дом 12, квартира 1, с дверью, обитой рыжим дерматином. Образный портрет нищеты хозяев и условий, в которых поселили маленьких братьев Дунаевских, даёт сам Исаак в своём письме, написанном за два года до смерти одной из влюблённых в его музыку корреспонденток, Раисе Рыськиной: "Так, в 12 лет (или около этого), живя в Харькове в сырой комнате, по стенам которой струились жидкие ручьи, я избавился от мучившего меня ножного ревматизма"[Письмо от 12 июня 1953 года. Первый публикатор Наум Шафер.]. Кроме этого жуткого воспоминания, других нет. Исаак так никогда и не узнает, за какие такие заслуги Дерковские приняли в свой дом обоих мальчиков. Может быть, потому, что однажды, много лет назад, Цали Симонович, проверяя банковские отчёты Моисея Ильича, сделал вид, что в них всё в порядке, и Моисей Ильич этого не забыл. Всё может быть. Во всяком случае, Исаак никогда не жалел о семи годах, которые провёл в доме Дерковского.
Спустя много лет, уже в Москве, Исаак воскликнет: "Моисей Ильич!" И боль разорвёт его сердце на сотни мелких осколков, потому что не останется на свете ни Моисея Ильича, ни его жены Фанни Яковлевны, ставшей для Исаака и Бориса второй матерью. Магическое чудо совершил дядя Самуил: он заставил эту чудную семейную пару полюбить своих племянников, как родных детей. А ещё в их доме Исаак впервые влюбился. Ведь у Фанни Яковлевны были две дочери, Любовь и Цецилия — два бриллианта, покорившие воображение Исаака. Как их не хватало ему потом! Все его поздние возлюбленные были похожи на них.
Деревья толкались ветвями в окна спаленки, где спали два брата. Солнце светило, дверь распахивалась, и в комнату к Исааку с подносом входило небесное создание — Цецилия, а может быть, Люба. Они были как две свечи. Одна из них сгорела очень рано, будто её кто-то задул. Косы двух сестёр, кружева их длинных панталон приводили Исаака в беспокойное состояние. Весь мир казался сплошным треугольником, куда ни пойди — неизбежно упрёшься в угол, в котором стоишь, не смея двинуться дальше, будто за что-то наказанный.