Оказавшись в одиночестве в замке Дукс, Казанова-актер мучился, оставшись без зрителя, Казанова-рассказчик — без слушателей, иначе говоря без возможности самоутверждаться. Начав писать «Мемуары», Казанова приобрел читателя — совершенно иного, зато гораздо более многочисленного почитателя, которого он с самых первых страниц стал именовать своим приятелем и добрым знакомым. Дабы расширить круг будущих знакомых, он писал свои «Мемуары» по-французски, на языке просвещенной Европы, а ее знаменитый Авантюрист изъездил вдоль и поперек. Вместе с читателем он обрел славу, которой так не хватало ему при жизни, и — бессмертие.
А покидая рабочий стол и выходя за пределы кабинета, Казанова вновь оказывался в пустынных коридорах замка, среди враждебных ему слуг, старавшихся перещеголять друг друга по части измышления пакостей для библиотекаря. Всех превзошел Видерхольт. Выдрав из какой-то книжки Казановы его портрет, он фекалиями прилепил его в уборной. Разъяренный Казанова помчался к мировому судье Дукса и потребовал сурово наказать обидчика. Судья ограничился внушением и порицанием. В былые времена Казанова непременно вызвал бы гнусного шутника на дуэль или же попросту отколотил его палкой, но сейчас ему пришлось проглотить обиду. А вскоре на Казанову обрушилось новое несчастье. Для издания своих трудов он занял у дрезденского ростовщика восемьдесят талеров под проценты. Настал срок уплаты, ростовщик грозил пожаловаться графу, и Казанова, не желая огласки, продал шубу, чтобы расплатиться. На дворе стояла зима, и Казанова писал своим корреспондентам: «Я запасаюсь терпением, сижу в замке и никуда не выхожу. Все проходит, и зима тоже пройдет. Это еще не самое худшее. В комнате у меня тепло, меня окружают любимые книги, и я беседую с ними, как со старыми друзьями. Вчера приходили с приглашением на бал, должный состояться в поместье неподалеку. Будет много красивых девушек. Однако я отказался, ибо в последнее время стыжусь совершить глупость или нелепость, отчего все кругом веселятся, а мне становится дурно и я начинаю опасаться за свое здоровье. Не желая укорачивать дни свои, я более не ходок на балы». Рассуждения, достойные не Горация, но Сенеки. С годами Казанова становился истинным философом.
Однако философствовать Казанова был готов только на бумаге, в быту он по-прежнему оставался ворчливым, всем недовольным стариком, постоянно пребывавшим в состоянии войны со всеми обитателями замка. Когда приезжал граф, он бросался жаловаться графу, если вместо графа в замке гостила его матушка, он жаловался ей. Со временем Вальдштейн перестал прислушиваться к недовольному ворчанью Казановы, но матушка его, будучи возраста изрядного, пыталась утихомирить сварливого старца, советуя ему быть «добрее и любезнее» с обитателями замка. «Не судите, да не судимы будете», — часто напоминала она ему евангельскую заповедь. Библиотекарь с ней соглашался, однако предпочитал, чтобы Евангелию следовали другие. Однажды на прогулке он столкнулся с графским кучером, поссорился с ним из-за какого-то пустяка, и кучер отколотил его палкой. Разъяренный Казанова, смыв кровь и перевязав синяки, отправился к судье требовать правосудия. Судья отослал его к графу, полагая, что раз кучер служит у графа, значит, тому и определять его вину. Казанова поехал в соседнее поместье Брукс, также принадлежавшее Вальдштейну, но и там владельца не оказалось. Тогда венецианец разразился язвительными, исполненными жаждой мести «письмами к мажордому». Письма до адресата не дошли, но сохранились в архиве Казановы. Не пощадило перо старца и поколотившего его кучера. В письме к Вальдштейну он называет его мерзким шутом, обезьяной, недостойной графских милостей, и подробно излагает, как было дело. На этот раз жалобы Казановы не остались без ответа. Порядок навел брат графа Фердинанд. Приехав в Дукс, он сурово отчитал и мажордома, и его подручных, и всю прислугу, пообещав лично оторвать голову каждому, кто посмеет неуважительно обойтись с господином библиотекарем.
Наступил период затишья. Но вскоре Казанова вынужден был покинуть Дукс и перебраться в Брукс. На этот раз он бежал не от злобного мажордома и его клевретов, а от гнева нескольких разъяренных мамаш городка, обвинивших его в соблазнении и растлении их малолетних дочерей. Сейчас уже невозможно определить, сделали ли из престарелого Казановы козла отпущения за чужие шалости или же старец, вспомнив молодость, действительно обольстил нескольких несмышленых крестьяночек. Жители городка привыкли, что летом, особенно в погожие дни, высокий сварливый старик в старомодном, плохо напудренном парике и кафтане с некогда золотым, а теперь потускневшим и почерневшим шитьем выходил погулять и, бродя по кривым улочкам, непременно заглядывался на всех проходящих мимо девушек, а иногда даже, видимо, когда его не одолевал ревматизм, пытался схватить их и обнять, а когда они вырывались, начинал ругаться на незнакомом им языке.
В начале 1793 года, после долгого отсутствия, в замок наконец явился его хозяин, граф Вальдштейн, и быстро навел порядок. Он уволил наглеца-мажордома, помирил библиотекаря с остальными слугами, заставив их повиниться в своих поступках и принести извинения Казанове. Граф заплатил все его долги и выплатил жалованье за несколько месяцев вперед. «Теперь я спокоен, — написал своим корреспондентам Казанова, — и с легким сердцем могу работать дальше над своими записками». Временами, чувствуя прилив сил, Казанова писал по двенадцать часов подряд. Однако чем дальше, тем писать становилось все труднее. Он стал плохо видеть, его мучила подагра, во время приступов рука отказывалась удерживать перо. К этому времени он успел довести свои воспоминания до 1772 года и теперь раздумывал, стоит ли продолжать их дальше, ибо, по его словам, писал он исключительно для удовольствия — собственного и читателя; далее же ему пришлось бы описывать события печальные, а он не желал удручать себя, равно как и читателя. Раздумьями своими он делился со своими корреспондентами, однако советам их следовать не собирался. Друг его, граф Ламберг, скончался, а более он никому не доверял, особенно если автор письма, ненароком описавшись, именовал его «старым», «стариком» или просто напоминал ему о возрасте. «Я сажусь за стол, беру в руки перо и начинаю водить им по бумаге. И я уже далеко, в милых моему сердцу местах, и мне снова двадцать пять», — с гордостью писал он тем, кто напоминал ему, что совсем скоро ему стукнет семьдесят. Перо помогало ему побеждать возраст, убегать от старости. Тем не менее все чаще, особенно зимой, ему в голову приходила мысль о самоубийстве.
Разум нашептывал ему, что, поселившись безвыездно в замке Дукс, он все равно что перестал жить, однако натура противилась таким рассуждениям, а он более привык слушать натуру, нежели разум. Именно его обидчивая натура заставила его разругаться с давним своим корреспондентом Опицем, придравшись, что тот в каком-то из писем позабыл назвать его «господином». Его место, равно как место покойного графа Ламберга, в сердце Казановы постепенно занял потомственный аристократ принц де Линь, который был на десять лет моложе Казановы, а если судить по внешнему виду — то на все двадцать. Эрудит, превосходный собеседник, друг и доверенное лицо многих европейских коронованных особ, сделавший блистательную военную карьеру, принц жил в Вене, лето проводил в своем замке в Теплице, откуда часто наезжал в Дукс. Познакомившись с Казановой, он вскоре обнаружил, что его вкусы во многом совпадают со вкусами и пристрастиями старого библиотекаря. Они оба обожали Горация, с удовольствием читали классиков, ненавидели якобинцев и оплакивали монархию. Однако де Линь слишком редко приезжал в Дукс, чтобы утешить Казанову, а письма уже не могли развеять хандру Авантюриста. Даже работа более не спасала его от черной меланхолии.