Помимо прочего, Василий Васильевич упоминается в исторической литературе как один из первых отечественных галломанов, который заимствовал не только внешние формы иноземной культуры. Ему удалось собрать одну из богатейших для своей эпохи библиотек, отличавшуюся разнообразием печатных и рукописных книг на русском, польском, французском, немецком и латинском языках. В ней имелись копии «Алкорана» и «Киевского летописца», сочинения европейских и античных авторов, разные грамматики, немецкая геометрия, труды по географии и истории.
Что касается государственных дел, в 1687 и 1689 годах Василию Васильевичу пришлось возглавить походы против крымского хана (по условиям «вечного мира» с Речью Посполитой Москва обязалась принять участие в войне Австрии и Польши с Турцией, и Крымские походы были предприняты в осуществление этого договора). Не обладая военными талантами, сибарит по натуре, князь Голицын пытался уклониться от обязанностей командующего, однако Софья Алексеевна настояла на том, чтобы он отправился в поход в должности военачальника. Крымские походы Голицына следует признать чрезвычайно неудачными. Искусный дипломат, к сожалению, не обладал ни знаниями опытного воеводы, ни талантом полководца. Возглавляя вместе с гетманом И. Самойловичем стотысячное войско в ходе первой военной кампании, осуществленной летом 1687 года, он так и не сумел достичь Перекопа. Из-за недостатка фуража и воды, нестерпимого зноя русское войско понесло значительные небоевые потери и было вынуждено уйти из выжженных крымчаками степей. Вернувшись в Москву, Василий Васильевич использовал все возможности, дабы укрепить международное положение рассыпающейся Священ ной лиги. Послы его работали в Лондоне, Париже, Берлине, Мадриде, Амстердаме, Стокгольме, Копенгагене и Флоренции, пытаясь привлечь новых членов в Лигу и продлить хрупкий мир.
Через два года (весной 1689 г.) была предпринята новая попытка достигнуть Крыма. На сей раз в поход выступило войско численностью свыше 110 тысяч человек, имевшее на вооружении 350 пушек. Разумеется, этой компанией тоже руководил Голицын. На территории Малороссии к русской армии присоединился новый украинский гетман И. Мазепа со своими казаками. Преодолев степь и одержав верх в бою с ханом, русское войско добралось до Перекопа. Однако князь так и не решился перебраться на полуостров: по его словам, его остановил недостаток воды, которой было необходимо очень много в условиях изнуряющей майской жары. Несмотря на то что второй поход также закончился неудачей, Россия выполнила свое обязательство перед союзниками: 150-тысячная армия крымских татар была скована в Крыму, что дало Священной лиге возможность довольно ощутимо потеснить турецкие силы на европейском театре «священной войны».
После возвращения Василия Васильевича из похода его положение при дворе сильно пошатнулось. В обществе зрело раздражение от неуспехов в Крымских походах. Партия Нарышкиных открыто обвиняла его в нерадении во время последнего похода в Крым и получении взятки от татар. Один раз на улице на Голицына напал убийца, однако охрана успела отбить его. Софья Алексеевна, чтобы хоть как-то оправдать фаворита, устроила роскошный пир в его честь, а вернувшиеся из похода русские войска были встречены как победители и щедро награждены.
У многих это вызвало еще большее недовольство, поступки Софьи даже у ее близкого окружения стали вызывать настороженность. Авторитет и влияние Василия Васильевича постепенно ослабевали, а у царевны появился новый фаворит, Федор Шакловитый – по иронии судьбы, выдвиженец Голицына.
К этому времени уже пришел «в возраст» Петр, обладавший чрезвычайно упрямым и противоречивым характером, не желающий больше слушать свою властную сестру. Он часто перечил Софье, упрекал ее в излишней смелости и самостоятельности, не присущей женщинам. В государственных документах также говорилось, что регентша утрачивает возможность управления государством в случае женитьбы Петра. А наследник к тому времени уже обзавелся супругой Евдокией. Семнадцатилетний Петр стал для царевны опасен, и она опять решила использовать стрельцов. Однако в этот раз Софья Алексеевна просчиталась – стрельцы ей уже не верили, отдавая предпочтение наследнику. Большая часть войск повиновалась законному царю, и царевне Софье пришлось признать поражение.
Падение Василия Васильевича стало неизбежным следствием низложения властолюбивой царевны Софьи, которую сводный брат заключил в Новодевичий монастырь под строгий присмотр. Хотя Голицын никогда не принимал деятельного участия ни в стрелецких бунтах, ни в борьбе за власть, ни тем более в заговорах с целью убийства Петра, его конец был предрешен. В августе 1689 года во время переворота он уехал из Москвы в свое имение, а уже в сентябре вместе со своим сыном Алексеем прибыл к Петру в Троицу. По воле нового царя у ворот Троице-Сергиева монастыря 9 сентября ему зачитали приговор. Вина князя заключалась в том, что он сообщал о делах державы Софье, а не Ивану и Петру, имел наглость писать грамоты от их имени и печатать в книгах имя Софьи без царского соизволения. Однако основным пунктом обвинения стали неудачные Крымские походы, принесшие казне великие убытки. Любопытно, что немилость Петра за крымские неудачи коснулась одного Голицына, а тот же Мазепа, наоборот, был обласкан. Однако даже Петр I признавал заслуги князя, питал уважение к поверженному врагу. Разумеется, соратником молодого царя в делах переустройства России Василию Васильевичу стать было не суждено. Но и жестокой казни, подобно другим сподвижникам Софьи, его не предали. Князя Голицына и его сына лишили боярских титулов, все их поместья, вотчины и прочее имущество было отписано на государя, а ему самому вместе с семьей повелели отправляться на север в Архангельский край «на вечное житье». Согласно царскому указу опальным дозволялось иметь лишь самое необходимое имущество не более чем на две тысячи рублей.
После того как Голицын вместе со своей семьей отправился в ссылку в город Каргополь, в Москве было предпринято несколько попыток ужесточить наказание для опального князя. Однако двоюродному брату опального князя Борису Алексеевичу Голицыну удалось защитить брата, которому повелели перебраться в Еренский городок (в 1690 г.). Туда ссыльные добрались глубокой зимой, однако и в этом месте им не довелось остаться.
Ложный донос Шакловитого, будто бы Голицын принимал активное участие в заговоре стрельцов в ночь на 8 августа 1689 года, подкрепленный новым ложным доносом о сношениях Василия Васильевича с Софьей уже после ссылки, еще более отягчил его судьбу. Был отдан приказ везти Голицына с семьею в Пустозерский острог, на низовья Печоры, и учинить им жалованье «поденного корма по тринадцать алтын по две деньги на день». Усилиями Бориса Голицына наказание снова удалось смягчить: вместо дальнего острога Василий Васильевич оказался в деревеньке Кеврола, стоящей на далекой северной речке Пинеге примерно в двухстах километрах от Архангельска. Последним же местом его ссылки стал поселок Пинега. Здесь князь вместе со своей второй супругой, Евдокией Ивановной Стрешневой, и шестерыми детьми провел остаток своей жизни. Из ссылки он неоднократно посылал царю челобитные, прося не помилования, а лишь увеличения денежного содержания. Однако Петр свое решение не изменил, хотя он и закрывал глаза на посылки, отправляемые опальному боярину его тещей и братом. Также известно, что Б. А. Голицын как минимум один раз навестил брата – во время поездки царя в Архангельск. Разумеется, без разрешения Петра I он бы на это не отважился.