Ахмат, не пускаемый за Угру полками московскими, все лето хвалился: «Даст бог зиму на вас: когда все реки станут, то много дорог будет на Русь». Опасаясь исполнения этой угрозы, Иоанн, как только стала Угра 26 октября, велел сыну, брату Андрею Меньшому и воеводам со всеми полками отступить к себе на Кременец, чтоб биться соединенными силами; этот приказ нагнал ужас на ратных людей, которые бросились бежать к Кременцу, думая, что татары перешли уже чрез реку и гонятся за ними; но Иоанн не довольствовался отступлением к Кременцу: он дал приказ отступить еще от Кременца к Боровску, обещая дать битву татарам в окрестностях этого города. Летописцы опять говорят, что он продолжал слушаться злых людей, сребролюбцев, богатых и тучных предателей христианских, потаковников бусурманских. По Ахмат не думал пользоваться отступлением русских войск; простоявши на Угре до 11 ноября, он пошел назад чрез литовские волости, Серенскую и Мценскую, опустошая земли союзника своего Казимира, который, будучи занят домашними делами и отвлечен набегом крымского хана на Подолию, опять не исполнил своего обещания. Один из сыновей Ахматовых вошел было в московские волости, но был прогнан вестью о близости великого князя, хотя за ним в погоню пошли только братья великокняжеские. О причинах отступления Ахматова в летописях говорится разно: говорится, что когда русские начали отступать от Угры, то неприятель, подумав, что они уступают ему берег и хотят биться, в страхе побежал в противную сторону. Но положим, что татары подумали, будто русские отступают для завлечения их в битву; все же они отступали, а не нападали; следовательно, татарам не для чего было бежать; потом великий князь дал приказание своим войскам отступить от Угры, когда эта река стала, она стала 26 октября; положим, что между установлением ее и приказанием великого князя протекло несколько дней, но все же не пятнадцать, ибо хан пошел от Угры только II ноября; следовательно, если мы даже и допустим, что татары побежали, видя отступление русских, то должны будем допустить, что они потом остановились и, подождав еще до 11 ноября, тогда уже выступили окончательно в обратный поход. Другие летописцы говорят правдоподобнее, что с Дмитриева дня (26 октября) стала зима и реки все стали, начались лютые морозы, так что нельзя было смотреть; татары были наги, босы, ободрались; тогда Ахмат испугался и побежал прочь 11 ноября. В некоторых летописях находим известие, что Ахмат бежал, испугавшись примирения великого князя с братьями. Все эти причины можно принять вместе: Казимир не приходил на помощь, лютые морозы мешают даже смотреть, и в такое-то время года надобно идти вперед, на север, с нагим и босым войском и прежде всего выдержать битву с многочисленным врагом, с которым после Мамая татары не осмеливались вступать в открытые битвы; наконец, обстоятельство, главным образом побудившее Ахмата напасть на Иоанна, именно усобица последнего с братьями, теперь более не существовало.
Ахмат возвращался в степь с добычею, награбленною им в областях литовских. На отнимку этой добычи отправился хан Шибанской, или Тюменской, орды Ивак, соединившись с ногаями. Ахмат, не подозревая опасности, разделился с своими султанами и с малым числом войска, без всякой осторожности стал зимовать на устьях Донца. Здесь 6 января 1481 года напал на него Ивак и собственноручно убил сонного, после чего отправил к великому князю посла объявить, что супостата его уже нет больше; Иоанн принял посла с честью, дарил и отпустил с дарами для Ивака. Таким образом, последний грозный для Москвы хан Золотой Орды погиб от одного из потомков Чингисхановых; у него остались сыновья, которым также суждено было погибнуть от татарского оружия. Еще в княжение Василия Темного стала известной Крымская орда, составленная Едигеем из улусов черноморских; но сыновья Едигеевы погибли в усобицах, и родоначальником знаменитых в нашей истории Гиреев крымских был Ази-Гирей, сохранявший во все продолжение своей жизни дружбу с Казимиром литовским. Но сын Ази-Гиреев Менгли-Гирей вследствие жестокой наследственной вражды с ханами Золотой Орды почел за лучшее сблизиться с великим князем московским, чтоб вместе действовать против общих врагов; еще в 1474 году началось это сближение. Как дорожил Иоанн союзом Менгли-Гиреевым, имея в виду не одного Ахмата, но также и Литву, и как еще не отвыкли в описываемое время от уважения к ханам или царям татарским, видно из тона посольств и грамот Иоанна к Менгли-Гирею: посол московский, боярин Никита Беклемишев, должен был говорить хану от имени своего государя: «Князь великий Иван челом бьет: посол твой Ази-Баба говорил мне, что хочешь меня жаловать, в братстве, дружбе и любви держать, точно так, как ты с королем Казимиром в братстве, дружбе и любви. И я, слышав твое жалованье и видев твой ярлык, послал к тебе бить челом боярина своего Никиту, чтоб ты пожаловал, как начал меня жаловать, так бы и до конца жаловал». Но, соблюдая такие учтивости в речах посольских, Иоанн не хотел, однако, чтоб хан на этом основании позволил себе слишком повелительный тон в своих грамотах: по великокняжескому наказу Беклемишев должен был отговаривать, чтоб в договорной грамоте не было слов: «Я, Менгли-Гирей, царь, пожаловал, заключил с своим братом» и проч. Но если такова будет форма договорных грамот между Менгли-Гиреем и королем, то посол мог допустить выражение: пожаловал, если Беклемишев успеет отговориться от этого пожалования, то очень будет хорошо, если же не успеет, то делать нечего, пусть впишут в ярлык. Заключая союз с врагом Ахмата, чтоб удобнее при случае бороться с последним, Иоанн, однако, не хотел первый начинать этой борьбы и потому наказал своему послу отговаривать, чтоб в ярлыке не было сказано быть заодно именно на Ахмата, но чтоб было сказано вообще: «Быть на всех недругов заодно»; если же посол не успеет отговорить, то должен требовать внесения в ярлык следующего условия: «Если Ахмат или Казимир пойдут на Москву, то Менгли-Гирей сам должен идти на них или брата послать»; Беклемишев никак не должен был соглашаться на условие прервать сношения с Ахматом, не отправлять к нему послов, на требование этого условия Беклемишев должен был отвечать: «Послы между Москвою и Ордою не могут не ходить, потому что господаря отчина с Ахматом на одном поле». Если царь станет требовать поминков, какие шлет ему король, то посол должен был отговаривать и ярлыка не брать; если же царь захочет написать в ярлык: «Поминки ко мне слать и их не умаливать», то посол должен был отговаривать и это условие, но в случае нужды мог согласиться на него.
Беклемишеву удалось отговориться от поминков, но он должен был согласиться вписать в ярлык пожалование; грамота была написана так: «Вышнего бога волею я, Менгли-Гирей, царь, пожаловал с братом своим, великим князем Иваном, взял любовь, братство и вечный мир от детей на внучат. Быть нам везде заодно, другу другом быть, а недругу недругом. Мне, Менгли-Гирею царю, твоей земли и тех князей, которые на тебя смотрят, не воевать, ни моим уланам, ни князьям, ни козакам; если же без нашего ведома люди наши твоих людей повоюют и придут к нам, то нам их казнить и взятое отдать и головы людские без окупа выдать. Если мой посол от меня пойдет к тебе, то мне его к тебе послать без пошлин и без пошлинных людей, когда же твой посол ко мне придет, то он идет прямо ко мне. Пошлинам даражским (дарага, или дорога, — сборщик податей) и никаким другим пошлинам не быть. На всем на этом, как писано в ярлыке, я, Менгли-Гирей царь, с своими уланами и князьями тебе, брату своему, великому князю Ивану, молвя крепкое слово, шерть (клятву) дал: жить нам с тобою по этому ярлыку». После форма грамот Иоанновых к Менгли-Гирею была такая: «Государь еси великой, справедливой и премудрой, межи бессерменскими государи прехвальной государь, брат мой Менгли-Гирей, царь. Бог бы государство твое свыше учинил. Иоанн божьею милостью, един правой государь всея Руси, отчич и дедич и иным многим землям от севера и до востока государь. Величеству твоему брата твоего слово наше то. Приказывал еси к нам» и проч.
Послами в Крым обыкновенно отправлялись люди знатные, бояре; однажды случилось послать человека незначительного (паробка), и великий князь спешил извиниться, писал к хану: «На Литву проезду нет, а полем пути истомны». Важность, которую великий князь придавал крымским отношениям по поводу дел ордынских и литовских, заставляла его распоряжаться так, что в Крыму был постоянно русский посол; так Иоанн наказывал послу своему Шеину не уезжать из Крыма ни весною, ни летом и хлопотать, чтоб царь шел или на Орду, или на короля, а великого князя обсыпать обо всем; послы получали также наказ не уезжать до приезда других. Князь Семен Ромодановский, отправляясь послом в Крым, получил такой наказ: «Если от каких-нибудь других государей будут послы у царя Менгли-Гирея, от турецкого или от иных, то ему, Ромодановскому, ни под которым послом у царя не садиться и остатков у него после них не брать».