Наконец, 15 мая, когда до столицы Иконийского султаната оставалось еще не менее десяти километров, в болотистой низине крестоносцы нашли воду и расположились там на отдых, собираясь с силами и готовясь к неизбежному сражению. Но и тут сельджуки не оставляли их в покое. Шестьдесят оруженосцев, отправившихся на поиски корма для лошадей, были убиты. На следующий день Килич Арслан направил из Икония посольство, предлагая императору свободный проход, если он заплатит дань золотом и уступит ему «страну армян» — Исаврию и Киликию. На это Барбаросса ответил, что и его императорское достоинство, и обычай рыцарей-крестоносцев требуют «прокладывать путь железом, а не золотом». Отправляясь назад, султанский посол сказал, что если он не вернется ночью, то утром все турецкое войско будет готово к бою.
Для крестоносцев выдалась тревожная ночь. На военном совете, созванном императором, предлагалось обойти Иконий стороной, направившись прямо в Армению. Однако слишком велика была угроза того, что лишенное провианта войско не выдержит очередных атак турок и тягот марша до армянской границы. Поэтому поневоле пришлось принять решение штурмовать Иконий, дабы заполучить все необходимое для продолжения похода. Епископ Вюрцбургский старался вселить в сердца пилигримов мужество и уверенность в победе, обещая им поддержку святого Георгия, который будто бы подал добрый знак своим появлением у палатки императора. Барбаросса, на которого тяжело давил груз ответственности, пообещал расположиться лагерем в саду султана перед воротами Икония, считая добрым знамением, если завтра удастся, с Божьей помощью, поставить там палатки. Тогда же он прилюдно дал обет построить храм в честь святого Георгия, если сумеет вызволить войско из столь бедственного положения.
Ранним утром 17 мая, отслужив мессу, двинулись к Иконию, показавшемуся некоторым пилигримам не меньше Кёльна. На крестоносное войско с обеих сторон нападали конные отряды турок, оглашая округу боевыми кличами, что, однако, не причиняло вреда Христову воинству. До сражения дело так и не дошло, и первое желание Барбароссы исполнилось без кровопролития: лагерь разбили в саду султана к западу от города, в зверинце, обнесенном стенами и потому пригодном для использования в качестве укрепления. Однако желанного отдыха пилигримы не обрели, поскольку ночью разразилась гроза с проливным дождем, лишившая их сна.
Наутро крестоносное войско заняло позиции у стен города. Барбаросса разделил его на две группы: одна под командованием герцога Фридриха Швабского должна была штурмовать город, а другой под командованием его самого предстояло сражаться с турками, находившимися вне города. Однако еще до того, как был отдан приказ к наступлению, некоторое время настроения колебались между миром и войной. Перед взорами пилигримов предстал старый султан Килич Арслан, выехавший из ворот города с несколькими сотнями всадников. Очевидно, своим вмешательством он хотел предупредить роковое развитие событий. Однако немецкое войско уже двигалось к городу. Султан, будто внезапно осознав опасность, грозившую ему и его спутникам на открытом пространстве, отделявшем друг от друга враждебные стороны, и понимая, что момент для примирения упущен, повернул коня и поскакал обратно в город, укрывшись за его стенами.
Непролазная грязь, в которую превратилась земля после ночного ливня, мешала продвижению Фридриха Швабского, но не останавливала его. На тесном пространстве между рвом и валом завязалась схватка. Натолкнувшись на энергичный отпор со стороны турок и приняв на себя шквал копий, летевших с городской стены, немцы отступили. Но Фридрих Швабский тут же предпринял новую атаку, и на сей раз крестоносцам удалось прорваться через ворота в город вместе с отступавшими турками, с которыми, намертво сцепившись, бились лицом к лицу. Не пришлось даже штурмовать стены. Вскоре был занят весь Иконий. Турки удерживали только цитадель, расположенную на невысоком холме у западной части стены. Помимо султана там нашли убежище и многие горожане с припасами, скотом и ценными вещами.
Тем временем другая часть войска, оставшаяся вместе с императором вне города, оказалась в критическом положении. Под звуки труб и барабанов турецкая конница Кутбеддина широким полукругом устремилась на крестоносцев. Немецкие рыцари противостояли им в непривычном для себя пешем бою. О полном успехе другой группы под командованием Фридриха Швабского они не знали, поскольку опоясавшие город сады не позволяли видеть, что там происходит. Турецкая конница окружила пилигримов со всех сторон, и многим казалось, что все кончено. Священники, надев литургическое облачение, служили мессу, дабы с молитвой на устах принять мученическую смерть. Однако командиры не дрогнули. Бросив клич: «Что же мы медлим, что дрожим? Христос правит, Христос побеждает, Христос повелевает! Наша смерть будет нам наградой! Вперед, Христово воинство! Обретите своей кровью Царство Небесное!», седовласый Барбаросса отдал приказ наступать. Тяжелая конница немцев, выстроившись клином, оттеснила турок. Кутбеддин обратился в бегство. Так была одержана полная победа. В стенах города императора триумфально встречал его сын. Потери турок были велики. Повсюду, где шли бои, громоздились груды убитых. Однако о преследовании вражеской конницы даже и не помышляли. У измученных крестоносцев не осталось сил и на штурм цитадели.
Наконец крестоносцы получили в избытке пищу, чистую воду, крышу над головой, а также фураж для лошадей. Помимо продовольственных припасов в укромных местах нашлось много серебра, золота, драгоценных камней и дорогих одежд. Пилигримам достались все сокровища дворца Кутбеддина. Килич Арслан, осажденный крестоносцами в собственной столице, вынужден был вступить в переговоры. Всю вину он возложил на своего сына Кутбеддина. Барбаросса, несмотря на блестящую победу, был не в состоянии диктовать жесткие условия мира, а потому довольствовался соблюдением прежде достигнутых соглашений: возможность закупки всего необходимого по умеренным ценам и безопасное прохождение по территории султаната. Порукой соблюдения условий соглашения должны были служить знатные заложники. Килич Арслан послал богатые дары и 20 заложников, после чего крестоносное войско покинуло город, опять расположившись лагерем в садах близ городских стен, где легче было переносить по-летнему жаркую погоду. В последующие дни немцы запаслись по умеренным ценам всем необходимым, закупив также 6000 лошадей, причем третейские судьи улаживали споры, когда одни жаловались на дороговизну, а другие — на плохую монету.