Аль-Мансур, стремясь укрепить свою власть, придать ей «законный характер», во всем подражает наиболее известным омайядским халифам Андалусии. Он строит близ Кордовы летнюю резиденцию, город аз-За́хира с роскошными дворцами и парками, приглашает к своему двору ученых, которые должны затмить славу тех светил арабской науки, что приехали в Андалусию по зову Омайядов, проводит «ревизию» в библиотеке аль-Хакама и велит уничтожить те книги, которые ему кажутся слишком вольнодумными.
В 1002 году во время своего пятидесятого похода против испанских христиан аль-Мансур скончался. После него некоторое время правил его старший сын аль-Музаффар, затем хаджибом стал внук Санчо II. Однако власть Амиридов, потомков аль-Мансура, была недолгой. С 30-х годов XI века для Андалусии, особенно для ее столицы Кордовы, наступило время «великой смуты», как называют этот период средневековые арабские хроники.
В Кордове установилась власть нескольких знатных семейств, между членами которых не было согласия. Воспользовавшись отсутствием крепкой власти в Андалусии, на полуостров высадились отряды североафриканских берберов, которые сразу же направились к Кордове и осадили ее. Не решаясь оборонять город, знатные и богатые жители Кордовы бежали в горы, а берберы захватили столицу Андалусии, разрушили и разграбили дворцы аз-Захры́ и аз-За́хиры и дома беглецов.
Во второй половине XI века Андалусия разделалась на множество мелких эмиратов, их правителей называли «мулук ат-таваиф» (удельные цари). Такие независимые государства образовались и на востоке Андалусии, и на юге, и на юго-западе: в Альмерии и Дении, Гранаде, Бадахосе и Толедо. В Кордове сложилась своеобразная «патрицианская республика», где власть принадлежала совету шейхов, а главную роль в нем играл род Бану Джахвар. В крупнейшем торговом и культурном центре юго-запада Андалусии — портовом городе Севилья, власть захватили Аббадиды, ставшие самой могущественной династией среди «мулук ат-таваиф». В Сарагосе правила династия из рода Бану Худ, в Малаге — Бану Хаммуд. Эмиры андалусских княжеств — родом арабы, берберы, галисийцы или уроженцы Балкан. — обосновывали свое право на власть либо принадлежностью к исконно арабским племенам, либо своей прежней службой Омайядам и потомкам аль-Мансура и вели постоянные войны, с одинаковой легкостью заключая союзы и со своими единоверцами, и с христианскими князьями и королями, и с такой же легкостью предавая и тех, к других. Испанские феодалы, в свою очередь, поступали на службу к эмирам Андалусии, а эмиры платили дань Кастилии и Леону. Изгнанный королем Кастилии Альфонсо VI за неповиновение и буйный нрав кастильский рыцарь Родриго Диас в сопровождении своих немногочисленных родичей и оставшихся ему верными дружинников ищет богатства и почестей за пределами родной земли и поступает на службу к эмиру Сарагосы аль-Муктадиру, сражается против других мусульманских эмиров, но затем, изменив аль-Муктадиру, совершает подвиги в сражениях под знаменем Кастилии против мусульман и становится героем испанского героического эпоса под именем или прозвищем «Сид» (от арабского «господин»).
Наиболее популярным эмиром Севильи из династии Аббадидов был эмир аль-Мутамид (1040—1095), ставший в средневековой и даже новой арабской литературе идеалом рыцаря.
При аль-Мутамиде, щедром меценате и любителе изящной словесности, Севилья становится средоточием культурной и литературной жизни Андалусии. Любимой женой севильского эмира была христианская невольница Итимад, которую он выкупил, прельщенный прежде всего ее поэтическим талантом. Об эмире Севильи еще при его жизни было сложено множество легенд, так же как и о его друге Ибн Аммаре, история предательства которого изложена в нескольких исторических испанских романсах, воспевающих подвиги испанских и мавританских рыцарей.
В 1085 году все усиливающаяся Кастилия захватила крупнейший город Андалусии Толедо, и мусульманские эмиры Андалусии решили объединиться для отражения натиска христиан, так называемой реконкисты («обратного завоевания»). Но попытки эти были безуспешными, и тогда они обратились за помощью к Юзуфу ибн Ташуфину, халифу североафриканского берберского государства. В 1086 году Юсуф высадился во главе войска Альморавидов (от арабского слова «аль-мурабитуна» — «воины пограничных поселений») и разбил короля Леона при Заллаке. Христиане были вынуждены оставить Валенсию и Сарагосу, эмиры перестали платить дань Леону и Кастилии.
Однако после ухода берберских отрядов христиане возобновили свои набеги, и Юсуф по просьбе эмиров вновь переправился через Гибралтар и захватил почти все владения удельных эмиров. Аль-Мутамид, взятый в плен, был выслан в маленький марокканский город Агмат вместе со своей семьей, где и умер.
После победы Альморавидов при Заллаке натиск испанских христиан был приостановлен, но реконкиста продолжалась. В 1118 году Сарагоса была отвоевана Арагоном, затем пала власть мусульман в Лиссабоне (1147 г.), Аларкосе (1195 г.) и других городах северо-запада.
В XII веке местные андалусские феодалы, которые лишь формально были подчинены власти североафриканских правителей, воспользовавшись недовольством населения против все усиливавшегося налогового бремени, восстали против Альморавидов, В Альгарве, Кордове, Мурсии и Валенсии были созданы независимые андалусские государства, о появлением которых начался второй кратковременный период власти удельных эмиров. Они платили дань королю Кастилии, но не оставляли надежды на создание крепкой центральной власти мусульман в Андалусии. Когда в Северной Африке восстали под руководством Ибн Тумарта берберы — Альмохады («аль-муваххидуна» — «защитники единобожия»), один из андалусских эмиров, правитель Бадахоса, призвал их на помощь. В 1150 году власть Альмохадов признали эмиры Южной Андалусии, Португалии и Эстремадуры. К 1172 году Альмохады овладели всей территорией Андалусии.
Новые правители продолжали вести войны с Леоном и Кастилией и в 1195 году одержали победу при Аларкосе. Но ничто уже не могло сдержать натиска испанских государств. XIII век — высшая точка реконкисты, и с 1212 года, когда Альмохады потерпели сокрушительное поражение в битве при Лас-Навас-де-Толоса, власть мусульман в Андалусии все больше стала клониться к закату. В 1236 году кастильские войска захватили Кордову, в 1229—1235 годы Балеарские острова — центр мусульманского флота — окончательно отошли к Арагону, а в 1238 году Арагон присоединил и Валенсию. С 1248 по 1262 год мусульмане потеряли почти все свои земли с городами Аликанте, Мурсия, Кадис, Севилья, Хаэн и другие.
Многочисленные посольства в Магриб и панические призывы к мусульманам всего мира остаются без ответа, так как XIII век — время татаро-монгольского нашествия, падения великих держав Ближнего и Среднего Востока и Средней Азии, Андалусцам оставалось лишь слагать горестные стихи об утрате своих «твердынь», подобных Валенсии и Севилье, и бежать в Магриб, где до сих пор их потомки с гордостью вспоминают великолепие родины своих предков и хранят ключи от их домов.
Под властью мусульман в Испании остался лишь Гранадский эмират, куда, кроме Гранады, входили города Малага и Альмерия. Эмиры из рода Бану-ль-Ахмар, или, как их называют иначе, Бану Наср, правили здесь более двухсот лет — с 1231 по 1492 год. Основателем этой династии был эмир Абу Абдаллах Мухаммад I аль-Галиб — «Победитель», при котором была заложена знаменитая Альхамбра, расширенная затем наиболее прославленным эмиром династии Насридов Абу-ль-Хаджаджем Юсуфом I (1332—1355). Последним эмиром Гранады и последним мусульманским правителем в Испании был Абу Абдаллах Мухаммад XII, или Боабдил (сокращенная форма имени Абу Абдаллах). Боабдил покинул Гранаду после победоносного наступления Фердинанда и Изабеллы Католических в 1492 году.
Восемьсот лет просуществовали в Андалусии арабское государство и мусульманская цивилизация, и это не прошло бесследно. Переплетение исторических судеб народов привело к тому, что в средневековой Андалусии на основе различных национальных традиций была создана самобытная и своеобразная культура. Местное население Испании не забывало собственных обычаев и традиций, даже вплотную соприкоснувшись с арабо-мусульманской культурой.
В течение многих веков Андалусия играла роль передатчика культуры, связующего звена между арабо-мусульманским регионом и Европой. Этому способствовало причудливое смешение языков и наречий в Андалусии. Языком книжной культуры здесь был литературный арабский язык, доступный лишь образованным людям. Как второй литературный язык в Испании продолжал существовать латинский. Очень часто латынью владели и мусульмане местного происхождения.
Параллельно арабскому литературному языку и латыни существовали бытовые разговорные языки — андалусский диалект арабского языка и «романсе» — предок нынешнего испанского языка с его говорами и диалектами. Многие жители Андалусии, особенно крестьяне, не знали даже разговорного арабского диалекта, и когда кто-нибудь из них приезжал в город по торговым или судебным делам, то нуждался в толмаче. Кроме этого, в Андалусии был распространен также берберский язык.