Dalam sejarah dan literatur yang ada mengisyaratkan bahwa, kedigdayaan Islam di Andalusia hanya mampu bertahan sekitar delapan abad saja, kalau di hitung memang waktu yang cukup panjang dan terjadinya beberapa kali pergantian dinasti. Khalifah terakhir Daulah Umayyah di Andalusia adalah Hisyam III al-Mu’tadd. Runtuhnya dinasti inidisebabkan oleh karena sering terjadinya perseteruan, rivalitas politik, dan konflik internal dalam pemerintahan yang saling memperebutkan kekuasaan. Situasi tersebut diperparah dengan oleh kelemahan pemerintah pusat sejak Ibnu Amir al-Mansur meninggal dunia pada tahun 399 H/1008 M.
Selama 50 tahun, Andalusia tidak mempunyai satu kesatuan komando, terpecah dan tercabik menjadi 20-30 thaifah (golongan). Kurun waktu sejak tahun 400 H/1010 M sampai dengan Dinasti Murabithun merebut kekuasaan di Andalusia pada tahun 480 H/1090 M disebut sebagai muluk ath-thawaif (raja-raja golongan).
Keruntuhan Daulah Umayyah di Andalusia semakin dekat ketika terjadi saling serang antar dinasti demi mencapai ambisi politik dan kekuasaan dinastinya sendiri. Pada akhirnya datang juga masa yang ditakuti yaitu masa-masa kehancuran, yang sampai pada hari ini masih belum bangkit dari keluluhan itu. Di antara penyebab keruntuhan peradaban dan pendidikan Islam di Andalusia:
1. Konflik Agama
Para penguasa Muslim tidak melakukan Islamisasi secara sempurna. Mereka sudah merasa puas dengan hanya menagih upeti dari kerajaan-kerajaan Kristen taklukannya dan membiarkan mereka mempertahankan hukum dan adat mereka, termasuk posisi hirarki tradisional, asal tidak ada perlawanan bersenjata. Namun demikian, kehadiran Arab Islam telah memperkuat rasa kebangsaan orang-orang Spanyol Kristen. Hal itu menyebabkan kehidupan umat Islam di Spanyol tidak pernah berhenti dari pertentangan antara Islam dan Kristen. Pada abad ke-11 M umat Kristen memperoleh kemajuan pesat, sementara umat Islam sedang mengalami kemunduran.
Pada akhir-akhir kemajuan peradaban pendidikan Islam di Andalusia, telah muncul kepermukaan paham-paham dan perbedaan keyakinan. Kondisi yang tidak menguntungkan bagi umat Islam telah membuat “berani” umat kristiani menampakkan dirinya kepermukaan. Bahkan terang-terangan telah pula berani menentang kebijakan penguasa Islam di kala itu. Para penguasa muslim tidak melakukan Islamisasi secara sempurna, mereka sudah mera puas dengan menagih upeti dari kerajaan-kerajaan kristen taklukannya dan membiarkan mereka mempertahan hukum dan adat mereka, termasuk posisi hierarki tradisional, asal tidak ada perlawanan bersenjata. Kondisi seperti ini dapat diprekdiksi, bahwa kelengahan umat Islam termasuk toleransi dan wewenang yang diberikan kepada umat Kristen telah dimanfaatkan untuk mencari kelemahan Islam di saat Islam lengah di kala itu. Hal ini diperkuat pula oleh al-Qur’an bahwa umat Kristen itu tidak akan pernah diam dan senang, sebelum Islam bertekuk lutut kepadanya.
2. Ideologi Perpecahan
Adanya rasa enggan orang-orang Arab untuk menerima orang-orang pribumi yang baru masuk Islam sebagai bagian yang sama dengan Muslim Arab lainya. Setidaktidaknya sampai abad ke-10 M, mereka masih memberi istilah ‘Ibad dan Muwalladun kepada para muallaf itu, suatu ungkapan yang dinilai merendahkan. Akibatnya, kelompok kelompok etnis non-Arab yang ada sering menggerogoti dan merusak perdamaian. Hal ini menunjukkan tidak adanya ideologi yang dapat memberi makna persatuan, disamping kurangnya figur yang dapat menjadi pemersatu ideologi.
Kultur sosial kemasyarakatan ketika itu amat berpeluang besar terjadinya pertikaian, apalagi dengan tidak adanya sosok pemimpin yang dapat mempersatukan ideologi yang telah memecah belah persatuan. Sehingga keamanan negeri tidak lagi bisa terjamin dengan baik dan terjadinya perampokan dimana-mana. Kondisi seperti ini dimanfaatkan oleh umat Kristiani untuk menyusun kekuatan.
3. Krisis Ekonomi
Dalam situasi yang semakin sulit, umat Kristiani tidak lagi jujur membayarkan upetinya kepada penguasa Islam. Dengan berbagai dalih, supaya upeti dan pajak tidak lagi dikumpulkan kepada penguasa. Sering terjadi perampokan yang di skenario oleh kelompok Kristiani, dan pada akhirnya menuduh umat Islam yang berbuat aniaya kepadanya. Keadaan yang tidak kondusif ini membuat inkam negara jauh berkurang, dan akhirnya berdampak besar kepada masyarakat. Padahal dipertengahan kekuasaan Islam, pemerintah lebih memperhatikan kemajuan dan lupa menata perekonomian, sehingga melemahkan ekonomi negara dan kekuatan militer serta politik.
4. Perang Salib dan Peralihan Kekuasaan
Awal mula Perang Salib adalah Perang antar Gereja dan Yahudi, jadi bukan bermula Perang antara Kristen dan Islam, yang penengertian umum saat ini.Berkut adalah Riwayatnya: Perang Salib Pertama dilancarkan pada 1095 oleh Paus Urban II untuk mengambil kuasa kota suci Yerusalem dan tanah suci Kristen dari Muslim. Apa yang dimulai sebagai panggilan kecil untuk meminta bantuan dengan cepat berubah menjadi migrasi dan penaklukan keseluruhan wilayah di luar Eropa. Perang Salib Pertama dilancarkan pada 1095 oleh Paus Urban II untuk merebut kembali kota suci Yerusalem dan tanah suci Kristen dari penaklukan Muslim. Apa yang dimulai sebagai panggilan kecil untuk meminta bantuan dengan cepat berubah menjadi migrasi dan penaklukan keseluruhan wilayah di luar Eropa.
Baik ksatria dan orang awam dari banyak negara di Eropa Barat, dengan sedikit pimpinan terpusat, berjalan melalui tanah dan laut menuju Yerusalem dan menangkap kota tersebut pada Juli 1099, mendirikan Kerajaan Yerusalem atau kerajaan Latin di Yerusalem. Meskipun penguasaan ini hanya berakhir kurang dari dua ratus tahun, Perang salib merupakan titik balik penguasaan dunia Barat, dan satu-satunya yang berhasil meraih tujuannya. Meskipun menjelang abad kesebelas sebagian besar Eropa memeluk agama Kristen secara formal - setiap anak dipermandikan, hierarki gereja telah ada untuk menempatkan setiap orang percaya di bawah bimbingan pastoral, pernikahan dilangsungkan di Gereja, dan orang yang sekarat menerima ritual gereja terakhir - namun Eropa tidak memperlihatkan diri sebagai Kerajaan Allah di dunia. Pertikaian selalu bermunculan di antara pangeran-pangeran Kristen, dan peperangan antara para bangsawan yang haus tanah membuat rakyat menderita.Pada tahun 1088, seorang Perancis bernama Urbanus II menjadi Paus. Kepausannya itu ditandai dengan pertikaian raja Jerman, Henry IV kelanjutan kebijakan pembaruan oleh Paus Gregorius VIII yang tidak menghasilkan apa-apa. Paus yang baru ini tidak ingin meneruskan pertikaian ini. Tetapi ia ingin menyatukan semua kerajaan Kristen. Ketika Kaisar Alexis dari Konstantinopel meminta bantuan Paus melawan orang-orang Muslim Turki, Urbanus melihat bahwa adanya musuh bersama ini akan membantu mencapai tujuannya. Tidak masalah meskipun Paus telah mengucilkan patriark Konstantinopel, serta Katolik dan Kristen Ortodoks Timor tidak lagi merupakan satu gereja. Urbanus mencari jalan untuk menguasai Timur, sementara ia menemukan cara pengalihan bagi para pangeran Barat yang bertengkar terus.
Pada tahun 1095 Urbanus mengadakan Konsili Clermont. Di sana ia menyampaikan kotbahnya yang menggerakkan: "Telah tersebar sebuah cerita mengerikan ... sebuah golongan terkutuk yang sama sekali diasingkan Allah ... telah menyerang tanah (negara) orang Kristen dan memerangi penduduk setempat dengan pedang, menjarah dan membakar." Ia berseru: "Pisahkanlah daerah itu dari tangan bangsa yang jahat itu dan jadikanlah sebagai milikmu." "Deus vult! Deus vult! (Allah menghendakinya)," teriak para peserta. Ungkapan itu telah menjadi slogan perang pasukan Perang Salib. Ketika para utusan Paus melintasi Eropa, merekrut para ksatria untuk pergi ke Palestina, mereka mendapatkan respons antusias dari pejuang-pejuang Perancis dan Italia. Banyak di antaranya tersentak karena tujuan agamawi, tetapi tidak diragukan juga bahwa yang lain berangkat untuk keuntungan ekonomi. Ada juga yang ingin berpetualang merampas kembali tanah peziarahan di Palestina, yang telah jatuh ke tangan Muslim.
Mungkin, para pejuang tersebut merasa bahwa membunuh seorang musuh non Kristen adalah kebajikan. Membabat orang-orang kafir yang telah merampas tanah suci orang Kristen tampaknya seperti tindakan melayani Allah. Untuk mendorong tentara Perang Salib, Urbanus dan para paus yang mengikutinya menekankan "keuntungan" spiritual dari perang melawan orang-orang Muslim itu. Dari sebuah halaman Bible, Urbanus meyakinkan para pejuang itu bahwa dengan melakukan perbuatan ini, mereka akan langsung masuk surga, atau sekurang-kurangnya dapat memperpendek waktu di api penyucian.
Philip K. Hitti berpendapat bahwa perang Salib terjadi tiga angkatan, segala negara Kristen mempersiapkan tentara yang lengkap persenjataannyauntuk pergi berperang merebut Palestina. Dari sinilah bermula suatu penyerbuan Barat Kristen ke dunia Islam yang berjalan selama 200 tahun lamanya dari mulai 1095-1293 M dengan 8 kali penyerbuan. Tentara Alp Arsenal yang hanya berkekuatan 15.000 prajurit dalam peristiwa ini berhasil mengalahkan tentara Romawi yang berjumlah 200.000 orang, terdiri dari tentara romawi, Ghuz, Al-Akraj, Perancis, dan Armenia. Peristiwa besar ini menanamkan benih permusuhandan kebencian orang-orang Kristen terhadap umat Islam, yang kemudian mencetuskan perang salib. Dengan akal sehat dapat dipahami bahwa, peperangan yang memakan waktu begitu lama, mau tidak mau akan memporak-porandakan segalanya.keadaan sepertini mengakibatkan leburnya seluruh perjuangan yang sudah ditata dengan baik. Keamanan tidak lagi bisa dijamin, penduduk saling curiga mencurigai, pendidikan tidak lagi berjalan seperti yang diharapkan. Ketidak dinamisan ini tinggal menunggu kehancuran.