Pada awalnya Muhammad bin Ali, cicit dari Abbas menjalankan kampanye untuk mengembalikan kekuasaan pemerintahan kepada keluarga Bani Hasyim di Parsi pada masa pemerintahan Khalifah Umar bin Abdul Aziz. Selanjutnya pada masa pemerintahan Khalifah Marwan II, pertentangan ini semakin memuncak dan akhirnya pada tahun 750, Abu al-Abbas al-Saffah berhasil meruntuhkan Daulah Umayyah dan kemudian dilantik sebagai khalifah.

Bani Abbasiyah berhasil memegang kekuasaan kekhalifahan selama tiga abad, mengkonsolidasikan kembali kepemimpinan gaya Islam dan menyuburkan ilmu pengetahuan dan pengembangan budaya Timur Tengah. Tetapi pada tahun 940 kekuatan kekhalifahan menyusut ketika orang-orang non-Arab, khususnya orang Turki (dan kemudian diikuti oleh Mamluk di Mesir pada pertengahan abad ke-13), mulai mendapatkan pengaruh dan mulai memisahkan diri dari kekhalifahan.

Meskipun begitu, kekhalifahan tetap bertahan sebagai simbol yang menyatukan umat Islam. Pada masa pemerintahannya, Bani Abbasiyah mengklaim bahwa dinasti mereka tak dapat disaingi. Namun kemudian, Said bin Husain, seorang muslim Syiah dari dinasti Fatimiyyah mengaku dari keturunan anak perempuannya Nabi Muhammad, mengklaim dirinya sebagai Khalifah pada tahun 909, sehingga timbul kekuasaan ganda di daerah Afrika Utara. Pada awalnya ia hanya menguasai Maroko, Aljazair, Tunisia dan Libya. Namun kemudian, ia mulai memperluas daerah kekuasaannya sampai ke Mesir dan Palestina, sebelum akhirnya Bani Abbasyiah berhasil merebut kembali daerah yang sebelumnya telah mereka kuasai, dan hanya menyisakan Mesir sebagai daerah kekuasaan Bani Fatimiyyah. Dinasti Fatimiyyah kemudian runtuh pada tahun 1171. Sedangkan Bani Umayyah bisa bertahan dan terus memimpin komunitas Muslim di Spanyol, kemudian mereka mengklaim kembali gelar Khalifah pada tahun 929, sampai akhirnya dijatuhkan kembali pada tahun 1031.

Masa Disintregrasi (1000 - 1250 M)

Akibat dari kebijaksanaan yang lebih menekankan pembinaan peradaban dan kebudayaan Islam dari pada persoalan politik itu, propinsi-propinsi tertentu di pinggiran mulai lepas dari genggaman penguasa Bani Abbas, dengan berbagai cara diantaranya pemberontakan yang dilakukan oleh pemimpin lokal dan mereka berhasil memperoleh kemerdekaan penuh.
Disintegrasi dalam bidang politik sebenarnya sudah mulai terjadi di akhir zaman Bani Umayyah. Akan tetapi berbicara tentang politik Islam dalam lintasan sejarah, akan terlihat perbedaan antara pemerintahan Bani Umayyah dengan pemerintahan Bani Abbas. Wilayah kekuasaan Bani Umayyah, mulai dari awal berdirinya sampai masa keruntuhannya, sejajar dengan batas-batas wilayah kekuasaan Islam. Hal ini tidak seluruhnya benar untuk diterapkan pada pemerintahan Bani Abbas. Kekuasaan dinasti ini tidak pernah diakui di Spanyol dan seluruh Afrika Utara, kecuali Mesir yang bersifat sebentar-sebentar dan kebanyakan bersifat nominal. Bahkan dalam kenyataannya, banyak daerah tidak dikuasai khalifah. Secara riil, daerah-daerah itu berada di bawah kekuasaan gubernur-gubernur propinsi bersangkutan. Hubungannya dengan khilafah ditandai dengan pembayaran pajak.
Ada kemungkinan bahwa para khalifah Abbasiyah sudah cukup puas dengan pengakuan nominal dari propinsi-propinsi tertentu, dengan pembayaran upeti itu. Alasannya adalah :

1. Mungkin para khalifah tidak cukup kuat untuk membuat mereka tunduk kepadanya,
2. Penguasa Bani Abbas lebih menitik beratkan pembinaan peradaban dan kebudayaan daripada politik dan ekspansi.

Akibat dari kebijaksanaan yang lebih menekankan pembinaan peradaban dan kebudayaan Islam daripada persoalan politik itu, propinsi-propinsi tertentu di pinggiran mulai lepas dari genggaman penguasa Bani Abbas. Ini bisa terjadi dalam salah satu dari dua cara:

1. Seorang pemimpin lokal memimpin suatu pemberontakan dan berhasil memperoleh kemerdekaan penuh, seperti daulah Bani Umayyah di Spanyol dan Bani Idrisiyyah di Marokko.
2. Seseorang yang ditunjuk menjadi gubernur oleh khalifah, kedudukannya semakin bertambah kuat, seperti daulah Aghlabiyah di Tunisia dan Thahiriyyah di Khurasan.

Kecuali Bani Umayyah di Spanyol dan Bani Idrisiyyah di Marokko, propinsi-propinsi itu pada mulanya tetap patuh membayar upeti selama mereka menyaksikan Baghdad stabil dan khalifah mampu mengatasi pergolakan-pergolakan yang muncul. Namun pada saat wibawa khalifah sudah memudar mereka melepaskan diri dari kekuasaan Baghdad. Mereka bukan saja menggerogoti kekuasaan khalifah, tetapi beberapa diantaranya bahkan berusaha menguasai khalifah itu sendiri.
Menurut Ibnu Khaldun, sebenarnya keruntuhan kekuasaan Bani Abbas mulai terlihat sejak awal abad kesembilan. Fenomena ini mungkin bersamaan dengan datangnya pemimpin-pemimpin yang memiliki kekuatan militer di propinsi-propinsi tertentu yang membuat mereka benar-benar independen. Kekuatan militer Abbasiyah waktu itu mulai mengalami kemunduran. Sebagai gantinya, para penguasa Abbasiyah mempekerjakan orang-orang profesional di bidang kemiliteran, khususnya tentara Turki dengan sistem perbudakan baru seperti diuraikan di atas. Pengangkatan anggota militer Turki ini, dalam perkembangan selanjutnya teryata menjadi ancaman besar terhadap kekuasaan khalifah. Apalagi pada periode pertama pemerintahan dinasti Abbasiyah, sudah muncul fanatisme kebangsaan berupa gerakan syu'u arabiyah (kebangsaan/anti Arab).
Gerakan inilah yang banyak memberikan inspirasi terhadap gerakan politik, disamping persoalan-persoalan keagamaan. Nampaknya, para khalifah tidak sadar akan bahaya politik dari fanatisme kebangsaan dan aliran keagamaan itu, sehingga meskipun dirasakan dalam hampir semua segi kehidupan, seperti dalam kesusasteraan dan karya-karya ilmiah, mereka tidak bersungguh-sungguh menghapuskan fanatisme tersebut, bahkan ada diantara mereka yang justru melibatkan diri dalam konflik kebangsaan dan keagamaan itu.
Masa disintegrasi ini terjadi setelah pemerintahan periode pertama Bani Abbasiyah mencapai masa keemasannya, pada masa berikutnya pemerintahan dinasti ini mulai menurun, terutama di bidang politik. Dimana salah satu sebabnya adalah kecenderungan penguasa untuk hidup mewah dan kelemahan khalifah dalam memimpin roda pemerintahan.
Berakhirnya kekuasaan Dinasti Seljuk atas Baghdad atau khilafah Abbasiyah merupakan awal dari periode kelima. Pada periode ini, khalifah Abbasiyah tidak lagi berada di bawah kekuasaan suatu dinasti tertentu, walaupun banyak sekali dinasti Islam berdiri. Ada diantaranya yang cukup besar, namun yang terbanyak adalah dinasti kecil. Para khalifah Abbasiyah, sudah merdeka dan berkuasa kembali, tetapi hanya di Baghdad dan sekitarnya. Wilayah kekuasaan khalifah yang sempit ini menunjukkan kelemahan politiknya. Pada masa inilah tentara Mongol dan Tartar menyerang Baghdad. Baghdad dapat direbut dan dihancur luluhkan tanpa perlawanan yang berarti. Kehancuran Baghdad akibat serangan tentara Mongol ini awal babak baru dalam sejarah Islam, yang disebut masa pertengahan.
Sebagaimana terlihat dalam periodisasi khilafah Abbasiyah, masa kemunduran dimulai sejak periode kedua. Namun demikian, faktor-faktor penyebab kemunduran itu tidak datang secara tiba-tiba. Benih-benihnya sudah terlihat pada periode pertama, hanya karena khalifah pada periode ini sangat kuat, benih-benih itu tidak sempat berkembang. Dalam sejarah kekuasaan Bani Abbas terlihat bahwa apabila khalifah kuat, para menteri cenderung berperan sebagai kepala pegawai sipil, tetapi jika khalifah lemah, mereka akan berkuasa mengatur roda pemerintahan. Disamping kelemahan khalifah, banyak faktor lain yang menyebabkan khilafah Abbasiyah menjadi mundur, masing-masing faktor tersebut saling berkaitan satu sama lain. Beberapa diantaranya adalah sebagai berikut:

Persaingan Antar Bangsa

Khilafah Abbasiyah didirikan oleh Bani Abbas yang bersekutu dengan orang-orang Persia. Persekutuan dilatar belakangi oleh persamaan nasib kedua golongan itu pada masa Bani Umayyah berkuasa. Keduanya sama-sama tertindas. Setelah khilafah Abbasiyah berdiri, dinasti Bani Abbas tetap mempertahankan persekutuan itu. Menurut Ibnu Khaldun, ada dua sebab dinasti Bani Abbas memilih orang-orang Persia daripada orang-orang Arab.

1. Sulit bagi orang-orang Arab untuk melupakan Bani Umayyah. Pada masa itu mereka merupakan warga kelas satu.
2. Orang-orang Arab sendiri terpecah belah dengan adanya ashabiyah (kesukuan). Dengan demikian, khilafah Abbasiyah tidak ditegakkan di atas ashabiyah tradisional.

Meskipun demikian, orang-orang Persia tidak merasa puas. Mereka menginginkan sebuah dinasti dengan raja dan pegawai dari Persia pula. Sementara itu bangsa Arab beranggapan bahwa darah yang mengalir di tubuh mereka adalah darah (ras) istimewa dan mereka menganggap rendah bangsa non-Arab ('ajam).
Selain itu, wilayah kekuasaan Abbasiyah pada periode pertama sangat luas, meliputi berbagai bangsa yang berbeda, seperti Maroko, Mesir, Syria, Irak, Persia, Turki dan India. Mereka disatukan dengan bangsa Semit. Kecuali Islam, pada waktu itu tidak ada kesadaran yang merajut elemen-elemen yang bermacam-macam tersebut dengan kuat. Akibatnya, disamping fanatisme kearaban, muncul juga fanatisme bangsa-bangsa lain yang melahirkan gerakan syu'ubiyah.

Kemunduran

Faktor-faktor penting yang menyebabkan kemunduran Bani Abbas pada masa ini, sehingga banyak daerah memerdekakan diri, adalah:

1. Luasnya wilayah kekuasaan daulah Abbasiyyah sementara komunikasi pusat dengan daerah sulit dilakukan. Bersamaan dengan itu, tingkat saling percaya di kalangan para penguasa dan pelaksana pemerintahan sangat rendah.
2. Dengan profesionalisasi angkatan bersenjata, ketergantungan khalifah kepada mereka sangat tinggi.
3. Keuangan negara sangat sulit karena biaya yang dikeluarkan untuk tentara bayaran sangat besar. Pada saat kekuatan militer menurun, khalifah tidak sanggup memaksa pengiriman pajak ke Baghdad.