西暦661年 - ウマイヤ朝の成立

その後、カリフの地位をめぐり、ウマイヤ家のカリフを認めるスンナ派と、第4代カリフ・アリーの子孫をカリフと見なすシーア派の対立がはじまり、帝国は分裂の時代を迎える。

680年（元年）、ムアーウィアが他界し、子どものヤズィード1世がカリフを世襲すると、アリーの後継者フサインがシーア派に支援されて反乱を起こした。しかし、バグダード近郊のカルバラーの戦いでウマイヤ朝軍に敗れ、フサインは従者と共に殺害された。
これは「カルバラーの殉教」といわれ、カルバラーはシーア派の聖地とされ、その殉教の日（イスラーム暦のムハッラム月10日）を殉教者フサインを追悼するアーシュラーの祭りを挙行している。

ムハンマドの血統をひくアリーとその子フサインの死によってシーア派は少数派としてイラクなどに存続することとなる。
そして、750年（天平勝宝2年）、預言者ムハンマドの叔父アッバースの血を引くアッバース家が、ザーブ河畔の戦いでウマイヤ軍を破り、アッバース朝を創始した。

第10代カリフ・ヒシャームの孫であるアブド・アッラフマーン1世はモロッコに逃れ、756年（天平勝宝8年）、イベリア半島で後ウマイヤ朝を建国する。
後ウマイヤ朝は、1031年（長元4年）にカリフ・ヒシャーム3世が死亡すると、大臣たちによってカリフの廃位が決定され、滅亡する。