چون ابو بكر به خلافت نشست عدهاى از قبائل بدوى از دادن زكات امتناع كردند. دستهاى نيز به كلى از اسلام برگشتند و آنان را اهل ردّه يا مرتدان گويند در آن بين پيغمبران دروغين چون مسيلمۀ كذاب و طليحه بن خويلد و سجاح ظهور كردند و عدهاى از عرب به ايشان گرويدند. ابو بكر با اعزام لشكرهايى به سردارى خالد بن وليد اين فتنهها را فرو نشاند و دگر باره وحدت اسلامى را در عربستان برقرار ساخت.
پس از ابو بكر، عمر و بعد از وى عثمان به خلافت رسيدند، عثمان در سال بيست و چهار هجرى به خلافت نشست وى «ذو النورين» لقب داشت. زيرا با دو دختر رسول خدا: رقيه و ام كلثوم ازدواج كرد در زمان او فتوحات اسلام توسعه يافت و غنائمى بسيار، به بيت المال اسلامى سرازير گشت. وى دست كرم برگشاد و خويشان اموى خود را از بيت المال مسلمين، بدون آن كه شايستگى داشته باشند بهرهمند ساخت، و آنان را در اكثر امور مداخله داد. از اين جهت ديگر مسلمين رنجيده خاطر شده و از عثمان ناراضى گشتند. و حتى عايشه زن پيغمبر به بعضى از اعمال او اعتراض كرد در كوفه ناراضيان به گرد مالك بن اشتر نخعى فراهم آمدند. مالك با لشكريان خود به بهانۀ حج عمره به مدينه آمد و از طرفى ديگر محمد بن ابى بكر كه از جانب عثمان به جاى عبد اللّه بن سعد بن ابى سرح به حكومت مصر تعيين شده و سپس به توطئه مروان از اين منصب عزل گشته و حكم قتل او را داده بودند، با لشكرى به مدينه آمد. بعضى از مورخان عبد اللّه بن سبأ را كه يهودى الاصل بود. و سپس مسلمان شده بود در برانگيختن شورش بر ضد عثمان داراى نقش مهمى مىدانند. سرانجام شورشيان خانۀ عثمان را محاصره كردند و از او خواستند كه از خلافت استعفا بدهد و وزير خود، مروان بن حكم را كه باعث اين فتنهها شده بود به ايشان تسليم كند و چون عثمان از استعفاء امتناع كرد شورشيان كه خانۀ او را محاصره كرده بودند، او را بكشتند.
خلافت على بن ابى طالب:
پس از قتل عثمان گروهى از مهاجرين و انصار با حضرت على (ع) بيعت كردند، و او را به خلافت انتخاب كردند اما آن حضرت قبول مسئوليت نمىكرد. و از آن كار امتناع داشت و مىگفت ديگرى را برگزينيد. و من وزارت را بر امارت ترجيح مىدهم همان طور كه در دوران خلافت خلفاى سهگانه وزير