بعد از رحلت ايشان نيز بلافاصله داستان سقيفه پيش آمد. انصار و مهاجران در سقيفه جمع شدند و درباره جانشينى پيغمبر(صلى الله عليه وآله) به گفتگو پرداختند. يكى از بزرگان طايفه خزرج ـ كه حدود نيمى از مسلمانان مدينه را تشكيل مى‌دادند ـ به نام «سعد بن عباده» به سقيفه آمد و در حالى كه بيمار بود و نمى‌توانست با صداى بلند صحبت كند، گفت: كسى حرف‌هاى مرا با صداى بلند براى ديگران بازگو كند. سپس خطبه‌اى انشا كرد و ابتدا به تعريف از مهاجران و ذكر سابقه آنها در اسلام و لزوم احترام نسبت به ايشان پرداخت. سپس گفت: با اين وجود، مدينه شهر ما انصار است و پيغمبر(صلى الله عليه وآله) در ميان ما عزت يافت، اسلام در شهر ما رواج پيدا كرد و ما بوديم كه به مهاجران كمك كرديم و زندگى آنها را سامان داديم. بنابراين امامت و رهبرى جامعه حق انصار است.

اما از سوى ديگر مهاجران ـ كه پدران همسران پيغمبر(صلى الله عليه وآله) هم در ميان آنها بودند ـ نيز برنامه‌هايى در نظر داشتند كه بر اساس آنها در مقابل شروع به بحث كردند. آنها نيز به تعريف از انصار و ذكر خدمات آنها نسبت به پيامبر(صلى الله عليه وآله) و مهاجران پرداختند. سپس گفتند: اما ما مهاجران بوديم كه در زمان غربت اسلام به پيامبر(صلى الله عليه وآله) ايمان آورديم، سابقين و اولين در اسلام ما هستيم و قرآن ما را با وصف «السّابِقُونَ الاَْوَّلُونَ»1 ستايش كرده است. علاوه بر اين كه بسيارى از خويشاوندان پيغمبر(صلى الله عليه وآله) نيز در بين مهاجران هستند.

بر اساس بعضى از نقل‌ها يكى از مهاجران گفت: در بين ما كسى هست كه اگر براى خلافت پيشگام شود هيچ كس با او مخالفت نخواهد كرد، و او على بن ابى طالب(عليه السلام) است.