وسار إلى المدينة عن طريق الكوفة، فلما أن ورد الكوفة اجتمع إليه الشيعة، فاستقبلوه استقبالًا حافلًا، ثم ودَّعهم إلى مدينة جده، حيث بقي فيها سائر أيام حياته يواصل أداء مسؤولياته الخطيرة التي منها إنشاء مدرسة فكرية جامعة حتى وفاة المأمون العباسي.
بعد المأمون:
وأوصى المأمون إلى أخيه المعتصم العباسي ولبَّى دعوة ربه فمات في قرية من نواحي طرسوس، التي كانت من الحدود الفاصلة بين البلاد الإسلامية وبلاد الروم، وكانت قد اشتعلت فيها مناوشات وقد سار إليها الخليفة بنفسه حتى ظفر المسلمون.
وأوصى إليه بشأن العلويين بصورة خاصة، فقال مخاطباً أخاه المعتصم: هؤلاء بنو عمك من ولد أمير المؤمنين علي عليه السلام فأحسن صحبتهم، وتجاوز عن مُسيئهم، وأقبل عليهم، ولا تترك صِلاتهم في كل سنة عن محلها، فإن حقوقهم تجب من وجوه شتى.