Pada tahun 97 H, khalifah muslimin, Sulaiman bin Abdul Malik menempuh perjalanan ke negeri yang disucikan, memenuhi undangan bapak para Nabi, yakni Ibrahim 'alaihi wasalam. Iring-iringan itu bergerak dengan cepat dari Damaskus, ibukota kekhalifahan Umawiyah, menuju Madinah Al-Munawarah.

Ada rasa rindu pada diri khalifah di raudhah nabawi yang suci dan rindu untuk mengucapkan salam atas Muhammad Rasulullah Sholallahu 'alaihi wasalam. Rombongan tersebut disertai para ahli qurra' (ahli Al-Qur'an), mu­hadditsin (ahli hadits), fuqaha (ahli fikih), ulama, umara' dan para perwira.

Setibanya khalifah di Madinah dan menurunkan perbekalan, orang-­orang dan para pemuka Madinah menghampiri mereka untuk me­ngucapkan salam dan menyambut kedatangan khalifah.

Akan tetapi Salamah bin Dinar sebagai qadhi dan Imam kota yang terpercaya, ternyata tidak termasuk ke dalam rombongan manusia yang turut menyambut dan mengucapkan selamat kepada Khalifah.

Setelah selesai melayani orang-orang yang menyambutnya, Sulaiman bin Abdul Malik berkata kepada orang-orang yang dekat dengannya: "Sesungguhnya hati itu bisa berkarat dari waktu ke waktu sebagaimana besi bila tidak ada yang mengingatkan dan membersihkan karatnya." Mereka berkata: "Benar wahai amirul mukminin." Lalu be­liau berkata: "Tidak adakah di Madinah ini seseorang yang bisa mena­sihati kita, seseorang yang pernah berjumpa dengan para sahabat ­Rasulullah?" Mereka menjawab: "Ada wahai amirul mukminin, di si­ni ada Abu Hazim Al-A'raj."