Pada keesokkan harinya, Ali pun membawa Abu Dzar bertemu dengan Nabi SAW. Tanpa banyak tanya jawab, dia telah memeluk agama Islam. Karena takut dia diapa-apakan oleh musuh, Nabi SAW menasehatkan supaya cepat-cepat balik dan jangan mengabarkan keislamannya di khalayak ramai. Tetapi Abu Dzar menjawab dengan berani: "Ya Rasullulah, aku bersumpah dengan nama Allah yang jiwaku di dalam tanganNya, bahwa aku akan mengucap dua kalimah syahadah di hadapan kafir-kafir musyrikin itu."
Janjinya kepada Rasulullah SAW ditepatinya. Selepas ia meninggalkan baginda, dia mengarah langkah kakinya ke Baitul Haram di hadapan kaum musyrikin dan dengan suara lantang dia mengucapkan dua kalimah syahadah.
"Aku bersaksi bahwa tiada Tuhan melainkan Allah dan aku bersaksi bahwa Muhammad itu pesuruh Allah."
Tatkala mendengar ucapan Abu Dzar itu, orang-orang kafir pun menyerbunya lalu memukulnya. Kalau tidak karena Abbas, paman Nabi yang ketika itu belum Islam, tentulah Abu Dzar menemui ajalnya di situ.
Kata Abbas kepada orang-orang kafir musyrikin yang menyerang Abu Dzar: "Tahukah kamu siapa orang ini? Dia adalah turunan Al Ghifar. Khafilah-khafilah kita yang pulang pergi ke Syam terpaksa melalui perkampungan mereka. Kalaulah ia dibunuh, sudah tentu mereka menghalangi perniagaan kita dengan Syam."
Pada hari berikutnya, Abu Dzar sekali lagi mengucapkan dua kalimah syahadah di hadapan orang-orang kafir Quraisy dan pada kali ini juga ia telah diselamatkan oleh Abbas.
Kegairahan Abu Dzar mengucapkan dua kalimah syahadah di hadapan kafir Quraisy sungguh-sungguh luar biasa jika dikaji dalam konteks larangan Nabi SAW kepadanya. Apakah dia bisa dituduh telah mengingkari perintah Nabi? Jawabannya tidak. Dia tahu bahwa Nabi SAW sedang mengalami penderitaan yang berbentuk gangguan dalam usahanya ke arah menyebarkan agama Islam. Dia hanya hendak menunjukkan Nabi SAW walaupun ia mengetahui, dengan berbuat demikian dia melibatkan dirinya dalam bahaya. Semangat keislamannya yang beginilah yang telah menjadikan para sahabat mencapai puncak keimanan dalam alam lahiriyah serta batiniyah.
Keberanian Abu Dzar ini selayaknya menjadi contoh kepada umat Islam dewasa ini dalam rangka usaha mereka menjalankan dakwah Islamiyah. Kekejaman, penganiyaan serta penindasan tidak semestinya bisa melemahkan semangat mereka yang telah mengucapkan dua kalimah syahadah.
