Dalam perjalanan, beliau Bertemu dengan Abdullah An-Nahham Al-‘Adawi, Seorang laki-laki dari Bani Zuhrah....(ada setengah riwayat mengatakan Saad bin Abi Waqqas).....
Lelaki itu berkata kepada Umar, " Mahu kemana wahai Umar ? "
Umar menjawab, "Aku Ingin pergi membunuh Muhammad."
Lelaki tadi berkata, " Bagaimana kamu akan selamat dari Bani Hasyim dan Bani Zuhrah, kalau kamu membunuh Muhammad ?" ..mendengar ucapannya itu,
Maka Umar menjawab, " Tidaklah aku melihatmu lebih daripada seorang musuh yang telah meninggalkan agama nenek moyangnya."
Lelaki tadi memberanikan diri dan menjawab, " Hai Umar Sesungguhnya saudara perempuan mu dan ipar mu telah meninggalkan agama yang nenek moyang kamu yakini...
Seperti ditebang batang lehernya....Umar bergegas kerumah adiknya (Fatimah) untuk mendapatkan kepastian tentang berita itu...Ketika menghampiri rumah adiknya... Umar terdengar suara seseorang sedang mengajar Al-Quran,...Ketika itu Khabab bin Al-Arat....sedang mengajarkan Al-Quran kepada Fatimah (adik Umar) dan Iparnya (Said bin Zaid) ....
Umar mengetuk pintu dengan penuh kemarahan.. Mengetahui kedatangan Umar,... Khabab menjadi cemas dan lari bersembunyi. Umar masuk ke rumah adiknya dan menanyakan suara yang didengarnya sebentar tadi....
Kemudian adik perempuan Umar dan suaminya berkata, " kami sedang berbual-bual dan....seketika kamu datang dan mengetuk pintu..."
Umar lantas berkata, " Apakah benar berita yang aku dengar dari jalan sebentar tadi....Apakah kamu telah meninggalkan agama nenek moyang kita..? "...
Fatimah menjawab, " wahai Umar, apa pendapatmu Jika Kebenaran itu bukan berada pada agama nenek moyang kita ?"
Mendengar perkataan tersebut Umar terus memukul adiknya hingga luka dan berdarah, Suaminya (Said) cuba membantu dan menenangkan Umar,..tetapi dia juga turut dibelasah oleh Umar sehingga cedera kedua-duanya....
" Hai Umar, biar apa pun yang akan terjadi, kami akan tetap berada dalam agama yang dibawa oleh Muhammad...Bunuh lah kami jika itu dapat memuaskan hati kamu.." rintih Fatimah,... sambil memeluk suaminya (Said) yang terbaring berlumuran darah..
Umar seperti tidak percaya terhadap tindakan yang telah dilakukan keatas Adik dan iparnya....Dia berasa begitu menyesal dan kecewa diatas tindakaannya yang melampaui batas itu.
Ketika kemarahan Umar semakin reda.... dia kemudiannya meminta maaf kepada Fatimah dan adik Iparnya. Lalu dia terlihat segulung lembaran yang sedang di pegang oleh adiknya Fatimah....
Umar lantas bertanyakan tentang lembaran itu, " Apakah lembaran yang ditangan mu itu...? berikan kepada ku...aku ingin mengetahui apakah kandungan isinya ".
Fatimah berkata, "Hai Umar....tubuh kamu Kotor, dan tidak boleh menyentuh lembaran ini,... kecuali bagi orang yang bersuci.... Mandilah dan sucikanlah diri mu terlebih dahulu !.."
Umar kemudianya membersihkan dirinya dan kembali semula meminta lembaran itu dari adik perempuannya...Fatimah agak keberatan untuk memberikannya, tetapi setelah dipujuk...Fatimah memberanikan juga diri untuk memberikan lembaran tersebut yang mengandungi isi Surah Taha itu kepada Umar.
بِسْمِ ٱللَّهِ ٱلرَّحْمَٰنِ ٱلرَّحِيمِ
1. طه
2. مَآ أَنزَلْنَا عَلَيْكَ ٱلْقُرْءَانَ لِتَشْقَىٰٓ
3. إِلَّا تَذْكِرَةً لِّمَن يَخْشَىٰ
4. تَنزِيلًا مِّمَّنْ خَلَقَ ٱلْأَرْضَ وَٱلسَّمَٰوَٰتِ ٱلْعُلَى
5. ٱلرَّحْمَٰنُ عَلَى ٱلْعَرْشِ ٱسْتَوَىٰ
1. Taa' Haa.
2.Kami tidak menurunkan Al-Quran kepadamu (wahai Muhammad) supaya engkau menanggung kesusahan. 3. Hanya untuk menjadi peringatan bagi orang-orang yang takut melanggar perintah Allah,
4. (Al-Quran) diturunkan dari (Tuhan) yang menciptakan bumi dan langit yang tinggi.
5. Iaitu (Allah) Ar-Rahman, yang bersemayam di atas Arasy.(Taha : 1 - 5)
Sendi Umar menjadi lemah dan bergetar,...dia terpegun dengan isi kandungan Surah Taha...hatinya menjadi semakin sayu dan hiba...ketika itu dia dapat merasakan ada sesuatu yang sedang menyentuh jiwanya..
Umar meneruskan lagi bacaan sehingga sampai pada ayat 20:014
14. إِنَّنِىٓ أَنَا ٱللَّهُ لَآ إِلَٰهَ إِلَّآ أَنَا۠ فَٱعْبُدْنِى وَأَقِمِ ٱلصَّلَوٰةَ لِذِكْرِىٓ
Sesungguhnya Akulah Allah; tiada tuhan melainkan Aku; oleh itu, sembahlah akan Daku, dan dirikanlah sembahyang untuk mengingati Daku (Taha : 14)
Ketika itu air mata sudah membasahi pipi Umar...."Bawa kan aku kepada Muhammad.. Bila mendengar perkataan Umar itu, Khabab yang sedang bersembunyi ketika itu memberanikan dirinya untuk keluar dan berkata,
" wahai Umar! engkau adalah orang yang didoakan Rasulullah ....'Ya Allah, muliakan Islam dengan Umar Al- Khatthab atau Abu Jahal (Amru) bin Hisyam. '
Rasulullah yang pada ketika itu berada di rumah seorang sahabat di daerah Shafa, baginda dikelilingi oleh para sahabat dan salah seorang darinya ialah Saidina Hamzah Abdul Mutalib.Umar datang dengan pedangnya dan menuju ke rumah tersebut,....
Menyedari kedatangan Umar,...Saidina Hamzah memandang Rasulullah dan kemudian berkata,
" Jika kedatangan nya bertujuan baik kami akan mengizinkannya.... Tetapi jika dia datang dengan niat jahat... akan aku bunuh dengan pedangnya sendiri...."
Saidina Hamzah bimbangkan keselamatan Rasulullah kerana dia tahu Umar seorang yang menurut nafsu amarah dan sanggup melakukan apa sahaja....Namun baginda meminta supaya Saidina Hamzah tidak bertindak melulu.. Umar mengetuk daun pintu... dan Rasulullah sendiri yang membuka pintu dan mempersilakan Umar masuk... Sebaik sahaja Umar melangkah masuk, beliau terus mendekati Rasulullah... Lalu baginda terus memegang hujung baju Umar dan disentapnya dengan kuat sehingga Umar jatuh berlutut di hadapan Rasulullah. Sambil berhadapan dan bertentang mata dengan Umar,
Rasulullah lantas bertanya, " Bila kamu hendak menerima Islam wahai Putera Al Khattab ..? Adakah kamu hendak menunggu sehingga ditimpa bala dan ancaman dari Allah ? Sebagaimana yang menimpa Al-Walid bin Al-Mughirah ..?... Ya Allah, inilah Umar Al-Khattab,... Ya Allah muliakan Islam dengan Umar Al-Khattab ini!" Seketika itu pula Umar bersyahadah, " Aku bersaksi bahawa tiada tuhan yang disembah melainkan Allah,..dan Kamu,..Muhammad adalah pesuruhnya "....
orang-orang yang berada di rumah tersebut bertakbir dengan keras sehingga ada yang menitiskan air mata kerana terlalu gembira.Umar memeluk Islam pada bulan Dzulhijah tahun ke-6 kenabian, tiga hari setelah Saidina Hamzah bin Abdul Mutalib memeluk Islam.
Selepas peristiwa tersebut, Umar berjanji untuk melindungi Islam sehingga ke titisan darah terakhir.... Dia menjadi khalifah kedua Islam pada 22 Jamadilakhir tahun 13 Hijrah (633-644).
Sebuah hadith dari Ibnu Abbas yang diriwayatkan oleh Ibnu Majah bahawa
Rasulullah SAW bersabda: "Apabila Umar memeluk Islam, Jibril pun datang dan berkata: "Ya Muhammad, sesungguhnya seluruh makhluk langit bergembira dengan islamnya Umar "