Masjid unik yang berada 1,5 kilometer di sebelah utara Masjidil Haram ini memiliki luas sekitar 20×10 meter. Adapun bangunan masjid bertingkat dua ini didominasi warna abu abu. Kaligrafi (seni tulisan Arab) yang mengutip Al-Quran, Surat Jin (ayat 1-9) menghiasi kubah masjid.
Perlu untuk diketahui bahwa ada kisah menarik yang membuat masjid ini dinamakan sebagai Masjid Al-Jin atau Al-Bai’ah. Awal kisah ini terjadi pada tahun kesepuluh kenabian Muhammad SAW. Saat itu beliau bersama para sahabat yang hendak pulang dari Thaif melaksanakan shalat Subuh di tempat ini.
Dalam kesempatan ini, Nabi Muhammad SAW melantunkan ayat-ayat Al-Quran Surat Ar-Rahmah yang diperdengarkan kepada para sahabat. Pada saat itu, menurut yang diriwayatkan, ada serombongan Jin yang sedang menuju Tihamah, terpukau dari makna Surat Ar-Rahman yang dilantunkan oleh nabi Muhammad SAW.
Sehingga para Jin itu pun menyatakan keislamannya dan berbaiat kepada nabi Muhammad SAW. Menurut sejumlah riwayat mengungkapkan bahwa para Jin yang berbaiat kepada nabi Muhammad SAW itu berjumlah sembilan. Namun ada juga yang menyebutkan tujuh jin. Para jin itu berasal dari daerah yang berada di antara Suriah dan Iraq, Nasibain.
Sebenarnya peristiwa ini telah tertulis didalam Alquran, yang bisa anda temukan pada Surat Al-Ahqaf, ayat 29 sampai dengan ayat 32 yaitu :
“Dan ingatlah ketika Kami hadapkan serombongan jin kepadamu yang mendengarkan Al-Quran. Maka tatkala mereka menghadiri pembacaan (nya) lalu mereka berkata: Diamlah kamu untuk mendengarkannya. Ketika pembacaan selesai, mereka kembali kepada kaumnya untuk memberi peringatan,” (29).
“Mereka berkata: Hai kaum kami, sesungguhnya kami telah mendengarkan kitab (Al-Quran) yang telah diturunkan sesudah Musa yang membenarkan kitab-kitab sebelumnya lagi memimpin kepada kebenaran dan kepada jalan yang lurus,” (30).
“Hai kaum kami, terimalah (seruan) orang yang menyeru kepada Allah dan berimanlah kepada-Nya, niscaya Allah akan mengampuni dosa-dosa kamu dan melepaskan kamu dari azab yang pedih,” (31).
“Dan orang-orang yang tidak menerima (seruan) orang yang menyeru kepada Allah maka dia tidak akan melepaskan diri dari azab Allah di muka bumi dan tidak ada baginya pelindung selain Allah. Mereka itu dalam kesesatan yang nyata,” (32).Masjid Al-Jin, dengan kisah sejarahnya yang tersimpan, saat ini menjadi salah satu lokasi yang sering didatangi para peziarah yang sedang melaksanakan ibadah haji dan umrah di tanah suci Mekah. Terkadang mereka menyempatkan diri untuk menunaikan shalat fardhu di masjid ini.