Medine’nin kuzeybatısındaki Vebere harresinde ve Mescid-i Nebevî’nin 5 km. uzağındadır. İlk adı, içinde bulunduğu kabile bölgesinden dolayı Benî Selime Mescidi iken Resûl-i Ekrem’in burada öğle veya ikindi namazını kıldırdığı sırada nâzil olan Bakara sûresinin 144. âyeti uyarınca namazını bozmadan cemaatle birlikte kıblesini Kudüs’teki Mescid-i Aksâ’dan Kâbe’ye çevirmesi üzerine “iki kıbleli mescid” anlamına gelen bugünkü adını almış, o tarihten sonra Hz. Peygamber’in unvanları arasına da “imâmü’l-kıbleteyn” eklenmiştir.

         Ömer b. Abdülazîz, Medine valiliği sırasında Mescid-i Kıbleteyn de dahil olmak üzere Resûlullah’ın namaz kıldığı bütün mescidleri yenilemiştir. Memlük Sultanı Kayıtbay zamanında Medine bina emini olan Şâhin el-Cemâlî 893 (1488) yılında Mescid-i Kıbleteyn’in tavanını yeniletirken avlusunu da bir duvarla çevirtmiştir. Ömer b. Abdülazîz’den sonraki ilk ciddi imar Kanûnî Sultan Süleyman devrinde 950’de (1543-44) gerçekleşmiştir. Bu dönemde cami iki kıblesinde de yer alanı revaklarla birlikte 425 m2’lik bir alan kaplıyordu ve üzeri yine ahşap bir çatıyla örtülmüştü. 1073’te (1662) Medine’yi ziyaret eden Faslı âlim ve seyyah Ayyâşî’nin Mescid-i Kıbleteyn’in, etrafında yapı bulunmayan, bağ ve bahçeler içerisinde mâmur bir cami olduğunu söylemesi Kanûnî devrinde (1520-1566) yapılan yenilemenin henüz korunduğunu göstermektedir. İbrâhim Rifat Paşa, 1901 yılındaki Hicaz seyahati sırasında caminin harap vaziyette olduğunu bildirir. En son 1987’de Suûdî hükümeti tarafından genişletilerek tamir ettirilen Mescid-i Kıbleteyn 3920 m2’lik alana sahip büyük bir camidir. Bu yenileme sırasında Kâbe kıblesine mihrap, Kudüs tarafına ise Bakara sûresinin 144. âyetiyle Türkçe, Farsça, Urduca, İngilizce ve Fransızca meâlinin yazıldığı bir pano konulmuştu (pano daha sonra kaldırılmıştır). Tuğla kullanılarak yapılan bina tamamen granit kaplamadır ve kıble yönündeki iki köşesinde birer minare bulunmaktadır. Üzeri 8,7 m. çapında ve 8,18 m. yüksekliğinde iki kubbe ile örtülü olan harimin içi modern tarzda süsleme motifleriyle ve Türk hattatlarından Hasan Çelebi’nin yazdığı celî sülüs ve kûfî hatlarla bezenmiştir.