Kuyuları ve hurma bahçeleriyle meşhur verimli bir vaha üzerinde kurulmuş olan, ve adını buradaki bir kuyudan alan Kubâ, hicret sırasında Mekke yolu üzerinde Medine'ye 6 mil mesafede bulunan bir köydü. Hicretten sonra Medine Nin gelişimine paralel olarak süratle büyümüş ve şehrin mahallelerinden birisi haline gelmiştir. Peygamber'in "cennet pınarlarından bir pınar" diyerek övdüğü Gars ve yüzüğünün düşürüldüğü Erîs kuyuları da burada bulunmaktadır.

Peygamberimiz Mekke'den yola çıkıp on bir günlük yolculuktan sonra Kubâ'ya ulaşınca, Evs'in bir kolu olan Amr bin Avf oğullarından Külsüm bint Didem'in evinde misafir kaldı. Genişliğinden dolayı daha uygun gördüğü Sa'd bin Heysem'in evinde de ashabıyla sohbet etti. Kubâ'ya gelen ilk muhacirler, Amr bin Avf oğullarına ait bir hurma kurutma yerini mescid haline getirmişlerdi. Peygamber burayı genişleterek Kubâ Mescidini inşa etti. Mescidi Kubâ'nın ilk hali kare şeklinde bir düzlüğü çevreleyen dört duvardan ibaret. Peygamberimiz, kıblenin Kâbe'ye çevrilmesinden (623 M.) sonra Mesci-i Kubâ'yı yeniden inşa etmiştir. Bu sırada ön duvar ve ona paralel dizilen yedi sütun üstüne bir tavan yapılmıştır. Mescidin güneyinde Külsüm bint Hidm ile Sa'd bin Heysem'in evleri bulunmakta ve Sa'd'ın evinden mescide bir kapı açılmaktaydı. Müslümanlar Hz. Peygamber'in misafir kaldığı bu evleri de ziyaret ederlerdi. Sa'd bin Heysem'in evinde Peygamber'in namaz kılarak ashabıyla sohbet ettiği yer 1985'te gerçekleşen son imara kadar korunmuş, bu genişletmede Kubâ Mescidine dahil edilmiştir.

Kubâ Mescidinde namaz kılmayı umreyle eşdeğer gören Peygamberimiz Medine'de bulunduğu zaman cumartesi, bazen de pazartesi günleri ve Ramazan'ın 17. günü Kuba Mescidi'ne giderek namaz kılar, burada verilen Kuran derslerini denetler, kendisine sorulan soruları cevaplandırdı. Kuran'da sözü edilen, ilk günden takvâ üzerine kurulduğu belirtilen mescidin Kubâ Mescidi olduğu kabul edilir. Burada kastedilenin Mescid-i Nebevi olduğu da rivayet edilmektedir.