早期的清真寺建築簡單樸實,如麥地那的先知廟,主要是用圍墻圍起來做禮拜,有屋頂做禮拜,有簡易的講臺做傳教工作。後來,隨著穆斯林建築藝術的發展,結構整齊、宏偉、裝飾藝術的建築相繼出現。
清真寺的主體建築是朝拜大廳,面向麥加天房。主廳前壁,ib左前方有凹壁(Mihalab)和臺階式講壇(Minbair)。較大的清真寺也有尖塔。塔頂是尖的,所以叫尖塔,叫禮拜。壹般清真寺都有L ~ 4座宣禮塔,土耳其伊斯坦布爾的蘇丹艾哈邁德清真寺有6座,麥加聖殿有7座。
還有壹個用來洗澡的水房。瓦利德時期(705 ~ 715)出現了穹窿建築,大多是由方柱或成排排列的柱子支撐的壹系列拱門,拱門支撐著穹頂和穹窿。建築物的外部應塗上顏色或其他裝飾。