早期的清真寺建築簡單樸實，如麥地那的先知廟，主要是用圍墻圍起來做禮拜，有屋頂做禮拜，有簡易的講臺做傳教工作。後來，隨著穆斯林建築藝術的發展，結構整齊、宏偉、裝飾藝術的建築相繼出現。
清真寺的主體建築是朝拜大廳，面向麥加天房。主廳前壁，ib左前方有凹壁(Mihalab)和臺階式講壇(Minbair)。較大的清真寺也有尖塔。塔頂是尖的，所以叫尖塔，叫禮拜。壹般清真寺都有L ~ 4座宣禮塔，土耳其伊斯坦布爾的蘇丹艾哈邁德清真寺有6座，麥加聖殿有7座。
還有壹個用來洗澡的水房。瓦利德時期(705 ~ 715)出現了穹窿建築，大多是由方柱或成排排列的柱子支撐的壹系列拱門，拱門支撐著穹頂和穹窿。建築物的外部應塗上顏色或其他裝飾。