该寺位于银川市南关南环东路。明末清初始建于南门外，1915年迁至城区，1953年经过扩建，成为一座拥有大殿63间、面积1200多平方米，南北配房41间，占地为20多亩的建筑群，其规模居于当时银川市区7座清真寺之首。原寺为中国传统古典建筑风格，殿堂门窗皆为红松木，雕刻工艺精细，惜于“文革”中遭拆毁。1981年重建，改为阿拉伯式建筑风格。  
    现南关清真大寺占地3亩多，建筑面积为2074平方米。主体建筑分上下两层，建筑面积1300多平方米。礼拜大殿位于上层，沿着弧形阶梯拾级而上，是二层平台，平台与大殿之间有一道汉白玉贴面的双心圆券柱廊。大殿呈正方形，边长各21米，窑殿用汉白玉做成圆心复叶型壁龛形式，上刻《古兰经》。大殿中部有4根绿色瓷砖贴面的方柱。大殿顶部为一大穹顶，直径为9.5米，四角各为一小穹顶。大小穹顶通体全绿，顶部均有宝瓶装饰，其中大穹顶上的新月距地面22米。大穹顶底部与殿内的方柱之间为圆柱形的鼓座，开设有24扇天窗，加上大殿内南北两侧各开6扇大窗，增加了殿内之光照亮度。此外，殿内还悬19盏大宫灯，墙壁置双管玉兰灯。礼拜大殿下层为小礼拜殿、阿訇住房、会客室等，以回廊相连接。以后，该寺在大殿前又添建了两座方柱形的“邦克楼”和两侧长廊，使整个清真寺的风格浑然一体，典雅华美，庄重宏伟。殿前还有一喷水池，绿萍浮水，莲荷映月，院内绿树成荫，春夏秋三季百花争艳。 　
    银川南关大寺建筑新颖，一度成为宁夏回族自治区的标志性建筑物，加之该寺位于城区，交通方便，因而成为宁夏境内吸引国内外旅游观光客人最多的人文景点之一。