据《北京牛街冈儿上礼拜寺志》和《古教西来历代建寺源流碑文总序略》记载，牛街礼拜寺创建于辽统和十四年（996），元初扩建，明成化十年（1474）赐名“礼拜寺”。清康熙三十五年（１６９６）修缮后，在寺门前悬挂匾额“敕赐礼拜寺”，现存主要为明、清时代建筑。牛街礼拜寺占地约６０００平方米，规模宏伟、肃穆幽深，是中国式古代宫殿和阿拉伯式清真寺相结合的产物，为我国古建筑之精品。寺院平面用中轴线布局，寺门朝西、门前有砖石照壁。主要建筑自西向东为望月楼、礼拜殿、邦克楼等。礼拜殿可同时容纳１０００多人做礼拜，是中国古典殿宇建筑与阿拉伯装饰艺术的完美结合。大殿有五楹、三进、七殿共四十二间，面积约为６００多平方米。殿内有十八根主柱绘金色牡丹缠蔓花饰组成二十一个拱门，拱门仿阿拉伯式尖弧形落地。拱门门旁有堆粉贴金的《古兰经》经文和赞主（安拉）、赞圣（默罕默德）的阿拉伯赞词。殿内为红地，沥粉贴金细致精巧。殿外有一座“宣礼楼”，又称“邦克楼”，是为了呼唤周围穆斯林来寺做礼拜而建。南讲堂东有两座元代筛海墓，为元代遗物，墓丘砖造，近代重修。“筛海”是阿拉伯语的译音，是对年高有德的宗教学者的尊称。坟中埋葬着两位来中国布道的阿拉伯长老。碑文为阿拉伯文，字迹清晰、保存完好，是珍贵文物。

每年希吉拉历（伊斯兰教历）的开斋节是伊斯兰教的传统节日。这一天，穆斯林都要到牛街礼拜寺“会礼”，礼拜结束后，人们互致“开斋节”好，互赠油香。