بني في عهد الخليفة عثمان بن عفان رضي الله عنه، وكان هدية من الإمبراطور الصيني للتجار المسلمين، واستخدام الخشب العطري الثمين في بناء الجدران، لذلك تفوح من المسجد رائحة رائعة، كما كتبت جميع آيات القرأن الكريم على جدرانه.

تم إكمال تشييد المسجد من قبل أسرة مينغ ويتميز بهندسته المعمارية المذهلة، ويغطي مساحة 12000 متراً مربعاً في قلب مدينة تاريخية تعتبر الموطن الأول للمملكة الصينية، ولا تزال جدران قصر أسرة مينغ شاهقة فوق المدينة وعلى طول الممر المائي، ويقع المسجد داخل أسوار المدينة القديمة في محافظة شانشي الصينية.

تمتزج في هندسته المعمارية الطراز الصيني التقليدي والتراث الإسلامي العريق، حيث امتزجت روعة الأحرف العربية بطرق الكتابة الصينية الجميلة، وما يضيف إلى كمالها هو تألق الكتابة حتى الآن في بروزها الرفيع. وبحسب التاريخ المنقوش على الحجر الموجود داخل المسجد، فقد تم بناؤه في عام 742 ميلادي خلال فترة حكم امبراطورية تانغ حيث كان التجار المسلمين يذهبون إلى الصين بقصد التجارة، ولقد شارك بعض المسلمين في توحيد الصين في فترة حكم أسرة تانغ ومينغ.

بدأ بناء المسجد الحاج شينغ المنحدر من عائلة مسلمة ساهمت في تنظيف بحر الصين من القراصنة في القرن الرابع عشر ميلادي، وما يتميز به هذا المسجد هو نقس كامل آيات القرآن الكريم على جدرانه الداخلية، كما أنه يتميز عن باقي الجوامع في العالم بأنه بلا مآذن على الطراز التقليدي الإسلامي، ولقد نقشت أسماء الله الحسنى على السقف وعلى شكل فوانيس على الطراز الفرنسي معلقة فوق المصلين.

ينقسم المسجد إلى أربعة أفنية تضم الآن أكثر من عشرين مبنى في ساحاتها الخمس، كما يوجد داخل قاعة الصلاة 675 قطعة من اللوح الهندسي، كل واحدة مطلية بدرجات من اللون الأخضر والأزرق النيلي والذهبي كتب عليها: (السلام على الله سبحانه وتعالى الواحد الأحد، رحمة الله).

 أُعلن عن المسجد موقعاً تاريخياً وثقافياً محمياً على مستوى مقاطعة شنشي، وتم ترقيته لاحقاً إلى موقع تاريخي وثقافي كبير محمي على المستوى الوطني عام 1988. ولا يزال يستخدم المسجد كمكان للعبادة من قبل المسلمين الصينيين، كما أنه يستقبل السياح والزوار يومياً، ولقد تجاوز عدد زواره 10 ملايين زائر من 100 دولة حول العالم.