اين مسجد بنايي است بسيار قديمي و درنهايت شکوه و جلال که علاوه بر روحانيت معنوي داراي ظاهري دلچسب و فرح انگيز است . امروز با گذشت 1100 سال همچنان اين بنا بلند ترين عمارت قاين مي باشد .
درمورد بناي اوليه آن اختلاف نظر وجود دارد . استقرار يکي از پايه هاي مسجد بر روي آتشکده ساسانيان گوياي تاريخ کهن آن است . اغلب مورخان و جهانگردان در بيان و معرفي شهر قاين به مسجد جامع صراحتا اشاراتي داشته اند . صوره الارض ابن حوقل (331ه ق) مي نوسيد :
قاين وسعت آن چند سرخس است و بناهاي آن از گل وداراي قهندژ ( کهندژ ) است که خندقي در پيرامون دارد و مسجد جامع و دارالاماره در قهندژ است .
قاين شهري بزرگ و حصين است گرد شهر خندقي دارد و مسجد آدينه به شهر اندر است و آنجا که مقصوره است تاقي عظيم و بزرگ چنانکه در خراسان از آن بزرگتر نديديم و آن تاق نه در خور مسجد است و عمارت همه شهر به گنبد است .
از آنجايي که اصطخري مسجد جامع را در قهندژ ( ارگ ) قاين و در کنار دارالاماره دانسته در حالي که صد سال بعد ناصر خسرو و مسجد را در قسمت اماکن عمومي شهر توصيف مي کند . احتمال دارد مسجد کنار دارالاماره در طي صد سال بر اثر زلزله ويران شده و مسجد جامع بعدي بر جاي نيايشگاه ساساني ساخته شده باشد .
از کتيبه هاي متعدد مسجد جامع مي توان نتيجه گرفت که اين بنا بارها بر اثر زلزله صدمه کلي ديده و مرمت شده است .
در يکي از کتيبه هاي ايوان بسال 796هجري قمري نوشته شده : اين بنا به فرمان جمشيد قارن از خاندان معروف قارن که در دوره امير تيمور جهانگشا حاکم قاين و مدتي حاکم ساري و دامغان بود تعمير و مرمت شد .
لوحه اي به خط رقاع در داخل رواق پنجم درضلع شمالي حياط مسجد مي باشد و تاريخ آن اول رجب سال 921است . مضمون کلي آن مربوط به زمان فرمانروايي امير سلطاني است که در (919-921)هجري از سوي شاه اسماعيل صفوي در قاين به اين مقام منصوب شد .
سنگ لوحي در سمت راست ورودي ايوان مسجد به ابعاد 120*50سانتي متر و با خط بسيار زيباي رقاع که شاه سليمان صفوي امر به بازسازي مسجد داد بتاريخ 1080هجري قمري کرده است .
در کاوش هاي شبستان شمالي به سال 1354ستون هاي سنگي با درازا و پهناي يک متر در يک متر از سنگ و لاشه وملات و ساروج کشف شده که پايه هاي کنوني بر روي آنها بنا گرديده وجود يک ستون چهار قلو در شبستان مشابه ستون هاي مسجد جامع اصفهاني قدمتي از دوره سلجوقي را نشان مي دهد که احتمالا در دوره تيموري تجديد بنا گرديده گمانه زني در اين محل به عمق 60سانتي متر وکشف قطعاتي از آجرو سفال هاي سلجوقي نشان داد که مسجد در يک زلزله شديد خراب گرديده است .
بسياري معتقدند از قلعه کوه تا دژ مرکزي شهر و مسجد جامع يک تونل زير زميني وجود داشته و مورد استفاده بوده . احتمال دارد اين معبر با مسير کاريز جعفر آباد يکي باشد که در نزديکي قلعه کوه معبرش مجزا مي گردد . اگر کاوش هاي باستان شناسي انجام شود شايد بتوان بسياري از شگفتي ها را شناسايي و معرفي نمود .
مسجد جامع داراي دو محراب است گرچه اين مسجد جزو قديم ترين مساجد ايراني مي باشد ولي محراب هاي آن ربطي به تغيير قبله از مسجد الاقصي به مکه ندارد احتمالا يا ناشي از اختلاف اهل سنت و تشيع در محاسبات قبله يابي بوده يا محراب انتهايي ايوان يک نيايشگاه باشد .
مسجد جامع قاين 2470 متر مربع وسعت داشته که 1050 متر مربع آن زير بناي ايوان . شبستان ها و حجره ها و1200متر مربع عرصه داخلي مي باشد . حياط مسجد محوطه اي به در ازاي 33 و پهناي 28 متر است . در اطراف حياط حجره هايي به عمق 2 متر قرار دارد از شاهکارهاي معماري مسجد ايوان آن است که به طرز با شکوهي به زيبايي مسجد گوهر شاد با ارتفاع 18متر . عرض 11متر و طول 22 متر ساخته شده است . قبلا دو مناره در دو سمت ايوان به ارتفاع 5 متر داشته که باعث زيبايي بيشتر مسجد مي شدو تا قبل از ويراني صداي موذن از آن بلند بود . سقف ايوان 4 طاق و 3 گنبد دارد که به طرز زيبايي رنگ آميزي و تزيين شده ومعرق کاري هايش بسيار ظريف و زيباست نقاشي هاي ايوان به شيوه اصفهاني بوده و در دوره صفويان انجام شده و در زمان هاي بعد روي آنها را رنگ زده اند .
دو شبستان در دو سمت ايوان علاوه بر اين که در فصل زمستان استفاده خوبي دارند براي جلوگيري از رانش ديوار هاي اطراف ايوان تاثير بسزايي دارند .
منبر چوبي بزرگ و نفيس مسجد مربوط به سال 1082هجري است که از چوب چنا رتوسط استاد محمد واعظي کاخکي به طرز ماهرانه اي ساخته شده کتيبه آن با خط مسخ بر روي آن منبت کاري است « عمل استاد محمد مقيم بن استادمحمد ولي بن استاد حسن علي کاخکي في شهور سنه اثنان و ثمانون بعد الالف »
در ميان صحن مسجد پايابي مسقف جهت دسترسي به آب قنات جعفر آباد و به دستور صفشکن خان همزمان با حکومت شاه سليمان صفوي احداث شد . اين پاياب در 5/5 متري عمق زمين داراي 20 پله مي باشد . کتيبه اي در حجره جنب پاياب جهت اطمينان خاطر به استفاده از آب قنات جعفر آباد در رابطه با وضو چنين نوشته شده : « چون مزرعه جعفرآباد در پي بازار واقع در بلده قاين چندين سال باير بود در اين ولاء اولاد استاد مرحمت پناه مغفوري ميرزا عرب قايني مالکان مزرعه مذکور آب را جاري کردند و شرط کردند که زراعت آنرا در بيرون شهر به جهت نفع خود نکنند و همه ساله آب آن متصل از در مسجد واقع در بازار مي گذشته باشد تا مومنان و مسلمانان که رجوع به مسجد و بازار داشته باشند از آب فايض بوده دعاي پادشاه جمجماه ستاره ظل الهي مي گفته باشد و ثواب آن به روزگار مالکان برسد و خلاف کننده شرط مذکور به لعنت خدا و نفرين رسول گرفتار گردد . سنه 1046هجري قمري »
در ميان صحن مسجد جهت تعيين ظهر شرعي قاين ساعت آفتابي توسط استاد توحيدي ساخته شده دو درب مسجد يکي به سوي بازار قديمي در شرق با دري بزرگ و ديگري به سوي شمال ( محل بازار فعلي ) باز مي شود .
در سمت راست ورودي ايوان مسجد لوح نسبتا بزرگي بصورت عمودي در بدنه ديوار نصب شده و تاريخ آن محرم الحرام سال 1046 هجري قمري است . مفاد کتيبه يک دستور العمل حکومتي درباره ماليات در 24 خط مي باشد . متن آن چنين است : « فرمان همايون شد آنکه چون پيوسته مکنون خاطر ماثر نواب همايون مانست که در زمان دولت ابد پيوند و عهد خلافت ارجمند آثار اخبارو احسان در ميان طوايف انسان منشر گرددو عموم رعايا وکافه برايا ازمراحم بي دريغ خسروانه بهره مند بوده درکمال رفاهيت و آسودگي در دامن امان غنوده به دعا گويي دوام دولت روز و استدامت سلطنت ابد مقرون قيام نمايد . بنا بر ترفيه حال رعايا در معامله سجقان ئيل با توجهات ووجوهات جماعت مذکوره ضمن رعايا فتوح ممالک محروسه سواي کاوليان ولوليان وسند ويان مشهور به خطيران و حسن بداللو و بغدادلو و توابع که مقرر است که از عهده ماليه خود بيرون آيند به قيد همه ساله به تخفيف و تصديق مقر فرموديم وزيروکلانتر وعمال ومستاجر وهمه ساله سرکار قاين حسب المسطور مقرر دانسته از تاريخ مذکور يک دينار تنخواه من الوجوه به علت ماليه و حقوق ديواني جماعت ضمن رعايا فتوح طلب ننموده مزاحمت نرسانند و جار نموده جميع مردم را خبر سازند که مطلع گردند که ماليه شاق به تخفيف مقرر شده يک دينار به احدي ندهند و صورت حکم مذکور بر سنگ نقش نموده بر در مسجد و بقاع الخير که منظور نظر خلايق بوده باشد نصب نمايند وتغيير کننده را مورد سخط و غضب شاهانه شناسند که ثواب آن روزگار فرخنده آثار عايد گردد .
و همه ساله داران و مستاجران وجوه مذکور را به شرح فوق عمل نموده از تاريخ ورود بر وجه اشرف يک دينار به علت ماليه وحقوق ديواني جماعت ضمن متعلقه به رعيت خانه که به اجاره و همه ساله ايشان مقرر است باز يافت نکرده طلبي ننمايند و ازاجاره و همه ساله خود برطرف دانند و اگر از جماعت کاوليان و غيره که ماليه ايشان به تخفيف متغير نشده احدي با مردشتباني و غيره آن که به موجب ضمن به تخفيف مقرر است اشتغال نمايند به علت ماليه وحقوق ديواني آن امور که به تخفيف مقرر است طلبي نکرده و آنچه به علت وکاولگيري و غيره که به تخفيف مقرر شده متوجه ايشان باشد . موافق حق وحساب باز يافت نمايند . وزارت رفعت پناه عزت و معالي دستگاه آصفي جلالاخواجه بيگا وزير خراسان چون ماليه جماعت ذيل رعاياي رعيت خانه که به تخفيف مقرر نشده به تخفيف رسيده مشخص نمايند .
جماعت کاوليان و جماعت لوليان و جماعت سندويان مشهور به خطيران و جماعت حسن ابداللو ووجماعت بغداد لو و توابع که از جمله رعيت خانه الکا مذکور چه مبلغ رسد جماعت ظهر است که به تخفيف مقرر شده و چه مبلغ رسد جماعت فوق است که مي بايد از عهده ماليه خود بيرون آيند و نسخه منقحه ورسدجمعي که به تخفيف مقرر است درست داشته بدفتر خانه همايون فرستد که مستوفيان عظام کرام ديوان اعلي بعد از عرض  در دفاتر از اين قرار عمل نمايندواگر تا ورود حکم اشرف مستاجر و همه ساله دار بررسد جمعي که به تخفيف مقرر شده در سجقان چيزي گرفته باشد نسخه آنرا به دفتر خانه همايون فرستد که از آن قرار جمع شده همه ساله حساب شود و به آنچه کسر نمايد بعد از عرض عوض دهنده همه ساله دارومستاجر وجوه رعيت خانه الکاء مذکور از تاريخ صدور بر آنچه اشرف به شرح عمل نموده به علت رسد جمعي که به تخفيف مقرر شده طلبي ننمايند و رسد جمعي که به تخفيف مقرر نشده بر آنچه وزير خراسان سازد و تصديق وزير گرفته به ديوان آورند . مستوفيان عظام رقم اين عطبه در دفاتر خلود ثبت نموده و از شايبه تغيير و تبديل مصون شناسد و آنچه به علت ماليه رسد جماعتي ظهر جمع باشد از دفتر اخراج نمايند و رسد جمعي که به تخفيف مقرر نشده از قرار آنچه وزير خراسان مشخص سازد نسخه به ديوان فرستد . بعد از عرض در دفاتر عمل نمايند . در اين باب قدغن دانند في تاريخ محرم الحرام سنه 1046جماعت کهنه فروشان وکهنه چينان وجاعتايينه داران وريگ بندان وجماعت گاوگله بانان وچوپانان وجماعت ماماچکان وآسيابان و ساربانان وسورمالان و دشتبانان و ترک طيبان و حرامان ولش کشان و ...
لوحه اي به خط رقاع در داخل رواق پنجم در ضلع شمالي حياط مسجد مي باشد و تاريخ آن اول رجب سال 921است . اين کتيبه تا بحال خوانده نشده و برخي از واژه ها آسيب ديدهاست .
مضمون کلي آن مربوط به زمان فرمانروايي امير سلطان (919-921) هجري قمري بر قاين بوده که از سوي شاه اسماعيل صفوي به اين مقام منصوب شده بود .
مسجد جامع قاين به عنوان يک اثر مهم تاريخي و مذهبي و خصوصيات معماري با نبوغ به شماره 295در فهرست آثار ملي ايران قرار گرفته است . لازم است از آسيبهاي انساني و طبيعي در امان بماند و طرح ساماندهي اطراف آن به اجرا در آيد .
بسياري معتقدند از قلعه کوه تا دژ مرکزي شهر و مسجد جامع يک تونل زير زميني وجود داشته و مورد استفاده بوده . احتمال دارد اين معبر با مسير کاريز جعفر آباد يکي باشد که در نزديکي قلعه کوه معبرش مجزا مي گردد . اگر کاوش هاي باستان شناسي انجام شود شايد بتوان بسياري از شگفتي ها را شناسايي و معرفي نمود .