بنای اولیه این مسجد را به عمربن عبدالعزیز، خلیفه هشتم، امویان که در دوران خلافتش از99 تا 101 بوده است، نسبت داده‌اند. مسجد جامع نایین را از آثار نیمه دوم قرن سوم هجری قمری دانسته‌اند.  پروفسور پوپ ساختمان مسجد را به سال 350 هـ.­ق و آندره گدار فرانسوی آن را به حکومت دیلمیان منسوب می‌کنند. اطراف آن منزل پیرنیا و نارین قلعه (نارنج قلعه) است که قدمتش به دوره قبل از اسلام، حدود اشکانیان و ساسانیان می‌­رسد و اکنون تل خاکی بیش از آن باقی نمانده است. به سبک مسجدهای عربی ساخته شده است این مسجد یک مناره دارد و گنبد آن یک پوسته است.

سردر اصلی این مسجد در شمال شرقی صحن مسجد واقع شده است. صحن مرکزی مسجد وسعت زیادی ندارد و به شکل چهارضلعی بنا شده است. این صحن در سه طرف شرقی، جنوبی و غربی خود دارای چهلستون‌هایی است که مداخل بلند آنان مشرف به صحن است. نمای داخلی چهلستون‌ها دارای تزئینات آجری ساده است اما در مرمت‌های دوران بعد بیشتر بخش‌های آنها با گچ ساده پوشیده شده است