วัดที่เก่าแก่ที่สุดในประเทศไทยมีอายุ พันปี
เป็นที่น่าสังเกตุว่า "วัดมหาธาตุ" ซึ่งหมายถึงวัดที่มีพระสถูปเจดีย์หรือพระปรางค์บรรจุหระอัฐิหรือพระธาตุของพระพุทธเจ้า มีอยู่ในจังหวัดใหญ่ๆหลายจังหวัด แต่ละวัดสร้างมาแต่โบราณกาลทั้งสิ้น แต่ก็คงไม่มีวัดไหนเก่าแก่ไปกว่าวัดมหาธาตุของจังหวัดราชบุรี เพราะไม่ได้สร้างขึ้นมาเพื่อเป็นวัดของพระพุทธศาสนาอย่างวัดทั่วไป แต่ได้ยึดเอาเทวาลัยหรือศาสนสถานของขอมมาเป็นวัด
บริเวณย่านนี้เดิมเป็นอาณาจักรทวาราวดี ซึ่งสร้างขึ้นราวพุทธศตวรรษที่ 13 ต่อมาราวพุทธศตวรรษที่ 18 วัฒนธรรมขอมราชอาณาจักรกัมพูชาได้แพร่เข้ามาสู่ทวาราวดี มีการสร้างศาสนสถานขึ้นกลางเมืองชัยบุรี หรือเมืองราชบุรีเก่า สันนิษฐานว่าสร้างขึ้นในสมัยพระเจ้าชัยวรมันที่ 7 ซึ่งครองราชย์อยู่ในช่วง พ.ศ. 1725 - พ.ศ. 1760 โดยให้ปรางค์แห่งนี้เป็นศูนย์กลางของเมือง และสร้างกำแพงศิลาแลงขึ้นล้อมรอบ ตามคติความเชื่อเรื่องภูมิจักรวาลของขอม ต่อมาเมื่อขอมหมดอำนาจลง พุทธศาสนาได้แผ่เข้ามาในสุวรรณภูมิศาสนสถานของขอมแห่งนี้จึงถูกดัดแปลงมาเป็นวัดในพุทธศาสนา
พระชัยพุทธมหานาค
ในสมัยกรุงศรีอยุธยา ปรางค์และกำแพงโดยรอบที่สร้างด้วยศิลาแลงรุ่นเดียวกับปรางค์สามยอดที่ลพบุรีได้ทรุดโทรมลงตามกาลเวลาสมเด็จพระเจ้าอยู่หัวบรมโกศจึงโปรดเกล้าให้สร้างปรางค์ขึ้นใหม่บนฐานเก่า ประกอบด้วยปรางค์ประธานและปรางค์บริวารในทิศใต้ ทิศตะวันตก และทิศเหนือ ปรางค์ประธานมีมุขยื่นมาทางทิศตะวันออก มีบันไดขึ้นฐานเรือนธาตุ ส่วนยอดปรางค์ประดับด้วยลายปูนปั้นภายในองค์ปรางมีคูหาเชื่อมถึงกัน ผนังส่วนบนเขียนภาพพระพุทธเจ้าเป็นแถวเรียงต่อกัน ตอนล่างเป็นพุทธประวัติ ล้อมรอบด้วยระเบียงคดชั้นใน 1 ชั้น เป็นที่รวบรวมพระพุทธรูปจากวัดร้างในย่านนั้นเมื่อครั้งเมืองราชบุรีย้ายข้ามฝั่งแม่น้ำ พระพุทธรูปที่ระเบียงคดนี้จึงมีหลากหลายศิลปะ ทั้งทวารวดี ขอม อยุธยา และรัตนโกสินทร์
ในสมัยรัชกาลที่ 2 แห่งกรุงรัตนโกสินทร์พระบาทสมเด็จพระพุทธเลิศหล้านภาลัยได้ทรงย้ายเมืองราชบุรีจากบริเวณที่ตั้งวัด เพือชัยภูมิที่ดีกว่าในการตั้งรับข้าศึก ราษฎรจึงพากันย้ายไปอยู่เมืองใหม่ด้วย เป็นเหตุให้วัดมหาธาตุไม่มีพระสงฆ์จำพรรษา เป็นวัดร้างอยู่หลายปี ต่อมาในรัชกาลที่ 3 ราว พ.ศ. 2388มีพระภิกษุรูปหนึ่ง บุญมา ชาวเมืองสมุทรสงคราม มาปักกลดที่วัด และขอความช่วยเหลือชาวบ้านใกล้เคียงให้ช่วยกันบูรณะวัดขึ้นใหม่ มีพระสงฆ์มาจำพรรษา กลับเป็นวัดใหม่ตั้งแต่บัดนี้