วัดช้างใหญ่สร้างในสมัยกรุงศรีอยุธยาประมาณ พ.ศ. 2250 ผู้สร้างวัดสันนิษฐานว่าเป็นชาวมอญที่มาพึ่งพระบรมโพธิสมภารในสมเด็จพระเจ้าอยู่หัวบรมโกศ พื้นที่บริเวณนี้เคยเป็นที่ต้องของเพนียดคล้องช้าง เป็นที่ต่อช้างฝึกช้างป่าและเป็นที่อยู่ของช้างป่าจำนวนมาก คาดว่าชาวมอญที่ร่วมกันสร้างวัดช้างใหญ่แห่งนี้คือชาวมอญที่ทำหน้าที่ดูแลช้างสำคัญ และช้างที่ชาวมอญดูแลนั้นมีช้างศึกของสมเด็จพระนเรศวรรวมอยู่ด้วย

อาคารเสนาสนะที่สำคัญ ได้แก่ อุโบสถก่ออิฐก่อถือปูน ขนาดกว้าง 9.00 เมตร ยาว 15.00 เมตร มีเสาและเครื่องบนเป็นไม้ มุงกระเบื้องดินเผา มีพาไลยื่นออกมาทางด้านหน้าอาคารตามแบบอย่างสถาปัตยกรรมสมัยอยุธยาตอนปลายถึงรัตนโกสินทร์ตอนต้น ผนังภายนอกด้านหน้าปรากฏร่องรอยจิตรกรรมฝาผนัง ประดับข้างช่องประตูภายในอุโบสถปรากฏจิตรกรรมเป็นภาพพระพุทธเจ้าผจญมาร และเทพชุมนุม เจดีย์รายตั้งอยู่ทางทิศเหนือของอุโบสถ เป็นเจดีย์ก่ออิฐถือปูน ลักษณะทางรูปแบบสถาปัตยกรรมเป็นเจดีย์ทรงเครื่อง ตั้งอยู่บนฐานสี่เหลี่ยมย่อมุม กำหนดอายุได้ราวสมัยอยุธยา ตอนปลายถึงรัตนโกสินทร์ตอนต้น ภายในวัดยังมีอนุสรณ์เจ้าพระยาปราบหงสาวดี