หมู่บ้านญี่ปุ่น ตั้งอยู่บนฝั่งตะวันออกของแม่นํ้าเจ้าพระยา เป็นถิ่นที่อยู่ดั้งเดิมของชุมชนชาวญี่ปุ่นในสมัยอยุธยา อยู่ตรงข้ามกับหมู่บ้านโปรตุเกส ซึ่งเป็นที่ตั้งของชุมชนชาวต่างชาติที่เดินทางมาค้าขายในกรุงศรีอยุธยา ไม่ว่าจะเป็นหมู่บ้านโปรตุเกส ฮอลันดา อังกฤษ โดยต่างได้รับพระราชทานที่ดินตั้งชุมชนบ้านเรือนอยู่บริเวณใกล้เคียงกัน
หมู่บ้านญี่ปุ่น ได้รับการปรับปรุงครั้งแรก ในปี พ.ศ.2529 โดยรัฐบาลญี่ปุ่นให้เงินช่วยเหลือแบบให้เปล่า 999 ล้านเยน (ประมาณ 170 ล้านบาทไทยในขณะนั้น) เนื่องในโอกาสที่พระบาทสมเด็จพระปรมินทรมหาภูมิพลอดุลยเดช ทรงเจริญพระชนมพรรษาครบ 60 พรรษา (พ.ศ.2530) และเป็นที่ระลึกในโอกาสครบรอบ 100 ปี ความสัมพันธ์ทางการทูตไทย-ญี่ปุ่น
สมาคมฯ ได้มีการปรับปรุงหมู่บ้านญี่ปุ่นได้ดำเนินมาอย่างต่อเนื่อง ได้แก่
