ญี่ปุ่นแบ่งการปกครองออกเป็น 47 จังหวัด และ แบ่งภาคออกเป็น 8 ภูมิภาค ซึ่งมักจะถูกจับเข้ากลุ่มตามเขตแดนที่ติดกันที่มีวัฒนธรรมและสำเนียงการพูดใกล้เคียงกัน ทุกจังหวัดมีผู้ว่าราชการจังหวัดเป็นผู้บริหาร

       ในแต่ละจังหวัดมีการแบ่งเขตย่อยลงไปเป็นเมืองและหมู่บ้าน แต่ในปัจจุบันกำลังมีการปรับโครงสร้างการแบ่งเขตการปกครองโดยการรวมเขตย่อยที่อยู่ใกล้เคียงกันเข้าด้วยกัน ซึ่งจะช่วยลดจำนวนเขตการปกครองย่อยและช่วยลดค่าใช้จ่ายในการบริหารเขตลงได้ การรวมเขตการปกครองนี้เป็นนโยบายที่ได้รับการสนับสนุนจากรัฐบาล โดยมีการคาดการณ์ที่จะลดจาก 3,232 เขตใน พ.ศ. 2542 ให้เหลือ 1,773 เขตใน พ.ศ. 2553

        ประเทศญี่ปุ่นมีเมืองใหญ่เป็นจำนวนมาก ซึ่งแต่ละเมืองต่างมีส่วนสำคัญในการพัฒนาประเทศทั้งทางด้าน เศรษฐกิจ สังคม และวัฒนธรรม รวมถึงมีสำเนียงภาษาที่แตกต่างกันออกไป