Bangsa Jermanik, serta suku bangsa lainnya yang tinggal di Jerman dan Eropa Timur modern, adalah orang India-Eropa, yang pada awalnya datang dari Laut Hitam dan Laut Kaspia. Suatu waktu antara 3000 SM dan 2000 SM, mereka bermigrasi secara bertahap, dalam banyak gelombang, keluar dari daerah tersebut dan menyebar ke seluruh Eropa.
Sebagian berhenti di Eropa utara, di Skandinavia (Norwegia, Swedia, Denmark modern). Mereka adalah leluhur bangsa Swedia, Norwegia, dan Denmark. Sebagian pergi ke Polandia, di sana mereka menjadi suku Visigoth dan Ostrogoth.
Sebagian lainnya bermukim di Jerman, di sana mereka menjadi leluhur bangsa Jerman modern, selain juga suku Frank, Vandal, dan Suevi.
Setelah Kekaisaran Romawi runtuh, suku Visigoth berpindah ke Spanyol, sedangkan suku Ostrogoth bergerak menuju Italia. Suku Frank sendiri memasuki Prancis, namun dengan cepat menaklukan Jerman juga, sehingga pada tahun 800 M Charlemagne dapat mendirikan Kekaisaran Romawi Suci yang meliputi Prancis, Jerman, dan sebagian besar Italia tengah. Setelah Charlemagne meninggal, anak-anaknya membagi-bagi kekaisarannya menjadi tiga bagian. Keturunan yang memperoleh wilayah Jerman tetap menyebut diri mereka sebagai Kaisar Romawi Suci.
Para Kaisar Romawi Suci terus memimpin Jerman, dan hingga batas tertentu, Italia, selama Abad Pertengahan. Pada awalnya mereka sangat kuat, namun lama-kelamaan mereka kehilangan kekuasaan seiring meningkatnya pengaruh para tuan tanah di Jerman dan Italia.
