山东与山西的“山”是指太行山脉，历史上山东、山西的边界是相邻的，当时的太行山脉，恰好是两省之间的天然分界线。
太行山脉位于山西省与华北平原之间，纵跨北京、河北、山西、河南4省、市。
山脉北起北京市西山，向南延伸至河南与山西交界地区的王屋山，西接山西高原，东临华北平原，呈东北—西南走向，绵延400余公里。