山东和山西是相对的概念，太行山就是山东山西的界线。　

　　山东的山，古时有两个意思，一是指崤山，山东是秦国崤山以东的广大中原地区。另一个就是太行山，山东就泛指太行山以东的地区。山东作为地理名称是从战国时期开始，它是一个地域性的泛称。而山东作为政区名称，始于金代，之后再经过几次调整，才形成了如今的行政区划。山西是太行山西边的区域，是明代开始设置为省，清代延用，直至今日没有再改变。　

　　在中国行政区划中，山东与山西不接壤，中间隔着河北，只是人们习惯上说太行山是山东山西的分界山脉。