1、在古代，山西山东的山一是崤山，二是华山。
2、在古代，作为地区名的“山西”，最初并不指今山西省地区。从文献记载来看，战国至西汉，人们是以崤山（今河南省三门峡市东南）或华山（今陕西省华县东）为界来区分山东、山西地区的，当时的“山西”，是指函谷关以西地区，主要是指以秦都咸阳、汉都长安，即今陕西省西安市为中心的地区；当时的“山东”，主要指函谷关以东的黄河流域（包括今天的山西地区），有时也泛指战国时期秦国以外的六国领土。比如《史记》常有山东豪杰如何如何，就是指的这层含义。
3、在现在， 山西山东的山是指太行山，山西东为太行，西为吕梁。
4、到了东汉，开始以太行山为界划分山东、山西，东汉光武帝曾称赞大将邓禹“斩将破军，平定山西”，即是指今天的山西省地区。