因为最初的山东省确实和山西以太行为界，现代山东省是明初朱元璋设置的，那时候整个华北平原因为战争的破坏地广人稀，所以今天的山东地区和河北地区是一个大省，因为在太行山以东，所以得名山东省。后来，河北地区分出独立建省，得名北平省，而剩下的部分保留了原来的省名，山东省的名字因此延袭下来。

山东之所以叫山东是因为山东省位于太行山以东。山东最早开始叫这个名字是在金朝，金时变更为山东东、西路；元的时候设为山东东西道；明朝为山东省，后来改为叫山东布政使司；清朝叫山东省，然后就一直沿用次名至今了。