山东大约有八百五十年的历史，山东作为地区名称，历史上出现很早，而且变化很大。
春秋时期，晋国居太行山以西，称太行山以东为“山东”。战国、秦、汉时期，山东是指崤函（崤山与函谷关）以东地区。因为秦在关中，故称崤函以东六国(楚、齐、韩、魏、赵、燕)为山东六国，或云“关东六国”。此时山东与关东意义相同。如先秦著作《管子》一书，就有“楚为山东之强国”语。汉初贾谊的《过秦论》多次用山东提法，“秦并兼诸侯山东三十余郡”，“山东之国”、“山东豪俊”、“山东大扰”等，山东皆指崤函以东地区。清代叶圭绶《续山东考古录》卷一说：“山东之称，古或指关东言，或指太行山以东言，不专指今山东也。”秦汉一统之后，关中与山东(或关东)在政治上的对立消失，山东的含义也发生了变化，出现广、狭两义。广义的山东是沿袭战国时的旧概念，狭义的有专指齐鲁地区的意义了。齐鲁之有山东之称，当滥觞于此。至于山东成为行政区划，是又经历了数百年演变过程的。至于目前山东地区的行政归属，夏殷时期不可详考，大部分归夏、商统治。西周至春秋时期，该地方国林立，除齐、鲁两大国外，主要的还有曹、滕、薛、郯、莒、纪、莱、谭等，还有宋、卫的一部分。战国时期，山东地区被齐、鲁两国控制。战国末年，除南部和西北部一部分分属楚、赵外，都被齐国统一。秦统一六国后，山东地区被置为郡县，如齐郡、琅邪、东海、东郡、薛郡等都在山东范围。汉初封王，山东大部分地区封给了齐王刘肥。汉武帝时削弱封国诸侯王势力，初置十三郡州，山东置青、兖、徐三州，下置郡、国、县。之后数朝行政区划有所变动，但基本变化不大。唐代将全国分为十道，山东地区分属河南道和河北道；北宋改道为路，全国分为二十四路，山东分属京东东路和京东西路。金大定八年置山东东、西路统军司，治益都(今山东青州市)，统辖山东地区。至此，“山东”正式成为一个行政区之名称。金大定八年是公元1168，也就是说，山东作为一个行政区的名字，历史大约850年。元代置山东东西道肃政廉访司及山东东西道宣尉司，直隶中书省，称为“腹里”。明洪武元年(1368年)，置山东行中书省，治山东青州，后移治济南，又改置山东承宣布政使司。至清代才将山东政区正式定名为山东省。此后沿用不变。
