1938年10月，苏鲁豫皖边区省委为适应党的事业发展和抗日战争需要，决定建立边区省委党校。由省委书记郭洪涛兼任校长。党校的公开名称是山东抗日军政干部学校分校（简称干分校），最初设在沂水县岸堤西北部白佛寺（今沂南县中高湖乡石旺庄）。

1938年12月，根据中央决定，苏鲁豫皖边区省委改为中共山东分局，党校也由边区省委党校改为山东分局党校。先后由白佛寺迁到沂水县朱位和夏蔚。1939年10月，郭洪涛赴延安，朱瑞任分局书记兼党校校长。

1940年12月，根据中央指示建立分局高级党校，分局书记朱瑞兼校长，肖华兼副校长。1943年9月，罗荣桓任山东分局书记兼党校校长，分局高级党校复改为分局党校。

1949年9月，山东分局筹建党校，分局委员、宣传部长彭康任校长，校址在济南市经八纬一路（现省委机关大院），1951年迁至经七纬八路。

1955年1月，中共中央山东分局改为中共山东省委，校名随之改为中共山东省委党校。

1955年4月，省委根据中央会议精神，决定建立中级党校，山东省委决定将山东行政学院、政治学校与党校合并建立中央第四中级党校，省委常委、宣传部长夏征农兼任校长，承担山东、安徽两省的中级干部和山东省的初级领导骨干的轮训任务。

1957年7月，中央第四中级党校改由山东省委管理，1958年12月1日复名为中共山东省委党校。

2018年10月，原中共山东省委党校、山东行政学院、中共山东省委省直机关党校合并，组建为中共山东省委党校（山东行政学院）。