泰山在其北，取臨泰山而平安之意。漢置奉高縣。宋開寶五年（972年），乾封縣治遷岱岳鎮(zhèn)（今泰城），為境內(nèi)有縣治之始。金天會十四年（1136年），奉符設(shè)泰安軍，泰安得名始此。大定二十二年（1182年），泰安升軍為州。清雍正十三年（1735年）升州為府，設(shè)附郭泰安縣，隸山東省布政使司。民國二年（1913年），裁府留泰安縣。

泰山區(qū)行政專員公署于1940年3月在萊蕪縣成立，始隸魯中行署。1950年5月，泰山、泰西兩專署合并為泰安專署，泰城為泰安專署及泰安縣駐地。1958年6月，泰安城關(guān)鎮(zhèn)及周圍村莊劃出建立泰安市；同年11月29日，泰山市與泰安縣合并建立泰安市。1958年11月，撤銷泰安專區(qū)；1961年5月復(fù)置泰安專區(qū)。1963年4月撤泰安市復(fù)泰安縣。

1972年7月泰安專區(qū)改為泰安地區(qū)。1982年3月泰安縣再次改為泰安市。1985年5月泰安地區(qū)撤銷，成立地級泰安市，原縣級泰安市分設(shè)泰山區(qū)、郊區(qū)。2000年4月19日，國務(wù)院批準(zhǔn)將泰安市郊區(qū)更名為泰安市岱岳區(qū)，區(qū)政府駐地由泰安區(qū)遷至粥店街道粥店村西側(cè)。

1997年末，全市總?cè)丝?32.81萬人，面積7762平方千米，市政府駐泰城，轄泰山、郊區(qū)2區(qū)、寧陽、東平2縣，代管新泰、肥城2個縣級市，共有7個街道、72個鎮(zhèn)、29個鄉(xiāng)。1998年末，全市總?cè)丝?35.95萬人，面積7762平方千米，共有7個街道、72個鎮(zhèn)、29個鄉(xiāng)。1999年末，全市總?cè)丝?38.59萬人，面積7762平方千米，共有7個街道、72個鎮(zhèn)、29個鄉(xiāng)。

2000年第五次全國人口普查，泰安市總?cè)丝?334631人；其中：泰山區(qū)615720人、岱岳區(qū)922491人、寧陽縣777546人、東平縣725877人、新泰市1344395人、肥城市948602人。2000年末，全市總?cè)丝?40.74萬人，面積7762平方千米，共有8個街道、61個鎮(zhèn)、17個鄉(xiāng)。2001年末，全市總?cè)丝?43.08萬人，面積7762平方千米，共有8個街道、61個鎮(zhèn)、17個鄉(xiāng)。2002年末，全市共有10個街道、61個鎮(zhèn)、15個鄉(xiāng)。