堯都區古稱平陽，傳為帝堯所都。周敬王六年（公元前514年）為晉國平陽縣；戰國時為韓武子初都之地。秦置平陽縣，故治在今市區西南10千米金殿鎮，屬河東郡。西漢末王莽改香平，東漢復舊。三國魏正始八年（公元247年）于縣置平陽郡。十六國時為劉淵都。前趙置雍州，后廢。北魏太平真君二年（441年）禽昌縣治徙今區境，屬平陽郡。六年廢平陽縣。太和十一年（487年）復置，徙治今市區。孝昌二年（526年）僑置永安、隰城2縣，尋于永安縣僑置西河郡，2縣俱屬之。后廢隰城縣，置唐州，五城郡、縣及定陽郡、縣均徙治今區境，隸唐州。建義元年（528年）改晉州，徙治今市區。

東魏時定陽郡、縣治徙今介休區境。天平四年（537年）于今區境置敷城郡、縣，隸晉州。興和二年（540年）于今區境置北五城郡。北周廢五城、北五城2郡及敷城郡、縣，禽昌縣治徙今襄汾縣境。隋開皇元年（581年）改平陽縣為平河縣、永安縣為西河縣、平陽郡為平河郡，廢西河郡。三年廢平河郡，改平河縣為臨汾縣。大業三年（607年）改晉州為臨汾郡。尋廢西河縣。義寧二年（618年）改臨汾郡為平陽郡。

唐武德元年（618年）復置西河縣，改平陽郡為晉州。三年升晉州為總管府，次年升都督府，治今市區。貞觀六年（632年）廢府，復為晉州。十七年西河縣廢入臨汾縣。天寶元年（742年）改晉州為平陽郡。乾元元年（758年）復為晉州。五代梁開平四年（910年）廢晉州，置定昌軍。貞明三年（917年）改建寧軍。五代唐同光元年（923年）改建雄軍。五代晉復為晉州。

宋太平興國六年（981年）為晉州平陽郡。政和六年（1116年）升平陽府。金天會六年（1128年）于縣置河東南路。興定四年（1220年）于今市區西置平水縣，屬絳州。元廢府，改河東南路為平陽路。大德九年（1305年）改晉寧路。明洪武元年（1368年）復為平陽府。后廢平水縣，于臨汾縣置河東道。民國初年廢府、道，縣直屬省。

1948年析置臨汾市，市、縣俱屬晉南區，為行署駐地。1949年撤市入縣，屬臨汾專區，為專署駐地。1954年與運城專區合并為晉南專區，為專署駐地。1967年屬晉南地區。1970年屬臨汾地區，為行署駐地。1971年（一說1970年8月）析置臨汾市。1983年7月撤縣入市。2000年11月1日，撤銷臨汾地區和縣級臨汾市設立地級臨汾市和堯都區，臨汾市更名為臨汾市堯都區，以原縣級臨汾市的行政區劃為都區的行政區劃。區政府仍駐鼓樓東大街原址。地級臨汾市政府駐堯都區解放西路。

1997年，臨汾市轄8街道9鎮16鄉：南街街道、車站街道、辛寺街道、鼓樓西街街道、鄉賢街街道、水塔街道、解放路街道、鐵路東街道、魏村鎮、土門鎮、吳村鎮、大陽鎮、喬李鎮、北城鎮、金殿鎮、縣底鎮、劉村鎮、西頭鄉、龍祠鄉、堯廟鄉、城隍鄉、一平垣鄉、郭行鄉、東張鄉、小榆鄉、泊莊鄉、賀家莊鄉、大蘇鄉、段店鄉、枕頭鄉、賈得鄉、屯里鄉、河底鄉。市政府駐鼓樓東大街。

1999年3月8日，經省政府批準，將臨汾市北城鎮轄區劃出，設立山西省臨汾經濟術開發區（省級）。該區位于臨汾市區西北(原北城鎮)，西起汾河東堤壩，東至平陽北街南起向陽西路，北到澇河泄洪渠。總規劃面積7.8平方千米，起步區面積0.8平方千米。

2000年2月28日，屯里鄉改為屯里鎮，原行政區劃不變。同月，城市街道辦事處所的賈莊、東關、西關、鼓樓南，掛甲莊、水門街、鄉賢街、鼓樓北8個村委會改為14個居委會。6月26日，堯廟鄉改為堯廟鎮，原轄行政區劃不變。

2000年第五次人口普查，堯都區總人口724403人，其中：解放路街道36673人，西街街道30648人，水塔街道16580人，南街街道40670人，鄉賢街街道35161人，辛寺街街道17468人，路東街道52726人，車站街街道36245人，屯里鎮16640人，喬李鎮19156人，太陽鎮18339人，縣底鎮25666人，劉村鎮25891人，金殿鎮26373人，吳村鎮24022人，土門鎮21737人，魏村鎮13036人，北城鎮16514人，堯廟鄉18707人，殷店鄉33156人，賈得鄉33578人，東張鄉15178人，郭行鄉8552人，大蘇鄉9907人，城隍鄉10428人，賀家莊鄉7814人，泊莊鄉19270人，小榆鄉16308人，龍祠鄉19836人，一平垣鄉15527人，西頭鄉7008人，枕頭鄉18563人，河底鄉10190人，果樹廠虛擬街道6836人。

2001年3月，堯都區啟動撤并鄉鎮調整區劃工作，至4月底按計劃完成。原14鄉11鎮調整為6鄉10鎮：泊莊鄉并入劉村鎮，大蘇鄉并入賈得鄉，東張鄉并入段店鄉，西頭鄉并入土門鎮，龍祠鄉、小榆鄉并入金殿鎮，郭行鄉并入大陽鎮，城隍鄉并入縣底鎮；屯里鎮、堯廟鎮、吳村鎮、魏村鎮、喬李鎮、一平垣鄉、枕頭鄉、河底鄉、賀家莊鄉保持原建制。同時，北城鎮并入車站街辦事處；原果樹場轄區改設汾河辦事處，水塔街、南街，鐵路東、解放路，鄉賢街，辛寺街、鼓樓西街7個辦事處行政區劃不變。調整后，堯都區轄9個街道（水塔街、南街、鐵路東、解放路、鄉賢街、辛寺街、鼓樓西街、車站街、汾河）、10個鎮（屯里鎮、堯廟鎮、吳村鎮、魏村鎮、喬李鎮、劉村鎮、土門鎮、金殿鎮、大陽鎮、縣底鎮）、6個鄉（一平垣鄉、枕頭鄉、河底鄉、賀家莊鄉、賈得鄉、段店鄉）。（44個居委會、381個行政村）