三國魏黃初二年（221年），析列人、邯溝縣地始置肥鄉縣，“其故城在今肥鄉縣西二十二里”。東魏天平元年（534年），肥鄉縣并入臨漳縣。隋開皇十年（590年）復置肥鄉縣，縣城遷于今址。唐會昌三年（843年），清漳縣并入肥鄉縣。金天會七年（1129年），肥鄉縣領新安鎮。

1958年7月30日，廣平縣并入肥鄉縣；同年10月，撤銷肥鄉縣，將其所轄的行政區域除天臺山公社劃歸永年縣外、其余部分全部劃歸曲周縣。1961年6月1日，恢復肥鄉縣建制，永年縣將原肥鄉縣所轄的天臺山、張達、白落堡、辛安鎮、大西韓、大寺上6個公社劃歸肥鄉縣。1962年3月1日，原廣平縣從肥鄉縣分出，同年又將趙村、積善2村再劃回肥鄉縣。

1984年3月，撤銷公社，全縣改設19個鄉鎮。1996年6月，常耳寨鄉、翟固鄉并入肥鄉鎮；張達鄉并入天臺山鎮；大寺上鄉并入大西韓鄉；白落堡鄉并入辛安鎮鄉；崔莊鄉并入毛演堡鄉；北高鄉并入舊店鄉；河頭堡鄉并入屯莊營鄉；河頭堡鄉并入元固鄉；北口鄉并入東漳堡鄉。調整后，肥鄉縣轄2個鎮、7個鄉：肥鄉鎮、天臺山鎮、大韓鄉、毛演堡鄉、元固鄉、屯莊營鄉、東漳堡鄉、舊店鄉、辛安鎮鄉。共有263個行政村，242個自然村。總面積496平方千米，總人口約29萬人，縣政府駐肥鄉鎮。

2000年第五次人口普查，肥鄉縣常住總人口308105人，其中：肥鄉鎮64331人，天臺山鎮35775人，大西韓鄉28903人，辛安鎮鄉25445人，毛演堡鄉33845人，元周鄉36704人，屯莊營鄉25539人，東漳堡鄉29263人，舊店鄉28300人。

2002年，肥鄉縣面積496平方千米，人口約31.52萬人。轄肥鄉、天臺山2個鎮和東漳堡、辛安鎮、舊店、大西韓、屯莊營、元固、毛演堡7個鄉，263個行政村。縣政府駐肥鄉鎮廣安路。　肥鄉鎮面積80.4平方千米，人口6.91萬人，鎮政府駐李莊村，轄李莊、北街、東街、南街、西街、鄭村、前屯、常莊、東關、南關、北關、西關、辛廟、曹莊、趙莊、趙寨、蔡莊、辛莊、申莊、高莊、城西、鋪上、梁莊、潘村、東北莊、后翟固、前翟固、東張寨、西張寨、常耳寨、城南堡、前黃寨、后黃寨、打席營、勒馬臺、郭家堡、龍堂堡、南西落堡、北西落堡39個行政村。　天臺山鎮面積59.28平方千米，人口3.59萬人，鎮政府駐天臺山村，轄天臺山、南王固、北王固、東馬固、西馬固、南杜齊、北杜齊、南謝堡、北謝堡、宜官堡、大康堡、韓堡、李堡、鄭堡、張達、吳堡、肖莊、焦堡、支村、任堡22個行政村。　東漳堡鄉面積53.5平方千米，人口2.90萬人，鄉政府駐東漳堡村，轄東漳堡、西趙寨、東趙寨、前劉寨、后劉寨、西南口、東南口、前北口、后北口、東大靳、西大靳、北大靳、瓜精莊、井王莊、小移莊、雞澤屯、東呂口、山字丘、前大移莊、后大移莊、李莊、宋莊、小靳、北行、中行、南行、東趙、西趙、小營、靳莊、井頭、薛莊、積善34個行政村。　辛安鎮鄉面積45.03平方千米，人口2.55萬人，鄉政府駐辛安鎮村，轄辛安鎮、西南莊、小漳堡、失駕堡、孟宋堡、前賈莊、后賈莊、東杜堡、西杜堡、孟郭莊、小康堡、孟陶莊、北河堡、孟張莊、西賈北堡、東賈北堡、前白落堡、后白落堡、中白落堡、前趙云堡、后趙云堡、范莊、史莊、潘寨、楊莊25個行政村。　舊店鄉面積54.85平方千米，人口2.85萬人，鄉政府駐西北高村，轄西北高、東北高、西馬寨、東馬寨、東辛寨、西辛寨、北河馬、東路莊、西路莊、中辛店、東辛店、西辛店、東營、南莊、溫莊、焦寨、賈寨、北營、楊莊、舊店、許莊、南營26個行政村。　大西韓鄉面積45.28平方千米，人口2.90萬人，鄉政府駐大寺上村，轄大寺上、小寺上、后寺上、馬小屯、粉房頭、寨中堡、小南頭、逯家堡、杜湯堡、大西韓、南西韓、東荊科、西荊科、呂家堡、東莊上、東張莊、西張莊、西高家寨、東高家寨、北相公莊、南相公莊、唐疃、程莊、柳莊、崔莊、韓屯、李莊、鄭莊28個行政村。　屯莊營鄉面積53.73平方千米，人口2.55萬人，鄉政府駐屯莊營村，轄屯莊營、劉寨營、南屯莊、西吾吉、東吾吉、孔倉堡、南河馬、大西高、小西高、西呂營、北屯莊、田寨、申營、后營、房莊、趙莊、鄧莊、楊莊、柴莊、賀營、程寨、周寨22個行政村。　元固鄉面積55.76平方千米，人口2.75萬人，鄉政府駐前元固村，轄前元固、西元固、東元固、西彭固、索家寨、八里莊、西賢店、三里堤、東屯莊、西屯莊、戶部李莊、東河頭堡、西河頭堡、前油胡寨、后油胡寨、中油胡寨、李堡、平莊、李莊、楊莊、沙窩、袁莊、王莊、謝村、胡莊、郝莊、韓莊27個行政村。　毛演堡鄉面積54.53平方千米，人口3.50萬人，鄉政府駐毛演堡村，轄毛演堡、侯寅堡、前王固、后王固、姚宮院、東謝店、西謝店、東長橋、南長橋、南元寨、李焦寨、李興堡、郝家堡、郭焦寨、百戶寨、王焦寨、水劉莊、魏莊、牛村、周莊、袁莊、杜寨、陳莊、史寨、趙莊、張村、林寨、姚莊、崔莊、辛莊、路堡、風火、東魏、孫莊、卜寨、前街、后街、孔寨、后屯40個行政村。

2010年第六次人口普查，肥鄉縣常住總人口351690人，其中：肥鄉鎮77971人，天臺山鎮39728人，大西韓鄉31971人，辛安鎮鄉28492人，毛演堡鄉39348人，元固鄉41515人，屯莊營鄉30169人，東漳堡鄉31573人，舊店鄉30923人。

2013年，撤銷辛安鎮鄉，設立辛安鎮鎮（冀民函[2013]176號）。調整后，全縣轄3個鎮、6個鄉：肥鄉鎮、天臺山鎮、辛安鎮鎮、大西韓鄉、毛演堡鄉、元固鄉、屯莊營鄉、東漳堡鄉、舊店鄉。