輝縣市遠(yuǎn)古時(shí)期為共工氏部族居地。夏屬冀州之域，殷商系畿內(nèi)地，周稱凡國、共國。春秋屬衛(wèi)，戰(zhàn)國歸魏，秦屬三川郡。西漢，縣境東部置共縣，西部屬山陽縣。隋開皇六年（596年），省山陽縣，改置共城縣。唐武德元年（618年），置共州，轄共城、凡城二縣；武德四年廢州，并凡城縣入共城縣。金大定二十九年（1189年），避顯宗允恭（共之諧音）之諱，改稱為河平縣；明昌三年（1192年）又改稱蘇門縣；貞祐三年（1215年）升蘇門縣為輝州；“輝”得名于蘇門山下百泉湖畔的威惠王祠之清輝殿（取謝靈運(yùn)“山水含清輝”詩名命名）。

明洪武元年（1368年）廢州立縣，改輝州為輝縣，屬河南省布政使司衛(wèi)輝府。1938年2月日軍入侵輝縣，1943年至1944年，中共太行區(qū)委根據(jù)抗戰(zhàn)形勢(shì)，將原輝縣相繼劃為輝縣（后改輝北縣）、輝嘉、新鄉(xiāng)（后改輝縣）三縣。1945年8月抗戰(zhàn)勝利，1946年6月三縣合并為輝縣。建國后，輝縣屬平原省新鄉(xiāng)專區(qū)。1952年11月平原省撤銷，改屬河南省新鄉(xiāng)專區(qū)。1986年新鄉(xiāng)專區(qū)撤銷，改屬新鄉(xiāng)市。1988年10月，撤銷輝縣，設(shè)立輝縣市，為河南省轄縣級(jí)市，由新鄉(xiāng)市代管。

1996年，輝縣市面積2007平方千米，人口75.9萬人。轄11個(gè)鎮(zhèn)、15個(gè)鄉(xiāng)：城關(guān)鎮(zhèn)、峪河鎮(zhèn)、南村鎮(zhèn)、吳村鎮(zhèn)、孟莊鎮(zhèn)、薄壁鎮(zhèn)、百泉鎮(zhèn)、常村鎮(zhèn)、南寨鎮(zhèn)、上八里鎮(zhèn)、北云門鎮(zhèn)、沙窯鄉(xiāng)、洪洲鄉(xiāng)、拍石頭鄉(xiāng)、高莊鄉(xiāng)、西平羅鄉(xiāng)、黃水鄉(xiāng)、褚邱鄉(xiāng)、三郊口鄉(xiāng)、趙固鄉(xiāng)、贊城鄉(xiāng)、胡橋鄉(xiāng)、張村鄉(xiāng)、冀屯鄉(xiāng)、后莊鄉(xiāng)、王敬屯鄉(xiāng)。市政府駐城關(guān)鎮(zhèn)。

2000年，輝縣市轄12個(gè)鎮(zhèn)、14個(gè)鄉(xiāng)。第五次人口普查，輝縣市總?cè)丝?76326人，其中：城關(guān)鎮(zhèn)72896人、薄壁鎮(zhèn)38449人、峪河鎮(zhèn)46788人、百泉鎮(zhèn)77910人、孟莊鎮(zhèn)58598人、常村鎮(zhèn)41558人、吳村鎮(zhèn)41769人、南村鎮(zhèn)27062人、南寨鎮(zhèn)16976人、上八里鎮(zhèn)17991人、北云門鎮(zhèn)46845人、贊城鎮(zhèn)36465人、黃水鄉(xiāng)11177人、拍石頭鄉(xiāng)11342人、高莊鄉(xiāng)41180人、張村鄉(xiāng)16277人、褚邱鄉(xiāng)19224人、冀屯鄉(xiāng)26507人、三郊口鄉(xiāng)4416人、洪洲鄉(xiāng)9166人、后莊鄉(xiāng)6384人、趙固鄉(xiāng)40628人、西平羅鄉(xiāng)19485人、胡橋鄉(xiāng)29328人、沙窯鄉(xiāng)5110人、王敬屯鄉(xiāng)12795人。

2004年，全市總?cè)丝?86435人，其中農(nóng)業(yè)人口220974人，非農(nóng)業(yè)人口565461人。

2005年，輝縣市鄉(xiāng)鎮(zhèn)區(qū)劃調(diào)整：撤銷三郊口鄉(xiāng)，將其行政區(qū)域劃歸南寨鎮(zhèn)管轄，南寨鎮(zhèn)人民政府駐地不變；撤銷后莊鄉(xiāng)，將其行政區(qū)域劃歸沙窯鄉(xiāng)管轄，沙窯鄉(xiāng)人民政府駐地不變；撤銷王敬屯鄉(xiāng)，將其行政區(qū)域劃歸吳村鎮(zhèn)管轄，吳村鎮(zhèn)人民政府駐地不變；撤銷褚邱鄉(xiāng)，將其行政區(qū)域劃歸冀屯鄉(xiāng)管轄，冀屯鄉(xiāng)人民政府駐地不變；撤銷城關(guān)鎮(zhèn)，設(shè)立城關(guān)街道；撤銷胡橋鄉(xiāng)，設(shè)立胡橋街道。調(diào)整后，輝縣市轄2個(gè)街道、11個(gè)鎮(zhèn)、9個(gè)鄉(xiāng)：城關(guān)街道、胡橋街道、峪河鎮(zhèn)、百泉鎮(zhèn)、薄壁鎮(zhèn)、孟莊鎮(zhèn)、南寨鎮(zhèn)、上八里鎮(zhèn)、常村鎮(zhèn)、吳村鎮(zhèn)、贊城鎮(zhèn)、北云門鎮(zhèn)、南村鎮(zhèn)、黃水鄉(xiāng)、高莊鄉(xiāng)、張村鄉(xiāng)、洪洲鄉(xiāng)、西平羅鄉(xiāng)、拍石頭鄉(xiāng)、趙固鄉(xiāng)、沙窯鄉(xiāng)、冀屯鄉(xiāng)。（22個(gè)居委會(huì)、533個(gè)行政村）

2010年，撤銷冀屯鄉(xiāng)，設(shè)立冀屯鎮(zhèn)。調(diào)整后，全市轄2個(gè)街道、12個(gè)鎮(zhèn)、8個(gè)鄉(xiāng)：城關(guān)街道、胡橋街道、薄壁鎮(zhèn)、峪河鎮(zhèn)、百泉鎮(zhèn)、孟莊鎮(zhèn)、常村鎮(zhèn)、吳村鎮(zhèn)、南村鎮(zhèn)、南寨鎮(zhèn)、上八里鎮(zhèn)、北云門鎮(zhèn)、占城鎮(zhèn)、冀屯鎮(zhèn)、黃水鄉(xiāng)、高莊鄉(xiāng)、張村鄉(xiāng)、洪洲鄉(xiāng)、西平羅鄉(xiāng)、拍石頭鄉(xiāng)、 趙固鄉(xiāng)、沙窯鄉(xiāng)。