戰國為韓滎陽邑，秦置滎陽縣，因地處滎澤之北而得名。滎澤是一處遼闊的積水地，《禹貢》稱之為滎波。王莽末年，滎澤干涸，成為平地。唐代更名武泰縣，宋熙寧五年（1072）并入管城縣，元祐元年（1086）復置滎陽縣。1994年4月撤縣改滎陽市。

1996年?，滎陽市面積954.8平方千米，人口63.4萬人。轄10個鎮、5個鄉：城關鎮、崔廟鎮、賈峪鎮、豫龍鎮、廣武鎮、汜水鎮、峽窩鎮、王村鎮、高陽鎮、劉河鎮、城關鄉、喬樓鄉、高村鄉、北邙鄉、廟子鄉。市政府駐城關鎮。

2000年，滎陽市轄11個鎮、4個鄉。第五次人口普查，滎陽市總人口619840人，其中：城關鎮78704人、喬樓鎮46523人、豫龍鎮51758人、廣武鎮80915人、王村鎮51525人、汜水鎮22922人、高陽鎮29167人、峽窩鎮31916人、劉河鎮20318人、崔廟鎮48460人、賈峪鎮49568人、城關鄉52785人、高村鄉36699人、北邙鄉13547人、廟子鄉5033人。

2004年7月，將滎陽市峽窩鎮整建制劃歸上街區管轄。按照《河南省民政廳關于調整鄭州市上街區和滎陽市行政區劃的批復》（豫民行批[2004]4號），滎陽市峽窩鎮整建制劃歸上街區管轄。調整前，全市總面積955平方千米。

2004年11月6日，滎陽市人民政府（滎政文[2004]190號）通知：根據《河南省民政廳關于滎陽市高陽鎮更名高山鎮的批復》（豫民行批[2004]8號），經省人民政府批準，高陽鎮更名為高山鎮。

2005年滎陽市鄉鎮區劃調整：撤銷廟子鄉，并入劉河鎮，劉河鎮駐地不變；撤銷北邙鄉，并入高村鄉，高村鄉駐地不變。調整后，滎陽市轄2個街道、9個鎮、3個鄉：京城路街道、索河街道、廣武鎮、崔廟鎮、豫龍鎮、王村鎮、汜水鎮、高山鎮、劉河鎮、賈峪鎮、喬樓鎮、城關鄉、高村鄉、金寨回族鄉。