濟源因濟水發源地而得名。隋開皇十六年（596年）置濟源縣，元改濟源縣為原州，后廢州復為縣。1988年撤縣設市，1997年實行省直管體制。

1996年，濟源市面積1965平方千米，人口約62.5萬人。轄4個街道、6個鎮、6個鄉：濟水街道、雙橋街道、北海街道、天壇街道、五龍口鎮、軹城鎮、坡頭鎮、邵原鎮、承留鎮、克井鎮、下冶鄉、大峪鄉、王屋鄉、亞橋鄉、思禮鄉、梨林鄉。市府駐濟水街道轄區內。

2000年，濟源市轄4個街道、8個鎮、4個鄉。第五次人口普查，全市總人口626478人，其中：濟水街道40186人、北海街道31426人、雙橋街道25211人、天壇街道22679人、克井鎮62262人、五龍口鎮47216人、軹城鎮77930人、承留鎮60270人、邵原鎮38505人、坡頭鎮25808人、梨林鎮40662人、大峪鎮31661人、亞橋鄉33541人、思禮鄉26983人、王屋鄉29914人、下冶鄉32224人。

？年，濟源市轄4個街道、8個鎮、4個鄉，50個居委會、484個行政村。濟水街道轄12個居委會、1個社區，雙橋街道轄11個居委會、1個社區，北海街道轄14個居委會、1個社區，天壇街道轄12個居委會、1個社區，克井鎮轄51個行政村，五龍口鎮轄31個行政村，梨林鎮轄45個行政村，軹城鎮轄72個行政村，承留鎮轄49個行政村，坡頭鎮轄24個行政村，大峪鎮轄30個行政村，邵原鎮轄50個行政村，亞橋鄉轄23個行政村，思禮鄉轄27個行政村，王屋鄉轄44個行政村，下冶鄉轄38個行政村。

2005年末，濟源市轄4個街道、8個鎮、4個鄉：天壇街道、雙橋街道、北海街道、濟水街道；五龍口鎮、克井鎮、邵原鎮、坡頭鎮、軹城鎮、承留鎮、大峪鎮、梨林鎮；思禮鄉、王屋鄉、下冶鄉、亞橋鄉。

2007年，經河南省政府批準，撤銷思禮鄉、下冶鄉、王屋鄉、亞橋鄉，分別設立思禮鎮、下冶鎮、王屋鎮和玉泉街道，同時將雙橋街道更名為沁園街道。調整后，全市轄5個街道、11個鎮：沁園街道、濟水街道、北海街道、天壇街道、玉泉街道、克井鎮、五龍口鎮、軹城鎮、承留鎮、邵原鎮、坡頭鎮、梨林鎮、大峪鎮、思禮鎮、王屋鎮、下冶鎮。