夏朝,鶴壁地域分屬冀、兗、豫三州。商朝,屬畿內地。春秋時,屬衛、晉。戰國時,先后屬趙、魏。公元前510年,齊桓公在鶴壁西牟山側設中牟邑。公元前425年,趙國遷都中牟,歷時39年。
西漢初年,置黎陽縣(今浚縣)、朝歌縣(今淇縣)、蕩陰縣(鶴壁屬之)。東魏孝靜帝天平元年(公元543年),廢蕩陰縣入鄴。隋開皇六年(586年),復置蕩陰縣。開皇十六年(596年),改蕩陰縣為蕩源縣,治所在故縣(今鶴壁市郊)。唐、宋、元時期,鶴壁地域建置多有變化。黎陽曾為郡、軍、府、州治所,朝歌曾為州、郡治所。
明初,置浚縣、淇縣、湯陰縣(鶴壁屬之),分屬大名府、衛輝府、彰德府。民國時期,浚縣、淇縣、湯陰縣屬河南省河北道,后改屬第三督察專員公署。
中華人民共和國建立后,浚縣、淇縣、湯陰縣屬平原省安陽專署。1953年改屬河南省安陽專署。1954年,淇縣并入湯陰縣(1962年恢復淇縣建置)。1957年3月,湯陰縣地置鶴壁市,為省轄市,委托安陽專署領導,后改為省直接領導。1958年12月,安陽專署撤銷,鶴壁市曾一度歸新鄉專署領導。1961年12月恢復安陽專署,又改歸安陽專區。1960年10月-1961年11月,湯陰縣劃歸鶴壁市。1986年1月,浚縣、淇縣劃歸鶴壁市管轄。
1957年,設置鶴壁市。鶴壁市的行政區域為湯陰縣的鶴壁、鹿樓、東瓦、羅村、石門、施家溝、西頂等7個鄉和東柴廠、西柴廠、西扒廠等3個自然村。市人民委員會暫駐鶴壁集。隨著二礦、三礦的建設,1957年12月市區南移到中山。后又隨著五礦、六礦的建設,1959年,市區又從中山遷到現在的老區大胡。隨著礦區的發展,市區的周圍基本上都是塌陷區,城市的發展受到制約。1992年,鶴壁決定建立淇濱經濟開發區。1999年5月市政治中心遷到淇濱開發區,目前新區已成為鶴壁市新的政治、經濟、文化中心。
1997年,鶴壁市面積2181平方千米,人口129.2萬,轄山城區、鶴山區、郊區3個區和淇縣、浚縣2個縣。市政府駐山城區。
2000年,據第五次全國人口普查數據:鶴壁市總人口1401872人;鶴山區140130人、山城區239730人、郊區115476人、浚縣656550人、淇縣249986人。
2001年12月26日,國務院批準,鶴壁市郊區更名為淇濱區,同時鶴壁市人民政府駐地遷至淇濱區。
截至2005年12月31日,鶴壁市轄3個市轄區、2個縣;全市共有11個街道、12個鎮、12個鄉。