磁縣在春秋時屬晉地，戰國時歸趙，秦屬邯鄲郡。漢時置梁期縣。三國魏黃初三年（222年）設臨水縣（今磁縣城）。北周保定元年（561年）置滏陽縣和成安郡。隋開皇十年（590年）置慈州（治所在今磁州），以縣西九十里有磁山產磁石而得名，領滏陽、臨水二縣。之后兩廢一置。唐永泰元年（765年）復置礠州，加石字旁，以與河東慈州相區別。天祐三年（906年），因與河東慈州音同，改為惠州。后梁復為礠州。

宋政和三年（1113年），礠州改為磁州。元末州縣俱廢。明洪武元年（1368年）復置磁州，屬廣平府。翌年改屬河南彰德府，領武安、涉縣二縣。清雍正四年（1726年）因“永邯爭水”，復屬直隸廣平府，不再領縣。民國二年（1913年）磁州降為磁縣，屬直隸省冀南道。民國3年屬大名道，民國17年廢道，直屬于河北省。民國30年（1941年）縣抗日民主政府屬晉冀魯豫邊區太行五專署。民國31年與武安縣、邯鄲縣部分地區組成磁武縣。

民國34年（1945年）全縣解放，恢復原建制，屬第六專署，縣政府駐地在今峰峰礦區彭城。1946年后歷屬太行區三專區、五專區、六專區。1948年9月屬華北行政區六專區。1949年屬河北省邯鄲專區，縣政府駐今磁州。1958年11月臨漳、成安二縣并入磁縣。1960年5月邯鄲專區撤銷，磁縣屬邯鄲市。1961年復屬邯鄲專區，5月成安、臨漳二縣分出，恢復原建制。1970年專區改為地區，磁縣屬邯鄲地區。1993年7月地市合并，屬邯鄲市。

1984年全縣改置6鎮29鄉。1996年1月改置為6鎮13鄉，即磁州鎮、白土鎮、觀臺鎮、林坦鎮、岳城鎮、高臾鎮、黃沙鄉、路村營鄉、賈壁鄉、都黨鄉、陶泉鄉、南城鄉、辛莊營鄉、花官營鄉、時村營鄉、講武城鄉、西固義鄉、西光錄鄉、臺城鄉。即開河鄉、北來村鄉、槐樹鄉并入磁州鎮，五合鄉并入白土鎮，東古佛鄉并入林坦鎮，白塔鄉并入高臾鎮，杜村鄉并入西光錄鄉，申莊鄉并入講武城鄉，下莊店鄉并入路村營鄉，楊家堂鄉并入北賈壁鄉，岔口鄉并入陶泉鄉，史村鄉并入南城鄉，李莊鄉并入辛莊營鄉，東城營鄉并入花官營鄉，駙馬溝鄉并入西固義鄉，林峰鄉并入臺城鄉。全縣面積1014平方千米，人口約59.8萬人。

1998年12月，西光錄、黃沙、講武城3鄉改置為鎮，全縣轄9鎮10鄉，即磁州鎮、西光錄鎮、高臾鎮、岳城鎮、觀臺鎮、林坦鎮、黃沙鎮、白土鎮、講武城鎮、路村營鄉、西固義鄉、辛莊營鄉、花官營鄉、時村營鄉、南城鄉、臺城鄉、陶泉鄉、都黨鄉、賈璧鄉。

2000年第五次人口普查，磁縣常住總人口634470人，其中：磁州鎮124082人，高臾鎮39877人，西光錄鎮35585人，講武城鎮46581人，岳城鎮32983人，觀臺鎮31946人，林坦鎮30566人，白土鎮21863人，黃沙鎮16447人，路村營鄉21913人，西固義鄉21005人，辛莊營鄉39400人，花官營鄉32769人，時村營鄉25310人，南城鄉24173人，臺城鄉23998人，陶泉鄉19691人，都黨鄉16547人，北賈璧鄉29734人。

2002年，磁縣面積1035平方千米，人口約63.6萬人。轄講武城、黃沙、磁州、高臾、觀臺、光祿、岳城、林壇、白土9個鎮和路村營、西固義、陶泉、辛莊營、花官營、時村營、南城、臺城、都黨、北賈璧10個鄉，18個社區、372個行政村。縣政府駐磁州鎮。

2010年第六次人口普查，磁縣常住總人口677884人，其中：磁州鎮143465人，高臾鎮46259人，西光祿鎮42315人，講武城鎮48065人，岳城鎮35428人，觀臺鎮32198人，林坦鎮31123人，白土鎮21135人，黃沙鎮16579人，路村營鄉23815人，西固義鄉21795人，辛莊營鄉43575人，花官營鄉34947人，時村營鄉26392人，南城鄉23057人，臺城鄉26647人，陶泉鄉16478人，都黨鄉16009人，北賈壁鄉28602人。