春秋時屬晉國，元朝設晉州，民國二年改晉縣。州、縣皆晉國而得名。春秋時名為鼓國，屬鉅鹿郡，城址在今鼓城村。西漢時開始建縣，為下曲陽。后魏改稱下曲陽，縣治均在鼓城村（原名坡城）。北齊廢除曲陽縣并入藁城。隋開皇十六年（596年）又從蒿城分出恢復建縣，名為昔陽縣，開皇十八年（598年）更名為鼓城縣，隸屬趙郡。元太祖十年（1215年）由縣上升為州，名晉州。

民國二年（1913年）改州為縣，稱晉縣。民國28年（1939年）1月16日，晉縣被日軍侵占。為抗日所需，1940年5月，以石德鐵路為界，路北建晉北縣，路南建晉（南）縣，1941年晉（南）縣與蒿城南部及正定縣部分區域合并建晉蒿縣，晉北縣與深澤、無極合并為晉深極縣，1942年晉深極縣與束北縣合并成立束晉縣，均屬冀中八專署。

1945年9月3日，日軍北離晉縣，恢復原晉縣建置，晉縣西留章村劃歸蒿城，辛莊劃歸無極縣。1956年水災后，無極縣滹沱河南龍泉固村劃歸晉縣。1958年11月，晉縣、深澤并入束鹿縣。1961年5月析束鹿縣復置晉縣（含深澤縣）。1962年1月析晉縣復置深澤縣；晉縣耿莊劃歸深澤縣。1991年11月30日，經國務院批準撤銷晉縣，設立晉州市（縣級）。

1956年7月撤區并鄉，全縣轄23個鄉，1957年重新劃為19個鄉。1958年晉縣成立6個大公社。2000年，晉州市轄8個鎮、2個鄉：晉州鎮、馬于鎮、總十莊鎮、小樵鎮、營里鎮、東卓宿鎮、槐樹鎮、桃園鎮、東里莊鄉、周家莊鄉。

2000年第五次人口普查，晉州市常住總人口520942人，其中：晉州鎮117654人，總十莊鎮51670人，營里鎮32353人，桃園鎮52909人，東卓宿鎮43595人，馬于鎮42671人，小樵鎮57906人，槐樹鎮56204人，東里莊鄉50898人，周家莊鄉15082人。

2002年，晉州市面積619平方千米，人口約51萬人。轄8個鎮、2個鄉，9個社區、224個行政村。市政府駐市府街60號。

2010年第六次人口普查，晉州市常住總人口537679人，其中：晉州鎮135521人，總十莊鎮49014人，營里鎮31981人，桃園鎮53826人，東卓宿鎮45748人，馬于鎮42147人，小樵鎮59880人，槐樹鎮54246人，東里莊鎮48686人，周家莊鄉16630人。

全市現轄9個鎮、1個鄉：晉州鎮、總十莊鎮、營里鎮、桃園鎮、東卓宿鎮、馬于鎮、小樵鎮、槐樹鎮、東里莊鎮、周家莊鄉。