漢置張掖郡。據《漢書·地理志》，張掖郡地處張國臂掖，故云張掖。西晉稱永平縣。隋開皇三年（583）改稱酒泉縣，大業二年（606）始稱張掖縣。明洪武五年（1372）置甘肅衛。清雍正二年（1724）復置張掖縣。1958年改為張掖市，1961年復改縣，1985年改為市。

2002年3月1日，國務院批準（國函[2002]16號）：撤銷張掖地區和縣級張掖市，設立地級張掖市。張掖市設立甘州區，以原縣級張掖市的行政區域為甘州區的行政區域。區人民政府駐縣府街。

1996年，張掖市面積3692平方千米，人口45.8萬人。轄3鎮22鄉：城關鎮、大滿鄉、小滿鄉、和平鄉、龍渠鄉、安陽鄉、花寨鄉、長安鄉、三閘鄉、新墩鄉、甘浚鄉、西洞鄉、沙井鄉、小河鄉、明永鄉、平山湖蒙古族鄉、黨寨鄉、梁家墩鄉、上秦鄉、堿灘鄉、二十里堡鄉、烏江鄉、靖安鄉。市政府駐城關鎮。

2000年第五次人口普查，張掖市總人口486688人，其中：勞動街街道23205人，東街街道24329人，南街街道25264人，西街街道20293人，北街街道14846人，青年西街街道10289人，火車站街道8624人，粱家墩鎮19160人，上秦鎮24845人，大滿鎮14881人，沙井鎮19865人，烏江鎮28055人，甘浚鎮17579人，新墩鎮26420人，黨寨鄉19455人，小滿鄉21762人，和平鄉15829人，龍渠鄉11568人，安陽鄉13935人，花寨鄉8387人，長安鄉20431人，堿灘鄉19500人，廿里堡鄉11063人，靖安鄉7389人，三閘鄉17463人，西洞鄉5555人，小河鄉16620人，明永鄉13058人，平山湖鄉642人，東北郊新區3126人，國營張掖農場3250人。

甘州區面積4240平方千米，現轄5個街道、11個鎮、7個鄉（其中1個民族鄉）：東街街道、南街街道、西街街道、北街街道、火車站街道、梁家墩鎮、上秦鎮、大滿鎮、沙井鎮、烏江鎮、甘浚鎮、新墩鎮、黨寨鎮、堿灘鎮、三閘鎮、小滿鎮、龍渠鄉、安陽鄉、花寨鄉、長安鄉、靖安鄉、明永鄉、平山湖蒙古族鄉。

2008年末，全區轄18個鄉鎮，245個行政村，2014個村民小組。農業人口9.11萬戶34.49萬人。（不含城區數據）