德令哈是蒙古語，意為“廣闊的原野”。明為罕東衛轄地，后為蒙古諸部轄地，清屬青海蒙古北左旗、北右旗轄地，民國時屬都蘭縣。1956年，設立德令哈臨時工作委員會，駐巴音河。1958年，撤銷德令哈臨時工作委員會，設立德令哈縣（駐巴音河）。
1962年撤銷德令哈縣，并入烏蘭縣。1988年4月19日，民政部批準（民行批[1988]1號）設立德令哈市（縣級），以德令哈鎮和烏蘭縣的懷他頭拉、戈壁、郭里木、宗務隆、畜集五個鄉為德令哈市的行政區域。
1999年末，德令哈市面積25370平方千米，人口56501人（根據青海省志）。轄蓄集、宗務隆、懷頭他拉、戈壁、郭里木5個鄉。市政府駐河西（宗務隆鄉轄地）。轄區還有德令哈、尕海、懷頭他拉、巴音河4個州屬國有農場。
2000年第五次人口普查，德令哈市總人口83585人，其中：宗務隆鄉5503人，郭里木鄉9992人，蓄集鄉1334人，戈壁鄉7972人，懷頭他拉鄉2893人，河西虛擬街道10697人，河東青新路北虛擬街道7835人，河東青新路南虛擬街道9725人。
2001年2月21日，青海省政府青政函[2001]11號文批復：撤銷懷頭他拉鄉，設立懷頭他拉鎮；撤銷郭里木鄉，設立并命名為尕海鎮（鎮政府設在尕海）。
2001年末，德令哈市轄2個鎮、3個鄉，6個居委會、25個村（牧）委會。（直接管轄）：火車站、人民路、文化路、建國路、昆侖路、渠南6個居委會�！℃睾ｆ偅厚v尕海，轄團結、尕海、新源、郭里木、平原、陶哈、努爾7個村（牧）委會�！杨^他拉鎮：駐懷頭他拉，轄東灘、懷圖、巴力溝、卡洛圖4個村（牧）委會。 蓄集鄉：駐澤令溝，轄茶汗哈達、貢艾里溝、浩特茶汗3個村（牧）委會�！∽趧章∴l：駐巴音河，轄白水河、紅光、巴音河、陶斯圖、伊克拉、烏察汗6個村（牧）委會。 戈壁鄉：駐老德令哈，轄烏蘭干溝、德令哈、茶漢沙、柯魯諾爾、陶生諾爾5個村（牧）委會。
2005年，德令哈市調整鄉鎮行政區劃：1、撤銷戈壁鄉，設立并命名為柯魯柯鎮，鎮政府駐地遷移至原德令哈農場場部所在地浩門都谷。將尕海鎮的民興、民樂、平原三個村劃歸柯魯柯鎮管轄，實行鎮管村體制。2、撤銷宗務隆鄉。將原宗務隆鄉的白水河村、巴音河東村、巴音河西村、巴音河中村、甘南村劃歸河西街道辦事處；將原宗務隆鄉的東山村劃歸河東街道辦事處；將原宗務隆鄉的紅光村劃歸火車站街道辦事處；將原宗務隆鄉的伊克拉、烏察汗、陶斯圖三個村劃歸蓄集鄉管轄。
德令哈市現轄3個街道、3個鎮、1個鄉：河西街道、河東街道、火車站街道、尕海鎮、懷頭他拉鎮、柯魯柯鎮、蓄集鄉。