古為羌地。漢時起歷屬西平郡、西海郡、西寧州、西寧衛(wèi)、大通衛(wèi)。民國二十八年（1939年）由門源縣析置祁連設治局，1951年改祁連設治局為祁連區(qū)人民政府委員會，1952年改為祁連區(qū)人民政府，1953年改為祁連縣。

面積2.1萬平方千米，人口4.2萬人，以漢族為多，有回、藏、蒙古、撒拉等少數(shù)民族，其中回族占總?cè)丝诘?3％，藏族占27.5％，蒙古族占10.2％。轄8鄉(xiāng)：八寶鄉(xiāng)、扎麻什鄉(xiāng)、野牛溝鄉(xiāng)、柯柯里鄉(xiāng)、阿柔鄉(xiāng)、峨堡鄉(xiāng)、默勒鄉(xiāng)、多隆鄉(xiāng)。縣政府駐八寶鄉(xiāng)，距州府駐地西海鎮(zhèn)233千米。（根據(jù)《政區(qū)大典》整理，1996年左右資料）

1999年末，祁連縣面積15610平方千米，人口44038人，其中藏族占25.84％，轄8個鄉(xiāng)（根據(jù)青海省志）。

2000年第五次人口普查，全縣總?cè)丝?5394人，其中：八寶鎮(zhèn)21076人、扎麻什鄉(xiāng)4399人、默勒鄉(xiāng)3736人、多隆鄉(xiāng)3826人、峨堡鄉(xiāng)3285人、阿柔鄉(xiāng)2963人、野牛溝鄉(xiāng)2777人、柯柯里鄉(xiāng)843人、海北州托勒牧場2489人。

2001年3月5日，青海省政府青政函[2001]15號文批復：撤銷多隆、默勒2鄉(xiāng)，合并設立默勒鎮(zhèn)；撤銷峨堡鄉(xiāng)，設立峨堡鎮(zhèn)。2001年末，祁連縣轄3個鎮(zhèn)、4個鄉(xiāng)，1個居委會、40個村（牧）委會。

2005年，祁連縣轄3個鎮(zhèn)、5個鄉(xiāng)：八寶鎮(zhèn)、峨堡鎮(zhèn)、默勒鎮(zhèn)、扎麻什鄉(xiāng)、阿柔鄉(xiāng)、野牛溝鄉(xiāng)、柯柯里鄉(xiāng)、央隆鄉(xiāng)。

2006年8月，撤銷柯柯里鄉(xiāng)，并入野牛溝鄉(xiāng)。調(diào)整后，全縣轄3個鎮(zhèn)、4個鄉(xiāng)：八寶鎮(zhèn)、峨堡鎮(zhèn)、默勒鎮(zhèn)、扎麻什鄉(xiāng)、阿柔鄉(xiāng)、野牛溝鄉(xiāng)、央隆鄉(xiāng)。