前涼置臨松郡。西魏改臨松郡為臨松縣。北周廢臨松縣。1954年由酒泉、高臺、張掖等縣析置肅南裕固族自治區（縣級），1955年改為肅南裕固族自治縣�？h因方位在肅州南部，故名。

1996年，肅南裕固族自治縣面積2.2萬平方千米，人口3.9萬人，其中裕固族占25%、藏族占22%。轄1個鎮、17個鄉、6個民族鄉：紅灣寺鎮、北灘鄉、東灘鄉、鏵尖藏族鄉、馬營鄉、泱翔藏族鄉、大泉溝鄉、西水藏族鄉、大都麻鄉、楊哥鄉、紅石窩鄉、青龍鄉、白銀蒙古族鄉、韭菜溝鄉、水關鄉、雪泉鄉、喇嘛灣鄉、前灘鄉、蓮花鄉、明海鄉、祁林鄉、祁連鄉、祁文藏族鄉、祁青藏族鄉。縣政府駐紅灣寺鎮。

2000年第五次人口普查，全縣總人口36678人，其中：紅灣寺鎮7030人，北灘鄉1566人，東灘鄉3213人，鏵尖藏族鄉1586人，馬營鄉666人，泱翔藏族鄉1870人，大泉溝鄉1756人，西水藏族鄉1329人，大都麻鄉1662人，楊哥鄉1154人，紅石窩鄉1509人，青龍鄉1279人，白銀蒙古族鄉891人，韭菜溝鄉1546人，水關鄉546人，雪泉鄉1529人，喇嘛灣鄉974人，前灘鄉453人，蓮花鄉638人，明海鄉2239人，祁林鄉471人，祁連鄉943人，祁文藏族鄉1367人，祁青藏族鄉461人

2004年，撤銷馬蹄、皇城、明花等6個區公署建制，將原來的23鄉1鎮撤并為祁豐、明花、大河、康樂、馬蹄及白銀等6個鄉，紅灣寺和皇城2個鎮。撤銷北灘鄉、東灘鄉、鏵尖藏族鄉、馬營鄉、泱翔藏族鄉，設立皇城鎮；撤銷大泉溝鄉、西水藏族鄉、大都麻鄉，設立馬蹄藏族鄉；撤銷楊哥鄉、紅石窩鄉、青龍鄉，設立康樂鄉；撤銷韭菜溝鄉、水關鄉、雪泉鄉、喇嘛灣鄉，設立大河鄉；撤銷前灘鄉、蓮花鄉、明海鄉，設立明花鄉；撤銷祁林鄉、祁連鄉、祁文藏族鄉、祁青藏族鄉，設立祁豐蔵族鄉；保留白銀蒙古族鄉。撤并后，鄉鎮管轄的平均面積由833平方千米擴大到2500平方千米，平均人數由原來的1450多人上升到4400多人。全部工作于年末結束。

2008年末，全縣面積20456平方千米，轄2個鎮、6個鄉（其中3個民族鄉）：紅灣寺鎮、皇城鎮、馬蹄藏族鄉、康樂鄉、白銀蒙古族鄉、大河鄉、明花鄉、祁豐藏族鄉，共有101個行政村。農業人口0.71萬戶2.43萬人。