古為冉鎣地。清末大黑水隸屬理蕃廳，小黑水隸松潘廳。1952年成立黑水行政委員會，1953年成立蘆花縣，1954年更名黑水縣。黑水，系藏語“措曲”的意譯。“措”指生鐵，“曲”意為水，即生鐵色的水之意。又因該河水色黑，故名黑水。一說以境內(nèi)岷江支流黑水（因水深而黑）為名。

1996年，黑水縣面積4165.3平方千米，人口5萬人，以藏族為多。轄2個鎮(zhèn)、15個鄉(xiāng)：蘆花鎮(zhèn)、卡龍鎮(zhèn)、沙石多鄉(xiāng)、紅巖鄉(xiāng)、麻窩鄉(xiāng)、雙溜索鄉(xiāng)、維古鄉(xiāng)、木蘇鄉(xiāng)、洛多鄉(xiāng)、龍壩鄉(xiāng)、石碉樓鄉(xiāng)、瓦缽梁子鄉(xiāng)、色爾古鄉(xiāng)、知木林鄉(xiāng)、扎窩鄉(xiāng)、晴朗鄉(xiāng)、慈壩鄉(xiāng)。縣政府駐蘆花鎮(zhèn)，距州府72千米。

2000年第五次人口普查，黑水縣常住總?cè)丝?7000人，其中：蘆花鎮(zhèn)13292人，卡龍鎮(zhèn)991人，沙石多鄉(xiāng)1720人，紅巖鄉(xiāng)3381人，麻窩鄉(xiāng)3003人，雙溜索鄉(xiāng)1889人，瓦缽粱子鄉(xiāng)3153人，色爾古鄉(xiāng)1932人，石碉樓鄉(xiāng)3942人，龍壩鄉(xiāng)2381人，洛多鄉(xiāng)2125人，木蘇鄉(xiāng)4416人，維古鄉(xiāng)3248人，知木林鄉(xiāng)3824人，扎窩鄉(xiāng)3890人，晴朗鄉(xiāng)2798人，慈壩鄉(xiāng)1015人。

2004年，黑水縣轄蘆花、卡龍2個鎮(zhèn)和沙石多、麻窩、紅巖、雙溜索、維古、木蘇、洛多、龍壩、石碉樓、瓦缽梁子、色爾古、知木林、扎窩、晴朗、慈壩15個鄉(xiāng)。

2010年第六次人口普查，黑水縣常住總?cè)丝?0704人，其中：蘆花鎮(zhèn)13942人，卡龍鎮(zhèn)1108人，沙石多鄉(xiāng)1837人，紅巖鄉(xiāng)3698人，麻窩鄉(xiāng)3087人，雙溜索鄉(xiāng)2169人，瓦缽梁子鄉(xiāng)2820人，色爾古鄉(xiāng)2813人，石碉樓鄉(xiāng)3989人，龍壩鄉(xiāng)2603人，洛多鄉(xiāng)2188人，木蘇鄉(xiāng)4476人，維古鄉(xiāng)3670人，知木林鄉(xiāng)3912人，扎窩鄉(xiāng)4281人，晴朗鄉(xiāng)3123人，慈壩鄉(xiāng)988人。

2014年，省政府（川府民函[2014]11號）批復(fù)同意撤銷色爾古鄉(xiāng)，設(shè)立色爾古鎮(zhèn)，轄原色爾古鄉(xiāng)所屬行政區(qū)域。調(diào)整后，全縣轄3個鎮(zhèn)、14個鄉(xiāng)：蘆花鎮(zhèn)、卡龍鎮(zhèn)、色爾古鎮(zhèn)、沙石多鄉(xiāng)、紅巖鄉(xiāng)、麻窩鄉(xiāng)、雙溜索鄉(xiāng)、瓦缽梁子鄉(xiāng)、石碉樓鄉(xiāng)、龍壩鄉(xiāng)、洛多鄉(xiāng)、木蘇鄉(xiāng)、維古鄉(xiāng)、知木林鄉(xiāng)、扎窩鄉(xiāng)、晴朗鄉(xiāng)、慈壩鄉(xiāng)。