古為羌地。西漢至清雍正三年（1725年）屬西海郡，廝、吐蕃等處宣慰使司都元帥府、罕東百戶、東蒙古諸部駐牧地、蒙古統編5部29旗等。民國六年（1917年）屬都蘭理事，沿至解放前夕為“剛察千戶區”。1950年設剛察區人民行政委員會。1952年成立剛察區工委。1953年設立剛察縣。

面積1.2萬平方千米，人口2.9萬人，其中藏族占72.4％，還有漢、蒙古、回、東鄉等民族。轄5鄉：沙柳河鄉、伊克烏蘭鄉、哈爾蓋鄉、泉吉鄉、吉爾孟鄉。縣政府駐沙柳河鄉，距州府駐地110千米。（根據《政區大典》整理，1996年左右資料）

1999年末，剛察縣面積9110平方千米，人口39159人（根據青海省志），轄5個鄉。

2000年第五次人口普查，剛察縣總人口39223人，其中：沙柳河鄉5145人、哈爾蓋鄉8125人、伊克烏蘭鄉5438人、泉吉鄉5564人、吉爾孟鄉3209人、城關未批鎮5174人、青海省熱水煤礦2705人、青海湖農場1597人、省三角城種羊場2266人。

2001年3月5日，青海省政府青政函[2001]15號文批復：撤銷沙柳河鄉，設立沙柳河鎮。2001年末，剛察縣轄1個鎮、4個鄉，31個村（牧）委會。

2004年7月，撤銷哈爾蓋鄉，設立熱水鎮（即熱水礦區和哈爾蓋鄉合并設鎮）。2006年8月，熱水鎮更名為哈爾蓋鎮。調整后，剛察縣轄2個鎮、3個鄉：沙柳河鎮、熱水鎮、伊克烏蘭鄉、泉吉鄉、吉爾孟鄉。