因境內清水河而得名。清乾隆元年（1736年）設置清水河協理通判廳，光緒十年（1884年）改為撫民通判廳。民國3年（1914年）改廳為清水河縣，隸屬綏遠特別區。1949年起先后屬薩縣專區、集寧專區、平地泉行政區、烏蘭察布盟管轄。1996年劃歸呼和浩特市管轄。

1997年，清水河縣面積2859平方千米，人口約13萬人，其中蒙古族約700人。轄2個鎮、12個鄉：城關鎮、喇嘛灣鎮、小廟子鄉、艽菜莊鄉、盆地青鄉、北堡鄉、暖泉鄉、單臺子鄉、樺樹也鄉、窯溝鄉、小缸房鄉、王桂夭鄉、五良太鄉、楊家夭鄉。縣政府駐城關鎮。 （有126個行政村，832個自然村）

2000年第五次人口普查，清水河縣總人口125748人，其中：喇嘛灣鎮15353人，城關鎮22813人，小廟子鄉14834人，韭菜莊鄉8699人，盆地青鄉4210人，暖泉鄉7024人，北堡鄉5064人，窯溝鄉10166人，單臺子鄉6059人，樺樹也鄉3936人，小缸房鄉4638人，五良太鄉7403人，楊家窯鄉4557人，王桂窯鄉10992人。

2001年？，撤銷小缸房鄉，并入窯溝鄉；撤銷盆地青鄉，并入楊家窯鄉；撤銷樺樹也鄉，并入單臺子鄉。調整后，清水河縣轄2個鎮、9個鄉：喇嘛灣鎮、城關鎮、小廟子鄉、窯溝鄉、王桂窯鄉、北堡鄉、暖泉鄉、單臺子鄉、楊家窯鄉、五良太鄉、韭菜莊鄉。

？年，撤銷王桂窯鄉，設立宏河鎮。調整后，清水河縣轄3個鎮、8個鄉：喇嘛灣鎮、城關鎮、宏河鎮、小廟子鄉、窯溝鄉、北堡鄉、暖泉鄉、單臺子鄉、楊家窯鄉、五良太鄉、韭菜莊鄉。共有102個行政村、6個居委會，780個自然村。

2006年，撤銷小廟子鄉、楊家窯鄉，將小廟鄉原管轄的行政區域整建制和楊家窯鄉的6個村（大灣、楊家天、韓慶壩、石灣子、西山溝、孔讀林）并入城關鎮；撤銷五良太鄉，將其原管轄的行政區域整建制并入宏河鎮；撤銷單臺子鄉，將其原管轄的行政區域整建制并入窯溝鄉；將楊家窯鄉的6個村（盆地青、三岔河、座峰、朱毛草、七冬溝、對九溝）并入韭菜莊鄉；撤銷暖泉鄉，將其原管轄的行政區域整建制并入北堡鄉。

2006年，清水河縣總面積2859平方千米，總人口13.6萬人，其中非農業人口2.03萬人，轄3個鎮、3個鄉，108個村（居）委會，780個自然村。2009年，清水河縣總面積2859平方千米，總人口14.3萬人。

2012年，恢復五良太鄉、單臺子鄉。調整后，清水河縣轄3個鎮、5個鄉：城關鎮、宏河鎮、喇嘛灣鎮、窯溝鄉、北堡鄉、韭菜莊鄉、五良太鄉、單臺子鄉。