建水因水得名。據《元史》：建水古稱步頭，亦云巴甸，每秋夏溪水漲溢如海，夷謂海為惠，囗為大，故名惠□。漢語曰建水。步頭，即指埠或碼頭，意為“水為碼頭”之意。“巴甸”則為彝語，“巴”為旱地，“甸”為水，意為被水環繞的一塊旱地（島嶼）。

西漢屬牂柯郡毋掇縣。東漢屬益州牂柯郡毋掇縣。三國蜀漢屬益州建寧郡毋掇縣。西晉屬寧州興古郡毋掇縣。東晉至南朝梁屬寧州。北朝周屬南寧州。隋為南寧州總管府所轄東爨地。唐初屬劍南道戎州；唐元和年間（806～820），南詔在建水筑惠歷城（漢譯建水城），隸屬于通海都督府。大理國前期于此設建水郡，為巴甸侯爨判的封地，后期屬秀山郡阿僰部地。

元初設建水千戶，屬阿僰萬戶；至元十三年改名建水州，隸臨安路（治通海）。明洪武十五年（1382），臨安路改臨安府，府治遷至建水州，并設臨安衛指揮使司（滇南軍事指揮機關），拓地改建磚城，故有建水城又稱臨安城。清初沿明制，于此置臨安府和臨元鎮總兵官，建水州屬臨安府。清雍正八年（1730）7月，臨安府屬迤東道。乾隆三十一年（1766）10月，臨安府屬迤南道。乾隆三十五年（1770）2月，改建水州為建水縣，仍屬臨安府。光緒十三年（1887）10月，臨安府屬臨安開廣道。

1912年10月，臨安府所在地的建水縣被裁撤，由臨安府府長兼理建水縣行政事務。1913年撤銷臨安府，復設縣治于建水，改名為臨安縣；將建水縣北區劃出，設曲江行政委員，屬縣級行政機關，隸蒙自道。1914年1月，因與浙江臨安縣重名，仍恢復建水縣舊名。1918年，撤曲江行政委員，改由建水縣曲江縣佐管理，縣佐由省政府委派。1922年，將曲江縣佐地劃出，增設曲溪縣，縣政府駐新街（1929年11月批準）。1929年廢道，建水、曲溪縣由省直轄。1942年，建水、曲溪縣屬云南省第三行政督察區（駐建水縣）。1948年，建水、曲溪縣屬第五行政督察區（駐建水縣）。

1950年，建水、曲溪縣屬蒙自專區。1957年9月6日，國務院全體會議第57次會議決定：設置紅河哈尼族彝族自治州，建水、曲溪縣劃歸紅河州（紅河哈尼族彝族自治州于1957年11月18日成立）。1958年10月，中共紅河地委決定撤銷曲溪縣；1960年9月13日，國務院全體會議第103次會議通過，國務院議69號文批準：撤銷曲溪縣，將原曲溪縣的行政區域并歸建水縣。此后建水縣撤銷區鄉建制，全縣建成普雄、官廳、西莊、南莊、陳官、岔科、渣臘、曲江、利民、蘇租10個公社。

1996年，建水縣面積3764平方千米，人口約47.2萬人，其中漢族占67%。轄5個鎮、12個鄉：臨安鎮、曲江鎮、南莊鎮、西莊鎮、陳官鎮、青龍鄉、岔科鄉、李浩寨鄉、東山壩鄉、面甸鄉、東壩鄉、坡頭鄉、官廳鄉、普雄鄉、盤江鄉、甸尾鄉、利民鄉。縣政府駐臨安鎮。

1999年，面甸鄉撤鄉設鎮。？年，岔科鄉、官廳鄉、青龍鄉、東壩鄉撤鄉設鎮。至此，建水縣轄10個鎮、7個鄉：臨安鎮、東壩鎮、陳官鎮、西莊鎮、青龍鎮、官廳鎮、曲江鎮、面甸鎮、南莊鎮、岔科鎮、坡頭鄉、普雄鄉、利民鄉、東山壩鄉、李浩寨鄉、甸尾鄉、盤江鄉。

2000年第五次人口普查，建水縣常住總人口513712人，其中：臨安鎮62044人，官廳鎮34210人，西莊鎮34103人，青龍鎮14741人，南莊鎮49224人，陳官鎮50034人，東壩鎮47227人，岔科鎮24481人，曲江鎮45348人，面甸鎮38311人，普雄鄉12542人，李浩寨鄉16110人，坡頭鄉23660人，東山壩鄉22027人，盤江鄉12059人，利民鄉13782人，甸尾鄉13809人。

2003年3月28日，省政府（云政復[2003]27號）批復同意撤銷臨安鎮、東壩鎮、陳官鎮，設立臨安鎮；撤銷曲江鎮、東山壩鄉，設立曲江鎮。區劃調整后，建水縣轄8個鎮、6個鄉。

2005年10月13日，省政府批準同意撤銷曲江鎮、利民鄉和李浩寨鄉，設立新的曲江鎮，鎮政府駐原曲江鎮政府駐地（注：實際上并沒有實施？還是后來恢復利民鄉和李浩寨鄉？待查）。

2006年，建水縣總面積3940平方千米，總人口51.7萬人。轄8個鎮、4個鄉：臨安鎮、官廳鎮、西莊鎮、青龍鎮、南莊鎮、岔科鎮、曲江鎮、面甸鎮、普雄鄉、坡頭鄉、盤江鄉、甸尾鄉。共有10個居委會、137個行政村。縣政府駐臨安鎮。

2010年第六次人口普查，建水縣常住總人口531456人，其中：臨安鎮177303人，官廳鎮36884人，西莊鎮33094人，青龍鎮14716人，南莊鎮46696人，岔科鎮24105人，曲江鎮71402人，面甸鎮39033人，普雄鄉12963人，李浩寨鄉15105人，坡頭鄉22822人，盤江鄉10457人，利民鄉14227人，甸尾鄉12649人。

2014年，臨安鎮、曲江鎮被列為全國重點鎮。