古為百越地，秦屬桂林郡。西漢元鼎六年（公元前111年）置潭中縣，屬郁林郡。南齊時改潭中縣為齊熙縣，兼置齊熙郡。南梁于郡東兼置東寧州。隋開皇十八年（598年）東寧州改稱融州，齊熙郡改為義熙縣。唐武德六年（623年）改為融水縣，五代十國沿襲之。北宗崇寧年間升為軍州，置清遠軍節度使。大觀元年（1107年）從廣南西路劃融、柳、宜等九州設黔南路，帥府于融水。元初沿襲之，后復融州。明廢融水入融州，洪武十年（1377年）降州為縣，稱融縣。1952年因與容縣同音改稱，改融縣為融水縣（政務院1953年4月23日批準，即今融安縣）。

1952年4月10日廣西省人民政府第53次行政會議同意（經政務院1953年4月23日批準）設立大苗山苗族自治區（縣級，1952年11月26日正式成立），駐融水鎮。轄原融縣的香粉區和融水區之融水鎮及下廊、中洞2村，原羅城縣北部的三防、桿洞等地（即從地洞、洞馬、毛洞等地起以北所有原屬羅城縣的地區），以及貴州省從江縣部分少數民族（主要苗族）聚居地區（指從江縣的太平鄉、安里鄉）。融縣因此從融水鎮遷駐長安鎮。1955年改為大苗山苗族自治縣。1966年更名為融水苗族自治縣。

1996年，融水苗族自治縣面積4663.8平方千米，人口約44萬人。轄4個鎮、17個鄉（其中2個民族鄉）：融水鎮、和睦鎮、三防鎮、懷寶鎮、融水鄉、大年鄉、良寨鄉、拱洞鄉、紅水鄉、白云鄉、大浪鄉、永樂鄉、同練瑤族鄉、汪洞鄉、桿洞鄉、滾貝侗族鄉、香粉鄉、四榮鄉、洞頭鄉、安太鄉、安陲鄉。縣政府駐融水鎮。

2000年第五次人口普查，融水苗族自治縣總人口425608人，其中：融水鎮57497人，和睦鎮20992人，三防鎮19681人，懷寶鎮14882人，融水鄉26947人，永樂鄉24483人，四榮鄉16475人，香粉鄉11875人，安太鄉20825人，洞頭鄉16568人，汪洞鄉15052人，同練瑤族鄉10187人，滾貝侗族鄉15302人，桿洞鄉22267人，安陲鄉20484人，大浪鄉19912人，白云鄉28439人，紅水鄉17830人，拱洞鄉19884人，良寨鄉14098人，大年鄉11928人。

2002年9月29日，國務院批準（國函[2002]88號）：原柳州地區的鹿寨縣、融安縣、融水苗族自治縣、三江侗族自治縣劃歸柳州市管轄。

2002年11月4日，廣西壯族自治區政府（桂政函[2002]189號）同意將融水鄉與融水鎮合并為融水鎮，原融水鄉、融水鎮所轄的行政區域全部歸融水鎮管轄，融水鎮政府駐原融水鎮政府駐地。調整后，全縣轄4個鎮、16個鄉（其中2個民族鄉）：融水鎮、和睦鎮、三防鎮、懷寶鎮、永樂鄉、四榮鄉、香粉鄉、安太鄉、洞頭鄉、汪洞鄉、同練瑤族鄉、滾貝侗族鄉、桿洞鄉、安陲鄉、大浪鄉、白云鄉、紅水鄉、拱洞鄉、良寨鄉、大年鄉。

2006年末，全縣面積4624平方千米，人口48.29萬人，其中農業人口42.76萬人。有苗、瑤、侗、壯等少數民族人口35.41萬人，其中苗族人口19.71萬人，占總人口40.81％。轄4個鎮、16個鄉，205個村（居）委會。