州名取紅水之意。秦漢時，境內主要有疏勒國、楨中國、尉頭國、捐毒國。漢宣帝神爵二年（公元前60年），統治西域的匈奴日逐王先賢撣率眾歸漢，州境正式劃入漢朝版圖。北朝，在西域設西戎校尉府，疏勒、龜茲（尉頭屬龜茲）、烏孫（捐毒屬烏孫），皆受轄于該校尉。隋朝時隸屬于西突厥王庭。唐朝境內各地轄于安西都護府，境內設疏勒都督府（治所在疏勒鎮）、蔚頭州（治所孤石山）、溫肅州（治所大石城）、演渡州（治所去曷飯館）。今阿合奇分屬溫肅州、蔚頭州；阿圖什、阿克陶、烏恰分屬疏勒都督府、演渡州。境內各地分屬葛邏祿、樣磨、處月等部。

北宋、遼時期，境內大部分土地屬黑汗（即喀拉汗）王朝，其中東北部少部分地區（今阿合奇）屬西州回鶻，南部少部分地區（今阿克陶）屬于闐。公元1210年，喀拉汗王朝為屈出律所滅，州境始屬西遼。1218年，西遼為蒙古所滅，蒙古設斷事官對境內實施統治。公元1275年，元在阿里麻力設中書行省，州境即轄于該中書行省，由斷事官轄治。1281年元改斷事官為都護府，州境即屬該都護府管轄。1346年，州境又屬察合臺后王封地。察合臺后王為成吉思汗的次子察合臺的后裔。

明代初年，轄于別失八里。明永樂十六年 （1418）明改別失八里為亦力把里地區。州境又為亦力把里首府大臣朵豁剌惕家族的世襲領地 ，稱朵豁剌惕部，明嘉靖十二年（1533），察合臺后裔賽義德汗建立葉爾羌汗國，州境屬其統治。清康熙十七年（1678）準噶爾蒙古部噶爾丹侵入天山南路，州境在準噶爾部的統治之下。清政府平定準噶爾叛亂之后，于乾隆二十四年（1759）設總理回疆事務參贊大臣，州境即在該大臣的管理之下。乾隆二十七年（1762），州境又轄于伊犁將軍。光緒十年（1884）新疆建省，境內分別轄于新疆省喀什噶爾道的疏勒府、伽師縣及阿克蘇道烏什廳。

民國初年，境內分轄于喀什行政區伽師縣、疏附縣、英吉沙縣、蒲犁縣和阿克蘇行政區烏什縣。1913年至1944年，境內先后建烏恰縣、阿圖什縣、阿合奇縣。1949年，新疆和平解放，境內阿合奇縣轄于新疆省阿克蘇專區，阿圖什、烏恰等縣轄于喀什專區。1954年7月，以柯爾克孜族為自治民族的克孜勒蘇柯爾克孜自治州成立。至此，克孜勒蘇才形成一個統一的地區級行政建置。

2000年第五次人口普查，克孜勒蘇柯爾克孜自治州常住總人口439688人。其中：阿圖什市200345人，阿克陶縣163024人，阿合奇縣34317人，烏恰縣42002人。

2001年末，自治州總人口為44.49萬人，其中，柯爾克孜族約占總人口的29%；維吾爾族約占64%；漢族約占4%；其它民族約占3%。轄阿圖什市和阿克陶、烏恰、阿合奇三縣，共有2個街道、5個鎮、37個鄉（其中1個塔吉克族民族鄉）。

2003年，全州總面積70916.33平方千米，總人口458449人。轄1市3縣，即阿圖什市、阿克陶縣、烏恰縣、阿合奇縣。州政府駐阿圖什市。

2010年第六次人口普查，克孜勒蘇柯爾克孜自治州常住總人口525570人，其中：阿圖什市240368人，阿克陶縣199065人，阿合奇縣38876人，烏恰縣47261人。