沙雅是維吾爾語“沙雅爾”的轉音。沙，“部落長”之謂；雅爾，“軫恤”之意，即“首領對其部下愛撫”之意。

漢為龜茲國地，隸西域都護府。隋唐間為沙雁州，唐屬龜茲都督府。清乾隆二十四年（1759年）置沙雅爾回莊，屬庫車辦事大臣，后屬庫車直隸廳。光緒二十八年（1902年）設沙雅縣，隸庫車直隸州，屬阿克蘇道。1949年后，隸屬阿克蘇專區、阿克蘇地區。1945年在沙雅設新民鎮，1955年建沙雅鎮。

1996年，沙雅縣轄1個鎮、7個鄉：沙雅鎮、古勒巴格鄉、托依堡勒迪鄉、紅旗鄉、英買里鄉、海樓鄉、努爾巴格鄉、塔里木鄉。

2000年第五次人口普查，沙雅縣常住總人口202992人，其中：沙雅鎮34996人、古勒巴格鄉20011人、托依堡勒迪鄉38425人、紅旗鄉26498人、英買里鄉37820人、海樓鄉19961人、努爾巴格鄉7862人、塔里木鄉6133人、新墾農場4108人、第一牧場1621人、第二牧場1027人、沙雅監獄4530人。

2003年，沙雅縣總面積31887.28平方千米，總人口207160人。轄4鎮4鄉：沙雅鎮、紅旗鎮、托依堡勒迪鎮、英買力鎮、古勒巴格鄉、海樓鄉、塔里木鄉、努爾巴格鄉。縣政府駐沙雅鎮。

2008年6月，按照行政區域規劃和地域布局要求，自治區政府下發《關于同意沙雅縣設立蓋孜庫木鄉的批復》（新政函[2008]109號），同意設立蓋孜庫木鄉。該鄉行政區域面積為2388平方千米，分別從托依堡勒迪鎮塔里木河以南區域劃出1694平方千米，從海樓鄉塔里木河以南區域劃出694平方千米。12月30日，蓋孜庫木鄉政府正式掛牌成立。

2009年，全縣轄4個鎮、5個鄉：沙雅鎮、托依堡勒迪鎮、紅旗鎮、英買里鎮、古勒巴格鄉、海樓鄉、努爾巴格鄉、塔里木鄉、蓋孜庫木鄉。

2010年第六次人口普查，沙雅縣常住總人口257502人，其中：沙雅鎮51806人，托依堡勒迪鎮42227人，紅旗鎮31736人，英買力鎮43151人，古勒巴格鄉28795人，海樓鄉23198人，努爾巴格鄉10952人，塔里木鄉6940人，蓋孜庫木鄉8827人，新墾農場1684人，一牧場1849人，二牧場1528人，沙雅監獄4429人，沙雅縣工業集中380人。

2011年，設立央塔克協海爾鄉。2012年，設立哈德墩鎮（鎮政府于2013年2月25日正式掛牌成立）。2014年5月26日，自治區政府（新政函[2014]80號）批復同意撤銷古勒巴格鄉，設立古勒巴格鎮。至此，全縣轄6個鎮、5個鄉。