唐昭宗天二年(905年),上猶人盧光稠任虔州刺史,倡議建上猶場,開始用“上猶”二字。后梁乾化元年〔911年〕,將南康縣西北之地劃出設置上猶場,場治設在靈巖寺北。因居猶江上游而得名。一說,原來上猶場治所之北有一座大山,因其形狀很像一種叫“猶”的動物,所以叫“大猶山”,山下有一條河古時稱為“猶水”,場治所在地緊靠“大猶山”,又處在猶水口上側,所以取名上猶。
南唐保大年(952年)置上猶縣。宋朝曾改名為南安縣。元朝改為永清縣,不久復名上猶縣。明清屬江西布政司南安府。民國元年,成立江西省政府,上猶縣為省直轄縣。后來全省劃分行政區,上猶縣先后屬于第十二行政區、第四行政區。第二次國內革命戰爭時期,上猶屬湘贛省蘇維埃政府。解放后,先后屬贛西南行政公署、贛南行政公署、贛州專區、贛州地區、贛州市。
1987年4月5日,撤銷營前鄉、社溪鄉,設立營前鎮、社溪鎮(贛府廳字[1987]165號批復)。1991年10月25日,撤銷城關鄉,其行政區域劃歸東山鎮管轄(贛民字[1991]175號批復)。
1997年,全縣面積1544平方千米,人口27.1萬。轄4個鎮、14個鄉:東山鎮、陡水鎮、社溪鎮、營前鎮、黃埠鄉、中稍鄉、沿湖鄉、梅水鄉、油石鄉、安和鄉、藍田鄉、紫陽鄉、寺下鄉、雙溪鄉、水巖鄉、金盆鄉、平富鄉、五指峰鄉。縣政府駐東山鎮。
2000年第五次人口普查,全縣總人口256238人;其中:東山鎮35808人、陡水鎮5720人、社溪鎮18969人、營前鎮28330人、黃埠鄉15560人、中稍鄉15103人、沿湖鄉5522人、梅水鄉14853人、油石鄉16768人、安和鄉10181人、蘭田鄉11431人、紫陽鄉11780人、寺下鄉13479人、雙溪鄉11502人、水巖鄉5412人、金盆鄉17198人、平富鄉10471人、五指峰鄉8151人。
2001年7月9日,撤銷沿湖鄉、中稍鄉,劃歸東山鎮;撤銷金盆鄉,劃歸水巖鄉,鄉政府遷至太乙圩;撤銷藍田鄉,劃歸社溪鎮;撤銷黃埠鄉,設立黃埠鎮(贛民字[2001]342號批復)。
2002年底,上猶縣轄5個鎮、9個鄉,8個居委會、180個行政村。2003年底,全縣總人口28.1萬人。