古名南埜、南安。春秋，先屬楚，后屬吳。秦始皇三十三年屬南埜地，西漢六年屬南野縣地。三國吳嘉禾五年（236年）析南野置南安縣，屬廬陵南部都尉。晉太康元年（280年）改名南康縣，因“地接嶺南，人安物阜”而得名，屬南部都尉。太康三年屬南康郡。
　　南朝宋永初元年（420年）屬南康國。齊、梁、陳、隋屬南康郡，唐武德五年屬虔州。五代十國屬百勝軍。南康屬昭信軍。宋屬南安軍。元屬南安路。明、清屬南安府。民國元年（1912年），廢府，南康直屬江西省。民國三年，屬贛南道。后屬第十一、第四行政區。
　　1949年8月14日，南康解放，屬贛州分區。1950年為贛西南行政區直屬縣，1951年6月屬贛州專區，1954年屬贛南行政區。1964年屬贛州專區，1971年屬贛州地區。
　　1995年3月7日，民政部（民行批[1995]19號）批復：經國務院批準，同意撤銷南康縣，設立南康市（縣級），以原南康縣的行政區域為南康市的行政區域。為省轄縣級市，由贛州地區代管。1999年由贛州市代管。

　　1984年5月15日，設立大嶺鄉、唐西鄉、內潮鄉、圩下鄉；沙溪公社建鄉，更名為十八塘鄉（贛府字[1984]112號）。
　　1988年12月10日，撤銷風崗鄉、橫市鄉、赤土鄉、東山鄉，設立風崗鎮、橫市鎮、赤土鎮、東山鎮（贛民函[1988]138號批復）。
　　1994年5月4日，撤銷潭口鄉，將所轄行政區域劃歸潭口鎮管轄（贛民字[1994]76號批復）。
　　1996年3月19日，撤銷潭東鄉、三益鄉、龍回鄉、龍嶺鄉、鏡壩鄉，設立潭東鎮、三益鎮、龍回鎮、龍嶺鎮、鏡壩鎮（贛民字[1996]53號批復）。
　　1997年，全市面積1844.96平方千米，人口71.2萬。轄12個鎮、17個鄉：蓉江鎮、金雞鎮、潭口鎮、唐江鎮、鳳崗鎮、赤土鎮、黃市鎮、龍回鎮、三益鎮、潭東鎮、龍嶺鎮、鏡壩鎮、浮石鄉、西華鄉、橫寨鄉、朱坊鄉、太窩鄉、大嶺鄉、三江鄉、龍華鄉、唐西鄉、平田鄉、內潮鄉、十八塘鄉、圩下鄉、麻雙鄉、隆木鄉、大坪鄉、坪市鄉。市政府駐蓉江鎮。
　　1998年8月5日，將唐西鄉的莊稼行政村和平田鄉的章石行政村劃歸唐江鎮（贛民字[1998]125號批復）。
　　2000年第五次人口普查，全市總人口694987人；其中：蓉江鎮44584人、金雞鎮30373人、唐江鎮20595人、潭口鎮42706人、赤土鎮37645人、鳳崗鎮34490人、橫市鎮20149人、潭東鎮29009人、龍嶺鎮27991人、三益鎮12117人、龍回鎮17769人、鏡壩鎮25373人、浮石鄉18146人、西華鄉39748人、橫寨鄉14782人、朱坊鄉31143人、太窩鄉17138人、三江鄉27824人、大嶺鄉18242人、平田鄉20310人、唐西鄉23358人、龍華鄉38168人、十八塘鄉16941人、內潮鄉9922人、圩下鄉10150人、麻雙鄉12246人、大坪鄉20448人、坪市鄉18105人、隆木鄉15515人。
　　2001年9月6日，撤銷赤土鎮建制，改設赤土畬族鄉（贛民字[2001]440號批復）。
　　2001年3月2日，撤銷大嶺鄉、唐西鄉、平田鄉，劃歸唐江鎮（贛民字[2001]95號批復）。
　　2002年底，全市面積1845平方千米，人口77.6萬人，其中非農業人口11.2萬人。轄11個鎮、14個鄉、1個民族鄉，17個居委會、353個行政村。市政府駐蓉江街道。
　　2003年9月2日，撤銷蓉江鎮、金雞鎮和西華鄉，調整設立蓉江街道辦事處、東山街道辦事處（贛民字[2003]210號批復）。
　　2003年10月21日，撤銷內潮鄉，成建制劃歸十八塘鄉管轄；撤銷圩下鄉，成建制劃歸麻雙鄉管轄；撤銷三益鎮，成建制劃歸龍回鎮管轄（贛民字[2003]272號批復）。2003年底，全市總人口76.5萬人。
　　2004年底，全市總人口775138人，其中農業人口118024人，轄2街道8鎮12鄉（含1民族鄉）。2006年末全市戶籍總人口810934人，其中非農業人口128782人。