秦屬九江郡。漢為豫章郡宜春縣境。三國吳寶鼎二年（267年）析宜春縣置新渝縣，屬安成郡。因主川袁河中游原稱渝水得名。隋開皇九年（589年）省入吳平縣，十一年吳平縣并入宜春縣，十八年復置新渝縣，屬袁州；大業三年（607年）屬宜春郡。
　　唐武德五年（622年）屬袁州，并析縣西南地域置西吳州，析東北部置臨平縣，七年俱廢入新渝縣。天寶元年（742年）改新渝縣為新喻縣，屬宜春郡。乾元元年（758年）屬袁州。宋淳化三年（992年）屬臨江軍。元元貞元年（1295年）升為新喻州，屬臨江路。明洪武二年（1369）復為縣，屬臨江府。清沿明制。
　　1912年直屬省。1914年屬廬陵道。1926年復隸省。1932年屬江西省第八行政區。1935年屬江西省第二行政區。1930年5月在良山鎮的上木元村成立新喻縣蘇維埃政府，下轄東區、西區、南區。1932年3月，新喻、峽江兩縣蘇維埃政區合并，成立新峽縣。新喻設水口、豐城、東路、姚泗等4個區。1934年10月，紅軍長征，蘇區全部喪失。
　　1949年7月14日，新喻解放，屬袁州專區。1952年屬南昌專區。1957年5月國務院公布，將新喻縣改稱新余縣。1958年屬宜春專區。1960年9月撤銷新余縣設立新余市，由省直轄。1963年撤銷新余市，恢復新余縣，仍屬宜春專區（后改稱宜春地區）。
　　1983年7月經國務院批準恢復新余市，并將宜春地區的分宜縣劃歸新余市管轄。1983年10月，江西省人民政府批準在原新余縣管轄的范圍內設置渝水區。

　　2000年3月，市委、市政府決定設立中共新余市仙女湖區委員會和新余市仙女湖區管理委員會，賦予其縣級黨政管理職能。2001年11月，中共新余市經濟開發區工作委員會和新余市經濟開發區管理委員會成立，分別為市委、市政府的派出機構，正縣級建制。
　　全市轄渝水區、仙女湖風景名勝區、高新技術經濟開發區和分宜縣，設17個鄉、15個鎮、2個辦事處，有446個村民委員會、51個居民委員會、3760個村民小組。仙女湖位于江西省新余市西南郊16千米處，是湖泊型國家重點風景名勝區，屬亞洲最大的亞熱帶樹種基因庫，198平方千米的景區，50平方千米的湖面。
　　2003年底，總人口110.3萬人，其中非農業人口37.0萬人。2004年底，總人口111.0萬人，其中非農業人口37.7萬人。
　　截至2005年12月31日，新余市轄1個市轄區、1個縣，3個街道、15個鎮、11鄉。