春秋為百越地。秦屬南海郡開陽縣（治今船步鎮）。漢屬蒼梧郡端溪縣。晉永和五年（344），析蒼梧郡置晉康郡（領14縣），析端溪縣置龍鄉縣（治今羅城）、夫阮縣；今羅定地有龍鄉縣、夫阮縣及平原縣。永和七年（346）改平原縣為平原郡，領龍鄉縣，夫阮屬晉康郡。南齊永明元年（483）廢平原郡置廣熙郡，析龍鄉縣置永熙、羅平兩縣，郡治龍鄉縣；今羅定地括龍鄉、永熙、羅平、夫阮4縣。

南梁天監五年六年（508）置瀧州（瀧州之名源于今羅定江羅鏡段有瀧喉，灘高水急，巨石橫截中流，十分險要；州治在今羅鏡、太平鎮境）和建州（州治在今附城街道古城角），析廣熙置平原、開陽、羅陽（因羅水得名）三郡。瀧州轄平原郡（郡治龍鄉縣）、龍鄉縣，永業縣（治今廣西岑溪筋竹鎮），開陽郡（郡治開陽縣）、開陽縣，梁德郡、梁德縣（郡、縣治在今信宜市）；建州轄廣熙郡、永熙縣、安南縣，羅陽郡、羅陽縣。

隋開皇九年（589）廢郡名，改龍鄉縣為平原縣，與開陽縣、懷德縣、永業縣同屬瀧州，永熙縣、安南縣、羅陽縣隸屬建州；今羅定地有平原、開陽、永熙、安南、羅陽5縣。開皇十八年（598）改平原為瀧水縣，改羅陽為正義縣。大業三年（607）改瀧州置永熙郡，廢建州，并開陽、正義入瀧水縣，并安南入永熙；永熙郡領瀧水、永熙，永業（今岑溪）、懷德（今信宜）、良德（今電白）、安遂（今郁南）6縣。

唐武德四年（621）改永熙郡設瀧州（治今太平鎮潭白村周圍地方），析瀧水置開陽縣、正義縣，以瀧水、開陽、正義、懷德4縣隸瀧州，置南建州，以永熙、安遂、永業縣隸南建州。武德五年（622）并正義縣入懷德縣，改永熙縣為永寧縣。貞觀元年（627），并開陽、懷德入瀧水縣，隸嶺南道瀧州。貞觀六年（632）改瀧州為南建州，領瀧水、開陽、永寧、安南4縣，永業縣改隸義州。唐貞觀八年改南建州為藥州。貞觀十八年廢藥州復置瀧州。

宋開寶六年（973），開陽、建水、永寧、正義并入瀧水縣（治原開陽縣，今船步鎮舊縣址）。元至元大德八年（1304）縣署遷至原建水縣羊祿埠（今羅城街道），同年廢瀧州。明萬歷五年（1577）征羅旁，平瑤亂，升瀧水縣為羅定直隸州，并轄東安縣（今云浮市云城區、云安縣）、西寧縣（今郁南縣）。羅旁平定，因以羅定為州名，羅定州之東西也安寧，便以東安、西寧為縣名。

民國元年(1912)廢州，改羅定縣。1958年與郁南縣合并為羅南縣，屬江門專區。1961年分復設羅定縣，屬肇慶專（地）區。1993年4月8日，民政部批復（民行批[1993]72號）：經國務院批準，同意撤銷羅定縣，設立羅定市（縣級）。由廣東省直轄，肇慶市代管，1994年后由云浮市代管。

1996年，羅定市面積2300平方千米，人口94萬人。轄6街道20鎮：羅城街道、城東街道、城西街道、素龍街道、附城街道、雙東街道、羅鏡鎮、太平鎮、新榕鎮、分界鎮、羅平鎮、船步鎮、塘鎮、金雞鎮、蘋塘鎮、圍底鎮、華石鎮、榃濱鎮、新樂鎮、黎少鎮、生江鎮、連州鎮、泗綸鎮、都門鎮、加益鎮、扶合鎮（其中，城東街道、城西街道是1994年經省政府批準設立，暫未實施）。市府駐羅城街道。

2000年第五次全國人口普查，羅定市常住總人口866190人，其中：羅城街道82360人、素龍街道96854人、附城街道25227人、雙東街道15432人、羅鏡鎮53785人、太平鎮48436人、分界鎮20624人、新榕鎮13399人、羅平鎮60245人、船步鎮53485人、塘鎮29505人、蘋塘鎮29564人、金雞鎮25666人、圍底鎮31573人、華石鎮23844人、榃濱鎮35259人、新樂鎮19657人、黎少鎮39549人、生江鎮32322人、連州鎮39810人、泗綸鎮39369人、都門鎮11394人、加益鎮17579人、扶合鎮21252人。

2002年，羅定市轄羅城、城東、城西、附城、雙東、素龍6個街道，華石、蘋塘、金雞、圃底、塘、船步、羅平、太平、羅鏡、新榕、生江、連州、分界、黎少、泗綸、加益、榃濱、扶合、新樂、都門20個鎮，共有306個村委會、26個居委會。

2003年12月，撤銷新榕、都門、新樂三鎮，分別并入羅鏡鎮、泗綸鎮和附城街道。調整后，羅定市轄6個街道、17個鎮：羅城街道、城東街道、城西街道、素龍街道、附城街道、雙東街道、黎少鎮、生江鎮、連州鎮、泗綸鎮、加益鎮、扶合鎮、羅鏡鎮、太平鎮、分界鎮、羅平鎮、船步鎮、金雞鎮、蘋塘鎮、圍底鎮、華石鎮、塘鎮、榃濱鎮。

2005年10月14日，粵民區[2005]49號批準羅定市扶合鎮更名為龍灣鎮。截至2005年12月31日，羅定市轄6個街道（羅城、城東、城西、附城、雙東、素龍）、17個鎮（華石、蘋塘、金雞、圍底、塘、船步、羅平、太平、羅鏡、生江、連州、分界、黎少、泗綸、加益、榃濱、龍灣）。

2008年末，全市總面積2327.5平方千米。戶籍總人口1160691人，其中非農業人口387280人。其中城區面積19.1平方千米，城區人口192120人。

2009年末，羅定市轄4個街道、17個鎮：羅城街道、素龍街道、附城街道、雙東街道、羅鏡鎮、太平鎮、分界鎮、羅平鎮、船步鎮、塘鎮、蘋塘鎮、金雞鎮、圍底鎮、華石鎮、榃濱鎮、黎少鎮、生江鎮、連州鎮、泗綸鎮、加益鎮、龍灣鎮。共有28個居委會、306個行政村。市政府駐羅城街道。（另：城東街道、城西街道實際沒有成立）

2010年第六次人口普查，羅定市常住總人口959006人，其中：羅城街道110838人，素龍街道104465人，附城街道52001人，雙東街道17263人，羅鏡鎮66144人，太平鎮49354人，分界鎮20990人，羅平鎮68617人，船步鎮63305人，塘鎮35365人，蘋塘鎮34103人，金雞鎮26393人，圍底鎮37555人，華石鎮25058人，榃濱鎮40444人，黎少鎮39966人，生江鎮31885人，連州鎮40399人，泗綸鎮55642人，加益鎮18634人，龍灣鎮20093人，羅平農場492人。

2012年末，羅定市面積2327.5平方千米。戶籍人口123.24萬人，常住人口98.23萬人。轄4個街道、17個鎮和1個國營農場。