因境內(nèi)有汨水、羅水會合，其下游名汨羅江，因以得名。春秋時，楚文王置羅子國于此。秦改為羅縣，治所在今汨羅市區(qū)北，屬長沙郡。南朝梁增置岳陽縣，屬岳陽郡，郡、縣同治于今長樂鎮(zhèn)。隋開皇時，岳陽縣并入湘陰縣。唐武德八年（公元625年）廢羅縣入湘陰縣。此后歷為湘陰縣地。

1966年2月析湘陰縣東北部建汨羅縣，因境內(nèi)汨羅江得名，縣治設今城關鎮(zhèn)。時屬岳陽專區(qū)，1968年后屬岳陽地區(qū)，1986年后屬岳陽市。1987年9月23日，國務院（國函[1987]160號）批準，撤銷汨羅縣，設立汨羅市（縣級）。以原汨羅縣的行政區(qū)域為汨羅市的行政區(qū)域。

北宋元豐年間（1078-1085年）置鄉(xiāng)、坊、里。汨羅境內(nèi)設有長樂、永寧、歸政、大義4鄉(xiāng)和歸義、新市坊。元代改鄉(xiāng)為都，改里為圖，后因都圖冊分載里中，輾轉(zhuǎn)以里為都。明初恢復鄉(xiāng)、坊設置，鄉(xiāng)下設都。

清襲明制，鄉(xiāng)、都相附。清咸豐五年（1855年）改設局團，汨羅境內(nèi)設19局，206團。民國二年（1913），實行地方自治，改局為鄉(xiāng)，鄉(xiāng)下設保，保下設甲。至民國三十八年（1949年）7月境內(nèi)設有四區(qū)，17鄉(xiāng)，223保，2347甲。

1949年8月，今汨羅境內(nèi)設17鄉(xiāng)，3鎮(zhèn)。1950年9月，改設6區(qū)、84鄉(xiāng)、2鎮(zhèn)。其后，區(qū)鄉(xiāng)規(guī)模常有變更。1956年5月并31鄉(xiāng)。1958年建立公社，設16個公社，120大隊，1126個生產(chǎn)隊。1961年底調(diào)整至33個公社。

1966年2月設置汨羅縣，33個公社調(diào)整為25個公社及1個縣屬鎮(zhèn)。1984年撤社復鄉(xiāng)，大隊、生產(chǎn)隊改為村、村民小組。1993年，撤銷新市鄉(xiāng)，將其行政區(qū)域并入新市鎮(zhèn)；撤銷黃柏鄉(xiāng)，設立黃柏鎮(zhèn)。1994年，撤銷大荊鄉(xiāng)，設立大荊鎮(zhèn)。1995年，古培、大眾2鄉(xiāng)合并設立古培鎮(zhèn)。

1996年初，汨羅市面積1562平方千米，人口62.67萬，轄12鎮(zhèn)17鄉(xiāng)：城關鎮(zhèn)、大荊鎮(zhèn)、川山坪鎮(zhèn)、長樂鎮(zhèn)、古培鎮(zhèn)、白水鎮(zhèn)、汩羅鎮(zhèn)、桃林寺鎮(zhèn)、高家坊鎮(zhèn)、黃柏鎮(zhèn)、弼時鎮(zhèn)、新市鎮(zhèn)、八景鄉(xiāng)、三江鄉(xiāng)、天井鄉(xiāng)、火天鄉(xiāng)、古侖鄉(xiāng)、白塘鄉(xiāng)、玉池鄉(xiāng)、紅花鄉(xiāng)、黃市鄉(xiāng)、沙溪鄉(xiāng)、范家園鄉(xiāng)、城郊鄉(xiāng)、銅盆鄉(xiāng)、智峰鄉(xiāng)、楚塘鄉(xiāng)、新塘鄉(xiāng)、磊石鄉(xiāng)。境內(nèi)有國營屈原農(nóng)場。市政府駐城關鎮(zhèn)。

1996年，撤銷銅盆鄉(xiāng)，設立李家塅鎮(zhèn)。至此，汨羅市轄13個鎮(zhèn)、16個鄉(xiāng)：大荊鎮(zhèn)、川山坪鎮(zhèn)、長樂鎮(zhèn)、古培鎮(zhèn)、李家塅鎮(zhèn)、白水鎮(zhèn)、汨羅鎮(zhèn)、城關鎮(zhèn)、桃林寺鎮(zhèn)、高家坊鎮(zhèn)、黃柏鎮(zhèn)、弼時鎮(zhèn)、新市鎮(zhèn)；八景鄉(xiāng)、三江鄉(xiāng)、天井鄉(xiāng)、火天鄉(xiāng)、古侖鄉(xiāng)、白塘鄉(xiāng)、玉池鄉(xiāng)、紅花鄉(xiāng)、沙溪鄉(xiāng)、范家園鄉(xiāng)、城郊鄉(xiāng)、黃市鄉(xiāng)、智峰鄉(xiāng)、楚塘鄉(xiāng)、新塘鄉(xiāng)、磊石鄉(xiāng)。

2000年，汨羅市總戶數(shù)19.40萬戶、總?cè)丝?58867人，其中非農(nóng)業(yè)戶人口8.83萬人。其中：城關鎮(zhèn)38802人，汩羅鎮(zhèn)23837人，新市鎮(zhèn)25191人，古培鎮(zhèn)30657人，白水鎮(zhèn)32265人，川山坪鎮(zhèn)26202人，高家坊鎮(zhèn)27102人，弼時鎮(zhèn)27573人，李家塅鎮(zhèn)21537人，黃柏鎮(zhèn)28392人，長樂鎮(zhèn)27834人，大荊鎮(zhèn)11936人，桃林寺鎮(zhèn)23333人，城郊鄉(xiāng)33821人，紅花鄉(xiāng)23647人，黃市鄉(xiāng)13449人，玉池鄉(xiāng)8444人，沙溪鄉(xiāng)17741人，天井鄉(xiāng)13517人，智豐鄉(xiāng)8603人，三江鄉(xiāng)13375人，古倉鄉(xiāng)11329人，火天鄉(xiāng)18933人，新塘鄉(xiāng)14148人，白塘鄉(xiāng)17429人，范家園鄉(xiāng)17864人，楚塘鄉(xiāng)20472人，磊石鄉(xiāng)5064人，八景鄉(xiāng)2833人，汩羅紡織印染廠7886人，屈原行政區(qū)65651人。

2000年，三江鄉(xiāng)、范家園鄉(xiāng)撤鄉(xiāng)建鎮(zhèn)。2001年，沙溪鄉(xiāng)、楚塘鄉(xiāng)撤鄉(xiāng)建鎮(zhèn)。

2002年末，汨羅市總面積1562平方千米，總?cè)丝?3.87萬人，其中，城鎮(zhèn)人口19.16萬人，鄉(xiāng)村人口44.71萬人。轄17個鎮(zhèn)（城關鎮(zhèn)、汨羅鎮(zhèn)、新市鎮(zhèn)、古培鎮(zhèn)、白水鎮(zhèn)、川山坪鎮(zhèn)、高家坊鎮(zhèn)、弼時鎮(zhèn)、李家塅鎮(zhèn)、沙溪鎮(zhèn)、黃柏鎮(zhèn)、長樂鎮(zhèn)、三江鎮(zhèn)、大荊鎮(zhèn)、桃林寺鎮(zhèn)、屈子祠鎮(zhèn)、范家園鎮(zhèn)）、12個鄉(xiāng)（城郊鄉(xiāng)、紅花鄉(xiāng)、黃市鄉(xiāng)、玉池鄉(xiāng)、天井鄉(xiāng)、古侖鄉(xiāng)、智峰鄉(xiāng)、八景鄉(xiāng)、火天鄉(xiāng)、新塘鄉(xiāng)、白塘鄉(xiāng)、磊石鄉(xiāng)），6個場圃（原種場、范家園茶場、磊石漁場、桃林林場、玉池林場、白水苗圃），1個辦事處（營田辦事處），轄村（居）委會413個，村（居）民小組6189個。

2004年，汨羅市轄19個鎮(zhèn)、15個鄉(xiāng)：城關鎮(zhèn)、汨羅鎮(zhèn)、新市鎮(zhèn)、古培鎮(zhèn)、白水鎮(zhèn)、川山坪鎮(zhèn)、高家坊鎮(zhèn)、弼時鎮(zhèn)、李家段鎮(zhèn)、黃柏鎮(zhèn)、長樂鎮(zhèn)、大荊鎮(zhèn)、桃林寺鎮(zhèn)、三江鎮(zhèn)、范家園鎮(zhèn)、沙溪鎮(zhèn)、營田鎮(zhèn)、河市鎮(zhèn)、屈子祠鎮(zhèn)、城郊鄉(xiāng)、紅花鄉(xiāng)、黃市鄉(xiāng)、玉池鄉(xiāng)、天井鄉(xiāng)、智峰鄉(xiāng)、古侖鄉(xiāng)、火天鄉(xiāng)、新塘鄉(xiāng)、白塘鄉(xiāng)、磊石鄉(xiāng)、八景鄉(xiāng)、黃金鄉(xiāng)、琴棋鄉(xiāng)、鳳凰鄉(xiāng)。其中營田鎮(zhèn)、河市鎮(zhèn)、黃金鄉(xiāng)、琴棋鄉(xiāng)、鳳凰鄉(xiāng)共2個鎮(zhèn)、3個鄉(xiāng)實際由屈原管理區(qū)管轄。

2009年末，汨羅市總面積1562平方千米，總?cè)丝?6.5萬人，轄17個鎮(zhèn)、12個鄉(xiāng)、2個農(nóng)林漁茶場、1個辦事處。