臨湘春秋戰國屬楚，秦屬長沙郡地，西漢為長沙國下雋縣地，晉屬巴陵縣地，五代后唐清泰年間（934～936）馬殷于陸城（今岳陽市北區）置王朝場。宋淳化五年（994年）升為王朝縣，至道二年（996年）更名臨湘縣。明、清屬岳州府。1930年縣治由陸城遷長安，1937年屬第一行政督察區。

1949年屬長沙專區，1952年屬湘潭專區，1964年屬岳陽專區，1968年屬岳陽地區。1984年4月6日，臨湘縣的部分地區劃歸岳陽市。1986年，將臨湘縣劃歸岳陽市管轄。1992年9月1日，民政部批準（民行批[1992]96號），撤銷臨湘縣，設立臨湘市。為省轄縣級市，由岳陽市代管。

1991年，撤銷江南鄉，設立江南鎮。1992年，將岳陽市北區陸城鎮的儒溪、楊橋、棋桿、洋溪4個村和金雞農場劃歸臨湘市管轄，設立儒溪鎮。1993年，城關鎮更名為長安鎮，長安鄉更名為城南鄉。1994年，撤銷定湖鄉，設立定湖鎮。

1995年，撤銷城南、長侖、嶺北、新泉、南湖、洞庭圍、濠河7個區公所。胭脂鄉、賽頭鄉、和平鄉并入南湖洲鎮；姑嫂樹鄉并入白馬寺鎮；民新鄉并入臨資口鎮；安靜鄉、灣河鄉合并為靜河鄉；鶴龍鄉并入濠河口鎮；沙田鄉并入鐵角嘴鎮；樟樹鄉并入樟樹鎮；撤銷金龍、城南、東塘、洞庭圍鄉，設立袁家鋪、界頭鋪、東塘、洞庭圍鎮。

1996年初，臨湘市面積1720平方千米，人口45.6萬人，轄13鎮9鄉：長安鎮、長塘鎮、白羊田鎮、白云鎮、羊樓司鎮、江南鎮、沅潭鎮、忠防鎮、定湖鎮、聶市鎮、桃林鎮、詹橋鎮、儒溪鎮、文白鄉、五里牌鄉、龍源鄉、坦渡鄉、賀畈鄉、乘風鄉、城南鄉、橫鋪鄉、壁山鄉。市政府駐長安鎮。

2000年5月29日，經湖南省政府批準，撤銷黃蓋湖農場，并入臨湘市，組建黃蓋（湖）鎮。

2000年第五次人口普查，臨湘市總人口448452人，其中：長安鎮86043人，忠防鎮26057人，白云鎮15943人，聶市鎮20755人，源潭鎮13766人，江南鎮23663人，羊樓司鎮22716人，桃林鎮31029人，長塘鎮24267人，白羊田鎮20005人，詹橋鎮18542人，儒溪鎮10139人，定湖鎮14170人，黃蓋湖鎮8030人，五里牌鄉21711人，乘風鄉10135人，文白鄉12541人，龍源鄉4000人，坦渡鄉15012人，城南鄉11397人，橫鋪鄉16532人，賀畈鄉7999人，壁山鄉4922人，桃林鉛鋅礦虛擬鎮9078人。

2002年末，臨湘市總面積1754平方千米，總人口47.62萬人，其中非農業人口11.11萬人，轄13個鎮（白羊田、長塘、白云、羊樓司、江南、沅潭、忠防、定湖、聶市、桃林、詹橋、儒溪、黃蓋）、9個鄉（文白、五里牌、龍源、坦渡、賀畈、乘風、城南、橫鋪、壁山）、1個街道（長安），312個村（居）委會。

2004年，撤銷長安鎮，設立長安、橋東兩個街道；增設桃礦街道。至此，臨湘市轄3個街道、13個鎮、9個鄉：長安街道、橋東街道、桃礦街道、忠防鎮、白云鎮、聶市鎮、源潭鎮、江南鎮、羊樓司鎮、桃林鎮、長塘鎮、白羊田鎮、詹橋鎮、儒溪鎮、定湖鎮、黃蓋鎮、五里牌鄉、乘風鄉、文白鄉、龍源鄉、坦渡鄉、城南鄉、橫鋪鄉、賀畈鄉、壁山鄉。

2007年，長安、橋東2街道合并設立長安街道。湖南省民政廳（湘民行發[2007]16號）批復同意：文白鄉、龍源鄉與羊樓司鎮合并設立新的羊樓司鎮。新的羊樓司鎮以原文白鄉、龍源鄉和羊樓司鎮的行政區域為新設羊樓司鎮的行政區域，新的羊樓司鎮轄4個居委會、37個建制村，總面積253.8平方千米，總人口4.8萬人，鎮政府駐羊樓司（原羊樓司鎮政府駐地）。調整后，臨湘市轄2個街道、13個鎮、7個鄉：長安街道、桃礦街道、忠防鎮、白云鎮、聶市鎮、源潭鎮、江南鎮、羊樓司鎮、桃林鎮、長塘鎮、白羊田鎮、詹橋鎮、儒溪鎮、定湖鎮、黃蓋鎮、五里牌鄉、乘風鄉、坦渡鄉、城南鄉、橫鋪鄉、賀畈鄉、壁山鄉。

2008年，湖南省民政廳批準（湘民行發[2008] 5號）：將賀畈鄉、壁山鄉與詹橋鎮合并設立新的詹橋鎮。新的詹橋鎮以原賀畈鄉、壁山鄉和詹橋鎮的行政區域為新設詹橋鎮的行政區域，新的詹橋鎮轄1個居委會、30個建制村，總面積151平方千米，總人口4.3萬人，鎮政府駐詹家橋（原詹橋鎮政府駐地）。行政區劃調整后，臨湘市轄2個街道辦事處、13個鎮、5個鄉。

2009年末，臨湘市總面積1754平方千米，總人口51.02萬人，轄2個街道、13個鎮、5個鄉。