戰國為長沙郡。西漢為長沙國湘南縣地。三國吳為衡陽郡湘南、湘西縣地。隋為長沙郡，衡山縣地。南朝梁天監年間，在今攸縣一帶置湘潭縣。唐天寶八年（749），將原湘潭縣地和衡山縣一部分另設湘潭縣，縣治洛口（今易俗河鎮），轄今湘潭市（縣）、株洲市（縣）一帶。因地處湘水流域，境內有白牛潭、洋潭、青石潭等，故有湘潭之名。南宋時，湘潭縣城從洛口遷至今市區城正街。元升縣為州，屬天臨路。明洪武三年（1370）降州為縣，屬長沙府。清朝因之。民國屬第一行政督察區。

1949年設長沙專區，專署駐湘潭縣，轄湘潭、長沙、岳陽、醴陵、瀏陽、湘陰、平江、臨湘等8縣。1950年以湘潭縣城關鎮設湘潭市（縣級），由長沙專署領導；長沙專署駐湘潭市，轄1市、8縣。1951年由湘潭縣析置株洲市；由長沙縣析置望城縣（駐望城坡）；長沙專區轄2市、9縣。1952年長沙專區改稱湘潭專區，專署駐湘潭市，原衡陽專區所屬茶陵、攸縣2縣及原益陽專區所屬寧鄉縣劃入湘潭專區，轄2市、12縣。1953年湘潭、株洲2市改為省轄市。1958年湘潭市劃歸湘潭專署領導。

1959年，將長沙縣劃歸長沙市領導；撤銷望城縣，并入長沙縣；湘潭縣交由湘潭專區的湘潭市領導；湘潭專區轄1市、10縣。1961年，由岳陽縣析置岳陽市，屬湘潭專署領導；復設酃縣（1959年屬郴縣專區時撤銷）；將湘潭市領導的湘潭縣劃歸湘潭專署領導；轄2市、11縣。1962年，撤銷岳陽市，并入岳陽縣；將寧鄉縣劃歸益陽專區；湘潭專區轄1市、10縣。1964年，將岳陽、湘陰、平江、臨湘4縣劃歸岳陽專區；湘潭專區轄1市、6縣。1965年原屬邵陽專區的湘鄉縣劃入湘潭專區。

1970年湘潭專區改稱湘潭地區，地區駐湘潭市。轄湘潭市及湘潭（駐湘潭市）、瀏陽、醴陵、攸縣、茶陵、酃縣、湘鄉等7縣。1980年2月20日，國務院批準湘潭市升格為地級市，下設雨湖區、板塘區、湘江區、岳塘區、郊區。1981年1月12日，湖南省人民政府批準撤銷韶山區，并入湘潭縣。1983年2月8日，國務院批準撤銷湘潭地區，所屬的瀏陽縣劃歸長沙市；攸縣、茶陵、酃縣、醴陵4縣劃歸株洲市；湘潭、湘鄉2縣劃歸湘潭市管轄。

1984年5月22日，湖南省人民政府批準設立湘潭市韶山區，以湘潭縣的部分地區為其行政區域。1984年7月11日，國務院批準（國函[1984]113號）將湘潭縣的九華、和平兩個公社劃歸湘潭市。1986年9月12日，國務院批準（國函[1986]119號）撤銷湘鄉縣，設立湘鄉市（縣級），以原湘鄉縣的行政區域為湘鄉市的行政區域。1990年12月26日，國務院批準撤銷湘潭市韶山區，設立韶山市（縣級）。

1992年6月25日，民政部批復（民行批[1992]64號）：撤銷湘潭市雨湖區、湘江區、岳塘區、板塘區、郊區，以湘江為界設立雨湖區、岳塘區。雨湖區：轄原湘江區（窯灣辦事處、羊牯塘辦事處、廣場辦事處、楠竹山辦事處、中山辦事處），原雨湖區（云塘辦事處、鶴嶺辦事處、城正街辦事處、雨湖路辦事處、平政路辦事處），原郊區的長城、昭潭、先鋒、護潭4個鄉和先鋒農場。調整后，雨湖區共轄10個街道辦事處、4個鄉、1個農場。區人民政府駐原雨湖區人民政府駐地。岳塘區：轄原板塘區（社建村辦事處、建設路辦事處、五里堆辦事處、易家灣辦事處、馬家河辦事處、滴水埠辦事處），原岳塘區（書院路辦事處、下攝司辦事處、中洲路辦事處、岳塘辦事處、東坪辦事處），原郊區的霞城、寶塔、板塘、荷塘、昭山5個鄉和仰天湖、紅旗農場。調整后，岳塘區共轄11個街道辦事處、5個鄉、2個農場。區人民政府駐原岳塘區人民政府駐地。同日，民政部批復（民行批[1992]65號）同意將湘潭縣人民政府駐地由湘潭市市區遷至湘潭縣易俗河鎮。

2000年第五次全國人口普查，湘潭市總人口2672069人；雨湖區362871人，岳塘區344912人，湘潭縣1061269人，湘鄉市807718人，韶山市95299人。

2005年8月12日，國務院批準（國函[2005]72號）：將湘潭市人民政府駐地由湘潭市雨湖區雨湖路遷移至湘潭市岳塘區芙蓉路。2005年末，湘潭市轄2個市轄區、1個縣，代管2個縣級市；全市共有22個街道、35個鎮、24個鄉。

2010年，將湘潭縣響塘鄉、姜畬鎮成建制劃歸雨湖區管轄。行政區劃調整后，雨湖區轄8個街道辦事處、3個鎮、6個鄉，總面積451.39平方千米，總人口56.02萬人；湘潭縣轄15個鎮、4個鄉，總面積2132.8平方千米，總人口95.7萬人；響塘鄉、姜畬鎮所轄村（居）委會個數、行政區域面積、總人口、政府駐地均不變。