春秋末年楚國大夫白善始在此筑城，史稱白公城。秦屬長沙郡。西漢初置昭陵縣。西晉避司馬昭諱，改昭陵郡為邵陵郡，同時改昭陽縣為邵陽縣，邵陽名始此。隋設潭州。唐設邵州。后晉曾一度改邵州為敏州。南宋理宗皇帝因曾遙領邵州使，故于寶慶元年（1225）升邵州為寶慶府。元為寶慶路。明、清為寶慶府。民國為邵陽縣。

1949年設邵陽專區，專署駐邵陽縣，轄邵陽、新寧（駐金石鎮）、城步、武岡、隆回（駐桃花坪）、新化等6縣。1950年，由邵陽縣析置邵陽市，邵陽專署駐邵陽市，邵陽縣遷塘渡口鎮。1952年，原益陽專區所屬湘鄉、雙峰、漣源3縣劃入邵陽專區，由邵陽縣析置新邵（駐釀溪鎮）、邵東（駐兩市塘）2縣，由武岡縣析置洞口縣（駐洞口），邵陽專區轄1市、12縣。1953年邵陽市改為省轄市。

1956年城步縣改設城步苗族自治縣（駐儒林鎮），邵陽專區轄11縣、1自治縣。1958年，邵陽市劃歸邵陽專署領導，原屬黔陽專區的綏寧縣（駐長鋪鎮）劃入邵陽專區，轄1市、12縣、1自治縣。1961年，由新化縣析置冷江市，由漣源縣析置婁底市，均由邵陽專署領導。1962年撤銷冷江、婁底2市，將冷江市并入新化縣；婁底市并入漣源縣。1965年將湘鄉縣劃歸湘潭專區。1969年由冷水江鎮改設冷水江市，屬邵陽專署領導。

1970年邵陽專區改稱邵陽地區，地區駐邵陽市，轄邵陽、冷水江2市及邵陽（駐塘渡口鎮）、新邵（駐釀溪鎮）、漣源（駐藍田鎮）、雙峰（駐永豐鎮）、邵東（駐兩市鎮）、新寧（駐金石鎮）、武岡、綏寧（駐長鋪鎮）、洞口、隆回（駐桃洪鎮）、新化等11縣和城步苗族自治縣（駐儒林鎮）。1977年邵陽市改由省直轄，將冷水江市和新化、新邵、邵東、雙峰、漣源5縣劃歸漣源地區，邵陽地區轄6縣、1自治縣。

1980年2月20日，國務院批準邵陽地區代管的邵陽市改由省直轄。1983年2月8日，國務院批準撤銷邵陽地區，所屬的邵陽、隆回、洞口、武岡、新寧、綏寧6縣和麻步苗族自治縣劃歸邵陽市；同年7月13日，國務院批準設立邵陽地區，轄邵陽市的邵陽、隆回、洞口、武岡、新寧、綏寧6縣和麻步苗族自治縣，駐邵陽市。

1986年1月27日，國務院批準（國函[1996]18號）：撤銷邵陽地區，將邵陽、隆回、洞口、武岡、綏寧、新寧6縣和麻步苗族自治縣7縣劃歸邵陽市管轄。1987年2月12日，國務院批準（國函[1987]27號）：撤銷邵陽市橋頭區。1994年2月18日，國務院批準：撤銷武岡縣，設立武岡市。

1996年，邵陽市面積20876平方千米，人口約700萬人，轄西區、東區、郊區3個區及邵陽、隆回、洞口、綏寧、新寧、邵東、新邵7個縣和城步苗族自治縣，代管武岡市。市府駐西區城北路。

1997年8月29日，國務院批準（國函[1997]83號）：一、同意將新邵縣的陳家橋鄉劃人邵陽市市區。二、同意撤銷邵陽市東區、西區、郊區，調整設立邵陽市雙清區、大祥區、北塔區。　雙清區：轄原東區的龍須塘、汽車站、小江湖、火車站、橋頭、東風路6個街道和原郊區的火車站、高崇山、城東、石橋、云水、雞籠6個鄉。區人民政府駐建設路。　大祥區：轄原西區的城北路、紅旗路、中心路、城西、城南、百園春6個街道和原郊區的城南、雨溪、面鋪、檀江、蔡鍔、板橋6個鄉。區人民政府駐西湖路。　北塔區：轄原東區的江北街道，原郊區的茶元頭、江北、田江和從新邵縣劃入的陳家橋鄉。區人民政府駐江北大道資州。

2000年第五次全國人口普查，邵陽市總人口6963619人；其中：雙清區262658人，大祥區277672人，北塔區67538人，邵東縣1130536人，新邵縣686810人，邵陽縣887378人，隆回縣1056727人，洞口縣752581人，綏寧縣339235人，新寧縣557120人，城步苗族自治縣241517人，武岡市694847人。

2005年末，邵陽市轄3個市轄區、7個縣、1個自治縣，代管1個縣級市，共有18個街道、94個鎮、81個鄉、21個民族鄉。

2012年末，邵陽市轄3個市轄區、7個縣、1個自治縣，代管1個縣級市，共有24個街道、98個鎮、77個鄉、21個民族鄉。