《今縣釋名》：“吳分耒陽置新平縣，劉宋因蠻寇止息，遂號新寧，天寶元年，改名常寧。”取永久安寧之意。常寧歷史悠久，據清同治《常寧縣志》記載：周朝以前屬荊，戰國時屬楚，秦漢時屬耒陽縣，三國吳孫亮析耒陽西南地置新寧、新平二縣，東晉太元二十年（396年）并新平于新寧縣，唐天寶元年（742年）改新寧為常寧，屬衡州。五代及宋屬衡州。元十九年（1282年）升為州，無領地，屬湖廣行省領北湖南道。

明洪武三年（1370年）三月降為縣，屬湖廣布政使司衡州府。清屬湖南衡永郴桂道衡州府。民國元年（1912年）廢府，屬衡陽道。民國11年（1922年）廢道，直屬湖南省。民國26年（1937年）屬湖南省第五行政督察區。1949年10月12日常寧和平解放，人民政府建立，屬湖南省衡陽專區。1952年4月改屬湖南行政區。1954年7月仍屬衡陽專區。1983年7月屬衡陽市。1996年11月26日經國務院批準，撤銷常寧縣，設立常寧市，由衡陽市代管。

新中國成立后，常寧設10區174鄉。1952年12月設11區、2鎮、172鄉。1956年6月撤區并鄉，全縣設2鎮45鄉。1958年撤鄉，實行政社合一，全縣設15個公社。1961年9月，恢復區建制，設9區2鎮。1985年5月，撤銷蔭田、湖亭、板橋3鄉，設立蔭田、鹽湖、板橋3鎮。8月，將塔山鄉置蒲竹瑤族鄉。12月撤銷洋泉鎮，大市鄉改名為大市坪鄉。1986年12月，撤銷官嶺、新洲2鄉，設立官嶺、新河2鎮。1990年，全縣共設9個區，3個區級鎮，7個鄉級鎮，51個鄉，1個瑤族鄉。

1995年，根據5月3日省民政廳湘民行發[1995]53號《關于常寧縣撤區并鄉行政區劃調整的批復》文件精神，常寧縣政府于5月19日宣布，撤銷宜陽、柏枋、水口山、蔭田、羅橋、板橋、官嶺、洋泉、新洲9個區公所，保留鹽湖鎮行政建制，將城關鎮改名為宜陽鎮，將其余的61個鄉鎮撤并調整為23個鄉鎮（13個鎮、9個鄉、1個民族鄉），即宜陽鎮、松柏鎮、白沙鎮、官嶺鎮、洋泉鎮、柏坊鎮、蔭田鎮、鹽湖鎮、羅橋鎮、新河鎮、板橋鎮、三角塘鎮、煙洲鎮、西嶺鎮、勝橋鄉、廟前鄉、宜潭鄉、蘭江鄉、彌泉鄉、蓬塘鄉、大堡鄉、江河鄉、塔山瑤族鄉，下轄706個村，52個居委會，7155個村民小組，233個居民小組。

1996年，西嶺、廟前、勝橋先后撤鄉設鎮，并各增設1個居委會。是年未，全縣下轄16個鎮、7個鄉（其中1個民族鄉）：宜陽鎮、三角塘鎮、白沙鎮、松柏鎮、羅橋鎮、板橋鎮、官嶺鎮、柏坊鎮、洋泉鎮、鹽湖鎮、煙洲鎮、蔭田鎮、新河鎮、西嶺鎮、廟前鎮、勝橋鎮、大堡鄉、蘭江鄉、江河鄉、宜潭鄉、彌泉鄉、蓬塘鄉、蒲竹瑤族鄉。村、組、居民小組無變動。

2000年第五次人口普查，常寧市總人口795223人，其中：宜陽鎮67354人，柏坊鎮58246人，松柏鎮70352人，煙洲鎮33714人，蔭田鎮33285人，白沙鎮28668人，西嶺鎮30072人，鹽湖鎮22583人，三角塘鎮28631人，洋泉鎮62182人，廟前鎮15163人，羅橋鎮32883人，板橋鎮38649人，勝橋鎮41280人，官嶺鎮39075人，新河鎮29666人，宜潭鄉38842人，蓬塘鄉41684人，蘭江鄉31768人，大堡鄉27734人，江河鄉13741人，彌泉鄉1766人，蒲竹瑤族鄉7885人。

2008年，撤銷宜陽鎮，設立宜陽、泉峰、培元三個街道辦事處，松柏鎮析出水口山辦事處，洋泉鎮析出天堂山風景名勝管理處。2009年，省民政廳（湘民行發[2009]2號）批復從松柏鎮析出三香、松陽、新華、青年、蔬菜、松柏等6個建制村和松化、煤機、沿江、開源、松柏、三園、文明路、小州、常青、松陽、大橋、興源、運輸、航運、焦廠、渡東、渡西、永紅、歐家洲、鯰魚等20個社區居委會，設立水口山街道辦事處。新設立的水口山街道辦事處轄6個建制村、20個社區居委會，總面積27.95平方公里，總人口2.82萬人，辦事處機關駐朱家灣。行政區劃調整后，松柏鎮轄18個建制村、6個社區居委會，總面積50.55平方公里，總人口4.04萬人。

至此，全市轄4個街道、15個鎮、7個鄉（其中1個民族鄉）和1個辦事處：宜陽街道、泉峰街道、培元街道、水口山街道、柏坊鎮、松柏鎮、煙洲鎮、蔭田鎮、白沙鎮、西嶺鎮、鹽湖鎮、三角塘鎮、洋泉鎮、廟前鎮、羅橋鎮、板橋鎮、勝橋鎮、官嶺鎮、新河鎮、宜潭鄉、蓬塘鄉、蘭江鄉、大堡鄉、江河鄉、彌泉鄉、塔山瑤族鄉和天堂山辦事處。市政府駐宜陽街道青陽中路。