南陵在漢武帝元封二年（公元前109年）屬丹陽郡春谷縣、宣城縣。晉置南陵戍。南陵，本漢縣名，在關(guān)中，屬京兆尹。東晉僑置于江南。南朝梁武帝普通六年（525年）置南陵郡、南陵縣，由東晉于沿江南岸赭圻屯所置南陵戍而來。
唐長安四年（704年）移治青陽城（今籍山鎮(zhèn)），屬江南道宣州，南宋與明清屬寧國府。民國初年屬蕪湖道，1932年、1938年、1940年先后劃屬第二、九、六行政督察區(qū)。
1949年4月22日解放，即置南陵縣人民政府，屬蕪湖地區(qū)，1950年屬宣城地區(qū)，1952年屬蕪當(dāng)專區(qū)，1980年屬宣城地區(qū)，1983年為蕪湖市轄縣。
1958年9月撤銷區(qū)、鄉(xiāng)建制，實行政、社合一體制，全縣設(shè)立弋江、許鎮(zhèn)、奎湖、工山、家發(fā)、三里、煙墩（翌年11月并入三里）、何灣、童村（1961年9月更名戴鎮(zhèn)）、晏公（翌年11月并入何灣）等公社。1960年改城關(guān)鎮(zhèn)為城關(guān)公社，1962年復(fù)置城關(guān)鎮(zhèn)。
1961年6月建區(qū)劃社，弋江區(qū)轄弋江、九連、東河、石鋪、奚灘5個公社，黃墓區(qū)轄奎湖、黃塘、黃墓、東塘、太豐、仙坊6個公社，工山區(qū)轄工山、麻橋、桂山、家發(fā)、戴鎮(zhèn)5個公社，峨嶺區(qū)轄三里、五里、峨嶺、煙墩4個公社，何灣區(qū)轄丫山、綠嶺、何灣3個公社。，1964年11月由石鋪公社析置葛林公社，1965年復(fù)置弋江鎮(zhèn)，均屬弋江區(qū)。
1970年1月撤銷區(qū)建制。1972年3月設(shè)弋江、黃墓等片，戴鎮(zhèn)公社劃屬何灣片。1974年3月恢復(fù)區(qū)建制。1982年1月弋江公社更名蒲橋公社。
1984年3月撤社改鄉(xiāng)。1984年12月析東河鄉(xiāng)、九連鄉(xiāng)復(fù)置東七鄉(xiāng)，屬弋江區(qū)。1985年2月，黃墓鄉(xiāng)改黃墓鎮(zhèn)，三里鄉(xiāng)改三里鎮(zhèn)，丫山鄉(xiāng)改丫山鎮(zhèn)。
1990年，縣境東接宣州市，南鄰涇縣，西連銅陵縣，北界蕪湖縣。西北同繁昌縣相鄰，西南與青陽縣毗連。面積1263.7平方千米。轄城關(guān)鎮(zhèn)和5個區(qū)公所（下轄4鎮(zhèn)22鄉(xiāng)）。弋江區(qū)轄弋江鎮(zhèn)和東七、九連、東河、石鋪、蒲橋、葛林、奚灘7鄉(xiāng)，黃墓區(qū)轄黃墓鎮(zhèn)和奎湖、黃塘、太豐、仙坊、東塘5鄉(xiāng)，工山區(qū)轄工山、桂山、麻橋、家發(fā)4鄉(xiāng)，峨嶺區(qū)轄三里鎮(zhèn)和五里、峨嶺、煙墩3鄉(xiāng)，何灣區(qū)轄丫山鎮(zhèn)和戴鎮(zhèn)、綠嶺、何灣3鄉(xiāng)。
1992年撤區(qū)并鄉(xiāng)建鎮(zhèn)，撤銷五里鄉(xiāng)并入城關(guān)鎮(zhèn)，撤銷蒲橋鄉(xiāng)并入弋江鎮(zhèn)，撤銷仙坊鄉(xiāng)并入黃墓鎮(zhèn)，撤銷黃塘鄉(xiāng)并入奎湖鄉(xiāng)，撤銷工山鄉(xiāng)、桂山鄉(xiāng)設(shè)立工山鎮(zhèn)，撤銷麻橋鄉(xiāng)、家發(fā)鄉(xiāng)設(shè)立家發(fā)鄉(xiāng)。（東七鄉(xiāng)？）
1996年，南陵縣面積1263.7平方千米，人口約53萬人。轄6鎮(zhèn)14鄉(xiāng)：城關(guān)鎮(zhèn)、丫山鎮(zhèn)、三里鎮(zhèn)、黃墓鎮(zhèn)、弋江鎮(zhèn)、工山鎮(zhèn)、東塘鄉(xiāng)、太豐鄉(xiāng)、東河鄉(xiāng)、奚灘鄉(xiāng)、葛林鄉(xiāng)、石鋪鄉(xiāng)、九連鄉(xiāng)、綠嶺鄉(xiāng)、戴鎮(zhèn)鄉(xiāng)、何灣鄉(xiāng)、煙墩鄉(xiāng)、峨嶺鄉(xiāng)、家發(fā)鄉(xiāng)、奎湖鄉(xiāng)。縣政府駐城關(guān)鎮(zhèn)。
1997年，撤銷何灣鄉(xiāng)，設(shè)立何灣鎮(zhèn)，鎮(zhèn)政府駐何灣；撤銷奎湖鄉(xiāng)，設(shè)立奎湖鎮(zhèn)，鎮(zhèn)政府駐奎湖街；撤銷家發(fā)鄉(xiāng)，設(shè)立家發(fā)鎮(zhèn)，鎮(zhèn)政府駐麻橋；撤銷戴鎮(zhèn)鄉(xiāng)，設(shè)立戴匯鎮(zhèn)，鎮(zhèn)政府駐戴匯；撤銷綠嶺鄉(xiāng)，設(shè)立綠嶺鎮(zhèn)，鎮(zhèn)政府駐綠嶺。2000年，全縣轄15個鎮(zhèn)、6個鄉(xiāng)。
2000年第五次人口普查，南陵縣常住總?cè)丝?90130人，其中：城關(guān)鎮(zhèn)51989人，弋江鎮(zhèn)33834人，黃墓鎮(zhèn)31584人，三里鎮(zhèn)24417人，丫山鎮(zhèn)9892人，工山鎮(zhèn)30489人，奚灘鎮(zhèn)24338人，奎湖鎮(zhèn)28860人，家發(fā)鎮(zhèn)30566人，峨嶺鎮(zhèn)18094人，煙墩鎮(zhèn)17788人，戴匯鎮(zhèn)19475人，何灣鎮(zhèn)18498人，綠嶺鎮(zhèn)11529人，石鋪鎮(zhèn)21995人，九連鄉(xiāng)22711人，東河鄉(xiāng)19300人，東七鄉(xiāng)19297人，葛林鄉(xiāng)18399人，太豐鄉(xiāng)26360人，東塘鄉(xiāng)10715人。
2003年10－11月，南陵縣將21個鄉(xiāng)鎮(zhèn)撤并為煙墩、家發(fā)、籍山、許鎮(zhèn)、弋江、何灣、三里、工山8鎮(zhèn)：撤銷城關(guān)鎮(zhèn)、葛林鄉(xiāng)、石鋪鎮(zhèn)、九連鄉(xiāng)，設(shè)立籍山鎮(zhèn)；撤銷黃墓鎮(zhèn)、奎湖鎮(zhèn)、東塘鄉(xiāng)、太豐鄉(xiāng)，設(shè)立許鎮(zhèn)鎮(zhèn)；撤銷奚灘鎮(zhèn)、東河鄉(xiāng)、東七鄉(xiāng)，并入弋江鎮(zhèn)；撤銷峨嶺鎮(zhèn)，并入三里鎮(zhèn)；撤銷丫山鎮(zhèn)、綠嶺鎮(zhèn)，并入何灣鎮(zhèn)；撤銷戴匯鎮(zhèn)，并入工山鎮(zhèn)。
2003年末，全縣面積1263平方千米，人口164388戶、545574人，轄8鎮(zhèn)：籍山鎮(zhèn)、許鎮(zhèn)鎮(zhèn)、弋江鎮(zhèn)、三里鎮(zhèn)、工山鎮(zhèn)、家發(fā)鎮(zhèn)、何灣鎮(zhèn)、煙墩鎮(zhèn)，共有20個居委會、159個行政村。
2010年第六次人口普查，南陵縣常住總?cè)丝?04278人，其中：籍山鎮(zhèn)138640人，許鎮(zhèn)鎮(zhèn)77048人，弋江鎮(zhèn)67710人，三里鎮(zhèn)28516人，何灣鎮(zhèn)23206人，工山鎮(zhèn)35124人，煙墩鎮(zhèn)11770人，家發(fā)鎮(zhèn)22264人。