原屬繁昌縣。1981年恢復三山、保定、中溝、小洲、峨橋、浮山、新淮公社管委會。1983年4月，撤銷中溝公社，成立中溝鄉，大隊改為行政村，生產隊改為村民小組。1984年4月，三山等6個公社改為鄉，大隊、小隊同時更名。1985年7月，三山鄉撤鄉設鎮。

1992年3月，小洲鄉整建制并入保定鄉。1994年10月，恢復小洲鄉建制。1995年1月，峨橋鄉撤鄉設鎮。1997年，三山鎮政府自官磯山西麓南遷至蕪繁公路北側。2003年12月，三山鎮、小洲鄉、保定鄉、中溝鄉合并為三山鎮（12月16日），峨橋鎮、新淮鄉、浮山鄉合并為峨橋鎮。

2005年9月13日，國務院（國函[2005]77號）批準同意調整蕪湖市部分行政區劃：設立蕪湖市三山區，將馬塘區的三山、保定2個街道和繁昌縣的峨橋鎮劃歸三山區管轄。三山區人民政府駐三華路。

2006年2月9日，蕪湖市政府批復同意設立三山區，將繁昌縣的原三山鎮、峨橋鎮劃歸三山區管轄（實際調整情況），區政府駐三山鎮三華路。2006年4月，設立保定、龍湖及三山3個街道，保留峨橋鎮，撤銷三山鎮。

2006年底，全區常住人口14.59萬人。轄保定街道、龍湖街道、三山街道、峨橋鎮，共有40個行政村、2個社區。區政府駐三山街道。

2009年12月14日，《安徽省民政廳關于同意蕪湖市三山區與繁昌縣行政區劃調整的批復》（民地字[2009]183號）：經省政府同意，將繁昌縣新港鎮的高安、義合、磯山、草山、裕民、白象6個村委會和泥埠居委會，面積43.7平方公里，人口3.2萬人，劃歸三山區三山街道辦事處管轄。調整后，三山區轄3個街道辦事處、1個鎮，3個居委會、46個村委會，面積319.7平方公里，人口18.28萬人；三山街道辦事處轄三山、新莊、長壩、孫灘、天橋、上游、高安、義合、磯山、草山、裕民、白象12個村委會和三華、泥埠2個居委會，面積85.4平方公里，人口6.3萬人，三山街道辦事處駐地不變。

2010年1月27日，正式將繁昌縣新港鎮的高安、義合、磯山、草山、裕民、白象6個村委會和泥埠居委會劃歸三山區管轄，成立高安街道，并委托蕪湖長江大橋綜合經濟開發區管理。

2010年第六次人口普查，三山區常住總人口144378人，其中：三山街道30439人，保定街道27612人，龍湖街道23072人，高安街道23734人，蛾橋鎮39521人。