蜀山區以原西市區為主。1949年為合肥市第三區，1951年11月改為西市區。西市區位于合肥市區西南部。是合肥市面積最大，人口最多的城區。

1996年，西市區面積38.3平方千米，人口約28.8萬人，轄9個街道：五里墩街道、西園街道、三里庵街道、琥珀山莊街道、稻香村街道、南七街道、蕪湖路街道、包河街道、巢湖路街道。

2000年第五次人口普查，西市區常住總人口387009人，其中：三里庵街道35901人，巢湖路街道21973人，包河街道52718人，蕪湖路街道48555人，南七里站街道54181人，稻香部街道63514人，琥珀山莊街道18485人，西園新村街道35002人，蜀山路街道56680人。

2002年，西市區更名為蜀山區。蜀山區蜀山區轄原西市區琥珀、三里庵、五里墩、西園新村、南七里站、稻香村6個街道。將井崗鎮（原郊區的蜀山鎮）劃歸蜀山區。原西市區稻香村街道金寨路以西的區域由稻香村街道辦事處管轄，街道辦事處駐地暫駐稻香村街道辦事處原駐地。原西市區南七里站街道金寨路以西區域與原郊區常青鎮金寨路以西區域合并，由南七里站街道辦事處管轄，街道辦事處駐地不變。原郊區杏花村鎮五里崗、五里墩2個村劃歸蜀山區井崗鎮管轄。調整后，蜀山區轄井崗鎮1個鎮，琥珀、三里庵、五里墩、西園新村、南七里站、稻香村6個街道。面積85.55平方千米，人口35.46萬人，其中非農業人口29.30萬人。區人民政府駐梅山路107號（原西市區人民政府駐地）。同年，蜀山區政府籌備組批準將原五里墩和五里崗兩個村委會，分別更名為青陽路社區居委會和清溪路社區居委會。此外，南七街道朝陽村、光明村也進行村改居。

2002年，蜀山區對區域內的行政區劃作相應的調整。蜀山區的新勘定的邊界線沿金寨路、環城路向西南方向延伸。西面與肥西縣、高新區交界，南面與政務文化新區、高新區交界。將清溪路社區管轄的合作化北路以東、霍山路以北區域內的墩郢、五東2個村民小組劃入琥珀山莊街道；青陽路社區管轄的合作化北路以東、霍山路以南區域內的東新莊、西新莊2個村民小組劃入三里庵街道；光明社區整體劃入西園新村街道；朝陽社區整體劃入稻香村街道；洪崗村、丁崗村、杜崗村民小組劃入南七里站街道管轄。從10月10日起，蜀山區將正式啟用新的行政版圖。2002年底，蜀山區轄：五里墩街道、西園街道、三里庵街道、琥珀山莊街道、稻香村街道、南七街道、井崗鎮。

2004年4月，筆架山街道正式掛牌成立。至此，蜀山區轄8個街道、1個鎮，即稻香村、三里庵、南七里站、五里墩、西園新村、琥珀山莊、荷葉地、筆架山8個街道和井崗1個鎮。

2006年，將肥西縣南崗鎮劃歸合肥市蜀山區管轄。調整后的蜀山區轄稻香村、三里庵、南七里站、五里墩、西園新村、琥珀山莊、荷葉地、筆架山8個街道和井崗、南崗2個鎮。2007年底，全區轄8個街道、2個鎮：稻香村街道、南七里站街道、三里庵街道、琥珀山莊街道、西園新村街道、五里墩街道、荷葉地街道、筆架山街道、井崗鎮、南崗鎮。區政府駐稻香村街道。

2008年，蜀山區以長江西路、合作化路、黃山路等主干道為界線，對琥珀山莊街道、西園新村街道、稻香村街道、五里墩街道、三里庵街道和南七里站街道的管轄范圍進行重新劃分。同時將琥珀山莊街道、西園新村街道和南七里站街道將分別更名為琥珀街道、西園街道和南七街道。

2010年第六次人口普查，蜀山區常住總人口1022321人，其中：三里庵街道89255人，稻香村街道51284人，琥珀街道87262人，南七街迫66226人，西園街道65440人，五里墩街道76847人，荷葉地街道44102人，筆架山街道25263人，井崗鎮112896人，南崗鎮12594人，蜀山新產業園區16542人，高新技術產業開發區118723人，蓮花社區管理委員會64116人，芙蓉社區管理委員會49218人，錦繡社區管理委員會68320人，海恒社區管理委員會48656人，臨湖社區管理管委會25577人。

2013年4月3日，省民政廳（民地字[2013]67號）批復同意將肥西縣的高劉鎮整建制劃歸合肥市蜀山區管轄（4月16日市政府批復同意高劉鎮整建制劃歸蜀山區管轄，由蜀山區委托經開區管理；9月1日正式移交蜀山區，由合肥市經濟技術開發區托管）。同年，省民政廳（民地字[2013]140號）批復同意將肥西縣的小廟鎮整建制劃歸合肥市蜀山區管轄。2014年10月9日，高劉鎮增掛高劉社區管理委員會牌子（一個機構兩套牌子）。