1963年置相山區(qū),1970年改相山區(qū)。
1996年,相山區(qū)面積83.8平方千米,人口23萬,轄4街道2鎮(zhèn):相山東街道、相山西街道、三堤口街道、東山街道、任圩鎮(zhèn)、渠溝鎮(zhèn)。區(qū)政府駐相城相陽路北段。1997年設(shè)立相南街道。
2000年第五次人口普查,全區(qū)總?cè)丝?99663人,其中:相南街道48951人,相山東街道42568人,相山西街道50140人,三堤口街道40224人,東山街道25196人,人民路街道24406人,劉橋街道16834人,渠溝鎮(zhèn)31844人,任圩鎮(zhèn)19500人。
2004年,相山區(qū)任圩鎮(zhèn)改設(shè)為街道辦事處,同時將濉溪縣的3個自然村劃歸相山區(qū)。同年,將濉溪縣濉溪鎮(zhèn)的慶相橋、虎山北路居委會劃入相山區(qū)三堤口街道辦事處。2004年底,相山區(qū)轄7個街道(任圩、三堤口、東山、相山東、相南、相山西、劉橋)、1個鎮(zhèn)(渠溝)。23個村、53個社區(qū),總面積100平方千米,人口33萬人。
2006年3月,將濉溪縣鐘樓鄉(xiāng)整建制劃入相山區(qū)渠溝鎮(zhèn)。
2008年,相山區(qū)設(shè)立人民路、曲陽、南黎3個街道辦事處,分別位于人民路東段、西段及人民路以南。新成立的曲陽街道辦事處轄劉莊、濉河兩個居委會和渠溝、任井兩個村,面積約6平方千米,人口5.36萬人。調(diào)整后的相山區(qū)轄10個街道、1個鎮(zhèn);渠溝鎮(zhèn)轄14個村,面積約87平方千米,人口6.18萬人;三堤口街道辦事處轄9個居委會,面積約10平方千米,人口4.23萬人。