1949年初設小蚌埠區，1956年改名郊區。

1996年，蚌埠市郊區面積406.4平方千米，人口約25.5萬人，轄2鎮6鄉：長淮衛鎮、小蚌埠鎮、長青鄉、李樓鄉、燕山鄉、秦集鄉、雪華鄉、吳小街鄉。區政府駐涂山路。

2000年第五次人口普查，蚌埠市郊區常住總人口222659人，其中：長淮衛鎮35722人，小蚌埠鎮44392人，長青鄉14688人，李樓鄉20888人，燕山鄉23388人，秦集鄉42075人，雪華鄉15269人，吳小街鄉26237人。

2004年1月10日，國務院（國函[2004]4號）批準同意調整蚌埠市部分行政區劃：郊區更名為淮上區；淮上區轄原郊區的小蚌埠鎮、吳小街鎮；原中市區的淮濱街道；原屬懷遠縣的梅橋鄉；原屬固鎮縣的曹老集鎮。區人民政府駐小蚌埠鎮。將原郊區的李樓鄉、長淮衛鎮，雪華鄉的曹彭、仇崗、孫郢、山南4個村劃歸龍子湖區管轄；將燕山鄉，雪華鄉的邱橋、紀郭、沈圩3個村，長青鄉的陶店、金圩2個村，秦集鎮的仲集村劃歸蚌山區管轄；將長青鄉的許莊、九龍、山香、黃山、王崗、石巷6個村，秦集鎮的秦集、九塘、河北、東周、姜顧、花郢、西朱、禹會、大徐、高埂、前郢、馮東、馮西、宗洼、草寺、大孔、老貫徐、三尖塘、彭巷、仁和、棗林、周蔡、杭劉、廣德24個村劃歸禹會區管轄。

2004年，淮上區政府由涂山路遷至濱淮大道。2004年末，淮上區轄1個街道、3個鎮、1個鄉。

2010年第六次人口普查，淮上區常住總人口其中：145874人，淮濱街道3099人，小蚌埠鎮48023人，吳小街鎮27454人，曹老集鎮36385人，梅橋鄉30877人，蚌埠工業園區36人。

2012年，根據《蚌埠市改革和創新社區管理體制試點工作方案》，淮上區撤銷淮濱街道編制，改為淮濱社區公共服務中心。【注：2014年末安徽省民政廳編寫的行政區劃簡冊仍為淮濱街道】

2014年，將五河縣管轄的沫河口鎮整建制劃歸蚌埠市淮上區管轄（民地字[2014]61號）。