謝家集區(qū)境北部原為鳳臺縣屬地，南部原屬壽縣管轄。1961年分八公山區(qū)南部，設(shè)謝家集區(qū)。

　　1949年4月，淮南礦區(qū)政府設(shè)淮南區(qū)，轄蔡崗、孔集、八公、連崗、安成、山王、鴨背7個鄉(xiāng)。7月，城鎮(zhèn)部分設(shè)八公山辦事處（11月改稱八公山鎮(zhèn)）。1950年11月，淮南區(qū)改稱為第三區(qū)（1951年11月改稱蔡崗區(qū)），轄錢湖、連崗、陶圩、蔡崗、沈塘5個鄉(xiāng)。1953年5月，撤八公山鎮(zhèn)，設(shè)八公山區(qū)（科級）。1954年3月，壽縣的廿店、隗店兩個鄉(xiāng)劃入蔡崗區(qū)。7月，廿店、隗店2個鄉(xiāng)改劃為廿店、隗店、翟家洼3個鄉(xiāng)。至此，蔡崗區(qū)轄8個鄉(xiāng)。
　　1955年2月，八公山區(qū)和蔡崗區(qū)的城鎮(zhèn)部分合并，建立八公山區(qū)（縣級）；蔡崗區(qū)的農(nóng)村部分劃入淮南市郊區(qū)。1956年，翟洼、廿店、沈塘3個鄉(xiāng)合并為東津鄉(xiāng)；蔡崗、陶圩2個鄉(xiāng)合并為蔡崗鄉(xiāng)。1958年9月，錢淮高級農(nóng)業(yè)社（錢湖鄉(xiāng)）、長春高級農(nóng)業(yè)社（隗店鄉(xiāng)）、新淮高級農(nóng)業(yè)社（東津鄉(xiāng)）、迎春高級農(nóng)業(yè)社（蔡崗鄉(xiāng)）合并成立了唐山公社。1959年3月，撤銷郊區(qū)，八公山區(qū)境的農(nóng)村（即唐山公社）劃歸八公山區(qū)。1960年1至3月，八公山區(qū)成立八公山區(qū)公社，轄7個城市分社和1個農(nóng)業(yè)分社：望峰崗城市分社、謝家集城市分社、畢家崗城市分社、李郢孜城市分社、謝三礦城市分社、蔡家崗城市分社、新莊孜城市分社和唐山農(nóng)業(yè)分社。
　　1961年10月1日，八公山區(qū)分置為八公山、謝家集兩個區(qū)。謝家集區(qū)轄謝家集、蔡家崗、謝三礦、望峰崗、李郢孜5個城市人民分社和唐山農(nóng)業(yè)分社。畢家崗、新莊孜2個城市人民分社、錢湖大隊(duì)和蔡崗大隊(duì)屬八公山區(qū)。1962年，在謝家集城市人民分社進(jìn)行城市設(shè)立街道辦事處試點(diǎn)工作。1963年2月18日，從唐山農(nóng)業(yè)分社劃出部分生產(chǎn)隊(duì)成立永青蔬菜分社（1965年劃入陶圩公社，為永青大隊(duì)）。1963年至1964年，謝家集、蔡家崗、謝三礦、望峰崗、李郢孜5個城市人民分社分別更名為謝家集、蔡家崗、謝三村、望峰崗、李郢孜街道辦事處。
　　1964年7月，從唐山公社劃出部分生產(chǎn)大隊(duì)成立賴山公社。1965年7月，從唐山、賴山兩個公社劃出陶圩、耿皇、周郢、劉崗、永青、鴨背6個大隊(duì)成立陶圩公社。1972年，二道河農(nóng)場4大隊(duì)劃給陶圩公社，更名二道河大隊(duì)。1970年2月28日，蔡家崗街道辦事處劃分為前進(jìn)、立新2個街道辦事處。1977年，前進(jìn)街道辦事處復(fù)稱蔡家崗街道辦事處。1981年9月，立新街道辦事處更名為蔡新路街道辦事處。1986年，蔡新路街道辦事處復(fù)稱立新街道辦事處。
　　1986年5月，賴山鄉(xiāng)劃出尚安、廿店、施嘴、蓮花、砂里崗村，唐山鄉(xiāng)劃出邱崗村，合并成立施家湖鄉(xiāng)。1989年3月12日，陶圩鄉(xiāng)、望峰崗街道辦事處合并，賴山鄉(xiāng)的山余村劃入，成立望峰崗鎮(zhèn)。1990年，謝家集區(qū)轄唐山鄉(xiāng)、賴山鄉(xiāng)、施家湖鄉(xiāng)、望峰崗鎮(zhèn)和謝家集街道、蔡家崗街道、謝三村街道、立新街道、李郢孜街道。
　　1991年11月，成立平山街道；賴山鄉(xiāng)與李郢孜街道合并建立李郢孜鎮(zhèn)。1992年2月，唐山鄉(xiāng)與施家湖鄉(xiāng)合并建立唐山鄉(xiāng)，鄉(xiāng)政府駐地在唐山。1995年10月，撤唐山鄉(xiāng)建唐山鎮(zhèn)。1996年，謝家集區(qū)面積96平方千米，人口24.6萬，轄5個街道、3個鎮(zhèn)：謝家集街道、蔡家崗街道、立新街道、謝三村街道、平山街道、李郢孜鎮(zhèn)、望峰崗鎮(zhèn)、唐山鎮(zhèn)，78個居委會、26個村委會。區(qū)政府駐平山路。
　　2000年第五次人口普查，全區(qū)總?cè)丝?56873人，其中：謝家集街道55652人，蔡家崗街道30478人，立新街道17603人，謝三村街道19696人，平山街道18668人，望峰崗鎮(zhèn)48930人，李郢孜鎮(zhèn)43002人，唐山鎮(zhèn)22844人。
　　2004年5月29日，國務(wù)院批準(zhǔn)（國函[2004]39號），將長豐縣的孫廟鄉(xiāng)、孤堆回族鄉(xiāng)、楊公鎮(zhèn)劃歸淮南市謝家集區(qū)管轄；7月1日正式實(shí)施。調(diào)整前，謝家集區(qū)面積96平方千米，人口26萬（2001年）。2004年底，謝家集區(qū)轄5個街道、4個鎮(zhèn)、2個鄉(xiāng)：李郢孜鎮(zhèn)、望峰崗鎮(zhèn)、唐山鎮(zhèn)、楊公鎮(zhèn)、孫廟鄉(xiāng)、孤堆回族鄉(xiāng)，謝家集街道、蔡家崗街道、立新街道、謝三村街道、平山街道。