商丘傳為上古帝王之都，帝顓頊曾建都于商丘。據(jù)《晉書·地理上》記載：“顓頊?zhǔn)甲愿F桑（今曲阜北），而徙邑商丘”。帝嚳子契佐禹治水有功封于商，為商族人的始祖。周初封殷商后裔微子啟于此，國號宋。周赫王二十九年（前286）齊、楚、魏滅宋而三分宋地，商丘屬魏。秦時(shí)，本地分屬碭郡與陳郡。西漢高祖五年（前202）改為梁國，屬豫州。三國魏黃初元年（220）改梁國為梁郡。后趙、前燕、前秦、后燕、后秦時(shí)仍為梁郡。南朝宋、齊為南梁郡，屬南徐州。北魏為梁郡，屬南兗州。
隋開皇初梁郡廢，十六年（596）置宋州，大業(yè)三年（607）復(fù)置梁郡。唐武德四年（621）又改為宋州；天寶元年（742）置睢陽郡，屬河南道；乾元元年（758）復(fù)為宋州。五代后梁開平三年（909）升為宣武軍，后唐同光元年（923）改為歸德軍，后周時(shí)仍為宣武軍。北宋初復(fù)置宋州，景德三年（1006）升宋州為應(yīng)天府，屬京東西路（應(yīng)天府始為京東東路路治，后為京東西路路治），大中祥符七年（1014）詔升為南京。金天會八年（1130）更名為歸德府，屬南京路。元為歸德府，屬河南布政使司。
明太祖洪武元年（1368）降府為州，屬開封府。嘉靖二十四年（1545）升州為府。清沿明制，仍為歸德府，屬河南省。民國2年（1913）裁歸德府，所屬各縣劃歸豫東道。1914年改豫東道為開封道。1932年為第二行政督察區(qū)，直到1948年。1948年11月全區(qū)解放后為豫皖蘇第一行政區(qū)，1949年3月改為河南省商丘專區(qū)，轄睢縣、民權(quán)、寧陵、柘城、商丘、虞城、夏邑等7個(gè)縣及商丘市。1950年5月商丘縣城關(guān)區(qū)改建為商丘市，原商丘市改為朱集市。1951年7月設(shè)立谷熟辦事處（縣級）。
1951年8月朱集、商丘二市合并為商丘市，市治朱集。1952年1月，永城縣由皖北專區(qū)劃歸商丘專區(qū)，同年8月撤谷熟辦事處正式建谷熟縣。1953年1月，裁淮陽專區(qū)，其所屬淮陽、鹿邑、太康、沈丘、項(xiàng)城、鄲城等6縣劃歸商丘專區(qū)。1954年撤銷谷熟縣并入虞城縣。1958年12月，商丘專區(qū)并入開封專區(qū)。1961年12月恢復(fù)商丘專區(qū)。1965年6月，淮陽、鹿邑、太康、沈丘、項(xiàng)城、鄲城等6縣劃歸周口專區(qū)。1968年改為商丘地區(qū)。1977年10月蘭考縣由開封地區(qū)劃歸商丘地區(qū)，1980年8月蘭考重歸開封地區(qū)。
1996年，商丘地區(qū)面積10326平方千米。人口約766萬人，行署駐商丘市，轄商丘、永城2市和商丘、虞城、民權(quán)、寧陵、柘城、睢縣、夏邑7縣。（數(shù)據(jù)來源于《中華人民共和國政區(qū)大典》）
1997年6月1日，國務(wù)院批復(fù)（國函[1997]46號）：（1）撤銷商丘地區(qū)和縣級商丘市、商丘縣，設(shè)立地級商丘市，市人民政府駐新設(shè)立的梁園區(qū)凱旋中路。（2）商丘市設(shè)立梁園區(qū)和雎陽區(qū)。梁園區(qū)轄原縣級商丘市的八八、向陽、東風(fēng)3個(gè)街道和袁莊、周莊、黑劉莊4個(gè)鄉(xiāng)，原商丘縣的雙八、張閣、謝集3個(gè)鎮(zhèn)和李莊、王樓、劉口、觀堂、平臺、周集、水池鋪、孫福集8個(gè)鄉(xiāng)。區(qū)人民政府駐民主東路。雎陽區(qū)轄原商丘縣的城關(guān)、郭村、李口、宋集4個(gè)鎮(zhèn)和城北、路河、王墳、勒馬、閻集、婁店、馮橋、高辛、塢墻、臨馬店、毛錮堆、包公廟12個(gè)鄉(xiāng)。區(qū)人民政府駐城關(guān)鎮(zhèn)。（3）商丘市轄原商丘地區(qū)的夏邑縣、寧陵縣、虞城縣、柘城縣、民權(quán)縣、雎縣和新設(shè)立的梁園區(qū)、雎陽區(qū)。原商丘地區(qū)的永城市由省直轄。
2000年第五次全國人口普查，商丘市總?cè)丝?753844人；粱園區(qū)674502人、睢陽區(qū)754481人、民權(quán)縣805063人、睢縣757080人、寧陵縣562794人、柘城縣876537人、虞城縣1025261人、夏邑縣1033519人、永城市1264607人。
2003年11月，商丘市政府由梁園區(qū)凱旋中路（518號）遷至睢陽區(qū)府前路（1號）【本站注：尚未見到國務(wù)院相應(yīng)批復(fù)文件】。2006年4月，睢陽區(qū)政府由古城街道（原城關(guān)鎮(zhèn)）遷至新城街道。
2005年11月23日，商丘市人民政府《關(guān)于鄉(xiāng)鎮(zhèn)行政區(qū)劃調(diào)整的通知》（商政[2005]86號）：根據(jù)河南省民政廳關(guān)于商丘市鄉(xiāng)鎮(zhèn)行政區(qū)劃調(diào)整的批復(fù)（豫民行批[2005]86號）的精神，現(xiàn)將我市有關(guān)縣（市）鄉(xiāng)鎮(zhèn)行政區(qū)劃調(diào)整工作通知如下： 一、永城市。撤銷灤湖鄉(xiāng)，將其行政區(qū)域劃歸薛湖鎮(zhèn)管轄，薛湖鎮(zhèn)人民政府駐地不變。 二、夏邑縣。撤銷郭莊鄉(xiāng)，將其行政區(qū)域劃歸李集鎮(zhèn)管轄，李集鎮(zhèn)人民政府駐地不變。 三、虞城縣。撤銷營盤鄉(xiāng)，將其行政區(qū)域劃歸大侯鄉(xiāng)管轄，大侯鄉(xiāng)人民政府駐地不變；撤銷三莊鄉(xiāng)，將其行政區(qū)域劃歸稍崗鄉(xiāng)管轄，稍崗鄉(xiāng)人民政府駐地不變；撤銷八里堂鄉(xiāng)，將其行政區(qū)域劃歸賈寨鎮(zhèn)管轄，賈寨鎮(zhèn)人民政府駐地不變；撤銷小侯鄉(xiāng)，將其行政區(qū)域劃歸劉店鄉(xiāng)管轄，劉店鄉(xiāng)人民政府駐地不變。 四、柘城縣。撤銷鐵關(guān)鄉(xiāng)，將其行政區(qū)域劃歸安平鎮(zhèn)管轄，安平鎮(zhèn)人民政府駐地不變；撤銷尚寨鄉(xiāng)、小吳鄉(xiāng)，新設(shè)置惠濟(jì)鄉(xiāng)，轄原尚寨鄉(xiāng)、小吳鄉(xiāng)的行政區(qū)域，惠濟(jì)鄉(xiāng)人民政府駐原小吳鄉(xiāng)人民政府駐地小吳村。 五、睢縣。撤銷帝丘鄉(xiāng)，將其行政區(qū)域劃歸董店鄉(xiāng)管轄，董店鄉(xiāng)人民政府駐地不變；撤銷范洼鄉(xiāng)，將其行政區(qū)域劃歸匡城鄉(xiāng)管轄，匡城鄉(xiāng)人民政府駐地不變；撤銷榆廂鄉(xiāng)、西陵鎮(zhèn)，新設(shè)置西陵寺鎮(zhèn)，轄原榆廂鄉(xiāng)、西陵鎮(zhèn)的行政區(qū)域，西陵寺鎮(zhèn)人民政府駐原西陵鎮(zhèn)人民政府駐地西陵寺村；撤銷阮樓鄉(xiāng)、城隍鄉(xiāng)，新設(shè)置城郊鄉(xiāng)，轄原阮樓鄉(xiāng)、城隍鄉(xiāng)的行政區(qū)域，城郊鄉(xiāng)人民政府駐原城隍鄉(xiāng)人民政府駐地北關(guān)村。 六、寧陵縣。撤銷楚莊鄉(xiāng)，將其行政區(qū)域劃歸華堡鄉(xiāng)管轄，華堡鄉(xiāng)人民政府駐原楚莊鄉(xiāng)人民政府駐地楚莊村。 七、民權(quán)縣。撤銷李堂鄉(xiāng)，將其行政區(qū)域劃歸程莊鎮(zhèn)管轄，程莊鎮(zhèn)人民政府駐地不變。 2005年末，商丘市轄2個(gè)市轄區(qū)、6個(gè)縣，代管1個(gè)縣級市；全市共有12個(gè)街道、61個(gè)鎮(zhèn)、116個(gè)鄉(xiāng)。
2007年末，全市東西橫距168千米，南北縱距128千米，總面積10704平方千米，其中平原面積10623平方千米，約占總面積的99.24%；山丘面積81平方千米，約占總面積的0.76%。總?cè)丝?24.37萬人。轄梁園、睢陽2個(gè)市轄區(qū)和虞城、民權(quán)、寧陵、柘城、睢縣、夏邑6個(gè)縣，代管永城市。共有14個(gè)街道、61個(gè)鎮(zhèn)、115個(gè)鄉(xiāng)，4619個(gè)村委會、183個(gè)居委會。（數(shù)據(jù)來源于商丘市政府網(wǎng)站）