南陽古稱宛，因地處伏牛山以南、漢水之北而得名。西周屬申國，春秋為楚邑，始稱宛。公元前272年，秦置南陽郡，郡治宛城（今宛城區），漢沿秦制。東漢光武帝劉秀起兵于南陽，王親貴戚多封于此，故東漢時南陽又有“南都”之稱。晉為南陽國，南北朝復南陽郡。唐宋設鄧州、唐州。元置南陽府，明清因之。1949年設南陽專區（后改為南陽地區）。

1994年7月1日，國務院批準（國函[1994]67號）:（1）撤銷南陽地區、縣級南陽市、南陽縣，設立地級南陽市，市人民政府駐新設立的中州路。（2）南陽市新設宛城區和臥龍區。宛城區轄原南陽市的新華、東關2個街道辦事處和環城鄉，原南陽縣的白河、瓦店、官莊3個鎮和新店、紅泥灣、高廟、茶庵、溧河、漢冢、黃家崗、金華8個鄉，區人民政府駐東關街道辦事處建設路；臥龍區轄原南陽市的梅溪街道辦事處和七一、靳崗、臥龍3個鄉，原南陽縣的蒲山、漳河、石橋3個鎮和小寨、潦河坡、謝莊、安皋、王村、青華、陸營、英莊8個鄉，區人民政府駐梅溪街道辦事處七一路。（3）南陽市轄原南陽地區的桐柏縣、方城縣、淅川縣、鎮平縣、唐河縣、南召縣、內鄉縣、新野縣、社旗縣、西峽縣和新設的宛城區、臥龍區。原南陽地區的鄧州市由省直轄。

1996年?，南陽市面積26600平方千米，人口1027.7萬人，市府駐臥龍區，轄臥龍、宛城2區和南召、方城、社旗、唐河、桐柏、新野、鎮平、內鄉、淅川、西峽10縣，代管鄧州1個縣級市。

2000年第五次全國人口普查，南陽市總人口9577771人，其中：宛城區785943人、臥龍區798772人、南召縣561784人、方城縣886230人、西峽縣412988人、鎮平縣852360人、內鄉縣583233人、淅川縣641327人、社旗縣580280人、唐河縣1151733人、新野縣629106人、桐柏縣403359人、鄧州市1290656人。

2005年，全市鄉鎮區劃數由撤并前的227個減少為212個。2005年末，南陽市轄2個市轄區、10個縣，代管1個縣級市；全市共有16個街道、116個鎮、93個鄉。