據《隋書·地理志》載，商洛之名源于商山洛水。歷史上曾有上洛、商州等稱謂。西周和春秋屬晉，戰國為秦。秦始皇統一中國后，北部屬內史，南部屬漢中郡。西漢時東北部屬弘農郡，西南部屬漢中郡。東漢時大部屬京兆尹，南部屬南陽郡，西南部屬漢中郡。三國魏時，大部屬京兆郡，今鎮安、柞水、山陽三縣屬魏興郡。西晉泰始二年（266年）析京兆郡南部地于上洛縣（今商州區）置上洛郡，轄上洛、商縣二縣。

北魏太延二年（439年）于上洛城置荊州，于南朝宋置陽亭縣舊城置魏興郡；皇興四年（470年）于豐陽縣置東上洛郡；太和十七年（493年）改荊州為洛州；景明元年（500年）分上洛郡地于南商縣置萇和郡；永平四年（511年）改東上洛郡為上庸郡；均屬洛州。西魏大統八年（542年）于邑陽縣置邑陽郡。北周于拒陽縣增設拒陽郡。

北周天和六年（571年）之前改萇和郡為慎政郡；宣政元年（578年）洛州改名商州。隋大業三年（607年）改商州為上洛郡。唐武德元年（618年）改上洛郡為商州，天寶元年（742年）再改商州為上洛郡，乾元元年（758年）又改上洛郡為商州。北宋屬永興軍路；金屬京兆府路；元屬奉元路。明洪武七年（1374年）降商州為商縣，成化十三年（1477年）復升縣為商州。明代和清初屬西安府。清雍正三年（1725年）升為直隸州。

1913年改商州為商縣。1914年各縣分屬關中道、漢中道。1928年直屬省。1935年設第四行政督察專員公署，領商縣、洛南、山陽、商南、鎮安、柞水六縣。1949年設陜南行署區商雒分區，轄商縣、雒南、丹鳳（由商縣、山陽、雒南3縣析置，治龍駒寨）、商南、山陽、鎮安、柞水7縣。1950年5月改為陜西省商雒專區。1958年撤銷丹鳳縣并入商縣、商南2縣，撤銷柞水縣并入鎮安縣，1961年恢復丹鳳、柞水2縣。

1964年9月因“雒”字生僻，改雒為洛，名商洛專區。1969年改為商洛地區。1988年改商縣為商州市。1996年，商洛地區面積19293平方千米，人口245萬人。行政公署駐商州市。轄商州市及鎮安、山陽、商南、丹鳳、洛南、柞水6縣。

2000年第五次人口普查，商洛地區常住總人口2345437人。其中：商州市530883人、洛南縣455183人、丹鳳縣295833人、商南縣227636人、山陽縣400993人、鎮安縣276488人、柞水縣158421人。

2001年8月31日，國務院批準（國函[2001]94號）：（1）撤銷商洛地區和縣級商州市，設立地級商洛市。市政府駐新設立的商州區。（2）商洛市設立商州區，以原縣級商州市的行政區域為商州區的行政區域。區政府駐南大街。（3）商洛市轄原商洛地區的洛南縣、丹鳳縣、商南縣、山陽縣、鎮安縣、柞水縣和新設立的商州區。

2010年第六次人口普查，商洛市常住總人口2341742人，其中：商州區531696人，洛南縣441613人，丹鳳縣295349人，商南縣221569人，山陽縣422255人，鎮安縣275862人，柞水縣153398人。

2012年末，商洛市面積19580.8平方千米，戶籍人口2487970人，常住人口234.19萬人。2013年末，商洛市共有4個街道、122個鎮，87個社區、1737個行政村，市政府駐商州區。

2015年初，根據陜民發[2014]57號、陜民發[2015]9號、商政民發[2015]15號文件，商洛市實施鎮村綜合改革。調整后，全市轄12個街道、86個鎮，1112個行政村、168個社區。