西晉泰始三年（267年）于豐陽川（今城關鎮）置豐陽縣，屬上洛郡，尋縣廢。南朝宋于縣境西北僑設陽亭縣，南齊撤銷。北魏太延五年（439年）置魏興郡于陽亭舊城，太和五年（481年）再設陽亭縣，為魏興郡治，后改陽亭縣為南陽縣；太安二年（456年）于豐陽川復設豐陽縣，皇興四年（470年）于豐陽縣設東上洛郡，永平四年（511年）改為上庸郡。西魏廢帝二年（553年）又析豐陽縣南部地于漫川關增設漫川縣。

北周保定三年（563年）廢漫川縣入上津。隋開皇三年（583年）廢上庸郡，并省南陽縣入豐陽縣，屬商州，以后歸屬隨商州、上洛郡更替而變。金貞元元年（1153年）降縣為鎮，轄地入上洛縣。明成化十三年（1477年）于今址置山陽縣，屬商州。1914年屬關中道。1928年直屬省。1949年6月28日，山陽全境解放。1950年屬商洛專區。1969年屬商洛地區。2001年屬商洛市。

1996年，山陽縣面積3514平方千米，人口40.3萬人。轄4個鎮、60個鄉：城關鎮、漫川關鎮、中村鎮、小河口鎮、五里鄉、三里鄉、王莊鄉、葛條鄉、十里鋪鄉、伍竹鄉、高壩店鄉、黃土凸鄉、兩嶺鄉、申家垤鄉、長溝鄉、馬鹿坪鄉、板倉鄉、過風樓鄉、洛峪鄉、白龍鄉、水草坪鄉、銀花鄉、洪河寺鄉、西泉鄉、西照川鄉、王閻鄉、龍山鄉、魚洞鄉、石佛寺鄉、晏馬鄉、天橋鄉、法官鄉、碥頭溪鄉、延坪鄉、馬家店鄉、板廟鄉、萬福鄉、兩岔鄉、同安鄉、南寬坪鄉、蓮花池鄉、湖坪鄉、洞溝鄉、松樹坪鄉、銀廠鄉、安家門鄉、戶家塬鄉、牛耳川鄉、九甲灣鄉、賽鶴嶺鄉、黃龍鄉、合河鄉、楊地鄉、白馬塘鄉、色河鋪鄉、峒峪寺鄉、元子街鄉、馬灘鄉、北溝鄉、板巖鄉、二峪河鄉、馬家山鄉、袁家溝鄉、娘娘廟鄉。縣政府駐城關鎮。

其中：城關鎮由縣直屬；城郊區轄十里、五里、三里、伍竹、葛條、五莊6個鄉；高壩區轄過風樓、高壩店、黃土包、申家垤、馬鹿坪、兩嶺、板倉、長溝8個鄉；中村區轄銀花、中村鎮、洛峪、西泉、水草、白龍、洪河寺6個鄉1個鎮；照川區轄晏馬、照川、石佛、龍山、天橋、王閻、魚洞7個鄉；漫川區轄板廟、萬福、同安、漫川關鎮、法官、兩岔、扁頭溪、馬家店、延坪8個鄉鎮；寬坪區轄松坪、蓮花、寬坪、銀廠、洞溝、湖坪、安家門7個鄉；戶塬區轄牛耳川、戶家塬、九家灣、合河、白馬塘、楊地、黃龍、賽鶴嶺8個鄉；小河區轄小河口鎮、二峪河、馬家山、袁家溝、娘娘廟4個鄉1個鎮；色河區轄色河鋪、元子街、峒峪寺、北溝、板巖、馬灘6個鄉。

1997年，撤銷城郊、高壩、中村、照川、漫川、南寬坪、戶家塬、小河口、色河鋪等9個區公所建制，撤銷三里鄉、五里鄉并入城關鎮，撤銷洛峪鄉并入中村鎮，撤銷馬家山鄉、袁家溝口鄉并入小河口鎮，撤銷同安鄉、萬福鄉并入漫川關鎮，撤銷黃土凸鄉、高壩店鄉、過風樓鄉合并設立高壩店鎮，撤銷西照川鄉、龍山鄉合并設立西照川鎮，撤銷南寬坪鄉、銀廠鄉、安家門鄉、洞溝鄉合并設立南寬坪鎮，撤銷戶家塬鄉、九家灣鄉、賽鶴嶺鄉合并設立戶家塬鎮，撤銷北溝鄉、馬灘鄉、板巖鄉合并設立板巖鎮，撤銷長溝鄉、板倉鄉合并設立長溝鎮，撤銷楊地鄉、合河鄉合并設立楊地鎮，撤銷牛耳川鄉、娘娘廟鄉合并設立牛耳川鎮，撤銷元子街鄉、峒峪寺鄉合并設立元子街鎮，撤銷色河鋪鄉設立色河鋪鎮，撤銷銀花鄉設立銀花鎮，撤銷白龍鄉并入西泉鄉，撤銷魚洞鄉并入王閻鄉，撤銷馬家店鄉并入延坪鄉，撤銷兩岔鄉并入法官鄉，撤銷松樹坪鄉并入蓮花池鄉。調整后，山陽縣轄15個鎮、23個鄉。

2000年第五次人口普查，全縣總人口400993人，其中：城關鎮48762人，高壩店鎮28399人，長溝鎮10910人，中村鎮18139人，銀花鎮13837人，西照川鎮7416人，漫川關鎮13473人，南寬坪鎮14558人，戶家塬鎮18625人，楊地鎮16478人，牛耳川鎮7287人，小河口鎮13167人，色河鋪鎮15137人，板巖鎮24534人，元子街鎮8929人，伍竹鄉5038人，十里鋪鄉21470人，葛條鄉5185人，王莊鄉5464人，申家垤鄉8314人，馬鹿坪鄉4799人，兩嶺鄉5996人，西泉鄉6293人，洪河寺鄉2548人，水草坪鄉3753人，王閻鄉5995人，晏馬鄉4107人，天橋鄉2709人，石佛寺鄉5797人，法官鄉11894人，延坪鄉6137人，碥頭溪鄉4655人，板廟鄉2925人，蓮花池鄉8367人，湖坪鄉3159人，黃龍鄉7377人，白馬塘鄉3957人，二峪河鄉5403人。

2001年，撤銷洪河寺鄉并入中村鎮，撤銷晏馬鄉并入西照川鎮，撤銷湖坪鄉并入南寬坪鎮，撤銷白馬塘鄉并入楊地鎮，撤銷馬鹿坪鄉并入申家垤鄉，撤銷水草坪鄉并入天橋鄉，撤銷板廟鄉并入石佛寺鄉，撤銷碥頭溪鄉并入法官鄉。調整后，山陽縣轄15個鎮、15個鄉：城關鎮、高壩店鎮、長溝鎮、中村鎮、銀花鎮、西照川鎮、漫川關鎮、南寬坪鎮、戶家塬鎮、楊地鎮、牛耳川鎮、小河口鎮、色河鋪鎮、板巖鎮、元子街鎮、伍竹鄉、十里鋪鄉、葛條鄉、王莊鄉、申家垤鄉、兩嶺鄉、西泉鄉、王閻鄉、天橋鄉、石佛寺鄉、法官鄉、延坪鄉、蓮花池鄉、黃龍鄉、二峪河鄉。

2011年，撤銷伍竹鄉、葛條鄉并入城關鎮，撤銷十里鋪鄉、王莊鄉合并設立十里鋪鎮，撤銷延坪鄉、西泉鄉合并設立延坪鎮，撤銷黃龍鄉并入戶家塬鎮，撤銷二峪河鄉并入小河口鎮，撤銷蓮花池鄉并入漫川關鎮；撤銷十里鋪鄉、兩嶺鄉、王閻鄉、天橋鄉、石佛寺鄉、法官鄉鄉的建制，相應設立鎮的建制；撤銷申家垤鄉設立雙坪鎮，長溝鎮更名為天竺山鎮。調整后，山陽縣轄23個鎮：城關鎮、高壩鎮、天竺山鎮、中村鎮、銀花鎮、西照川鎮、漫川關鎮、南寬坪鎮、戶家塬鎮、楊地鎮、牛耳川鎮、小河口鎮、色河鋪鎮、板巖鎮、元子街鎮、十里鋪鎮、雙坪鎮、兩嶺鎮、王閻鎮、天橋鎮、石佛寺鎮、法官鎮、延坪鎮。

2012年末，山陽縣面積3531.3平方千米，戶籍人口466346人，常住人口42.22萬人。

根據陜民發[2014]57號、陜民發[2015]9號、商政民發[2015]15號文件，撤銷城關鎮，設立城關街道，街道辦事處駐東關社區；撤銷十里鋪鎮，設立十里鋪街道，辦事處駐十里鋪社區；撤銷雙坪鎮，并入高壩店鎮，鎮政府駐高壩街社區；撤銷牛耳川鎮，并入戶家塬鎮，鎮政府駐戶家塬社區；撤銷元子街鎮，并入色河鋪鎮，鎮政府駐色河鋪社區；撤銷天橋鎮，并入王閻鎮，鎮政府駐雙河村；撤銷石佛寺鎮，將所轄的石佛寺社區、黃泥河村、太陽關村、碾子坪村劃歸西照川鎮，板廟村、康家坪村劃歸漫川關鎮管轄；將法官鎮的碥頭溪村、石窯子村、僧道關、銅塔溝村4個村劃歸天竺山鎮管轄；在原雙坪鎮、牛耳川鎮、元子街鎮、天橋鎮、石佛寺鎮政府所在地分別設立便民服務中心；全縣撤并80個村，村改居委會38個，保留198個村、41個社區居委會。調整后，山陽縣轄城關、十里鋪2個街道和高壩店、兩嶺、天竺山、中村、銀花、王閻、西照川、漫川關、法官、延坪、南寬坪、板巖、戶家塬、楊地、小河口、色河鋪16個鎮，共有198個行政村、41個社區。