《史記》崔浩注：“蒙恬樹榆為塞也”，即榆溪塞。《史記·項羽本紀》稱榆中。《水經(jīng)注》：“諸次水東經(jīng)榆林塞，即《漢書》所謂榆溪舊塞”。明、清設衛(wèi)、縣時取榆林為名。
戰(zhàn)國魏于今市東南無定河北岸魚河堡附近置膚施縣，秦昭王三年（公元前304年）于縣置上郡。西漢于市區(qū)北設龜茲縣，以處龜茲降人得名，屬上郡。于市區(qū)東北設鴻門縣，因有鴻門亭，故名，屬西河郡。東漢廢鴻門縣，永和五年（140年）上郡和膚施、龜茲二年棄廢。北魏與境內(nèi)設革融縣，屬化政郡。北周初廢革融縣，保定二年（562年）在東部建安堡南置開光縣并兼為開光郡治。
隋開皇三年（583年）廢開光郡，大業(yè)九年（613年）在西部升德靜鎮(zhèn)為德靜縣。西夏廢縣，金末后為米脂縣地。明永樂初置榆林寨，正統(tǒng)二年（1437年）筑榆林城，成化七年（1471年）于今址設榆林衛(wèi)。清雍正二年（1724年）撤銷榆林衛(wèi)，省入綏德；九年以雙山、常樂、保寧、歸德、魚河王堡地設榆林縣，兼為榆林府治。1913年廢府兼為陜北道治。1914年為榆林道治。1920年移道治于膚施縣（今延安市）。1928年廢道直屬省。
1946年于鎮(zhèn)川堡設陜甘寧邊區(qū)鎮(zhèn)川縣。1949年改稱榆林縣并移治魚河堡，同年于今市區(qū)設榆林市，屬榆林分區(qū)。1950年4月省榆林市入榆林縣并移治今市區(qū)，屬榆林專區(qū)。1958年省橫山縣部分地并入。1961年原區(qū)域劃出復設橫山縣。1969年屬榆林地區(qū)。1988年9月以縣改市（縣級）。1999年12月國務院批準同意撤銷榆林地區(qū)和縣級榆林市，改設地級榆林市，原縣級榆林市改設榆陽區(qū)（2000年7月正式實施）。
1997年，金雞灘鄉(xiāng)改為金雞灘鎮(zhèn)，上鹽灣鄉(xiāng)改為上鹽灣鎮(zhèn)，清泉鄉(xiāng)改為清泉鎮(zhèn)，牛家梁鄉(xiāng)改為牛家梁鎮(zhèn)，安崖鄉(xiāng)改為安崖鎮(zhèn)，麻黃梁鄉(xiāng)改為麻黃梁鎮(zhèn)，馬合鄉(xiāng)改為馬合鎮(zhèn)。調(diào)整后，榆林市轄4個街道、10個鎮(zhèn)、18個鄉(xiāng)：鼓樓街道、上郡路街道、新明樓街道、青山路街道、鎮(zhèn)川鎮(zhèn)、魚河鎮(zhèn)、巴拉素鎮(zhèn)、上鹽灣鎮(zhèn)、清泉鎮(zhèn)、麻黃梁鎮(zhèn)、安崖鎮(zhèn)、牛家梁鎮(zhèn)、金雞灘鎮(zhèn)、馬合鎮(zhèn)、桐條溝鄉(xiāng)、余興莊鄉(xiāng)、董家灣鄉(xiāng)、劉官寨鄉(xiāng)、青云鄉(xiāng)、古塔鄉(xiāng)、劉千河鄉(xiāng)、大河塌鄉(xiāng)、孟家灣鄉(xiāng)、小壕兔鄉(xiāng)、耳林鄉(xiāng)、岔河則鄉(xiāng)、可可蓋鄉(xiāng)、小紀汗鄉(xiāng)、補浪河鄉(xiāng)、紅石橋鄉(xiāng)、芹河鄉(xiāng)、榆陽鄉(xiāng)。總面積7053平方千米，總人口39.1萬人，市政府駐鼓樓街道。
2000年第五次人口普查，榆陽區(qū)常住總人口451337人，其中：鼓樓街道35557人、青山路街道55196人、上郡路街道25882人、新明樓街道30443人、魚河鎮(zhèn)14912人、上鹽灣鎮(zhèn)11548人、鎮(zhèn)川鎮(zhèn)26244人、清泉鎮(zhèn)12114人、安崖鎮(zhèn)10411人、麻黃梁鎮(zhèn)9829人、牛家梁鎮(zhèn)15714人、金雞灘鎮(zhèn)12994人、馬合鎮(zhèn)9764人、巴拉素鎮(zhèn)10897人、榆陽鄉(xiāng)25578人、劉官寨鄉(xiāng)7389人、桐條溝鄉(xiāng)8586人、董家灣鄉(xiāng)10926人、余興莊鄉(xiāng)6375人、劉千河鄉(xiāng)7556人、古塔鄉(xiāng)7425人、青云鄉(xiāng)11622人、大河塔鄉(xiāng)8134人、孟家灣鄉(xiāng)12127人、小壕兔鄉(xiāng)5314人、耳林鄉(xiāng)5532人、可可蓋鄉(xiāng)3396人、岔河則鄉(xiāng)7150人、小紀汗鄉(xiāng)8490人、補浪河鄉(xiāng)10949人、紅石橋鄉(xiāng)11090人、芹河鄉(xiāng)12193人。
2001年，撤銷榆陽鄉(xiāng)、劉官寨鄉(xiāng)合并設立榆陽鎮(zhèn)，撤銷董家灣鄉(xiāng)、桐條溝鄉(xiāng)合并設立魚河峁鎮(zhèn)，撤銷耳林灘鄉(xiāng)并入小壕兔鄉(xiāng)，撤銷可可蓋鄉(xiāng)并入小紀汗鄉(xiāng)。2002年對原有的4個街道進行調(diào)整，增設航宇路等3個街道（2003年2月正式成立）。調(diào)整后，榆陽區(qū)轄7個街道、12個鎮(zhèn)、12個鄉(xiāng)：鼓樓街道、青山路街道、上郡路街道、新明樓街道、駝峰路街道、崇文路街道、航宇路街道、魚河鎮(zhèn)、上鹽灣鎮(zhèn)、鎮(zhèn)川鎮(zhèn)、清泉鎮(zhèn)、安崖鎮(zhèn)、麻黃梁鎮(zhèn)、牛家梁鎮(zhèn)、金雞灘鎮(zhèn)、馬合鎮(zhèn)、巴拉素鎮(zhèn)、榆陽鎮(zhèn)、魚河峁鎮(zhèn)、余興莊鄉(xiāng)、劉千河鄉(xiāng)、古塔鄉(xiāng)、青云鄉(xiāng)、大河塔鄉(xiāng)、孟家灣鄉(xiāng)、小壕兔鄉(xiāng)、岔河則鄉(xiāng)、補浪河鄉(xiāng)、紅石橋鄉(xiāng)、小紀汗鄉(xiāng)、芹河鄉(xiāng)。488個行政村、43個居委會。
至2005年12月，全區(qū)轄榆陽、魚河、上鹽灣、鎮(zhèn)川、清泉、魚河峁、安崖、麻黃梁、牛家梁、金雞灘、馬合、巴拉素12個鎮(zhèn)，余興莊、劉千河、古塔、青云、大河塔、孟家灣、小壕兔、岔河則、小紀汗、補浪河、紅石橋、芹河12個鄉(xiāng)，486個行政村，1880個村民小組，設鼓樓、新明樓、上郡路、青山路、崇文路、航宇路、駝峰路7個街道，43個社區(qū)，202個居民小組。2010年全區(qū)共487個行政村、45個社區(qū)，總人口52萬人。
2010年第六次人口普查，榆陽區(qū)常住總人口637617人，其中：鼓樓街道43816人，青山路街道55019人，上郡路街道60304人，新明樓街道27416人，駝峰路街道60124人，崇文路街道51873人，航宇路街道47959人，魚河鎮(zhèn)15728人，上鹽灣鎮(zhèn)6446人，鎮(zhèn)川鎮(zhèn)23946人，清泉鎮(zhèn)5053人，安崖鎮(zhèn)4537人，麻黃梁鎮(zhèn)9136人，牛家梁鎮(zhèn)17352人，金雞灘鎮(zhèn)13672人，馬合鎮(zhèn)9435人，巴拉素鎮(zhèn)7541人，榆陽鎮(zhèn)73459人。
2011年，撤銷青云鄉(xiāng)、劉千河鄉(xiāng)合并設立青云鎮(zhèn)，撤銷古塔鄉(xiāng)、余興莊鄉(xiāng)合并設立古塔鎮(zhèn)，撤銷大河塔鄉(xiāng)、安崖鎮(zhèn)合并設立大河塔鎮(zhèn)。調(diào)整后，榆陽區(qū)轄7個街道、14個鎮(zhèn)、7個鄉(xiāng)：鼓樓街道、青山路街道、上郡路街道、新明樓街道、航宇路街道、崇文路街道、駝峰路街道、魚河鎮(zhèn)、上鹽灣鎮(zhèn)、鎮(zhèn)川鎮(zhèn)、清泉鎮(zhèn)、麻黃梁鎮(zhèn)、牛家梁鎮(zhèn)、金雞灘鎮(zhèn)、馬合鎮(zhèn)、巴拉素鎮(zhèn)、榆陽鎮(zhèn)、魚河峁鎮(zhèn)、大河塔鎮(zhèn)、古塔鎮(zhèn)、青云鎮(zhèn)、孟家灣鄉(xiāng)、小壕兔鄉(xiāng)、岔河則鄉(xiāng)、補浪河鄉(xiāng)、紅石橋鄉(xiāng)、小紀汗鄉(xiāng)、芹河鄉(xiāng)。
2012年末，榆陽區(qū)面積6796.5平方千米，戶籍人口545706人，常住人口64.07萬人。2013年末，榆陽區(qū)轄7個街道、14個鎮(zhèn)、7個鄉(xiāng)，共有45個社區(qū)、488個行政村，區(qū)政府駐興榆路。
2015年3月，撤銷榆陽鎮(zhèn)，設立長城路街道，行政區(qū)域和駐地不變；撤銷清泉鎮(zhèn)，并入上鹽灣鎮(zhèn)，鎮(zhèn)名上鹽灣鎮(zhèn)，鎮(zhèn)政府駐地為上鹽灣村，原清泉鎮(zhèn)政府駐地設上鹽灣鎮(zhèn)清泉辦事處；撤銷芹河鄉(xiāng)，設立芹河鎮(zhèn)，行政區(qū)域和鎮(zhèn)政府駐地不變；撤銷小紀汗鄉(xiāng)，設立小紀汗鎮(zhèn)，行政區(qū)域和鎮(zhèn)政府駐地不變。調(diào)整后，榆陽區(qū)轄8個街道、14個鎮(zhèn)、5個鄉(xiāng)：鼓樓街道、青山路街道、上郡路街道、新明樓街道、航宇路街道、崇文路街道、駝峰路街道、長城路街道、魚河鎮(zhèn)、上鹽灣鎮(zhèn)、鎮(zhèn)川鎮(zhèn)、麻黃梁鎮(zhèn)、牛家梁鎮(zhèn)、金雞灘鎮(zhèn)、馬合鎮(zhèn)、巴拉素鎮(zhèn)、魚河峁鎮(zhèn)、大河塔鎮(zhèn)、古塔鎮(zhèn)、青云鎮(zhèn)、芹河鎮(zhèn)、小紀汗鎮(zhèn)、孟家灣鄉(xiāng)、小壕兔鄉(xiāng)、岔河則鄉(xiāng)、補浪河鄉(xiāng)、紅石橋鄉(xiāng)。