《史記》崔浩注：“蒙恬樹榆為塞也”，即榆溪塞�！妒酚�·項羽本紀(jì)》稱榆中。《水經(jīng)注》：“諸次水東經(jīng)榆林塞，即《漢書》所謂榆溪舊塞”。明、清設(shè)衛(wèi)、縣時取榆林為名。
戰(zhàn)國魏于今市東南無定河北岸魚河堡附近置膚施縣，秦昭王三年（公元前304年）于縣置上郡。西漢于市區(qū)北設(shè)龜茲縣，以處龜茲降人得名，屬上郡。于市區(qū)東北設(shè)鴻門縣，因有鴻門亭，故名，屬西河郡。東漢廢鴻門縣，永和五年（140年）上郡和膚施、龜茲二年棄廢。北魏與境內(nèi)設(shè)革融縣，屬化政郡。北周初廢革融縣，保定二年（562年）在東部建安堡南置開光縣并兼為開光郡治。
隋開皇三年（583年）廢開光郡，大業(yè)九年（613年）在西部升德靜鎮(zhèn)為德靜縣。西夏廢縣，金末后為米脂縣地。明永樂初置榆林寨，正統(tǒng)二年（1437年）筑榆林城，成化七年（1471年）于今址設(shè)榆林衛(wèi)。清雍正二年（1724年）撤銷榆林衛(wèi)，省入綏德；九年以雙山、常樂、保寧、歸德、魚河王堡地設(shè)榆林縣，兼為榆林府治。1913年廢府兼為陜北道治。1914年為榆林道治。1920年移道治于膚施縣（今延安市）。1928年廢道直屬省。
1946年于鎮(zhèn)川堡設(shè)陜甘寧邊區(qū)鎮(zhèn)川縣。1949年改稱榆林縣并移治魚河堡，同年于今市區(qū)設(shè)榆林市，屬榆林分區(qū)。1950年4月省榆林市入榆林縣并移治今市區(qū)，屬榆林專區(qū)。1958年省橫山縣部分地并入。1961年原區(qū)域劃出復(fù)設(shè)橫山縣。1969年屬榆林地區(qū)。1988年9月以縣改市（縣級）。1999年12月國務(wù)院批準(zhǔn)同意撤銷榆林地區(qū)和縣級榆林市，改設(shè)地級榆林市，原縣級榆林市改設(shè)榆陽區(qū)（2000年7月正式實施）。
1997年，金雞灘鄉(xiāng)改為金雞灘鎮(zhèn)，上鹽灣鄉(xiāng)改為上鹽灣鎮(zhèn)，清泉鄉(xiāng)改為清泉鎮(zhèn)，牛家梁鄉(xiāng)改為牛家梁鎮(zhèn)，安崖鄉(xiāng)改為安崖鎮(zhèn)，麻黃梁鄉(xiāng)改為麻黃梁鎮(zhèn)，馬合鄉(xiāng)改為馬合鎮(zhèn)。調(diào)整后，榆林市轄4個街道、10個鎮(zhèn)、18個鄉(xiāng)：鼓樓街道、上郡路街道、新明樓街道、青山路街道、鎮(zhèn)川鎮(zhèn)、魚河鎮(zhèn)、巴拉素鎮(zhèn)、上鹽灣鎮(zhèn)、清泉鎮(zhèn)、麻黃梁鎮(zhèn)、安崖鎮(zhèn)、牛家梁鎮(zhèn)、金雞灘鎮(zhèn)、馬合鎮(zhèn)、桐條溝鄉(xiāng)、余興莊鄉(xiāng)、董家灣鄉(xiāng)、劉官寨鄉(xiāng)、青云鄉(xiāng)、古塔鄉(xiāng)、劉千河鄉(xiāng)、大河塌鄉(xiāng)、孟家灣鄉(xiāng)、小壕兔鄉(xiāng)、耳林鄉(xiāng)、岔河則鄉(xiāng)、可可蓋鄉(xiāng)、小紀(jì)汗鄉(xiāng)、補(bǔ)浪河鄉(xiāng)、紅石橋鄉(xiāng)、芹河鄉(xiāng)、榆陽鄉(xiāng)。總面積7053平方千米，總?cè)丝?9.1萬人，市政府駐鼓樓街道。
2000年第五次人口普查，全區(qū)總?cè)丝?51337人，其中：鼓樓街道35557人、青山路街道55196人、上郡路街道25882人、新明樓街道30443人、魚河鎮(zhèn)14912人、上鹽灣鎮(zhèn)11548人、鎮(zhèn)川鎮(zhèn)26244人、清泉鎮(zhèn)12114人、安崖鎮(zhèn)10411人、麻黃梁鎮(zhèn)9829人、牛家梁鎮(zhèn)15714人、金雞灘鎮(zhèn)12994人、馬合鎮(zhèn)9764人、巴拉素鎮(zhèn)10897人、榆陽鄉(xiāng)25578人、劉官寨鄉(xiāng)7389人、桐條溝鄉(xiāng)8586人、董家灣鄉(xiāng)10926人、余興莊鄉(xiāng)6375人、劉千河鄉(xiāng)7556人、古塔鄉(xiāng)7425人、青云鄉(xiāng)11622人、大河塔鄉(xiāng)8134人、孟家灣鄉(xiāng)12127人、小壕兔鄉(xiāng)5314人、耳林鄉(xiāng)5532人、可可蓋鄉(xiāng)3396人、岔河則鄉(xiāng)7150人、小紀(jì)汗鄉(xiāng)8490人、補(bǔ)浪河鄉(xiāng)10949人、紅石橋鄉(xiāng)11090人、芹河鄉(xiāng)12193人。
2001年，撤銷榆陽鄉(xiāng)、劉官寨鄉(xiāng)合并設(shè)立榆陽鎮(zhèn)，撤銷董家灣鄉(xiāng)、桐條溝鄉(xiāng)合并設(shè)立魚河峁鎮(zhèn)，撤銷耳林灘鄉(xiāng)并入小壕兔鄉(xiāng)，撤銷可可蓋鄉(xiāng)并入小紀(jì)汗鄉(xiāng)。2002年對原有的4個街道進(jìn)行調(diào)整，增設(shè)航宇路等3個街道（2003年2月正式成立）。調(diào)整后，榆陽區(qū)轄7個街道、12個鎮(zhèn)、12個鄉(xiāng)：鼓樓街道、青山路街道、上郡路街道、新明樓街道、駝峰路街道、崇文路街道、航宇路街道、魚河鎮(zhèn)、上鹽灣鎮(zhèn)、鎮(zhèn)川鎮(zhèn)、清泉鎮(zhèn)、安崖鎮(zhèn)、麻黃梁鎮(zhèn)、牛家梁鎮(zhèn)、金雞灘鎮(zhèn)、馬合鎮(zhèn)、巴拉素鎮(zhèn)、榆陽鎮(zhèn)、魚河峁鎮(zhèn)、余興莊鄉(xiāng)、劉千河鄉(xiāng)、古塔鄉(xiāng)、青云鄉(xiāng)、大河塔鄉(xiāng)、孟家灣鄉(xiāng)、小壕兔鄉(xiāng)、岔河則鄉(xiāng)、補(bǔ)浪河鄉(xiāng)、紅石橋鄉(xiāng)、小紀(jì)汗鄉(xiāng)、芹河鄉(xiāng)。488個行政村、43個居委會。
至2005年12月，全區(qū)轄榆陽、魚河、上鹽灣、鎮(zhèn)川、清泉、魚河峁、安崖、麻黃梁、牛家梁、金雞灘、馬合、巴拉素12個鎮(zhèn)，余興莊、劉千河、古塔、青云、大河塔、孟家灣、小壕兔、岔河則、小紀(jì)汗、補(bǔ)浪河、紅石橋、芹河12個鄉(xiāng)，486個行政村，1880個村民小組，設(shè)鼓樓、新明樓、上郡路、青山路、崇文路、航宇路、駝峰路7個街道，43個社區(qū)，202個居民小組。2010年全區(qū)共487個行政村、45個社區(qū)，總?cè)丝?2萬人。
2011年，撤銷青云鄉(xiāng)、劉千河鄉(xiāng)合并設(shè)立青云鎮(zhèn)，撤銷古塔鄉(xiāng)、余興莊鄉(xiāng)合并設(shè)立古塔鎮(zhèn)，撤銷大河塔鄉(xiāng)、安崖鎮(zhèn)合并設(shè)立大河塔鎮(zhèn)。調(diào)整后，榆陽區(qū)轄7個街道、14個鎮(zhèn)、7個鄉(xiāng)：鼓樓街道、青山路街道、上郡路街道、新明樓街道、駝峰路街道、崇文路街道、航宇路街道、魚河鎮(zhèn)、上鹽灣鎮(zhèn)、鎮(zhèn)川鎮(zhèn)、清泉鎮(zhèn)、麻黃梁鎮(zhèn)、牛家梁鎮(zhèn)、金雞灘鎮(zhèn)、馬合鎮(zhèn)、巴拉素鎮(zhèn)、榆陽鎮(zhèn)、魚河峁鎮(zhèn)、古塔鎮(zhèn)、青云鎮(zhèn)、大河塔鎮(zhèn)、孟家灣鄉(xiāng)、小壕兔鄉(xiāng)、岔河則鄉(xiāng)、補(bǔ)浪河鄉(xiāng)、紅石橋鄉(xiāng)、小紀(jì)汗鄉(xiāng)、芹河鄉(xiāng)。