春秋晉置陰晉邑。戰國以魏長城為界，東屬魏，西屬秦。秦惠文王六年（公元前332年）魏納陰晉于秦，陰晉改名寧秦，秦置寧秦縣，屬內史。漢高祖八年（公元前199年）以地處華山之北更名華陰縣，屬京兆尹。據《太平寰宇記》：“以在太華山之陰，故名”。王莽始建國改名華壇縣，東漢復名華陰縣，屬弘農郡。前秦分西部地于敷水河西今敷水鎮附近置敷西縣。

北魏太和十一年（487年）華陰縣遷臨晉（今大荔），轄地歸敷西縣，孝昌二年（526年）遷回，屬華州。隋大業五年（609年）遷縣治于今市區。義寧元年（617年）屬華山郡。隋初廢敷西縣入華陰縣，屬京兆郡。唐垂拱元年（685年）因避武則天祖諱改稱仙掌縣，屬華州，神龍元年（705年）復名華陰縣，上元二年（761年）更名太陰縣，寶應元年（762年）復稱華陰縣。

清雍正十三年（1735年）屬同州府。1914年屬關中道。1928年屬直屬省。1950年屬渭南專區。1956年屬省。1958年撤銷華陰縣并入渭南縣，1961年分出復設華陰縣，屬渭南專區。1969年屬渭南地區。1990年12月27日，國務院批準撤銷華陰縣，設立華陰市（縣級）。1994年屬陜西省直轄，由地級渭南市代管。

1949年5月全縣設6區47鄉。1950年改為5區。1955年8月并為25鄉，另外成立城關鎮。1958年8月，三門峽庫區的9個鄉群眾外遷，鄉廢；非庫區成立3個公社，下轄生產大隊、生產隊。同年11月21日全縣并入渭南縣，原境設華陰人民公社，下轄7個管區。1961年8月恢復華陰縣制后，全縣設孟塬、碨峪、觀北、岳廟、華山、五方、興建、敷水、華陽9個公社，下轄155個大隊，570個生產隊。1964年10月，恢復設立城關鎮。1980年12月，增設桃下鎮、華山鎮。全縣為9個公社、3個鎮，下轄157個大隊，590個生產隊。1982年，全縣設3鎮、9個公社，157個生產大隊，597個生產隊。

1983年4月（一說1984年）實行政、社分設，恢復鄉、村建制，全縣為9個鄉、3個鎮。1985年1月，華山鄉并入華山鎮，興建鄉并入桃下鎮，同時改孟塬鄉、敷水鄉為鎮建制。至此，全縣轄城關、華山、孟塬、桃下、敷水5鎮和岳廟、觀北、碨峪、五方、華陽5鄉，共158個行政村，602個村民小組。1990年3月移民返庫，正式設立北社、五合、焦鎮3個鄉。全縣共轄8鄉5鎮，共16個居委會、186個行政村，75個居民小組、721個村民小組。

1991年，撤銷城關鎮、岳廟鄉、華山鎮，設立太華路街道、岳廟街道、玉泉街道。1994年撤銷西紀鄉？。1996年，華陰市面積817平方千米，人口約23.9萬人；轄3街道3鎮7鄉：太華路街道、玉泉街道、岳廟街道、桃下鎮、敷水鎮、孟塬鎮、五合鄉、北社鄉、焦鎮鄉、華陽鄉、五方鄉、觀北鄉、碨峪鄉。市政府駐太華路街道。

2000年第五次人口普查，華陰市常住總人口242488人，其中：太華路街道39986人、岳廟街道15809人、玉泉街道37300人、孟塬鎮25885人、桃下鎮26990人、敷水鎮27106人、碨峪鄉10094人、觀北鄉9336人、五方鄉20379人、華陽鄉3736人、北社鄉9603人、五合鄉8533人、焦鎮鄉7731人。

2001年，撤銷觀北鄉并入岳廟街道，撤銷華陽鄉并入敷水鎮，撤銷五合鄉、焦鎮鄉設立華西鎮。區劃調整后，華陰市轄3個街道、4個鎮、3個鄉：太華路街道、岳廟街道、玉泉街道、孟塬鎮、桃下鎮、敷水鎮、華西鎮、碨峪鄉、五方鄉、北社鄉。

2010年第六次人口普查，華陰市常住總人口258113人，其中：太華路街道50591人，岳廟街道28067人，玉泉街道43084人，孟塬鎮24687人，桃下鎮26011人，夫水鎮28794人，華西鎮16989人，衛峪鄉10041人，五方鄉17707人，北社鄉10135人，國營陜西華山企業公司2007人。

2011年，撤銷碨峪鄉、北社鄉并入岳廟街道，將桃下鎮和敷水鎮合并設立羅敷鎮，將五方鄉和玉泉街道合并設立華山鎮。調整后，華陰市轄2個街道、4個鎮：太華路街道、岳廟街道、孟塬鎮、華西鎮、華山鎮、羅敷鎮。

2012年末，華陰市面積675.2平方千米，戶籍人口268269人，常住人口26.03萬人。2013年末，華陰市轄2個街道、4個鎮，共有16個社區、186個行政村，市政府駐太華路街道。