樂山古稱嘉州。公元1734年，設(shè)樂山縣。縣南有洛山，當?shù)刈x樂為洛，又作樂山。一說取“城西南五里有‘至樂山'”為名。

1950年設(shè)樂山專區(qū)，屬川南行署區(qū)；樂山專署駐樂山縣，轄樂山、犍為、沐川、屏山、雷波、馬邊、峨邊、峨眉、井研等9縣。1951年，由犍為縣析置五通橋市，屬樂山專署領(lǐng)導(dǎo)；樂山專區(qū)轄1市、9縣。1952年，樂山專區(qū)屬四川省領(lǐng)導(dǎo)。1953年，原眉山專區(qū)所屬眉山、彭山、青神、夾江、洪雅（駐洪川鎮(zhèn)）、丹棱6縣劃入樂山專區(qū)，轄1市、15縣。

1953年，五通橋市改為省轄市，委托樂山專署代管。1955年，將雷波、馬邊、峨邊3縣劃歸涼山彝族自治州，峨邊、馬邊2縣委托樂山專署代管；樂山專區(qū)轄1市、12縣。1957年，將屏山縣劃歸宜賓專區(qū)。1958年，原屬內(nèi)江專區(qū)的仁壽縣劃入樂山專區(qū)。1959年，撤銷五通橋市，并入樂山縣；撤銷青神、彭山2縣，并入眉山縣；撤銷丹棱縣，并入洪雅縣；樂山專區(qū)轄9縣。1962年，恢復(fù)彭山、青神、丹棱3縣，樂山專區(qū)轄12縣。

1970年，樂山專區(qū)改稱樂山地區(qū)；撤銷樂山縣，設(shè)立樂山市，樂山市的行政區(qū)域包括原樂山縣的行政區(qū)域和原由樂山地區(qū)直屬的五通橋區(qū)；地區(qū)駐樂山市，轄樂山市及夾江、洪雅、丹棱、青神、眉山、彭山、井研、仁壽、犍為、沐川、峨眉等11縣。1979年由原屬峨邊縣的金口河區(qū)析置金口河工農(nóng)區(qū)（相當于縣級），工農(nóng)區(qū)政府駐和平公社。樂山地區(qū)轄1市、11縣、1工農(nóng)區(qū)。1984年，撤銷馬邊、峨邊2縣，設(shè)立馬邊彝族自治縣和峨邊彝族自治縣，由涼山彝族自治州正式劃歸樂山地區(qū)管轄。

1985年，撤銷樂山地區(qū)和樂山市、金口河工農(nóng)區(qū)，設(shè)立地級樂山市和市中區(qū)、五通橋區(qū)、沙灣區(qū)、金口河區(qū)。1988年峨眉山撤縣設(shè)市（縣級）。1996年，樂山市面積20012.7平方千米，人口約668.2萬人，轄市中、五通橋、沙灣、金口河4區(qū)，仁壽、眉山、犍為、井研、夾江、洪雅、彭山、沐川、青神、丹棱10縣及峨邊、馬邊2個彝族自治縣，代管峨眉山1個縣級市。市政府駐市中區(qū)。1997年將所轄眉山、仁壽、洪雅、彭山、青神、丹棱6縣劃歸新成立的眉山地區(qū)（2000年改為地級眉山市）管轄。

2000年第五次人口普查，樂山市常住總?cè)丝?324139人。其中：市中區(qū)564857人、沙灣區(qū)192156人、五通橋區(qū)310229人、金口河區(qū)52916人、犍為縣506834人、井研縣384060人、夾江縣348481人、沐川縣229945人、峨邊彝族自治縣141166人、馬邊彝族自治縣170425人、峨眉山市423070人。

2003年末，全市總戶數(shù)107.66萬戶，總?cè)丝?47.63萬人,其中:非農(nóng)業(yè)人口84.8萬人，農(nóng)業(yè)人口262.83萬人。2004年末，全市總戶數(shù)109.03萬戶，總?cè)丝?47.67萬人。其中：非農(nóng)業(yè)人口85.82萬人，農(nóng)業(yè)人口261.85萬人；共有4個街道、97個鎮(zhèn)、122個鄉(xiāng)、2個民族鄉(xiāng)。

2010年第六次人口普查，樂山市常住總?cè)丝?235759人，其中：市中區(qū)662814人，沙灣區(qū)187180人，五通橋區(qū)312086人，金口河區(qū)49157人，犍為縣434409人，井研縣282222人，夾江縣338346人，沐川縣216737人，峨邊彝族自治縣139210人，馬邊彝族自治縣176530人，峨眉山市437068人。