清雍正四年(1726)建金山縣，隸屬江蘇省松江府。1958年從江蘇省劃歸上海市。1997年4月29日，經(jīng)國務(wù)院批準(zhǔn)（國函[1997]29號）：金山縣與中國石油化工總公司上海金山實業(yè)公司聯(lián)合建政，撤銷金山縣，設(shè)立金山區(qū)，以原金山縣的行政區(qū)域為金山區(qū)的行政區(qū)域。區(qū)人民政府駐金山衛(wèi)鎮(zhèn)。

1996年，金山縣面積586平方千米，人口約55.5萬人。轄15個鎮(zhèn)、1個鄉(xiāng)：朱涇鎮(zhèn)、楓涇鎮(zhèn)、興塔鎮(zhèn)、新農(nóng)鎮(zhèn)、松隱鎮(zhèn)、亭林鎮(zhèn)、朱行鎮(zhèn)、漕涇鎮(zhèn)、山陽鎮(zhèn)、金山衛(wèi)鎮(zhèn)、張堰鎮(zhèn)、錢圩鎮(zhèn)、廊下鎮(zhèn)、呂巷鎮(zhèn)、干巷鎮(zhèn)、朱涇鄉(xiāng)。縣政府駐朱涇鎮(zhèn)。2000年，撤銷朱涇鎮(zhèn)、朱涇鄉(xiāng)，設(shè)立新的朱涇鎮(zhèn)。

2000年第五次人口普查，金山區(qū)總?cè)丝?80377人。其中：石化街道92050人、松隱鎮(zhèn)22992人、干巷鎮(zhèn)25159人、呂巷鎮(zhèn)25594人、廊下鎮(zhèn)25037人、張堰鎮(zhèn)31888人、錢圩鎮(zhèn)18784人、金山衛(wèi)鎮(zhèn)36806人、興塔鎮(zhèn)24865人、新農(nóng)鎮(zhèn)23557人、楓涇鎮(zhèn)39932人、亭林鎮(zhèn)36914人、朱行鎮(zhèn)28339人、漕涇鎮(zhèn)30046人、山陽鎮(zhèn)28395人、朱涇鎮(zhèn)69835人、金山嘴工業(yè)區(qū)18634人、漕涇業(yè)區(qū)1550人。

2001年，撤銷金山衛(wèi)鎮(zhèn)、錢圩鎮(zhèn)，設(shè)立新的金山衛(wèi)鎮(zhèn)。調(diào)整后，全區(qū)轄1個街道、14個鎮(zhèn)：石化街道、朱涇鎮(zhèn)、楓涇鎮(zhèn)、興塔鎮(zhèn)、新農(nóng)鎮(zhèn)、松隱鎮(zhèn)、亭林鎮(zhèn)、朱行鎮(zhèn)、漕涇鎮(zhèn)、山陽鎮(zhèn)、金山衛(wèi)鎮(zhèn)、張堰鎮(zhèn)、廊下鎮(zhèn)、呂巷鎮(zhèn)、干巷鎮(zhèn)。2002年末，金山區(qū)轄1個街道、14個鎮(zhèn)，72個居委會、156個村委會。

2003年末，金山區(qū)轄1個街道、14個鎮(zhèn)，59個居委會、156個村委會，人口52.71萬人。2004年6月30日，金山區(qū)轄1個街道、14個鎮(zhèn)，47個居委會、145個村委會。2004年9月30日，金山區(qū)轄1個街道、14個鎮(zhèn)，60個居委會、139個村委會。

2005年金山區(qū)調(diào)整部分行政區(qū)劃：撤銷楓涇鎮(zhèn)、興塔鎮(zhèn)建制，設(shè)立新的楓涇鎮(zhèn)；撤銷朱涇鎮(zhèn)、新農(nóng)鎮(zhèn)建制，設(shè)立新的朱涇鎮(zhèn)；撤銷亭林鎮(zhèn)、松隱鎮(zhèn)、朱行鎮(zhèn)建制，設(shè)立新的亭林鎮(zhèn)；撤銷呂巷鎮(zhèn)、干巷鎮(zhèn)建制，設(shè)立新的呂巷鎮(zhèn)。新的楓涇鎮(zhèn)、朱涇鎮(zhèn)、亭林鎮(zhèn)和呂巷鎮(zhèn)的駐地在原楓涇鎮(zhèn)、朱涇鎮(zhèn)、亭林鎮(zhèn)和呂巷鎮(zhèn)所在地。保留漕涇鎮(zhèn)、山陽鎮(zhèn)、金山衛(wèi)鎮(zhèn)、張堰鎮(zhèn)、廊下鎮(zhèn)和石化街道。朱行鎮(zhèn)建制撤銷后，金山區(qū)人民政府決定，金山工業(yè)區(qū)管委會對原朱行鎮(zhèn)區(qū)域行使行政管理職能。

2005年末，金山區(qū)轄1個街道、9個鎮(zhèn)：石化街道、楓涇鎮(zhèn)、朱涇鎮(zhèn)、亭林鎮(zhèn)、漕涇鎮(zhèn)、山陽鎮(zhèn)、金山衛(wèi)鎮(zhèn)、張堰鎮(zhèn)、廊下鎮(zhèn)、呂巷鎮(zhèn)。共62個居委會、136個村委會。2007年末，全區(qū)面積586.05平方千米，戶籍人口52.1萬人，轄1個街道、9個鎮(zhèn)，77個社區(qū)、131個行政村。

2010年第六次人口普查，金山區(qū)常住總?cè)丝?32438人，其中：石化街道87901人，朱涇鎮(zhèn)120084人，楓涇鎮(zhèn)82477人，張堰鎮(zhèn)37057人，亭林鎮(zhèn)122272人，呂巷鎮(zhèn)52808人，廊下鎮(zhèn)33658人，金山衛(wèi)鎮(zhèn)70819人，漕涇鎮(zhèn)40722人，山陽鎮(zhèn)84640人。

2011年末，金山區(qū)面積586.05平方千米，戶籍人口17.83萬戶51.68萬人，轄1個街道、9個鎮(zhèn)，83個居委會、124個行政村。

2012年末，金山區(qū)面積586.05平方千米，常住人口76.16萬人，其中外來人口23.64萬人。轄1個街道、9個鎮(zhèn)：石化街道、朱涇鎮(zhèn)、楓涇鎮(zhèn)、張堰鎮(zhèn)、亭林鎮(zhèn)、呂巷鎮(zhèn)、廊下鎮(zhèn)、金山衛(wèi)鎮(zhèn)、漕涇鎮(zhèn)、山陽鎮(zhèn)。共有87個居委會、124個行政村。區(qū)政府駐山陽鎮(zhèn)金山大道2000號。