民國至1953年為遷江縣地，1953年4月屬來賓縣。1981年6月29日，國務院（國函[1981]73號）批準設立合山市（縣級）。合山市治里蘭，以來賓縣北泗公社（合山煤礦和電廠所在地）為其行政區(qū)域，并委托柳州行署領導。

1984年，合山市劃置1個鎮(zhèn)、2個鄉(xiāng)。1996年，合山市面積349平方千米，人口約14.2萬人。轄1個鎮(zhèn)、2個鄉(xiāng)：嶺南鎮(zhèn)、北泗鄉(xiāng)、河里鄉(xiāng)。市政府駐嶺南鎮(zhèn)。

2000年第五次人口普查，合山市總人口131249人，其中：嶺南鎮(zhèn)38544人，北泗鄉(xiāng)30059人，河里鄉(xiāng)26088人，合山礦務局36558人。

2003年合山市行政區(qū)劃（根據(jù)當年廣西代碼整理）
　　100　嶺南鎮(zhèn)　轄城中、城北2個社區(qū)；里蘭、思光、嶺南、石村、古城、古樟、溯河、里仰8個行政村。
　　200　北泗鄉(xiāng)　轄北泗、屯山、六龍、東亭、文定、古邦、在勤、瀑泉、云堡、古樓、靈臺11個行政村。
　　201　河里鄉(xiāng)　轄甘林、羊樟、洛滿、河里、長模、環(huán)山、仁義、懷集、五塘、馬安10個行政村。