秦代屬桂林郡。南朝梁天監元年始建桂平縣，隸桂平郡。唐代置二州（潯州、繡州）九縣，屬嶺南道。宋代境內潯、繡二州各縣合并為桂平縣，隸屬廣西南路潯州。元代桂平屬潯州路。明代屬潯州府。清改永秀縣，旋復桂平縣。自南梁至清末1400多年間，桂平縣城一直是潯州郡治、州治、路治、府治所在。1994年5月18日，民政部批復（民行批[1994]80號）同意撤銷桂平縣，設立桂平市（縣級）。

1996年，桂平市面積4073平方千米，人口約150萬人。市政府駐桂平鎮。轄23個鎮、7個鄉：桂平鎮、西山鎮、木圭鎮、木樂鎮、石咀鎮、社坡鎮、油麻鎮、社步鎮、下灣鎮、麻垌鎮、羅秀鎮、中和鎮、中沙鎮、木根鎮、大洋鎮、大灣鎮、白沙鎮、石龍鎮、蒙圩鎮、南木鎮、江口鎮、金田鎮、紫荊鎮、垌心鄉、思宜鄉、厚祿鄉、羅播鄉、理端鄉、馬皮鄉、尋旺鄉。

2000年第五次人口普查，桂平市總人口1359035人。其中：桂平鎮39894人，木樂鎮47950人，木圭鎮49394人，石咀鎮37839人，油麻鎮39018人，社坡鎮46278人，羅秀鎮60373人，麻垌鎮73224人，杜步鎮48996人，下灣鎮49458人，木根鎮42966人，中沙鎮23732人，中和鎮19416人，大洋鎮50486人，大灣鎮51331人，白沙鎮53865人，石龍鎮60197人，蒙圩鎮65407人，西山鎮94111人，南木鎮59445人，江口鎮74035人，金田鎮61673人，紫荊鎮18531人，馬皮鄉29142人，理端鄉13545人，尋旺鄉48423人，羅播鄉31120人，厚祿鄉32840人，思宜鄉20418人，垌心鄉15928人。

2003年，桂平市轄23個鎮、7個鄉：桂平鎮、木樂鎮、木圭鎮、石嘴鎮、油麻鎮、社坡鎮、羅秀鎮、麻垌鎮、社步鎮、下灣鎮、木根鎮、中沙鎮、中和鎮、大洋鎮、大灣鎮、白沙鎮、石龍鎮、蒙圩鎮、南木鎮、江口鎮、金田鎮、紫荊鎮、西山鎮、馬皮鄉、理端鄉、尋旺鄉、羅播鄉、厚祿鄉、思宜鄉、垌心鄉。

2005年7月19日，廣西壯族自治區政府（桂政函[2005]206號）同意調整桂平市部分鄉鎮的行政區劃：撤銷桂平鎮，整建制并入西山鎮，西山鎮政府駐地不變；撤銷理端鄉，整建制并入社坡鎮，社坡鎮政府駐地不變；撤銷中和鎮，整建制并入中沙鎮，中沙鎮政府駐地不變；撤銷思宜鄉，整建制并入南木鎮，南木鎮政府駐地不變。

全市現轄21個鎮、5個鄉：木樂鎮、木圭鎮、石嘴鎮、油麻鎮、社坡鎮、羅秀鎮、麻垌鎮、社步鎮、下灣鎮、木根鎮、中沙鎮、大洋鎮、大灣鎮、白沙鎮、石龍鎮、蒙圩鎮、南木鎮、江口鎮、金田鎮、紫荊鎮、西山鎮、馬皮鄉、尋旺鄉、羅播鄉、厚祿鄉、垌心鄉。市政府駐西山鎮。