古為承陽、臨蒸、衡陽、清泉等縣治所，為衡陽郡、州、路、府、道的行政中樞。1943年始置衡陽市，為第三區(qū)。1951年改第二區(qū)，1955年改稱城北區(qū)。

1996年，城北區(qū)面積13.7平方千米，人口約20萬人，區(qū)政府駐司前街，轄6個街道：人民街道、五一街道、合江街道、青山街道、蒸湘街道、瀟湘街道。

2000年第五次全國人口普查，城北區(qū)總?cè)丝?33674人，其中，人民路街道21985人、青山街道39665人、蒸湘街道87670人、瀟湘街道33916人、五一街道30028人、合江街道20410人；此外，郊區(qū)的黃沙灣街道5368人、西湖鄉(xiāng)27788人、松木鄉(xiāng)17082人，衡陽縣的角山鄉(xiāng)24848人。

2001年4月4日，國務(wù)院批準(zhǔn)（國函[2001]34號）：撤銷衡陽市江東區(qū)、城南區(qū)、城北區(qū)、郊區(qū)，設(shè)立衡陽市珠暉區(qū)、雁峰區(qū)、石鼓區(qū)、蒸湘區(qū)。石鼓區(qū)因境內(nèi)石鼓山而得名。轄原城北區(qū)的人民路、瀟湘、青山、五一、合江5個街道和原郊區(qū)的黃沙灣街道、松木鄉(xiāng)、西湖鄉(xiāng)的五一、建設(shè)、友愛、江霞4個村（建設(shè)村劃歸五一街道管轄，五一、友愛、江霞3村劃歸合江街道管轄）以及原屬衡陽縣的角山鄉(xiāng)。區(qū)政府駐司前街42號。原城北區(qū)的蒸湘街道劃歸蒸湘區(qū)。

2008年，區(qū)政府遷至衡陽市西外環(huán)路。2008年末，全區(qū)總面積112平方千米，總?cè)丝?4萬余人。轄6個街道、2個鄉(xiāng)：人民路街道、青山街道、瀟湘街道、五一街道、合江街道、黃沙灣街道、松木鄉(xiāng)、角山鄉(xiāng)。共有28個行政村、43個社區(qū)。

2011年，將衡陽市石鼓區(qū)松木鄉(xiāng)的新安、金蘭、新竹3個建制村和松木、松梅、友誼3個建制村的部分區(qū)域析出，設(shè)立金源街道辦事處。新設(shè)金源街道辦事處轄3個居委會、3個建制村，總面積18.7平方公里，總?cè)丝?.84萬人，辦事處機(jī)關(guān)駐新楓路。行政區(qū)劃調(diào)整后，松木鄉(xiāng)轄9個建制村，總面積33.1平方公里，總?cè)丝?.27萬人，鄉(xiāng)人民政府駐地不變；石鼓區(qū)轄7個街道辦事處、2個鄉(xiāng)。（湘民行發(fā)[2011]4號）