舊稱南臺。公元前202年，無諸被封為閩越王，在大廟山建一臺，題詞：“登南城翹望，有臺臨江”，故名之。或說，閩江流經市區一段稱臺江，區以江名。1946年1月福州建市時即置臺江區，與小橋區并列市轄區。1949年8月17日解放后，仍為市轄區之一。1956年5月，撤銷小橋區，并入臺江區。1968年9月，臺江區更名為赤衛區。1978年4月，赤衛區復名臺江區。

1955年11月，設蒼霞、中平、后洲、瀛洲、新港5個街道辦事處。1956年5月，撤銷小橋區，并入臺江區，所轄茶亭、洋中、雙杭、義洲、幫洲5個街道辦事處歸臺江區管轄。1957年10月，撤銷中平街道辦事處，并入蒼霞街道辦事處。1970年2月，鼓山公社并入赤衛公社，劃歸赤衛區。1973年11月，赤衛公社分為赤衛公社和東風公社。1975年3月，撤銷東風公社，設立鼓山公社和鼓嶺公社。5月，鼓山、鼓嶺公社劃歸郊區。7月，赤衛公社劃歸蔬菜區。1986年，增設上海新村街道辦事處。

1995年10月27日，國務院（國函[1995]102號）批復同意調整福州市市轄區的行政區域，其中：（1）臺江區轄瀛洲、新港、后洲、茶亭、洋中、雙杭、蒼霞、幫洲、義洲、上海新村10個街道辦事處，從原郊區劃入的臺江鎮及所轄的南公、曙光、紅旗、雙豐、紅星5個居委會和洪山鎮的祥坂、長汀、高橋3個居委會。區政府駐地不變。（2）將茶亭街道的斗中、西營里、福中、九福庵4個居委會劃歸鼓樓區管轄。將新港街道的連潘、連輝、象園3個居委會劃歸晉安區管轄。

1996年1月，福州市區行政區劃調整后，臺江區從鼓樓區劃入龍庭、狀元2個居委會；從原郊區臺江鎮劃入南公、紅星、曙光、紅旗、雙豐5個行政村；從洪山鎮劃入祥坂、長汀、高橋3個行政村；劃出茶亭街道的斗中、西營里、福中、九福庵4個居委會歸鼓樓區；劃出連潘、連輝、邦輝、象園4個居委會歸晉安區；增設寧化、鰲峰2個街道。1997年，省民政廳批復同意撤銷臺江鎮；同年，上海新村街道更名為上海街道。

2000年第五次人口普查，臺江區常住總人口368400人，其中：瀛洲街道50110人，后洲街道14249人，義洲街道35460人，新港街道39229人，上海街道67170人，雙杭街道20844人，蒼霞街道11433人，幫洲街道16759人，茶亭街道32560人，洋中街道28557人，鰲峰街道24871人，寧化街道27158人。

2001年末，臺江區面積18.02平方千米，人口29.7萬人。轄洋中、上海、茶亭、新港、寧化、義洲、幫洲、雙杭、蒼霞、后洲、瀛洲、鰲峰12個街道，共有90個居委會、8個行政村。

2004年，經市政府批準，撤銷幫洲街道并入蒼霞街道，撤銷雙杭街道并入后洲街道。調整后，臺江區轄10個街道，90個社區，總人口37萬人。

2010年第六次人口普查，臺江區常住總人口446891人，其中：瀛洲街道54186人，后洲街道44047人，義洲街道40407人，新港街道49609人，上海街道73010人，蒼霞街道43654人，茶亭街道34441人，洋中街道29195人，鰲峰街道43802人，寧化街道34540人。