富錦，原名“富克錦”，由明代“弗提衛(wèi)”或“福題希衛(wèi)”轉(zhuǎn)音。清代稱“富提新”（又作“福替新”）、“福題希”，赫哲語，意為“高崗”。清末，漢語稱“富克錦”。周屬肅慎，漢屬挹婁，唐屬黑水都督府，遼屬女真五國部，金屬胡里改路，元屬水達(dá)達(dá)路，明屬奴兒干都司，清屬三姓副都統(tǒng)轄區(qū)。光緒八年（1882年），于戛爾當(dāng)屯（今富錦市區(qū)西3公 里）添設(shè)富克錦協(xié)領(lǐng)，歸三姓（今依蘭縣）副都統(tǒng)領(lǐng)屬。光緒三十四年（1908年），臨江州于富克錦縣城設(shè)置分防巡檢。
宣統(tǒng)元年四月十五日（1909年6月2日），吉林巡撫奏準(zhǔn)，以富克錦巡檢升改富錦縣，駐富克錦城，隸屬臨江府（由臨江州升改）；同時，裁撤協(xié)領(lǐng)。同年9月，改隸東北路道。中華民國成立后，1914年6月，東北路道改為依蘭道，由依蘭道管轄。1929年2月，裁撤依蘭道，由吉林省直轄。東北淪陷后，初隸吉林省，1934年12月劃歸三江省管轄。1945年“九三”抗戰(zhàn)勝利后，劃歸合江省管轄。1946年1月，合江省于富錦縣城設(shè)立富錦專區(qū)，管轄富錦等6縣。同年6月1日，撤銷富錦專區(qū)，同時合江省政府決定，將西南部的集賢、三道崗地區(qū)劃出，設(shè)置集賢縣。1947年11月，將西部的新城區(qū)劃歸樺川縣管轄。
1949年1月6日，合江省政府令，將同江縣并入富錦縣，并劃為同江區(qū)。同年5月，合江省并入松江省，富錦縣隸屬松江省。同年6月23日，東北行政委員會批準(zhǔn)，將綏濱縣并入富錦縣。1954年8月，松、黑兩省合并后，富錦縣隸屬黑龍江省合江專區(qū)。1959年4月24日，省人民委員會決定，將富錦縣的同江區(qū)劃歸撫遠(yuǎn)縣管轄。1963年12月30日，國務(wù)院批準(zhǔn)，將松花江北綏濱地區(qū)劃出，恢復(fù)綏濱縣。翌年3月，富錦、綏濱兩縣正式分開。1985年1月，合江地區(qū)與佳木斯市合并，劃歸佳木斯市領(lǐng)導(dǎo)。1988年8月30日，國務(wù)院批準(zhǔn)，撤銷富錦縣，設(shè)立富錦市（縣級），為省轄市，由佳木斯市代管。
1992年末，富錦市位于黑龍江省東北部，三江平原中部，松花江下游南岸。東北與同江市為鄰，東與饒河縣接壤，南與寶清縣、友誼縣相連，西界樺川縣，北與綏濱縣隔江相望。全市總面積8229平方千米，共轄9鎮(zhèn)、9鄉(xiāng)，另有3個省屬國營農(nóng)場。總?cè)丝?1.1萬人，其中非農(nóng)業(yè)人口10.4萬人；滿、回、朝鮮、赫哲等少數(shù)民族人口約占4%。市政府駐地富錦鎮(zhèn)。（以上摘自《黑龍江省志·地名錄》，有改動）
2000年，富錦市轄10個鎮(zhèn)、8個鄉(xiāng)：富錦鎮(zhèn)、頭林鎮(zhèn)、宏勝鎮(zhèn)、二龍山鎮(zhèn)、長安鎮(zhèn)、硯山鎮(zhèn)、錦山鎮(zhèn)、興隆崗鎮(zhèn)、向陽川鎮(zhèn)、西安鎮(zhèn)、大榆樹鄉(xiāng)、富民鄉(xiāng)、新建鄉(xiāng)、隆川鄉(xiāng)、永福鄉(xiāng)、上街基鄉(xiāng)、擇林鄉(xiāng)、二道崗鄉(xiāng)。
2000年第五次人口普查，富錦市總?cè)丝?20579人，其中：富錦鎮(zhèn)98082人，向陽川鎮(zhèn)14809人，二龍山鎮(zhèn)24586人，長安鎮(zhèn)17879人，西安鎮(zhèn)13429人，錦山鎮(zhèn)22676人，硯山鎮(zhèn)18755人，頭林鎮(zhèn)15821人，興隆崗鎮(zhèn)13212人，宏勝鎮(zhèn)12791人，大榆樹鄉(xiāng)14448人，富民鄉(xiāng)10244人，擇林鄉(xiāng)8697人，永福鄉(xiāng)10204人，新建鄉(xiāng)9867人，上街基鄉(xiāng)9964人，二道崗鄉(xiāng)9736人，隆川鄉(xiāng)10478人，建三江管理局15535人，七星農(nóng)場39377人，大興農(nóng)場15018人，創(chuàng)業(yè)農(nóng)場14971人。
2003年，西安鎮(zhèn)人民政府駐地由西安村遷至清化村，西安鎮(zhèn)同時更名為上街基鎮(zhèn)（黑民辦函[2003]70號）。
2010年5月17日，《黑龍江省民政廳關(guān)于富錦市設(shè)置城東街道辦事處和城西街道辦事處的批復(fù)》（黑民區(qū)[2010]59號）：經(jīng)省政府同意，富錦市設(shè)置城東街道辦事處和城西街道辦事處。