同江市原名“臨江”，土名“拉哈蘇蘇”，赫哲語，“廢墟”或“老屋”之意。清末設治時，因其地瀕松、黑兩江，故名臨江州，后因重名改為“同江”。唐屬黑水都督府，遼屬女真五國部，金屬胡里改路，元屬水達達路，明屬奴兒干都司，清屬三姓副都統。因其“瀕臨松花江南岸，北即黑河口，實為扼要咽喉”，1906年2月15日（清光緒三十二年正月二十二日）吉林將軍奏準，于“富克錦東北之拉哈蘇蘇”（今同江市政府駐地）設置臨江州，隸屬依蘭府。知州吳士澂于同年9月18日（農歷八月初一日）啟用關防“視事”。1909年6月2日（清宣統元年四月十五日）奏準升改臨江府，隸屬東北路道。

中華民國成立后，1913年3月，改臨江府為臨江縣。1914年2月，因與奉天省臨江縣重名，奉令改為同江縣。同年6月，隸屬依蘭道（由東北路道改稱）。1929年2月，撤銷道制，改由吉林省直轄。時為三等縣。東北淪陷后，初隸吉林省，1934年12月劃歸三江省管轄。1945年“九三”抗日戰爭勝利后，劃歸合江省管轄。1949年1月6日，東北行政委員會決定，撤銷同江縣，并入富錦縣。同年6月，劃為第十區，1955年改為同江區。1959年4月24日，省人民委員會決定，將富錦縣的同江區（包括同江、三村、樂業鄉）劃歸撫遠縣管轄，并將同江區改為同江鎮，撫遠縣人民委員會遷駐同江鎮。

1965年8月23日，國務院決定，設置同江縣，以撫遠縣西部地區，即同江鎮和樂業、三村、街津口、八岔公社及勤得利農場鄉為同江縣的行政區域。縣址設于同江鎮。歸合江專區管轄。同時，撫遠縣址遷至撫遠鎮。1985年1月，合江地區正式撤銷，劃歸佳木斯市領導。1987年2月24日，國務院批準，撤銷同江縣，設立同江市（縣級），由佳木斯市代管。1988年，辟為邊境貿易口岸。

1992年末，同江市位于黑龍江省東北部，松花江與黑龍江匯合處。東與撫遠縣接壤，南與饒河縣和富錦市毗連，西以松花江與綏濱縣分界，北隔黑龍江與俄羅斯相望，國境線長166千米。邊貿口岸城市。全市總面積6164平方千米。總人口14.1萬人，其中非農業人口3.71萬人，占總人口的26.3%；滿、赫哲、朝鮮、蒙古、回等少數民族人口8200人，占5.8%。轄兩個街道和12個鄉、鎮，其中有八岔、街津口兩個赫哲族鄉，是全國赫哲族的主要聚居地。（以上摘自《黑龍江省志·地名錄》，有改動）

2000年第五次人口普查，同江市總人口164595人，其中：興華街道18886人，繁榮街道20333人，同江鎮2448人，樂業鎮8009人，三村鎮10684人，臨江鎮5622人，前衛鄉3583人，向陽鄉6043人，秀山鄉3728人，青河鄉4006人，街津口鄉3224人，八岔鄉3611人，金川鄉2797人，銀川鄉2343人，勤得力農場21353人，青龍山農場12089人，前進農場18879人，洪河農場6314人，濃江農場5484人，鴨綠河農場5159人。

2005年3月29日，《黑龍江省民政廳關于對佳木斯市撤銷同江市前衛鄉、秀山鄉請示的批復》（黑民區[2005]28號）：同意同江市撤銷前衛鄉，將前衛鄉所轄的東勝村、同勝村、勝昌村、黎明村的友誼屯劃歸樂業鎮管轄，樂業鎮人民政府駐樂業村；將前衛鄉所轄的黎明村（不含友誼屯）、同興村、同富村劃歸向陽鄉管轄，向陽鄉人民政府駐向陽村。同意同江市撤銷秀山鄉，將其行政區域劃歸青河鄉管轄，青河鄉人民政府駐青河村。