同江市原名“临江”,土名“拉哈苏苏”,赫哲语,“废墟”或“老屋”之意。
在西周时代属肃慎部内地,秦汉时称挹娄,南北朝又称勿吉,隋唐时代勿吉一名消失,演变为黑水部落。公元726年,唐在黑水部落设立了黑水州都督府,后经过辽金时代和元明的统治。因其“濒临松花江南岸,北即黑河口,实为扼要咽喉”,1906年2月15日(清光绪三十二年正月二十二日)吉林将军奏准,于“富克锦东北之拉哈苏苏”(今同江市政府驻地)设置临江州,隶属依兰府。知州吴士澄于同年9月18日(农历八月初一日)启用关防“视事”。1909年6月2日(清宣统元年四月十五日)奏准升改临江府,隶属东北路道。
中华民国成立后,1913年3月,改临江府为临江县。1914年2月,因与奉天省临江县重名,奉令改为同江县。同年6月,隶属依兰道(由东北路道改称)。1929年2月,撤销道制,改由吉林省直辖,时为三等县。东北沦陷后,初隶吉林省,1934年12月,划归三江省管辖。1945年,抗日战争胜利后,划归合江省管辖。
1949年1月6日,东北行政委员会决定,撤销同江县,并入富锦县。同年6月,划为第十区。
1955年,改为同江区。
1959年4月24日,省人民委员会决定,将富锦县的同江区(包括同江、三村、乐业乡)划归抚远县管辖,并将同江区改为同江镇,抚远县人民委员会迁驻同江镇。
1965年8月23日,国务院决定,设置同江县,以抚远县西部地区,即同江镇和乐业、三村、街津口、八岔公社及勤得利农场乡为同江县的行政区域。县址设于同江镇。归合江专区管辖。同时,抚远县址迁至抚远镇。
1985年1月,合江地区正式撤销,划归佳木斯市领导。
1987年2月24日,国务院批准,撤销同江县,设立同江市(县级),由佳木斯市代管。