墨江歷史悠久，因阿墨江而得名。江因阿木人居此而得名阿木江，后變為阿墨江。曾名“恭順”、“他郎”。秦朝屬西南夷地。西漢為哀牢地；東漢、三國蜀漢屬益州永昌郡；兩晉南北朝屬寧州永昌郡。隋屬濮部。唐南詔國屬銀生節度，為阿焚諸部所據。宋大理國為威楚府因遠部（元江因遠）和馬籠部（新平漠沙）屬地。元憲宗四年（1254）他郎內附，立為二千戶，隸屬寧州萬戶府。至元十三年（1276）設他郎千戶所，隸屬元江萬戶府。至元二十五年（1288）改他郎千戶所為他郎寨長官司，隸屬元江路，長官司署設他郎寨（今聯珠鎮）。明洪武十五年（1382）為他郎寨長官司，屬元江府；永樂四年（1406），改他郎寨長官司為恭順州，州治在碧朔（今碧溪鄉碧朔），隸屬元江軍民府；弘治年間曾改隸臨安府（建水縣）；嘉靖十二年（1533）移恭順州治至他郎寨（今縣城）。

清初襲明制，為恭順州，屬元江軍民府。順治十八年（1661），裁恭順州入元江府。雍正十年（1732）3月，于舊恭順州他郎寨置他郎撫彝廳，屬迤東道元江府；同年，署云貴總督鄂爾泰提請準元江府通判分駐他郎。乾隆三十五年（1770），元江府降為直隸州，他郎廳不便歸州管轄遂改隸迤南道普洱府，以定南、儒林二土司并隸他郎通判。嘉慶十六年（1811）3月，裁云南賓川州赤石崖巡檢為普洱府他郎廳知事。道光二十九年（1849）更設他郎營汛。移新熠營駐防他郎，為普洱鎮左營。光緒二十八年（1902），駐勐烈的普定左營管帶改為勐烈彈壓委員，文武兼轄（一說為光緒21年5月，他郎猛烈行政區添設行政委員）。

民國二年（1913）4月，迤南道更名為滇南道，他郎廳改為他郎縣，縣列二等，隸滇南道。民國3年（1914）6月，滇南道更名為普洱道，他郎縣屬普洱道。民國5年（1916）11月，他郎縣更名為墨江縣。民國18年（1929）11月，廢普洱道，墨江縣直屬省；同年，成立江城縣，墨江縣屬猛烈行政區劃歸江城。民國21年（1932）4月，屬第12政務視察區。民國23年（1934）4月，屬第15政務視察區；民國24年（1935）8月，屬第6政務視察區。民國27年（1938）9月，屬第8政務視察區。民國30年（1941）6月15日，屬第一區行政督察專員公署（駐寧洱縣）。民國31年（1942）7月，屬第四區行政督察專員公署（駐寧洱縣）。民國35年（1946）10月，屬第六區行政督察專員公署（駐新平縣）。

1949年1月7日墨江縣城解放，5月27日，成立“墨江縣軍政委員會”，8月3日墨江縣臨時人民政府成立，隸屬思普區臨時人民行政委員會。1950年5月4日，墨江縣人民政府正式成立，隸屬寧洱專區。1951年4月2日，政務院批準：將寧洱專區更名為普洱專區，墨江縣屬普洱專區。1953年3月28日，政務院批準：普洱專區更名為思茅專區，墨江縣屬思茅專區。1957年1月，縣人民政府改稱縣人民委員會。1967年4月，全縣實行軍管，成立縣軍事管制委員會。1968年4月26日，墨江縣革命委員會成立。1970年，思茅專區改為思茅地區，墨江縣屬思茅地區。

1979年7月30日，國務院批準：撤銷墨江縣，設立墨江哈尼族自治縣。同年11月28日，在縣城召開了自治縣成立大會。2003年10月30日，國務院批準（國函[2003]113號）：撤銷思茅地區，設立地級思茅市，墨江縣屬地級思茅市。2007年，思茅市更名為普洱市，墨江縣屬地級普洱市。

1949年在鄉鎮開展民主建政工作，以原聯珠鎮行政區域組建聯珠區，以原碧溪鎮行政區域組建碧溪區，以原景星鎮和回龍鄉行政區域組建景回區，以原白連鄉、漣漪鄉、龍潭鄉、雅邑鄉、壩溜鄉、龍壩鄉行政區域各組建白連區、漣漪區、龍潭區、雅邑區、壩溜區、龍壩區。至1950年5月全縣共組建成9個區，91個行政村，4個行政街。1953年7月1日零時全國第一次人口普查，墨江縣人口177934人。1954年4月25日，將墨江縣壩溜區下七鄉：老白、三楞、瑪玉、土堆、莫洛、東鄉、臥龍，面積370.5平方千米，人口12226人，劃歸紅河哈尼族彝族自治州綠春縣。1956年撤聯珠區設玖聯鎮，全縣設8區1鎮，8個區下轄90個鄉，玖聯鎮下轄2個街區。

1958年3月，普洱縣通關區（面積361平方千米）劃歸墨江縣。年底全縣共建政社合一的“人民公社”9個及1個鎮、40個管理區、149個大隊，鎮下設2個街道居民委員會。1959年1月，鎮沅縣新撫公社（面積968平方千米）劃歸墨江縣。全縣有10個公社1個鎮，170個管理區、2個居民委員會。1960年5月，調整人民公社體制規模，將原來全縣10個公社、1個鎮、170個管理區調整為10個區、1個鎮、159個小公社。1961年改公社為區，原管理區改為小公社。1962年4月又改區為公社，下仍設小公社。1962年11月再次改公社為區。這段時期名稱頻繁更換，但行政區劃卻無多大變化。1964年7月1日零時全國第二次人口普查，全縣人口223805人。