樺南，因從樺川縣析置且地處樺川縣之南，故名。清代屬三姓副都統管轄。中華民國和東北淪陷時期，分屬樺川縣和依蘭縣管轄。1945年“九三”抗日戰爭勝利后，1946年6月10月，合江省政府決定，將樺川縣南部的湖南營、孟家崗、石頭河子等地區劃出，設置樺南縣。隸屬合江省管轄。縣政府駐湖南營鎮。1948年6月1日，撤銷依東縣，將原依東縣太平（今土龍山鎮）、五道崗、金沙河3個區劃歸樺南縣管轄。

1949年5月，將合江省并入松江省，隸屬松江省管轄。1954年8月，松、黑兩省合并，劃歸新設之合江專區管轄。1956年3月6日，國務院批準，撤銷樺南縣，并入樺川縣。1964年6月5日，國務院批準，恢復樺南縣，以并入樺川縣的原樺南縣行政區域為樺南縣的行政區域。縣人民委員會駐地的樺川鎮改為樺南鎮。隸屬合江專區管轄。1985年1月1日，正式撤銷合江地區，劃歸佳木斯市領導。

1992年末，樺南縣位于黑龍江省東北部，三江平原西部。北與佳木斯市、樺川縣、集賢縣接壤，東北與雙鴨山市毗鄰，東、南與寶清縣、勃利縣相連，西與依蘭縣以倭肯河、松木河為界。全縣總面積4412平方千米。總人口41.3萬人，其中非農業人口16.2萬人；滿、回、朝鮮、蒙古等少數民族人口約占全縣總人口的5%。轄6鎮、13鄉。縣政府駐地樺南鎮。（以上摘自《黑龍江省志·地名錄》，有改動）

1996年，樺南縣轄6個鎮、13個鄉：樺南鎮、孟家崗鎮、閻家鎮、土龍山鎮、駝腰子鎮、石頭河鎮、慶發鄉、民主鄉、梨樹鄉、柳毛河鄉、公心集鄉、二道溝鄉、三合鄉、五道崗鄉、金沙鄉、明義鄉、大八浪鄉、八虎力鄉、幸福鄉。

2000年第五次人口普查，樺南縣總人口421901人，其中：樺南鎮75490人，土龍山鎮30868人，孟家崗鎮19841人，駝腰子鎮20105人，石頭河子鎮22402人，閻家鎮17312人，民主鄉17802人，梨樹鄉16510人，慶發鄉12785人，五道崗鄉15526人，三合鄉10437人，金沙鄉17441人，明義鄉13003人，八虎力鄉14826人，柳毛河鄉16089人，幸福鄉14479人，大八浪鄉13348人，二道溝鄉18238人，公心集鄉13348人，樺南林業局29510人，樺南曙光農場12541人。

全縣現轄6個鎮、4個鄉：駝腰子鎮、石頭河子鎮、樺南鎮、土龍山鎮、孟家崗鎮、閆家鎮、金沙鄉、梨樹鄉、明義鄉、大八浪鄉。