甘南，原名“甘井子”。名稱來(lái)源，一說(shuō)，相傳清代康熙年間，從山西逃荒來(lái)此地的幾戶漢人，臨時(shí)掘井取水，巧逢甘泉，遂定居墾荒建村，乃以井取名“甘井子”；另一說(shuō)，甘井子原為達(dá)斡爾族牧民為防備每年夏季江汛，趕畜北上放牧為飲牲畜所打的一眼井，由達(dá)斡爾語(yǔ)“嘎齊堪·霍都熱”演變?yōu)?ldquo;甘井”�！九f名二站土名甘井子。土名甘井子的起源，相傳距今二百多年前，這里是雜草叢生、人煙稀少的荒蕪之地，后來(lái)漢人自南方移居于此地，開墾種植，為解決飲水，他們挖地掘井，清泉自涌，井泉水清爽甘甜，自此以后，移民漸集，煙戶口稠，遂將此地取名為甘井子。甘南之稱的由來(lái)，據(jù)有關(guān)資料記載，“甘”指放荒丈地的甘字段；“南”是方位名詞，指位于海拉爾之南。建置縣治時(shí)，便以其二字命名�！�
清代，屬齊齊哈爾副都統(tǒng)轄區(qū)，為布特哈游牧地，清末放荒招墾，設(shè)立荒務(wù)機(jī)構(gòu)。1905年11月28日（光緒三十一年十一月初二日），于郭爾羅斯后旗巡防局啟用“總理甘井子荒務(wù)之關(guān)防”，翌年于二站（由齊齊哈爾至呼倫貝爾驛道的第二站，故名二站）附近勘定城基。1907年（光緒三十三年）“街基落成”，荒務(wù)行局遷抵二站（今甘南鎮(zhèn)）。1908年4月（光緒三十四年三月），撤銷荒務(wù)行局設(shè)置甘井子巡防局，隸屬西布特哈總管，辦理民政事務(wù)，管理地方治安。
1914年（民國(guó)三年）7月1日，改設(shè)甘井子佐治局，隸屬龍江縣管轄。同年10月9日批準(zhǔn)，將甘井子佐治局改為甘井子縣佐。1916年2月，劃歸布西設(shè)治局管轄。1925年12月1日，黑龍江省長(zhǎng)公署令，將甘井子佐治局改設(shè)甘南設(shè)治局，駐地二站改為甘南鎮(zhèn)，隸屬龍江道管轄。翌年2月13日，啟用“甘南設(shè)治局之關(guān)防”。1929年2月，龍江道撤銷后，改由省直轄。東北淪陷后，1933年10月1日，改為甘南縣，隸屬黑龍江省。1934年12月，劃歸偽龍江省管轄。
1945年“九三”抗日戰(zhàn)爭(zhēng)勝利后，劃歸嫩江省管轄。1949年5月，撤銷嫩江省，劃歸黑龍江省管轄。1954年8月設(shè)立嫩江專區(qū)，歸嫩江專區(qū)管轄。1960年5月至1961年10月，嫩江專區(qū)一度撤銷時(shí)，曾歸齊齊哈爾市領(lǐng)導(dǎo)。1985年1月1日，嫩江地區(qū)正式撤銷后，劃歸齊齊哈爾市領(lǐng)導(dǎo)。
1992年末，甘南縣位于黑龍江省西部，嫩江中游右岸，大興安嶺南麓斷續(xù)丘陵與嫩江沖積平原的過(guò)渡地帶。東臨嫩江、諾敏河與富�？h、訥河市和內(nèi)蒙古自治區(qū)莫力達(dá)瓦達(dá)斡爾族自治旗隔水相望，南與齊齊哈爾市、龍江縣接壤，西和西北部抵金東北路界壕邊堡與內(nèi)蒙古自治區(qū)扎蘭屯市、阿榮旗毗連。全縣版圖呈角形，總面積4792平方千米。總?cè)丝?7.2萬(wàn)人，其中非農(nóng)業(yè)人口7.4萬(wàn)人，滿、朝鮮、蒙古、回、達(dá)斡爾等少數(shù)民族人口5700人。轄12個(gè)鄉(xiāng)鎮(zhèn)，縣政府駐地甘南鎮(zhèn)。（以上摘自《黑龍江省志·地名錄》，有改動(dòng)）
1996年，甘南縣轄3個(gè)鎮(zhèn)、9個(gè)鄉(xiāng)：甘南鎮(zhèn)、東陽(yáng)鎮(zhèn)、平陽(yáng)鎮(zhèn)、宏建鄉(xiāng)、長(zhǎng)山鄉(xiāng)、中興鄉(xiāng)、音河鄉(xiāng)、長(zhǎng)吉崗鄉(xiāng)、興隆鄉(xiāng)、巨寶鄉(xiāng)、查哈陽(yáng)鄉(xiāng)、寶山鄉(xiāng)。
2000年第五次人口普查，甘南縣（轄5個(gè)鎮(zhèn)、7個(gè)鄉(xiāng)）總?cè)丝?60555人，其中：甘南鎮(zhèn)59578人，音河鎮(zhèn)14273人，平陽(yáng)鎮(zhèn)15925人，東陽(yáng)鎮(zhèn)28179人，巨寶鎮(zhèn)19634人，宏建鄉(xiāng)25570人，長(zhǎng)山鄉(xiāng)25093人，中興鄉(xiāng)34971人，興隆鄉(xiāng)23443人，寶山鄉(xiāng)32360人，查哈陽(yáng)鄉(xiāng)15572人，長(zhǎng)吉崗鄉(xiāng)10179人，查哈陽(yáng)農(nóng)場(chǎng)55778人。
2011年7月14日，《黑龍江省民政廳關(guān)于甘南縣音河鎮(zhèn)人民政府駐地遷址及更名的批復(fù)》：同意甘南縣音河鎮(zhèn)人民政府駐地由音河村遷至興十四村，并更名為興十四鎮(zhèn)，行政區(qū)域、隸屬關(guān)系不變。