秦漢以前,屬羌人牧地。東漢景帝建發十九年(214年)歸附漢朝。西晉時為吐谷渾轄地,北周建德五年(576年)地屬北周廓州總管府轄。隋朝前期屬吐谷渾轄,后期屬西海郡赤水縣(治今興海縣境)地。唐高宗始為吐蕃管轄。天寶十二年(753年)屬唐洮陽郡。五代十國時期為吐蕃、吐谷渾、黨項、羌等勢力各霸一方,無以統屬。北宋時屬中原王朝。南宋時屬金國。元為吐蕃等處宣慰司轄地,屬河州必里萬戶符。
明為朵甘行都指揮使司轄地,萬歷后屬河州必里千戶符。清屬循化廳,為和碩特前首旗(俗稱河南親王)牧地。民國初由“青海辦事長官”及“蒙蕃宣慰使”管轄,民國廿四年(1935年),和碩特南左中旗劃同德縣,其余“河南三旗”由河南親王統領,隸省直轄。1954年10月成立河南蒙族自治區(縣級),由省直轄。1955年6月改稱河南蒙族自治縣。1959年由黃南自治州代管。1964年更名為河南蒙古族自治縣。1978年12月縣駐地有干灘更名為優干寧。
1999年末,河南蒙古族自治縣面積6273平方千米,人口28683人(根據青海省志)。轄6鄉:智后茂鄉、賽爾龍鄉、寧木特鄉、托葉瑪鄉、多松鄉、柯生鄉。縣政府駐優干寧(智后茂鄉轄地)。
2000年第五次人口普查,河南蒙古族自治縣總人口32260人,其中:智后茂鄉7580人、寧木特鄉8132人、托葉瑪鄉3827人、賽爾龍鄉3177人、柯生鄉2705人、多松鄉2180人、優干寧地區(未批鎮)4649人。
2001年3月19日,青海省人民政府青政函[2001]21號文批復:撤銷智后茂鄉,設立并命名為優干寧鎮(鎮政府駐地不變)。調整后,河南蒙古族自治縣轄1個鎮、5個鄉:優干寧鎮、寧木特鄉、托葉瑪鄉、賽爾龍鄉、柯生鄉、多松鄉。
2001年末,河南蒙古族自治縣總人口3.1萬人,其中少數民族2.85萬人,占全縣總人口的92.06%。全縣轄1個鎮、5個鄉,38個村(牧)委會。 優干寧鎮:駐優干寧,轄智后茂、參美、秀甲、荷日恒、多特、直龍、納其、阿木乎、吉仁木9個牧委會。 賽爾龍鄉:駐牙塘,轄賽爾龍、尖克日、尕欠、尕克、蘭龍5個牧委會。 寧木特鄉:駐曲格寺,轄寧木特、作毛、周龍、衛拉、德旦、浪琴、蘇青、夏拉、賽爾永、梧桐、尕群11個牧委會。 托葉瑪鄉:駐托葉瑪,轄托葉瑪、曲海、夏吾特、曲龍、文群、寧賽6個村委會。 多松鄉:駐上多松,轄多松、夏日達哇、拉讓3個牧委會。 呵生鄉:駐香扎寺,轄柯生、毛曲、尖克、次漢蘇4個牧委會。
2006年8月,撤銷托葉瑪鄉,并入優干寧鎮。調整后,全縣轄1個鎮、4個鄉:優干寧鎮、寧木特鄉、多松鄉、賽爾龍鄉、柯生鄉。