海拉爾，原稱“海蘭兒”，以海拉爾（海蘭兒）河得名。海拉爾，蒙古語和鄂溫克語，意為“野韭菜”。一說為“流下的水”。海拉爾地區秦以前為東胡之地，后為匈奴駐地，后漢為鮮卑所居。唐時為室韋地，遼為上京道轄。元屬嶺北行省和林路轄，明為奴爾干都司斡難河衛所轄。

清初，屬黑龍江將軍轄區，為烏拉特蒙古部落的游牧地。清雍正十年（1732年）從布特哈地區遷3796名索倫（鄂溫克）、達斡爾、鄂倫春、巴爾虎壯丁和家屬，編為索倫左、右兩翼八旗五十佐，駐牧呼侖貝爾。雍正十二年（1734年）在今正陽街一帶建城，因其地居呼倫湖和貝爾湖附近，取名“呼倫貝爾城”，后簡稱“呼倫城”。先后為呼倫貝爾總管、呼倫貝爾副都統和呼倫兵備道、呼倫直隸廳駐地。清末，民間以城在海拉爾河附近，故稱之為海拉爾城。1902年后鐵路兩側歸東省鐵路管轄。

1912年1月，額魯特總管勝福與沙俄勾結發動叛亂，攻占呼倫城，宣布“獨立”，成立所謂“呼倫貝爾自治政府”。1915年11月，中俄簽訂條約規定為“特別區域”，直接受中華民國中央政府節制，并受黑龍江省長官監督。1920年2月，取消“特別區域”，設置善后監督辦公署和呼倫縣，為督辦公署和縣署駐地。1923年4月，將海拉爾鐵路交涉分局改為海拉爾市政分局，隸屬東省特別區管轄。1925年設置呼倫道，為道署駐地。1927年，設置海拉爾鄉，在呼倫城成立鄉政公所。1929年2月，廢止道制，設置呼倫市政籌備處。

東北淪陷后，1933年1月，偽滿取消呼倫縣，改設海拉爾辦事處，行使鐵路附屬地外一切行政管轄權，并成為興安北分省省會。1935年3月，中東鐵路由日本人接收。1936年1月，改設海拉爾市政管理處，將海拉爾市政公所轄新市街（原鐵路附屬地）和海拉爾辦事處（呼侖貝爾城）所轄一切權利合并，統一歸海拉爾市政管理處，從此“海拉爾”一名取代了古老的名稱“呼侖貝爾城”及其他所有稱呼。1940年5月，設置海拉爾市，建立市公署，隸屬興安北分省管轄。1943年10月，改隸興安總省管轄。

1945年“九三”抗日戰爭勝利后，建立臨時市政府。1946年5月，東北民主聯軍進駐海拉爾，8月建立海拉爾市政府。隸屬呼倫貝爾地方自治政府。1949年4月，隸屬內蒙古自治區呼納盟。1953年5月，改由內蒙古自治區直轄。1954年5月，改隸呼倫貝爾盟，并為盟公署駐地。1955年8月，市政府改為市人民委員會。1968年1月建立了海拉爾市革命委員會。1969年7月，與呼倫貝爾盟一起劃歸黑龍江省管轄，仍隸呼倫貝爾盟。1979年7月，劃歸內蒙古自治區管轄，仍隸呼倫貝爾盟。1980年8月，成立海拉爾市人民政府。1990年，全市總面積1440平方千米，其中城區面積28平方千米；總人口20.9萬人，漢族占絕大多數。

1996年?，海拉爾市面積1440平方千米，人口23.3萬人。轄6個街道、1個鎮、3個鄉：正陽街道、向華街道、健康街道、靠山街道、呼倫街道、勝利街道、謝爾塔拉鎮、建設鄉、奮斗鄉、哈克鄉。市政府駐正陽街道。呼倫貝爾盟行政公署駐地。

2000年第五次人口普查，海拉爾市總人口262184人，其中：正陽街道22174人，向華街道20912人，靠山街道38313人，健康街道38546人，勝利街道39824人，呼倫街道32413人，謝爾塔拉鎮7157人，奮斗鎮27512人，建設鎮27477人，哈克鎮7856人。

2000年末，海拉爾市總面積1440平方千米，城區面積28平方千米。總人口240729人。轄6個街道、4個鎮。

2001年10月10日，國務院批準撤銷呼倫貝爾盟，設立地級呼倫貝爾市；原縣級海拉爾市改設海拉爾區。2003年，海拉爾區轄正陽、向華、靠山、呼侖、勝利、健康6個街道和建設鎮、奮斗鎮、哈克鎮。

2006年，撤銷建設鎮、奮斗鎮，將建設鎮的5個村（紅星、金星、光明、合作、互助）和奮斗鎮的6個村（友聯、友好、富強、和平、奮斗、勝利）并入哈克鎮；將原奮斗鎮的38平方千米、建設鎮的157平方千米的轄區面積合并，設立奮斗街道。2006年末，戶籍人口78840戶259705人，其中非農業人口237217人。

2009年末，全區總面積1440平方千米，其中城區面積28平方千米�？側丝�81600戶269152人，其中：非農業人口253040人，農業人口16112人。轄哈克鎮1個鎮和7個街道。

2011年，撤銷奮斗街道，設立奮斗鎮。調整后，全區轄6個街道、2個鎮：正陽街道、健康街道、靠山街道、勝利街道、呼倫街道、建設街道、哈克鎮、奮斗鎮。