市名得自境內(nèi)額仁淖爾鹽地。“二連”系“額仁”的不同譯音，意為有花紋的。“浩特”，蒙語，意為城市。“二連浩特”意為“位于斑斕地帶的城市”。春秋時為林胡所居。戰(zhàn)國、秦為匈奴地。后漢時烏桓、鮮卑入居，隋唐突厥徙牧于此。遼屬托州地，金為蒙古各部落游牧之地，元屬中書省上都路，北元屬察哈爾部蘇尼特鄂托克。清崇德七年開始屬蘇尼特右旗，嘉慶二十五年（1820年）在二連鹽池西北坡設(shè)立“伊林”驛站。光緒十五年（1899年），清廷架通了庫侖（烏蘭巴托）－張家口一線的電話線，又設(shè)電報局，并將該地標(biāo)入了當(dāng)時出版的地圖集，名曰“二連”。民國七年（1918年）二連鹽池成為張家口至庫侖汽車運輸線上的一個站點，站名“滂北”。
二連浩特市是隨著集寧-二連國際鐵路的建設(shè)而建立。1956年1月，北京－烏蘭巴托－莫斯科國際鐵路聯(lián)運線開通，以二連車站為中心的建筑群變成為二連浩特的雛形。1956年4月，錫林郭勒公署決定成立二連鎮(zhèn)，隸屬蘇尼特右旗。1957年7月，內(nèi)蒙古自治區(qū)人民委員會決定二連鎮(zhèn)升格為準(zhǔn)縣級，改名“二連浩特”，隸屬錫林郭勒盟。1966年1月，國務(wù)院批準(zhǔn)設(shè)立二連浩特市。1969年12月內(nèi)蒙古自治區(qū)革委會決定，二連浩特市劃歸烏蘭察布盟管轄。1980年5月重新劃回錫林郭勒盟。1985年1月，自治區(qū)人民政府決定將二連浩特升格為準(zhǔn)地級市；1985年6月，國務(wù)正式批準(zhǔn)二連浩特市為甲類開放城市；1986年3月，自治區(qū)政府批準(zhǔn)二連為計劃單列市。1992年7月，國務(wù)院批準(zhǔn)二連為全國13個沿邊對外開放城市之一。
1996年?，二連浩特市面積167平方千米，人口1.3萬人。轄3個街道。烏蘭街道：市府駐轄區(qū)內(nèi)。“烏蘭”系蒙古語譯音，意為“紅色”。1983年設(shè)置。面積1.5平方千米，人口0.8萬人，轄白音、巴達(dá)拉乎、呼格吉勒3個居委會。東城街道：1994年設(shè)置。面積2平方千米，人口0.4萬人，轄團(tuán)結(jié)、石化、前進(jìn)、滿都拉4個居委會。轄區(qū)內(nèi)有二連火車站。錫林街道：錫林”系蒙古語譯音，意為“丘陵”。1994年設(shè)置。面積2平方千米，人口0.3萬人，轄朝陽、迎賓、友誼3個居委會。（根據(jù)《政區(qū)大典》）
2000年第五次人口普查，二連浩特市總?cè)丝?7025人，其中：二連浩特市街道14494人，錫林虛擬街道21778人，京城虛擬街道10753人。
2000年，二連浩特市地處東經(jīng)111°53′-112°14′、北緯43°22′-43°45′。邊境線長19.7千米。轄3個街道，11個居委會。常住人口16170人，暫住人口26752人，人口密度為35.9人/平方千米。2001年，二連浩特市有3個街道，11個居委會，1個國營農(nóng)場�？�?cè)丝?6743人，其中暫住人口39725人，常住人口17018人；漢族43603人，蒙古族12648人，回族65人，滿族350人，朝鮮族18人，達(dá)斡爾族42人，鄂溫克族4人，羌族5人，其他少數(shù)民族8人；人口密度為350.3人/平方千米。（《內(nèi)蒙古年鑒》）
2003年，將蘇尼特右旗的格日勒圖敖都蘇木（蘇吉嘎查、陶力嘎查、額爾登高畢嘎查）和蘇尼特右旗額淖爾蘇木的呼格吉勒圖雅嘎查劃歸二連浩特市管轄。全市轄烏蘭、東城、錫林3個街道和格日勒圖敖都蘇木，總面積由原來的162平方千米擴(kuò)大到4015.1平方千米。與蒙古國邊境線長67.88千米。牧業(yè)人口1249人，賽烏素農(nóng)場住戶人口905人。城市建設(shè)面積12平方千米，草場面積3900平方千米。
2006年，二連市面積4015.1平方千米，城區(qū)面積18.2平方千米。轄3個街道、格日勒敖都蘇木和賽烏素科技園區(qū)，14個社區(qū)、4個嘎查和1個生態(tài)移民區(qū)。總?cè)丝?0719人，其中戶籍人口24008人，人口密度為26人/平方千米。
2009年末，二連浩特市面積4015.1平方千米，城區(qū)面積27平方千米。轄3個街道、1個蘇木、1個科技園區(qū)，14個居委會、4個嘎查、1個移民區(qū)�？�?cè)丝?9914人，比上年末減少3670人。常住人口71786人，其中二連戶籍人口25989人；流動人口18128人。格蘇木1828人，賽烏素科技園區(qū)186人。
2012年2月，二連浩特市撤銷3個街道，成立社區(qū)建設(shè)管理辦公室，將14個社區(qū)整合為8個新社區(qū)，由“市—街道—社區(qū)”三級管理變?yōu)椤笆兄惫苌鐓^(qū)”。3月16日，《二連浩特市人民政府辦公廳關(guān)于市友誼等8個社區(qū)更名的通知》（二政辦發(fā)[2012]23號）：友誼社區(qū)更名為東城社區(qū)；興安社區(qū)更名為西城社區(qū)；朝陽社區(qū)更名為南苑社區(qū)；那仁社區(qū)更名為北疆社區(qū)；前進(jìn)社區(qū)更名為錫林社區(qū)；建設(shè)社區(qū)更名為額仁社區(qū)；迎賓社區(qū)更名為呼和社區(qū)；滿都拉社區(qū)更名為烏蘭社區(qū)。