“錫林浩特”系蒙古語譯音，意為“丘陵之城”。清順治年間置浩濟特左、右翼旗，康熙年間改阿巴嘎納爾左、右翼旗。1949年，阿巴哈納爾左翼旗劃歸錫林郭勒盟中部聯合旗；阿巴哈納爾右翼旗劃歸錫林郭勒盟西部聯合旗。

1952年5月26日，經內蒙古自治區人民政府電準，中部和西部聯合旗合并為錫林郭勒盟西部聯合旗，原阿巴哈納爾左翼旗廟由貝子爵管轄，故得名“貝子廟”。1953年9月15日，經錫林郭勒盟人民政府批準，“貝子廟”改稱錫林浩特（相當于蘇木級），統稱西部聯合旗錫林浩特人民政府。1956年7月3日，經國務院批準，將西部聯合旗改稱阿巴嘎旗；同年8月21日錫林浩特受錫林郭勒盟直接領導，蘇木級建置不變。

1959年4月15日，錫林浩特升格為旗（縣）級浩特，盟直接管轄。1963年，設立阿巴哈納爾旗，以錫林浩特為中心將阿巴嘎旗和西烏珠穆沁旗的錫林浩特鎮、阿爾山保力格公社、潮格烏拉牧場、軍營牧場、一、二、六隊、畢力格牧場等地區為阿巴哈納爾旗的行政區域。1979年12月14日，阿巴哈納爾旗的“哈”字為“嘎”字。1983年10月10日，經國務院批準，撤銷阿巴嘎納爾旗，改設錫林浩特市（縣級）。

2000年，錫林浩特市轄5個街道、7個蘇木：楚古蘭街道、寶力根街道、希日塔拉街道、杭蓋街道、額爾敦街道、圖古日格蘇木、達布希勒圖蘇木、城關蘇木、伊利勒特蘇木、巴彥寶拉格蘇木、阿爾善寶拉格蘇木、朝克烏拉蘇木。

2000年第五次人口普查，錫林浩特市總人口173796人，其中：希日塔拉街道18291人，寶力根街道11140人，杭蓋街道43935人，楚古蘭街道30724人，額爾敦街道30921人，達布希勒特蘇木1817人，城關蘇木1687人，伊利勒特蘇木2867人，巴彥寶拉格蘇術1727人，阿爾善寶拉格蘇木4494人，朝克烏拉蘇木1500人，圖古日格蘇木1457人，錫林浩特煤礦7835人，毛登牧場1203人，錫市奶牛場904人，白音錫勒牧場9796人，白音庫倫牧場2617人，食品公司貝力克牧場881人。

2000年，錫林浩特市總面積18750平方千米，其中市區建成區面積18.7平方千米。總人口17.7萬人，其中城市人口14.8萬人。轄6個街道、7個蘇木、5個國有農牧場。

2001年區劃調整后，全市轄6個街道、2個鎮、4個蘇木：希日塔拉街道、寶力根街道、杭蓋街道、楚古蘭街道、額爾敦街道、南郊街道、阿爾善寶拉格鎮、巴彥錫勒鎮、達布希勒圖蘇木、伊利勒特蘇木、巴彥寶拉格蘇木、朝克烏拉蘇木。

2001年，全市總面積18750平方千米，其中市區建成面積18.7平方千米。總人口17.7萬人，其中城市人口14.9萬人。轄6個街道、2個鎮、4個蘇木、5個國有農牧場。

2006年，錫林浩特市將原有的6個蘇木鎮調整為3個和1個街道辦事處，即寶力根蘇木、朝克烏拉蘇木和阿爾善寶拉格鎮及巴彥錫勒街道；同時將達布希勒圖蘇木的希日塔拉嘎查、額日敦塔拉嘎查的一部分和伊利勒特蘇木的伊利勒特嘎查、哈那烏拉嘎查、烏力吉得力格爾嘎查的一部分劃入市區行政管轄區域。

2006年，全市總面積14785平方千米，其中市區建成區面積22平方千米。總人口17.7萬人，其中城市人口14.9萬人；蒙古族人口4.35萬人，其他少數民族人口0.84萬人。轄6個街道、1個鎮、2個蘇木。

2009年，全市面積14785平方千米，其中城市建成區面積34平方千米。人口20.5萬人，其中城市人口17.8萬人。

2012年，恢復巴彥寶拉格蘇木。調整后，全市轄7個街道、1個鎮、3個蘇木：希日塔拉街道、寶力根街道、杭蓋街道、楚古蘭街道、額爾敦街道、南郊街道、巴彥查干街道、阿爾善寶拉格鎮、寶力根蘇木、朝克烏拉蘇木、巴彥寶拉格蘇木，以及巴彥錫勒辦事處。市政府駐地希日塔拉街道。