“昌吉”本為“仰吉”之轉音，原系突厥語，涵義是“新”的意思。早在《突厥語大詞典》和《元史·地理志·西北地附錄》里都記載有“仰吉八里”（意為新城）這一名稱。“昌吉”之名大致是由張堡、仰吉八里、昌都刺或昌八里等名逐漸演變而來�！堕單⒉萏霉P記》或《西域水道記》里卻說昌吉一名系準噶爾語（蒙古語），是“場圃”的音譯，它原是一條河的名稱。

西漢時為山北六國中劫國地，晉屬高車，北魏屬柔然，北周屬突厥，隋為西突厥鐵勒部，唐為北庭大都護府所轄，宋為高昌國，元屬別失八里，明代為瓦剌的牧地，明末清初為準噶爾部游牧地。清乾隆二十七年（1762年）筑寧邊城，設巡檢。乾隆三十八年（1773年）置昌吉縣，屬甘肅鎮西府，轄區范圍為今昌吉市和呼圖壁縣。光緒十三年（1887年）屬迪化府。光緒二十九年（1903年）縣轄呼圖壁巡檢改設為呼圖壁縣丞。民國七年（1918年） 呼圖壁縣分設，兩縣均屬迪化道管轄。1950年屬迪化專區。1955年后屬昌吉回族自治州，1983年12月撤銷昌吉縣，成立昌吉市。

1996年，昌吉市轄4個街道、3個鎮、6個鄉：延安北路街道、老城街道、延安南路街道、城郊街道、榆樹溝鎮、三工鎮、硫磺溝鎮、二六工鄉、大西渠鄉、佃壩鄉、阿什里哈薩克族鄉、濱湖鄉、六工鄉。

2000年第五次人口普查，昌吉市常住總人口387169人，其中：老城街道18260人、延安北路街道56968人、延安南路街道75919人、城郊街道40138人、五家渠鎮32665人、硫磺溝鎮5848人、三工鎮17846人、榆樹溝鎮11391人、二六工鄉10842人、大西渠鄉13988人、佃壩鄉6778人、濱湖鄉8866人、六工鄉11824人、阿什里哈薩克民族鄉7203人、廟爾溝鄉3541人、園藝場10041人、兵團101團18006人、兵團103團16809人、兵團共青團農場8492人、兵團軍戶農場11744人。

2003年，昌吉市人民政府《關于老城街道辦事處延安南路街道辦事處更名的通知》（昌市政發[2003]143號）：根據自治州人民政府《關于昌吉市老城街道辦事處延安南路街道辦事處更名問題的批復的函》（昌州政函[2003]112號）文件精神，決定將“昌吉市老城街道辦事處”更名為“昌吉市寧邊路街道辦事處”，將“昌吉市延安南路街道辦事處”更名為“昌吉市北京南路街道辦事處”。

2003年，昌吉市總面積7981.13平方千米，總人口383588人，其中少數民族約占總人口的24%。轄6街道6鎮4鄉：延安北路街道、北京南路街道、綠洲路街道、中山路街道、寧邊路街道、建國路街道、硫磺溝鎮、榆樹溝鎮、三工鎮、二六工鎮、大西渠鎮、六工鎮、佃壩鄉、濱湖鄉、廟爾溝鄉、阿什里哈薩克族鄉。市政府駐延安北路。

2010年第六次人口普查，昌吉市常住總人口426253人，其中：寧邊路街道26770人，延安北路街道55913人，北京南路街道81044人，建國路街道43298人，中山路街道30151人，綠洲路街道70012人，硫磺溝鎮3761人，三工鎮15408人，榆樹溝鎮13681人，二六工鎮12329人，大西渠鎮13916人，六工鎮10015人，佃壩鄉5213人，濱湖鄉8940人，阿什里哈薩克民族鄉8121人，廟爾溝鄉4087人，新疆昌吉國家農業科技園區管理委員會1014人，昌吉市北部荒漠生態保護管理站260人，兵團共青團農場7533人，兵團軍戶農場14787人。

2010年10月18日，濱湖鄉撤鄉建鎮。2013年，自治區政府（新政函[2013]150號）批復同意撤銷佃壩鄉，設立佃壩鎮（8月28日正式撤鄉設鎮）。調整后，全市轄6個街道、8個鎮、2個鄉（其中1個民族鄉）：寧邊路街道、延安北路街道、北京南路街道、建國路街道、中山路街道、綠洲路街道、硫磺溝鎮、三工鎮、榆樹溝鎮、二六工鎮、大西渠鎮、六工鎮、濱湖鎮、佃壩鎮、阿什里哈薩克族鄉、廟爾溝鄉。