現在的天山區，就是清代迪化城與新滿城以及城廂的舊址。西漢屬劫國、卑陸國地，東漢初屬車師六國，三國屬車師后部，唐貞觀十四年（640）屬庭州，武后時屬北庭大都護府，宋代屬西遼，元代屬別失八里，明屬瓦剌和碩特部，后為準噶爾部之庫木諾雅特游牧地。清乾隆二十三年（1758）在今南門外修筑土城一座，乾隆二十八年（1763）擴建為迪化城。

乾隆三十八年（1773）屬迪化直隸州。光緒十二年（1886）屬迪化府，民國二年（1913）屬迪化縣。民國34年（1945）屬迪化市。民國35年（1946）為迪化市一、二、三、四、五區。1953年為烏魯木齊市一、二、三、四、五區。1957年，一、四、五區合并成立天山區，二、三區合并成立多斯魯克（維語，意為友誼）區。1960年，撤銷多斯魯克區，將所轄地段并入天山區。

1996年，天山區轄12個街道：幸福路街道、團結路街道、新華南路街道、烏拉泊街道、勝利路街道、燕爾窩街道、東門街道、解放南路街道、解放北路街道、和平路街道、青年路街道、新華北路街道。

2000年第五次人口普查，天山區常住總人口471432人，其中：烏拉泊街道11265人、燕爾窩街道 23427人、勝利路街道60091人、團結路街道42698人、解放南路街道 23077人、新華南路街道 29852人、和平路街道47645人、解放北路街道31774人、幸福路街道45904人、東門街道32377人、新華北路街道 29722人、青年路街道34117人、堿泉街虛擬街道43389人、延安路虛擬街道10352人、鹽湖化工廠4236人、柴窩堡林場1506人。

2001年，天山區轄14個街道、1個鄉：解放北路街道、新華北路街道、勝利路街道、解放南路街道、幸福路街道、和平路街道、青年路街道、新華南路街道、燕兒窩街道、烏拉泊街道、東門街道、團結路街道、延安路街道、堿泉街道、大灣鄉。

2002年3月9日，國務院（國函[2002]20號）批準將天山區的烏拉泊街道劃歸烏魯木齊市南泉區（同時更名為達坂城區）管轄。

2003年末，天山區總面積171平方千米，總人口487544人。轄13個街道、1個鄉：燕兒窩街道、勝利路街道、團結路街道、解放南路街道、和平路街道、解放北路街道、東門街道、新華北路街道、新華南路街道、青年路街道、幸福路街道、堿泉街道、延安路街道、大灣鄉。共有124個居委會、5個行政村。區政府駐東環路8號。

2004年末，天山區轄13個街道、1個鄉：燕爾窩街道、新華南路街道、新華北路街道、團結路街道、青年路街道、東門街道、和平路街道、幸福路街道、勝利路街道、解放南路街道、解放北路街道、堿泉街道、延安路街道、大灣鄉。共有130個社區、1個行政村。

2010年第六次人口普查，天山區常住總人口696277人，其中：燕兒窩街道21806人，勝利路街道59965人，團結路街道71514人，解放南路街道23976人，新華南路街道35464人，和平路街道31220人，解放北路街道24348人，幸福路街道65294人，東門街道39249人，新華北路街道29022人，青年路街道43367人，堿泉街道73446人，延安路街道35770人，紅雁街道8142人，黑甲山片區43155人，二道橋片區29875人，賽馬場片區34372人，大灣片區26292人。

2013年，烏魯木齊市政府（烏民發[2013]142號）批準同意天山區設立南草灘街道。調整后，全區轄15個街道。