東山區，因地處礦山東部，故稱“東山”。中華民國成立后，1918年興華煤礦公司開發石頭河地方煤礦，逐漸形成居民區，隸屬湯原縣管轄。東北淪陷后，初隸礦山保，1938年改隸興山街，1939年6月劃歸鶴立縣管轄。1945年“九三”抗日戰爭勝利后，1946年設立東山區，隸屬興山市管轄。1948年撤銷東山區。1949年11月，改隸鶴崗市管轄。

1954年設立東山街道辦事處，1958年11月改稱東山經濟區。同時將一部分居民區劃為新一經濟區。1960年12月10日，省人民委員會批準，正式設立東山區和新一區。1966年8月31日，鶴崗市人民委員會批準，將東山區改稱群力區，將新一區改稱反修區。1980年4月24日，省人民政府批準，將群力、反修兩區合并，改為東山區。

1992年末，東山區位于市區東北部，為鶴崗礦務局主要產煤區之一。東、南、東北與東方紅鄉毗鄰，西、西南與向陽區接壤，北、西北與興山區相連。總面積21平方千米，總人口9.5萬人，其中非農業人口6.9萬人；少數民族有滿、回、朝鮮族等。轄東山、新一、工人村、三街、新華5個街道。區政府駐地東山路。（以上摘自《黑龍江省志·地名錄》，有改動）

2000年第五次全國人口普查時，將市林業局屬地、礦務局林業處林場屬地和鶴北林業局部分屬地劃入東山區版圖。使轄區總面積增至4400平方千米。其中：郊區面積1067平方千米，城區面積21平方千米，林區面積2312平方千米。郊區環繞鶴崗周圍。轄區總人口16.7萬人。轄4個街道、1個鎮、4個鄉。

2000年第五次人口普查，東山區總人口176946人，其中：東山街道23760人、三街街道10014人、工人村街道14086人、新一街道25477人、新華鎮17581人、紅旗鄉14177人、蔬園鄉22195人、東方紅鄉14822人、團結鄉7093人、林業局3829人、新華農場23912人。

？年，東山區轄4個街道、1個鎮、4個鄉：新一街道、三街街道、工人村街道、東山街道、新華鎮、團結鄉、東方紅鄉、紅旗鄉、蔬園鄉，工業49個居委會、55個行政村。

2011年，將東山區的光宇街道劃歸興安區管轄。7月14日，《黑龍江省民政廳關于對鶴崗市東山區紅旗鄉撤鄉建鎮并整建制劃歸興安區管轄的批復》：同意將鶴崗市東山區紅旗鄉撤鄉建鎮并整建制劃歸鶴崗市興安區管轄，鎮政府改駐永新村。