青山區是由于國家“一五”期間重點項目武鋼確定在此興建，劃武漢市郊一部分及武昌縣部分地區設區，于1955年2月15日正式設立的。因轄區北面有一古老的集鎮——青山鎮而得名。1964年將農業地區劃歸武漢市洪山區。

1996年，青山區面積45.1平方千米，人口約40.4萬人。轄10個街道：紅鋼城街道、新溝橋街道、紅衛路街道、鋼花村街道、冶金街道、工人村街道、青山鎮街道、廠前街道、武東街道、白玉山街道。區府駐新溝橋街道。

2000年第五次人口普查，青山區總人口443643人，其中：紅衛路街道78608人，鋼花村街道80054人，冶金街道66186人，新溝橋街道60671人，紅鋼城街道37536人，工人村街道27658人，青山鎮街道25692人，廠前街道18092人，武東街道18209人，白玉山街道30937人。

2004年，青山區面積47.93平方千米，總人口452664人。轄10個街道：紅鋼城街道、新溝橋街道、紅衛路街道、鋼花村街道、冶金街道、工人村街道、青山鎮街道、廠前街道、武東街道、白玉山街道。共有104個居委會。

2010年第六次人口普查，青山區常住總人口485607人，其中：紅衛路街道82337人，冶金街道78887人，新溝橋街道54932人，紅鋼城街道37992人，工人村街道14141人，青山鎮街道20791人，廠前街道9961人，武東街道25254人，白玉山街道37703人，鋼花村街道77222人，武鋼廠區281人，鋼都花園管委會39919人，北湖管委會6187人。

2011年末，全區總面積89.87平方千米，戶籍總人口448653人，其中農業人口6935人。轄10個街道、1個管委會、1個經濟開發區，113個社區、13個行政村。（武漢年鑒2012數據）