呂梁市位于山西省境中部西側，東與太原市、晉中市相接，南與臨汾市為鄰，西隔黃河與陜西省相望，北與忻州市交界。總面積21143平方千米，總人口378萬人（2008年）。轄離石1個市轄區，興縣、交口、方山、石樓、嵐縣、中陽、交城、臨縣、文水、柳林10個縣，代管孝義、汾陽2個縣級市。市政府駐離石區永寧中路。
地處呂梁山脈中段，地勢中間高兩翼低，呂梁山脈由北而南縱貫全境，平均海撥在1000～2000米之間。主峰關帝山海撥2831米，為呂梁山最高峰。山地兩翼丘陵起伏，溝壑縱橫，水土流失嚴重。東部地勢平坦，為太原盆地西部邊緣，是主要農業區。境內有黃河及汾河、文峪河、湫水河、蔚汾河、三川河穿流，均屬黃河水系。屬暖溫帶半干旱氣候，年均溫8.7℃，1月均氣溫-7.6℃，7月均氣溫25.5℃，年降水量470毫米。礦藏主要有煤、鐵、鋁、磷、硫磺、石棉、石膏、石英石、石灰石，其中以煤為主。
孝柳鐵路、介休至陽泉曲鐵路支線及209國道過境，并有忻（州）磧（口）、興（縣）腰（店）、興（縣）西（交子）、孝（義）午（城）等干線公路。黃河沿岸設渡口多處，有木船可供通航。有北武當山國家級重點風景名勝區，龐泉溝國家級自然保護區，交城山、關帝山、方山國家級森林公園，安國寺、柏洼山省級森林公園，省及省以下重點文物保護單位百余處。