2003年底，山西省轄11地級市，11縣級市、85縣、23市轄區，564鎮、634鄉、188街道。

太原市　　6區　　1市　　3縣
　杏花嶺區　　　　　　小店區　　　　　　　迎澤區　　　　　　　尖草坪區　　　　　　萬柏林區
　晉源區
　古交市
　清徐縣（清源鎮）　　陽曲縣（黃寨鎮）　　婁煩縣（婁煩鎮）
大同市　　4區　　7縣
　城　區　　　　　　　礦　區　　　　　　　南郊區　　　　　　　新榮區
　陽高縣（龍泉鎮）　　天鎮縣（玉泉鎮）　　廣靈縣（壺泉鎮）　　靈丘縣（靈丘鎮）　　渾源縣（永安鎮）
　左云縣（云興鎮）　　大同縣（西坪鎮）
陽泉市　　3區　　2縣
　城　區　　　　　　　礦　區　　　　　　　郊　區
　平定縣（冠山鎮）　　盂　縣（秀山鎮）
長治市　　2區　　1市　　10縣
　城　區　　　　　　　郊　區
　潞城市
　長治縣（韓店鎮）　　襄垣縣（古韓鎮）　　屯留縣（麟絳鎮）　　平順縣（青羊鎮）　　黎城縣（黎侯鎮）
　壺關縣（龍泉鎮）　　長子縣（丹朱鎮）　　武鄉縣（豐州鎮）　　沁　縣（定昌鎮）　　沁源縣（沁河鎮）
晉城市　　1區　　1市　　4縣
　城 區
　高平市
　澤州縣（南村鎮）　　沁水縣（龍港鎮）　　陽城縣（鳳城鎮）　　陵川縣（崇文鎮）
朔州市　　2區　　4縣
　朔城區　　　　　　　平魯區
　山陰縣（岱岳鎮）　　應　縣（金城鎮）　　右玉縣（新城鎮）　　懷仁縣（云中鎮）
晉中市　　1區　　1市　　9縣
　榆次區
　介休市
　榆社縣（箕城鎮）　　左權縣（遼陽鎮）　　和順縣（義興鎮）　　昔陽縣（樂平鎮）　　壽陽縣（朝陽鎮）
　太谷縣（明星鎮）　　祁　縣（昭余鎮）　　平遙縣（古陶鎮）　　靈石縣（翠峰鎮）
忻州市　　1區　　1市　　12縣
　忻府區
　原平市
　定襄縣（晉昌鎮）　　五臺縣（臺城鎮）　　代　縣（上館鎮）　　繁峙縣（繁城鎮）　　寧武縣（鳳凰鎮）
　靜樂縣（鵝城鎮）　　神池縣（龍泉鎮）　　五寨縣（硯城鎮）　　岢嵐縣（嵐漪鎮）　　河曲縣（文筆鎮）
　保德縣（東關鎮）　　偏關縣（新關鎮）
臨汾市　　1區　　2市　　14縣
　堯都區
　侯馬市　　　　　　　霍州市
　曲沃縣（樂昌鎮）　　翼城縣（唐興鎮）　　襄汾縣（新城鎮）　　洪洞縣（大槐樹鎮）　古　縣（岳陽鎮）
　安澤縣（府城鎮）　　浮山縣（天壇鎮）　　吉　縣（吉昌鎮）　　鄉寧縣（昌寧鎮）　　蒲　縣（蒲城鎮）
　大寧縣（昕水鎮）　　永和縣（芝河鎮）　　隰　縣（龍泉鎮）　　汾西縣（永安鎮）
運城市　　1區　　2市　　10縣
　鹽湖區
　永濟市　　　　　　　河津市
　芮城縣（古魏鎮）　　臨猗縣（猗氏鎮）　　萬榮縣（解店鎮）　　新絳縣（龍興鎮）　　稷山縣（稷峰鎮）
　聞喜縣（桐城鎮）　　夏　縣（瑤峰鎮）　　絳　縣（古絳鎮）　　平陸縣（圣人澗鎮）　垣曲縣（新城鎮）
呂梁市　　1區　　2市　　10縣
　離石區
　孝義市　　　　　　　汾陽市
　文水縣（鳳城鎮）　　中陽縣（寧興鎮）　　興　縣（蔚汾鎮）　　臨　縣（臨泉鎮）　　方山縣（圪洞鎮）
　柳林縣（柳林鎮）　　嵐　縣（東村鎮）　　交口縣（水頭鎮）　　交城縣（天寧鎮）　　石樓縣（靈泉鎮）

★撤銷呂梁地區，設立地級呂梁市（國務院2003年10月23日批準 國函[2003]112號）
　（1）撤銷呂梁地區和縣級離石市，設立地級呂梁市。市人民政府駐新設立的離石區永寧中路。
　（2）呂梁市設立離石區，以原離石市的行政區域為離石區的行政區域，區人民政府駐交通路。
　（3）呂梁市轄原呂梁地區的交城縣、文水縣、興縣、嵐縣、臨縣、方山縣、中陽縣、柳林縣、交口縣、石樓縣和新設立的離石區，原呂梁地區的縣級汾陽市和孝義市由省直轄。