1954年底，山西省轄5專區、4省轄市，1市、95縣、13市轄區、1鎮。

太原市　　6區
　南城區　　　　　　　北城區　　　　　　　新城區　　　　　　　小店區　　　　　　　晉源區　　　　　　　萬柏林區
大同市　　3區
　城　區　　　　　　　郊　區　　　　　　　口泉礦區
陽泉市　　2區
　第一區　　　　　　　第二區
長治市　　2區
　黃碾區　　　　　　　城郊區
雁北專區　　專署駐大同市　　12縣
　陽高縣（城關）　　　天鎮縣（城關）　　　廣靈縣（城關）　　　靈丘縣（城關）　　　渾源縣（城關）　　　應　縣（城關）
　山陰縣（岱岳）　　　朔　縣（城關）　　　平魯縣（井坪）　　　左云縣（城關）　　　右玉縣（城關）　　　大仁縣（大同市）
忻縣專區　　專署駐忻縣　　17縣
　忻　縣（城關）　　　代　縣（城關）　　　寧武縣（城關）　　　靜樂縣（城關）　　　五臺縣（城關）　　　定襄縣（城關）
　繁峙縣（城關）　　　崞　縣（城關）　　　陽曲縣（黃寨）　　　嵐　縣（東村）　　　岢嵐縣（城關）　　　興　縣（城關）
　保德縣（東關）　　　河曲縣（巡鎮）　　　偏關縣（城關）　　　神池縣（城關）　　　五寨縣（城關）
榆次專區　　專署駐榆次市　　1市　　21縣
　榆次市
　榆次縣（榆次市）　　平定縣（城關）　　　盂　縣（城關）　　　壽陽縣（城關）　　　祁　縣（城關）　　　太谷縣（城關）
　介休縣（城關）　　　靈石縣（城關）　　　平遙縣（城關）　　　昔陽縣（城關）　　　和順縣（城關）　　　左權縣（城關）
　榆社縣（城關）　　　孝義縣（城關）　　　汾陽縣（城關）　　　文水縣（城關）　　　交城縣（城關）　　　中陽縣（城關）
　臨　縣（城關）　　　徐清縣（清源）　　　離山縣（城關）
長治專區　　專署駐長治市　　15縣
　長子縣（城關）　　　屯留縣（城關）　　　武鄉縣（段村）　　　沁　縣（城關）　　　沁源縣（城關）　　　襄垣縣（城關）
　黎城縣（城關）　　　壺關縣（城關）　　　平順縣（城關）　　　高平縣（城關）　　　晉城縣（城關）　　　陽城縣（城關）
　陵川縣（城關）　　　沁水縣（城關）　　　潞安縣（長治市）
晉南專區　　專署駐臨汾縣　　30縣　　1鎮
　臨汾縣（城關）　　　曲沃縣（城關）　　　吉　縣（城關）　　　鄉寧縣（城關）　　　安澤縣（城關）　　　大寧縣（城關）
　永和縣（城關）　　　蒲　縣（城關）　　　汾西縣（城關）　　　隰　縣（城關）　　　霍　縣（城關）　　　浮山縣（城關）
　翼城縣（城關）　　　石樓縣（城關）　　　趙洪縣（城關）　　　襄汾縣（史村）　　　安邑縣（城關）　　　河津縣（城關）
　稷山縣（城關）　　　新絳縣（城關）　　　聞喜縣（城關）　　　夏　縣（城關）　　　平陸縣（城關）　　　永濟縣（趙伊）
　芮城縣（城關）　　　垣曲縣（城關）　　　絳　縣（城關）　　　萬榮縣（解店）　　　解虞縣（城關）　　　臨猗縣（猗氏）
　運城鎮

◎1954年4月9日國務院批準：
　 1．撤銷臨汾專區、運城專區，合并設立晉南專區，駐臨汾縣。
　 2．撤銷臨晉縣、猗氏縣，合并設立臨猗縣，駐猗氏。
　 3．撤銷萬泉縣、榮河縣，合并設立萬榮縣，駐解店。
　 4．撤銷虞鄉縣、解縣，合并設立解虞縣，駐原解縣城關。
　 5．撤銷洪洞縣、趙城縣，合并設立洪趙縣，駐原洪洞縣城關。
　 6．撤銷離石縣、方山縣，合并設立離山縣，駐原離石縣城關。
　 7．撤銷潞城縣，長治縣，合并設立潞安縣，駐長治市。
　 8．撤銷大同縣、懷仁縣，合并設立大仁縣，駐大同市。
　 9．撤銷襄陵縣、汾城縣，合并設立襄汾縣。
　10．設立榆次市，以榆次縣的城關區為其行政區域。
◎撤銷大同市第一、二區，合并設立城區。（1954年4月14日大同市人民政府批準）
◎撤銷大同市第三、四區，合并設立郊區。（1954年6月1日山西省人民政府批準）
◎太原市第一至第六區分別更名為南城、北城、新城、小店、萬柏林、晉源等6區。（1954年6月5日山西省人民政府批準）
◎襄汾縣駐地遷至史村（山西省人民政府1954年10月14日批準）
◎山西省平順縣的葦池凹村、高家臺村劃歸河南省林縣。（內務部1954年12月11日批準）（注：河南省注解為內務部1953年4月30日批準）