戰國為趙之離石邑。秦置離石縣，屬太原郡。據《山西通志》：“離石山，在州北一百八十里，即赤堅嶺也。山前有離石水。古設離石郡、離石縣，胥以山名。”西漢屬西河郡；又于今市境別置于離縣，屬太原郡。新莽改于離為于合，東漢復舊。永和五年（公元140年），西河郡自今內蒙古鄂爾多斯市東勝區境移治于離石。靈帝末，郡縣俱廢。三國魏黃初元年（220）復置，屬西河郡。西晉時離石縣屬西河國。東晉大興二年（319）十六國后趙置永石郡，離石縣屬之，于離縣廢。后燕置離石護軍，北魏明帝降為離石鎮。北齊天保三年（552年）置昌化縣，屬懷政郡，且為郡治。北周建德六年（577年）改昌化縣為離石縣，改懷政郡為離石郡。
　　隋開皇初廢郡，縣屬石州。大業二年（606）廢州，復置離石郡，縣屬之。唐武德元年（618）改離石郡為石州，天寶元年（742）改石州為昌化郡，乾元元年（758）復為石州，縣均屬之。蒙古中統二年（1261）廢縣入州，次年復置；明洪武三年（1370）再廢縣入州，隸太原府。隆慶元年（1567）以石、失同音改石州為永寧州。萬歷二十三年（1595）隸汾州府。
　　1912年改永寧州為永寧縣，1914年改離石縣，屬冀寧道，道廢后直屬省。抗日戰爭時期（1941年）析置離東縣，屬晉綏邊區三專署，后屬四專署，1946年并入離石縣。1949年屬興縣專區。1952年屬榆次專區。1954年與方山縣合并為離山縣。1958年與中陽縣合并，復名離石縣，屬晉中專區。1960年中陽縣析出。1967年屬晉中地區。1971年方山縣析出，屬呂梁地區，為地區公署所在地。1996年撤縣設市。2003年10月23日，國務院批準（國函[2003]112號）撤銷呂梁地區，設立地級呂梁市。呂梁市設立離石區，以原離石市的行政區域為離石區的行政區域，區政府駐交通路。

　　1997年，離石市轄6個鎮、9個鄉：城關鎮、田家會鎮、吳城鎮、西屬巴鎮、信義鎮、交口鎮、陽坡鄉、紅眼川鄉、坪頭鄉、王家溝鄉、結繩墕鄉、棗窊鄉、王營莊鄉、棗林鄉、小神頭鄉。市政府駐城關鎮。
　　2000年第五次人口普查，離石市總人口235678人，其中：城關街道88730人，城關鎮37192人，吳城鎮6826人，田家會鎮15706人，西屬巴鎮16711人，交口鎮14245人，信義鎮8475人，王營莊鄉5306人，紅眼川鄉5025人，陽坡鄉2865人，小神頭鄉4041人，王家溝鄉5797人，坪頭鄉9962人，棗洼鄉5095人，結繩焉鄉3833人，棗林鄉5869人。
　　全區現轄7個街道、2個鎮、3個鄉：濱河街道、鳳山街道、蓮花池街道、城北街道、田家會街道、交口街道、西屬巴街道、吳城鎮、信義鎮、紅眼川鄉、棗林鄉、坪頭鄉。區政府駐交通路。