晉景公十五年（前585）以"新田土厚水深，居之不疾，有汾澮以流其惡，且民從教，十世之利"，將都城自今翼城縣境徙新田（即今市區），稱為新絳，傳位13世，歷時216年。秦置絳縣，屬河東郡。東漢為絳邑縣，屬平陽郡。三國魏屬平陽郡。北魏太和十一年（487）改曲沃縣，徙治今曲沃縣境，此后歷代俱為曲沃縣轄地。唐貞觀十年（636）曾于此置新田府，后廢。

明洪武八年（公元1375年）在此設驛站，北接平陽府，直達幽燕，南出鐵嶺關，通往秦、豫、蜀、楚，為北方最大的驛站之一。因配備馬匹多，過往的朝政要員多在此食宿等侯，換乘馬匹，故稱侯馬。清嘉慶二十四年（1819年）設巡司，屬平陽府。民國元年廢府，屬河東道。1947年4月6日解放，1949年2月屬晉南區新絳分區。1950年屬臨汾專區。

1956年10月國務院決定設侯馬市籌備處，1957年12月籌備處暫撤銷。1958年8月曲沃、新絳、汾城三縣合并為侯馬市【1958年以曲沃、新絳2縣地和襄汾縣部分地域置侯馬市，屬晉南專區】。1962年因國民經濟暫時困難，侯馬市下馬緩建。1963年5月，恢復曲沃縣，縣政府駐侯馬。1971年7月國務院[1971]國發41號文件批準析出曲沃縣5個公社恢復侯馬市，屬臨汾地區。同年8月1日侯馬市與曲沃縣分署辦公，曲沃縣址遷回新城。

1997年，侯馬市面積274平方千米，人口20萬人，轄5個街道、5個鄉：澮南街道、澮濱街道、路西街道、路東街道、侯北街道、侯馬鄉、鳳城鄉、張村鄉、上馬鄉、高村鄉。共有81個居委會、81個行政村。市政府駐市政府路。

2000年第五次人口普查，全市總人口225123人，其中：路東街道32053人，路西街道25756人，澮濱街道34153人，澮南街道3490人，侯北街道3732人，侯馬鄉45181人，上馬鄉23994人，高村鄉17915人，張村鄉21182人，鳳城鄉17667人。

2001年區劃調整后，全市轄5個街道、3個鄉：澮濱街道、路西街道、路東街道、張村街道、上馬街道、新田鄉、高村鄉、鳳城鄉。