洪是大水，洞是疾流，因為此地靠近汾河，形容波濤澎湃。又據《舊唐書·地理志》，取義縣北之洪洞嶺。又據《山西通志》：“縣北五里有洪崖古洞，縣以洞名。”春秋晉置楊氏縣，故治在今縣城東南8千米古縣村。秦改楊縣，屬河東郡。新莽改有年亭。東漢復舊。三國魏屬平陽郡，后廢。北魏太平真君初年禽昌縣自吉縣境徙治今縣城東南10千米，屬平陽郡。太和年間又徙治今堯都區境。二十一年（497）復置楊縣。

正始二年（505）永安縣治自今霍州市境徙今趙城鎮東北8千米橋東村，不久徙治趙城鎮東南1.5千米，屬西河郡。建義元年（528）于永安縣置永安郡，縣屬之。北魏末年永安郡、縣還治今霍州市境。隋開皇三年（583）屬晉州。義寧元年（617）改洪洞縣，徙治今大槐樹鎮。次年于今趙城鎮東北1.5千米置趙城縣，屬霍山郡。

唐麟德初年趙城縣治徙今趙城鎮，與洪洞縣先后屬呂州、晉州。宋熙寧五年（1072）趙城縣廢入洪洞縣，屬平陽府。元豐三年（1080）復置趙城縣。政和三年（1113）升趙城縣為慶祚軍，隸河東路。金廢軍，復為趙城縣。貞佑三年（1215）趙城縣改屬霍州。元洪洞縣屬晉寧路，趙城縣屬霍州。

明洪武三年（1370）兩縣俱屬平陽府。明代以大槐樹為標識的移民活動影響深遠。清乾隆三十七年（1772）趙城縣復屬霍州，民國初年廢府、州，兩縣改屬河東道，道廢后直屬省。1949年屬臨汾專區。1954年合并為洪趙縣，屬晉南專區。1958年改洪洞縣。1967年屬晉南地區。1970年屬臨汾地區。2000年屬地級臨汾市。

1997年，洪洞縣轄9鎮16鄉：城關鎮、甘亭鎮、曲亭鎮、蘇堡鎮、廣勝寺鎮、明姜鎮、趙城鎮、劉家垣鎮、萬安鎮、馮張鄉、淹底鄉、孔峪鄉、古邏鄉、南王鄉、苑川鄉、南溝鄉、堤村鄉、左木鄉、山頭鄉、雙昌鄉、左家溝鄉、馬牧鄉、白石鄉、圣王鄉、龍馬鄉。縣政府駐城關鎮。

2000年第五次人口普查，洪洞縣總人口693261人，其中：城關鎮62524人，甘亭鎮37429人，曲亭鎮36828人，蘇堡鎮26067人，廣勝寺鎮49263人，明姜鎮39257人，趙城鎮66096人，萬安鎮31378人，劉家垣鎮27154人，南王鄉23910人，馮張鄉32357人，淹底鄉27940人，孔峪鄉9567人，古羅鄉13379人，圣王鄉8608人，苑川鄉14982人，南溝鄉8145人，堤村鄉50117人，馬牧鄉32963人，白石鄉22810人，龍馬鄉25569人，左家溝鄉18430人，雙昌鄉12891人，山頭鄉7124人，左木鄉8473人。

2001年區劃調整后，全縣轄9個鎮、7個鄉：大槐樹鎮、甘亭鎮、曲亭鎮、蘇堡鎮、廣勝寺鎮、明姜鎮、趙城鎮、萬安鎮、劉家垣鎮、淹底鄉、興唐寺鄉、堤村鄉、辛村鄉、龍馬鄉、山頭鄉、左木鄉。