北魏建義元年（528）于今縣城東北18千米古陽鎮(zhèn)置安澤縣，以“界安吉、澤泉間”得名。大業(yè)二年（606）改岳陽縣。唐武德二年（619）徙治今縣城東南17千米舊縣鎮(zhèn)。

蒙古至元四年（1267）廢，尋復(fù)置，屬晉寧路。明、清屬平陽府。民國三年（1914）改安澤縣，屬河?xùn)|道，道廢后直屬省。

1971年析安澤、浮山2縣地置古縣，因原古縣鎮(zhèn)為縣治故名，屬臨汾地區(qū)。2000年屬地級臨汾市。

1997年，古縣轄4個鎮(zhèn)、6個鄉(xiāng)：城關(guān)鎮(zhèn)、北平鎮(zhèn)、古陽鎮(zhèn)、舊縣鎮(zhèn)、下冶鄉(xiāng)、石必鄉(xiāng)、永樂鄉(xiāng)、郭店鄉(xiāng)、店上鄉(xiāng)、茶坊鄉(xiāng)。縣政府駐城關(guān)鎮(zhèn)。

2000年第五次人口普查，古縣總?cè)丝?4696人，其中：城關(guān)鎮(zhèn)23170人，北平鎮(zhèn)12063人，古陽鎮(zhèn)11182人，舊縣鎮(zhèn)10511人，下冶鄉(xiāng)6956人，石壁鄉(xiāng)5958人，永樂鄉(xiāng)5506人，郭店鄉(xiāng)2949人，店上鄉(xiāng)2812人，茶坊鄉(xiāng)3589人。

2001年，撤銷城關(guān)鎮(zhèn)、下冶鄉(xiāng)，設(shè)立岳陽鎮(zhèn)；撤銷郭店鄉(xiāng)、店上鄉(xiāng)、茶坊鄉(xiāng)，設(shè)立南垣鄉(xiāng)。區(qū)劃調(diào)整后，全縣轄4個鎮(zhèn)、3個鄉(xiāng)：岳陽鎮(zhèn)、北平鎮(zhèn)、古陽鎮(zhèn)、舊縣鎮(zhèn)、石壁鄉(xiāng)、永樂鄉(xiāng)、南垣鄉(xiāng)。縣政府駐岳陽鎮(zhèn)。