唐神龍二年(706)置沈丘縣,治今城關鎮,明廢。1935年析阜陽縣西部地置臨泉縣,以臨潁河支流泉河之上,故名。
1996年底,臨泉縣面積1818平方千米,人口174.9萬,轄22鎮11鄉:城關鎮、楊橋鎮、鯛城鎮、長官鎮、于寨鎮、邢塘鎮、譚棚鎮、老集鎮、呂寨鎮、滑集鎮、宋集鎮、張新鎮、艾亭鎮、韋寨鎮、迎仙鎮、瓦店鎮、姜寨鎮、廟岔鎮、黃嶺鎮、陳集鎮、白廟鎮、關廟鎮、牛莊鄉、高塘鄉、土陂鄉、謝集鄉、單橋鄉、陶老鄉、田橋鄉、張營鄉、龐營鄉、范興集鄉、楊小街鄉。縣政府駐城關鎮。
2000年第五次人口普查,全縣總人口1690872人,其中:城關鎮83664人,楊橋鎮56303人,鯛城鎮50415人,于寨鎮26815人,邢塘鎮37043人,譚棚鎮55582人,老集鎮53561人,滑集鎮61051人,呂寨鎮44092人,單橋鎮44129人,長官鎮65921人,宋集鎮66935人,張新鎮44295人,艾亭鎮60267人,陳集鎮50701人,韋寨鎮66945人,迎仙鎮58595人,瓦店鎮55638人,姜寨鎮57213人,廟岔鎮58037人,黃嶺鎮59167人,白廟鎮46338人,關廟鎮56168人,牛莊鄉35670人,高塘鄉48613人,范興集鄉31698人,土陂鄉52266人,謝集鄉38541人,楊小街鄉41078人,陶老鄉35854人,田橋鄉54464人,張營鄉47041人,龐營鄉46772人。
2004年底,臨泉縣轄23個鎮、10個鄉:城關鎮、楊橋鎮、同城鎮、于寨鎮、邢塘鎮、譚棚鎮、老集鎮、滑集鎮、呂寨鎮、單橋鎮、長官鎮、宋集鎮、張新鎮、艾亭鎮、陳集鎮、韋寨鎮、迎仙鎮、瓦店鎮、姜寨鎮、廟岔鎮、黃嶺鎮、白廟鎮、關廟鎮、牛莊鄉、高塘鄉、范興集鄉、土陂鄉、謝集鄉、楊小街鄉、陶老鄉、田橋鄉、張營鄉、龐營鄉。縣政府駐城關鎮。