南宋咸淳七年（1271）置淮安軍、五河縣，治今舊縣灣。以淮、澮、漴、潼、沱五河在此匯流而得名。元廢淮安軍，改五河縣。明嘉靖二十五年（1546）遷縣治于今城關鎮。1949年屬宿縣專區，1983年為蚌埠市轄縣。

1992年，將莫圩、大李、彭集、黃李、李咀、單莊、圩后、大崗、西壩口、高咀、三周、訾湖、沱光、單灘、新莊、大黃、孫湖、郭湖、阮圩、、蘇圩、南陽等21個農業村劃歸水上鄉，并更名為沱湖鄉。

1996年，五河縣面積1580平方千米，人口約65萬人。轄7個鎮、13個鄉：城關鎮、新集鎮、小溪鎮、小圩鎮、沫河口鎮、雙忠廟鎮、東劉集鎮、朱頂鄉、頭鋪鄉、安淮鄉、大新鄉、皇廟鄉、園集鄉、張集鄉、申集鄉、武橋鄉、長淮鄉、沱湖鄉、曹顧張鄉、臨北回族鄉。縣政府駐城關鎮。

2000年7月14日，蚌埠市政府（蚌政辦[2000]30號文件）批復同意：撤銷武橋鄉，設立武橋鎮，鎮人民政府駐武橋（皖民地字[2000]76號）；撤銷頭鋪鄉，設立頭鋪鎮，鎮人民政府駐頭鋪（皖民地字[2000]77號）；撤銷大新鄉，設立大新鎮，鎮人民政府駐大新（皖民地字[2000]78號）。三鎮與原各對應鄉行政區域不變。調整后五河縣轄10個鎮、10個鄉。

2000年第五次人口普查，五河縣常住總人口648856人，其中：城關鎮67233人，新集鎮46201人，沫河口鎮38558人，小溪鎮26988人，雙忠廟鎮34323人，小圩鎮39402人，東劉集鎮33775人，頭鋪鎮30975人，大新鎮25179人，武橋鎮25413人，長淮鄉26023人，朱頂鄉42750人，安淮鄉16909人，臨北回族鄉24193人，曹顧張鄉24711人，皇廟鄉26228人，園集鄉24136人，張集鄉24689人，申集鄉35312人，沱湖鄉35858人。

2004年末，五河縣轄13個鎮、2個鄉（其中1個民族鄉）：城關鎮、新集鎮、沫河口鎮、小溪鎮、雙忠廟鎮、小圩鎮、東劉集鎮、頭鋪鎮、大新鎮、武橋鎮、朱頂鎮、澮南鎮、申集鎮、沱湖鄉、臨北回族鄉。

2010年第六次人口普查，五河縣常住總人口621973人，其中：城關鎮96240人，新集鎮44076人，沫河口鎮61798人，小溪鎮25422人，雙忠廟鎮46037人，小圩鎮37994人，東劉集鎮51613人，頭鋪鎮47532人，大新鎮24910人，武橋鎮23378人，朱頂鎮43727人，澮南鎮44987人，申集鎮39796人，沱湖鄉13683人，臨北回族鄉20780人。

2014年，將五河縣管轄的沫河口鎮整建制劃歸蚌埠市淮上區管轄（民地字[2014]61號）。至此，全縣轄12個鎮、2個鄉（其中1個民族鄉）。