唐為蘄縣、鐘離等縣地。南宋寶佑五年（1257）置懷遠軍。據《名勝志》：宋置懷遠軍，取宋理宗趙昀“荊山為城，義在懷遠”一語為軍名。元至元二十八年（1291）廢軍，改為懷遠縣。1983年6月為蚌埠市轄縣。

1996年，懷遠縣面積2460平方千米，人口約118.6萬人。轄11個鎮、18個鄉：城關鎮、鮑集鎮、龍亢鎮、常墳鎮、河溜鎮、馬城鎮、魏莊鎮、五岔鎮、萬福鎮、唐集鎮、雙橋集鎮、朱疃鄉、找郢鄉、孝儀鄉、燕集鄉、淝河鄉、梅橋鄉、姚山鄉、褚集鄉、看疃鄉、陳集鄉、高莊鄉、古城鄉、東廟鄉、項橋鄉、徐圩鄉、雙溝鄉、蘭橋鄉、荊芡鄉。縣政府駐城關鎮。

2000年第五次人口普查，懷遠縣常住總人口1234561人，其中：城關鎮70299人，包集鎮39882人，龍亢鎮32105人，河溜鎮47255人，常墳鎮41224人，馬城鎮43485人，雙橋集鎮53928人，魏莊鎮41778人，五岔鎮43347人，萬福鎮47984人，唐集鎮45597人，燕集鄉29269人，淝河鄉35777人，朱疃鄉38659人，找郢鄉49365人，梅橋鄉46649人，姚山鄉48988人，褚集鄉40175人，看疃鄉32580人，陳集鄉35100人，高莊鄉36559人，古城鄉52077人，東廟鄉31690人，項橋鄉26630人，徐圩鄉45660人，雙溝鄉39234人，蘭橋鄉36319人，荊芡鄉47341人，孝儀鄉46166人，龍亢農場9439人。

2004年1月10日，國務院（國函[2004]4號）批準同意將梅橋鄉劃歸蚌埠市淮上區管轄。調整前，懷遠縣面積2460平方千米，戶籍人口129萬人（2001年）。

2004年5月，懷遠縣將28個鄉鎮調整為19個鄉鎮（10鎮、9鄉），即撤銷五岔鎮、看疃鄉、高莊鄉、項橋鄉、燕集鄉、雙溝鄉、東廟鄉、姚山鄉、朱疃鄉、孝儀鄉10個鄉鎮，調整城關鎮、鮑集鎮、龍亢鎮、淝河鄉、河溜鎮、荊芡鄉、常墳鎮、唐集鎮、找郢鄉、馬城鎮10個鄉鎮的行政區劃，新設立淝南鄉1個鄉，保留雙橋集鎮、魏莊鎮、萬福鎮、褚集鄉、古城鄉、徐圩鄉、蘭橋鄉、陳集鄉8個鄉鎮。并將685個行政村撤并為365個。

2004年末，懷遠縣轄10個鎮、9個鄉：城關鎮、鮑集鎮、龍亢鎮、河溜鎮、常墳鎮、唐集鎮、馬城鎮、雙橋集鎮、魏莊鎮、萬福鎮、荊芡鄉、找郢鄉、淝河鄉、褚集鄉、古城鄉、徐圩鄉、蘭橋鄉、陳集鄉、淝南鄉。

2010年第六次人口普查，懷遠縣常住總人口1028066人，其中：城關鎮165097人，鮑集鎮60795人，龍亢鎮51998人，河溜鎮51965人，常墳鎮66062人，馬城鎮69723人，雙橋集鎮47389人，魏莊鎮31339人，萬福鎮41766人，唐集鎮63884人，淝南鄉36918人，淝河鄉49909人，褚集鄉37937人，陳集鄉30737人，古城鄉34981人，徐圩鄉35555人，蘭橋鄉31846人，荊芡鄉45300人，找郢鄉61476人，龍亢農場10065人，經濟開發區3324人。

2013年，將懷遠縣管轄的馬城鎮整建制劃歸蚌埠市禹會區管轄（民地字[2013]135號），同時將懷遠縣管轄的城關鎮上洪、下洪、杜郢、涂山、陳郢、韓郢、冷水7個村劃歸禹會區秦集鎮管轄。

2014年，撤銷找郢鄉，設立白蓮坡鎮（民地函[2014]152號）。2015年，撤銷古城鄉，設立古城鎮（皖民地函[2015]142號）；撤銷褚集鄉，設立褚集鎮（皖民地函[2015]143號）。至此，全縣轄12個鎮、6個鄉。