東漢建安十三年（208）置休陽縣。三國吳改名為海陽縣，晉改為海寧縣。隋開皇十八年（598）改休寧縣。休寧，乃合休陽、海寧為名。
　　1949年屬徽州專區，1956年屬蕪湖專區，1961年屬徽州專區，1987年為黃山市轄縣。

　　1997年，休寧縣面積2151平方千米，人口27.3萬，轄9個鎮、24個鄉：海陽鎮、五城鎮、萬安鎮、溪口鎮、流口鎮、蘭田鎮、汪村鎮、齊云山鎮、東臨溪鎮、龍田鄉、璜尖鄉、白際鄉、嶺南鄉、山后鄉、秀陽鄉、渭橋鄉、江潭鄉、陳霞鄉、榆村鄉、汊口鄉、洪里鄉、商山鄉、西田鄉、板橋鄉、冰潭鄉、迥溪鄉、渠口鄉、鄭灣鄉、山斗鄉、源芳鄉、南塘鄉、鶴城鄉、蘭渡鄉。縣政府駐海陽鎮。
　　2000年全縣總人口242260人，其中：海陽鎮32718人，齊云山鎮4714人，萬安鎮22339人，五城鎮13659人，東臨溪鎮10210人，蘭田鎮7502人，溪口鎮12607人，流口鎮4768人，汪村鎮5165人，秀陽鄉8991人，洪里鄉11471人，商山鄉7144人，西田鄉5969人，山斗鄉4509人，嶺南鄉2852人，蘭渡鄉7986人，渭橋鄉6259人，渠口鄉6350人，南塘鄉4844人，江潭鄉5971人，板橋鄉4882人，廻溪鄉3847人，陳霞鄉3936人，冰潭鄉3342人，鶴城鄉6608人，山后鄉3500人，漢口鄉7880人，源芳鄉4020人，榆村鄉5391人，鄭灣鄉4798人，龍田鄉3899人，璜尖鄉2479人，白際鄉1650人。
　　2004年底，休寧縣轄9個鎮、12個鄉（正式區劃調整時間為2005年）。
　　2005年，休寧縣原有的33個鄉鎮正式調整為21個鄉鎮（注：批準時間為2004年）。對24個鄉鎮行政區劃進行了調整，秀陽鄉并入海陽鎮，洪里鄉與商山鄉合并，設立新的商山鄉，鄉政府駐雁里。西田鄉并入五城鎮，汊口鄉并入東臨溪鎮，渠口鄉并入渭橋鄉，南塘鄉并入藍田鎮，藍渡鄉并入齊云山鎮，冰潭、江潭兩鄉并入溪口鎮，回溪鄉并入陳霞鄉，山后鄉并入汪村鎮，鄭灣鄉的藏溪村、酒店村、文田村、嶺上村、嶺下村劃入榆村鄉管轄，鄭灣鄉的萬金臺村劃入源芳鄉管轄，嶺南鄉、山斗鄉、璜尖鄉、白際鄉、龍田鄉、板橋鄉、鶴城鄉、流口鎮、萬安鎮等9個鄉鎮原行政區劃不動，全縣鄉鎮區劃調整后共設9個鎮12個鄉。