彭陽縣得名于彭陽城。秦代置朝那縣，屬北地郡。漢代屬安定郡。北魏神龜元年（518年）廢朝那縣，在陽晉川（今紅河川）置黃石縣（今溝口鄉境內），為長城郡治。正光五年（524年）在茹河川置白池縣（今城陽鄉境內），大業二年（60年）改長城縣為百泉縣，屬平涼郡。唐武德元年（618年）改平涼郡為原州。武德八年（625年）百泉縣駐地由陽晉川遷至茹河川（今白陽鎮境內）。宋咸平六年（1033年）在今縣城置彭陽城（相當于縣級軍事設置），屬鎮戎軍。彭陽之名由此始。金大定二十二年（1182年）置東山縣（今古城鄉境內），屬鎮戎州。元代至元十年（1273年），改東山縣為廣安縣。五年后升廣安縣為廣安州，屬開城府。明洪武二年（1369年），廢廣安州并入開城縣，屬陜西布政司平涼府。明洪武二年（1369年），廢廣安州并入開城縣，屬陜西布政司平涼府。成化十年（1474年）在今古城鄉置廣安州。弘治十五年（1502年）廣安州并入固原州。民國二年（1913年），改固原州為固原縣，屬甘肅省涇源道，后又改屬甘肅省平涼專區。1936年，中國工農紅軍解放固原，在今縣境北部置固北縣，1938年撤銷。
　　1949年8月解放后至1983年10月，境內隸屬于固原縣。1983年設立彭陽縣，以固原縣東部地區的彭陽、王洼兩個區的15個公社為其行政區域。