周初屬郜國，秦置成武縣。東漢屬兗州濟陽郡。明改城武縣。據《城武縣志》：“漢高祖過魯，祀孔子。以武功告成，改楚邱為成武。”又云；“明初尚寶鑄印，誤加土為城。”1958年又復改成武縣。

1941年建立成武縣抗日民主政府。1949年后，成武縣屬平原省湖西專區，1952年平原省撤銷，隨湖西專區改屬山東省，1953年湖西專區撤銷，改屬菏澤專區。1958年10月成武、定陶合并，1962年初定陶縣分出。

1988年5月4日，撤銷徐莊鄉，將其行政區域并入汶上集鎮。1994年12月29日，撤銷伯樂集鄉、茍村集鄉，設立伯樂集鎮、茍村集鎮（魯政函民字[1996]67號）。1995年10月23日，撤銷南魯集鄉，設立南魯集鎮。1996年，成武縣面積988.1平方千米，人口58.3萬人。轄5鎮13鄉。縣政府駐成武鎮。1998年12月23日，撤銷白浮圖鄉、孫寺鄉，分別設立白浮圖鎮、孫寺鎮（魯政函民字[1998]38號）。

2000年第五次人口普查，全縣常住總人口596339人，其中（9個鎮、9個鄉）：成武鎮80481人，天宮廟鎮25889人，孫寺鎮33024人，茍村集鎮40178人，白浮圖鎮22830人，大田集鎮43734人，南魯集鎮40107人，汶上集鎮41546人，伯樂集鎮44695人，寶峰集鄉18901人，黨集鄉32455人，桃花寺鄉21456人，張樓鄉30459人，孫廟鄉17226人，郜鼎集鄉31524人，康集鄉14576人，智樓鄉23610人，九女集鄉33648人。

2001年，成武縣轄9個鎮、3個鄉：成武鎮、大田集鎮、伯樂集鎮、天官鎮、汶上集鎮、孫寺鎮、白浮圖鎮、茍村集鎮、南魯集鎮、黨集鄉、張樓鄉、九女集鄉。

2002年2月22日，省政府批復同意撤銷九女集鄉，設立九女集鎮，其行政區域和人民政府駐地不變。調整后，成武縣轄10個鎮、2個鄉：成武鎮、大田集鎮、天官鎮、汶上集鎮、南魯集鎮、伯樂集鎮、茍村集鎮、白浮圖鎮、孫寺鎮、九女集鎮、黨集鄉、張樓鄉。縣政府駐成武鎮。

2010年，撤銷成武鎮，設立文亭街道、永昌街道；撤銷黨集鄉、張樓鄉，設立黨集鎮、張樓鎮。至此，全縣轄2個街道、11個鎮：文亭街道、永昌街道、大田集鎮、天官鎮、汶上集鎮、南魯集鎮、伯樂集鎮、茍村集鎮、白浮圖鎮、孫寺鎮、九女集鎮、黨集鎮、張樓鎮。縣政府駐文亭街道。

2010年第六次人口普查，成武縣常住總人口612016人，其中：文亭街道45436人，永昌街道58572人，大田集鎮71943人，天宮廟鎮38350人，汶上集鎮61592人，南魯集鎮41068人，伯樂集鎮49517人，茍村集鎮35188人，白浮圖鎮42111人，孫寺鎮48803人，九女集鎮56041人，黨集鎮32557人，張樓鎮30838人。