宋代以前，全縣曾分為15個鄉。明代全縣編為37里，明洪武十年（1377年）五月至洪武十三年（1380年）十一月定陶縣并入成武縣。清代劃分為24社23集。中華民國時期，全縣分為5個區。中華人民共和國建立初期，全縣分為8個區，1958年，撤區設1鎮16鄉（1958年11月底至1961年定陶縣的陳集、馬樓、杜堂、城關、黃店、冉堌、王店、馬集8個公社曾并入成武縣）。后將鄉鎮改建為10處人民公社，1979年，增至18處人民公社，1984年，政社分開，改為19處鄉鎮：成武鎮、大田集鎮、汶上集鎮、天宮廟鎮、南魯集鄉、伯樂集鄉、茍村集鄉、孫寺鄉、郜鼎集鄉、白浮圖鄉、張樓鄉、孫廟鄉、寶峰鄉、桃花寺鄉、九女集鄉、黨集鄉、康集鄉、智樓鄉、徐莊鄉。1988年，撤銷徐莊鄉，歸屬汶上集鎮。1996—1998年，南魯集鄉、茍村集鄉、白浮圖鄉、伯樂集鄉、孫寺鄉分別撤鄉建鎮。全縣計有成武、大田集、汶上集、天宮廟、茍村集、南魯集、白浮圖、伯樂集、孫寺9個鎮，郜鼎集、張樓、孫廟、寶峰、桃花寺、九女集、黨集、康集、智樓9個鄉。

2001年，經山東省人民政府批準（魯政函民字〔2001〕14號文），同意將18個鄉鎮合并成12個鄉鎮：撤銷智樓鄉并入九女集鄉；撤銷桃花寺鄉并入大田集鎮；撤銷寶峰鄉并入汶上集鎮；撤銷康集鄉并入天宮廟鎮；撤銷郜鼎集鄉，將小集、前陳莊、毛洼、宋莊、單橋、前李莊、晏堌堆、單莊、純集、李莊、謝樓、小閻莊、前王莊13個行政村劃入孫寺鎮，將郜鼎集西、郜鼎集東、劉坊、張呂莊、楊樓、后陳樓、水口、宋灣、李六、節樓、姜莊11個行政村和茍村集鎮的七里口、黃莊行政村劃入成武鎮。

2002年2月，撤銷九女集鄉設置九女集鎮。2003年，天宮廟鎮的鄭河、八陳兩個行政村劃入成武鎮。2005年3月，設置成武縣經濟技術開發區，2006年3月，根據山東省人民政府發布的魯政字〔2006〕71號文件精神，成武縣經濟技術開發區更名為山東成武工業園區；2019年1月，根據山東省人民政府發布的魯政字〔2019〕4號文件精神，山東成武工業園區更名為山東成武經濟開發區。

2011年8月，經山東省人民政府批準，撤銷成武鎮，以原成武鎮西部的行政區域設立文亭街道，以原成武鎮東部的行政區域設立永昌街道。2011年8月，根據《山東省人民政府關于同意調整成武縣部分行政區劃的批復》（魯政函民字〔2010〕90號）精神，經縣政府研究決定，撤銷張樓鄉設立張樓鎮，撤銷黨集鄉設立黨集鎮。

至2024年，成武縣共有汶上集、白浮圖、大田集、孫寺、九女集、南魯集、伯樂集、天宮廟、茍村集、張樓、黨集11個鎮，文亭、永昌2個街道。共有456個行政村，13個城市社區，1237個自然村。常住人 口 56.70 萬人。