巨野縣古系沼澤地區，因大野澤得名。《元和郡縣志》：“澤在巨野縣東五里。南北三百里，東西百余里。”《齊乘》云“梁山泊也。”西漢置巨野縣。北齊撤銷巨野縣。隋開皇16年恢復巨野縣。北宋屬濟州。1150年，黃河大決，淹沒巨野，撤銷巨野縣。1269年（蒙古至元6年），恢復巨野縣。

1983年4月29日，山東省政府批準，巨野縣由原21處公社改為25個鄉、1個鎮（城關鎮、大義鄉、龍堌鄉、大謝集鄉、章縫鄉，田莊鄉、丁官屯鄉、呂官屯鄉、田橋鄉、太平鄉、大李集鄉、張表鄉、王平坊鄉、柳林鄉、陳集鄉、萬豐鄉、營里鄉、昌邑鄉、葛店鄉、獨山鄉、夏官屯鄉、薛扶集鄉、董官屯鄉、新城鄉、雙廟鄉、陶廟鄉）。至9月底，原826個生產大隊，改建為850個行政村。1984年1月20日，大義、龍堌、章縫、大謝集4個鄉改為鎮。至此，巨野轄21個鄉、5個鎮。

1985年10月24日，城關鎮更名為巨野鎮。1990年1月1日，山東省政府批準，將嘉祥縣的核桃園鄉劃歸巨野縣管轄。1994年12月29日，撤銷核桃園鄉、獨山鄉，設立核桃園鎮、獨山鎮。1995年10月23日，撤銷柳林鄉、夏官屯鄉，設立柳林鎮，夏官屯鎮。至此，全縣轄9鎮18鄉：巨野鎮、夏官屯鎮、大義鎮、獨山鎮、核桃園鎮、龍固鎮、柳林鎮、大謝集鎮、章縫鎮、田莊鄉、萬豐鄉、葛店鄉、呂官屯鄉、薛扶集鄉、田橋鄉、陳集鄉、大李集鄉、雙廟鄉、王平坊鄉、新城鄉、太平鄉、陶廟鄉、丁官屯鄉、昌邑鄉、營里鄉、張表鄉、董官屯鄉。總面積1308.3平方千米，總人口約85.3萬人。縣政府駐巨野鎮。

1996年9月5日，將夏官屯鎮更名為麒麟鎮（魯地名委[1996]9號）。2000年3月15日，撤銷太平鄉，設立太平鎮（魯政函民字[2000]27號）。2000年6月21日，撤銷萬豐鄉、田莊鄉，分別設立萬豐鎮、田莊鎮，其行政區域和人民政府駐地不變（魯政函民字[2000]50號）。至此，全縣轄12個鎮、15個鄉。

2000年第五次人口普查，巨野縣常住總人口839438人，其中：巨野鎮72580人，龍蟈鎮27045人，柳林鎮30466人，章縫鎮39544人，大義鎮37447人，大謝集鎮26445人，獨山鎮31253人，麒麟鎮34155人，核桃園鎮27249人，太平鎮40569人，田莊鎮27214人，萬豐鎮28869人，丁官屯鄉27122人，呂官屯鄉27910人，田橋鄉34291人，大李集鄉26482人，張表鄉25511人，′王平坊鄉14976人，陳集鄉29395人，營里鄉34308人，董官屯鄉41975人，葛店鄉29502人，昌邑鄉23392人，陶廟鄉33130人，雙廟鄉24694人，新城鄉19363人，薛扶集鄉24551人。

2001年2月6日，撤銷新城鄉、呂官屯鄉，其行政區域并入巨野鎮；撤銷葛店鄉，其行政區域并入大義鎮；撤銷大李集鄉，其行政區域并入龍堌鎮；撤銷昌邑鄉，其行政區域并入大謝集鎮；撤銷薛扶集鄉，其行政區域并入麒麟鎮；撤銷雙廟鄉，其行政區域并入獨山鎮；撤銷張表鄉，其行政區域并入柳林鎮；撤銷丁官屯鄉，其行政區域并入田莊鎮；撤銷陳集鄉，其行政區域并入萬豐鎮；撤銷董官屯鄉、王平坊鄉，設立董官屯鎮；撤銷田橋鄉、營里鄉、陶廟鄉，分別設立田橋鎮、營里鎮、陶廟鎮；撤鄉設鎮后，其行政區域和人民政府駐地不變。調整后，巨野縣轄16個鎮：巨野鎮、大義鎮、章縫鎮、龍堌鎮、大謝集鎮、麒麟鎮、獨山鎮、核桃園鎮、柳林鎮、田莊鎮、田橋鎮、太平鎮、萬豐鎮、董官屯鎮、營里鎮、陶廟鎮。

2002年2月22日，省政府批復同意：巨野縣撤銷董官屯鄉，設立董官屯鎮，其行政區域和人民政府駐地不變。2002年8月16日，省政府批復同意：巨野縣撤銷營里鄉，設立營里鎮；撤銷田橋鄉，設立田橋鎮；以上2鄉撤鄉設鎮后，其行政區域和人民政府駐地不變。（本站注：批準時間與上有矛盾，待查）。

2010年第六次人口普查，巨野縣常住總人口860581人，其中：鳳凰街道65039人，永豐街道92118人，龍固鎮54953人，大義鎮61542人，柳林鎮50907人，章縫鎮35603人，大謝集鎮57075人，獨山鎮55139人，麒麟鎮56147人，核桃園鎮27488人，田莊鎮47030人，太平鎮42452人，萬豐鎮59034人，陶廟鎮35539人，董官屯鎮50416人，田橋鎮36651人，營里鎮33448人。