商為卞明國。春秋末設卞邑，西漢置卞縣。隋開皇十一年（591）易名為泗水縣。因泗河發源于境內而得名�！督窨h釋名》：“泗水源出縣東陪尾山。源有泉四，四泉俱導，故名泗。秦因置泗水郡，隋以名縣。”

1995年5月18日，山東省政府批準：撤銷楊柳鄉、中冊鄉，設立楊柳鎮、中冊鎮。1995年12月18日，山東省政府批準：撤銷金莊、苗館鄉，設立金莊鎮、苗館鎮。

1996年，泗水縣面積1091.8平方千米，人口57.8萬人。轄8個鎮、7個鄉：泗水鎮、金莊鎮、泉林鎮、苗館鎮、星村鎮、中冊鎮、柘溝鎮、楊柳鎮、圣水峪鄉、泗張鄉、南陳村鄉、馬家莊鄉、踅莊鄉、大黃溝鄉、高峪鄉�？h政府駐泗水鎮。

2000年第五次人口普查，泗水縣總人口552028人，其中：泗水鎮123384人，金莊鎮30943人，中冊鎮33006人，苗館鎮34356人，柘溝鎮31196人，楊柳鎮34571人，星村鎮47021人，泉林鎮44940人，圣水峪鄉40545人，泗張鄉25895人，南陳村鄉17700人，踅莊鄉11443人，馬家莊鄉17008人，大黃溝鄉23588人，高峪鄉36432人。

2000年12月1日，山東省政府（魯政函民字[2000]72號）批準：撤銷馬家莊鄉，將其行政區域并入泉林鎮；撤銷踅莊鄉，將其行政區域并入苗館鎮；撤銷泗張鄉、南陳村鄉，合并設立泗張鎮，鎮政府駐原泗張鄉政府駐地。至此，泗水縣轄9個鎮、3個鄉。

2004年1月2日，經山東人民政府同意，泗水縣撤銷泗水鎮設立泗河、濟河2個街道辦事處。將原泗水鎮的鮑東莊、鮑王莊、徐家樓、大鮑村、小鮑村、楊家莊、穆家莊、東立石、西立石、東曲泗、西曲泗、中曲泗、東洼、西洼、榆樹園街、考棚街、仲子街、清真寺街、動關街、南關街、玉皇廟街、火神廟街、西關街、石橋街、幸福村、東澗溝、房家樓、東音義、西音義、南臨泗、喬家村、水泉、玉前村、與后村等35個村（居）劃歸泗水街道管轄，辦事處機關駐原泗水鎮政府駐地；將原泗水鎮的孫家莊、高家莊、華興街、韓家莊、何家莊、禮泉、五里廟、尖山、小山前、半截樓、沙胡同、夾山頭、臥牛莊、白仲泉、北孫徐、龍灣套、石佛莊、南澎、北澎、大溝崖、樊家莊、鳳凰嶺、長山莊、潘家莊、于莊、東高、西高、南尚舒、被尚舒、魯舒、黨家廟、羅家灣、任家莊、澇家莊、湯家莊、張家寨、東王莊、西王莊、丁家寨、馬家坡、南玉溝、代家莊、新興社區等43個村（居）劃歸濟河街道管轄，辦事處機關駐光明路南首左側。

泗水縣總面積1091平方千米，總人口597420人。轄2個街道、8個鎮、3個鄉：泗河街道、濟河街道、金莊鎮、泉林鎮、星村鎮、柘溝鎮、楊柳鎮、中冊鎮、苗館鎮、泗張鎮、高峪鄉、大黃溝鄉、圣水峪鄉。共19個居委會、574個村委會，590個自然村。（根據“濟寧地名網”，估計為2004年統計數據）

2007年底，全縣總面積1118.96平方千米�？側丝�60.56萬人，其中城鎮人口15.91萬。轄2個街道、8個鎮、3個鄉：泗河街道、濟河街道、泉林鎮、星村鎮、柘溝鎮、金莊鎮、苗館鎮、中冊鎮、楊柳鎮、泗張鎮、圣水峪鄉、大黃溝鄉、高峪鄉，592個行政村（居委會）。

2010年，撤銷高峪鄉、圣水峪鄉，設立高峪鎮、圣水峪鎮。至此，全縣轄2個街道、10個鎮、1個鄉：泗河街道、濟河街道、泉林鎮、星村鎮、柘溝鎮、金莊鎮、苗館鎮、中冊鎮、楊柳鎮、泗張鎮、圣水峪鎮、高峪鎮、大黃溝鄉。縣政府駐泗河街道。