距法庫東12千米處有二山，一稱刁山，一稱蹕山，全稱刁蹕山，于清中期諧音稱“調兵山”。鐵法因地處鐵嶺、法庫二縣交界處，取二縣首字而得名。1960年設鐵法礦務局。

1981年9月21日，國務院批準同意在鐵法礦區的基礎上設立鐵法市（縣級），以鐵法礦務局領導的調兵山鎮、大明鎮2個鎮和南嶺大隊、東調兵山大隊、大明大隊、興隆屯大隊、尚三家子大隊5個大隊，鐵嶺縣的曉明公社和蔡牛公社的張莊大隊、汪荒地大隊2個大隊，大青山公社的腰堡大隊，法庫縣的調兵山大隊、兀術街大隊、泉眼溝大隊、前峪大隊、后峪大隊、高力溝大隊、胡家窩堡大隊、鎖龍溝大隊8個大隊為鐵法市的行政區域。鐵法市由鐵嶺地區領導。1982年，鐵法市政府正式成立。

1984年，撤銷鐵法市，將鐵法市的行政區域以及法庫縣的城子、太平山、顧家房三個村劃歸鐵嶺市，設立鐵法區。1986年9月12日，國務院（國函[1986]118號）批復同意撤銷鐵嶺市鐵法區，復設鐵法市，以鐵法區行政區域為鐵法市的行政區域。2002年2月20日，民政部（民函[2002]21號）批復同意將鐵法市更名為調兵山市。

1996年，鐵法市面積262.9平方千米，人口約22萬人。轄7個鎮：調兵山鎮、鐵法鎮、曉明鎮、孤山子鎮、曉南鎮、小青鎮、大明鎮。市府駐調兵山鎮。

2000年第五次人口普查，鐵法市常住總人口239636人，其中：調兵山鎮51369人，鐵法鎮86792人，曉明鎮19102人，大明鎮32099人，孤山子鎮13366人，曉南鎮20445人，小青鎮16463人。

2002年2月6日，寧省政府（遼政[2002]38號）批復同意：（鐵法市）撤銷調兵山鎮，將其所轄太平山、大江、小江3個村劃入大明鎮；將原調兵山鎮余下的3個村、7個社區設立調兵山街道；撤銷鐵法鎮，將其所轄高力溝、鎖龍溝、胡家、望家、城子5個村劃入曉南鎮；將原鐵法鎮余下的3個村委會、12個社區設立兀術街街道；撤銷孤山子鎮、曉南鎮，合并設立曉南鎮，將曉南鎮的前屯、后屯2個村劃入曉明鎮；撤銷曉明鎮、小青鎮，合并設立曉明鎮，將原曉明鎮的團結、沙后所2個村劃入大明鎮。

2002年6月，調兵山市面積262.9平方千米，人口約24萬人。轄2個街道、3個鎮：兀術街街道、調兵山街道、曉明鎮、大明鎮、曉南鎮。共有29個社區、46個行政村。市政府駐育才路。

2010年第六次人口普查，調兵山市常住總人口241431人，其中：兀術街街道103662人，調兵山街道56013人，曉明鎮23047人，大明鎮29544人，曉南鎮29165人。