秦、西漢至?xí)x屬扶余地。北魏屬勿吉地。隋為黑水靺鞨所屬。唐初屬燕州黑水府。唐懿宗咸通年間（837年）屬渤海國地，隸屬上京龍泉府。遼為黃龍府地。金為會寧府地。元太宗七年（1235年）曾在黑龍江境內(nèi)設(shè)置開元萬戶府，后來治所移到黃龍府（今吉林省農(nóng)安縣）。元成宗元貞二年（1286年）改開元萬戶府為開元路。明洪武二十一年（1388年），開原路治所移到咸平府（今遼寧開原老城），并改元為原，“開原”名稱由此而來。

開原老城是明代興建最早的古城之一，素有“遼北古城”之稱。明在此地設(shè)三萬衛(wèi)、遼海衛(wèi)、安樂州。清康熙三年（1664年）撒銷三萬衛(wèi)，置開原縣，屬奉天省。民國初屬奉天省遼沈道。日本帝國主義侵占期間，隸屬奉天省。解放初期屬遼西省。1954年劃歸遼寧省。為鐵嶺地區(qū)轄縣。1984年為鐵嶺市轄縣。1988年12月27日，國務(wù)院批準同意撤銷開原縣，設(shè)立開原市（縣級）。

1984年，將開原縣的清河鎮(zhèn)、清河鄉(xiāng)劃歸鐵嶺市，設(shè)立鐵嶺市清河區(qū)。

1996年，開原市面積3101平方千米，人口約60.2萬人。轄8個鎮(zhèn)、17個鄉(xiāng)：開原鎮(zhèn)、老城鎮(zhèn)、金溝子鎮(zhèn)、威遠堡鎮(zhèn)、慶云堡鎮(zhèn)、八寶屯滿族錫伯族朝鮮族鎮(zhèn)、中固鎮(zhèn)、八棵樹鎮(zhèn)、城東鄉(xiāng)、城郊鄉(xiāng)、業(yè)民鄉(xiāng)、蓮花滿族鄉(xiāng)、古城堡鄉(xiāng)、三家子鄉(xiāng)、馬家寨鄉(xiāng)、靠山屯滿族鄉(xiāng)、上肥地滿族鄉(xiāng)、下肥地滿族鄉(xiāng)、黃旗寨滿族鄉(xiāng)、松山堡鄉(xiāng)、楊木林子鄉(xiāng)、曾家屯滿族鄉(xiāng)、李家臺鄉(xiāng)、林豐滿族鄉(xiāng)。市府駐開原鎮(zhèn)。

1998年，省政府（遼政[1998]114號）批復(fù)同意將開原市管轄的楊木林子鄉(xiāng)、曾家屯滿族鄉(xiāng)、八棵樹鎮(zhèn)北大溝村、八棵樹鎮(zhèn)貂皮屯村小圍子自然屯劃歸清河區(qū)管轄。區(qū)劃調(diào)整涉及面積28l平方千米。

1999年，省政府（遼政[1999]30號）批復(fù)同意撤銷靠山滿族鄉(xiāng)，設(shè)立靠山鎮(zhèn)。同年，省政府（遼政[1999]204號）批復(fù)同意撤銷蓮花滿族鄉(xiāng)、業(yè)民鄉(xiāng)，設(shè)立蓮花鎮(zhèn)、業(yè)民鎮(zhèn)。至此，開原市轄11個鎮(zhèn)、8個鄉(xiāng)、4個民族鄉(xiāng)：開原鎮(zhèn)、老城鎮(zhèn)、威遠堡鎮(zhèn)、慶云堡鎮(zhèn)、中固鎮(zhèn)、八棵樹鎮(zhèn)、金溝子鎮(zhèn)、八寶屯滿族錫伯族朝鮮族鎮(zhèn)、蓮花鎮(zhèn)、靠山鎮(zhèn)、業(yè)民鎮(zhèn)；土肥地滿族鄉(xiāng)、下肥地滿族鄉(xiāng)、黃族寨滿族鄉(xiāng)、林豐滿族鄉(xiāng)、李家臺鄉(xiāng)、馬家寨鄉(xiāng)、三家子鄉(xiāng)、城郊鄉(xiāng)、城東鄉(xiāng)、古城堡鄉(xiāng)、柴河堡鄉(xiāng)、松山堡鄉(xiāng)。

2000年第五次人口普查，開原市常住總?cè)丝?29736人，其中：開原鎮(zhèn)129124人，老城鎮(zhèn)25031人，中固鎮(zhèn)27754人，慶云堡鎮(zhèn)25463人，八棵樹鎮(zhèn)27545人，威遠堡鎮(zhèn)22312人，金溝子鎮(zhèn)26644人，八寶屯滿族錫伯族朝鮮族鎮(zhèn)20699人，靠山鎮(zhèn)12217人，蓮花鎮(zhèn)14159人，業(yè)民鎮(zhèn)21483人，城郊鄉(xiāng)29129人，城東鄉(xiāng)17176人，古城堡鄉(xiāng)10609人，三家子鄉(xiāng)16186人，馬家寨鄉(xiāng)12022人，柴河堡鄉(xiāng)7084人，黃旗寨滿族鄉(xiāng)14547人，上肥地滿族鄉(xiāng)9979人，下肥地滿族鄉(xiāng)13862人，松山堡鄉(xiāng)19146人，李家臺鄉(xiāng)18709人，林豐滿族鄉(xiāng)8856人。

2002年2月6日，省政府（遼政[2002]38號）批復(fù)同意：撤銷開原鎮(zhèn)，設(shè)立新城街道辦事處；撤銷城郊鄉(xiāng)，設(shè)立興開街道辦事處；撤銷老城鎮(zhèn)，設(shè)立老城街道辦事處；撤銷古城堡鄉(xiāng)、八寶滿族錫伯族朝鮮族鎮(zhèn)，合并設(shè)立八寶鎮(zhèn)（繼續(xù)享受民族鄉(xiāng)待遇）；撤銷柴河堡鄉(xiāng)、靠山鎮(zhèn)，合并設(shè)立靠山鎮(zhèn)；撤銷三家子鄉(xiāng)、慶云堡鎮(zhèn)，合并設(shè)立慶云堡鎮(zhèn)。

2002年6月，開原市面積2824.78平方千米，人口約57.52萬人。轄3個街道、9個鎮(zhèn)、4個鄉(xiāng)、4個民族鄉(xiāng)：新城街道、老城街道、興開街道、威遠堡鎮(zhèn)、慶云堡鎮(zhèn)、中固鎮(zhèn)、八棵樹鎮(zhèn)、金溝子鎮(zhèn)、八寶鎮(zhèn)、業(yè)民鎮(zhèn)、蓮花鎮(zhèn)、靠山鎮(zhèn)、城東鄉(xiāng)、馬家寨鄉(xiāng)、上肥地滿族鄉(xiāng)、下肥地滿族鄉(xiāng)、黃旗寨滿族鄉(xiāng)、松山堡鄉(xiāng)、李家臺鄉(xiāng)、林豐滿族鄉(xiāng)。共有23個社區(qū)、351個行政村。市政府駐新華路28號。

2010年第六次人口普查，開原市常住總?cè)丝?45624人，其中：新城街道191649人，老城街道24190人，興開街道27995人，威遠堡鎮(zhèn)21491人，慶云堡鎮(zhèn)21954人，中固鎮(zhèn)23788人，八棵樹鎮(zhèn)22828人，金溝子鎮(zhèn)23462人，八寶鎮(zhèn)27040人，業(yè)民鎮(zhèn)18662人，蓮花鎮(zhèn)12249人，靠山鎮(zhèn)17255人，城東鄉(xiāng)14771人，馬家寨鄉(xiāng)10462人，上肥地滿族鄉(xiāng)9326人，下肥地滿族鄉(xiāng)13514人，黃旗寨滿族鄉(xiāng)13224人，松山堡鄉(xiāng)17284人，李家臺鄉(xiāng)14980人，林豐滿族鄉(xiāng)6351人，三家子鄉(xiāng)13149人。（注：三家子鄉(xiāng)為非正式行政區(qū)劃）

2012年，省政府（遼政[2012]6號）批復(fù)同意：撤銷下肥地滿族鄉(xiāng)、松山堡鄉(xiāng)、李家臺鄉(xiāng)、馬家寨鄉(xiāng)，設(shè)立下肥地鎮(zhèn)、松山堡鎮(zhèn)、李家臺鎮(zhèn)、馬家寨鎮(zhèn)。2013年，省政府（遼政[2013]5號）批復(fù)同意：撤銷城東鄉(xiāng)、上肥地滿族鄉(xiāng)、黃旗寨滿族鄉(xiāng)，設(shè)立城東鎮(zhèn)、上肥鎮(zhèn)、黃旗寨鎮(zhèn)。至此，全市轄3個街道、 16個鎮(zhèn)、1個民族鄉(xiāng)：新城街道、老城街道、興開街道、威遠堡鎮(zhèn)、慶云堡鎮(zhèn)、中固鎮(zhèn)、八棵樹鎮(zhèn)、金溝子鎮(zhèn)、八寶鎮(zhèn)、業(yè)民鎮(zhèn)、蓮花鎮(zhèn)、靠山鎮(zhèn)、下肥鎮(zhèn)、松山鎮(zhèn)、李家臺鎮(zhèn)、馬家寨鎮(zhèn)、城東鎮(zhèn)、上肥鎮(zhèn)、黃旗寨鎮(zhèn)、林豐滿族鄉(xiāng)。