焦作行政區，早在8000多年前的母系氏族公社時期就已存在人類部落。夏朝屬冀州轄，稱覃懷地。《禹貢》分天下為九州，此屬冀州。商及西周屬畿內地，據《漢書·地理志》記載，周滅商之后，分屬雍、邘、溫三國；東周為晉南陽地，戰國屬魏、衛二國；秦歸三川郡，漢至三國屬河內郡；晉分屬司州河內郡和汲郡、滎陽郡；南北朝分屬河內郡、滎陽郡；后魏分屬懷州河內郡、武德郡、司州汲郡、滎陽郡、東恒農郡（東魏，原武、陽武縣屬北豫州廣武郡）；北齊屬司州汲郡；隋屬河內郡、汲郡、滎陽郡；唐分屬河北道懷州河內郡、河陽三城使盟州（即孟州）、河南道河南府河南郡、鄭州滎陽郡；五代歸懷州、孟州；宋分屬河北西路懷州河內郡、京西北路濟源郡（治孟州）；金分屬河南南路懷州、孟州；元分屬燕南河北道懷慶路、孟州；明屬懷慶府（治河內，今沁陽），隸屬河南行省(后改河南布政使司）；清屬河南省懷慶府，置河內縣、濟源縣、修武縣、武陟縣、溫縣、孟縣、原武縣、陽武縣。
1910年，清政府始置修武縣焦作鎮；1912年，廢縣存府，河內縣改為懷慶府；1913年，廢府存縣，懷慶府改稱沁陽縣，原懷慶府各縣屬河南省豫北道；1914年，改河北道；1927年8月，析沁陽縣東部置博愛縣；1932年，原懷慶府各縣隸屬河南省第四行政督察專員公署；1945年9月8日，焦作解放，建立焦作市，隸屬太行區第八專署，11月改為第四專署，轄焦作及溫縣、修武、武陟、博愛等縣；1948年3月，太行第四專署撤銷焦作市，改設焦作縣；1949年5月，太行區第四專署改為新鄉專署（駐焦作，1953年3月遷往新鄉），轄焦作、新鄉2市和獲嘉、輝縣、新鄉、修武、武陟、沁陽、溫縣、博愛等9縣。同年8月，中共平原省委和省人民政府在新鄉成立；９月，平原省人民政府發布命令，新鄉專署下轄新鄉、修武、獲嘉、武陟、焦作、孟縣、沁陽、博愛、濟源等15縣，同月，焦作礦務局成立；10月，焦作縣改為焦作礦區；1952年11月，平原省建制撤銷，焦作礦區和濟源、沁陽、溫縣、孟縣、修武、武陟、博愛等縣劃歸河南省新鄉專署。
1956年7月9日，國務院批準河南省人民委員會《關于將焦作礦區改為省轄市的報告》決定：撤銷焦作礦區，設置焦作市，由河南省直接領導；1958年12月，國務院批準將焦作市委托新鄉專署（區）代管；1959年12月，修武縣、博愛縣劃歸焦作市；1960年8月，撤銷修武縣、博愛縣和溫縣，其行政區分別并入焦作市和沁陽縣；1961年10月，恢復修武縣、博愛縣、溫縣，隸屬新鄉專署；1974年1月，焦作市隸屬河南省和新鄉專署雙重領導；1982年3月，省委、省政府決定，焦作市為省轄市；1983年9月，修武縣、博愛縣由新鄉專署劃歸焦作市；1986年1月，濟源縣、沁陽縣、溫縣、孟縣、武陟縣劃歸焦作市；1988年8月，撤銷濟源縣，設立濟源市（1997年1月隸屬省轄）；1989年9月，撤銷沁陽縣，設立沁陽市；1996年5月，撤銷孟縣，設立孟州市；2010年3月，設焦作新區（2014年3月，更名為焦作市城鄉一體化示范區）；至2019年底，焦作市轄沁陽市、孟州市2市，博愛縣、武陟縣、修武縣、溫縣4縣，解放區、山陽區、中站區、馬村區4區和焦作市城鄉一體化示范區。
