吉林地区自秦汉以后，陆续进入中原王朝的行政建置序列。但作为一个区域实体，直到清代才真正实现省级建制。大体可分为两个阶段。

　　第一阶段：明代以前。秦王朝统一全国后，在全国设36郡，其中东北3郡，未辖吉林。西汉时期，东北除原设辽东、辽西、右北平三郡外，又增设苍海、乐浪、玄菟、真番、临屯5郡，后苍海郡并入临屯郡，临屯郡并入乐浪郡，真番郡并人玄菟郡。今吉林省东部和南部的长白、图们、敦化、和龙、汪清、龙井、珲春、延吉等市县，先后属苍海郡、临屯郡、乐浪邵；通化、集安、梅河口、靖宇、白山等市县则先后属真番郡、玄菟郡。这是吉林地区进入中原王朝行政建置之始。与此同时和稍后一段时间，吉林的中西部地区属夫余国辖境，东部和东南部分别属挹娄、勿吉、高句丽所有。至唐朝时，唐灭高句丽，吉林的东部和东南部属唐安东都护府辖境。其后，吉林省的大部分地区又属渤海国所有。此外，今吉林西北部地区属唐室韦都护府。

　　辽朝建立以后，吉林大部地区成为契丹和东丹国的辖区。东丹国被废后，辽朝开始在东北设立道、州、县等，分级管理。吉林境内主要有东京道和上京道，东京道在今吉林中部和东南部；上京道在今吉林西部。此外，对吉林东北部的女真各部实行属国制，分别设各部大王府进行管理。

　　金朝灭掉辽朝，在地方行政管理上，采用路府制，在其辖境共设5京14路总管府。其中管辖吉林地区的有5路，即上京路、北京路、东京路、成平路、海兰江路。金代所建行政划已基本覆盖今吉林省全境。

　　元朝统一全国后，对地方的管理实行行省制，在全国设立11个行省185路，吉林地区为辽阳行省开元路、北达达路、中书省泰宁路及中央枢密院直领的成平府辖区。

　　明代对东北的管理，采取了有别于中原地区的都司、卫、所制度。吉林地区大部均属奴尔干都指挥使司辖区，只有西部的洮南一带属大宁都司的泰宁卫。

　　第二阶段：清至民国初年。在吉林的历史上，清代是一个十分重要的时期。自清代始，吉林开始成为一个独立政区而登上历史舞台。清顺治元年(1644)，清政权定鼎北京，旋即在盛京(今沈阳市)设盛京总管，不久改称奉天昂邦章京，统辖东北全境。顺治十年(1653)，在宁古塔(今黑龙江宁安县)添设宁古塔昂邦章京，统辖今黑龙江与吉林两省。宁古塔昂邦章京的设立，可谓是吉林行政区的嚆矢。康熙元年(1662)，宁古塔昂邦章京改称宁古塔将军，康熙十五年(1676)，将军驻地由宁古塔移至船厂(今吉林市)。乾隆二十二年(1757)，宁古塔将军改称吉林将军。自此以后，“吉林”二字由原来的城邑名称扩大为行政区的称谓。吉林将军辖区大体包括松花江、绥芬河、牡丹江、图们江流域，西起开原威远堡边门，东至乌苏里江两岸和库页岛在内的沿江及海中诸岛，北起外兴安岭至日本海及黑龙江下游，南至长白山区。中俄《瑷珲条约》、《北京条约》签订后，沙俄将黑龙江以北及乌苏里江以东地区强行割占，使吉林将军辖区较清初丧失过半，由全国大省变成中等省份，由全国海岸线最长的省份变成边疆近海省份。光绪三十三年(1907)，清政府改革地方行政机构，裁撤东北三将军，改设三省。宣统三年(1911)辛亥革命爆发，中国封建专制政体宣告终结，吉林省级建制依旧。1913年，吉林撤去府、厅、州建置，一律改为县，基本完成对旧行政体制的改造。

　　此后，除东北沦陷时期外，吉林作为省级区域实体一直沿续至今。