一、先秦及秦《尚书·禹贡》记载，古代中国分为冀、兖、青、徐、扬、荆、豫、梁、雍九州。不过，九州在当时并非一个确定的行政区划，真正的行政区划设置，当从秦朝实行郡县制起始。
春秋以后，诸侯国之间的征战、兼并不断，领土属地变化极快。国君为了集中权利，在征战中夺得的土地不再分封给属下，而设置县、郡，直接掌握在自己手中。直辖地长官由国君直接任命和控制，职位不得世袭。到了战国后期，这种郡县制行政区划形态基本形成。只有齐国例外，齐国将全国划分为五都，直至秦灭齐统一六国后，秦始皇采纳李斯的郡县制，分天下为三十六郡，才正式标志着在全国范围内政区建置的开始。
秦代（前221年--前207年）实行的是以郡统县的二级行政制度。全国由最初分为36郡增加到后来的46郡。
二、两汉刘邦立汉（前206年--公元8年）后，实行郡国并行的制度。全国设置郡国62个，到了孝平二年（公元2年）全国共有郡国103个。经“七国之乱”的调整，汉武帝元封五年（公元106年），全国分为14个行政监察区，该机构除京畿范围的称做司隶校尉部，其余13个称为十三刺史部，每部设一名刺史。由于十三刺史部有十一部是以《禹贡》和《周礼》中的九州予以调整后命名，所以又通称十三州。
东汉时期（公元25年--220年）全国重新划分郡县，但仍分天下为13部，降司隶校尉部为十三部之一，裁去朔方刺史部，改十三州为十二州。中平五年（188年）改刺史为州牧，掌一州军政大权，十三州正式成为郡、县之上的一级政区。此时全国设13州、105个郡国。三国时期（公元220年--265年），魏国在地方行政区划上承袭东汉，仍实行州、郡（国）、县三级制，在全国设有12个州、91个郡国。
三、两晋、南北朝
西晋时期（公元265年--316年），疆域和地方行政区划一如前朝，只是州的数量增多，辖区变小，全国分为19州及西域长史府，工173郡、国，1132个县。
这一时期州郡设置激增，不少郡名重复。
北周时期（公元557年--581年），统治者对地方行政区划作了较大的调整，全国设置215州，552郡，1056个县。
四、隋唐宋金时期
隋朝（公元81年--618年）。隋文帝对州县加以并改，使流行了很长时间的州郡县三级制，改为州县两级制，隋炀帝时，又废州改郡，以郡统县，恢复秦制。大业年间，全国设190郡，1255个县。
唐代（公元618年--907年）初，沿用前朝制度，到了武德元年（公元618年）去郡为州，实行州县两级制度。贞观元年（公元627年），唐太宗整治地方行政区划，对州县大加并省，还以山川形势和自然地理，把全国分成十道，道不设长官，随时派员进行巡视。道之下设州，州辖县。到贞观十三年（公元639年），全国共设10道，358州，41个都督府，1551个县。中唐以后，藩镇割据已经形成，全国节镇总数达50多个。
五代十国时期（公元907年--960年），行政区划基本承袭唐代。
北宋（公元960年--1127年）初期，基本仿照唐制，全国分为13道。淳化四年（993年）十月又并为10道。至道三年（997年）改道为路，全国被分成15路，后又有所调整，到徽宗时，全国已设26路，路之下设府、州及带县的军、监，府、州、军、监下设县及不带县的军、监，地方行政区划实行路、府（州、军、监）、县（军、监）三级制。
金代（公元1115年--1234年）的地方行政区划基本承袭北宋，金国辖区分为19路，在往下分府、州、县。
五、元明清时期
金末，为抵御蒙古军队的入侵和镇压山东各地农民起义，金朝统治者命尚书户部侍郎梁镗行六部尚书事于山东，从此有了“山东行省”的名称。后又设立“东平行省”，为行省制度的开端。
元代（公元1271年--1368年），统治阶级为了加强对占领区的控制，沿袭了行省制度。行省下设路、府、州、县，形成了四级地方行政制度。中书省区域太大，因管理之需，在路之上又设立了肃政廉访司和宣慰司作为监察区域。
明代（公元1368年--1644年）洪武九年（1376年），改行中书省为承宣布政使司，以分领天下州府县；同时废路，省以下设府和直隶州，再下设散州和县，为地方三级行政体制，当时除南、北二京直隶中央外，全国各地分设13个布政使司，明朝地方基本上是三权分立的，承宣布政使司主管一省民政和财政；都指挥使司主管军队；提刑按察使司主管刑法，下设按察分司（又称道）。
清代（公元1636--1911年），统治者将地方一级政区一律该称为省。除沿用明代13省外，又新置5省，共18省。光绪时，又增至23省。省行政长官称为巡抚，有些省还设总督。总督有兼管数省者，也有只管一省者。巡抚主管一省民政；总督则主管军政，但也对民政有督导权。省下设府、直隶州、直隶厅，府州之下设县与散州、散厅，形成省、府（直隶州、直隶厅）、县（散州、散厅）三级地方行政管理体制。
六、民国时期
民国二年（1913年）二月，民国政府公布《划一地方现行各县地方行政官厅组织令》，各省一律实行省道县三级制.
民国二十一年（1932年），国民政府办法《行政督察专员公署暂行条例》，规定省以下设行政督察员专署，作为省政府的派出机构。
七、中华人民共和国建国政区变动情况
中华人民共和国成立后，全国实行大区（直辖市）、省（大区辖市、行署区）、县三级行政制度。省县之间设立专区，专员公署为省政府派出机构。1954年6月，撤消大区建制，实行省、专区（市）、县三级制。1967年2月，专区更名为地区。1983年以后，逐步实行市管县行政区划体制，省下设市（地区），再下设县（市、区），仍为三级制。