《中华人民共和国义务教育法》（1986年），以法律的形式，明确规定了“义务教育事业，在国务院领导之下，实行地方负责、分级管理”。《中国教育改革和发展纲要》（1993年），重申“深化中等以下教育体制改革，继续完善分级办学、分级管理的体制”。
“地方负责，分级管理”的义务教育行政管理体制，是与各级地方财政包干制度相适应的，扩大了地方义务教育的管理权，使得各级地方可以根据自身经济发展和社会需求发展义务教育，极大地调动了地方办教育的积极性，为“普九”的完成做出了巨大的贡献。但是，在“地方负责，分级管理”体制贯彻执行的过程中，也出现了不容忽视的严重问题，特别是90年代中期以后，义务教育财政责任过度下放，大多数农村地区实际上是由乡政府和农民来主要承担义务教育的财政责任的。义务教育的投入演变成了“以乡为主”。乡政府财力有限，导致全国出现大面积拖欠教师工资等问题，严重影响了义务教育的发展。
中国作为一个农业人口大国，农村义务教育的实施情况，直接影响到整个国家义务教育的质量。这种“以乡为主”、低重心的义务教育管理体制，引发了一系列问题。例如，教育经费短缺，教育投入长期不足，很多农村地区的义务教育基本办学条件得不到保障。据教育部不完全统计，到2000年4月为止，全国普通中小学共有危房741.4万平方米，主要集中在中、西部经济欠发达的农村地区。随着教育经费短缺而来的是教师工资拖欠严重，优秀师资大量流失等问题。据袁振国《中国教育政策评论2001》统计，截至2000年4月，全国22个省、自治区和直辖市拖欠教师工资总额达76.68亿元。1998年至2000年4月，全国2300个县中，有1/3的县存在教师工资拖欠问题。地区之间、城乡之间的差异问题也比较突出。由于乡镇财政力量有限，很多地方很难执行国家规定的工资标准，教师待遇低下，加上工资拖欠等问题，直接导致了农村骨干教师大量流失，从贫困地区和西部地区纷纷流向东部和沿海地区，形成了新时期的“孔雀东南飞”。