20世纪90年代，我国基础教育管理体制改革的主要任务仍然是继续完善“地方负责、分级管理”的体制。1993年《中国教育改革和发展纲要》明确提出“中等及中等以下教育，由地方政府在中央大政方针的指导下，实行统筹和管理”，并且规定中央和地方的权限划分是“国家颁发基本学制、课程设置和课程标准、学校人员编制标准、教师资格和教职工基本工资标准等规定，省、自治区、直辖市政府有权确定本地区的学制、年度招生规模，确定教学计划，选用教材和审定省编教材，确定教师职务限额和工资水平等。省以下各级政府的权限，由省、自治区、直辖市政府确定”。1994年7月，国务院又颁布了《关于〈中国教育改革和发展纲要〉的实施意见》，进一步明确了中央和省、地（市）、县、乡各级人民政府在基础教育管理上的权责划分。根据这一划分，国家负责制定有关基础教育的法规、方针、政策及总体发展规划、基本学制、课程设置和课程标准；设立用于贫困地区、民族地区、师范教育的专项补助基金；对省级教育工作进行监督、指导；等等。省级政府负责本地区基础教育的实施工作，包括制定本地区基础教育发展规划，确定教学计划、选用教材和审定省编教材；组织对本地区基础教育的评估、验收；建立用于补助贫困地区、少数民族地区的专项基金，对县级财政教育事业费有困难的地区给予补助；等等。地（市）级政府根据中央和省级政府制定的法规、方针、政策，对本地区实施义务教育进行统筹和指导。县级政府在组织义务教育的实施方面负有主要责任，包括统筹管理教育经费，调配和管理中小学校长、教师，指导中小学教育教学工作，等等。乡级政府负责落实义务教育的具体工作，包括保障适龄儿童、少年按时入学。1999年，《中共中央国务院关于深化教育改革全面推进素质教育的决定》对基础教育管理体制做出了进一步的改革，要求加大省级人民政府发展和管理本地区教育的权力及统筹力度，促进教育与当地经济社会发展紧密结合，以及加大县级人民政府对教育经费、教师管理和校长任免等方面的统筹权。2001年，为了进一步提高基础教育发展水平，克服地方基础教育发展不平衡问题，国务院颁布了《关于基础教育改革与发展的决定》，进一步完善了基础教育管理体制。该决定指出，“我国的基础教育实行在国务院领导下，由地方政府负责、分级管理、以县为主的体制”。文件对各级政府发展基础教育的权限和责任进行了重新划分：国家确定义务教育的教学制度、课程设置、课程标准，审定教科书。中央和省级人民政府要通过转移支付，加大对贫困地区和少数民族地区义务教育的扶持力度。省级和地（市）级人民政府要加强教育统筹规划，搞好组织协调，在安排对下级转移支付资金时要保证农村义务教育发展的需要。县级人民政府对本地农村义务教育负有主要责任，要抓好中小学的规划、布局调整、建设和管理，统一发放教职工工资，负责中小学校长、教师的管理，指导学校教育教学工作。乡（镇）人民政府要承担相应的农村义务教育的办学责任，根据国家规定筹措教育经费，改善办学条件，提高教师待遇。2003年，教育部又颁布了《2003—2007年教育振兴行动计划》，要求进一步落实“在国务院领导下，由地方政府负责、分级管理、以县为主”的农村义务教育管理体制。该计划在重申各级政府应当承担对义务教育的保障责任的同时，还要求中央、省和地（市）级政府通过增加转移支付，增强财政困难县义务教育经费的保障能力。2006年6月，为了促进义务教育的均衡发展，修订后的《义务教育法》对原有的以县为主的义务教育管理体制又进行了重新调整，其第七条明确规定“义务教育实行国务院领导，省、自治区、直辖市人民政府统筹规划实施，县级人民政府为主管理的体制”。这一规定突破了过去“以县为主”的体制，使得原来的义务教育“以县为主”的管理体制转变为新的“管理以县为主”的体制，强调了省级政府的统筹落实责任，对提高基础教育的整体发展水平，促进义务教育的均衡发展和实现教育公平具有重要意义。