事实上，在人们热烈谈论教育改革的时候，伴随着洋务运动的勃兴，洋务学堂已经如雨后春笋般在全国各地陆续开办。
同治元年（1862年），同文馆在北京创建，标志着中国近代新式教育迈出了第一步。20多年执教同文馆、后来担任了总教习的丁韪良认为，“有希望革新这古老的帝国的是新教育，新教育的肇端是同文馆”，同文馆是新教育潮流的“最初的源泉”⑻。据统计，到1896年，各地开办的洋务学堂多达34所，培养的毕业生也有1000多名。像近代思想家严复、民族英雄邓世昌、哲学家张君劢、戏曲理论家齐如山和外交家张德彝、汪凤藻、陆徵祥等，都出自洋务学堂。
当时，洋务学堂分为两大类型。第一类，主要以传授“西文”的方言学堂即外国语院校，如京师同文馆、广州同文馆、上海广方言馆、武昌自强学堂、两江方言学堂等。晚清虽是“瘪三”，但“精神胜利法”仍然在起作用，时时处处还以“上国天朝”自居，而将西方视为“蛮夷之邦”，“蛮夷之邦”的语言当然是“方言”了；第二类，就是以传授“西艺”的实业学堂，如马尾船政学堂、北洋水师学堂、江南水师学堂、旅顺口鱼雷学堂等。1895年10月2日，天津海关道盛宣怀通过直隶总督王文韶，禀奏清光绪皇帝设立新式学堂。光绪帝御笔钦准，成立天津北洋西学学堂，并由盛宣怀任首任督办；1896年，北洋西学学堂正式更名为北洋大学堂。北洋大学（天津大学的前身）由此成为中国近代第一所工科大学。
洋务学堂是新生事物，被守旧派视为“旁门左道”；所传授的科学技术，也被贬之为“奇技**巧”。体仁阁大学士、理学大师徐桐振振有辞地说：“立国之道，尚礼义不尚权谋；根本之图，在人心不在技艺。……康乾之世非有机器也，然而廪溢库充，民丰物阜”。1867年，北京地区春季大旱，瘟疫流行；6月10日，又刮起沙尘暴，飞沙走石，遮天避日，两个时辰内，大白天的紫禁城犹如黑夜。随即，谏议大夫杨廷熙上疏道：“天象之变，必因时政之失。京师中街谈巷议，皆以为同文馆之设，强词夺理，师敌忘仇，御夷失策所致。”