事实上，在人们热烈谈论教育改革的时候，伴随着洋务运动的勃兴，洋务学堂已经如雨后春笋般在全国各地陆续开办。

同治元年（1862年），同文馆在北京创建，标志着中国近代新式教育迈出了第一步。20多年执教同文馆、后来担任了总教习的丁韪良认为，“有希望革新这古老的帝国的是新教育，新教育的肇端是同文馆”，同文馆是新教育潮流的“最初的源泉”⑻。据统计，到1896年，各地开办的洋务学堂多达34所，培养的毕业生也有1000多名。像近代思想家严复、民族英雄邓世昌、哲学家张君劢、戏曲理论家齐如山和外交家张德彝、汪凤藻、陆徵祥等，都出自洋务学堂。

当时，洋务学堂分为两大类型。第一类，主要以传授“西文”的方言学堂即外国语院校，如京师同文馆、广州同文馆、上海广方言馆、武昌自强学堂、两江方言学堂等。晚清虽是“瘪三”，但“精神胜利法”仍然在起作用，时时处处还以“上国天朝”自居，而将西方视为“蛮夷之邦”，“蛮夷之邦”的语言当然是“方言”了；第二类，就是以传授“西艺”的实业学堂，如马尾船政学堂、北洋水师学堂、江南水师学堂、旅顺口鱼雷学堂等。1895年10月2日，天津海关道盛宣怀通过直隶总督王文韶，禀奏清光绪皇帝设立新式学堂。光绪帝御笔钦准，成立天津北洋西学学堂，并由盛宣怀任首任督办；1896年，北洋西学学堂正式更名为北洋大学堂。北洋大学（天津大学的前身）由此成为中国近代第一所工科大学。

洋务学堂是新生事物，被守旧派视为“旁门左道”；所传授的科学技术，也被贬之为“奇技**巧”。体仁阁大学士、理学大师徐桐振振有辞地说：“立国之道，尚礼义不尚权谋；根本之图，在人心不在技艺。……康乾之世非有机器也，然而廪溢库充，民丰物阜”。1867年，北京地区春季大旱，瘟疫流行；6月10日，又刮起沙尘暴，飞沙走石，遮天避日，两个时辰内，大白天的紫禁城犹如黑夜。随即，谏议大夫杨廷熙上疏道：“天象之变，必因时政之失。京师中街谈巷议，皆以为同文馆之设，强词夺理，师敌忘仇，御夷失策所致。”

洋务学堂在实践中，也遇到了诸多困难。以马尾船政学堂为例，除了食宿免费外，学生每人每月可得白银四两（一两约合今人民币140元），以便赡养家属。但是，如此优厚的待遇，前来报名的学生还是稀稀拉拉。对此，李鸿章大为感慨：今入水师学堂者等于术艺（即不是正经读书而是学习技艺），……中国士大夫由来囿于积习，名门望族，未必肯让他们的子弟进洋务学堂做学生。⑼

就像一艘顶风破船，洋务学堂摇摇晃晃，艰难前行，似乎随时都会葬身海底。

洋务学堂在教育改革中，虽然有破冰作用，但是，其弊端也像秃子头上的虱子——明摆着。对此，改革派看得很清楚，批评起来也是毫不客气。郑观应认为：“今中国既设同文、方言各馆，水师、武备各堂，历有年所，而诸学尚未深通，制造率仗西匠，未闻有别出心裁、创一奇器者，技艺未专，而授受之道未得也。”⑽梁启超也指出：“言艺之事多，言政与教之事少。其所谓艺者，又不过语言文字之浅，兵学之末，不务其大，不揣其本，即尽其道，所成已无几矣。”⑾

对于国学教育和洋务学堂的“软肋”，1896年，光绪帝师、署工部尚书、管理官书局事务大臣孙家鼐做了全面而深刻地阐述。他一针见血地指出：“……中国京师建立学堂，为各国通商以来仅有之创举，苟仅援引此官学、义学之例，师徒授受以经义帖括，猎取科名，亦复何裨大局？即如总署、同文馆、各省广方言馆之式，斤斤于语言文字，充其量不过得数十翻译人才而止。福建之船政学堂、江南制造局学堂及南北洋海军武备各学堂，皆囿于一才一艺，即稍有成就，多不明大体，先厌华风，故办理垂数十年，欲求一缓急可恃之才而竟不可得者，所以教之之道，固有未尽也。此中国旧设之学堂，不能仿照办理也。”⑿