在我国近代，学习外国教育始于清末的“洋务运动”。第二次鸦片战争以后，外国侵略势力进一步侵略中国，中国的民族资本主义也逐渐有所发展，清朝封建统治集团内部有一部分代表封建大地主的地方军阀官僚向买办转化，要求办“洋务”、兴“西学”。虽然遭到封建贵族顽固派的反对，并于甲午战争后，“洋务运动”完全破产，但是在当时“内忧外患”的严重局势的威胁下，顽固派也逐渐地接受了一些洋务派的意见，在封建统治教育方面做了一些改革，办起了一些新学校，派遣留学生到外国学习。这些留学生回国就带回了一些西方的办学思想。例如，容闳是我国近代最早的受过美国高等教育的知识分子之一，他回国后成为改良主义教育的代表人物。他主张中国要想独立富强，就应当学习西方资本主义国家的教育。其他如梁启超、严复等都曾介绍过外国的教育经验。严复还翻译了19世纪英国资产阶级教育家斯宾塞的《劝学论》（即《教育论》）。在义和团运动前后，国人从日本翻译和介绍了不少有关日本和欧美各国教育制度的文章，如1901年由湖北教育部门编辑的《师范讲义》4册，就详细介绍了德国、法国、美国、英国、日本等国各级各类教育制度。1902年，白作霖还从日本翻译了《各国学校制度》等。这些著作对清末废科举、建立新教育制度影响很大，但是，这个时期还不能说有什么比较教育的研究。
真正开始比较教育的研究是在20世纪五四新文化运动以后。十月革命一声炮响，惊醒了中国的知识分子，使他们觉悟到，学了几十年的西学，办了几十年的新学校，国家依然如故，文化教育仍旧落后，中国只有走俄国革命的道路，教育也需要走俄国人的路。李大钊同志在1919年2月北京《晨报》上提出劳动教育问题，主张劳动者必须有受教育的机会，以后在《新青年》的“俄罗斯研究”的专栏里，又陆续刊登了《苏维埃的平民教育》《苏维埃的教育》《俄罗斯的教育状况》《革命的俄罗斯学校和学生》等文章，报道俄国教育的情况。另外，在共产党领导下，工人中办起了劳动补习学校、工人夜校等，大众教育在劳苦大众中发展起来。与此同时，以封建买办阶级为另一方，也在竭力推销西方的物质文明和教育思想。1919年，美国实用主义教育家杜威来华宣传他的实用主义教育学说。继杜威之后，孟禄又于1921年9月来华讲学，宣传“教育救国”“科学救国”的思想。以后美国教育家麦柯尔、柏克斯特和克伯屈等都先后来华，对当时的中国教育产生过不小的影响。在这个时期，由于国际交往的频繁，我国开始有些学者从事比较教育的研究和教学，并出版了一些书籍，如1929年出版了庄泽宣著的《各国教育比较论》；罗延光和韦懿曾把美国比较教育家的《比较教育学》（1933年版）译成中文，作为大学教科书；罗延光还著有《最近欧美教育综览》。常守之是一位热心研究外国教育和比较教育的学者，他从20世纪30年代开始，先后编著了《比较教育》《各国教育制度》和《德法英美四国教育概观》等书；钟鲁斋教授著的《比较教育》（1934年）在大学丛书里享有盛誉。上述比较教育著作在中华人民共和国成立前，对于比较教育学的教学和研究起了一定的作用。