1928年初《教育杂志》向叶圣陶约写关于教育题材的小说，长期从事教育工作的叶圣陶愉快地答应了。于是，《教育杂志》的“教育文艺”栏于1928年将小说《倪焕之》连载完毕，1929年由开明书店出版单行本。《倪焕之》是叶圣陶唯一的一部长篇，也是现代中国第一部杰出的长篇教育小说。
倪焕之的教育实践虽然在五四运动之前，但丝毫不乏现代性。他并非一个仅仅混饭吃的小学教员，而是一个有着博大的人文关怀与进步追求的教师，试图通过教育来拯救多灾多难中的祖国。学生犯了错，他并不打学生，甚至也不责罚学生，而是进行循循诱导。他试图以理想主义的教育追求，**涤传统中国的因循守旧与种种陋习，给黑暗的中国带来光明。为了将自己的教育理想浇灌出现实的果实，他找到了一个志趣大致相投的小学校长蒋冰如，尽管蒋冰如的自由主义教育思想与倪焕之自由偏左的思想略有差异。他还要寻觅一个志同道合的侣伴，从小失去父母而靠兄嫂扶持的金佩璋，以其对独立自由的追求成为倪焕之的绝配。主人公外加一个好朋友与一个情侣，这种人物设置令人联想到俄罗斯小说的影响。倪焕之五四运动前的教育实验成为中国后来各种教育实验的先驱。他从全面发展的人的教育着眼，在学校开设农场与剧社，最早触及教育与生产劳动相结合以及审美教育对素质的提升，而这一点后来在“极左”年代被发展到极端，以至于作为“极左”教育之反动的当代教育连其中的合理性也弃之不顾。然而，倪焕之的理想主义教育在现实中却是到处碰壁，与他志同道合的伴侣有了孩子后，也在繁琐碎杂的家庭生活中失去了进步的追求，而变成一位平庸的家庭主妇，以致使倪焕之感叹有了一个妻子却失去了一个恋人和同志。