中国教育会从建立到涣散，历时六年，几经起伏，大致可分为5个阶段。1902年4月－11月为开创期。依据章程，中国教育会总事务所设于上海英大马路泥城桥西福源里21号，[1]设正副总理各一人，干事6人，会计2人，书记2人，评议员9人，纠仪2人。[2]下设教育、出版、实业三部，其中教育部又分男女二部，以后改为学校教育部与社会教育部。[3]但开始“会员人数稀少，经济尤为竭蹶，发展殊难”[4]。其间比较重要的事件是6月组织上海女学会和8月13日在张园集会欢迎因成城入学事件被日本政府驱逐回国的吴稚晖。
张园集会参加者达百余人，会长蔡元培亲赴日本将吴接回。会上“吴君登台演说，备述颠末，激昂慷慨，淋漓尽致。述及中央政府腐败，国权丧失与学生反对之故，则令人怒发冲冠，有为之泪下者。述及公使语之荒谬，又令人转怒为笑。演毕下台，众人鼓掌，掌声如雷震耳”。后又在张园安垲第开协助亚东游学会，戢元丞提议派人赴日协商，将保送留日学生学习军事的权力由公使转归中国教育会，叶澜则主张自办学堂以教子弟。会后各人分头办理，均未实现。“教育会因学生未有要领，暂缓秋间大会。”[5]苦心经营，“至其秋冬之际而组织乃粗备”[6]。这一阶段的主要目标是力争站稳脚跟，再谋打开局面，但也不放过表明政见的机会。6月间上海进步人士集会悼念原中国议会书记邱震、吴孟班夫妇，蔡元培、章太炎、王慕陶、叶瀚、汪德渊、蒋智由、蒯寿枢、王季同等敬献挽联，向这对“戊戌党锢以后大呼政治革命，支那奴隶之国创闻男女平权”[7]的革新伉俪表示怀念。
1902年11月—1903年7月为全盛期。上海南洋公学风潮骤起，中国教育会应退学生公请，于张园召开特别会，专议协助退学生建立共和学校之方法，由各会员认助开办费若干及月费6成，并义务担任教员，组成爱国学社。“师日本吉田氏松下讲社、西乡氏鹿儿私学之意，重精神教育。”[8]从此中国教育会的活动影响一日千里，蒸蒸日上，改组《苏报》为机关刊物，热情鼓动学潮；发起拒法抗俄运动，组织军国民教育会；吸收全体爱国学社学生入会，力量陡增；创办印刷社，编译出版各种东西方社会自然科学著作以及反清革命书籍；连续在张园等处大开演说会，鼓吹革命。一时间成为全国瞩目的政治热点。