义和团组织最早是在白莲教的基础上产生的。嘉庆时期的白莲教起义失败后，几十年间，白莲教的各个支派继续暗暗流传。在京津、山东、河南、山西等省有八卦教、经阳教、荣华教的秘密结社，都属于白莲教系统，其中以八卦教传播最广。清朝官方规定：凡传习八卦教的，不但要查拿禁止，而且为首的要处以极刑，在这种高压政策下，八卦教徒便用传习
拳术来隐秘自己。
中日甲午战争时，山东有些地区已有义和拳组织的活动。战后几年在鲁南活动的大刀会，也同义和拳组织有联系。这种组织有过“拳会”“红拳会”“义和拳会”等名义，参加义和拳的以农民、手工业者最多，他们平时在家里从事各自的生产劳动，在劳动之余，在一起练习武术。加入义和拳组织，需要履行一种仪式：练拳时要先跪在地上给师傅磕头，面朝南发誓，还要口中叨咕咒语。师傅告诉徒弟，只要按照这种方法练下去，就会练成“神拳”，能躲避枪炮的射击，刀枪不入，所向无敌。这种因对西方火炮的野蛮而产生的幻想迷信对当时无知的民众产生了很大的吸引力，人们纷纷加入义和拳的行列。在山东，由于德国军队入侵胶州湾，德国教会变本加厉地盘剥，教会势力不断扩张，横行乡里，鱼肉百姓，终于激起了大规模的农民反帝爱国运动。
1898年10月，山东冠县义和拳首举义旗，揭开了义和团运动的序幕。
冠县城的梨园屯与京津威县交界，这里的天主教民在法国传教士的指使下，与村民长期争用玉皇庙基，并于1897年春在旧庙基上重建教堂，结果“村民大哗，群起抗拒”。村民阎书勤、高元祥等，绰号“十八魁”，率众驱逐教民，拆毁教堂，重建玉皇庙。他们还邀请威县著名梅花掌首领赵三多前来护庙，赵三多率领拳众在梨园屯亮拳设厂。传教士要挟清政府镇压拳民，山东巡抚张汝梅一面派兵镇压，一面建议清政府“将拳民列诸乡团之内，听其自卫身家，守望相助”。于是，1898年10月，赵三多等人在冠县蒋家庄率众起义，竖起了“助清灭洋”的旗帜，并改称义和团，率众直攻红桃园教堂，与前来镇压的清军多次搏斗，队伍发展到千余人。随后，起义军分为两路，一路由阎书勤率领，活动在了鲁交界地区，继续打击教会势力；一路由赵三多率领，沿运河北上，势力扩展到京津南部