正如曹操所料，在曹操攻下阳平关之时，孙权集结十万大军前去攻打合肥。孙权此次势在必得，几乎带上了所有大将，有吕蒙、陈武、甘宁、凌统、丁奉、徐盛、潘璋、宋谦、蔣钦、贺齐、周泰等二十余员，孙权命令周泰总督粮草，八月初起兵，中旬过逍遥津抵达合肥城下。
合肥守将张辽紧急召众将商议。护军薛悌忽然想起曹操临起兵汉中时的嘱咐，拿出曹操留下的绵囊递给张辽，张辽打开视之，上面写道：贼至，张辽、李典二位将军出击，乐进守城，护军薛悌不参战。
看罢，张辽将信笺又递于众将观看，张辽道，“主公的意思很明白，主公是说：待敌军正在集结时由我与李典将军出其不意攻之，乐将军守城。眼下敌人正在集结，李将军可愿与我出城攻之？”
李典素来与张辽不睦，但今见张辽置生死于度外便慷慨地道，“此乃国家大事，我李典怎能因私而废公，我愿与将军共同出战。”张辽大喜，于是从守城的八千兵士中挑出八百身强力壮之人，杀猪宰牛，当晚大吃一顿，次日凌晨，趁东吴兵还未起床之际，张辽与李典打开城门，率八百骑兵直奔孙权的中军大营杀去。直冲到孙权的大营门口，张辽大喝道，“张辽来也！”，接连刺死了十多个迎敌的兵士，斩杀两员将校。
孙权听营内大乱，忙穿好衣服，有兵士来报说张辽撞营，孙权大惊，抢过一兵士的长矛往外便走，正好与陈武踫面，陈武急忙孙权的战马牵来，两人上了战马向一山丘奔去，正遇张辽。陈武挺枪来战，由于慌乱，战不十合，被张辽一枪刺死。
宋谦、徐盛赶来双战张辽，张辽奋起神威，一枪刺中徐盛的肩膀，徐盛丢枪而逃，宋谦敌张辽不住，拨马便逃。
由于张辽来的太突然，各个营寨的众将都还来不及救援，孙权只好在慌乱之中带着一部分兵士跑到了一座土山上，持矛自卫。张辽从来不认识孙权，只知他是一员大将，便在土山上冲孙权喊道，“敌将，跑到土山上算什么英雄，有种下来单挑！”