鲁智深死后，众人哀叹不已。武松不愿回京受赏，只想在六和寺出家安度余生。宋江答允。杨志、张横、穆弘、孔明、朱贵、朱富、白胜、杨雄、时迁相继病死。林冲患了风病，不能动弹，留在六和寺由武松照顾，半年后也死了。李俊带上童威、童猛，与费保等人不负前约，撑船出海，投奔海外国，后来，李俊做了暹罗国主。燕青与卢俊义辞行，劝卢俊义一同归隐，以免落得兔死狗烹，卢俊义不听。燕青只好自己离开，从此不知往何处去了。
宋江回到京师，皇帝见梁山众将只回来二十七人，叹息不已，封宋江为楚州兵马总管，卢俊义为庐州兵马副总管，吴用为承宣使，其余众将皆有封赏。众人分别，各自赴任去了。没想到蔡京、童贯、高俅等奸臣不忘旧仇，状告宋江、卢俊义谋反。皇帝不信，宣卢俊义进宫，赐了御膳，好生安抚一番。没想到御膳被高俅等人掺了水银，卢俊义吃了，在回庐州的路上毒入骨髓，坠河而死。
宋江衣锦还乡，前往楚州赴任。忽一日，京城送来御酒，宋江喝了便觉腹痛如绞，才知道被奸臣下了剧毒。宋江自知命不久矣，如果自己死后，李逵造反，必将梁山忠义之名都毁了，连忙命人将李逵唤来。李逵一听那些奸臣仍不肯放过宋江，勃然大怒，要随宋江造反。宋江骗李逵喝了毒酒，哭道：“兄弟，不要怪我，宁肯朝廷负我，我不负朝廷。你死以后，随我葬在蓼（读liǎo）儿洼吧，那里的风景与梁山泊无异。”李逵泪流满面，也不怨宋江，仍愿生死相随。不多时，两人便都死去，下属将两人葬在蓼儿洼。
为什么梁山众人终究不能被朝廷接受？
《水浒传》中的朝廷大概可以分两部分，一是皇帝，二是重臣。
宋江是小吏出身；卢俊义是富豪，不是书香门第，也不是世家大族，注定了他们终究无法与高俅、蔡京这些重臣相抗衡。再加上他们曾经让高俅等人吃了败仗，这就使得高俅等人永远不能容下他们。而关胜、呼延灼为什么仍然能被重用呢？大概因为关胜、呼延灼原本就是朝廷的大将，虽然归降了梁山，但是梁山攻打官府的战争中，从来没有他们的身影，直到打辽国、打方腊才开始出力。这就意味着，在皇帝和重臣的眼中，关胜、呼延灼等人是可以被原谅的，他们原本就是“自己人”，重回朝堂意味着回头是岸。而宋江、卢俊义则不同，一个小吏，一个富豪，他们不是统治阶层的“自己人”。即使已经战功卓著，仍然无法改变自己的阶级，蔡京、高俅等人根本看不起他们。