关胜到了梁山，此时梁山军主力尚在大名府，守寨的又是鲁智深为首，三千步军正兵，加上水军和辅兵，还有临时组织的民兵，拢共不到万人。鲁智深率军迎战，关胜连败数员梁山头领，又与岳飞大战数十回合后，岳飞毕竟才十五六岁，气力不支，幸得鲁智深接应，方才全身而退。
鲁智深擅长步战，关胜多匹战马占了便宜，因此鲁智深见关胜马上武功高强，也不恋战，率梁山军退回。鲁智深被林冲熏陶，又经过梁山黄埔军校的学习交流，已非以前的莽汉，官军势强，鲁智深也不正面硬抗，只是依仗三阮的水军骚扰官军，不让官军渡水攻山。两边僵持数日，林冲率梁山主力赶回。
梁山主力赶回，关胜却却仗着自己一身好本事，并不慌张，引兵来战。叫军兵射住阵脚，出阵搦战。
门旗开处，三将出马，中间便是关胜，有《西江月》一首为证：“汉国功臣苗裔，三分良将玄孙。绣旗飘挂动天兵，金甲绿袍相称。赤兔马腾腾紫霞，青龙刀凛凛寒冰。蒲东郡内产豪英，义勇大刀关胜。”
左边这位：“卷蹜短黄须发，凹兜黑墨容颜。睁开怪眼似双环，鼻孔朝天仰面。手内钢刀耀雪，护身铠甲连环。海骝赤马锦鞍鞯，郡马英雄宣赞。”
右边那位：“千丈凌云豪气，一团筋骨精神。横枪跃马**征尘，四海英雄难近。身着战袍锦绣，七星甲挂龙鳞。天丁元是郝思文，飞马当前出阵。”
林冲看了关胜一表非俗，也是喝采，回头与众多良将道：“关胜英雄，名不虚传！”
说言未了，牛皋忿怒，叫道：“他也红脸，俺也红脸，凭啥他那么威风？！”说罢，便舞动双锏出马，直取关胜。
林冲腹诽：“你那是黑脸好不好？”知道牛皋不是关胜对手，便喝住了牛皋。
关胜大喝道：“水泊草寇，汝等怎敢背负朝廷!单要林冲与吾决战。”