柴进对林冲说道：“兄长无处可去，不如就上梁山。”原来山东济州有个水乡，名叫梁山泊，方圆八百里。白衣秀士王伦、摸着天杜迁、云里金刚宋万、旱地忽律朱贵在那里落草，手下有七八百小喽啰，以打家劫舍为生，柴进曾资助他们，因此有些交情。林冲带上柴进的举荐信，趁夜去了。一路凄风冷雪，行了半月有余，终于到了梁山脚下，林冲在酒店里吃了酒，想着自己有家难寻、有国难投，伤感不已，借笔在墙上写道：“仗义是林冲，为人最朴忠。江湖驰闻望，慷慨聚英雄。身世悲浮梗，功名类转蓬。他年若得志，威镇泰山东。”
梁山上古树阴森、山影连绵，水泊大浪滔天，实在是个险恶的去处。林冲进了聚义厅，王伦不冷不热地接待了他。原来这王伦只是个落第秀才，生怕镇不住林冲，因此找借口让他离开。林冲好声好气地恳求王伦收留，杜迁、宋万也帮着说情。王伦便让林冲随便杀个人，权作交投名状。林冲只好答应。在山下等了一日，不见人影。第二日有三百多客商经过，又不敢动手。第三日终于见到一个单身行人，林冲刚跳出去，那人便飞一般地跑了。
林冲无奈至极，自叹命苦。终于，一个手提朴（读pō）刀、脸带青印的大汉路过，撞见林冲，大喊一声：“杀不尽的贼！”提刀便与林冲斗了起来，竟是四十回合不分胜负。王伦远远看见，连忙劝住二人。原来那青面汉名叫杨志，绰号青面兽，是杨家将后人、杨令公之孙，曾经中过武举，做到殿司制使官。
林冲的性格究竟有多复杂？
按照《水浒传》全书结构来看，最开始是高俅发迹记，然后是史进小传、鲁智深传、林冲传。前文出场的好汉都是豪爽的人：王进遭受欺压，立刻选择走为上策；史进为朋友两肋插刀、家也不要；鲁智深为一个素不相识的女子打死郑屠丢了前程，又为一个女子打了周通，还要为林冲去打高俅；李忠等人虽然略显市侩，却也是说落草就落草，也算潇洒自在……唯独到了林冲这里，他的表现很容易让人不适应，这个好汉看起来非常懦弱——妻子被高衙内调戏，他不敢打；自己被陆虞候陷害，他没怎么执着于报仇；刺配沧州的一路，更是逆来顺受、极尽谦卑。若论单打独斗，林冲基本是无敌的，他明明可以杀死奸人带妻子逃跑。可他没有这样做，而是一忍再忍，忍到能写下休书暗示妻子改嫁高衙内的地步。显然，林冲的性格与鲁智深完全不同。