卢俊义是大财主出身，他师从周侗拥有一身好武艺，更兼他容貌俊美，大方慷慨，在江湖上的名声了不得。宋江一直想拉卢俊义加入他们的阵营，但是卢俊义自诩出身，一直瞧不上梁山。 宋江就派吴用前往大名府诓骗卢员外去东南，又安排他在自家墙头写下反诗一首。
《新水浒》剧照从左到右依次为：吴用 宋江 卢俊义
卢员外在经过梁山时，与好汉大战数十回合，期间他还遭到了花荣的羞辱，被后者一剑斩去了头上的红缨。后来被人给捉住了，那再怎么不愿意，卢俊义也只能上山了。 他上山的待遇很好，是被人用小轿抬上去的。宋江好说歹说都没用，卢员外执意下山。宋江知道管家和卢夫人有私情，对他说完主人不会回去了的话后就把他放下了山，又留了卢员外一个月才把他也放下山。下山后的卢员外发现财产老婆都不属于自己了，自己还被当成反贼送入大牢。梁山众人耗费颇多时日终于把他给救了出来。上山后的卢员外为了报答救命之恩活捉了杀死梁山前任总寨主的史文恭，也因为这个功劳他成了梁山的二号人物。
后来他跟宋江等人一起接受朝廷的招安，曾带领军队征讨宋朝的四个心腹大患之地。在征辽的战役中，他大显神威，以一敌四，诛杀一人，吓退三人。紧接着又将千人辽军杀得四处逃跑。这场战役展现了卢俊义武力巅峰值，甚至在整部小说中这样的场面也是独一无二的。 在平定方腊后，卢员外担任大官了。由于奸臣的阴谋，卢员外食物中毒。在启程回他管辖地时，他咳出血翻下船溺死了。
卢俊义在梁山一百零八将中排名第二。他本来有机会排名第一。晁盖被人用毒箭射杀，在死前立下遗嘱，谁替他报仇谁就继承他的位子。这也是为了给宋江穿小鞋，按宋江的本领是杀不了那仇人的。后来宋江听说了卢俊义的名声，派吴用把他诓上了山。
哪晓得卢俊义上梁山后的首功就是活捉了杀晁盖的人，按照原先的遗嘱，卢俊义继承首脑位子名正言顺。但是梁山其他人是不乐意的，卢俊义生性刚烈，做人不圆滑，如果他当的话怕整个梁山的架吵不完了。宋江在大庭广众之下是愿意把位子让给卢员外的，但吴用提出反对意见认为应该让宋江做老大，卢俊义做老二。梁山众兄弟也纷纷表示让宋江不要再推辞。卢俊义看到宋江得到了大部分人的支持也表示自己不适合这个位子，就这样卢俊义在梁山上的排名变成了第二。
在小说中作者没有根据各路英雄好汉们的武艺来搞个大排名，但是读者们根据小说打斗场面给水浒排了个十大英雄榜，卢俊义夺冠排名第一。那么这个卢俊义是怎么夺冠的呢?关胜是梁山五虎将第一，林冲和秦明是五虎将的另两位，他们联手都战不过关胜。史文恭也与秦明大战，在20回合内就把后者刺伤。以秦明的本事，虽然关胜能打赢他，但是决不可能只需要20回合，所以史文恭的武功是要强于关胜的。就是这样一个能将梁山好汉们打得落花流水的史文恭还是被卢俊义给活捉了，这就证明了卢俊义的武功绝对能力压群雄，在武功排行榜上名列第一实至名归。