在《水浒传》梁山好汉的排名中，公孙胜位居第四，属于核心领导层人物。从小学习枪棒，上山前在紫虚观和罗真人学道，仙骨飘然，能呼风唤雨，驾雾腾云，人称入云龙。
公孙胜与晁盖、吴用等人一起智取生辰纲，后为避难躲入梁山。上山后，公孙胜屡出奇谋，化绝境而逢生。从晁盖一步一步被架空，到晁盖死去，吴用早就倒向了宋江，道不同不相为谋，公孙胜被他俩孤立在外了。
在宋江实施招安的时候，宋江早已不是刚上梁山的宋江了，已经彻底变了。招安被宋江披上华丽的外衣，冠冕堂皇地说是为了兄弟们的前途，其实在招安里宋江夹杂了自己的私心，想要制止宋江招安已经很难，真正的明白人也没几个。
最糟的是，此时的他已经掌握了梁山的生死大权，所以有的好汉，就开始慢慢疏远宋江，甚至借故离梁山而去。公孙胜就是第一个离开梁山的人，前后一共离开过两次。
第一次离开特意找了个借口，探母参师
公孙胜是晁盖死后第一个与宋江明争暗斗的好汉。公孙胜虽是梁山的奠基人之一，坐第四把交椅，但还是斗不过宋江。公孙胜当时上梁山的初衷只是为了除暴安良，没有想去朝廷做官的念头，可如今为了招安争斗不休。公孙胜自然要找出路，后来他找了一个借口，回家探母参师，悄悄地离开梁山返回家乡。
而公孙胜是一个有情有义的人，虽与宋江道不相同，不相为谋离开了梁山，但一听说梁山有难，为了一百单八将的兄弟情义，他急忙再次出山，帮助宋江攻破高唐州，并留在了梁山一段时间帮助宋江南征北战。
第二次离开是直接离去，不再需要任何理由掩盖
等到平定淮西的王庆之后，征讨方腊之前，公孙胜毅然决然地选择离去，成为第一个离开宋江的人，原因有四点：
第一，公孙胜在梁山的地位已被架空，再留下来也确实尴尬；
第二，征辽成功，梁山集团威望达到顶峰，正处在鼎盛期，公孙胜此时隐退正是时机；
第三，宋江的政治路线和公孙胜的革命理想相差太远；
第四，罗真人敏锐的意识到出征方腊困难重重，为不让徒弟公孙胜冒险，故执意将其留在身边。
在宋江征讨方腊时，方腊阵营也有几个神棍级别的人物，在公孙胜眼里压根就不入流的小伎俩却杀得梁山好汉大败。宋江见此场景，不由得仰天长叹：若是公孙老弟在此，我梁山众兄弟何苦至此？
公孙胜虽是执掌机密的军师，却一直与宋江保持着若即若离的关系，有吴用做对比，宋江自然不待见公孙胜。如此见首不见尾的入云龙从此隐居在山林之中，每日以诗酒作伴。最后享年82岁，成为梁山好汉中最长命的人。
公孙胜淡泊名利，正是因为他的性格，让他选择闲云野鹤的生活。他无疑成为梁山好汉中最幸福的人物之一。
