此人的经历也不简单。
他是河北贝州人，与窦建德等人是正经的同乡，年轻的时候不学无术，横行乡里，是当地有名的黑社会，与窦建德此类在贝州有着豪侠名声的人都有交往。
隋末大乱，窦建德起事的时候他已经先一步去投了郝孝德，没办法，这厮好酒嗜赌，不事生产，偏又奸诈蛮强，没什么人愿意搭理他，也就是窦建德几个人还能时常给他些资助。
#送888现金红包# 关注vx.公众号【书友大本营】，看热门神作，抽888现金红包
等到征伐辽东，窦建德等被征召去了军前，他彻底失去了生活来源，穷困潦倒，无以为继，于是干脆入了贼伙，干起了无本买卖。
后来他随郝孝德等人投了李密，与瓦岗的那些人合流在了一处，待李密败亡西窜，他又跟着郝孝德降了王世充，领命去守新乡。
和王世充打了那么多年，他很瞧不起王世充，觉着他一直缩在龟壳之中，没什么本领，很是不愿为其效力。
此时窦建德崛起于河北，刘黑闼听闻都没带犹豫的，立即率部来河北投了同乡，只是他来的有些晚了，名声又不大，所以一直处于众人之下。
可他还是很快取得了窦建德的信任，在攻拔幽州，抚平山东以及与王世充的作战当中崭露头角，成为了一个很合格的义军将领。
只是这人残暴嗜杀的本性也就此暴露无疑，率军攻伐之际，杀俘是他常干的事情，还屠了两次城，于是凶名渐显。
以王琮为首的贵族将领很不喜欢他，只要一起作战，回来后便要跟窦建德说他的坏话，一来二去便结了仇。
窦建德耳根子有点软，在王世充派兵攻河内之际，刘黑闼领兵拒之，王世充退兵后，他再次屠城，窦建德一怒之下将其召回魏城，很多人以其残暴，想要杀了他。
窦建德到底是念在他们是同乡，加上刘黑闼对他忠心耿耿的份上，饶了他一次，并把他留在身边，不再让他到军前领兵了。
