621年，李世民下令杀单雄信，徐茂功下跪求饶说:“秦王殿下，单雄信武艺绝伦，如果殿下能赦免了他，他一定会感激殿下，感恩戴德地为大唐效命。”李世民一口拒绝说:“不行，这事不可能！” 徐茂功又请求说:“我李世勣愿意用自己的官爵，请求能免单雄信一死。”李世民还是拒绝说:“当初我被单雄信围困，要不是你和尉迟敬德相救，早就死在他手上了。” 几天后单雄信问斩，徐茂功对着单雄信号啕大哭，并割下自己的大腿肉给他吃下说:“生死诀别，就让此肉与你一起入土吧。”话音一落，徐茂功转身离去，单雄信瞬间身首异处。 单雄信，与徐世勣即徐茂功都生于曹州，而单雄信孔武有力，很擅长使用马槊，又与徐世勣义结金兰。大业九年，因罪当斩的翟让逃到瓦岗寨，聚众起义，单雄信听闻后，便与徐世勣一同前往归附。 当时杨玄感兵败自杀，他的部下李密逃到了瓦岗寨，然而短短两年不到，李密在瓦岗寨的影响力一天天比一天高，王伯当就劝翟让将瓦岗寨首领之位让给了李密，翟让也觉得自己能力不如李密。 于是就听从建议就让给了李密，因此李密自称魏公，封翟让为司徒，徐世勣为右武侯大将军，而单雄信为左武侯大将军，二人分别由翟让统领。 617年七月，李密与王世充交战，双方互有胜负，翟让的部下王儒信劝他夺回瓦岗寨首领的位置，连哥哥翟弘也对翟让说:“皇帝只能由我们自己做，怎能送给别人！你做不了就让我来做。”但是都被翟让拒绝，还是觉得自己不如李密。 不料传到李密耳中，就打算杀了翟让，恰逢翟让被王世充击败，单雄信随李密率精兵将翟让救了出来，而李密更加决定杀了翟让。 第二天，李密设宴邀请翟让和他的部下到军中，翟让到后，李密见单雄信和徐世勣站在翟让身后护卫，便说：“我和翟司徒和几位大臣喝酒，不需要这么多人，留下几个人使唤就可以了。”因此翟让命单雄信和徐世勣及随从出去喝酒。 李密见二人离开，便拿出一张好弓献给翟让看，奈何翟让接过刚拉弓，就被人从身后一刀砍死，翟弘和王儒信被杀，徐世勣想逃被守卫砍伤，而单雄信跪地求饶，房彦藻劝李密说：“单雄信轻信屈就，不能饶了他。” 但李密爱惜单雄信的才能，并没有杀他，安抚翟让的部下说：“我与各位兴义兵，而司徒对主上无礼，只杀他一家人。”于是将翟让的部下分别交给单雄信、徐世勣和王伯当三人统领。 619年九月，王世充攻打李密，李密率军前往偃师城，王世充在偃师城北袭击单雄信，程咬金和裴行俨率兵前去救援，然而裴行俨中箭坠马被程咬金抱着逃脱。
