在众多以隋唐时期为历史背景的影视剧中，徐茂公都被塑造成一个料事如神的军师形象。屏幕上，他身穿道袍，手拿拂尘，一副仙风道骨的样子。即便是大敌当前，他也是不慌不忙，三言两句便是一个退敌妙计。但实际上，徐茂公是一个虚构出来的人物，他的原型是大唐的开国元勋李勣。
李勣原名为徐世勣，字懋功。由于，“懋功”与“茂公”同音，很多小说家都把他写为徐茂公。与善于谋虑的徐茂公不同，历史上的徐世勣是一个实打实的悍将。为了表彰徐世勣的军功，唐高祖李渊特意赐他姓李，称他为李世勣。太宗李世民即位后，李世勣为了避讳，就改名为李勣。
徐世勣早年的时候曾经投靠过瓦岗寨，后来，瓦岗寨的首领李密投降唐王朝后，他就跟了过来。再后来，李密叛变被杀，李渊特意派人来向徐世勣传信，想要看看他的态度。徐世勣原为李密的心腹，自从投靠唐王朝后，他一直如履薄冰，行事不敢有丝毫的张狂。
可是，当他听到李密的死讯后，马上向李渊上书，请求厚葬故主。李密本想试探一下徐世勣对大唐是否忠诚，没有料到他居然如此耿直。不过，经过仔细的考虑，李渊还是同意了徐世勣的请求。毕竟，李密曾是徐世勣的主公，两人有点情分也是正常的。
但是，徐世勣之后的举动再次惊到了李渊。徐世勣得到许可后，马上准备了麻布服和白绫，并亲自为李密送葬。安葬完李密后，他又披麻戴孝，守在李密的墓地旁边，直到服丧期过了之后才离开。经此一事，李渊完全信任了徐世勣。在李渊看来，徐世勣是一个非常忠义的人。他现在对李密有多忠诚，以后对大唐就会有多忠诚。
李渊去世后，徐世勣跟随太宗南征北战，先平江南，再破突厥，为大唐立下了汗马功劳。有一次，徐世勣突然得了一种非常奇怪的病。前来诊治的大夫说，想要治好此病，药中必须要有烧成灰的胡须。李世民得知之后，毫不犹豫地拿刀剪下自己的胡须，以此来为徐世勣治病。徐世勣听说之后，流着泪向李世民磕头，磕的满头是血。
李世民见状，只是轻描淡写地说道：“你不必这样，朕这样做不仅是为了你，还是为了大唐的江山社稷啊。”贞观十七年（643年），为了表彰那些为大唐王朝出生入死的功臣们，李世民特意命人在凌烟阁绘制二十四位功臣的画像，其中，就有徐世勣。
在晚年的时候，李世民仍然对徐世勣很是信赖。当时，太子李治年幼，李世民一直想要找个老成持重的大臣辅佐太子。考虑了很久，李世民还是感觉徐世勣最为合适。