魏徵喜逢知己之主，竭尽股肱之力，辅助太宗理政，已成为太宗的左手右臂。魏徵建言行事，匡正朝政失误，助成贞观之治。太宗曾说：“贞观之后，尽心于我，献纳忠谠，安国利民，犯颜正谏，匡朕之违者，唯魏徵而已。古之名臣，何以加也。”并亲手解下佩刀，赐予魏徵。
贞观十六年（642年）七月，魏徵染病，卧床不起。太宗手诏慰劳，并说：“不见数日，朕过多矣。今欲自往，恐益为劳。若有闻见，可封状进来。”魏徵不顾疾病在身，又上言数事，对太宗在魏徵生病期间临朝时“常以至公为言，退而行之，未免私辟”的言行不一的做法提出了批评。魏徵平素为官清正，生活简朴，以至家无正堂。太宗下令停止营造小殿，用其木材为魏徵建造正堂。建成后，又根据魏徵的好尚，赐给他素屏风、素被褥、几、杖等家物。
贞观十七年（643年）正月，魏徵病情恶化，太宗命一中郎将住在他家中，及时通报病情，所赐药膳无数，中使相望于道。太宗与太子两次亲临病榻看望，并而许将衡山公主下嫁给他儿子叔玉。十七日，魏徵病卒。时年六十四。赠司空、相州都督，谥曰文贞，陪葬昭陵。安葬时，其妻裴氏遵照魏徵的夙愿，以布车载着灵柩。太宗悲恸之极，登苑西楼望丧痛哭，还诏令百官送丧至郊外。并亲自撰写碑文，亲笔书写。
他思念魏徵不已，对侍臣说：“人以铜为镜，可以正衣冠，以古为镜，可以见兴替，以人为镜，可以知得失。魏徵没，朕亡一镜矣！”太宗论定功臣，魏徵得以图像于凌烟阁。他望着魏徵画像思绪万千，遂吟诗曰：劲条逢霜摧美质，台星失位夭良臣。唯当掩泣云台上，空对余形无复人。
太宗对魏徵的特殊礼遇与尊宠引起了某些人的妒嫉，经魏徵举荐入相的杜正伦、侯君集或以罪被黜免，或以叛逆受诛，因指摘魏徵有朋党；又扬言魏徵将前后谏诤之语抄录给史官褚遂良，太宗信以为真，很不满意，遂终止了衡山公主与魏叔玉的婚事，并下令推倒了亲自书写的纪念碑。直到贞观十九年（645年），太宗亲征高丽，战士死伤数千人，战马损失十分之七八，他深深悔恨这一举动，不禁慨然叹息说：“魏徵若在，不使我有是行也。“于是立命驰驿以少牢之礼祭祀魏徵，又重立纪念碑。
魏徵是唐初卓越的政治家，他刚正不阿，素以有胆有识、犯颜直谏而著称，辅弼唐太宗拨乱反正，以成贞观之治。太宗曾说：“为政者岂待尧、舜之君，龙益之佐，自我驱使魏徵，天下乂安，边境无事，时和岁稔，其忠益如此。”史家曾给予他很高的评价，说他“身正而心劲，上不负时主，下不阿权幸，中不移亲族，外不为朋党，不以逢时改节，不以图位卖忠”。这并非是谀美之辞。魏徵的名字与贞观之治将同垂于青史。