长孙皇后过世后，太宗专门命人修了一座塔，以便随时可以看到埋葬长孙皇后的昭陵。一天，太宗在塔顶指向皇后的昭陵给魏征看，魏征东张西望了一圈后告诉太宗什么都没看到啊。太宗又指了指，不是就在前方吗？魏征回答到前面不是皇后的昭陵吗，我以为您让我看的是高祖的献陵呢。
唐高祖比长孙皇后早一年崩逝，献陵是高祖的坟墓。父亲过世，太宗并未下令建高塔怀念他，现在为皇后特意建了一座塔，天下的人会认为他重妻子甚过父亲，是大不孝。太宗知道魏征又在趁机进谏了。
第二天，太宗就派人把塔拆了。
贞观初年，魏征上谏了二百多件事，都被太宗采纳。所以，太宗这样说过：“贞观以前，从我平定天下，周旋艰险，玄龄之功无所与让。贞观之后，尽心于我，献纳忠傥，安国利人，成为今日之功业，为天下所称者，惟魏征而已。”魏征死后，太宗经常痛哭，并对身边侍臣说：“夫以铜为镜，可以正衣冠；以古为镜，可以知兴替；以人为镜，可以明得失。朕常保此三镜，以防己过。今魏征殂逝，遂亡一镜矣！”可见魏征在太宗心目中的重要地位。
