且说这魏征本是河北巨鹿曲城人，他的父亲在北齐时曾经担任过长留县令，虽是小官，但毕竟是书香门第，只可惜他的父母死得早，也没有留下什么遗产，所以家里穷得很。
魏征这个人虽然贫穷，但志向远大，很有抱负，他最喜欢的是读书，天文地理、经史子集无一不通，文韬武略更是少有人匹敌，但遭逢乱世，他又有惊人的洞察力，看杨坚和杨广父子的作为，就预知天下必将大乱，英雄要待时而动，择主而侍，他自己又不会做生意，到官府里溜须拍马，混个小吏做做，他更是不屑，于是就出家当了道士，勉强填饱肚子，专心读书，研究天下大势。
武阳郡丞元宝藏有一次到魏征所在的道观游玩，偶然见到魏征，双方聊了一会儿，知道魏征有非凡的能力，恰好元宝藏想要响应李密，就邀请魏征加盟。魏征也知道李密的经历，知道这是个大英雄，他也想趁势结识李密，于是就答应了元宝藏，做了他的典书记，所有的公文都由魏征办理。
魏征这样就随元宝藏一同上了瓦岗山，归附了李密。李密最初并不认识魏征，但他从元宝藏上报的公文中，猜测元宝藏身边一定有高人，就打听公文是何人所为，一问才知道是一个叫魏征的，连忙召见，于是两人一见倾心，李密就把魏征留在自己身边，担任参谋的职务。
魏征看李密这么看重自己，就把自己对天下形势的看法和分析，写成了十篇奏折，上书李密，对怎样发展，怎样壮大，怎样角逐天下，都有鞭辟入里的分析和独树一帜的见解，李密读后，不住的称赞，但李密这个时候显示了自己的局限性，他是个见事不深的人，缺乏高瞻远瞩的眼光，所以对魏征的建议，竟然束之高阁，魏征由此知道，李密也成不了大器，于是郁郁寡欢。此时恰好李勣已经攻占隋朝最重要的战略要地黎阳，缴获大批战略物资，并开仓放粮，赈济远近的老百姓，魏征知道他是个了不起的英雄，日后前途相当远大，于是就非常想接纳他，于是就向李密提出，去黎阳帮助李勣放粮。