贞观二十年（646），唐太宗下达《修晋书诏》，“令修国史所更撰《晋书》”。诏书称赞了《史》、《汉》以下至“五代史”历代正史，但对唐以前多种晋史都不满意。两晋南朝时期出现了26种晋史著述，至唐初尚存18种。这些书，只有一两种兼具两晋史事，大多不是完全意义上的晋史。《修晋书诏》批评它们或者“烦而寡要”，或者“劳而少功”，或者“滋味同于画饼”、“涓滴堙于涸流”；有的“不预于中兴”，有的“莫通于创业”，有的只是“略记帝王”，有的仅仅“才编载记”[13]。历来对唐太宗诏令重修晋史有种种说法，其实主要原因在诏书中已讲得十分清楚了：“虽存记注，而才非良史，事亏实录。”
重修《晋书》以房玄龄、褚遂良为监修，参与撰述的有许敬宗、令狐德棻、敬播、李淳风、李延寿等21人。令狐德棻被参撰者“推为首”，他和敬播在制定《晋书》体例上起了重要作用。新修《晋书》以南朝齐人臧荣绪（415—488）所撰《晋书》为蓝本，采诸家晋史及晋人文集予以补充，重新撰定。刘知幾特别强调它“采正典与杂说数十余部，兼引伪史十六国书”[14]。这反映了新修《晋书》在所取文献上和内容上的特点。贞观二十二年（648），新修《晋书》撰成，包括帝纪10卷、志20卷、列传70卷、载记30卷，叙例、目录各1卷。叙、目已佚，今存130卷。据宋人称，因唐太宗为宣、武二帝纪及陆机、王羲之二传写了后论，故全书曾总题为“御撰”。
《晋书》记事，起于泰始元年（265），迄于元熙二年（420），含西晋4帝、东晋11帝共156年史事，并追叙晋室先世司马懿、司马师、司马昭在东汉末年和曹魏时期的活动，还包括了大致跟东晋同时存在的北方十六国史事。《晋书》对于这样纷繁的历史格局，都能从容地表述出来，显示了唐初史家的组织力量和创造才能。《晋书》的成就，首先在于它写出了两晋历史的全貌，弥补了以往诸家晋史的缺憾。因其“参考诸家，甚为详洽”[15]，在内容上也很充实。因此，《晋书》问世后，“自是言晋史者，皆弃其旧本，竞从新撰者焉”[16]。《晋书》的成就还突出地表现在它对民族关系在历史撰述上的处理。它继承了《东观汉记》所用的“载记”体例，创造性地以其记十六国君臣事迹、国之兴废，并着眼于僭伪，不再渲染华夷。这跟南北朝史家撰史互以对方之史为“传”且以“索虏”、“岛夷”相称，不仅有表述上的区别，更有认识上的发展：它同“五代史”在处理南北关系上是一致的，反映了隋唐统一后“天下一家”的思想。载记中颇有写得精彩的篇章。关于石勒的两卷，写他斩祖逖部下降者继而送首于祖逖，写他“与乡老齿坐欢饮，语及平生”，写他“常令儒生读史书而听之”及所发论议，写他在宴请高句丽使者筵席上对汉高、韩、彭、光武、曹操、司马懿父子的评价及自认“当在二刘之间”的谈话，都写得酣畅淋漓。关于苻坚的两卷，写他登龙门、游霸陵而与臣下论前人得失，写他劝课农桑、兴修水利，写他广修学官、亲临太学，写他淝水之败、长安之失，都极有声色。