中国的史官制度，起源很早。相对来说，修史机构的出现，要晚一些；而专门的修史机构的出现就要更晚一些。据唐代史学家刘知幾的考察，曹魏以前，历代并无稳定的修史机构。他在讲到东汉的兰台和东观时这样写道：
汉氏中兴，明帝以班固为兰台令史，诏撰《光武本纪》及诸列传、载记。又杨子山为郡上计吏，献所作《哀牢传》，为帝所异，征诣兰台。斯则兰台之职，盖当时著述之所也。自章、和已后，图籍盛于东观。凡撰汉记，相继在乎其中，而都为著作，竟无他称。[78]
兰台和东观，都是皇家藏书处所，并非是明确的修史处所；只是为就近利用藏书的方便，所以兰台和东观才先后成了东汉时期的“著述之所”。
魏、晋时期，开始明确了职掌修史的机构。《晋书·职官志》简要地记载了这一情况：
著作郎，周左史之任也。汉东京图籍在东观，故使名儒著作东观，有其名，尚未有官。魏明帝太和中，诏置著作郎，于此始有其官，隶中书省。及晋受命，武帝以缪徵为中书著作郎。元康二年，诏曰：“著作旧属中书，而秘书既典文籍，今改中书著作为秘书著作。”于是改隶秘书省。……著作郎一人，谓之大著作郎，专掌史任，又置佐著作郎八人。著作郎始到职，必撰名臣传一人。[79]
从这里可以看出，在魏明帝时，中书省是职掌修史的机构；至晋惠帝元康二年（292）改由秘书省职掌修史事务。这就是说，3世纪初，中国有了负责修史的机构，而292年，确是一个值得纪念的年代。尽管中书省和秘书省都不是专门的修史机构[80]，但修史工作在封建王朝的组织系统中毕竟有了比较稳定的归属。这是中国史学上的一件大事。
东晋、南朝以及北魏、北齐，均沿袭这一制度。于沿袭中也有变化和发展。南朝改佐著作郎为著作佐郎，这是一个变化。著作郎除有专职者外，也可有兼职者，即“其有才堪撰述，学综文史，虽居他官，或兼领著作”[81]。这又是一个变化。南朝齐、梁、陈又设置修史学士（亦作撰史学士），这是第三个变化。北齐有时把属于秘书省管辖的著作省（或作著作局）称为“史阁”或“史馆”，这是“史阁”、“史馆”名称最早的由来。北齐著名文人邢子才作诗赠史家魏收，有“冬夜直史馆”句可证。[82]这是第四个变化。上述情况，至隋及唐初没有大的变化。杜佑对于唐初以前修史机构及其演变做了这样的概括：“自后汉以后，至于有隋，中间唯魏明太和中，史职隶中书，其余悉多隶秘书。大唐武德初，因隋旧制，史官属秘书省著作局。”[83]