1966年5月，吴晗被正式揪出来为长达十年的“**”开刀祭旗了。他几乎每天都要接受揪斗，饱尝难以忍受的痛苦与屈辱。当时八岁的儿子后来在回忆文章中写道：“我永远忘不了他们把爸爸跪绑在烈日下的枯树干上，往他脖子里灌晒得滚烫的沙子。他们抡起皮带抽他，揪他的头发，拧他的耳朵，用各种想得出来的法子侮辱他。爸爸三天两头被拉去游斗，学校要斗，区里要斗，县里要斗，这里要斗，那里也要斗。”
在批斗之初，吴晗全家住在北长街原来的住处，但后来被扫地出门。红卫兵勒令他和妻子袁震每天到北长街扫街道，并且随时把他们夫妇揪出来侮辱。酷暑烈日下，吴晗被拖到马路上，跪在粗硬的瓦砾上，遭受残酷的毒打。每次爬起来之后，都是膝盖皮肤划破，鲜血染红双腿和土地。而这时的吴晗，一拐一瘸地回到住处，擦去身上的血迹，便拿起毛泽东主席签名送他的著作来看。但他越看越觉得自己委屈，不知道自己的一片赤诚之心，为什么会遭到如此的报应。
1949年1月31日，北平和平解放。当人民解放军举行浩大的入城仪式时，吴晗随同一些党、政、军负责人一起参加了这一隆重仪式。几天之后，他和钱俊瑞等人受党中央之托，接管北京大学、清华大学，同时被任命为清华大学历史系主任、文学院长、校务委员会副主任等职。
由于地下党事先做了大量工作，清华大学的绝大部分师生都留在了学校。新中国成立后，吴晗曾经对一起搞民主运动的地下党人说过：“你们如果工作做好了，还是可以把胡适留下来的。”实际上，早在解放前夕，吴晗在上海和北平都亲自试图争取在学术上曾给过自己很大影响的胡适留下来，但都没有成功。1946年，吴晗亲自到北大去见胡适，结果是话不投机，恩师与高徒只谈了两句就僵持起来。后来胡适对别人说：“吴晗可惜，走错了路。”而吴晗却认为胡适走错了路。