却说那次祖冲之在戴法兴的寿宴上测报月食，得罪了这个权臣，自觉在京城不好存身了，便应邀到南徐州（今江苏镇江）做了刺史刘延孙的助手。好在这个职务比较清闲，他便把大部分时间继续用来研究天文历法。积三年之辛苦，于大明六年（462年）他终于搞出一部比较科学的《大明历》，呈献给孝武帝，请求颁用。不想那个戴法兴从中作梗，不但新历法不能颁行，到大明八年，就连他刺史助理的官职也被革去了。
祖冲之赋闲在家，心里郁愤难平，他深感当时的世道要干成一件事实在难。可他想自己才三十六岁，难道此生就这样一事无成？于是就想搞点儿与政界牵涉不大的事——研究数学。他先为古代数学名著《九章算术》作了注。《九章算术》成书于公元四五十年间，集我国古代数学之大成，历代有不少人曾为它作注，但都碰到一个难题：那就是圆周率（现在叫π，它是圆周和直径之比）。很古时候，人称“径一周三”，即π=3。王莽新朝时精确到3.1547，东汉时张衡又精确到3.1466，三国时刘徽为《九章算术》作注，则认为最精确的应是3.14。四百多年来众说不一。
《九章算术》是中国流传至今最早的数学著作
“办法有了。暅儿，你看刘徽这里不是明明写着割圆术吗？只要将一个圈内接上正多边形。不断地割下去，求出多边形的周长，不就有了圆周率了吗？暅儿，你会吗？”
“我会，用爸爸教过的勾股定理一一去求就是了。”
“道理简单，算起来可就费劲了。从今天起，咱爷儿俩就来办这件事，你可要十分仔细啊。”
再说，祖冲之将这一切准备停当之后，便在地上画了一个直径为一丈的大圆，将圆割成六等分，然后再依次内接十二边形、二十四边形、四十八边形……他都按勾股定理用算筹摆出乘方、开方等式，一一求出多边形的边长和周长。你想这祖冲之何等聪明，他知道求圆周率要用直径除以正多边形的周长，所以他把直径的长定为长度单位，比如说是一丈，计算多边形周长时也以丈为单位，就可以避免每次的除法运算，每个多边形周长的量数即是圆周率一个近似值，这样一次次求多边形的周长便一次次逼近圆周率了。祖暅也在那个大圆圈里跳进跳出地帮他拿算筹，记数字。就这样直算得月落乌啼，直算得鸡鸣日升，那竹棍摆成的算式从桌上延到地下，又满地转着圈子，一屋上下全都是些竹码子。这批算筹又都是些新破的竹子，还没有来得及打磨，祖冲之用手捏着、想着、摆着，不消几日，渐渐指头都被磨破，那绿白相间的新竹竟染上了红红的血印。