祖冲之不但精通天文、历法，他在数学方面的贡献，特别对“圆周率”研究的杰出成就，更是超越前代。祖冲之算出的圆周率精确到小数点以后7位，成为当时最先进的成就，他创造的世界记录到15世纪才由阿拉伯数学家卡西打破。
求算圆周率的值是数学中一个非常重要也是非常困难的研究课题。中国古代许多数学家都致力于圆周率的计算，而公元5世纪祖冲之所取得的成就可以说是圆周率计算的一个跃进。要作出这样精密的计算，是一项极为细致而艰巨的脑力劳动，祖冲之为此付出了艰苦卓绝的努力。
有一天，祖冲之正在翻阅刘徽给《九章算术》作的注解，他被刘徽用高度的抽象概括力建立的“割圆术”与极限观念所折服，不禁拍案叫绝。
连连称赞：“真了不起！ 真了不起！”在一边专心致志看书的儿子祖暅被这突如其来的声音所震动，忙问：“父亲，谁了不起了？”“我说刘徽了不起。”祖冲之的眼睛仍然停留在竹简上。“刘徽是谁？”当时只有十一、二岁的祖暅还不知道刘徽是个什么样的人。“三国时代的科学家。”“他有什么地方了不起呢？”“他用极限观念建立了割圆术。”“割圆术？”祖暅茫茫然地望着父亲。
“你看！”祖冲之指着手中拿着的竹简，滔滔不绝的给儿子讲着。“刘徽提出：在圆内作一个正六边形，每边和半径相等。
然后把六边所对的六段弧线一一平分。作出一个正十二边形。这个十二边形的边长总加起来比六边形的边长的总和要大，比较接近圆周，但仍比圆周短。刘徽认为，用同样方法，作出二十四边形。那周长总和又增加了，又接近圆周了。这样一直把圆周分割下去，割得越细，和圆周相差越少，割而又割，直到不可再割的时候，这个无限边形就和圆周密合为一，完全相等了。刘徽用割圆术计算了六边、十二边、二十四边、四十八边，一直计算到九十六边形的边长之和，得出圆周是直径的3.14.”
祖冲之把刘徽计算圆周率的“割圆术”讲给儿子听，祖暅虽然似懂非懂，但也引起了他无限的兴趣。“刘徽真了不起！真行！”祖冲之听着孩子的话，沉思片刻说：“我告诉你吧，刘徽算出的圆周率，其实他自己也不满意。他声明：实际的圆周率应该比3.14稍大。如果他继续‘割了又割’地割下去。就会算得更精确。”“那我们来继续‘割而又割’，行吗？”祖暅问了一句。“行呀，我们可以算出更精确的圆周率！这就需要我们付出更为艰巨的劳动！”
这一夜，父子俩久久未能入睡。枯燥无味的数学却引来了儿子无限的兴趣，丰富的幻想；祖冲之则盘算着如何去消化前人的成果，开拓数学研究的新路。
461年，祖冲之被派在刘子鸾手下做一个小官。他始终没放松对科学技术的钻研，每天早上都得进宫办事，下午一回来，就一头钻进了他的书房，有时甚至忘了吃晚饭，忘了休息。年幼的儿子，被他父亲的这种孜孜不倦，废寝忘食的刻苦攻关精神所感动。
一天，祖冲之早上进宫办完杂事，就匆匆赶回了家，在书房的地板上画了一个直径一丈的大圆，运用“割圆术”的计算方法，在圆内先作了一个正六边形。他们的工作就这样开始了。日复一日，不论是酷暑，还是严寒，从不间断地辛勤地计算着……祖冲之为了求出最精密的圆周率，对九位数进行包括加减乘除及开方等运算一百三十次以上。这样艰巨复杂的计算，在当时没有算盘，只靠一些被称作“算筹”的小竹棍，摆成纵横不同的形状，用来表示各种数目，然后进行计算，这不仅需要掌握纯熟的理论和技巧，更需具备踏踏实实、一丝不苟的严谨态度，不惜付出艰巨的劳动代价，才能取得杰出的成就。经过艰苦的计算，祖冲之终于得出较精确的圆周如直径为1，圆周大于3.1415926，小于3.1415927.
祖冲之经过刻苦钻研，继承和发展了前辈科学家的优秀成果。祖冲之求出的圆周率，精确到小数点后七位，这在当时全世界上只有他一人。祖冲之对圆周率数值的精确推算值，用他的名字命名为“祖冲之圆周率”，简称“祖率”。
延伸阅读
“祖暅原理”的发明
祖冲之与他的儿子祖暅一起，用巧妙的方法解决了球体体积的计算。他们当时采用的一条原理是：“幂势既同，则积不容异。”意思是，位于两个平行平面之间的两个立体，被任一平行于这两个平面的平面所截，如果两个截面的面积恒相等，则这两个立体的体积相等。这一原理，在西方被称为卡瓦列利原理， 但这是在祖氏以后一千多年才由卡氏发现的。为了纪念祖氏父子发现这一原理的重大贡献，大家也称这原理为“祖暅原理”。