祖沖之在數學上的突出成就，是關於圓周率的計算。秦漢以前，人們用壹周和三周的直徑作為圓周率，這是古代的比值。後來發現圓周率的誤差太大，圓周率應該超過壹周和三周的直徑，但剩下多少就眾說紛紜了。直到三國時期，劉徽提出了壹種科學的計算圓周率的方法——圓周率割線法，這種方法是把壹個圓內部的正多邊形連接起來，來近似壹個圓的周長。得到π=3.14，並指出正多邊形內接的邊越多，π值越精確。祖沖之在前人成果的基礎上，經過努力，反復計算，π在3.1415926和3.1415927之間。
祖沖之用了什麽方法得到這個結果？現在不可能檢查它。如果我們想象他會按照劉徽割線法求，那就必須算出圓內接16384個多邊形。這需要多少時間和勞動啊！可見他在學術研究上的頑強毅力和聰明才智令人欽佩。從祖沖之計算秘密率到國外數學家得出同樣的結果，已經過去了1000多年。為了紀念祖沖之的傑出貢獻，國外壹些數學史家建議將π =稱為祖率。
祖沖之展出當時的名著，堅持實事求是。他對比分析了大量自己測算的資料，發現了過去歷法中的嚴重錯誤，並敢於加以改進。33歲時，他成功編撰了《大明歷法》，開啟了歷法史上的新紀元。
祖沖之和他的兒子祖宣(也是中國著名的數學家)用巧妙的方法解決了球體體積的計算。他們當時采用了壹個原則:勢均力敵，但產品並無不同。也就是說，位於兩個平行平面之間的兩個立體，被平行於這兩個平面的任意壹個平面剖切，如果兩個截面的面積始終相等，則兩個立體的體積相等。這個原理在西方語言中叫做。