數學是隨著天文學與測量術而發展的，它在中國科學中是最完全獨立發展的部門。大概在春秋戰國時期就產生了數學，如別墨派遺留在《墨經》上的記載，就包含了若干幾何學的定義和定理，如（一）平面的定義，（二）等長線段的求法，（三）圓的中心在於距圓周同長的點上，（四）圓至其中心同長，（五）不平行的二直線必相交，（六）正方形四邊相等，四角相等，等等。又別墨派及公孫龍言論中都說過「一尺之棰，日取其半，萬世不竭」的話，可以看出表示無限等比級數的概念。
清修《四庫全書》時，戴東原所校訂的「算經十書」，是現存的最古算書，這十種書是：
一、《周髀算經》 是前漢末至後漢初出現的，相傳是周朝的書。
二、《九章算術》 是後漢時代出世的，相傳為周公所作，其中載有分數、最大公約數的求法、百分法、開平方、開立方的算法，一次聯立方程式的解法。
三、《海島算經》 是測量術的書籍，著者是魏時的劉徵。劉徵對《九章算術》也作了註解，註解中包含根據幾何學而解二次方程的方法，開平方立方之小數計算，圓面積並圓周的算法，角錐體的體積算法等。
四、《孫子算經》 三國末期出現。
五、《五曹算經》 亦三國末期的書。
六、《夏侯陽算經》 南北朝末期的書。
七、《張邱算經》 南北朝末期的書。
八、《五經算術》 北周甄鸞著。
九、《數術記遺》 題名漢徐岳撰，疑是甄鸞偽記。
十、《輯古算經》 相傳為唐人王孝通作。
我國圓周率發明很早，前漢末年劉歆即使用過，經過後漢的張衡，魏的劉徵，到南齊祖沖之，乃定圓徑比圓周為113：355，圓周率在3.1415927與3.1415926之間，這是五世紀時世界最精密的圓周率。
唐宋間算學沒有什麼進步。宋元間則有秦九韶的《數學九章》，李治的《測圓海鏡》、《益古演段》，朱世傑的《算學啟蒙》、《四元玉鑒》等書。
我國很早發明的算木計算法，一直支配到元朝。李治的「天元術」（一元高次方程），朱世傑的「四元術」（四元方程）均用算木代表未知數。這種器械的代數學，到明代已不能再發展，於是算盤代替了算木的地位而普及起來。「九九歌訣」也隨著出現。
歐洲人利瑪竇等及我國科學開創者徐光啟等將歐洲的《幾何原本》、《八線表》等介紹到中國來，當時並沒有為我國算學家所直接採用，到清初，才因這種影響而有符號的代數學之產生，而有梅氏兄弟的曆法與算學的專著出現（梅文鼎著書八十餘種，包含代數及三角等，開始用筆算演算），清聖祖御制的《律歷淵源》和《數理精蘊》，也包含歐洲的歷學與數學。