文藝復(fù)興時(shí)期，歐洲的幾何學(xué)得到了廣泛的發(fā)展，形成了運(yùn)用代數(shù)解決幾何問(wèn)題的解析幾何學(xué)說(shuō)。

16世紀(jì)末以后，西方幾何學(xué)陸續(xù)傳入中國(guó)，與我國(guó)古代算術(shù)相結(jié)合，使中國(guó)數(shù)學(xué)研究出現(xiàn)一個(gè)中西融合貫通的局面；鴉片戰(zhàn)爭(zhēng)以后，近代數(shù)學(xué)開(kāi)始傳入中國(guó)，中國(guó)數(shù)學(xué)便轉(zhuǎn)入一個(gè)以學(xué)習(xí)古代算術(shù)，幾何學(xué)以及西方現(xiàn)代數(shù)學(xué)為主的時(shí)期。

1582年，意大利傳教士利瑪竇到中國(guó)，1607年以后，他先后與徐光啟翻譯了《幾何原本》前六卷、《測(cè)量法義》一卷，與李之藻編譯《圜容較義》和《同文算指》。1629年，徐光啟被禮部任命督修歷法，在他主持下，編譯《崇禎歷書(shū)》137卷?！冻绲潥v書(shū)》主要是介紹歐洲天文學(xué)家第谷的地心說(shuō)。作為這一學(xué)說(shuō)的數(shù)學(xué)基礎(chǔ)，希臘的幾何學(xué)，歐洲玉山若干的三角學(xué)，以及納皮爾算籌、伽利略比例規(guī)等計(jì)算工具也同時(shí)介紹進(jìn)來(lái)。

在傳入的西方數(shù)學(xué)中，影響最大的是《幾何原本》?！稁缀卧尽肥侵袊?guó)第一部數(shù)學(xué)翻譯著作，絕大部分?jǐn)?shù)學(xué)名詞都是首創(chuàng)，其中許多至今仍在沿用。徐光啟認(rèn)為對(duì)它“不必疑”、“不必改”，“舉世無(wú)一人不當(dāng)學(xué)”?！稁缀卧尽肥敲髑鍍纱鷶?shù)學(xué)家必讀的數(shù)學(xué)書(shū)，對(duì)他們的研究工作頗有影響。

清初學(xué)者研究中西數(shù)學(xué)有心得而著書(shū)傳世的很多，影響較大的有王錫闡《圖解》、梅文鼎《梅氏叢書(shū)輯要》(其中數(shù)學(xué)著作13種共40卷)、年希堯《視學(xué)》等。梅文鼎是集中西數(shù)學(xué)之大成者。他對(duì)傳統(tǒng)數(shù)學(xué)中的線性方程組解法、勾股形解法和高次冪求正根方法等方面進(jìn)行整理和研究，使瀕于枯萎的明代數(shù)學(xué)出現(xiàn)了生機(jī)。年希堯的《視學(xué)》是中國(guó)第一部介紹西方透視學(xué)的著作。

清康熙皇帝十分重視西方科學(xué)，他除了親自學(xué)習(xí)天文數(shù)學(xué)外，還培養(yǎng)了一些人才和翻譯了一些著作。雍正即位以后，對(duì)外閉關(guān)自守，導(dǎo)致西方科學(xué)停止輸入中國(guó)，對(duì)內(nèi)實(shí)行高壓政策，致使一般學(xué)者既不能接觸西方數(shù)學(xué)，又不敢過(guò)問(wèn)經(jīng)世致用之學(xué)，因而埋頭于究治古籍。乾嘉年間逐漸形成一個(gè)以考據(jù)學(xué)為主的乾嘉學(xué)派。

隨著《算經(jīng)十書(shū)》與宋元數(shù)學(xué)著作的收集與注釋，出現(xiàn)了一個(gè)研究傳統(tǒng)數(shù)學(xué)的高潮。其中能突破舊有框框并有發(fā)明創(chuàng)造的有焦循、汪萊、李銳、李善蘭等。他們的工作，和宋元時(shí)代的代數(shù)學(xué)比較是青出于藍(lán)而勝于藍(lán)的；和西方代數(shù)學(xué)比較，在時(shí)間上晚了一些，但這些成果是在沒(méi)有受到西方近代數(shù)學(xué)的影響下獨(dú)立得到的。

1840年鴉片戰(zhàn)爭(zhēng)以后，西方近代數(shù)學(xué)開(kāi)始傳入中國(guó)。首先是英人在上海設(shè)立墨海書(shū)館，介紹西方數(shù)學(xué)。第二次鴉片戰(zhàn)爭(zhēng)后，曾國(guó)藩、李鴻章等官僚集團(tuán)開(kāi)展“洋務(wù)運(yùn)動(dòng)”，也主張介紹和學(xué)習(xí)西方數(shù)學(xué)，組織翻譯了一批近代數(shù)學(xué)著作。在這些譯著中，創(chuàng)造了許多數(shù)學(xué)名詞和術(shù)語(yǔ)，至今還在應(yīng)用，但所用數(shù)學(xué)符號(hào)一般已被淘汰了。戊戌變法以后，各地興辦新法學(xué)校，上述一些著作便成為主要教科書(shū)。

在翻譯西方數(shù)學(xué)著作的同時(shí)，中國(guó)學(xué)者也進(jìn)行一些研究，寫(xiě)出一些著作，較重要的有李善蘭的《尖錐變法解》、《考數(shù)根法》；夏彎翔的《洞方術(shù)圖解》、《致曲術(shù)》、《致曲圖解》等等，都是會(huì)通中西學(xué)術(shù)思想的研究成果。

由于輸入的近代數(shù)學(xué)需要一個(gè)消化吸收的過(guò)程，加上清末統(tǒng)治者十分腐敗，在太平天國(guó)運(yùn)動(dòng)的沖擊下，在帝國(guó)主義列強(qiáng)的掠奪下，焦頭爛額，無(wú)暇顧及數(shù)學(xué)研究。直到1919年五四運(yùn)動(dòng)以后，中國(guó)近代數(shù)學(xué)的研究才真正開(kāi)始。