B.C. 3세기 유클리드(Euclid)에 의하여 집대성된원론은 13권의 책으로 남겨져 있는데 여기에는 평면기하, 입체기하, 수론 등이 다루어져 있다. 유클리드 원론은 수학교육 현대화 운동이 일어나기 전인 19세기까지 유럽에서는 마치 수학의 성전(聖典)같이 절대적인 권위를 지닌 수학교과서로 사용되어 왔다. 그런데 유클리드 이후의 그리스 수학은 동방사상의 영향을 받아서 자연과학적인 측면을 지니고 있었다.
이를테면 아르키메데스(Arichimedes)는 원에 내접, 외접하는 정육각형으로부터 시작하여 차례로 변의 개수를 두 배씩하여 정96각형의 둘레의 길이를 계산하여 원주율의 값을 계산한 것이 그 예이다. 이 시대의 수학자들은 새로운 기하학의 탄생에 실마리를 제공한 주목할 만한 사실을 밝혔다. 파프스(Pappus)의 정리가 사영기하학의 근원을 제공한 사실과, 아폴로니우스(Apollonius)의 원추곡선(圓錐曲線)에 관한 연구가 곡선 위의 점이 만족하는 조건을 오늘날의 좌표에 해당하는 선분의 길이로 나타냄으로써 좌표개념의 원조가 된 것이다.
그러나 기독교도와 로마제국은 수학을 그다지 중요시하지 않았고 방정식의 음의 근을 인정하지 않았기 때문에 그리스 수학은 더 발달될 수 없었다.