우리는 한번쯤 "우리 나라에도 수학자가 있었을까?" 하는 의문을 가진다.
수학책에 나오는 정리나 공식들은 모두 피타고라스니 오일러니 파스칼이니 하는 외국 수학자들이다. 그러나 우리 나라에도 수학하는 사람들이 많았다.
우선 조선시대 수학자이자 실학자인 '홍정하'라는 수학자가 중국의 유명한 수학자와 수학에 관한 대결을 벌인 이야기를 보자.
흥미로운 이야기는 홍정하가 지은 『구일집』 이라는 책에 전해오고 있다.
수학책 『구일집』 은 천, 지, 인 등의 8권과 부록으로 구성되어 있다.
1684년에 태어난 홍정하는 조선시대 숙종과 영조 때의 수학자이다.
홍정하는 대대로 수학을 하는 수학자 집안에서 자랐다.
수학자 집안이니 수학 공부를 더 쉽게 할 수 있었다.
요즘 같으면 집안이 대대로 수학을 했으니 학자 집안이었겠지만 그 당시 수학자들은 산학자로 불린 중인 계급으로 양반은 아니었다.
조선시대에는 산학 시험이라는 것이 있어서 이 시험에 합격해야 산학자가되는 공인 수학자 제도가 있었다.
그 당시 유럽에서도 상인들이 셈을 전문으로 하는 '셈사'를 고용했는데, 셈사들은 그것이 직업이 되었다.
1713년 5월 29일 홍정하는 같은 수학자인 유수석과 함께 조선에 온 중국의 사력 하국주를 만나 수학에 대해서 이야기를 나누었다.
사력은 중국 천문대의 관직으로, 하국주는 천문과 역산에 밝았고 산학에도 뛰어난 실력자였다.
홍정하는 수학 공부를 위해서 라면 누구라도 찾아가서 가르침을 받으려고 했다.
하국주와 홍정하의 만남은 요즘처럼 공식을 암기하고 문제 풀이나 하는 수학 공부와는 달리 대화를 하는 식이었다.
옛날에는 공부를 대화하는 식으로 했다. 그렇게 대화와 토론을 통해 생각의 부족함을 채우고 새로운 것을 발견하며 어려운 문제를 풀어 나가려 했다.
홍정하가 쓴 수학책 『구일집』 에는 수학의 대화가 소개되어 있다.
홍정하는 하국주를 만나 공손히 "아무 것도 모르니 산학을 가르쳐 주십시오." 하고 말했다.
하국주는 문화 대국의 일류 학자인양 어깨를 우쭐대며 '이런 문제를 알겠는가.'하는 얕보는 마음으로 문제를 냈다.

1. "360명이 한 사람마다 은1냥 8전을 낸 합계는 얼마나 되겠소?
그리고 은 351냥이 있소. 한 섬의 값이 1냥 5전 한다면 몇 섬을 구입할 수 있겠소?"

어릴 적부터 산학 문제를 풀면서 실력을 갈고 닦은 홍정하는 금세 답이 나왔다.

"앞 문제의 답은 648냥이고, 다음 문제의 답은 234섬이 되옵니다."

홍정하가 금방 문제를 풀자 하국주는 다음으로 도형 문제를 냈다.

"제곱한 넓이가 225평방자일 때 한 변의 길이는 얼마요?"

이 문제는 여러분도 모두 풀 수 있을 것이다.

"제곱해서 225일 수는 15가 되니까 답은 15이지요."

홍정하는 이 문제도 맞추었다.
하국주는 또 문제를 냈습니다.

2. " 크고 작은 두 개의 정사각형이 있소.
두 정사각형의 넓이의 합은 486평방자이고, 큰 정사각형의 한 변은 작은 쪽의 한 변보다 6자만큼 길지요.
두 정사각형의 각 변의 길이는 얼마가 되겠소?"

물론 이 문제도 홍정하, 유수석 두 수학자들은 모두 풀었다.
이렇게 모두 정답을 맞히자 옆에서 지켜 보고 있던 한 중국 사신이 홍정하의 실력을 얕잡아 보고 하국주의 체면을 살리려는 듯 말참견을 했다.
"사력은 계산에 대해서는 천하의 실력자요. 사력의 수학의 조예는 깊기가 한량이 없소. 여러분 따위는 도저히 견줄 바가 못되오.
사력은 많은 질문을 했는데 여러분도 그에게 문제를 내야하지 않겠소?"
이에 홍정하, 유수석 두 수학자는 다음과 같은 문제를 냈다.

3. "지금 여기에 공 모양의 옥이 있습니다. 이것에 내접한 정육면체의 옥을 빼놓은 껍질의 무게는 265근이고 껍질의 두께는 4치 5푼입니다.
옥의 지름과 내접하는 정육면체의 한 변의 길이는 각각 얼마입니까?"
이 문제를 듣고 하국주는 한참 고민하더니 이렇게 말했다.
"이것은 아주 어려운 문제요. 당장에는 풀지 못하지만 내일은 반드시 답을 주겠소."

그러나 하국주는 다음날에도 끝내 정답을 내놓지 못했다.
하국주의 참패였다.
홍정하는 정육면체의 한 변의 길이는 약 5치이고 옥의 지름은 약 14치라고 말해 주었다.
그리고 답 풀이를 해 주었다.
홍정하는 구의 부피를 내는 공식을 생각했고 하국주는 전혀 생각을 못했다.
이번에는 하국주가 어려울 것이라는 표정으로 문제를 냈다.

"지름이 10자인 원에 내접하는 정오각형의 한 변의 길이와 넓이는 각각 얼마요?"

그러자 유수석이 말했다.

"조선에는 아직 이런 학문이 없습니다. 어떤 방법으로 하는 것입니까? "

이에 대해 하국주는 보충 설명을 해 주었다.
원은 360도이고 정오각형의 꼭지각의 하나는 72도가 되는데 그 반인 36도에서 정현수(sine)의 값을 구하게 되오. "
하국주의 설명을 듣고 유수석은 다시 물었다.

"정현수는 어떤 방법으로 얻은 것입니까?"

"8선표가 있으면 그것으로 곧 값을 구할 수 있지만 일일이 계산하자면 매우 어렵기 때문에 여기서는 대답하기가 어렵소. "

여기서 8선표는 삼각함수표를 말한다.
홍정하는 하국주의 대답에 만족하지 않고 꼬치꼬치 캐물었다.

"이치가 아무리 심오하고 어려울지라도 배울 수 있습니다.
그 길을 알려 주십시오. "

홍정하의 열의에 하국주는

" 기하원본』 과 『측량전의』 두 책을 읽으면 이해 할 수 있소."

라고 대답했다.
유수석도 적극적으로 물었다.

"어떻게 하면 볼 수 있습니까?"

"중국에서 출발할 때 봉화성에 두고 왔소. 귀국하면 보내 드리겠소. "

잠시 뒤 홍정하가 말했다.

"우리 두 사람의 수학 실력은 어느 정도입니까?"

"두 사람의 실력은 상당하오.17~18문제 중 풀지 못한 것은 불과 두 셋에 불과하지 않소?"

하국주는 자신이 쓴 『구고도설』 이라는 책을 보여 주었다.
이 책은 서양의 피타고라스 정리와 같은 구고현의 정리를 이용한 문제들이었다.
하국주가 내놓은 문제 가운데에서 고차 방정식의 문제가 있었는데 조선의 두 수학자는 그것을 '산목셈'으로 척척 풀었다.
산목셈이란 대나무 가지 같은 것으로 계산하는 계산기의 일종이었다.
하국주는 중국에는 이런 것이 없으니 가지고 돌아가서 모두에게 보이고 싶다고 했다.
하국주가 살았던 때의 중국에서는 이미 사라져 버렸고 조선에는 그대로 보존되어 있었다.
중국에서는 뒷날, 조선의 수학이 없었다면 이 부분에서 동양 수학의 명맥이 끊어졌을지 모른다고 말하기도 했다.

인물중심으로 본 이야기 수학사(이규태) --발췌 --