“미적분 누가 먼저 발명? 당사자들은 관심 없었어요”

인터뷰 / ‘수학자들의 전쟁’ 펴낸 이광연 교수

인터뷰 / ‘수학자들의 전쟁’ 펴낸 이광연 교수

인류 최대의 수학적 발명 미적분학 놓고 발언
뉴턴과 라이프니츠의 ‘선발명 논쟁’ 추적
“둘은 접근 방법 달라…추종자들이 싸움 부추긴 것”

미적분학은 세계를 보는 인간의 밑그림을 ‘스틸 사진’에서 ‘활동 사진’의 수준으로 끌어올렸다. 시간의 흐름에 따른 변화와 운동을 법칙적으로 설명할 수 있게 됐기에, 미적분학은 수학사에서 ‘발견’이 아닌 ‘발명’으로 대접받는다. 미적분의 발명 뒤 ‘시간이 지나면서 변하는 모든 것’에는 미적분이 적용됐고, 18세기 과학과 맞물려 순식간에 세상이 바뀌었다. 설명이 불가능했던 것들을 설명할 수 있게 된 것이다. 물리학의 속도·밀도·전류·온도변화율에서 사회학의 유언비어 확산율까지, 오늘날 미적분학의 손이 미치지 않는 곳은 거의 없다.

“영국과 유럽 대륙이 자존심을 걸고 벌인 과학 역사상 가장 중요한 ‘지적 재산권’ 다툼이었는데도, 우리나라에 이 논쟁을 깊이 있게 소개한 책이 없더군요.”

이광연 교수(한서대학교 수학과)는 <수학자들의 전쟁>(프로네시스 펴냄·1만3000원)에서 미적분학 발명의 우선권을 두고 아이작 뉴턴과 고트프리트 빌헬름 라이프니츠가 벌인 세기의 논쟁을 세밀하게 추적한다. 알려진 대로, 라이프니츠는 1675년에 현재 우리가 미적분이라고 말하는 극소량계산법을 발명했고, 뉴턴은 그보다 9년 먼저 ‘유율법’을 발명했다. “원래 두 사람은 ‘누가 가장 먼저’라는 타이틀에 전혀 관심이 없었지만, 두 사람을 따르는 무리들이 싸움을 부추기면서 전쟁이 된 겁니다.” 다툼의 귀책사유는 뉴턴에게 있다고 교수는 말한다. 뉴턴이 유율법을 먼저 발명하고도 발표하지 않았기 때문에 논란을 불렀다는 것이다.

뉴턴은 병적일 정도로 논쟁을 싫어했다. 1676년 지인에게 쓴 편지에는 이런 대목도 나온다. “나는 지금까지 철학의 노예로 살아왔다. … 앞으로는 스스로 만족하기 위해서가 아니라면, 학문과 영원히 작별인사를 하거나 아니면 그냥 내버려두고 싶다. 왜냐하면 새로운 이론을 발표하는 일을 계속한다면 그것을 방어하는 데 노예가 되어야 한다는 것을 알기 때문이다.” 천문학자인 에드먼드 핼리가 우연히 뉴턴의 무관심 속에 방치되고 있던 그의 발견들을 출판하라고 설득하지 않았다면, 오늘의 뉴턴을 있게 한 <자연 철학의 수학적 원리(프린키피아)>도 빛을 보지 못했을 정도다.

라이프니츠는 뉴턴과는 정반대여서, 학문적 성취뿐 아니라 정치적 야망도 있었다. 또한 미적분의 진가를 알아보는 선구안도 지니고 있었다. “라이프니츠는 미적분이 미래를 선도할 새로운 도구의 발명이라고 생각했지만, 뉴턴은 완전히 새로운 이론을 만들었다기보다는 고대로부터 당대까지 발전해온 어떤 것을 단순히 찾아낸 데 불과하다고 믿었습니다. 그래서 뉴턴은 유율법이 별로 중요하다고 생각하지 않았지요.”

뉴턴의 유율법과 라이프니츠의 극소량계산법은 기본 원리는 같았지만 접근법은 달랐다. 뉴턴은 기하학적으로 접근했고, 라이프니츠는 대수적으로 접근했다. ‘유율’은 상대적으로 개념이 모호한 용어였고, 문자 위에 점을 찍어 표시한 뉴턴의 기호는 거추장스럽고 번거로웠다. 라이프니츠의 기호는 분명하고 적절했다. 오늘날 우리는 미분·적분·좌표 그리고 함수와 같은 그의 용어와 기호를 사용하고 있다.

결국 라이프니츠의 기호를 택한 유럽 대륙의 수학자들은 미적분에서 큰 진보를 이뤘다. 뉴턴의 유율법을 고집하던 영국은 약 100년이 지난 뒤에야 라이프니츠 방법 도입했다. 영국의 수학은 대륙에 견줘 100년 가량 뒤처졌고, 이후 등장하는 저명한 수학자들은 유럽 대륙 출신이 대부분이다.

“수학이 어떤 과목인가 물어보는 사람들이 있는데, 그럴 때 버트런드 러셀의 말을 자주 인용합니다. 인류의 역사가 1만5000년 쯤 된다고 치면 숫자 2와 사과 두 개가 같은 거라는 걸 깨닫는 데만 1만 년 이상 걸렸다고 했죠. 추상화가 가능해지면서 인간은 동물과는 다른 길을 가게 됐습니다. 수학에서 어떤 것 하나를 알기까지는 아주 오래 걸리는데, 그걸 알면 순식간에 세상이 변합니다.”

〈수학자들의 전쟁〉

그는 이러한 수학의 속성을 얘기하면서, 두 사람의 소모적인 논쟁만 없었어도 인류가 그 발명을 지렛대로 삼아 훨씬 빠른 도약을 이뤘을 거라고 말한다. 미적분을 발명하면서 인간이 ‘무한’의 개념을 깨닫게 됐기 때문이다. 오늘날 미분과 적분은 함께 불리지만, 엄밀히 말해 뉴턴과 라이프니츠가 발명한 건 ‘미분’이었다. 정해진 넓이를 잘게 쪼개 합쳐서 넓이를 구하는 적분은 기원전 200년 전부터 사용됐다. “미분은 끊임없이 잘게 쪼개는 ‘무한’의 개념이 들어갑니다. 인간은 볼 수 없는 것을 오직 사고에만 의존해 추정해야 했죠. 종교적인 세계에 갇혀 있던 사람들은 그래서 ‘무한’을 함부로 건드리지 않았고, 미분은 뒤늦게 발명된 겁니다. 이걸 극복하기 위해 여러 사람이 노력해왔는데, 여기저기서 꿈틀대기 시작한 기운을 바탕으로 하여 함수와 극한과 무한의 연결고리를 제시한 뉴턴과 라이프니츠가 미분을 발명한 거죠. 초등 수학이 고등 수학으로 뛰어오른 겁니다.”

이 교수는 2000년 <웃기는 수학이지 뭐야>를 내면서 서너 명의 독자만 읽는 논문을 쓰는 수학자에서 15만 명의 청소년 독자를 거느리는 수학 저술가로 변신했다. 이어 <신화 속 수학 이야기> <밥상에 오른 수학>를 냈고, 지난해 일반인을 위한 수학 교양서에도 도전해 <자연의 수학적 열쇠, 피보나치 수열> <피타고라스가 보여주는 조화로운 세계>를 냈다. 이번에 조금 심각한 책을 썼으니, 다음에는 재미있는 책을 쓰겠다고 한다.

“순수 수학 쪽에서는 이런 책이 설 데가 없죠. 하지만 누군가는 재미난 얘기를 해줘야 하지 않나 싶어요. 나름대로 성과도 있고. 첫 책이 나오고 집을 넓은 평수로 옮겼습니다. 하하.” 김일주 기자 [e-mail]