수학, 불완전한 세상을 품다
박형주 포스텍 수학과 교수

문자가 아직 발명되지 않았던 때, 그래서 기록된 역사가 남아 있지 않은 시대를 선사시대라고 한다. 고대 빌렌도르프의 비너스같은 고고학적 출토품을 보면, 그 선사시대의 인류도 개인과 집단의 뜻과 기대를 상징을 통해 표현했던 것 같다. 오늘날의 눈으로 본다면 예술이라고 부를 만한 게 존재했던 것이다. 생존의 필요 때문에 사냥감의 수를 세었던 흔적도 있으니, 문자보다도 먼저, 어쩌면 언어보다도 먼저, 셈과 수는 이렇게 인류 곁으로 다가왔다.

이렇게 시작된 수학은 고대 이집트와 바빌로니아에서 문명의 여러 필요에 따라 상당한 수준으로 발전했는데, 피라미드와 국제교역에서 관찰되는 건축의 수학과 상거래의 수학은 지극히 자연발생적이다. 하지만 이러한 수학을 전혀 새로운 차원으로 옮겨다 놓은 것은, 추상화와 공리화를 통한 사유 체계를 만들어낸 고대 그리스 문명이었다. 이 사유 체계는 르네상스를 통해 중세로 이어지며 서양 지성사의 핵이 되었다.

이 철학적 사유 체계는 문명의 필요에 답하는 과정에서 실체적 힘을 발휘하기도 했다. 중세 이후의 유럽에서 식민지 확보가 국가의 존망을 좌우하던 시절에는 항해 기술이 경쟁력의 핵심이 되었는데, 삼각함수론이 출현해서 바다 한가운데서 배의 위치를 확인하는 것을 가능하게 했다. 농사와 계절 예측을 위한 달력 제작의 필요는 천체의 운동을 이해하려는 노력으로 이어졌고, 이 과정에서 미적분학이 출현했다. 당대의 혁신이라 부를만한 이러한 사건 뒤에는, 이를 가능하게 하는 사유의 토대가 이미 준비되어 있었던 것이다.

이 기나긴 수학의 역사에서 관찰되는 큰 흐름은 우아함과 완전함에 대한 열망이다. 물리적 세계의 불완전함 이면에 있는 질서를 찾아내고, 수학적 단순화 과정을 거쳐 대칭과 조화를 표현하는 일에 매료된 수학자들은 역사의 도처에서 관찰된다.

 
하지만 세상은 완전하지 않다. 우주로 간 화성탐험선은 끊임없이 지구로 영상 신호를 보내지만, 태양의 자기장과 지구의 오존층에 이리 치이고 저리 치여서 엉뚱하게 변질된 신호가 지구의 과학자에게 도착하지 않는가? 원자의 세계는 뉴턴역학의 결정론이 아니라 양자역학의 확률적 개념으로 접근해야 한다는 사실에 아인슈타인은 절망하며 “신은 주사위 놀음을 하지 않는다”라고 하지 않았던가? 프랙탈의 개념을 처음 발견한 망델브로는 불규칙과 무질서가 자연의 본질에 더 가깝다고 결론내리지 않았는가?

2012년 초의 추운 겨울에 눈망울이 보기 좋던 어린 학생들 앞에서 수학 얘기를 할 기회를 얻었다. 완전한 것을 다루는 깔끔한 수학이 아니라, 불완전한 세상을 다루어야 하는 수학을 말해주기로 했다. 그래서 소통과 통신의 과정에서도 오류가 생기는 불완전한 세상이지만 이것을 해결해주는 수학 이론인 코딩 이론이 있다는 얘기로 시작했다. 이어서 무작위성과 확률의 세계로 옮아갔으며, 매끄럽지 않은 세상을 다루는 프랙탈 기하를 소개하며 끝냈다. 마지막 강의에서 소개한 망델브로의 말이 기억에 남는다.

구름은 동그랗지 않고, 산은 원뿔 모양이 아니며, 해안선은 원형이 아니고 나무껍질은 부드럽지 않고, 번개는 직선으로 움직이지 않는다.
- 브누아 망델브로, 『자연 속의 프랙탈 기하학』 중에서

이 책의 여러 곳에서 조금 까다로워 보이는 수식이 나오곤 하지만, 독자의 경험에 따라 행간을 읽어 나가면 맥락의 이해에는 큰 문제가 없을 것이다. 글로 적고 보니 더 들려주고 싶은 얘기들도 떠오르지만 이 만큼 적을 수 있었던 것에 감사한다. 불완전하고 무작위하고 무질서한 것조차 오히려 흥미롭게 바꾸는 수학의 마력을 느끼는 계기가 된다면 족할 것이고, 더 깊은 수학의 세계로 들어가는 동기가 된다면 더할 나위 없이 좋을 것이다.

기획의 말  
과학하는 삶으로의 초대
정재승 KAIST(카이스트) 바이오및뇌공학과 교수
 

“이 시리즈의 취지는 학문의 최전선에 선 최고의 석학들을 모시고,
학생들이 알아야 할 과학의 정수를 맛보게 하는 것입니다.”

상상초월 석학강연에 오신 여러분을 진심으로 환영합니다. 이 시리즈는 과학의 최전선에 선 석학들이 이제 갓 세상에 관심을 갖게 된 중고등학생들에게 했던 1년간의 뜨거운 과학 강연을 책으로 묶은 야심작입니다.

요즘은 과학 강연이 서서히 하나의 문화로 자리 잡게 되었지만, 4년 전 이 책을 기획할 때만 해도 ‘강연을 통한 과학 만나기’는 학생들에게 낯선 경험이었습니다. 특히 학교가 아닌 곳에서 입시와 상관없는 주제로 세계적인 석학들의 강연을 듣는다는 것은 더욱 생경한 경험이었지요. 하지만 그들이 이 강연을 얼마나 즐겼는지 아세요? 그 현장의 감동이 이 시리즈 안에 고스란히 담겨 있습니다.

이 시리즈를 기획하게 된 건 순전히 제 개인적인 경험에서 비롯되었습니다. 저는 고등학교 때 과학자의 강연을 꽤나 많이 찾아다녔습니다. 대학 캠퍼스에서 벌어지는 흥미로운 세미나는 제게 입시에 관한 생각에서 벗어나게 해주는 일종의 탈출구였습니다. 학교에서 배우는 과학은 따분하고 지루했지만, 과학자들이 현재 실험실에서 진행하고 있는 연구, 그리고 그것을 통해 우리가 알게 된 우주와 자연과 생명에 대한 지식은 그 자체로 경이로움이었습니다.

무엇보다, 학교에서 친구들과 함께 들어야 하는 수업이 아니라, 스스로 강연 정보를 알아내 자발적으로 찾아와 듣는 강연의 한복판에 제가 앉아 있다는 사실이 저 스스로를 매우 특별한 사람으로 인식하게 하는 계기가 되었습니다. 저를 과학자로, 아니 세상에 대한 호기심이 가득한 어른으로 성장하게 만든 건, 8할이 과학 강연과 과학 책이었습니다.
그래서 최고의 석학들을 모시고 중고등학교 교실이 다 담아내지 못한 과학의 매력과 학문의 본질을 지금의 청소년들과 나눠보고 싶었습니다.

이 시리즈를 기획하면서 저는 학문의 최전선에 선 과학자들에게 직접 물어보고 싶은 게 있었습니다. “사춘기를 관통하며 자신을 둘러싼 세상과 스스로에 대해 호기심을 갖게 된 학생들에게 가르쳐주어야 할 가장 중요한 과학 개념은 무엇입니까?”, 그리고 “물리학, 화학, 생물학, 수학에서 가장 중요한 단 하나의 개념을 꼽으라면 무엇을 선택하겠습니까?” 하고 말입니다.

이 시리즈는 바로 그 질문에 대한 석학들의 뜨겁고 열정적인 답변서입니다. 이 답장에는 그들이 평생을 거쳐 찾아낸 그 해답과 그것을 추적해온 그들의 학문적인 궤적, 그리고 그것들과 함께 해온 그들의 삶이 그대로 녹아 있습니다.
독자들은 이 시리즈에서 그들을 실험실에서 밤늦게까지 씨름하게 했던 하나의 질문, 책상 앞에서 고뇌하게 만들었던, 그 숙제 같은 자연의 신비가 무엇이었는지 알게 될 겁니다. 그리고 그것의 작은 일부를 겨우 알아냈을 때 그들이 맛보았을 희열도 말입니다.

이 책에서는 세상과 동떨어진 수학이 아니라 세상 한가운데로 나온 수학을 다루고 있습니다. 매끈하지도, 조화롭지도 않은 세상을 과연 수학이 어떻게 다루는지를 엿볼 수 있을 뿐 아니라, 이 복잡한 세상을 거대한 패턴 덩어리로 판단하고 그 과정에서 세상에 관한 통찰을 건져내는 수학을 접할 수 있을 겁니다. 매력적인 수학이 여기 있습니다.

과학은 어렵고 쉽게 이해되지 않지만, 과학자들이 밝혀낸 우주와 자연과 생명과 의식, 그리고 숫자는 그 자체로 경이로움이며 우리 모두가 만끽할 수 있는 즐거움입니다. 사춘기 시절 그 경이로움을 공유하는 것은 ‘평생 자연에 대해 호기심을 갖는 열정적인 어른’, ‘늘 배움에 열려 있는 성숙한 어른’으로 성장하는데 가장 중요한 경험이 될 것입니다. 여러분의 과학하는 삶이 이 책에서 비로소 출발했으면 합니다.

이 기획에 흔쾌히 참여해 귀중한 시간을 내주신 교수님들과 책이 나오기까지 애쓴 해나무 편집부에 진심으로 감사의 말씀을 올립니다.

[추천 기사]

- 가장 아름다운 시절 지금 당신의 이야기
- 왜 해도 해도 할 일이 줄지 않을까?
- 통계의 정치
- 생물도 과학이다
- 하나씩 깨닫는 기쁨을 권한다