빈센조 나탈리의 저예산 영화 <큐브>에 숨겨진 수학적 비밀에 대한 자문은 이스트 캐롤라이나 대학의 David W. Pravica 박사가 담당했는데, 모두 17,576개의 움직이는 큐브로 이루어진 살인 공간에서 탈출하는 방법의 단서는 각각의 큐브 입구마다 새겨진 숫자에서 소수를 찾아내는 것이다.

영화 <큐브>에서 스스로 배열을 이동시키는 공간을 창조해 낸 인물이 누구인지를 밝혀내는 것은 중요하지 않다. 경찰 쿠엔틴(Quentin)과 건축설계사 워스(Worth)의 대화를 곱씹어보면, 이 큐브의 음모자나 창조자를 아는 것은 감독이나 감상자 모두에게 큰 의미가 없는 일로 보인다. 그렇기에 쿠엔틴이 경찰관답게 “도대체 이런 음모를 만든 이는 누구지?”라고 물었을 때, 한때 이 거대 큐브의 외관 설계에 참여했던 워스가 “음모를 만든 이는 없어요.”라고 대답했던 대목이 의미심장하게 느껴진다. 감독인 빈세조 나탈리(Vincenzo Natali)와 안드레 비젤릭(Andre Bijelic), 그램 맨슨(Graeme Manson)이 공동으로 쓴 각본은 수학을 빌려 철학을 말하고 있다. 그들이 만든 인간 군상을 대표하는 일곱 명의 캐릭터는 영화 속에서 큐브를 벗어날 수 있는 숫자의 법칙을 깨닫지만 서로를 헤치다 큐브에서 생을 마감하고, 자폐증을 앓는 카잔만이 유일하게 빛의 구원을 받는다. 인류가 천체의 비밀을 밝히는 과정에서 신이 감춰둔 수식을 발견하듯이 그들도 외부로 통하는 큐브에 이르는 숫자의 단서가 소수의 해독에 있음을 깨치게 된다. 그것도 많은 소설과 영화, 혹은 현실에서 그렇듯, 자폐 천재(idiot savant)들이 그 주역을 담당하며.

대부분의 책들이 ‘1, 2, 3, 4, 5, 6……’의 양의 정수 순서대로 장이 펼쳐지는 데 반해 ‘2, 3, 5, 7, 11……’의 소수 순서대로 장을 구분한 책 『한밤중에 개에게 일어난 의문의 사건』은 소수가 모든 규칙을 지우고도 남는 숫자이기 때문에 열렬히 사랑한다는 자폐증 소년 크리스토퍼 존 프랜시스 부운의 이야기이다. 자신만의 세계에 갇혀 세상을 자기 방식대로 재편성하는 자폐아 크리스토퍼는 누구의 농담도 이해하지 못하지만, 한편 “논리적이지만, 한평생 생각하더라도 소수가 만들어지는 규칙은 결코 알아낼 수 없기(26쪽)”에 소수를 사랑하고, 자신은 7,506까지의 모든 소수를 기억한다고 자백한다. 또한 크리스토퍼는 자신이 수학을 좋아하는 진짜 이유는 “수학이 문제를 해결하는 것이고, 그 문제들은 어렵고 흥미롭기 때문이며, 또한 끝에는 언제나 정답이 있기 때문(96쪽)”이라고 강하게 믿고 있다. 하지만 그와 학교에서 거의 유일하게 크리스토퍼와 대화를 나누는 지본스 선생님은 “인생의 끝에는 정확한 답이 있는 게 아니기 때문에 수학과는 다르다(96쪽)”고 설명해주지만, 크리스토퍼는 “지본스 선생님이 그렇게 말하는 것은 숫자를 이해하지 못하기 때문(96쪽)”이라고 생각한다.

어떤 일이든 한 가지 사고에 몰두하기 시작하면 해답을 얻을 때까지 궁리하는 크리스토퍼는 이웃집 개 웰링턴이 죽은 사건에 의심과 집착을 보이며 범인을 추리해 나간다. 범인은 뜻밖에도 아버지고, 더구나 지금껏 자신에게 어머니가 죽었다고 둘러댄 것에 분노한 크리스토퍼는 집을 나와 어머니를 찾아 런던으로 떠난다. 자폐증 소년들이 세상 속으로 뛰어드는 것은 결코 쉬운 일이 아니기에, 이야기는 어느 자폐 소년의 자기 극복기로 봐도 좋다. 하지만 작가가 진짜 독자들에게 전하고 싶었던 바는, 비록 애초의 소년의 믿음처럼 인생이 수학처럼 정확한 답을 갖고 있는 것은 아니라 할지라도, 규칙을 결코 알아낼 수 없는 소수처럼 누구나의 삶은 고유성을 갖고 있다는 것이 아닐까? ‘휘트브래드 대상’에 빛나는 이 소설을 읽는 계기로 나는 비로소 소수가 갖는 철학적 신비에 관심을 갖게 되었다.

『박사가 사랑한 수식』에서 밝힌 소수의 매력이 “그것이 어떤 질서 속에서 출현하는지 설명할 수 없(89쪽)”는 데 있다는 추측은 그럴싸하다. “1과 자기 자신밖에는 약수가 없다는 조건을 만족시키면서도 각각은 제멋대로 흩어져(89쪽)” 있는 소수를 찾고자 열광하는 많은 수학자들이 있는 것만 봐도 그렇다. 그리하여 소수가 멀찍이 떨어진 항성들의 거리만큼의 고독을 견딜 줄 아는 영웅적 자질을 태생적으로 갖고 있는 숫자인 것처럼, 수학자들이란 수의 비의를 발견하고자 연구실에 처박혀 지내야 하는 자신들의 신세를 오히려 스스로가 고귀한 소수가 되어가는 수련기로 여기리라. 80분의 기억력에 의지한 채, 수의 정연함을 증명해 보이는 박사 옆에는 낯선 개념을 접하며 조용한 천재의 삶 속에 동요되는 파출부 화자인 나와 나의 아들 루트는, 박사가 가장 완벽한 소수라고 부른 11, 즉, 루트의 열한 번째 생일날 결별하게 된다. 우주 공간에 떠도는 숫자들의 아름다운 리듬과 조화를 알게 해준 박사의 뇌는 가없이 쪼그라들고 말았다. 하지만 박사를 통해 희망을 발견한 화자와 루트는 박사의 행복이 계산의 어려움에 비례하지 않았듯, 이제 자신들의 삶의 즐거움도 시련에 비례하지는 않으리란 것을 깨닫는다. 또한 이들은 증명을 통해 수학이란 꽃을 피우기 위해, 수학자가 일생을 걸고 열정을 투자하는 과정, 그 자체가 갖고 있는 숭고함을 배운다. 소설의 말미에서 양로원에 보내진 박사는 여전히 4B연필을 지니고 있다. 그리고 4B 연필은 소수의 비밀스러운 탄생에 얽힌 사연을 설명하는 데 쓰인다. “모든 자연수를 n이라고 하면, 4n 1이나 4n-1, 이 두 가지 중 하나지. 소수의 숫자는 무한한데, 이 두 가지로 분류돼.(258쪽)”

다시 설명하자면 4B 연필로 우아한 공식을 정립했던 박사, 그가 들어준 예는 이러했다.

“(4x3) 1=13”
“(4x5)-1=19”

지난 삶의 시간들을 돌이켜보니 어쩌다 수학적 천재들을 만날 때마다 나는 심한 주눅이 들었다. 이들이야말로 나와는 다른 행성에서 온 외계인처럼 생각되기도 하고, 심지어 온갖 난해한 수식이 뇌에 이식된 채로 이 지구로 보내진 존재가 아닐까 하는 엉뚱한 공상에 빠지기도 한다. 어쩌면 언젠가 누군가는 단순히 공상으로 치부되던 내 생각이 참명제라며 증명해 낼지도 모른다.

영화 <굿 윌 헌팅> 중에서

수학사의 난제들을 풀이해내는 천재들의 공통점이 무엇일지 궁금하던 차 본 영화 <굿 윌 헌팅>은 윌(맷 데이먼)과 그의 여자 친구 스카일라의 대화를 통해, ‘천재의 직관’을 설명해주고 있다. 상황은 카페테라스에 앉아 유기화학을 공부하고 있는 스카일라를 바라보고 있던 윌이 심심하던 차에 도움을 자청하지만, 스스로 문제를 해결하려고 하는 스카일라로부터 거절당하면서 대화는 이어진다. 스카일라는 누구나 어려워하는 문제를 쉽사리 이해하는 윌을 두고 ‘네 머리가 어떻게 작동하는지 모르겠어.’라며 감탄한다. 이에 윌은 ‘너, 피아노를 칠 줄 아니?’라는 다소 엉뚱한 질문으로 대화를 유도하는데, 요약해자면 이렇다. 베토벤이나 모차르트는 피아노를 보면 피아노를 치고 싶고 악상을 떠올렸지만, 윌 자신은 피아노를 칠 엄두도 내지 못한다며. 하지만 수학 문제라면 생각 없이도 할 수 있다고. 윌의 설명에 따르자면, 결국 수학의 발견도 타고난 천재들의 머릿속에 어느 순간 떠오르는 전광석화 같은 영감의 산물이라는 것이다. 평범하게 태어난 내게는 슬픈 일이지만, 아인슈타인이 난제를 동료들에게 맡겨놓고 자신은 공원 벤치에 나와 앉아 영감을 얻기 위해 하늘을 날아다니는 새들을 보았다는 믿을 수밖에 없는 일화도 떠올려보게 된다.

자신도 수학 석사 학위를 받은 아포스톨로스 독시아디스가 쓴 소설 『사람들이 미쳤다고 말한 외로운 수학 천재 이야기』에도 범재(凡才) 이상의 타고난 천재성을 요구하는 난공불락(難攻不落)의 수학의 성(城)의 고고함에 대한 이야기가 나온다. 수학에서 최고가 되려면 필요한 조건이 다름 아닌 재능이란 사실은 수학이 중요한 화두로 떠오른 21세기 대한민국 젊은이들에게 얼마나 큰 좌절감을 주는가! 하여간 수학에 일생을 투자하려고 덤벼드는 어린 조카에게 하는 수학자의 말을 들어보자. “수학자는 태어나는 것이지 만들어지는 게 아니(53쪽)”다. “만약 네가 부모로부터 수학에 대한 천재적인 유전인자를 이어받지 못했다면 넌 평생 헛수고만 하다가 그저 평범한 인간으로 생을 마감하게 될 거야. 어쩌면 범재는 될 수 있을지 모르지. 하지만 그래봤자 역시 범재일 뿐이야.(53쪽)” 이런 유전학적 결정론을 전하는 책 속의 인물은 수학의 범재로 머문 주인공의 삼촌이다. 하기는 사람이 숨길 수 없는 것이 네 가지가 있다고 하니, 알려진 대로 ‘기침, 돈, 사랑’ 만이 아니라, 거기에 또 하나, ‘수학적 재능’이라는 우스갯소리는 절대 웃음을 유발하지 않는다.

그럼에도 불구하고 나는 수학의 천재들이 요절한 점, 혹은 광인이 되어버린 점을 들어 평범한 나와 우리들의 아이들을 위무하고 싶다. 영화 <뷰티풀 마인드>에서도 다룬 바 있는 존 내쉬. 자신이 이룬 1949년의 균형이론으로 45년 뒤에나 노벨 경제학상을 받은 영예로운 이 수학자는 자신만의 세상 속에서 미쳐버린다. 소련의 스파이들이 자신을 죽이려 한다는 망상에 시달리는 대학자의 결코 정상적이지 못한 삶은 혼자 중얼거리거나 끊임없이 아무 데나 메모를 해대고, 자폐적 성향 때문에 늘 뭔가에 골몰해 있는 모습으로 비춰진다. 점점 자신이 발견하는 수에 빠져, 교정 곳곳에 암호 같은 메시지를 휘갈겨 놓은 이런 사람을 옆에 두고 지켜보는 가족과 친구는 얼마나 외로울까? 아니, 지구에서 지구인으로 살아가지 못하고 외계인 취급을 당하는 수학자 자신은 얼마나 괴로울까? 잡지를 보면서도 패턴을 찾으려 드는 자신에게 느껴지는, 떠나보낼 수 없는 강박증. 그 강박을 잊기 위해 또 다시 빠져들 수밖에 없는 수의 세계. 악순환의 반복이다. 수학에 몰두하다 섭식 장애를 일으켜 병원에 실려간 라마누잔(Srinivasa Ramanujan)이 자살을 시도한 바 있고, 의사들이 자신을 독살할 것으로 의심했던 괴델(Kurt G?del)은 한 달이 넘도록 일체의 식사를 거부하다 결국 영양실조로 세상을 떠났다는 사실은 널리 인구에 회자되고 있다. 정신병원에서 생을 마감한 칸토어(Georg Cantor). 이들 천재들의 개인적 삶은 정수론, 집합론과 무한론의 확립에도 불구하고, 참이지만 증명이 불가능한 식처럼 덧없이 묻혀버렸다.

알베르트 뒤러의 <멜랑콜리아 1>, 1514년

또 다른 수학자에 대한 온갖 오해 중에는 그들이 고독한 인간이라는 편견이 놓여있음 역시 부인할 수 없다. 독일 르네상스 시대 최고의 화가이자 동판화가로 널리 알려진 뒤러의 대표작 <멜랑콜리아 1>은 도상학적 해석이 덧붙여지지 않으면 제대로 이해할 수 없다. 그래서인지 르네상스 시대에 제작된 이 작품은 20세기를 통틀어 가장 뛰어난 도상학자로 평가받은 파노프스키에 의해 분석되었다고 한다. 제목이 상징하는 ‘우울증’이란 뒤러 시대의 ‘멜랑콜리한 증세’를 ‘천재 특유의 광기’로 높이 평가했기 때문에 붙여진 것이다. 마방진, 삼각형과 오각형으로 구성된 다면체, 기하학에 대한 숭배를 뜻하는 저울, 모래시계, 컴퍼스……. 그림 속에 배치된 수학을 연상시키는 다양한 매개물뿐만 아니라 뒤러는 열광적으로 수학을 상징했던 예술가였다고 한다. 또한 왼쪽 상단에 드러난 제목 ‘MELENCOLIA I’ 위에는 우울증을 상징하는 동물인 박쥐가 그려져 있고, 제목의 ‘1’은 16세기 유럽 사회에서 하나의 믿음으로 간주되던 예술가의 필연적 우울증을 상징한다고 한다. 작품 오른쪽 상단에 있는, 제작 연대를 넌지시 보여주는 4X4의 마방진은 창의적인 일을 하는 사람들이 머리를 식힐 수 있도록 도와주는 목성을 상징한다고 하다. 왜냐하면 대체로 지적 노동에 종사하는 사람들의 기질이란 토성의 영향을 받기 때문이라나 뭐라나. 하여간 다시 말해 이들에게서 토성의 영향을 누그러뜨리고 그 대신 활기 넘치는 목성의 기운으로 에너지의 재충전이 가능하기를 바라는 뒤러만의 배려의 산물이다.

우울증이 염려된다고, 수학 없는 학교 교육을 꿈꾸는가? 결코 아니다. 나는 수학의 아름다움을 모든 아이들이 향유할 수 있게 되기를, 두려움을 극복하고 수의 오래된 상징들을 발견하기를, 수를 타고 우주 너머를 상상할 수 있기를 희망한다. 따라서 수학의 무용성을 주장하며 수학 교육의 폐지를 외친 문교부 장관과 수학 교육 필요성을 증명한 소년과의 대결로 줄거리를 이끌어간 『수학대소동』은 무척이나 흥미로웠다. 난삽한 설명을 피하고 있는 이 동화책이야말로 수학에 낀 안개를 걷어낸 준다. 영화 <반지의 제왕>이나 <나니아 연대기>에도 수학적 원리가 숨어있고, 놀이동산의 롤러코스터도 수학적 개념을 바탕으로 설계된 것임을 안다면, 아이들은 수학을 가깝게 느낄 수 있다. 흔히 아이들은 자신들이 수학을 왜 배워야 하는지 모르기 때문에 수학을 골치 아프게 생각한다. 손에 잡히지 않은 개념들을 역시 추상적으로 가르치는 어른들 때문에 아이들은 ‘난 수학 못 해.’라고 스스로를 낙오자로 규정한다. 진짜 좋은 스승이라면, 본인 스스로 수학과 씨름해 본 경험이 풍부한 사람이다. 수학 공식을 통해 아이들의 눈높이에서 소통할 수 있으려면, 아이들 세계에서 끌어다 쓸 풍부한 예가 준비되어 있는 사람이어야 하기 때문이다. 나는 인문학을 공부한 사람이고, 오랫동안 수학 알레르기를 갖고 꿈에서조차 수학 문제를 풀지 못해 쩔쩔 매는 사람이었지만, 요즈음 들어 미분이니 적분이니 하는 개념까지 진정으로 이해한다면 설핏 수학적 사고와는 상관없어 보이는 인문학 공부 또한 더욱 깊이가 있으리라는 생각을 자주 하게 된다.

사실, 엄청나게 수학을 두려워했던 나는 수학에 저주라도 걸려서 학교에서 사라지기를 간절히 원했던 철없던 시절을 보냈다. 존 세스카와 레인 스미스 콤비의 『수학의 저주』라는 그림책에서처럼, 반복되는 꿈속에서 나는 문도, 창도 없는 방에 갇혀 평생 동안 풀어도 다 못 풀고 말 엄청난 수학 문제들로 도배된 칠판을 마주하며 분필을 쥐고 덜덜 떨고 있다, 흥건히 베갯잇을 적신 채 악몽에서 벗어나곤 했다. 그림책 속의 주인공 소년은 피보나치 선생님으로부터 이 세상에 있는 거의 모든 것들이 수학 문제로 생각될 수 있다는 말을 듣고, 아침에 눈을 뜨자마자 모든 것을 수학과 연결짓고 마는 병에 걸리고 만다. 이를테면, 콘플레이크를 섞기 위해 냉장고에서 꺼낸 우유를 들고, “1리터는 몇 밀리리터일까?”를 고민하기 시작하고, 스쿨버스를 타고 가는 도중에도 타고 내리는 아이들의 숫자에 신경을 쓴다. 교실에 도착해서도 반 아이들을 보면서, “우리 반에는 손가락이 몇 개 있을까?” “우리 반에는 귀가 몇 개 있을까?” 같은 다소 괴기스럽기도 한 질문을 스스로에게 던진다. 소년은 끊임없이 수학과 연결되는 하루를 견디면서, 결국 수학 때문에 미치광이가 되어 버리지 않을까 걱정하게 된다. 자칫 지루하고 교육적 의도가 전면에 나올 수 있는데도, 『수학의 저주』는 유쾌하게 읽힌다. 독자 입장에서 재미난 장난처럼 보이는 주인공의 고민을 해결하는 것은 독자의 몫이지만, 6면체 큐브를 돌리며 조각을 맞추는 것보다 훨씬 쉽다.

요즈음 나는 수학의 유용성을 어떻게 하면 쉽게 설명하고, 그것의 빼어난 아름다움을 아이들에게 이해시킬 수 있는지 고민 중이다. 그러던 중, “2보다 큰 모든 짝수는 두 소수의 합으로 나타낼 수 있다.”라는 골드바흐(Christian Goldbach)의 추측을 증명해 보일 수는 없을지언정, 소수와 같이 단독자로 살아가는 고독한 우리 인간 존재들이야말로, 짝을 찾아야 한다는 사회적 운명의 필연성을 설명해 주는 철학이 깃든 것임을 깨닫게 되었다. 고대 그리스 인들은 숫자 1을 수가 아니라, 다른 모든 수를 낳는 출산자이고 모든 수의 시작이며 토대라고 규정했다고 한다. 따라서 어머니 1을 품고 자신만을 약수로 취하는 세상의 모든 소수란 홀로 외따로 존재하는 고독한 운명이다. 그 고독에서의 탈출이야 말로, 소수가 만나 짝을 이루는 것이다. 궤변처럼 들릴는지 모르겠지만, 혹자는 태양계 둘레를 칭칭 감고도 남는 큰 소수를 발견하기 위해 홀로 긴긴 밤을 지새운다지만, 나는 이제라도 내 짝이 되어줄 소수를 찾아야 하는 당위를 골드바흐로부터 발견했다. 그런데 나의 쌍둥이 소수는 그 어디에?