"수학은 인간 정신이 낳은 가장 소중한 보물이다"

나는 수학(修學)능력시험과 내신 성적에서 수학(數學) 교과목의 비중을 높이는 것이 훨씬 더 적절하다고 본다. 수학은 탁월한 변별력에다 논리적 사고력을 키우는 데도 그만이지 않은가. 하지만 교육과정 개편을 통해 중·고등학교에서 수학의 비중은 낮아지는 추세다.

지난 4월 15일, 인천 부개3동에 있는 부평 기적의도서관이 마련한, 어른을 대상으로 하는 2007년 연중 특별프로그램 ‘아이들 세상 속으로’의 4월 연사로 초대받아 강연을 했다. ‘책을 왜 읽는가?’를 주제로 잡았는데, 독서교육과 논술시험에 대한 평소의 생각도 이야기했다.

나는 교육당국이 주도하는 책 읽기 교육이 독서의 본질 가운데 하나인 자유로움을 해치지 않을까 우려한다. 억지로 쓰게 하는 독후감은 학생들에게 무거운 짐이다. 초등학교에서 실시하는 독서퀴즈대회는 학부모에게 적잖은 부담이 된다. 논술시험은 수험생이 대학에서 공부할 능력을 판단하는 잣대로 부적합하다.

대입논술은 ‘석사장교제도’다

강연 후, 질의응답시간에 한 어머니가 새 교육과정과 통합논술을 들먹이며 대입논술 당위론을 펼쳤다. 나는 논술시험 대비용 발췌?요약판 읽기의 폐해를 다시금 지적했다. 책과 본격적으로 말문을 틀 무렵, 곶감 꼬치에서 곶감 빼먹듯 하는 식의 독서는 책과 친숙해지는 기회를 차단하기 쉽다. 아울러 입시제도와 상관없이 인문?사회?자연 분야의 책을 골고루 읽으면 된다고 덧붙였다.

보통의 학부모보다 다소 적극적인 논술 옹호론을 주장한 분은 논술학원 강사라는 것이 도서관 관계자의 귀띔이었다. 사교육 시장을 활성화하는 부작용(?)과 너무 긴 답안을 요구하는 등의 출제방식의 문제점은 논외로 하더라도, 대학 갈 때 논술시험을 왜 치러야 하는지 모르겠다.

1986학년도 대입에서 논술시험을 치른 경험자가 보건대, 논술의 ‘화려한 부활’ 뒤에는 ‘석사장교제도’의 성격이 있는 것 같다. 석사장교제도는 1980년대 초반, 석사학위 소지자에게 엄청난 복무단축 혜택을 부여했다. 군사독재자와 그 일당 자제들의 편의를 봐주려고 급조한 제도였다는 설이 유력하다.

그러니까 세칭 명문대에 합격하기에는 실력이 약간 부족한 자녀를 둔, 대학입시 제도를 좌우할 수 있는 일부 인사들이, 그들 자녀에게 조금이나마 유리한 시험 방식을 끼워 넣은 건 아닌지 모르겠다. 대입 논술시험은 공정성에도 심각한 문제가 있다. 대학당국이 제시한 지침과 이를 충실히 따르는 논술학원의 대비책이 상호작용하면서 시험문제와 채점에 반영되기 때문이다.

수학이 정답이다

또한, 논술의 장점으로 내세워지는 것은 ‘속 빈 강정’이거나 설득력을 결여하고 있다. 나는 수학(修學)능력시험과 내신 성적에서 수학(數學) 교과목의 비중을 높이는 것이 훨씬 더 적절하다고 본다. 수학은 탁월한 변별력에다 논리적 사고력을 키우는 데도 그만이지 않은가. 하지만 교육과정 개편을 통해 중?고등학교에서 수학의 비중은 낮아지는 추세다.

서울 모 대학이 2008학년도 정시모집에서 인문계열 지원자에게 수학능력시험 수리 영역에 가중치를 두겠다는 입시안을 발표하자 수험생 다수가 반발하는 것은 그러한 영향으로 볼 수 있다. 어떤 학생은 “왜 인문계 학생에게 수학 실력이 중요한지, 또 그런 결정을 왜 갑자기 했는지 명확히 설명해야 하는 것 아니냐”라며 목소리를 높였다고 한다(<한겨레> 2007년 4월 9일자).

이따금 외신을 타고 전해지는 우리나라 고등학생들의 수학 실력은 세계 10위권을 넘나든다. 하지만 그런 조사결과는 허수에 가깝다. 올해 대학에 들어간 이공계 전공자들의 수학 실력이 형편없다는 ‘수학 기초 실력’ 보고서가 현실감 있다. 한 걸음 양보하더라도 우리 고교생들의 수학 실력은 미지수다.

수학을 사용해 얻은 지식

미국의 응용수학자 모리스 클라인(Morris Kline, 1908-1992)은 과학자로서 보기 드문 재능을 지녔다. “과학자들 중에서 그들의 전문 분야의 복잡함과 풍부함을 일반 독자가 올바르게 이해할 수 있도록 전달하는 능력을 가진 사람은 거의 없다”지만, 그는 예외적으로 그런 탁월한 능력이 있다.

우리말로 옮겨진 그의 책 세 권은 과학교양서 저자로서 클라인의 뛰어난 역량을 잘 보여준다. 클라인의 한국어판 수학교양서 세 권은 주제를 통사적으로 다룬다는 공통점이 있다. 각 권의 주제를 효과적으로 구현하고자 배경지식으로 제시한 수학 발달의 역사적 내용은 더러 겹치기도 하지만, 그리 문제 될 것은 없다.

『지식의 추구춿 수학』(김경화?이혜숙 옮김, 이화여대출판부, 1994)의 주제는 우리가 수학을 사용하여 얻은 지식이다. 그에게 수학은 고대 그리스에서 오늘에 이르기까지 물리적 세계를 연구하는 핵심 도구다.

“이 책에서 클라인은 과학자들이 관찰과 실험의 경험적 방법에 전적으로 의존하는 것에 반해서 우리의 지식을 넓히기 위하여 어떻게 더욱더 수학으로 (관심을) 돌리게 되었나를 자세히 이야기한다. 그는 그리스인들, 갈릴레이와 뉴턴 같은 초기 현대 과학자들, 그리고 20세기의 상대성 이론과 양자론을 다룬다.”(앞표지 글)

수학을 매개로 서양문명사를 명쾌하게 꿰뚫는 클라인은 “주로 외부 세계에 대한 우리의 지식에 심각하게 의문을 제기한 사람들”에게 주목한다. “로크는 수학적 지식이 다루는 관념들이 가장 명백하고 가장 믿을 만한 것이라고 느꼈기 때문에 수학적 지식을 선호하였다.” 또한 “플라톤에게 수학은 단순히 관념적인 것과 감각적인 것 사이의 매개자가 아니었다. 수학적 체계가 실체의 본질에 대한 참된 설명이었다.”

그러면, 수학적 방법의 필수적 요소는 무엇인가? 기본 개념의 도입, 추상화, 이상화(理想化), 연역적인 추론, 부호의 사용 등을 들 수 있다. “수학의 진수는 서구 문화에서조차 보통의 사람들이 전적으로 감각적 지각에 의해서 얻어진다고 믿는 우리의 물리적 세계에 대한 지식을 만들어 내기 위해서 인간의 마음과 추론에 의지한다는 것이다.”

1장에 나오는 감각과 직관의 결함 사례는 퀴즈 문제를 통해 제법 눈에 익숙한 것이다. 하지만 그 높이가 지구 표면에서 1피트인 도로로 지구를 둘러쌌을 때, 도로의 길이가 지구 둘레보다 얼마나 긴지 셈하기는 쉽지 않다. 이를 계산하고자 제시된 전제가 우리의 직감을 흐트러트리기 때문이다.

반지름이 10피트인 정원의 경계선에서 1피트 떨어진 울타리의 둘레는 정원 둘레보다 2π피트 더 길다. 이를 기준으로 도로의 길이에서 지구 둘레를 뺀 것의 직관적인 근사치는, 지구의 반지름은 정원의 200만 배나 되기에, 2,000,000?2π피트라고 생각하기 쉽다. 그러나 “중심이 같은 두 원에서 밖의 원이 안의 원으로부터 1피트 떨어져 있으면” 바깥 원의 둘레는 안의 원보다 언제나 2π피트가 길다. 클라인은 귀납, 유추, 연역 이 세 논법의 차이를 확실하게 설명한다.

“논법의 여러 형태들 중에 연역적인 것만이 결론의 올바름을 보장한다. 1,000개의 사과가 붉기 때문에 모든 사과가 붉다고 결론을 내리는 것은 귀납적 논법이고, 따라서 믿을 만하지 못하다. 비슷하게, 똑같은 재능을 받은 존의 쌍둥이 형이 대학을 졸업하였기 때문에 존이 대학을 졸업할 수 있어야 한다는 논법은 유추에 의한 논법이고, (이것 역시) 분명히 믿을 만하지 못하다.”

연역적 논법은 여러 형태를 취할 수 있어도 결론을 보증한다. “만일 우리가 모든 사람은 죽어야 할 운명이고 소크라테스가 사람이라는 것을 인정한다면, 우리는 소크라테스가 죽어야 할 운명이라는 것을 인정하여야 한다.” 아리스토텔레스의 삼단논법은 이와 관련된 논리의 원칙이다. “연역적 논리는 사실 수학의 소산이다.”

수학으로 짚어본 서양문화사

헬레니즘과 헤브라이즘은 근대 유럽 문화의 젖줄이다. 그 물줄기는 오늘도 서구 문화의 밑바탕에 면연이 흐른다. 번역서를 리뷰하는 방식으로 외국 사상가와 저자의 자취를 살피는 작업을 하면서 그런 점을 실감한다. 유럽과 미주 출신 사상가는 기독교와 떼려야 뗄 수 없는 관계에 있다.

정립이든 반정립이든 그들의 생각은 예외 없이 기독교와 맞닿아 있어 놀라곤 한다. 다시금 놀란 가슴을 쓸어내리던 차에 모리스 클라인의 『수학, 문명을 지배하다』(박영훈 옮김, 경문사, 2005)를 만났다. 어쩐 일인지 책등에 새겨진 원제목(Mathematics in Western Culture)이 한눈에 들어왔다.

수학을 헬레니즘으로 치환해 충격을 상쇄하려던 내 의도는 이내 지레짐작이자 얕은 생각임이 드러났다. 수학자들에게도 기독교의 영향력은 만만찮았던 것이다. 클라인이 수학적 성취가 종교와 사회에 대한 견해를 바꿔 놨다 하면서도 여전히 하느님을 최초의 원인으로 보는 20세기 전반의 미국 수학자 아서 S. 에딩턴과 제임스 H. 진스를 책의 말미에 언급한 것은 단적인 사례다.

그래도 이 책은 진정제 구실을 톡톡히 했다. 아니, 기대 이상의 효과가 있었다. 수학에 대한 오해를 말끔히 씻어 주는 한편, 새로운 시야까지 터 줬으니 말이다. 수학을 억지로 배우던 시절, 우리 대부분의 수학 실력은 보잘것없었다. 당연히 수학은 첫손 꼽히는 싫어하는 과목이었다.

수학의 부담감에서 멀리 벗어나자 상황이 달라졌다. 서평전문지 <출판저널>에 재취업한 2000년 봄, 특집기사를 작성하려고 당시 붐을 이룬 수학교양서를 훑어보다 수학책이 맘에 들기 시작했다. 이후 틈틈이 수학 관련서를 펼쳐보며 수학과 정을 쌓았다. 마침내 이 책을 통해 수학 자체가 좋아졌다.

『수학, 문명을 지배하다』는 수학을 통해 짚어본 서양 철학사고, 과학사며, 문화사다. 또한 수학사다. 600쪽이 넘는 방대한 분량을 제한된 지면에 간추리는 것은 가능하지 않을뿐더러 불필요하다. 다만, 읽으면서 감탄사를 연발했다는 독후감을 밝히고 싶다. 책은 수학에 대한 나의 무지를 일깨우는 것만으로는 모자랐는지 종내는 사물의 이치마저 깨우쳐 주었다.

나는 직각삼각형에서 이웃하는 변의 길이의 비율 중 하나인 사인(sine)의 정의와 원리, 그것의 응용을 이제야 분명히 이해한다. 그러니 더 말해 뭐하랴마는 무한집합에서 양의 정수와 짝수의 개수가 같다는 초한수 개념은 마냥 신기하기만 하다. 수학의 합리적 ‘마술’은 이에 그치지 않는다.

연역적 추론과 양적인 탐구가 수학의 발달을 낳았다는 분석은 그런대로 수긍이 간다. 고도의 추상성이 곧장 유용성으로 직결되는 식의 수학적 방법론의 역설 또한 비현실은 아니다. 하지만 4차원의 세계를 도출하는 차원에 이르면 벌어진 입을 다물 수 없게 된다. 리만 기하학을 다룬 대목에선 개안, 말 그대로 새로운 세계에 눈을 뜬다.

“2005년 학업성취도 평가가 부활된 뒤로 일제고사가 서울 모든 초등학교로 확산된 것으로 확인됐다.”(<한겨레> 2007년 5월 30일자) 1학년에게까지 일제고사를 치르게 하는 학교도 많다고 한다. 그런데 늘 한날한시에 시험을 치렀던 우리는 어찌 그리 수학실력이 형편없었을까! 또 지혜로운 학부모는 자녀에게 ‘고교 수학의 바이블’보다는 수학의 참맛을 일깨우는 책을 우선 접하게 하지 않을까?

불확실한 수학

『수학의 확실성- 불확실성 시대의 수학』(심재관 옮김, 사이언스북스, 2007)의 원제목은 ‘수학, 확실성의 상실(Mathematics: The Loss of Certainty)’이다. “이 책은 비전문가의 눈높이에 맞추어 수학의 흥망성쇠를 다룬다.” 특히, 수학에 닥쳐온 대재앙에 초점을 맞춘다. 수학 기초론을 이야기한다.

19세기 초, 희한한 형태의 기하학과 대수학이 생겨나면서 수학자들은 수학이 진리의 집합체가 아니라는 사실을 깨닫기 시작한다. “수학적 설계가 자연 속에 심겨 있지는 않으며, 설사 심겨 있다고 해도 인간의 수학이 반드시 그 설계를 드러낸다는 보장은 없다는 것이 분명해졌다.” 하여 수학을 면밀히 재검토하던 그들은, 수학의 엉성한 논리를 발견하고는 크게 당혹해한다.

“사실, 수학은 비논리적 방식으로 발전되어 왔다. 비논리적 발전 과정에는 잘못된 증명, 추론의 오류, 부주의로 인한 실수 등, 주의를 좀 더 기울이면 피할 수 있는 것만 포함되어 있지는 않았다. 비논리적 발전 과정에는 개념에 대한 부적절한 이해, 필요한 논리학 원칙이 무엇인지 인식하지 못한 잘못, 그리고 엄밀성이 불충불한 증명 등이 포함되어 있었다.”

다시 말해, 논리적 증명의 자리를 차지하던 것은 직관, 물리적 논증, 기하학적 도형의 사용 같은 것이었다. 『수학의 확실성』 ‘옮긴이 후기’는 수학적 엄밀함이 크게 떨어진다. 수학자 Fraenkel의 이름 표기가 프랑켈, 프랭켈, 프렝켈 등으로 제각각이다. 7과 1/2쪽 분량에서 말이다. 찾아보기는 “프렝켈, 아브라함 A.”이라 돼 있다.

하지만 수학은 여전히 자연을 기술하는 효과적인 도구였고, 19세기 후반 내내 ‘수학의 엄밀화’라는 이름의 운동이 활발하게 진행된다. “오늘날 수학이 처한 난국은 하나가 아닌 여러 개의 수학이 존재한다는 사실, 그리고 여러 이유로 자기 학파의 이론으로는 대립되는 학파의 추종자들을 만족시키지 못한다는 사실 때문이다.”

“가장 잘 다듬어진 물리 쳀론은 전적으로 수학 이론”이기에 클라인은 어떤 수학이 믿을 만한 수학인지 따지는 문제에 관심을 기울여야 한다고 강조한다. 우리는 라디오 전파의 물리학적 의미는 전혀 모르지만 그에 관한 이론을 가지고 라디오를 만들어 냈기 때문이다.

“진리가 실종되고 수학과 과학이 끊임없이 복잡해져만 가고 또 어떤 접근 방식이 옳은지 불확실해지면서 대다수 수학자들은 자연과학을 포기하기에 이르렀다. 그들은 수학, 그중에서도 증명을 안전하게 전개할 수 있는 세분화된 자신의 분야로 후퇴해 들어갔다. 자연과학에서 생겨나는 문제보다 인위적으로 만든 문제에 더 매료되고 있는 실정이다.”

하지만 ‘그래도 지구는 돈다.’ “수학은 완벽한 보석도 아니고 또 아무리 계속해서 닦는다고 해도 모든 흠이 남김없이 사라지지는 않을 것이다. 그러함에도 수학은 감각 세계를 가장 효율적으로 연결해 주는 고리였으며, 그 기초가 공고하지 못하다는 사실을 인정해야만 한다는 점이 당황스럽기는 해도 수학은 여전히 인간 정신이 낳은 가장 소중한 보물이다. 따라서 이를 소중히 다루고 관리해야 한다. 수학은 지금까지 이성의 선봉에 섰고 새로운 결함이 발견된다고 해도 앞으로도 의심할 여지없이 그러할 것이다.”