“저는 컴퓨터비판가가 아니라 사회비판가입니다”

『이성의 섬』(모명숙 옮김, 양문, 2008)은 컴퓨터공학자 요제프 바이첸바움(Joseph Weizenbaum, 1923-2008)이 독일의 저널리스트 군나 벤트(Gunna Wendt)와 가진 회고록 성격의 인터뷰집이다.

지난 토요일, 딸아이가 집에서 가까운 어린이도서관 소장도서를 열심히 빌려봤다는 이유로 상을 받는 시상식에 참석했다. 다 좋았는데 도서관 상임이사의 격려사 중에서 정치색 짙은 한마디가 몹시 거슬렸다. “인터넷정보가 다 정확한 건 아닙니다.” 그걸 누가 모르나! 격려사에서 맥락을 벗어난 표현이라 더 불쾌했다. 그에게 되묻고 싶다. 책에 담긴 정보는 다 정확한가요?

『이성의 섬』(모명숙 옮김, 양문, 2008)은 컴퓨터공학자 요제프 바이첸바움(Joseph Weizenbaum, 1923-2008)이 독일의 저널리스트 군나 벤트(Gunna Wendt)와 가진 회고록 성격의 인터뷰집이다. 베를린의 유대인 집안에서 태어난 바이첸바움은 1936년 식구들과 함께 미국으로 이주해 나치의 유대인 해코지를 피할 수 있었다.

열세 번째 생일날까지 머물렀던 베를린에서 바이첸바움은 위협이나 폭력의 기운을 느끼긴 했지만 특별히 나쁜 체험을 하진 않았다. 나치가 집권하자 그는 루이젠슈테티쉐 레알김나지움을 떠나 유대인 남자학교로 옮겨갔다. 거기서 동유럽 유대인 학생과 금세 친해진 바이첸바움은 그 친구를 통해 동유럽 유대인들의 실체를 접하게 된다.

“그레나디에르슈트라세 주위에 베를린 유대인 게토(ghetto)가 있다는 사실도 알게 되었어요. 그러나 무엇보다 중요했던 것은 유대인의 반유대주의를 알게 되었다는 점이에요. 이를테면 독일 유대인들이 동유럽 유대인들에 대해 반유대주의를 갖고 있었던 거죠.”

모피가공 장인으로 장인자격증을 자랑스러워한 그의 부친 역시 그런 부류였던 모양이다. 그런데 바이첸바움이 짧고 담담하게 회고하는 그의 부친은 평범한 사람으로 보인다. 드러난 약간의 불미스런 행적만으로도 바이첸바움 아버지의 사람됨은 평균적인 수준이거나 그것을 밑돌 것으로 짐작된다.

바이첸바움은 컴퓨터공학계의 이단아다. 내부고발자다. 그렇다고 학계의 주류가 그를 변절자라고 비난한 것 같진 않다. 그가 침묵하는 학자들의 견해를 대변했다고 인정받았으면 인정받았지. “자네, 말 잘했어. 한번은 그렇게 분명히 말했어야 해. 자네가 그걸 말해주어서 기쁘네.” 그러나 동료들의 상찬은 그걸로 끝이었다.

“이 책의 저자 요제프 바이첸바움은 인공지능의 선구자에서 주요한 비판자로 극적 전환을 한 인물이다. 그는 컴퓨터가 가져다줄 편의와 이익을 결코 부정하지 않지만, 인간의 이성과 생명은 결코 기계가 아니며 기계로 대체될 수도 없다고 주장한다.” (뒤표지 글에서)

이러한 그의 이미지에 대한 바이첸바움의 생각은 어떨까? 그는 손사래를 치며 이에 동의하지 않는다. “저는 컴퓨터비판가가 아닙니다. 그런 개념은 아무런 의미가 없어요. 컴퓨터를 비판하는 것으로는 아무것도 시작할 수 없지요. 저는 컴퓨터비판가가 아니라 사회비판가예요. 제게는 우리 사회에서 컴퓨터가 지니는 역할이 중요합니다.”

그는 컴퓨터 자체에 대해 반감이 전혀 없다고 덧붙인다. “오히려 그 반대예요. 컴퓨터가 제게 어떤 의미에서 멋진 삶을 가능하게 해주었음을 고백하지 않을 수 없네요. 또한 저는 컴퓨터가 학교에서 아무런 역할도 하지 말아야 한다고 주장하는 것도 아니에요.”

바이첸바움은 컴퓨터가 우리 사회에 어떤 영향을 미치느냐는 군나 벤트의 질문을 뒤집는다. “제 생각에는 질문을 반대로 해야 할 것 같군요. ‘사회가 컴퓨터와 컴퓨터의 발전, 그리고 컴퓨터의 의미에 어떤 영향을 미치고 있는가.’라고 말이에요. 그러니까 관점을 완전히 뒤집어야 해요.”

그는 어떤 기구나 공구든 그것이 인간 세계에서 지니는 가치는 사회적 상황에 의해 결정된다고 강조한다. “과학이나 기술공학의 자율성을 믿지 않는다.” 그는 “우리가 그냥 그 뒤꽁무니만 따라가면 된다고 생각하지 않는다.” 과학이 사회에 영향을 줄 수는 있어도 사회로부터 영향을 받진 않는다는 식의 생각은 신화일 뿐이라는 거다.

놀라운 것은 “우리 사회에서 컴퓨터는 무엇보다도 군사적 목적에 사용되는 수단”이라는 ‘폭로’다. “저는 컴퓨터가 주로 군대의 수단이라고, 즉 우리의 세계에서는 대량학살의 도구라고 말하곤 했어요.” 또한 컴퓨터공학자들은 이러한 사실을 아주 정확하게 알고 있다는 ‘내부 비밀’을 털어놓는다.

바이첸바움은 “컴퓨터가 제정신이 아닌 우리 사회 안에 편입되어 있다고 말”한다. “텔레비전과 똑같이 말이죠. 모든 것이 이 사회에 편입되어 있어요. 그리고 이 사회는 분명히 제정신이 아니에요.” 우리는 과연 온전한 정신으로 살고 있는지.

“인터넷 덕분에 오늘날 어떤 나라도 더 이상 완전히 차단되지 못한다는 것은 확실해요. 어떤 국가도 보도 금지 명령을 내리거나 국민 전체를 고립시켜서, 어떤 것도 외부로 나가지 못하거나 반대로 들어오지 못하게 할 수 없어요.”

하지만 “정보기관은 주민들에게 공포심을 불러일으켜 이 도구를 거의 사용하지 못하게 만들 수 있어요. 잔인한 독재정권이라면 정보기관을 통해 주민들을 도청하여, 언제 누가 어떤 소식을 어디서 얻는지 알아낼 수 있을 테니까요. 물론 이것이 라디오 송수신기의 경우처럼 쉽지는 않겠지만, 어쨌든 불가능하지는 않아요.”

그러면서 바이첸바움은 “전체주의 국가의 힘과 테러 능력을 과소평가해서는 안 돼요.”라고 경계를 늦추지 않는다. 자신의 베트남전쟁 반대시위 참가를 예로 들면서 전쟁에 반대하는 시위 같은 것은 기본권을 행사하는 시민의 정당한 권리라고 매조지 한다. “기본권은 실행하지 않으면 결국 사라지거든요.”

 

한편, “행위자의 의식과 실제 내용의 엄청난 거리”는 “책임과 무관한 작동에 대한 전제이자 확실한 보장”이다. 폭탄을 투하하는 전폭기 승무원들이나 비디오 게임자만 거리감을 통해 면책을 얻(으려)는 건 아니다. 과학 연구 또한 다를 게 없다. “과학 연구에서도 행위와 결과 사이의 엄청난 심리적 거리를 만들어내는 데 익숙해졌어요.”

예컨대 바이첸바움이 교수로 재직한 미 매사추세츠공대(MIT)에선 군산학복합체의 일원이라는 자괴감을 다음과 같이 변명했다고 한다. “연구비가 펜타곤에서 오는 것은 알아. 하지만 그렇다고 해도 나는 원하는 것을 하거나 그만둘 자유가 있어. 아무도 내게 연구 내용을 지시하지는 못해. 내가 개별적으로 하는 것은 누구도 간섭할 수 없어.”

이런 변명도 들렸다. “내 연구의 결과로 무슨 일이 벌어지는지는 내가 알아야 할 몫이 아냐.” 바이첸바움은 이것을 주제로 인공지능연구자인 허버트 사이먼과 오랜 논쟁을 벌인다. 사이먼의 주장이다. “미국 정부는 대의제 형태예요. 우리는 선출된 의원들에게 과학을 사용하는 결정권을 넘겨줍니다. 그리고 그것이 마음에 들지 않으면, 다른 의원을 선출할 수 있어요.”

과연 그럴까? 그럴 수 있을까? 어쨌거나 바이첸바움은 인공지능에 대해 매우 비판적이다. 인공지능은 하나의 ‘신화’다. “인공지능에서는 인간의 살로 된 기계인간에 대해 말하지 않아요. 오히려 인간이 이 모든 것을 갖춘 로봇에 대해 말하고 있는 거예요.”

그는 인공지능 주창자들이 모두 남자라는 점을, 언젠가는, 주목하길 바란다. “저는 이것이 아이를 낳는 여자들의 능력에 대한 질투라고 해석해요. 자궁에 대한 질투죠. 분명 이것이 가장 본질적이고 궁극적인 동기예요. 언젠가 그 누군가가 이에 대해 연구한다면 무척 기쁠 거예요.”

바이첸바움의 인공지능 비판은 이어진다. 인공지능 무대의 주역들이 지닌 “공통적인 속성은 생물학적인 생명에 대한 경멸에 있어요. 저는 심지어 그것이 생명에 대한 전반적인 경멸을 내포하고 있다고까지 말하고 싶어요.”

또한 그들은 “인공적인 존재들이 인간으로서 기능할 뿐만 아니라 자연의 인간보다 더 완벽하다는 믿음”으로 무장하고 있다. 이건 아기에게 분유가 모유보다 낫다는 그릇된 믿음과 뭐가 다르랴! 따라서 인공지능은 비정상적인 과학이다. 그럴 수밖에 없다.

그런데도 “인공지능의 이념이 전반적으로 그 어디서든 진지하게 받아들여진다는 사실”은 바이첸바움의 지적대로 그저 놀라울 따름이다. “그 이념은 배후에 거의 아무것도 없는데도 인기리에 팔리고 있어요.” 컴퓨터는 ‘계산 능력’이 매우 뛰어난 도구일 뿐이라는 거다. 그러나 이 도구가 가치판단의 대상이 되는 것으로부터 자유롭진 않다.

바이첸바움이 마음을 바꾼 계기는 ‘엘리자(Eliza)’에게 있다. 1966년 그가 개발한 인간과 기계 사이의 자연어 소통을 실현한 컴퓨터 프로그램인 ‘엘리자’는 지나친 반응을 몰고 온다. 예상치 못한 열띤 호응에 프로그램 개발자마저 흠칫 놀란다. 특히 정신과 치료에서 이를 기계적으로 활용하려는 움직임엔 우려를 금치 못한다.

“제 생각은 치료사, 그러니까 도와주는 사람이 개인으로서 대화와 전체 치료 과정에 직접 함께 해야 하고, 그것도 처음부터 그래야 한다는 거예요. 제가 볼 때 만남, 즉 진짜 인간적인 만남이 이루어져야 해요. 치유 과정이 전반적으로 작동될 수 있도록 말이에요.”

바이첸바움은 ‘제정신이 아닌 사회’의 대안으로 ‘이성의 섬’을, 거기에 가 닿는 방편으로는 ‘시민의 용기’를 꼽는다. 그가 말하는 ‘이성의 섬’이란 “선한 것을 행하고 인간적으로 행동하는 것을 목적으로 하는 사람들의 공동체를” 의미한다.

“시민의 용기가 세상을 깊이 감동시키는 사건들과 연관해서만 입증될 수 있다는 것은, 널리 퍼져 있지만 괴롭게도 잘못된 믿음이다. 그 반대로 시민의 용기는 종종 사소한 상황에서 상당한 노력과 대가를 치러야 할 때가 있다. 그런 상황 속에서 직면해야 할 도전은 우리를 엄습하는 불안을 극복하는 데 그 본질이 있다. 우리가 직업적으로 계속 전진하는 것에 대한, 우리 위에 군림하며 권력을 지니고 있는 저들과의 관계에 대한, 우리가 살아가고 있는 현세의 삶을 방해할지도 모를 모든 것에 대한 불안 말이다.”

『컴퓨터 사회, 과연 낙원인가』(이말 옮김, 명경, 1995)는, 부피는 작으나, 1990년대 중반 바이첸바움의 철학을 우리에게 전한 책이다. 그의 주 저서인 『컴퓨터의 힘과 인간 이성』의 앞부분 일부와 대담집 『빙산을 향한 항로-기술의 독재와 개인의 책임』을 우리말로 옮겼다. 대담집은 『이성의 섬』과 내용이 꽤 겹친다.