예스24에서 ‘인공지능’을 입력하면 129권의 책이 검색된다. 그 가운데 2016년 3월 이후 출간된 게 44권이다. 이세돌과 알파고의 역사적 대국이 시작된 것이 바로 2016년 3월 9일이었다. 인공 지능에 대한 책들은 태도 면에서 두 가지로 나뉜다. “새로운 시대를 이해하고 기회를 잡아야 한다.”와 “인공지능의 발전은 결국 인간 문명의 종말이므로 제어되거나 금지돼야 한다.” 이다.

둘 가운데 하나를 고르라면, 인공지능이 가진 문명 파괴적인 속성에 주목하는 게 옳다. 미지의 것과 만날 때에 최악의 가능성을 미리 생각하고 대비하는 게 최우선이기 때문이다. 『파이널 인벤션』은 그런 점에서 가장 적당하다. 하지만, 바쁜 독자에게 한 권만 추천한다면 『인간은 필요 없다』를 뽑고 싶다. 읽는 데에 더 재미 있고 와닿는 사례들을 더 많이 담고 있기 때문이다.

스타트랙과 터미네이터의 인공지능

가장 먼저 인공지능의 성과를 예언한 것은 1950년의 앨런 튜링이었다. 그는 “약 50년 후면 모방게임을 아주 잘하는 컴퓨터를 프로그램 할 수 있게 될 텐데…. 그렇게 되면 실험자들이 5분 동안 질문을 한 뒤에 컴퓨터인지 제대로 가려낼 확률이 평균 70퍼센트 미만일 것’이라고 했다. 일반 독자들이 인공지능을 상상할 수 있게 된 건 아서 클라크와 아이작 아시모프의 소설 덕분이다. 인공지능에 대한 낙관론과 비관론은 이미 이 소설에서도 확실히 드러난다.

아이작 아시모프의 『파운데이션』에서 인공지능은 주인공과 인류를 돕는 주요 캐릭터로 그려진다. 주로 로봇으로 등장하는 인공지능들은 인간보다 오히려 더 선하고 현명하기까지 하다. 아서 클라크는 『2001 스페이스 오디세이』에서 HAL 9000을 그려냈다. 우주비행사들이 작동을 멈추려 하자 HAL 9000은 우주비행사들을 우주선 밖으로 내몰고 탑승자들을 죽인다. 스탠리 큐브릭이 그린 HAL 9000의 빨간 렌즈는 터미네이터 시리즈까지 이어져서 섬뜩한 인공지능의 상징처럼 쓰인다. 인공지능은 단지 상상하는 것만으로도 기대와 우려를 동시에 받았던 셈이다.

프로그램, 1,000조 원을 날리다

인공지능은 특정한 판단 기능을 수행하거나(narrow), 인간 지성과 비슷한 수준으로 사고할 수 있거나(general), 인간 지성을 뛰어넘어서 인간이 상상하기 힘든 수준으로 사고하는(super) 수준으로 나뉜다. 하지만, 이 분류 역시 경계가 모호한 부분이 있다. 애초에 학습능력이야말로 인공지능의 가능성인데, 이는 특정한 판단 기준을 수행하는 데에도 활용돼야 하고 이런 학습을 통해서 인공지능은 인간을 뛰어넘기 때문이다.

이런 사례를 찾기 위해 굳이 미래를 상상할 필요가 없다. 『인간은 필요 없다』는 2010년 5월, 미국 증권시장에서 벌어졌던 일을 사례 가운데 하나로 들었다. 그날 오후 2시 42분 정각부터 5분 동안 다우존스 지수가 9퍼센트 하락했다. 1,000조 원 정도가 주식 시장에서 사라진 것이다. 이런 상황은 시카고 상업거래소가 모든 거래를 5초 동안 중단시킬 때까지 제어되지 않았다. 그동안 투자 프로그램들의 초단기 매매가 증권 거래 전체의 60% 이상을 차지했다.

전세계 대부분의 국가 1년 예산보다 큰 금액이 사라지는 사태는 뮤추얼 펀드 회사의 관리자가 낸 주식 매도 주문에서 비롯된 것으로 밝혀졌다. 특정 조건을 미리 설정하고 프로그램에 매도 주문을 낸 담당자에게는 아무런 실수가 없었다. 다만 그 특정 순간에 매수자가 부족했기 때문에 가격이 가파르게 하락했다는 게 평소와 다른 점이었다. 가속도가 붙으면서 다른 프로그램들도 손실을 줄이려고 했고, 거꾸로 알고리즘에 따라 기회를 잡으려는 프로그램까지 나오면서 상황은 걷잡을 수 없게 됐다. 가장 큰 문제는 인간이 이날 상황의 원인을 알기 위해 전자상거래 내역을 샅샅이 뒤지는 데 6개월이 걸렸다는 점이다. 인간이 만든 것을 인간이 이해할 수 없게 된 것이다.

판단하고 학습할 수 있도록 설계된 인공지능의 활동이 특정 분야에 국한되더라도 우리 생활에 끼칠 수 있는 영향을 막대하다. 그렇다고 ‘도덕적으로 판단할 수 있도록 보완하면 되는 게 아닐까?’ 하는 생각도 지나친 낙관에 속한다. ‘도덕적 판단을 학습하는 게 가능한가?’, 더 중요하게는 ‘도덕적 판단까지 한다고 생각하는 인공지능이 더 위험하지 않은가?’하는 질문에 먼저 대답해야 한다.

인공지능의 도덕과 관련해서 『인간은 필요 없다』에서 다룬 사례 가운데 요즘 가장 화제가 되고 있는 건 자율 주행 자동차일 것이다. 제동 거리가 부족한 상황에서 늙은 부부와 어린 아이 중 어느 방향으로든 핸들을 꺾어야 하는 상황에서 인간이라면 아마 판단을 중지할 것이다. 하지만, 인공지능은 판단할 것이고, 이는 어쩔 수 없이 그동안 윤리학자들이 수없이 논쟁해온 도덕의 영역에 들어서는 것이다.

자율주행차량이 120만 트럭 운전사에 미치는 영향

이미 승용차에도 자율 주행 기능의 일부가 구현돼있고 산업용으로는 활발하게 사용되고 있다. 자율 주행 차량은 피곤하거나 아프거나 주의 집중이 흐트러지지도 않는다. 자극에 대한 반응 시간이 0에 가깝기 때문에 한 데 모여 차간 거리를 몇 센티미터 정도로 유지한 채 줄지어 달릴 수도 있다. 연간 대형 트럭 관련 사고는 27만 3천 건이라고 한다. 자율 주행 차량은 사고 건수를 획기적으로 줄일 수 있지 않을까? 그런데, 2012년 기준으로 미국에서 근무 중인 장거리 트럭 운송 기사는 120만 명이다. 여기에 인공지능에 대한 『인간은 필요 없다』의 고민거리가 있다.

이 책에서 인공지능 활용 업체의 대표격으로 뽑은 기업은 예상 외로 아마존이다. 아마존의 가격 결정, 상품 추천은 인간의 손을 떠났다. 지난 5년 간 아마존의 종업원 1인당 매출 평균은 85만 달러였다. 미국에서 1,300만 명을 고용하고 있는 월마트는 종업원 한 명 당 21만 달러 정도를 판매한다. 매출액이 월마트에서 아마존으로 100만 달러 이동할 때마다 일자리 4개가 잠정적으로 사라진다.

그런데, 인공지능은 계좌도 재산도 가지고 있지 않다. 인간 대신 인공지능이 해낸 일의 대가는 극히 일부의 사업가에게 집중된다. 이대로라면 전체 인구의 1%가 미국 전체 자산의 3분의 1을 가지고 있는 상황은 앞으로 더욱 심화될 수밖에 없다. 제리 카플란이 가장 공을 들여 설명하고 대안을 제시하려 노력하는 지점은 다름 아닌 인공지능의 발전이 가져왔고 앞으로 더욱 심해질 경제적인 구조 변화이다.

녹음기가 처음 발명됐을 때, ‘음악이 아름다움이 변화도 없고 영혼도 없는 기계에 방해 받아서는 안 된다’고 지적한 작곡가가 있었다. 이런 주장은 LP에서 CD, CD에서 다시 디지털로 음원 저장 방식이 변화할 때마다 제기됐다. 제리 카플란에게 인공지능이 가져올 변화란, 음원 저장 방식의 변천와 같다. 이미 변곡점을 지난 인공지능의 발전은 반대하거나 찬성할 안건은 아니라고 단언한다. 하지만, 아직 미래를 바꿀 수 있을 때 충분히 걱정하고 계획해야 한다는 조언을 함께 던진다.

더 읽는다면….

파이널 인벤션
제임스 배럿 저 | 동아시아

『파이널 인벤션』의 전망은 가장 암울하다. 스스로 수리, 복제, 제작할 수 있는 인공지능의 발전이 결국은 인류의 마지막 발명이 될 것이라는 전망이다. 이는 단순히 저자의 상상에서 나온 전망이 아니다. 이미 아주 적은 인원, 노력으로 학습가능한 인공지능을 개발할 수 있는 상황, 특히 10여 개가 넘는 민간업체와 정확히 확인할 수 없는 국가들이 경쟁에 뛰어든 상황이 그 근거이다. 초인공지능을 상상할 때 늘 유일한 인공지능을 상상하지만, 미래는 어떤 의도나 목적으로 만들지는지 통제할 수 없는 초인공지능이 간섭하고 경쟁하는 상황이 될 것이라고 예상한다. 인공지능 개발을 통제하거나 금지할 것을 적극적으로 주장한다. 영화 '터미네이터'의 미래가 그저 공상에 불과하다고 생각하지 않는다면 꼭 읽어봐야 하는 책이다.

SKEPTIC Korea 한국 스켑틱 3호
스켑틱 협회 편집부 | 바다출판사

인간의 사고를 넘어서는 인공지능의 탄생은 컴퓨터의 연산 능력이 인간을 넘어서고, 인공지능의 정보량이 인류 전체의 정보량을 넘어설 때 가능할 것으로 예상된다. 이른바 특이점에 도달하는 것이 가능할지, 또 컴퓨터를 만드는 컴퓨터, 기계를 만드는 기계가 가능할지에 대해서 서로 다른 의견을 가진 전문가들의 글 4편을 싣고 있다. 인공지능을 명확하게 이해할 수 있는 필독서이며, 아직 인공지능에 긴 시간을 쓰고 싶지 않은 독자들에게는 가장 추천할 만한 책이다.

소프트웨어 객체의 생애 주기
테드 창 저/김상훈 역 | 북스피어

전직 동물원 조련사 애나는 게임 업체로 회사를 옮긴다. 블루감마는 애완용 인공지능 디지언트를 개발, 판매한다. 실제 동물을 조련해온 애나의 경험이 가상의 세계에서도 도움이 될 것이라고 생각한 것이다. 디지언트를 구매하고 키우는 '유저'들은 각각 다른 방식으로 애완 인공지능에 애정을 쏟는다. 인공지능을 키우고 교육하는 과정, 결국 '법인화'해서 법적인 주체로 독립시킨다는 아이디어까지 담았다. 공학 전문가가 그리는 미래의 사회상이 현실감 있게 와닿는 한편, 인공지능의 발전에 따른 몇 가지 고민거리도 구체적으로 보여준다.