인공지능은 객관적일 수 없다!

1.

최근에 나는 두 권의 과학책을 또 읽었다. 노먼 도이지의 역저(力著) <스스로 치유하는 뇌>(장호연 역, 동아시아, 2018)가 그 하나요, 다른 하나는 야먀모토 잇세이의 <인공지능 개발이야기>(남혜림 역, 처음북스, 2018)였다.

뇌와 인공지능에 관해서는 이미 여러 권의 책을 읽었기 때문에, 두 책을 더더욱 즐길 수 있었다. 어느 한 분야든지 기본지식이 형성되면 그런 이점이 절로 생기는 모양이다.

2.

먼저 인간의 뇌 이야기부터 꺼내보자. 노먼 도이지의 책은 서양의학계의 통설에 반기를 들었다는 점에서 대담하고, 용감한 시도이다. 자, 그럼 통설은 어떤 내용인가? 다음의 두 가지가 특히 중요하다.

첫째, 인간의 뇌는 육체를 지배하는 사령탑이다. 사지를 비롯한 인간의 몸은 모두 뇌의 명령대로 움직인다.

둘째, 뇌는 일종의 하드웨어라는 관점이다. 학자들은 뇌의 운명을 불가역적이라 설명한다. 즉, 육체의 성장이 끝나는 시점부터는 뇌는 서서히 노쇠기로 진입하며, 그 과정은 불가역적이라고 한다. 따라서 뇌에 큰 고장이 생기면, 그것을 근본적으로 고칠 수 없다는 것이 정설이다.

도이지는 이와 같은 통설에 강력한 의문을 제기한다. <스스로 치유하는 뇌>라는 책의 제목대로 뇌는 가소성을 가지고 있다는 것이다.

통설과 달리, 인간의 뇌는 ‘탄력적’으로 대응한다는 말이다. 저자는 뇌의 적응력이 우리의 상상을 뛰어넘는다는 점을 다각적으로 증명하였다. 뇌가 극심한 통증을 멈추게 만들기도 하고, 파킨슨 증후군을 이겨내는 경우도 있다.

뇌와 육체의 관계는 양면적 또는 상호적이다. 도이지는 그 점에 주목한다, 뇌는 몸을 지배하기만 하는 것이 아니라, 몸이 주는 신호에 따라 움직이기도 한다. 적절한 양의 빛과 소리가 뇌에 미치는 치유효과도 대단히 높다. 뇌는 그저 서서히 늙고 죽어가는 하드웨어가 아니라, 상황에 따라서는 얼마든지 자신을 치유하고 재생하는 능력을 가지고 있다. 이것이 바로 도이지가 발견한 새로운 지식이다.

뇌에 관한 도이지의 새로운 인식은 동양의 고전적 지혜에 가깝다. 동양에서는 예부터 육체와 뇌의 상호작용을 믿었다. 목적론과 기계론에 흐른 서양의 의학지식과는 달랐다. 이제 도이지는 서양의학의 한계를 벗어나, 동서양의 지혜를 융합하는 단계에 도달했다. 당장에는 서양의학계가 수용하기 어려운 주장일지도 모르겠다. 그러나 머지않아 어떤 식으론가 동서양의 전통이 하나로 통합될 것이다. 나는 도이지의 책을 읽으며, 그런 생각을 잠시 해보았다.

3.

뇌에 관한 연구 못지않게 많은 현대인들의 관심을 끄는 주제가 ‘인공지능’이다. 야마모토 잇세이는 일본의 전통적인 장기(將棋)인 ‘쇼기’를 연구해, 인공지능 프로그램인 ‘포난자’를 개발한 이다. 그가 만든 프로그램이 일본 최강의 쇼기 프로기사를 번번이 꺾었다. 야마모토는 일본판 알파고의 창시자인 셈이다. <인공지능 개발이야기>는 야먀모토의 경험담을 글로 정리한 것이다.

야마모토는 오랫동안 인공지능을 직접 개발하였기 때문에, 이 책을 읽어보면, 인공지능과 인간의 뇌에 관한 우리의 궁금증이 상당부분 해결된다. 뇌와 인공지능은 다른 듯하면서도 같고, 같은 듯하면서도 다른 것이다.

야마모토의 책을 읽으면서 특히 흥미롭게 생각한 점은 두 가지이다. 첫째, 인공지능의 학습방법은 인간의 그것과 사실상 동일하다는 점이다. 우선은 기계적으로 반복하여 장시간 학습을 계속한다.

그리하여 해당 분야의 지식 양을 일정수준까지 늘린다. 이것이 말하자면 ‘딥러닝’이다. 이 단계에서는 정확한 이해를 바탕으로 지식의 총량을 증가시키는 것이 최우선이다.

그런 다음에는 많은 양의 실전문제를 풀어본다. 딥러닝을 경험한 인공지능은 점차 문제의 패턴도 빨리빨리 이해하고, 주어진 시간 내에 ‘감(感)’을 잡아간다. 사람이나 컴퓨터나 실전을 치르면 문제 해결능력이 저절로 자라난다. 이 과정은 ‘강화학습’이라고 할만하다. 강화학습 과정에서는 지식의 총량이 중요한 것이 아니다. 그보다는 문제의 성격에 대한 진단과 분석이 우선이다. 흥미롭게도, 딥러닝을 거친 인공지능은 강화학습을 통해 가장 효율적인 문제해결방법을 스스로 발견한다.

둘째, 인공지능도 인간과 동일한 윤리관을 공유한다는 점이다. 딥러닝을 통해 수백만 가지 지식을 습득하는 과정에서, 인공지능은 인간의 지식에 녹아있는 윤리적 가치를 수용한다. 지식 가운데는 완전히 가치와는 무관한 것도 있으나, 가치관을 반영하는 것이 대부분이다. 따라서 인공지능도 결국에는 인간과 마찬가지로 판단하고 느끼게 된다.

4.

아마도 머지않은 장래에 인공지능도 인간과 마찬가지로 윤리적 갈등에 빠질 것 같다. 이것은 물론 나의 상상이다. 주로 어떤 지식에 노출되었는가에 따라, 인공지능에도 좌파와 우파가 생길지 모르겠다. 그럼 우리는 좌파는 좌파끼리, 우파는 우파끼리 모여 서로 총질하게 되는 날이 올지도 알 수 없는 일이다. 가치관을 공유하는 인간과 인공지능은 서로 동지애를 느끼면서, 적대세력을 무찌르고자 연대할 것이라니!

인공지능이 인간사회의 영향을 받는다는 사실, 특히 우리의 가치관에 좌우된다는 사실은 작년(2020년) 영국에서 상당부분 증명되었다고 생각한다. 코로나 때문에 대학 응시자들을 일일이 면접하기 어려워지자 인공지능에게 응시자들을 면접하게 하였다. 그랬더니 예상 밖의 결과가 나왔다. 집안이 좋은 학생들만 몽땅 뽑아버린 것이었다. 이 결과에 놀란 대학들이 인공지능의 심사결과를 폐기하고 다른 방법을 사용해서 신입생을 결정하였다고 한다.

또, 어디선가는 인공지능을 이용해서 모의 재판을 하였다. 그 결과도 놀라웠다. 재산이 많고 유력한 사람은 무조건 재판에 이기도록 하는, 즉 "유전무죄"의 원칙을 철저히 적용한 판단이 나왔다.

한 가지 더. 서양 사람들이 인공지능에게 미인 평가를 맡겼다. 그러자 미인으로 뽑힌 사람은 모두 백인 여성뿐이었다. 역시 마친가지로, 서구인의 백인 중심적 사고를 인공지능이 습득한 결과였다.

많은 사람은 인공지능이 모든 문제를 객관적이고 합리적으로 해결해 줄 것으로 기대한다. 하지만 그렇지 못하다는 사실이 드러난 것이다. 이유는 간단하다. 인공지능은 인간이 작성한 기록을 검토하는 가정에서 우리사회의 관행과 그 이면에 깔린 가치관을 체득하기 때문이다. 현실 속의 재판관과 입학사정관은 사회적 강자의 편을 들더라도 적당히 숨길 줄을 안다. 그러나 인공지능은 숨김 없이 드러내고 마는 차이가 있다. 아직 인공지능은 순진하달까 또는 솔직하다고 해야 할까.

5.

우리 사회의 가치를 내면화해, 그것을 주어진 사물에 노골적으로 적용하는 인공지능의 모습을 지켜보면서 마음이 착잡해진다. 문제의 출발점은 우리가 똑바로 살지 못한다는 사실에 있다. 그래서 결국 인공지능의 세상도 결국에는 좌우로 나뉠 것이며, 좌는 좌대로 우는 우대로 인간과 인공지능이 서로 작당하여 대립하는 꼴을 우리는 보게 될 것이다! 

/백승종(역사학자, 전 서강대 사학과 교수, 현 한국기술교육대학교 겸임교수)