가장 인간적인 인간 The Most Human Human
브라이언 크리스찬Brian Christian(지음), 최호영(옮김), 책읽는수요일
세상이 빠르게 변하고 있다. 이 변화에 적응하고 더 나아가 선도할 수 있어야 한다. 어쩌면 내 마지막 희망일지도 모르겠다. 이런저런 책을 읽고 이런저런 일을 해오면서, 진짜 변화가 오고 있다는 생각은 이번이 처음인 것같다. 나는 움베르토 에코의 전망대로 포스트모던이 아니라 새로운 중세가 되고 새로운 헬레니즘 시기를 지나 중세로 급격히 빨려들어갈 것이라 여겼다. 기후 위기나 자원고갈, 민족주의와 우파의 득세, 지정학적 위기의 고조는 이를 뒷받침한다고 여겼다. 하지만 AI가 이를 더 가속시킬 수도 있고 반대로 이 흐름을 되돌리거나 진정시킬 수 있을 지도 모른다는 희망을 가지기 시작했다.
그러나 AI는 위험하다. 아도르노와 호르크하이머가 그렇게 경계하던 '도구적 이성'의 결정판이라 할 수 있다. 주어진 알고리즘과 학습 안에서 스스로의 역량으로 판단내리고 행동하게 될 것이다. 그리고 이 행동은 인류의 문화와 가치에 위배될 수도 있다. 이 점이 내가 가장 염려하는 바다. 실제 업무에서도 다양한 방식의 인터페이스를 고민하며 인간과의 원활하고 의미있는 소통 체계를 만들어야 한다고 여기고 있으니, 여러모로 AI는 나에게 많은 질문과 고민을 던지고 있다.
브라이언 크리스찬의 <<가장 인간적인 인간>>은 Gen AI가 나오기 전에 출간된 책이다. 그래서 지금에서 보자면, 일부는 적절하지 않는 내용이 있을 지도 모르겠다. 또한 몇 해 전에 저자는 다른 책을 내기도 했으나, 아직 읽지 못한 관계로, 내 생각과 뒤섞여 전개될 이 글의 일부 내용에도 오류가 있을 지 모르겠다. 그런데 AI가 가지는 여러 다양한 인문학적 질문들에 대해서 저자는 정말 유려하게 기술하고 있다. 벌써 10년이 지난 책이지만, 지금 읽어도 그 가치는 충분하다.
책의 시작은 튜링 테스트 이야기로 시작된다. 이 책의 제목 또한 튜링 테스트를 통해 인간에게 주는 상 이름이다. 그리고 '가장 인간적인 인간' 상을 브라이언 크리스찬이 받았다.
매년 인공지능artificial Intelligence(AI) 학계에서는 이 분야에서 가장 큰 기대와 화제를 몰고 다니는 연례행사가 열린다. 바로 튜링 테스트Turing Test라고 불리는 경기이다. 이 검사의 명칭은 컴퓨터 과학의 창시자 중 한 명인 영국의 수학자 앨런 튜링Alan Turing의 이름에서 비롯되었다. (20쪽)
튜링테스트는 쉽게 말해 과연 컴퓨터가 ‘우리와 같은지’ 아니면 ‘우리와 다른지’를 판별하는 테스트이다. 인간은 그동안 늘 다른 피조물과 구별되는 특별한 지위를 누려왔다. (77쪽)
인공지능이라는 분야가 오늘날과 같은 모습으로 발전하게 된 것은 무엇보다도 앨런 튜링의 1950년 논문 <계산 기계와 지능 Computing Machinery and Intelligence> 덕분이었으며, 그 이래로 튜링 테스트에 대한, 또는 튜링이 원래 명명한 대로 ‘모방 게임Imitation Game’에 대한 논의와 논쟁은 오늘날까지 이어지고 있다. (29쪽)
아마 지금은 큰 의미를 가지지 못할 것이다. 왜냐면 ChatGPT-4가 튜링테스트를 통과했기 때문이다. 심지어 인간보다 더 뛰어난 답변을 하여 도리어 인공지능임이 드러났다는 연구도 있을 정도이다. 그렇다면 현재의 AI를 있게 만든 컴퓨팅의 역사는 언제부터 시작된 것일까.
이는 아마도 19세기에 영국의 수학자이자 철학자인 조지 불Geoge Boole이 논리곱AND, 논리합OR, 논리부정NOT의 세 기본 연산을 결합해 논리학을 기술하는 체계를 고안한 데서 시작되었을 것이다. 여기서 불의 핵심 아이디어는 아무리 복잡한 문장이라도 논리곱, 논리합, 논리 부정으로 구성된 일종의 순서도flowchart를 통해 분석하고 재구성할 수 있다는 것이다. (90쪽)
섀넌은 불의 논리학을 전기적으로 구현하는 것이 가능하다는 사실을 깨달았으며, “모든 시대를 통틀어 가장 중요한 석사논문”이라고까지 불리는 논문에서 그 방법을 설명했다. 이렇게 해서 전자 ‘논리게이트logic gate’가 탄생했으며, 이것은 머지않아 발명될 연산처리기processor의 기초가 되었다. 또한 섀넌은 수(數)를 불의 논리학으로 표현할 수 있음을 보여주었다. 다시 말해 각각의 수는 그 수에 포함된 수들, 특히(1, 2, 4, 8, 16 … 같은) 2의 제곱에 대한 일련의 참 또는 거짓 문장으로 표현될 수 있다. 3은 1과 2를 포함하지만 4, 8, 16 등을 포함하지 않는다. 5는 4와 1을 포함하지만 2를 포함하지 않는다. 또 15는 1, 2, 4, 8을 포함한다. 따라서 불의 논리 게이트는 이런 수들을 논리적 참들과 거짓들의 묶음으로 다룰 수 있게 해준다. 이렇게 수를 표상하는 체계는 섀넌이나 불에 대해 한 번도 들어본 적이 없는 사람들에게도 익숙한 것이다. 이것이 바로 이진법binary이기 때문이다. 이렇게 스물한 살의 클로드 섀넌이 쓴 석사논문은 연산처리기와 디지털 수학digital mathematics 모두의 기초가 되었다.(91쪽)
책 내용을 그대로 옮기긴 하지만, 이것이 어떻게 발전해 현재에 이르게 되었는가를 알기 위해선 쉽지 않아 보인다. 최근 뒤늦게 수학 공부를 하고 있지만. 예전엔 대부분의 지식을 한 사람이 습득할 수 있는 수준이었다. 그래서 철학자는 과학자였으며 수학자였고 작가였으며 시인이기도 했다. 그러나 지금은 전혀 그렇지 못하다. 이 책을 쓴 브라이언 크리스찬은 다행히 철학과 공학을 동시에 공부해 이런 책을 쓸 수 있었지만.
인간으로 존재한다는 것은 어떤 인간으로 존재함을 의미한다. 다시 말해 그것은 어떤 삶의 역사와 독특한 개성과 관점을 지닌 특별한 개인으로 존재함을 의미한다. 오늘날 인공지능의 발전은 지능이 있는 기계와 인간을 가르는 경계선이 이렇게 ‘잡탕으로 구성된 정체성’을 통해 허물어질 수 있다고 주장하는 듯하다. 그러나 ‘개인주의’가 그렇게 발달했다는 나라에서 우리가 종종 이렇게 생각하고 행동한다는 것은 매우 이상한 일이다.(61쪽)
그러나 양식적인 측면에서 AI에게 개성을 부여할 수 있다. Character AI가 대표적인 서비스가 될 것이다. 실은 여러 문제가 생겨, 다양한 검열이 적용된 지금, 예전만큼은 아니지만, 이러한 제한이 없다면 우리는 AI 캐릭터가 실제 사람이라고 여길 것이다. 그런데 정말 인간적이라는 것이 무엇일까.
‘협력 눈 가설 cooperative eye hypothesis’에 따르면, 인간처럼 눈에 잘 띄는 공막의 이점은 다른 사람이 어느 쪽을 바라보고 있는지를 멀리서도 쉽게 알 수 있다는데 있다. 막스 플랑크Max Planck 진화인류학연구소의 마이클 토마셀로가 2007년에 발표한 연구에 따르면 인간의 가장 가까운 사촌인 침팬지, 고릴라, 난쟁이침팬지 등은 상대방의 머리가 향하는 쪽을 좇는데 반해 인간의 유아는 상대방의 눈이 향하는 쪽을 좇는다고 한다. 이렇게 볼 때 상대방의 눈을 바라보는 것은 실제로 인간에게만 가치 있는 독특한 행동일지 모른다. (98쪽)
저자는 철학과 역사를 이야기한다. 아리스토텔레스를 이야기하며 근대 철학자들을 언급한다. 그러나 이 부분은 시사적이진 않다. 호소력이 없다. 나는 인문학의 죽음은 현대 과학의 성과를 등한시한 인문학자들의 태만이라고 생각한다. 물리학과 교수였던 앨런 소칼이 현대 철학자들의 책들을 언급하며 <<지적 사기>>라고 지적한 것도 이러한 게으름, 지적 무능력의 한 사례가 되지 않을까. 도리어 바로 이어지는 우반구, 좌반구에 대한 설명이 무척 흥미로웠다.
“신경학과 신경심리학의 전체 역사는 좌반구 연구의 역사라고 볼 수 있다.” - 올리브 색스Oliver Sacks (100쪽)
좌반구에 대한 연구와 도구적 이성, 컴퓨팅의 역사, 논리적 접근, 계산, 수학 등은 현재의 인공지능을 이해하는 어떤 실마리를 제시한다. 또한 현대 경제학에서 논의되는 '합리적 행위자 모델'도 여기에 해당될 것이다. 그러나
바바 쉬브의 설명에 따르면 진화생물학자들은 이미 1960년대 또는 1970년대부터 다음과 같은 질문을 던지기 시작했다. 만약 감정이 의사결정에 미치는 영향이 그렇게도 해롭고 끔찍한 것이라면, 도대체 감정은 왜 진화했을까? (107쪽)
결국 인간적인 것이 무엇인가 묻기 위해서는 우반구를 이야기해야 하는 것이다. 비합리성, 감정적이고 즉흥적인 영역, 말도 안되는 의사결정들에 대해서 수학적 알고리즘에 기반한 인공지능은 얼마나 대응할 수 있을까. 이 책에서 가끔 등장하는 예술이라는 단어도 여기에 힘을 실어주고 있다.
“우리 시대의 가장 큰 문제점 가운데 하나는 속도를 낼 수 있게 해주는 도구들이 개발되어 있다는 점이다. 그러나 속도와 반복 가능성은 올바른 해결책을 가져다 주지는 않는다. 우리에게 올바른 해결책을 가져다주는 것은 지각perception이다.” - 글렌 머커트 Glenn Murcutt(건축가) (157쪽)
“우리는 체스에서 뭔가 이질적인 것을 찾고 있다. 논리는 미적인 것이다. 이것은 나로 하여금 철학적으로 신경쓰도록 만든다. “ - 아서 비스기어Arthur Bisguier (체스 그랜드마스터) (193쪽)
나는 장소적합성이 일종의 마음 상태, 섬세하게 조율된 감각으로 세계에 다가가는 방식이라고 생각한. 우리가 아침에 잠에서 깨어나는 이유는 오늘이 다른 모든 날들과 비슷하기 때문이 아니라 다르기 때문이다. (160쪽)
한 쪽에서는 우주의 끝을 연구하고, 인공지능은 새로운 세상을 열어보일 듯한 기세로 발전하지만, 한 쪽에서는 명상, 마음챙김을 이야기하고 있다. 나는 이런 풍경을 보면서 AI가 던지는 메시지가 무척 크다고 생각한다. 과연 인간적인 것이 무엇일까. 우리는 AI를 통해서 무엇을 얻길 기대하는 걸까.
7-38-55법칙, 이 규칙에 따르면 우리는 누군가와 소통할 때 상대방에게 전달하고자 하는 바를 55퍼센트는 신체언어로, 38퍼센트는 목소리로, 7퍼센트는 우리가 선택한 단어로 전달한다고 한다. (앨버트 메라비언 Albert Mehrabian이 처음 밝혀낸 의사소통의 요소) (289쪽)
이 법칙이 너무 궁금해서 구글의 제미나이에서 물어보니, 사적인 대화에선 어느 정도 부합하지만, 모든 의사소통에서 이 법칙이 적용되는 것은 아니라고 한다. 그런데 우리는 대화가 말로만 이루어진다고 여기는 탓에, 이메일을 보내고 전화만으로 해결할 수 있다고 믿는다. Chat 기반의 AI 서비스의 한계도 여기에 있다. 내가 AI 서비스에 대해 어느 정도의 제한이나 규제가 필요하다고 여기는 여러 이유들 중에 이것도 포함된다.
“인간은 실존한다. 인간은 무대 위에서 모습을 드러낸다. 그리고 그 뒤에 비로소 자신을 정의한다.” - 사르트르 (224쪽)
이런 의미에서 컴퓨터의 존재이유raison d’etre’은 존재가 본질에 선행하는 것이 인간에게만 고유한 특성이라는 실존주의자들의 주장을 무색하게 만드는 것처럼 보인다. (232쪽)
여기에서의 컴퓨터를 AI로 바꾸면 좋을 것이다. 인류의 방대한 지식과 정보를 습득한 AI는 어쩌면 지적인 수준에선 아득하게 인간을 넘어서게 될 것이다. 그렇다면 이 AI가 열어갈 세상은 어떤 세상이 될까.
나는 미래학자가 아니다. 그러나 어쨌든 미래를 상상해본다면 나는 인공지능의 먼 미래를 천국이나 지옥이 아니라, 일종의 연옥으로 생각하고 싶다. 결함이 있지만 착한 사람들이 영혼을 정화하고 심판을 통해 더 나은 존재가 되어 나오는 곳 말이다. (411쪽)
그 동안 AI에 대해 딱히 관심이 없었다. 이 책 또한 번역 출간되었을 때 구한 책인데, 십수년이 지난 지금 읽었을 정도니까. 하지만, 어쩌면 이것이 기회일지도 모르겠다. 여러모로 개인적으로도 상당한 위기인 상태이기도 하고. 최근 AI에 대한 책들을 집중적으로 읽고 있고 간단한 프로그래밍을 위해 파이썬 공부도 시작했다. 이것이 나에게 어떤 변화를 줄 지 모르겠지만.
위기에 처하는 것이 행운이라고 말하기는 어렵다. 그러나 위기는 적어도 우리로 하여금 행동이 필요하다는 것을 알게 해주고 움직일 수 밖에 없게 만든다. 우리의 능력과 직감이 가장 곤란한 처지에 놓이는 때는 모든 것이 평화로워보여 무엇을 해야 할 지 확실치 않을 때, 또는 굳이 무엇을 할 이유가 없을 때이다. - 게리 카스파로프(223쪽)
