문득 <<낙원추방>>이라는 애니메이션이 떠올랐다. 지금으로부터 한참 미래 어느 날, 인류들 대부분은 디지털화된 채 영생을 얻어 지구 위에 떠있는 시설물에서 살고(시뮬레이션 환경 속에서 원하는 것을 하며 사는 형태), 그렇지 못한 가난한 사람들은 오염되고 황폐화된 지구에서 수명이 정해진 육체 속에서 살아간다는 배경 속에서 인공 육체를 가진 소녀와 그냥 육체를 가진 한 남자의 이야기다. 이미 여러 영화들이 나왔다. 우리의 의식을 디지털화하여 저장할 수 있다는 컨셉. 하지만 이건 정말 어려운 일이다. 과연 인간의 의식이나 사고란 무엇일까, 기억이란 무엇일까. 그것은 실체가 있는 걸까. 아마존 오리지널 드라마로 나온 <<업로드>>도 동일한 배경을 가지고 있다. 사람의 의식(정신)을 디지털화하여 디지털 천국인 '레이크뷰'로 업로드할 수 있다는 발상은 <<낙원추방>>이라는 애니메이션이 가지는 설정도 동일하다. 디지털화한다는 것은 의식을 0과 1로 만들 수 있다는 것(이진법화)인데, 그건 어렵더라도 양자컴퓨팅이 상용화되면 가능할 수 있지 않을까 하는 막연한 생각이 들기도 한다.
AI(인공지능)의 발달 속도는 우리의 예상을 아득히 뛰어넘어, 2025년을 AGI와 피지컬(Physical) AI의 시작되는 해로 보는 견해까지 등장했다. 여기에서 내가 주목하는 것은 피지컬 AI다. 현재 우리가 접하는 AI들은 대부분 LLM/SLM 기반의 모델이다. 언어를 기반으로 하고 있다. 이는 텍스트, 또는 텍스트로 대응가능한 비정형데이터 기반으로만 학습하였으며, 이는 물리적 실체가 없어도 가능한 학습이었다. 그런데 이 언어 기반의 AI 모델이 텍스트를 벗어나 다양한 외부 환경을 인식하고 이를 다른 방식으로 학습한다면, 어쩌면 전혀 다른 형태의 AI로 진화하게 되지 않을까. 이 때 인공지능은 어떤 모습이며, 어떤 패턴으로 의사소통을 하게 될 것인가. 이 때 등장하는 것이 피지컬 AI다. 외부 환경 정보를 수집할 수 있는 다양한 센서들과 카메라를 부착하고 실시간으로 이를 수집, 분석, 학습하여 소통하고 움직이게 되는. 그리고 언어모델 기반의 AGI와 함께 성장한다면, 과연 어떤 변화가 일어날까.
"신경학과 신경심리학의 전체 역사는 좌반구 연구의 역사라고 볼 수 있다"라고 신경학자 올리버 색스Oliver Sacks는 말했다.
"우반구 또는 늘 그렇게 불려왔듯이 '부차minor' 반구가 무시되어온 한 가지 중요한 이유는 좌반구 여러 부위의 손상이 초래하는 효과를 증명하기는 쉬운 반면에 우반구의 상승하는 증후군은 훨씬 덜 뚜렷하기 때문이다. 우반구는 대개 경멸적인 의미에서 좌반구보다 '원시적'이라고 여겨졌으며 좌반구야말로 인간 진화의 진정한 정수라고 여겨졌다. 그리고 이것은 어떤 의미에서 옳은 것이기도 하다. 좌반구는 우반구보다 더 세련되고 더 전문화되어 있으며 영장류, 특히 인류의 뇌에 가장 늦게 생성된 것이기 때문이다. 그러나 다른 한편으로 모든 동물의 생존에 반드시 필요한 현실 인식의 중대한 능력을 통제하는 곳은 우반구이다. 좌반구는 마치 기본적인 동물적 뇌에 부착된 컴퓨터처럼 프로그램과 도식에 적합하게 설계되어 있다. 그리고 고전 신경학은 현실보다 도식에 더 관심이 있었기 때문에, 어쩌다가 우반구의 일부 증후군이 드러나도 그것은 생뚱맞은 것으로 간주되었다." - 브라이언 크리스찬, <<가장 인간적인 인간>>, 102쪽
좌반구(좌뇌)와 우반구(우뇌)는 전혀 다르다. 이성적이고 합리적인, 계산적인 좌반구와 감정적이며 즉흥적인 우반구에서 우리들은 좌반구에 집중해왔다. 그리고 우리가 현재 사용하는 다양한 도구들과 컴퓨터들은 모두 좌반구에 기인한 도구들이다.
(..)다시 말해 좌반구의 활동에 대해 자부심을 갖고 마치 좌반구 안에 우리가 존재하는 것처럼 여기는 것은 결국 우리 자신을 일종의 컴퓨터로 간주하는 셈이다. 우리는 좌반구의 능력을 더 높게 평가하고 장려할 뿐만 아니라 좌반구의 교육에만 초점을 맞춤으로써 사실상 컴퓨터가 되어가고 있는 셈이다. - 브라이언 크리스찬, <<가장 인간적인 인간>>, 103쪽
정말 우리의 의식이 뇌에 있다면, 좌반구만 디지털화될 수 있는 것일까. 우반구는 컴퓨터와는 전혀 다르다. 우반구는 논리적인 언어를 담당하지 않고 비논리적인 은유 같은 문학이나 몸짓, 행동 이런 것들을 관장해서 디지털화하지 못하는 건 아닐까. 아니 아예 불가능하겠지.
합리적 행위자 모델
좌반구에 대한 편향적 태도는 경제학 분야에서도 발견된다. 경제학에서 인간의 감정은 정신의 매끄러운 선체에 들러붙은 조가비 정도밖에 되지 않는다. 의사 결정은 되도록 감정을 억제한 상태에서 최대한 계산적으로 이루어져야 한다. - 브라이언 크리스찬, <<가장 인간적인 인간>>, 103쪽
컴퓨터가 개발되고 작동하는 방식은 전적으로 계산적이다(좌반구적이다). 아무리 AI가 우아한 언어로 묘사를 한다고 해서 AI가 문학이나 시를 이해하는 것이 아니라 여러 선택지들 중에서 확률적으로, 혹은 계산적으로 하나를 선택하여 제시하는 것일 뿐이다. 여기에서 내 생각은 AI Alignment 문제로 이어졌다. 실제 우리의 삶은 계산적인 순간보다 그렇지 않은 순간이 더 많다. 너무 즉흥적으로 결정한다. 또한 즉흥적으로 행한 어떤 결정이 잘된 경우를 경험했을 것이다. 결국 현재의 AI 모델은 모든 영역에서 인간이 공감하고 이해할 수 있는 수준의 의사결정을 내리지 못할 것이다.
바바 쉬브의 설명에 따르면 진화생물학자들은 이미 1960년대 또는 1970년대부터 다음과 같은 질문을 던지기 시작했다. 만약 감정이 의사 결정에 미치는 영향이 그렇게도 해롭고 끔직한 것이라면, 도대체 감정은 왜 진화했을까? 만약 감정이 그렇게 나쁜 것이라면, 우리는 지금과 다르게 진화했어야 하는 것이 아닐까? (...) "감정은 훌륭한 의사결정을 위해 불가결하고 근본적으로 중요한 것이다." - 브라이언 크리스찬, <<가장 인간적인 인간>>, 107쪽
결국 우리는 이성적인 접근이 아니라 감정적인, 감성적인 접근을 버릴 수 없었으며, 그것의 가치를 새롭게 깨닫고 있는 중이다. 하지만 컴퓨터의 구조와 논리는 그렇지 않다. 따라서 아무리 AGI의 시대가 온다고 하더라 수학적 모델로 결정내릴 수 없는 어떤 질문 앞에선 머뭇거리며 혼란스러워 할 것이다.
최선의 객관적 선택이 존재하지 않는 경우에, 또는 그저 주관적인 변수들만 존재하고 그것들 사이의 절충과 균형을 모색해야 하는 경우 우리의 마음이 합리적이기만 한다면 우리는 그 자리에서 마비될 수 밖에 없을 것이다. 쉬브가 '의사 결정의 딜레마'라고 부르는 이런 경우의 예로는 항공권 구매, 집 장만 같은 것들이 포함될 것이다. 또한 쉬브는 '배우자 선택'이나 데이트도 마찬가지라고 말한다. 이런 경우에는 추가 정보도 별 도움이 되지 않는다. 두 개의 건초 더미 사에서 어느 쪽으로 갈지 결정하지 못해서 결국 굶어 죽었다는 당나귀의 우화가 말해주듯이 이런 경우에 중요한 것은 단순히 '옳은' 것이 아니라 자신의 선택에 만족할 수 잇는가, 그래서 의사 결정의 딜레마에서 벗어날 수 있는가의 문제이다. - 브라이언 크리스찬, <<가장 인간적인 인간>>, 108쪽
그런데 피지컬 AI로 오면 달라지지 않을까 하는 생각이 들었다. 다양한 센서들과 입력/수집 장치(카메라 등)로 인해 외부 세계의 다양한 활동들을 수집하고 이를 학습하여, 언어모델 기반의 AI와는 다소, 혹은 전혀 다른 인공지능 모델로 나아갈 수 있지 않을까 하는 생각이 들었다. 기존에 학습하던 정형 데이터들, 그리고 언어 기반으로 정형화 가능했던 비정형 데이터들이 아니라 더 복잡하고 다양하며 변화무쌍한 비정형 데이터들을 물리적인 접점을 가지고 수집하고 학습하게 된 AI 말이다. 아마 그 때쯤 되면 우리는 전혀 다른 접근 방식으로 인터페이스하게 되지 않을까.
튜링 기계와 신체 포기각서
신체와 영혼의 문제가 컴퓨터 과학과 어떤 관련이 있을지에 대해 무척 궁금했던 나는 뉴멕시코 대학교와 산타페 연구소의 인공 생명 분야 교수인 데이브 애클리Dave Ackley에게 전화를 걸었다. 그러자 그는 다음과 같이 말했다. "제 생각에는, 그리고 이것은 제가 장담하는 것이기도 한데요. 폰 노이만von Neumann과 튜링, 그리고 애니악ENIAC의 연구자들이 기계를 만든 이래로, 그들이 사용한 모델은 의식적 정신conscious mind의 모델이었어요. 의식적 정신이란 외부 세계와 전혀 교류나 소통을 하지 않은 채로 오로지 의식적 사고를 통해서만 상태의 변화가 일어날 수 있는 것이었지요. 그래서 특히 계산이라는 것은 세계를 알지 못하는 상태에서 진행되는 것이었고, 이런 정신이 신체를 가지고 있다는 점도 고려되지 않았어요. 이렇게 계산은 매우 실제적인 의미에서 말 그대로 탈신체화된disembodied 것이었지요. 결국 우리는 컴퓨터가 발명된 이래로 늘 컴퓨터한테서 일종의 신체 포기 각서를 받은 셈입니다. 이 각서는 아직도 유효합니다." - 브라이언 크리스찬, <<가장 인간적인 인간>>, 112쪽
위에서 언급한 <<낙원추방>>이라는 애니메이션도 이 아이디어를 가지고 있는 셈이다. 지구 위 시스템에서 사는 이들은 외부 세계와 교류없이 의식 속에서만 머물 뿐이다. 하지만 디지털화 가능한 영역에 해당될 뿐, 그렇지 않은 영역은 아직도 너무 많다.
나는 이제 우리 인간이 컴퓨터에게 신체를 되돌려주기는커녕 우리 스스로도 신체 포기 각서를 쓰지 않을까 하는 의심이 든다. 감각을 불신하는 플라톤적이고 데카르트적인 전통 속에서 우리가 컴퓨터를 만드는 이유는 우리 자신이 점점 더 컴퓨터를 닮아가려는 의도와 결부되어 있는 듯하다. 이렇게 볼 때 컴퓨터는 우리가 우리 자신한테서 받은 신체포기 각서와도 같다. 실제로 몇몇 사상가들은 미래 컴퓨터의 발전이 인간에게 커다란 비약의 기회를 제공할 것처럼 이야기한다. 컴퓨터과학자 레이 커즈와일Ray Kurzeil은 2005년 발표한 책 <<특이점이 온다The Singularity is Near>>에서 우리가 신체를 벗어버리고 정신을 컴퓨터에 업로드함으로써 탈신체화된 가상 세계에서 영생을 누릴 미래의 이상향을 이야기한다. 그야말로 해커들의 천구인 셈이다.
애클리가 지적했듯이 기계적 계산에 대한 전통적 연구들은 대부분 역동적이고 상호작용적인 체계 또는 실제 세계의 데이터를 실시간으로 통합할 수 있는 체계와 거리가 먼 것이었다. 실제로 튜링 기계, 폰 노이만 체계같은 컴퓨터의 이론적 모형들은 의식적이고 냉정한 사고라는 인간의 이상을 재현해 놓은 것처럼 보인다. 이와 관련해 애클리는 다음과 같이 말했다. "폰 노이만이 설계한 기계는 우리가 가지고 있는 '의식적 정신'의 이미와 같아요. 그것은 정신의 작업을 많은 기본 단위들로 쪼개서 하나하나 연산처리하는 것과 같지요. 그러나 실제로 뇌는 이렇게 작동하지 않아요. 이따금 우리의 정신이 이렇게 작동할 뿐이죠."
그 뒤에 나는 매사추세츠 대학교의 이론컴퓨터과학자 하바 시겔만Hava Siegalmann과 대화를 나누었는데, 그도 비슷한 이야기를 했다. "튜링은 (수학적으로) 매우 영리한 사람이었고, 그가 제안한 튜링 기계는 무엇보다도 수학자를 묘사하고 있어요. 이것은 우리가 어떤 문제를 푸는 방식을 모형화한 것일 뿐이고요. 우리가 어머니를 알아보는 방식을 모형화한 것은 아니지요." 이 후자의 문제는 색스가 주장하듯이 '우반구'가 처리할 문제다. - 브라이언 크리스찬, <<가장 인간적인 인간>>, (112쪽 ~ 113쪽)
최근 AI에 대해 이런저런 자료를 보며 공부 중이다. 아마 올해 내내 이럴 듯 싶다. 브라이언 크리스찬의 <<가장 인간적인 인간>>은 인상적인 시사점과 질문을 던져주었다. 그의 다른 책들도 읽어볼 예정이다. 번역된 건 2권 밖에 없지만.
