"인공지능 분야의 고전 읽기"의 두 판 사이의 차이
red
(→②뇌의 원리) |
(→과제원고 : 길혜빈, 윤석만, 임예찬) |
||
| 32번째 줄: | 32번째 줄: | ||
====='''과제원고''' : [[길혜빈]], [[윤석만]], [[임예찬]]===== | ====='''과제원고''' : [[길혜빈]], [[윤석만]], [[임예찬]]===== | ||
| − | < | + | <br/> |
======'''생각이란 무엇인가'''====== | ======'''생각이란 무엇인가'''====== | ||
2020년 4월 4일 (토) 17:27 판
목차
앨런 튜링의 논문을 토대로 더글러스 호프스태터의 논문 읽기
요구사항
|
앨런 튜링의 「계산기계와 지능(1950)」의 내용을 토대로, 더글러스 호프스태터의 「인공지능:회고」의 내용을 분석 및 요약·정리할 것. 튜링의 「계산기계와 지능(1950)」은 〔앨런 튜링 지음/노승영 옮김, 『지능에 관하여』, 에이치비프레스, 2019, 65-112쪽.〕을, 호프스태터의 「인공지능:회고」는 〔더글라스 호프스태터 지음/박여성·안병서 옮김, 『괴델, 에셔, 바흐』, 까치, 2017, 812-869쪽.〕을 기본 원고로 할 것. | 
|
과제원고 : 김웅기, 김태형, 장민주
(내용 작성)
앨런 튜링의 논문을 토대로 잭 코플랜드의 논문 읽기
요구사항
|
|
앨런 튜링의 「계산기계와 지능(1950)」의 내용을 토대로, 잭 코플랜드의 「기계는 생각할 수 있을까」의 내용을 분석 및 요약·정리할 것. 튜링의 「계산기계와 지능(1950)」은 〔앨런 튜링 지음/노승영 옮김, 『지능에 관하여』, 에이치비프레스, 2019, 65-112쪽.〕을, 코플랜드의 「기계는 생각할 수 있을까」는 〔잭 코플랜드 지음/박영대 옮김, 『계산하는 기계는 생각하는 기계가 될 수 있을까』, 에디토리얼, 2020, 87-134쪽.〕을 기본 원고로 할 것. |
|
과제원고 : 아슈토시, 이만호, 임연
(내용 작성)
튜링 테스트에 대한 존 설의 입장을 기초로 잭 코플랜드와 레이 커즈와일의 사유 읽기
요구사항
|
|
앨런 튜링의 「계산기계와 지능(1950)」의 내용을 토대로, 잭 코플랜드의 「흥미로운 사례, 중국어 방」의 내용 및 레이 커즈와일의 「존 설의 비판에 대한 반론」을 비교·정리할 것. 튜링의 「계산기계와 지능(1950)」은 〔앨런 튜링 지음/노승영 옮김, 『지능에 관하여』, 에이치비프레스, 2019, 65-112쪽.〕을, 코플랜드의 「흥미로운 사례, 중국어 방」은 〔잭 코플랜드 지음/박영대 옮김, 『계산하는 기계는 생각하는 기계가 될 수 있을까』, 에디토리얼, 2020, 261-296쪽.〕을, 레이 커즈와일의 「존 설의 비판에 대한 반론」은 〔레이 커즈와일 지음/장시형·김명남 옮김, 『특이점이 온다』, 김영사, 2007, 638-654쪽.〕을 기본 원고로 할 것. |
|
과제원고 : 길혜빈, 윤석만, 임예찬
생각이란 무엇인가
①'생각'의 정의
영화 ‘트랜센던스’에서 천재 과학자 윌(조니 뎁)은 인류가 수만 년에 걸쳐 이룩한 지적 능력을 뛰어넘어 자의식까지 갖춘 슈퍼컴퓨터를 개발한다. 그러나 기술발전으로 인류가 멸망할 것이라고 믿는 테러 단체의 공격을 받아 뇌사 상태에 빠진다. 절망에 빠진 윌의 연인 에블린(레베카 홀)은 실험용 원숭이의 뇌를 스캔해 컴퓨터에 업로드 했던 사실을 떠올린다. 윌을 잊을 수 없던 그녀는 연인의 뇌를 컴퓨터에 업로드 한다. 윌의 의식이 컴퓨터를 통해 부활한 것이다. 에블린이 윌의 뇌를 스캔한 컴퓨터는 육체만 없을 뿐 생전의 윌과 똑같은 기억과 감정, 성향을 갖고 있다. 그런데 여기서 윌은 인간일까, 컴퓨터일까? 비록 육체는 없어도 정신이 있으니 사람이 맞는가?
테슬라·스페이스엑스의 설립자인 일론 머스크는 트랜센던스를 현실화 할 수 있는 기술을 연구하고 있다. 인간과 컴퓨터를 결합한 ‘뉴럴 레이스(Neural Lace)’ 기술이다. 실제로 그는 2016년 ‘뉴럴 링크(Neural Link)’라는 기업을 만들어 뇌에 컴퓨터 칩을 삽입하는 기술을 연구 중이다. 이 칩은 클라우드 컴퓨터와 연결돼 뇌의 정보를 공유할 계획이다. 만일 ‘뉴럴 링크’의 프로젝트가 성공한다면 트랜센던스는 현실이 될 수 있다.
전통적으로 우리는 인간과 인간이 아닌 것을 구분할 때 생각하는 능력을 떠올린다. 생각은 종종 정신, 또는 영혼으로도 읽힌다. 이때 육신은 정신을 담는 그릇이기 때문에 인간의 본질은 고매한 정신에 있다고 한다. 세계의 많은 종교에서도 신체보다 정신을 더 중요하게 생각한다.
그러나 과학에서 영혼, 정신, 생각은 우리가 생각하는 형이상학적 무언가가 아니다. 뇌 안에서 일어나는 세포들 간의 무수한 화학작용일 뿐이다. 인간의 생각, 그리고 그와 대비되는 기계의 생각이 어떻게 다른지, 혹은 같은지 비교하기 위해선 생각이라는 현상이 뇌에서 어떻게 일어나는지 먼저 살펴봐야 한다. 그런 후에야 앨런 튜링과 존 설, 나아가 레이 커즈와일과 잭 코플랜드의 이론을 이해할 수 있을 것이다.
②뇌의 원리
진화 초기 단계의 생물에겐 뇌가 필요 없었다. 세포의 종류와 형태가 다양해지면서 복잡한 생명체가 나타났고, 이 생명체는 각 세포 간 복잡한 소통을 하기 위해 여러 화학 신호를 보내기 시작했다. 커뮤니케이션이 복잡해지면서 어떤 세포는 메시지를 전달하는 기능을 맡게 됐다. 이들이 발전한 것이 신경세포, 즉 뉴런이다. 뉴런은 어느 한 부분에 있지 않고 신체의 거의 모든 곳에 퍼져 있다. 물론 해파리처럼 근육과 뼈가 없이 뉴런과 같은 신경 체계로만 사는 동물도 있다. 하지만 대부분의 동물은 뉴런이 발달해 있고, 뉴런이 외부 감각을 받아들이는 핵심 기관인 눈과 입, 코 등의 주변에 몰리면서 뇌로 발전했다.
인간의 뇌는 약 800~1000억개의 뉴런으로 이뤄져 있다. 수천조개에 달하는 시냅스라 불리는 신경 연결망을 통해 뉴런 간에 신호를 주고받는다. 즉, 뇌에서는 어느 한순간도 쉬지 않고 이런 화학적 신호들이 오간다. 특히 사람에게는 특히 성상세포란 것이 있어 이것이 고차원적 신호를 담당하는 것으로 알려져 있다. 이런 모든 신호가 조합돼 전체를 이룬 것이 바로 생각이다. 외부 감각에 대한 느낌, 과거에 대한 기억, 어떤 현상에 대한 감정 등이 모두 생각의 틀 안에 있다.
뇌는 크게 세 부분으로 나뉜다. 파충류의 뇌로 불리는 후뇌, 포유류의 뇌로 불리는 중뇌, 영장류의 뇌로 불리는 대뇌다. 후뇌는 본능과 연결된다. 심장이 뛰거나 호흡하는 것처럼 생존과 직결된 영역을 담당한다. 또 죽음과 같은 위협을 감지하고 반응하는 것도 후뇌다. 후뇌는 인류가 포유류로 진화하기 전부터 존재한 아주 오래된 기능을 담당한다. 중뇌는 뇌의 중앙에 위치하는데 주로 감각 정보를 인지한다. 눈과 귀, 입, 손 등을 통해 전해지는 오감을 인지하고 여기에 적절한 행동(근육, 뼈의 움직임 등)을 조절한다. 생존 또는 사냥을 위해 시각, 후각, 청각이 발달해야 했던 포유류는 중뇌가 발달돼 있다. 실제로 진화 초기의 포유류는 후각을 담당하는 뇌의 부분이 발달해 있다고 한다.
뇌의 가장 바깥쪽을 차지하면서 크기도 제일 큰 대뇌는 우리가 보통 생각하는 뇌다. 좌뇌와 우뇌로 나뉜다. 보통 좌뇌는 논리적 사고를, 우뇌는 공감각과 감성 등을 담당하는 것으로 알려져 있다. 대뇌 중 앞쪽에 위치한 부분을 전두엽이라고 하는데, 여기선 주로 언어와 사회성 등을 다룬다. 네안데르탈인과 호모 사피엔스의 가장 큰 차이점은 전두엽에 있다고 한다. 즉, 사피엔스는 언어와 사회성이 뛰어났기 때문에 3만 5000년 전 유럽에서 네안데르탈인과의 싸움에서 이겼다.
그렇다면 우리는 어떻게 생각을 하는가. 과거에 대한 기억, 어떤 사람에 대한 감정 등은 무슨 원리로 저장되는가. 인간의 기억과 감정은 뉴런 하나하나에 저장되는 것이 아니라 뉴런들이 주고받는 패턴 속에 저장된다. 휴대폰 잠금을 풀 때 점 하나하나가 중요한 게 아니라 각 점을 잇는 패턴이 중요하듯 말이다. 그러므로 각각의 기억과 감정은 손가락의 지문처럼 고유의 패턴을 갖고 있다.
1950년 앨런 튜링 이후 인공지능 연구는 한 동안 정체돼 있었다. 1970년대에 미국의 로봇 공학자 한스 모라벡은 ‘모라벡(Moravec)의 역설’을 제기했다. 그는 “인간에게 쉬운 일이 기계엔 어렵고, 기계에 쉬운 일은 인간이 잘 못 한다”고 했다. 예를 들어 자연스럽게 걷고 움직이는 것은 어린아이도 쉽게 할 수 있지만, 로봇에겐 매우 힘들다. 체스와 바둑에선 기계가 이미 인간을 뛰어넘었지만 갓난아이조차 가진 신체적 능력을 기계는 재현하기 어렵다.
이는 생각이라고 부를만한 것에 대해서도 마찬가지다. 컴퓨터는 매우 복잡한 수식을 계산하고 방대한 양의 데이터를 다루는 것은 쉽지만 얼굴을 인식하긴 어렵다. 인공지능이 개와 고양이를 구분하기 시작한 것도 비교적 최근의 일이다. 즉, 인공지능이 지금과 같이 급속도로 발전한 것은 최근의 일이다. 수십년 간 정체됐던 인공지능 기술이 갑자기 발전하게 된 핵심 원인 중 하나는 인공신경망 기술이다. 인간의 뇌처럼 신경망을 연결하는 컴퓨터를 만든 것이다. 인간이 일일이 아날로그 언어를 디지털 언어로 변환해 정보를 입력하는 대신 스스로 학습하도록 했다. 바로 ‘머신 러닝’이다.
놀라운 것은 ‘머신 러닝’의 개념을 처음 제안한 사람이 앨런 튜링이라는 점이다. 1950년에 쓴 「계산기계와 지능」이란 논문에서 ‘아동기계’라는 이름으로 학습하는 컴퓨터를 고안했다. 이제 앨런 튜링의 생각을 살펴보자.
2. 앨런 튜링의 문제제기 「계산기계와 지능」
①흉내게임과 아동기계
튜링의 논문을 요약하면 인간을 흉내낼 수 있는 컴퓨터가 ‘흉내게임’을 통과하면 생각하는 능력을 갖고 있다고 봐야한다는 것이다. 특히 이 컴퓨터는 처음부터 인간 성인과 같은 생각 능력을 갖추기 어려우므로, 어린이 수준의 능력을 가진 ‘아동기계’를 만들어 스스로 학습할 수 있도록 하자는 것이 튜링의 결론이다. 그의 논문은 ‘기계가 생각할 수 있을까’란 첫 문장으로 시작한다. ‘흉내게임’에는 남자, 여자, 질문자 3명이 참가한다. 방식은 간단하다. 질문자는 각각 분리된 공간에 있는 남자와 여자에게 말을 걸어 답변을 듣는 과정에서 누가 남자이고, 여자인지 밝혀내는 것이다.[1]
기계 입장에서 최선의 전략은 최대한 인간처럼 그럴 듯하게 보이려고 노력하는 것이다. 예를 들어 매우 어려운 산식을 문제로 내면, 원래 자신의 능력대로 너무 빨리 답변해선 안 된다. 그런 경우 기계라고 들통 날 것이기 때문이다. 또 “당신은 기계인가”라는 질문에 “당연히 아니다”와 같은 거짓말도 가능하다. 즉, 튜링은 자신이 처음 제기한 질문 ‘기계가 생각할 수 있을까’를 ‘흉내게임을 잘 할 수 있는 상상 가능한 디지털 컴퓨터가 있을까’로 바꿨다. 뒤에서 자세히 살펴보겠지만 이에 대해 잭 코플랜드는 “튜링의 관점이란 ‘컴퓨터가 생각할 수 있는가’ 하는 다소 모호한 철학적 질문을 그저 단순하게 ‘컴퓨터가 튜링 테스트를 통과할 수 있는가’로 정확하고 과학적인 질문으로 대체한 것”이라고 요약한다.[2]
튜링은 논문의 결론에서 생각하는 기계가 성인의 마음을 흉내내는 과정에서 어떤 과정이 그 마음에 이르게 했는지를 다음과 같이 요약했다. ①출생시 마음의 초기 상태 ②마음이 받은 교육 ③(교육이 아닌) 마음이 겪은 경험. 처음부터 성인의 마음보다는 차라리 아동의 마음을 흉내내는 프로그램을 만들고 적절한 교육의 과정 거쳐 성인의 뇌를 얻자고 주장한다.
그 이유는 아동의 뇌가 성인의 뇌에 비해 빈 공책처럼 메커니즘은 별로 없고 여백이 많기 때문이다. 메커니즘이 적으면 쉽게 프로그래밍할 수 있고, 학습의 과정을 거쳐 복잡한 사고를 구현할 수 있게 된다. 튜링은 1950년에 쓴 이 논문에서 “20세기 말이면 언어의 용법과 식자의 여론이 달라져 기계가 생각한다는 말에 거부감이 없어질 것”이라고 예측했고 이는 현실이 됐다.
②생각을 언어로 측정하는 이유
튜링의 이야기를 마무리 짓기 전에 우리는 한 가지 중요한 사실을 짚고 넘어갈 필요가 있다. 튜링 테스트의 요점은 기계와 대화해보고 그 기계가 사람과 별 다른 차이가 없다면 생각하는 능력을 갖춘 것으로 봐도 된다는 것이다. 즉, 인간과 비슷한 언어능력을 갖고 있으면 생각하는 존재로 봐도 무방하다는 이야기다. 여기서 가장 중요한 전제는 ‘생각=언어능력’이라는 것이다. 이 명제가 참이 아니면 튜링테스트의 결과는 무용하다. 그렇다면 생각이 곧 언어능력인 이유는 무엇인지 따져봐야 한다.
인간의 머릿속에 일어나는 생각이라는 과정은 크게 2가지로 이뤄진다. 첫째는 감각을 통한 것이다. 듣고 보고 맡고 느끼는 것인데, 그 중에서도 가장 기본은 시각이다. 퇴근 후 저녁으로 무엇을 먹을까라는 생각을 한다고 치자. 매콤한 김치찌개를 먹을 수도 있고 깔끔한 샐러드를 택할 수도 있다. 머릿속의 생각은 김치찌개와 샐러드의 이미지, 맵거나 달콤한 소스의 향 등이다. 이처럼 단순한 생각은 시각을 중심으로 청각, 후각 등의 감각이 더해져 이뤄진다.
그런데 이번엔 다음 주에 어떤 보고서를 쓸까 하는 생각을 한다고 치자. 물론 하얀 종이와 컴퓨터 자판이 떠오를 수 있지만, 주된 생각은 언어를 매개로 하게 된다. 이미지와 동영상, 나아가 냄새와 촉각 등의 역할은 크게 줄어든다. 언어가 있어야 개념을 정의할 수 있고, 개념이 밑바탕 돼야 논리와 추론이 가능하다. 인간만이 할 수 있는 고차원적인 사고의 본질은 언어라는 것이다. 20세기의 철학자들이 인간 사고의 본질을 탐구하면서 언어 분석에 집중했던 이유도 그 때문이다.
이처럼 언어가 달라지면 생각도 달라진다. 예를 들어 영어권에 있는 사람과 한국어 문화권에 있는 사람은 기본적으로 생각의 틀이 다르다. 대표적인 게 높임말·낮춤말이다. 한국어는 말 자체로 위계서열이 나뉜다. 높임말을 쓰는 사람과 낮춤말을 쓰는 사람에 누구냐에 따라 권력구조가 형성된다. 그러나 영어는 여기서 자유롭다. 어린 소년과 나이 든 할아버지가 대화를 한다고 치자. 이들은 서로 이름을 부르며 대화하고, 서로를 친구라 부르기도 한다. 우리처럼 말을 통해 위계구조가 생기고, 관계가 수직적으로 결정되지 않는다. 최근 여러 기업들이 임직원 간에 영어 이름을 부르고 서로 존댓말을 쓰는 것도 그런 이유에서다.
말의 어순도 생각에 영향을 미친다. 예를 들어 우리말은 ‘나는 너를 사랑해(주어 목적어 동사)’지만 영어는 ‘I love you(주어 동사 목적어)’다. 우리말은 나의 감정 뿐 아니라 너와의 ‘관계’를, 영어는 너를 이야기하기에 앞서 나의 감정을 우선시 한다. 영어권 사람들이 자신의 생각을 솔직하게 표현하고 감정을 나타내는데 익숙한 이유도 이런 영향이 크다고 볼 수 있다. 이처럼 언어가 생각의 전부라고 볼 순 없어도 언어가 생각의 상당 부분인 것은 분명하다. 그런 이유에서 마르틴 하이데거는 “언어가 존재의 집”이라 했고, 루드비히 비트겐슈타인은 “내가 아는 언어의 한계가 내가 사는 세상의 한계”라고 했다.
3. 존 설의 ‘중국어 방’
미국의 철학자 존 설은 「마음, 뇌 그리고 과학」에서 ‘중국어 방’이라는 논증을 통해 생각하는 기계는 말이 안 된다고 일축했다. 튜링의 주장을 정면 반박한 것이다. 「존 설의 비판에 대한 반론」, 「흥미로운 사례, 중국어 방」에서 제시한 레이 커즈와일과 잭 코플랜드의 생각을 읽기에 앞서 존 설의 주장이 무엇인지부터 살펴보자.[3]
중국어 방이라는 곳에는 1명의 사람이 들어 있고 밖에서는 타이핑된 질문지를 구멍으로 집어넣은 후 답변이 나올 때까지 기다린다. 이때 질문과 답은 모두 중국어다. 다만 그 안에 있는 사람은 중국어를 전혀 할 줄 모른다. 그러나 일종의 코드북, 또는 지침서를 통해 질문에 맞는 답변을 짜맞춰 결과물을 내놓는다. 밖에서 보기에 중국어 방에서 나온 결과물은 지능적인 것이라고 볼 수 있다. 중국어로 물었는데 중국으로 답변이 나왔으니 ‘중국어 방’은 중국어를 할 줄 아는구나 하고 생각할 수 있다. 그러나 방 안에 있는 사람은 중국어를 전혀 할 줄 모르고, 글자 역시 구불구불한 그림과 패턴으로만 인식할 뿐이다. 그에게 입출력은 무의미한 기호인 것이다.
존 설은 중국어 방을 컴퓨터로 가정한다. 방 안의 사람이 중국어 질문과 답변은 완벽히 완료했다 하더라도 사실은 중국어를 모르는 것처럼, 중국어로 이야기할 수 있는 컴퓨터가 있다고 해서 그것이 중국어를 이해한다고 볼 수는 없다는 이야기다. 단지 기호를 조작하는 것만으로 언어를 이해하고 생각을 한다고 보면 안 된다는 뜻이다. 설의 이 논증은 큰 파장을 일으켰다. 인공지능 연구자, 또는 인공지능에 관심이 많은 이들은 설의 논증을 ‘바보 같다’고 평가했지만, 그 외의 사람들 중엔 설득력 있다고 느끼는 이들이 많았다. 직관적으로 이해하기엔 그다지 틀린 말이 없어 보이기 때문이다. 그러나 ‘중국어 방’ 논증은 논리적으로 모순된 부분이 많다. 이와 관련해 커즈와일과 코플랜드의 사유를 살펴보자.
4. ‘존 설에 대한 반론’① 레이 커즈와일 「존 설의 비판에 대한 반론」
커즈와일은 설의 중국어 방 논증에 대해 ‘동어반복에 불과하다’고 일축한다.[4] 그러면서 “광합성의 결과로 나오는 산소를 탐지하듯 다른 개체의 주관성도 탐지할 수 있으리라 기대한다”는 것은 말이 안 된다고 한다. 즉 “설은 뇌 과정의 핵심을 파악하지 못했고, 뇌를 모방하는 비생물학적 과정들의 핵심도 파악하지 못했다”는 것이다. 커즈와일의 설명에 따르면 생물학적이든 비생물학적이든 인간 언어를 제대로 이해하지 못하는 개체는 유능한 심문자의 추궁에 금방 정체가 탄로난다. 그러므로 사람처럼 대답을 잘 할 수 있는 프로그램이라면 인간의 뇌만큼 복잡해야한다.
중국어 방 전체는 중국어를 이해한다고 볼 수 있지만, 각각의 세부 요소들에 이해력이 담겨 있진 않다. 이는 사람이 한국어나 중국어, 영어를 쓴다고 해서 각각의 뉴런들이 그 언어를 이해하지 못하는 것과 같다. 커즈와일은 “영어에 대한 나의 이해는 신경전달물질의 강도나 시냅스의 활약, 뉴런 간의 연결 등이 취하는 광범위한 패턴에 있다”고 설명한다. 그러므로 “이런 패턴 인식 시스템에 사용되는 기법들은 생물학적 과정을 역분석해 비생물학적 개체에도 옮겨 심을 수” 있다. 인간의 뇌를 따라한 컴퓨터 프로그램을 만들어 실제 생각하는 인공지능을 개발할 수 있다는 이야기다. 앞서 살펴본 것처럼 인공신경망을 사용한 컴퓨터가 대표적인 예다.
커즈와일은 또 중국어 방 안에 있는 사람은 사실 아무런 의미가 없다고 말한다. 그 사람은 기계적으로 컴퓨터에 입력하고, 출력을 전달할 뿐이다. (코드북을 찾아 질문에 대한 답변을 내놓을 뿐이다) 다르게 말하면 프로그램에 정해진 규칙을 반복적으로 따를 뿐이다. 커즈와일에게 중국어 방 논증에 사용된 사람, 방 등은 꼭 필요한 요소가 아니다. 오직 의미있는 한 가지 유일한 요소는 질문에 대한 답변을 내놓는 컴퓨터(코드북)이다.
이 때 이를 해낼 수 있는 컴퓨터는 ‘완벽한 모방’ 능력을 갖추고 있으므로 중국어를 이해한다고 봐야 한다는 게 커즈와일의 요지다. 이를 해낼 수 있는 컴퓨터는 인간의 깊이와 복잡성을 갖추고 있다고 봐야 한다. 이는 사람도 마찬가지다. 앞서 커즈와일이 “영어에 대한 나의 이해는 신경전달물질의 강도나 시냅스의 활약, 뉴런 간의 연결 등이 취하는 광범위한 패턴에 있다”고 말한 것처럼 설의 논리대로면 인간의 뇌 역시 이해력이 없다는 결론에 도달한다. 뉴런과 시냅스는 그저 기호를 다를 뿐이고 그 어디에도 이들 각자가 중국어를 이해한다고 볼 수 있는 증거는 없기 때문이다.
이에 대해 설은 다음과 같은 반박을 내놓는다. “진짜 사람의 뇌는 일련의 특정 신경생물학적 과정들을 통해 의식을 일으킨다. 의식이란 소화, 젖 분비, 광합성, 유사 분열처럼 생물학적 과정임을 인정하는 것이다. 이런 생물학적 과정을 가능케 하는 생물학 원리를 찾듯, 의식을 가능케 하는 생물학 원리를 찾는 게 옳다.”
커즈와일 역시 재반박을 하는데 요약하면 “이런 놀라운 견해에 대한 근거는 전혀 내놓지 않는다”는 것이다. 즉, 주장만 있고 이를 뒷받침할 수 있는 논증을 하지 않았다는 이야기다. 생물이 이산화탄소를 배출하는 것은 객관적 측정이 가능하지만, 어떤 개체가 의식이 있는지는 객관적 측정이 불가능하다. 오직 추론적 논증으로만 가능하다는 게 커즈와일의 논지다. 그러면서 커즈와일은 ‘생물학적 뉴런도 기계나 마찬가지'라고 말한 설의 논리를 토대로 뇌 역시 하나의 컴퓨터와 같다고 결론 내린다. 다만 지금의 컴퓨터는 인간 뇌보다 훨씬 못 미치는 존재라고 단서를 단다. 그러나 이게 끝은 아니다. 수십 년 안에 인간과 컴퓨터의 역전이 벌어질 것이라고 예측한다. 바로 특이점이다.
5. ‘존 설에 대한 반론’② 잭 코플랜드 「흥미로운 사례, 중국어 방」
존 설의 중국어 방에 대한 잭 코플랜드의 반론 역시 커즈와일의 지적처럼 날카롭다.[5] 철학자이자 논리학자답게 코플랜드는 설의 주장을 먼저 구문론과 의미론으로 요약한다. 그러면서 설 주장의 핵심은 구문론의 숙달만으로는 의미론을 익히기 미흡하다는 것이라고 압축한다. 구문론은 기호조작을 수행하기 위한 몇 개의 규칙을 완전히 익히는 것이고, 의미론은 기호가 진정 의미하는 바를 이해하는 것이다. 구문에 대한 지식 자체만으로는 의미에 대한 지식에 이해하지 못한다는 뜻이다. 그러면서 아랍어에 문장 앞에 Hal을 붙이면 의문문이 되고, 문장의 술어 앞에 laysa를 붙이면 부정문이 되는 사례를 예로 들었다. 문장의 뜻을 이해하지 못해도 의문문과 부정문을 만들 수 있는 것처럼 구문론만으로는 의미론을 충족시킬 수 없다.
이에 대한 코플랜드의 첫 번째 반박은 ‘시스템 반론’이다. 이는 커즈와일의 생각과 유사하다. “방에 있는 사람은 중국어를 이해하지 못해도 그 사람이 포함된 전체 시스템은 중국어를 이해한다”는 것이다. 이는 커즈와일이 인간의 경우 각각의 뉴런과 시냅스가 중국어를 이해하지 못해도 인간은 중국어를 이해한다고 예시를 든 것과 같다.
코플랜드의 두 번째 반론은 시스템 반론에 대한 설의 반박을 먼저 설명한다. 즉, 설은 시스템 반론이 그 시스템이 중국어를 이해한다는 가설을 별도로 논증하지 않고 직관적인 주장만 함으로써 논점을 회피하려 한다고 말한다. 이에 대해 코플랜드는 논점을 회피한다는 설의 지적에는 동의한다. 그러면서 그의 두 번째 반론을 시작한다. 핵심은 “설의 결론이 전제로부터 도출되지 않는다”는 것이다.
코플랜드에 따르면 방 안에 있는 사람이 중국어를 이해하지 못한다는 전제로부터 이 사람을 구성요소로 하는 시스템이 중국어를 이해할 수 없다고 결론내리는 과정이 타당하지 않다. 즉, 전제와 결론 사이에 논리적 연결 고리가 없다는 뜻이다. 쉽게 말하면 중국어 방이라는 시스템이 중국어를 이해하지 못하는 것이라면 그 시스템 자제를 살펴보고 분석해야지, 단지 그 안에 든 사람이 중국어를 이해하지 못하므로 그 시스템 전체가 중국어를 모른다고 결론짓는 추론 방식이 틀렸다는 이야기다. 이는 다음에 설명할 세 번째 반론과 연결된다.
세 번째 반론은 다음과 같은 명제에 대한 부정이다. 설의 중국어 방이 참이려면 ‘어떤 사람이 X를 할 수 없으면, 그 사람의 어느 부분도 X를 할 수 없다’는 전제가 있어야 한다. 이에 대해 코플랜드는 이 전제가 참이라고 여길만한 근거가 전혀 없다고 주장한다.
네 번째 반론은 ‘단순한 기호 조작이 이해를 만들어낼 수 없다’는 설의 주장이 증명되지 않았다는 것이다. 그러나 이 부분에 대해선 코플랜드조차 “내가 이 주장으르 정면으로 겨루고 있지 않은 건 사실이다, 그러나 설의 주장은 마치 누군가에게 10달러를 빌려서 그 사람에게 빚진 10달러를 갚는 것과 같다”고 말한다. 올바른 논증이 생략됐다는 뜻으로 해석된다.
6. 결론
커즈와일과 코플랜드 모두 설의 ‘중국어 방’을 신랄하게 비판했다. 인공신경망을 가진 오늘날의 컴퓨터가 뇌를 모방해 만들어졌다는 측면에서, 뇌 역시 컴퓨터처럼 뉴런과 시냅스 등의 화학작용을 한다는 관점에서, ‘중국어 방’ 논증은 오늘날 큰 설득력을 잃었다. 아마도 설은 기계와는 차별화 된 인간 고유의 무엇을 지키려 했던 것 같다. 이런 그의 관점은 꼭 틀린 것만은 아니다. 인간에게는 기계가 할 수 있는 생각 말고도 또 다른 차원의 생각이 있기 때문이다. 예를 들어 프로이트가 말한 자아와 초자아의 구분 같은 것들 말이다.
여기서는 코플랜드가 쓴 또 다른 글인 「기계는 생각할 수 있을까」의 내용을 중심으로 인간의 사고와 의식 등을 살펴보는 것으로 논의를 끝맺고자 한다. 코플랜드는 “사고와 의식이 항상 함께 가는 것은 아니다”고 말한다. 즉, “우리의 정신 속에서 벌어지는 일들 중 많은 것을 의식하지 못한다고 말한 프로이트처럼 ”우리의 많은 생각과 행동 중에는 ‘의식하고’ 하는 것들도 있고 ‘무의식적’으로 하는 것들도 있다.
특히 뇌의 여러 부분 중 후뇌와 중뇌에서 일어나는 일들과 상당 부분의 정신작용은 “우리가 알아차리지 못한다”는 것이 코플랜드의 설명이다. 그러므로 “인간의 중요한 정신적 활동, 말을 이해하거나 외부 세계를 지각하는 것 등은 비의식적으로 수행될 수 있다”는 논지다. 그렇기 때문에 “튜링테스트를 통과한 컴퓨터를 생각하는 존재라고 부르는 것을 보류한다면 이는 그저 생각한다는 단어를 인간과 우리의 생물학적 친척만 독점하는 것과 마찬가지”라고 볼 수 있다. 이는 “탄소로 구성된 존재보다 실리콘으로 구성된 존재에게 더 많이 붙는 노골적 편견”인 것이다.
결과적으로 기계든 인간이든 모든 사고가 의식적으로만 이뤄지는 것은 아니다. 좀 더 질문을 쪼개보면 기계가 일반 사고와는 다른 의식 능력이 있는지는 지금껏 살펴본 논의보다 더 복잡한 논쟁이 필요하다. 다만 우리가 알 수 있는 것은, 영화 HER에 나오는 것처럼 거의 모든 경우의 수에 대비할 만큼 복잡한 알고리즘을 가진 인공지능은 사람처럼 ‘보통의’ 생각을 한다고 볼 수 있다는 점이다. 커즈와일이 말하는 2045년의 특이점이 어느 정도 수준에 있을 지는 모르겠지만.
주석
- ↑ 출처: 「계산기계와 지능(1950)」〔앨런 튜링 지음/노승영 옮김, 『지능에 관하여』, 에이치비프레스, 2019, 65-112쪽.〕
- ↑ 출처: 「기계는 생각할 수 있을까」〔잭 코플랜드 지음/박영대 옮김, 『계산하는 기계는 생각하는 기계가 될 수 있을까』, 에디토리얼, 2020, 87-134쪽.〕
- ↑ 출처: 「흥미로운 사례, 중국어 방」〔잭 코플랜드 지음/박영대 옮김, 『계산하는 기계는 생각하는 기계가 될 수 있을까』, 에디토리얼, 2020, 261-296쪽.〕
- ↑ 출처: 「존 설의 비판에 대한 반론」은 〔레이 커즈와일 지음/장시형·김명남 옮김, 『특이점이 온다』, 김영사, 2007, 638-654쪽.〕
- ↑ 출처: 「흥미로운 사례, 중국어 방」〔잭 코플랜드 지음/박영대 옮김, 『계산하는 기계는 생각하는 기계가 될 수 있을까』, 에디토리얼, 2020, 261-296쪽.〕