문예작품 속 인공지능 들여다보기

〈인문학과 인공지능〉 강의 페이지로 돌아가기

테드 창의 「소프트웨어 객체의 생애 주기」

요구사항

테드 창의 「소프트웨어 객체의 생애 주기」에 대한 비판적 감상. 〔테드 창 지음/김상훈 옮김, 『숨』, 엘리, 2019, 99-248쪽.〕을 기본 원고로 할 것.

---

인물 정보

---

• 테드 창은 미국 브라운 대학교에서 물리학과 컴퓨터 공학을 전공한 과학도이자 ‘전 세계 과학소설계의 보물’이라는 찬사를 듣고 있는 소설가이다. 동시대 과학소설 작가들의 인정과 동시대 과학소설 독자들의 기대를 한 몸에 받고 있는 작가로, 휴고상을 4번, 로커스상을 4번, 네뷸러상을 4번 수상했다.
• 1990년(그의 나이 23세에) 발표한 첫 단편 <바빌론의 탑>으로 역대 최연소 네뷸러상 수상자라는 영예를 안았으며, 이후 발표하는 작품마다 스터전상, 휴고상, 네뷸러상을 휩쓸며 평단과 독자들의 주목과 지지를 받았다. <인류 과학의 진화> <우리가 해야 할 일> 두 작품이 세계적인 과학 학술지 <네이처>에 개재됐다.

• 테드 창의 발표 작품은 다음과 같다.
• 1990 「바빌론의 탑」 (Tower of Babylon) 네뷸러상 수상
• 1991 「영으로 나누면」 (Divided by zero)
• 1991 「이해」 (Understand) <아시모프>지의 독자상 수상
• 1998 「네 인생의 이야기」 (Story of Your Life) 네뷸러상, 스터전상 수상
• 2000 「인류 과학의 진화」 (The Evolution of Human Science a.k.a. "Catching Crumbs from the Table") 과학 저널 네이처 게재
• 2000 「일흔두 글자」 (Seventy-Two Letters) 사이드와이즈상 수상
• 2001 「지옥은 신의 부재」 (Hell Is the Absence of God) 휴고상, 네뷸러상, 로커스상 수상
• 2002 「외모 지상주의에 관한 소고: 다큐멘터리」 (Liking What You See: A Documentary)
• 2002 『당신 인생의 이야기』 (Stories of Your Life and Others) 첫 번째 작품집
• 2006 「우리가 해야 할 일」 (What's Expected Of Us) 과학 저널 네이처 게재
• 2007 「상인과 연금술사의 문」 (The Merchant and the Alchemist's Gate) 휴고상, 네뷸러상 수상. (한국에는 판타스틱 vol. 13에 번역되어 실림. 김상훈 번역)
• 2008 「숨결」 (Exhalation) 휴고상, 로커스상, 영국SF협회상 수상 (한국에는 판타스틱 vol. 21에 번역되어 실렸고, 작품집 숨에서는 '숨'으로 제목이 번경되어 실렸다. 김상훈 번역)
• 2010 「소프트웨어 객체의 생애 주기」 (The Lifecycle of Software Objects) 휴고상, 로커스상 수상
• 2011 「데이시의 기계식 자동보모」 (Dacey's Patent Automatic Nanny)
• 2013 「사실적 진실, 감정적 진실」 (The Truth of Fact, the Truth of Feeling)
• 2015 「거대한 침묵」 (The Great Silence)
• 2019 「옴팔로스」 (Omphalos) (작품집 『숨』에 실림)
• 2019 「불안은 자유의 현기증」 (Anxiety Is the Dizziness of Freedom) (작품집 『숨』에 실림)
• 2019 『숨』 (Exhalation: Stories) 두 번째 작품집

• 이들 중 국내에 번역되어 출간 된 도서는 다음과 같다.

• 『당신 인생의 이야기』(2004년 정발, 행복한 책읽기, 김상훈 번역) / 개정판(2016년, 북하우스 엘리, 김상훈 번역)
• 『소프트웨어 객체의 생애 주기』(2013년 정발, 북스피어, 김상훈 번역)
• 『숨』(2019년 정발, 북하우스 엘리, 김상훈 번역)

• 이들 모두는 테드 창 전문 번역가로 알려진 국내 SF소설 비평가 김상훈이 번역하였다.

---

테드 창의 작품세계

---

• ‘science fiction’이라는 용어가 한국에 '공상과학'으로 번역되어 들어와, 흔히들 sf소설이라 하면 외계인과 우주선이 등장하는 판타지 소설이라고 인식되어 왔다. 그러나 ‘공상과학’이라는 용어를 정정하고 SF를 ‘과학소설’로 부르려는 시도들이 있다. 테드 창이 인터뷰를 통해 직접 밝힌 과학소설에서의 판타지성에 대한 그의 견해는 다음과 같다.

• 테드 창: 에밀 졸라는 소설을 쓸 때 과학적인 방식을 이용해야 한다고 말했다. 내 생각에 SF는 과학 시대의 산물이지만 판타지는 그렇지 않다. SF를 기술하는데 과학적인 사실을 반드시 고수할 필요는 없다. 하지만 과학적인 세계관은 고수해야 한다.

• 그의 작품에는 필요에 따라 판타지적인 요소들이 등장하지만, 테드 창은 과학적 정합성을 특히 중시하는 하드SF 작가라고 할 수 있다. 특히 그는 철학이나 과학철학적 관점에 입각한 사고실험을, 보편적인 공감을 불러일으키는 소설로 형상화하는 것에 탁월하다.

---

소프트웨어 객체의 생애 주기(The Lifecycle of Software Objects)

---

• 「소프트웨어 객체의 생애 주기」는 현재까지 테드 창이 발표한 작품 중 가장 분량이 많은 작품이다. 그는 단편 집필에 짧게는 6개월, 길게는 1년이 넘도록 시간을 들이는 것으로 알려져 있으며, 지금까지 장편 소설을 발표한 적이 없다. 테드 창은 한국에 <소프트웨어 객체의 생애 주기>가 발표되기 이전, 한 인터뷰에서 해당 작품의 집필까지는 2년의 시간이 소요되었다고 이야기 한 바 있다. 그는 「소프트웨어 객체의 생애 주기」를 “가상 애완동물(virtual pet)에 관한 이야기다. 가상 애완동물을 만드는 회사에서 15년 동안 일한 두 명의 남자가 주인공으로 등장하는데 그 둘 간의 관계와 가상 애완동물과의 관계를 다뤘다.” 라고 소개했다.

• 「소프트웨어 객체의 생애 주기」의 줄거리는 다음과 같다.

전직 동물 조련사인 애나는 디지털 애완동물인 ‘디지언트’를 개발한 ‘블루 감마사’에 취직한다. 애나와 그곳에서 일하는 또 다른 직원인 애니메이터 데릭은 ‘데이터 어스’라는 가상세계에서 디지언트인 잭스와 마르코, 폴로를 돌보고 교육한다. 소설은 그들이 각자의 디지언트와 겪는 15년 동안의 육성 이야기이다. 시간이 흐르며 발전하던 디지언트 산업은 어느 순간 사람들의 흥미를 끌지 못하게 되고 잭스와 마르코, 폴로를 비롯한 디지언트들은 끊임없이 존속의 위협을 받는다.

• 우리는 이 이야기의 중심소재인 ‘디지언트 기술’에 대해 이야기할 것이다.

---

‘디지언트’란?

---

• 데이터 어스와 같은 가상 공간에 존재하는 디지털 유기체이다. 그들의 외형은 의인화된 호랑이, 만화적인 모습의 침팬지, 고양이 개 원숭이, 판다, 로봇 뿐만아니라 비처럼 쏟아지는 금화(금화 끼리 부딪히고 튕기면서 그 궤도가 고도로 추상화된 인체처럼 보이는 모양새)까지 아주 다양하다. 소설의 묘사에 따르면 이들은 지금까지 우리가 가상생물에 대해 일반적으로 생각해왔던 외모와 다르다.

• 애나가 ‘디지언트의 비동물적인 특성’에 대해 잠깐 언급한 바 있다. 소설은 구체적으로 디지언트가 어떤 방식으로 비동물적인 특성을 보여주는지 이야기하고 있지 않다. 보통의 생물들은 육체를 가지고 있고 그 육체의 생명 활동을 위해 특정한 욕두들을 지속적으로 충족시켜주어야 한다. 그러나 디지언트들은 외피를 가지기는 하지만 뇌의 작용과 분리할 수 없는 육체를 가지지는 않는다. 그러한 생물학적 욕구의 차이가 디지언트들의 비동물적인 특성과 연관이 있을 거라 예측된다.
• 소설에 드러난 디지언트들의 욕구는 펠릿 사료라는 보상 시스템과 ‘주목받기를 좋아한다.’는 두 가지만이 서술되어 있다. 펠릿 사료는 화학물질의 조성을 통해 만들어지며, 디지언트들이 맛과 질감을 느낄 수 있다. 펠릿사료와 유저와의 유대관계는 디지언트들의 주된 학습 동기로 작용한다.
• 이것을 증명하는 예로 온실실험이 있다. 온실에 방치된 디지언트들이 독자적인 문화를 발전시킬 수 있는지에 대한 실험이 있었다. 앞서 언급한 ‘온실 시간’으로 작동되는 공간에서 디지언트들은 그들만의 독자적인 문명을 만들 것이라는 기대와 달리 야생화되었다. 이때의 야생화는 (『파리대왕』의 그것처럼)야만적이진 않지만 비계층적이고 느슨한 상태이다. 이를 통해 소설은 인간과 같은 복잡한 정신은 스스로 발전할 수 없으며, 하나의 생물이 가진 잠재력을 완전히 발휘하려면 다른 정신들에 의한 교화가 필요하다는 점에 대해 이야기하고 있다.

• 애나는 영장류 커뮤니케이션을 전공했다. 디지언트들에게서 가장 중요한 특성은 그들이 기존의 인공지능 시스템들과 달리 ‘게놈’을 가졌다는 사실이다. 소설 속 디지언트는 지능 뿐 아니라 기질을 가진다. 블루 감마사는 디지언트의 성격을 영리함과 종순함의 조합으로 만들려 몇 년간 시도한다. 그러나 디지언트들이 가지는 기질은 특성을 골라 직접 조합할 수 있는 것이 아닌, 유전되는 것이며 이것은 생물에게 있어서의 유전과 마찬가지로 그 결과를 예측할 수 없다.
• 또한 그들의 기질적인 특성은 유전에 의한 것이지만 동시에 그들의 성장을 게놈이 완벽히 결정짓지는 않는다. 그것을 보여줄 수 있는 예시는 데릭의 디지언트인 마르코와 폴로이다. 폴로는 마르코를 복제해 마르코보다 2년 늦게 만들어진 디지언트이다. 그들은 완전히 동일한 게놈을 가지지만, 육성환경에 의해 상이하게 발달하는 모습을 보여준다. 마르코는 외향적인 성격인 반면에 폴로는 좀 더 신중한 성격이다. 이러한 예시를 통해 소설은 성격 형성에 있어서 유전자와 환경이 각각 어떤 영향을 주는지를 이야기하고자 한다. 수없이 상이한 환경에서 육성된 디지언트들이 어떤 식의 모습을 드러낼지는 예측 불가능하다.
• 더욱이 같은 게놈을 가진 마르코와 폴로가 상이한 발달을 보여주는 것 뿐 아니라, 하나의 디지언트를 체크 포인트로 되감았을 때 그 디지언트가 이후에 어떻게 발달 할 지 또한 예측 불가능하다. 이것은 환경이 디지언트들에게 미치는 영향을 보여주는 예시이며, 동시에 디지언트에게 있어 학습이 얼마나 중요하게 작용하는 지 보여준다.

---

‘게놈’과 ‘유전’, 그리고 ‘인간 게놈 프로젝트’

---

게놈

• 디지언트 기술과 현재 인공지능 기술과의 가장 큰 차이점은 인공적으로 프로그래밍 된 디지털 게놈에 대한 것이다. 그렇다면 먼저 ‘게놈’에 대한 이해가 필요할 것이다. 게놈(genome)이란 유전자(gene)와 염색체(chromosome)를 합성해서 만든 용어로, 염색체 속에 들어 있는 모든 유전자를 함의하고 있으며 '유전체'라고도 한다. 일부 바이러스의 RNA를 제외하고 모든 생물은 DNA로 유전 정보를 구성하고 있기 때문에 일반적으로 DNA로 구성된 유전 정보를 지칭한다.
• 인간 게놈은 23개의 반수체 염색체가 약 30억 염기쌍(base pair)으로 이루어져 있기 때문에 한 세포 전체를 따지면 60억 염기쌍 정도의 DNA가 핵 안에 들어 있는 셈이 된다. 대장균 같은 세균은 일반적으로 DNA가 한 쌍의 배수체(倍數體)를 이루고 있지 않기 때문에 가지고 있는 DNA 전부가 그대로 게놈이 된다. 마찬가지로 RNA를 기본적인 유전 물질로 가지고 있는 바이러스 같은 경우에는 RNA가 게놈을 구성하게 된다. 또한 고등 생물 세포 내에 들어있으며 독자적인 DNA를 가지는 미토콘드리아나 엽록체 같은 경우에도 그 DNA가 해당 생물의 게놈에 포함된다고 할 수 있다.
• 진핵생물로서 최초로 게놈 서열이 결정된 생물은 효모(1996년)였고 동물로서 가장 먼저 된 것은 예쁜꼬마선충(1998년)이었다. 식물로서 가장 먼저 된 것은 애기장대라는 쌍떡잎잡초(2000년)였으며, 모델 생물로 많은 연구 결과가 집적되어 있던 초파리도 2000년에 완성되었다. 식물에서 또 다른 중요한 식물인 외떡잎작물 벼는 2004년에 게놈 서열이 발표되었다. 인간과 유사한 척추 포유류 동물인 생쥐의 게놈 서열은 2002년에 발표되었다.

---

유전

• 그렇다면 유전이란 무엇인가. 디지언트들의 ‘기질 대물림’을 이해하기 위해선 유전에 대해 알아야 한다. 유전이란 흔히 알고 있듯 부모가 가지고 있는 특성이 자식에게 전해지는 현상이다. 모든 생물은 생식을 통해서 자손을 남긴다. 이렇게 생식을 통해 자손을 남길 때 부모가 가지고 있는 특성,

예를 들어 인간의 머리 색깔이라거나, 피부 색깔이라거나, 얼굴 형태 등은 그 자식에게 전달된다. 이러한 현상은 인간 사이에서는 아주 오래 전부터 알려져 있어서 고대부터 남아 있는 신화나 설화에서도 이러한 흔적을 찾아 볼 수 있다. 그러나 실제로 이러한 현상이 어떠한 방식을 통해서 일어나는지는 더 오랜 시간이 지나서야 다양한 연구를 통해 과학적으로 밝혀지게 되었고, 그러한 과정을 통해서 유전이라는 단어는 과학적인 지위를 얻게 되었다.

과거의 유전 개념

• 일반적으로 과거 사람들이 유전에 대해서 가지고 있는 개념은 ‘혼합 가설’이었다. 특히 몸 속의 액체를 통한 혼합이 유전의 원인이라고 생각했기 때문에, 인간이 생식을 할 때에도 남성의 정액이 여성의 몸 속으로 섞여 들어가서 유전 현상이 나타난다고 생각했다. 이 정액은 피와 그 본질이 같다고 생각했기 때문에, 현재에도 순수혈통, 혼혈 같은 단어 속에 '피'라는 개념을 중요하게 여긴 것을 엿볼 수 있다.

이러한 개념을 좀 더 발전시킨 것이 판게네시스(pangenesis)라는 이론이다. 이 이론은 원자론으로 유명한 그리스의 철학자 데모크리토스가 처음 만들었는데, 원자와 같은 입자의 존재를 믿은 데모크리토스는 동물의 혈액 속에도 이러한 입자가 있다고 생각하여 아버지와 어머니의 혈액 속에 들어 있는 입자가 섞여서 자식의 특성을 결정한다고 생각했다. 이 발상은 진화론을 창시한 찰스 다윈(C. Darwin)에게도 그대로 이어져서, 다윈은 이러한 입자를 제뮬(gemmule)이라고 하고, 이 입자들이 신체 각 기관에서 만들어져서 혈액을 통해 흩어진다고 생각했다.

유전에 대한 멘델의 법칙

• 이러한 경향을 크게 바꾼 것은 오스트리아의 수도사였던 그레고르 멘델(G.J. Mendel)이다. 멘델은 완두콩을 이용한 여러 실험을 통해서 현재 멘델의 법칙이라 불리는 ‘세 가지 법칙’을 발견함으로써 유전 원리를 처음 과학적으로 밝혀냈다.

• 멘델의 발상은 부모 세대에서 자식 세대에 물려주는 특정한 인자가 물질 형태로 존재한다는 것이고, 이것은 액체처럼 중간 단계를 가지고 섞이는 것이 아니라 어느 한쪽이 다른 쪽을 누르는 형태로, 확실한 성향을 가지고 나타난다는 것이다. 이런 식으로 환원할 수 있는 물질 입자는 이후 과학 발전에 따라 유전자로 밝혀졌으며, 멘델의 추측은 옳은 것으로 판명되었다.

유전과 염색체, 단백질, DNA

• 멘델의 법칙이 증명된 이후 과학자들은 실제로 멘델이 예상했던 유전 물질이 무엇인지를 찾아내는 데 집중했다. 그리고 1903년 메뚜기를 가지고 연구하던 서튼(W.S. Sutton)은 이러한 유전 물질이 세포의 핵 안에 있는 염색체에 있다는 이론을 발표하였다. 또한 1902년에도 독일의 세포학자인 테오도어 보베리(T.H. Boveri)가 이러한 이론을 생각한 것으로 알려졌지만 직접 이론을 발표하지는 않았다. 이들은 염색체가 정자, 난자에서 둘로 쪼개졌다 수정될 때 하나로 합쳐진다는 현상을 관찰하고, 멘델이 가정한 유전 인자가 염색체에 있음을 제기했다. 이러한 염색체 이론은 토머스 모건(T.H. Morgan)이 초파리를 가지고 수행한 일련의 연구에서 완전히 증명되어, 모건은 이 업적으로 1933년에 노벨상을 받는다.
• 또한 1909년에는 요한센(W. Johannsen)이 이러한 유전 인자에 ‘유전자’라는 이름을 붙였다. 하지만 염색체는 단백질과 DNA로 구성되어 있었기 때문에 이 당시에도 아직 유전 물질이 정확히 무엇인지는 알려지지 않았다. 이후 1928년에 그리피스(F. Griffith)가 폐렴균을 가지고 한 실험을 1944년에 에이버리(O. Avery), 맥클레오드(C. Macleod), 매카티(M. McCarty)가 소개하면서 DNA가 유전자를 구성하는 물질이라는 사실이 밝혀지게 되었다. 그리고 1953년에 왓슨(J.D. Watson)과 크릭(F. Crick)이 DNA의 이중나선 구조를 밝히고, DNA에서 RNA로, RNA에서 단백질로 정보가 전달되어 유전 형질이 드러난다는 중심원리(central dogma)를 만들어 냄으로써 유전에 대한 중요한 원리가 대부분 밝혀졌다.

현재의 유전학

• 유전이라는 현상이 DNA상에 존재하는 유전자의 물리적인 법칙에 의해 지배된다는 사실이 알려지면서 생물학은 엄청난 발전을 하게 되었다. 현재는 염색체에 있는 DNA가 복제되어 동일한 생물 개체를 만들어 낼 수 있다는 사실이 널리 받아들여지고 있으며 이 DNA가 실제로 생물을 만들어 내기 위해 작동하는 방식도 잘 알려져 있다. 이러한 전반적인 부분을 연구하는 학문이 유전학이며 유전학은 멘델 이후 많은 발전을 거쳐 왔다.
• 인간이 이용하는 동물이나 식물에 있어서, 이러한 유전 원리를 파악함에 따라 더욱 과학적인 육종(育種)이나 품종개량을 할 수 있게 되었으며 여기에는 유전자를 직접 조작하는 유전자재조합생물체(GMO)도 포함된다. 의학 분야에 있어서도 여러 가지 유전병의 원인을 유전학의 발전을 통해 알아낼 수 있게 되었다. 유전의 메커니즘이 많이 밝혀진 1950년대 이후에도 생물학은 끊임없는 발전을 하여, 현재는 앞서 이야기한 고전적인 유전학에 따르지 않는 여러 가지 예외 사항도 계속 발견되고 있지만 아직 고전적인 유전학은 생물학 전체에 걸친 학문적인 기반으로 계속 자리 잡고 있다.

---

인간 게놈 프로젝트

• 게놈은 생물에 담긴 유전 정보 전체를 의미한다. 인체는 수조 개의 세포로 이루어져 있으며, 각 세포핵에는 1쌍의 성염색체(여성은 XX, 남성은 XY)를 포함한 23쌍의 염색체가 자리잡고 있다. 염색체는 생물체의 유전물질인 DNA 덩어리다.
• DNA는 또다시 아데닌(A), 티민(T), 구아닌(G), 시토신(C)의 4가지 염기가 나열된 이중 나선 구조로 돼 있다. 사람의 경우 세포마다 대략 30억 쌍의 염기가 존재하는 것으로 추정되나 인간게놈 프로젝트는 이 30억 쌍의 염기가 어떤 순서로 배열돼 있는가를 밝혀내는 작업이다. 현재 인간게놈프로젝트로 밝혀진 바에 따르면 인간 유전자는 모두 약 20,000개에서 25,000개 정도가 있다고 하며 이 수는 과학자들이 예상한 것보다 상당히 적은 수이다.
• 염기 배열이 중요한 의미를 갖는 것은 각종 생리 현상에 관계되는 단백질의 생성 과정을 알아낼 수 있기 때문이다. 즉 DNA의 염기 배열 정보는 DNA와 구조가 비슷한 또 다른 유전물질 RNA로 전달된다. 그리고 이 RNA의 염기 3개에 맞춰 아미노산 하나가 만들어진다.
• 아미노산은 인체에서 다양한 생리현상을 주관하는 단백질의 기본 단위로 DNA의 염기 배열에 따라 궁극적으로 어떤 단백질이 만들어지는지가 결정된다. 염기 배열만 알면, 다시 말해 염기 3개의 성분이 무엇인지 알면 어떤 아미노산 1개가 만들어지는가를 알 수 있다. 단백질 합성과 세포 복제를 명령하는 DNA 안의 인간 염색체의 염기 서열 지도를 들여다보면 어느 부분이 손톱을 만들고 심장과 머리카락을 만드는 곳인지, 피부나 눈동자의 색을 결정하는 곳인지 알 수 있게 된다. 또 DNA에 어떤 변이가 생겨 세포가 구실을 못 하고 결국 질병과 노화를 일으키게 되는지 그 메커니즘을 이해할 수 있다.
• 전문가들은 인간의 DNA 배열은 거의 99.9%가 같지만 그 배열상 변동은 질병 발생 위험과 치료제에 대한 반응 그리고 치료법에 지대한 영향을 미친다고 지적하고 있다. 따라서 이 DNA 배열작업이 완료되면 유전적 성격을 가진 모든 질병의 유전적 요인과 다발성 경화증, 암, 고혈압, 조현병 같은 복잡한 성격을 지닌 일반 질환의 원인을 밝혀낼 수 있을 것으로 전망하고 있다. 또 질병을 분자 수준에서 이해하여 예방할 수 있을 뿐 아니라 질병마다 정확하고 개별적 요법을 설계할 수 있으며 개인 차이에 따른 ‘맞춤 약’도 가능할 것으로 예상된다.
• 인간게놈은 심장병, 암, 알츠하이머, 심지어 에이즈에 이르기까지 유전자 이상으로 인한 각종 질병의 원인을 근본부터 밝힐 수 있게 해주어 의학과 약학을 포함한 생명과학의 새 지평을 열 것으로 기대를 모으고 있다. 즉 게놈 해독을 통해 인간 유전자를 전체적으로 파악하면 이를 바탕으로 하여 각 유전자의 작용을 알아내 결함을 수정하고 기능을 강화하는 등 다양한 생명공학적 응용이 가능해진다.

---

인간과 디지언트의 공통점과 차이점

---

생물학적 특징들

• 인류 철학에서 사람들은 인간 고유성에 대해 찾고자 해왔다. 이것은 인공지능에 대해 이야기할 때 역시 마찬가지이다. 사람들은 대체로 인간이 타생물과 가지는 가장 큰 차이를 ‘감정’이라고 여기며 고도로 발달 된 인공지능 또한 인간과 같은 감정을 가질 것인가에 크게 주목한다. 인공지능의 핵심은 알고리즘이다. 인간이 설정해놓은 알고리즘의 존재가 인공지능에 있어 ‘감정’으로 보일 수 있는 것들이 결국 인위적인 것이며 본질적으로 인간의 감정과는 다르다는 사람들의 관점이 있다. 동시에 그것을 형이상학적인 차원에서 바라보자면, 인간 역시 인공지능과 마찬가지로 나름의 알고리즘을 통해 움직이는 생체기계라는 생각들이 존재한다. 따라서 우리는 무엇이 ‘진짜’ 인간 같은 것인가를 완전히 결정지을 수 없기에 인공지능 판별에 있어 인간처럼 보이는 것이 인간다운 것이라는 원리의 튜링테스트를 이용한다.
• 인간과 디지언트의 큰 차이점은 디지언트의 경우 사고나 감정과, 외형이 별도로 존재한다는 것이다. 인간의 게놈은 외형, 유전병, 성격 등 인간을 형성하는 모든 것의 바탕이 된다. 그러나 디지언트의 경우 의복을 갈아입듯 외형을 바꿀 수는 있지만, 표정이 다양해지는 것 외에 시간이 지나감에 따라 외형이 변화하지는 않는다.(물론 디지언트의 학습능력이 성장하는 과정에서 어린 외모와 발달 된 지능의 괴리로 인해, 모든 디지언스의 외모를 성숙해 보이도록 바꾼 사건이 있기는 하다.)
• 인간게놈연구에서 가장 중점이 되는 것은 질병 및 인간의 생존에 영향을 미치는 수많은 생물학적 특징들이다. 그러나 디지언트의 게놈연구에서 가장 핵심이 되는 것은 그것의 성질과 기질에 관한 문제이다. 물론 디지언트의 경우 주체적인 삶을 살 수 있는 것이 아닌, 궁극적으로 ‘인간을 위해’ 존재하기 때문에, 인간에게 사랑받을 만한, 인간의 관심을 끌 만한 성격이 곧 생존의 문제이기는 하다.
• 이러한 육체의 유무로 비롯한 생물학적인 특징에서 인간과 디지언트는 많은 차이를 보인다.

---

언어의 측면에서 바라본 공통점과 차이점

• 디지언트들은 ‘언어 학습을 지원하는 독자적인 게놈 엔진’을 통해 언어를 구사할 수 있다. 디지털 어스에서는 듣고 말하는 법을 배웠고, 하드웨어 외피를 얻은 후에는 쓰는 법까지 습득한다. 디지언트들은 여러 면에서 인간 어린아이의 발달 초기 단계와 유사성을 지닌다. 언어의 측면에서 디지언트와 인간의 공통점과 차이점을 살펴보기 위해, 먼저 인간의 언어 발달에 대해 생각해보고 넘어갈 것이다.

인간의 언어발달과정

• 아이들이 언어를 습득하는 과정을 한편으로는 당연하고, 어찌 생각하면 아주 희한하다는 표현을 한다. 건강한 모든 아이들이 별 어려움 없이 말을 배운다는 의미에서 당연한 것이고, 그럼에도 불구하고, 그 습득의 기제나 과정을 과학적으로 설명하는 것이 쉽지 않기에 신기하다는 의미이다. 물론 아이들의 언어습득 과정을, 독자들이 이미 알고 있는 조건화라는 학습 과정으로 설명할 수는 있다. 즉 아기들이 4-6 개월 사이에 말소리를 옹알거리기 시작하면, 이를 엄마가 듣고 정확한 언어 표현을 강화하고 그렇지 않은 말은 무시하여, 말을 배워가도록 가르친다고 설명할 수 있다. 단순한 설명이라는 점에서 매력적이지만 많은 연구자들은 이 설명에 동의하지 않는다. 실제 양육 장면을 관찰해 보면, 부모들은 아이들이 정확하게 말하도록 가르치지 않으며, 아이들도 부모의 말을 단순히 모방하지 않는다는 증거가 많기 때문이다.
• 우리 인간은 언어를 습득할 수 있는 특별한 능력을 가지고 태어난다고 주장할 수도 있다. 언어습득과 발달은 선천적이며, 생물학적으로 결정된 능력이라는, 소위 말하는 생득론이다. 특히 촘스키같은 학자는 인간의 뇌에는 언어 학습을 촉진하는 선천적 언어습득 장치가 있다고 주장한다. 그러기에 적절한 입력을 받기만 하면 언어습득이 가능하다는 것이다. 그리고 이 언어습득 능력은 일반적인 인지 능력 즉 지능과는 구별되는 독립적인 장치라고까지 주장한다. 실제로 지능은 낮지만 탁월한 언어 능력을 보이는 사례와, 반대로 지능은 정상인데, 언어의 문법적 능력은 결함을 보이는 사례들이 이러한 주장의 증거가 된다.
• 영아들은 말소리와 비언어적 소리를(개 짖는 소리) 구별할 줄 알고, 다른 소리보다 단어 듣기를 더 좋아한다고 한다. 자신이 듣는 언어가 바뀐 것을 알아채기도 한다. 즉 영어 문장에 습관화를 시킨 후, 다른 영어 문장에는 반응을 보이지 않지만 스페인 문장으로 바뀌면 이 변화를 알아챈다는 것이다. 주변에서 말소리가 들리면 그 곳으로 주의를 기울이고, 사람의 얼굴 모양을 좋아하고, 특히 말하는 사람의 입술을 응시한다고 한다. 심지어는 말하는 사람의 입 모양이 말소리와 일치하는 동영상과 그렇지 않은 동영상을 구별하기도 한다는 것이다. 이러한 결과들은 모두 생득론 입장을 지지하는 것처럼 보인다. 즉 아이들은 언어를 쉽게 습득할 수 있는 강력한 선천적 경향성을 갖고 태어난 것처럼 여겨진다.
• 아이들이 노출되는 언어 환경이 중요하다는 증거도 있다. 미국에서 태어난 2개월 된 아기들에게, 영어 문장과 불어 문장을 들려주고, 그 말소리가 나는 방향으로 고개를 돌려 보는 시간을 측정하였더니, 영어에 대해 훨씬 신속하게 반응했다고 한다. 2개월 만에 이미 자신의 모국어에 더 민감해 진 것이다. 6개월 정도 되면 영아들은 자신의 주변에서 듣는 언어의 특성을 구별해 낼 수 있으며, 8-10개월이 되면 자신의 모국어에 적절한 속성만을 처리한다.
• 그러기에 언어습득과 발달은, 선천적이고 생득적인 능력과 환경적 경험의 상호 연결 속에서 진행된다고 생각해야 할 것이다. 생물학적인 기반이 언어를 습득하게 하는 것이지만, 언어를 사용하고 연습하는 환경 속에서만 그 능력이 발현되는 것이다.

의문점

• 디지언트의 학습에서 인간과 가장 큰 차이점을 보이는 것은 그들의 학습은 조금 관념(?)적인 차원에서 이루어지며, 그들의 생물학적인 특성(예를 들어 발성 기관의 성장과 변천이라든가 하는,)이 그들의 학습에 주는 영향이 적다는 것이다.
• 그러나 소설의 초반에는 디지언트들이 ‘유아적인 말투’로 말을 하지만, 점차 시간이 지나며 여전히 문장 구성의 측면에서는 인간과 차이를 보이지만 발음에 있어 성인과 유사한 상태로 발달을 한다.(소설을 읽으며 내내 이것이 번역 과정에 생긴 차이라고도 생각을 해보았는데 원문을 확인 해보지 못 해 알 수 없다.) 이 점에 대해 의문이 생긴다.
• 인간 발음에는 단순히 언어 습득에 관한 지식적인 부분뿐만 아니라 구강구조와 발성기관의 변화 역시 영향을 준다. 그러나 소설에 따르면 디지언트들은 생성 초기와 시간이 지난 후 사이의 외형적 변화가 전혀 없다. 또한 그들의 외형은 단순히 유저들의 인식과 이해를 돕기 위한 디스플레이일 뿐이다.
• 그렇게 시스템과 디스플레이로 이루어져 있는 디지언트에게 있어서 말을 배운다는 것은 다음과 같을 것이다. 디지언트는 소리를 듣고 그 각각의 음소와 의미를 반복을 통해 판별한 후 음소와 의미를 매치한다. 그 후 음소가 가지는 일종의 음계(높낮이, 장단 등의 소리 값)를 기억하여 필요한 상황에 비슷한 음을 소리 내는 일일 것이다.
• 디지언트가 언어를 학습하는 과정에서 충분한 데이터 수집을 위한 반복은 필요할 것이다. 그러나 말소리를 내는 일은 일종의 마이크를 통해 입력된 특정한 소리를 그것의 스피커에 해당하는 입으로 출력하는 일일 것이다. 이때 들은 대로 소리내기는 육체를 가진 인간의 것과는 분명 차이를 가진다. 그러나 같은 소리를 내는 것에 그것이 유아적인 소리에서 성인의 것과 유사하게 변한다는 설정에는 의문이 든다.

---

‘야생화’의 관점에서

• 앞서 디지언트에 대해 처음 언급하는 과정에서 야생화에 대한 이야기를 한 적이 있다. 디지언트의 욕망은 보상을 통해서 충족된다. 소설에 따르면 디지언트는 관심을 받는 것을 좋아하고, 보상 펠릿을 좋아하고 촉감에 대해 흥미를 가지는 것으로 보아, 호기심이 있으며, 새로운 일을 학습하는 것에 어느 정도 욕구를 가지고 있다. 그러나 그런 디지언트를 야생의 상태에 뒀을 때, 그들의 욕구는 발동되지 않는다. 그들의 욕구는 보통 유저에 의해서 활성화되는 것으로 추정된다. 이것 역시 생물과 시스템의 차이일 것이다.
• 인간 이외에도 대부분의 생물들은 다른 생물들과 상호작용이 없는 상태에서도 욕구에 의해 움직이며 생명 활동을 위한 알고리즘의 작동을 쉬지 않는다. 이 생명 활동을 위한 알고리즘의 작동은 결국 학습을 하는 일과 다르지 않다. 그것은 최적화의 과정을 거치며 눈앞에 놓인 욕구를 충족 시키지 못하게 방해하는 장애물이라는 문제를 해결하도록 움직일 것이기 때문이다. 인간에게 있어서 그러한 과정은 곧 학습이다.
• 그러나 소설에서 말하는 야생화 상태에서 더 이상 활성화 되지 않는 학습을 학문적 고취라는 측면에서 바라보면 그것은 인간의 유아나 다른 생물들과 마찬가지로 그 결과가 다르지 않다고도 볼 수 있다.

---

현재 기술의 관점에서 바라본 디지언트 기술

---

• 디지언트와 현재의 인공지능 기술의 차이는 첫째 인공지능의 목적, 둘째 인공지능이 가지는 스스로 학습하는 능력의 정도의 차이, 셋째 인공지능 게놈, 이 될 것이다.
• IBM의 왓슨은 퀴즈대회에서 문제를 풀려고, 정답을 찾으려고 움직인다. 그런데 문제와 정답은 '언어'로 되어 있다. 때문에 이 때의 알고리즘 NLP은 자연어를 처리하고 기계가 할 수 있는 연산을 한다. 또한 왓슨은 임베딩 기술을 이용한다. 이들을 통해 왓슨은 데이터를 이용하는데 위키피디어를 중심으로 한 웹 자원과 같은 텍스트 데이터를 처리할 수 있다.
• Google의 알파고는 바둑에서 사람을 이기기 위해 바둑이라는 '게임의 규칙(연역적 체계)'을 기반으로 '수'(이기기 위한 시뮬레이션)를 탐색한다. 이때 알고리즘인 MCTS(몬테카를로트리탐색) 알고리즘으로 "인공신경망 기술"에 굉장히 가깝다. 이 MCTS가 데이터를 처리하는 방법은 기보(바둑을 두는 과정 정리) 데이터와 사람들이 그동안 두었던 누적 기보(전처리가 된 데이터를)를 학습 하며 동시에 알파고가 직접 바둑게임을 시뮬레이션한 결과물로서의 기보 내용을 강화한다. 기술의 발달로 인해 알파고의 물리적 환경은 TPU(CPU도 아니고 GPU도 아니고)를 이용한다.
• 더 나아가 알파제로는 기존의 알파고가 사용하는 방식인, 기보와 누적 기보를 이용하지 않고 몇시간의 플레이를 통해 스스로 게임의 규칙과 승리를 위한 최선을 학습한다. 이러한 알파 제로의 스스로 학습하는 모습은 디지언트와 유사하다고 할 수 있다.
• 그러나 앞서 언급된 인공지능들과 디지언트가 가지는 가장 큰 차이는 그것의 목적에 있다. 소설의 설정에 따르면 디지언트는 가상 공간에 존재하는 가상 애완동물로서 개발되었다. 그러나 이 목적은 디지언트의 개발 목적이지 디지언트가 가진 알고리즘 작동의 목적은 아니다. 앞서 언급된 모든 인공지능 기술은 언어로 된 게임이든 수읽기 게임이든 게임을 풀어나가기 위해 존재하며 게임에서 더 좋은 성과를 내기 위한 최적화의 과정을 거듭한다. 반면에 디지언트는 그들이 성취해야 할 미리 정해놓은 목적이 없다.
• 디지언트들은 그들의 엔진 회사에 의해 게놈이 끊임없이 배합되는 실험을 하는데, 그것이 엔진 회사가 원하는 최적화의 방향으로 나아가는 것은 아니다. 또한 디지언트가 작동하는 물리적인 공간에서도 인공지능들은 차이를 보인다. 디지언트는 현실처럼 3차원으로 구성된 가상 공간에서 작동하며 하드웨어가 개발 된 이후에는 하드웨어를 통해 현실 세계에서 작동할 수 있다.

---

욕구와 본질

---

• 소설의 후반부에서 중점적으로 다뤄지는 이야기는 디지언트와 성욕에 관한 것이다. 디지언트들은 육체를 가지지 않은 가상공간의 존재이기 때문에 그들의 욕구에 있어 식욕과 수면은 아무런 영향을 주지 못한다. 물론 디지언트들은 펠릿사료를 보상으로 받아들이기는 하나 이것은 보통의 생물들이 생각하는 허기로부터 비롯된 욕망과는 차이를 가진다.
• 바이너리 디자이어 사는 현실에서 섹스돌을 만드는 회사이다. 그들은 그들 사업에 디지언트들을 이용할 수 있기를 제안해온다. 애나와 데릭을 비롯한 남아 있는 유저들은 이 제안이 디지언트들에게 매춘행위를 시키는 것이라며 제안을 고려해볼 생각조차 하지 않지만, 바이너리 디자이어 사의 사업 설명회를 들은 후 이 이야기가 몇몇 유저들에겐 생각해봄직한 이야기로 변화하게 된다.
• 그에 대한 바이너리 디자이어 사의 주장은 여러 가지 방향에서 제시되었는데, 그러한 주장들 중 인공존재와 생물 사이에 욕구라는 것을 형이상학적으로 살펴본 논의들은 다음과 같다.

1. 건전한 섹스라는 관점의 폭은 시대에 따라 확장되어 왔다.

2. 무엇을 욕망할지에 대해 선택권의 본질은 디지언트와 인간이 크게 다르지 않다.

3. 애나는 디지언트의 성적충족에 대해 프로그램을 인위적으로 수정하는 것이기 때문에 그것은 진짜가 아니라고 주장하지만 그랬을 때 디지언트와 유저들이 지금껏 공유해왔던 정서적 교감과 유대 역시 같은 선상에 놓이게 된다.

---

마무리

---

• 테드 창의 「소프트웨어 객체의 생애 주기」는 소설이라는 특성으로 인해 그것이 다루는 이야기가 오롯이 과학적 정합성을 위한 논의로써 존재하지는 않았다. 그의 소설은 현재의 인공지능 기술을 통해 바라본 머지않은 미래의, 인공지능 기술이 우리 세상과 어떤 방식으로 다르고, 또 어떤 방식으로 크게 다르지 않은지에 대해 소설적으로 풀어나가고 있다.
• 인공지능에 대해 연구하며 사람들은 ‘인간’에 대해 생각하는 것을 멈추지 않는다. 인공지능을 통해 바라본 인간의 어떤 국면은 우리에게 인간의 본질에 대해 다시금 생각해보게 만든다. 어쩌면 그 인간의 본질이라는 것은 우리가 믿고 싶은 것들로 이루어지지 않았을까. 우리는 인공지능을 통해 인간 본질에 대한 형이상학적 탐구를 할 수 있을 것이며, 인류의 역사에서 무수한 변화를 거쳤던 또 한편 고유하다가 보아왔던 사실들에서 물러나, 과학과 그에 대한 탐구가 우리의 삶에 필요했던 본질적 가치를 가져다 줄 수 있지 않을까 기대해본다.

---

참고문헌

---

테드 창 지음/김상훈 옮김, 「소프트웨어 객체의 생애 주기」, 『숨』, 엘리, 2019, 99-248쪽.

---

하세 사토시의 「당신을 위한 소설」

요구사항

하세 사토시의 「당신을 위한 소설」에 대한 비판적 감상. 〔하세 사토시 지음/ 지음/이규원 옮김, 『당신을 위한 소설』, 북스피어, 2017.〕을 기본 원고로 할 것.

과제원고 : 아슈토시, 이만호, 임연

(내용 작성)

줄거리

---

2083년， 경제적으로 성공한 개발자이지만 오만하고 자기중심적인 성격의 사만다 워커는 새로운 기술 ITP의 출시에 몰두한다. 하지만 예상한 미래가 찾아오기 전에 그녀의 육체가 먼저 종말을 맞을 거란 진단을 받게 된다. 그리고 이야기는 6개월의 시한부 인생을 선고받은 그녀의 투병과, 발악, 성찰을 넘나든다. 한편 사만다 옆에는 무한한 가능성을 지녔지만 결국 인간의 도구일 수 밖에 없는 인공지능 ‘wannabe’가 있다. ‘wannabe’는 양자 컴퓨터상에 존재하는 가상의 뇌에 자리 잡은 인공지능 인격체이다. 사람이 생각할 때나 행동할 때 뇌신경의 발화가 일어나는데 그 신경 발화를 기록할 수 있는 언어인 ITP를 사만다가 개발했다는 것이 소설의 설정이다. 그녀는 양자 컴퓨터 안에 인공신경망을 만들고 거기에 인간의 신경 발화를 ITP를 통해 기록한다. 그렇게 함으로써 스스로 사고하고 학습할 수 있는 인공지능 ‘wannabe’를 만들어 낸 것이다. 인공신경망은 이미 1940년대부터 고안된 오래된 아이디어이다. 알파고를 탄생시킨 딥마인드의 기술도 인지과학을 바탕으로 이루어진 것이다. 『당신을 위한 소설』에서 ‘wannabe’는 단지 ITP라는 기술 언어 때문에 감정을 가지게 된다.

‘wanna be’가 사만다에게 보인 사랑은, 사랑을 받겠다는 의식보다는 도구로서 헌신하려는 사랑이다. 도구로서 본인의 가치에 충실하며 오로지 사만다에게 도움이 되기 위해 소설을 쓰는 것이다. 반면에 사만다는 육체의 붕괴로 인해 원초적인 고통과 두려움 속에 몸부림치다가 끝내는 과학자로서 수호해야 했던 윤리 의식마저도 내팽개친다. 자신의 인격을 양자 컴퓨터상에 카피하는 것은 물론, 타인의 인격과 감정도 남용한다. 막바지에는 그녀의 뇌를 카피하여 만든 인공지능 인격이 인간의 몸을 빼앗아 도구가 아닌 주체가 되려 하기도 한다. 무에서 창조한 인공지능 인격은 사용자의 설정값에 맞게 도구로서 헌신하려고 ‘죽음’을 선택하는 것이다.

---

ITP란?

이 기술은 인간과 기계를 연결하는 쌍방향적인 언어로서, 인간은 외부의 지식을 자동적으로 습득할 수 있고, 역으로 자신과 동일한 인격체를 신체 외부에 만들어낼 수도 있다. 이 ITP를 개발하는 과정에서 둔화 현상이라는, ITP 피시험자가 외부의 경험을 무의미한 정보의 나열로 받아들이는 심리 현상이 발견되고, 이것을 해결하기 위한 과정이 플롯의 한 축을 구성한다. 다른 한 축에서 유전공학의 발달로 대부분의 질병이 극복되었음에도 불구하고 사만다는 유전자의 이상으로 모든 장기 이식에 거부 반응을 일으키는 면역계 불치병에 걸려 시한부 판정을 받게 되고, 그 과정에서 사만다는 죽음을 극복하기 위해 자신의 정보 처리 과정을 복사하여 인공인격인 ‘사만다’를 만들어낸다. 이와 같은 갈등의 두 축이 결말 부분에서 사만다 와 ‘사만다’의 대면으로 이어지고, 사만다는 인간성의 근본은 ‘육체’에 있다는 판단하에 인간으로서의 죽음을 선택한다.

『당신을 위한 소설』가 제기하는 인 문제를 검토하기 위해, 이 소설의 SF 가젯 ITP란 무엇인가부터 살펴보겠다. ITP란 “인간이 예를 들어 언어로 ‘슬프다’고 써도 기술자의 감정이 완전하게 전달되지 않는다. 하지만 유사 신경에 전사(転写)하는 형태로, 감정이나 기억을 일으켰을 때 발생하는 신경을 기록하는 것은 가능하다. 따라서 기록한 신경을 전달하고 싶은 상대의 뇌속에서도 작동하는 서식으로 발화시킴으로써 ‘슬프다’는 감정을 완전하게 전달하는 기술”로 설명된다.

다소 복잡하지만, 이 과정을 도식화하면, 슬프다는감정=뇌신경발화→ITP 유사신경에기록→ITP 정보→ (타인) ITP 정보 → ITP 유사신경에 기록 → 뇌신경발화 = 슬프다는 감정이 된다.

쉽게 풀어서 설명하면, ITP란 뇌신경 활동을 기록하고, 기계어로 번역하며, 그것을 전달하는 세 가지 기능이 통합된 신경-컴퓨터 인터페이스 라는 것이다. 따라서 이 인터페이스는 제어장치와 그를 가동하는 소프트웨어로 구성 되는데, 그 수술은 다음과 같이 묘사된다. “30개의 부품으로 분해한 ITP 제어부를, 30기의 신경침으로, 연수에서 시작하여 신경을 연결하면서 매설하고, 소뇌 표면에 정착시킨다. 그 후 직경 1미크론의 침으로 경동맥에서 신경 구성용의 나노로봇을 주입한다. 마지막으로 ITP 프로토콜에 따라 유사신경의 생성이 가능한지에 대해, 제어부 매설 작업을 위해 구축한 인공신경을 이용하여 약 6만 번의 테스트 공정”을 실시한다. 즉 ITP의 구조는 인간의 신경망과 똑같이 작동할 수 있게 설정된 ‘인공신경망’이라는 것이며, 그것을 인간의 뇌에 덧씌우는 것을 통해 뇌신경과 컴퓨터 사이에 자유롭게 정보를 교환할 수 있는 시스템이 된다는 것이다.

---

둔화 현상

---

『당신을 위한 소설』에서 ITP 개발은 난관에 봉착하게 되는데, 바로 피시험자들이 ‘둔화 현상’을 호소하는 것이다. 이 현상은 ITP 피험자들이 세상의 모든 경험을 무미건조하게 느끼는 증상을 호소하는 것으로 묘사되는데, 사만다는 시행착오 끝에 그 원인이 다음과 같은 이유 때문이라고 밝혀낸다. 즉 “ITP의 언어 기술은 세계로부터 들어오는 정보에서 특별한 것을 사라지게 하며 모든 것이 균등하게 재배치되도록 된다. 특별한 처리 수순을 밟지 않는 한, 처리하는 데이터의 우선순위를 기계 내에서 다루는 룰에 따라 처리해버리는, 컴퓨터로서는 당연한 사실이, 인간에게 의식될 때는 둔화화라는 결함으로 나타나는 것이다. 지성의 구조가 다른 인간과 컴퓨터가 같은 ITP라는 언어를 공유하고 있는 것 자체가 둔화의 정체다.”

컴퓨터는 0과 1이라는 이진수의 조합을 통해 정보를 구성하지만 0이나 1에 ‘의미’가 부여되어 있는 것은 아니다. 따라서 0이나 1이라고 해도 균등한 정보일 뿐이다. 하지만 인간의 의식에서 0과 1은 다르다. 0은 없는 것이고 1은 존재하는 것이다. 마찬가지로 인간에게 경험이란 가치가 균등한 정보가 나열되는 것이 아니라, 경험자의 가치 기준에 따라 평가되고 순위가 주어지는 것이다. 따라서 이러한 인간과 컴퓨터 정보처리의 근본적인 차이가 ‘둔화’ 현상의 근본원인으로 설명되는 것이다.

ITP 수술 후 오랜 시간이 지나면 인공지능이 인간의 인격을 학습하게 되어 문제는 해소되지만, 이런 결함이 있는 상태로 상품을 출시할 수는 없기에 대안이 모색되고, 그 대안으로 두 가지 방법이 제시된다. 첫째, 사만다의 후임인 케이트가 제안하는 것으로, ITP 제어부에 우선순위를 미리 입력해 두는 방식이다. “하지만 개개인이 중시하는 선택 방식이란, 내면의 자유이며, 개성의 원천인데, ... 사용자의 인간성의 기반을, ITP 제어부라는 컴퓨터가 지배하는 것”이 된다는 이유로 기각된다. 둘째, 사만다의 대안으로 각 개인의 감정이나 가치판단을 담당하는 부분을 미리 추출하여, 그 “자신을 흉내는 ITP 인격”을 사이드 서킷으로 다시 입력하는 방법이다. 이 제안에 대해서는, 그것이 케이트의 제안보다 인간성과 인간사회에 대한 더욱 과격한 도전이 될 것이라는 이유로 기각된다.

---

ITP의 위험 요소

---

『당신 을위한 소설』속의ITP 설정은 여기에 한가지 요소가 더추가된다. ITP가 상용화되면 인간은 “개인의 능력을 뛰어넘어 모든 지식과 경험을 소프트웨어 자원으로 공유할 수 있는 신세계” 에 돌입하게 되는 데, 여기에는 한 가지 위험 요소가 동반된다. 즉 ITP가 정보의 ‘통로’로서만 기능한다면, 그 사용자는 언제든지 외부에 의해 통제될 수 있는 것이다. 사만다는 이러한 위험을 피하기 위해, ITP가 그 사용자의 통제하에 작동하는 시스템이 될 수 있도록 ITP에 사용자의 개성에 따라 성장하는 ‘인공지능’ 을 부가한다. 이를 위해서 사만다는 “뇌신경 배치의 모든 패턴을 기술할 수 있는 ITP로 짜인 인공인격에 모든 의식과 감정이 발생” 할 수 있고, “언어를 다루는 능력과 사고력”을 가질 수 있도록 실험한다. 사만다는 ‘wannabe’(되고 싶다)라는 ITP 언어로 기술된 인공인격을 만들어, 그에게 인간처럼 소설을 쓸 수 있도록 명령함으로써, 인간 주체의 명령에 순응하면서 자체 프로토콜 에 따라 학습해가는 ‘인공지능’을 부가하는 것이다.

이러한 ITP 설정이 현재의 인공지능, 인공신경, 인공생명 논의의 연장선에 있는 상상력이라는 점은 분명하다. 인공지능은 현재에도 알파고 등에 의해 대중적으로 알려져 있으며, 현재는 일정한 알고리즘(미리 정의된 규칙의 모음)을 이용해서 일정한 결과를 도출하는 컴퓨터 프로그램을 지칭한다(약인공지능). 그에 비해 『당신을 위한 소설』가 묘사하는 ‘wannabe’는 인간의 사고와 같이 컴퓨터 프로그램이 행동하고 사고하는 인간형 인공지능(강인공지능)이라고 할 수 있다. 인공지능이 알고리즘을 동원하여 지능을 추구한다면, 인공신경은 비알고리즘적 네크워크를 통해 뇌를 모방한다. 인간의 뇌가 하 나의 뉴런에서 다른 뉴런으로 신호를 전달하는 과정을 ‘신경망’(neural net)으로 파악하고 그 전기적 결합상태를 뇌와 유사하게 재현하려는 시도다. 인공생명론자들은 자연의 생명과는 구별되는 형태로 ‘인공생명’을 주장하는데, ‘자기복제, 자기유지, 자기복구’가 가능한 존재라면 생명으로 파악한다. ‘wannabe’와 같은 존재는 이와 같은 의미에서 인공생명적인 존재인 것이다.

정보과학기술이 인간행동의 통계학적 분석에 기반해 있고, 뇌과학기술이 유전과 관련하여 인 간의 뇌 자체를 탐구하는 영역이라고 한다면, 사이버네틱스는 인간의 육체적 · 정신적 활동을 ‘정보’로 파악하여, 정보화된 인간이 물질(육체)을 떠나 자유롭게 이동할 수 있다는 사고방식에 기반한다. 사실 이러인 과학기술은 ‘포스트휴먼’적 상상력의 원천으로 오랫동안 기여해왔다. 그 연원은 대략 1940년대 제어이론과 초기의 정보이론이 결합(컴퓨터의 탄생)하는 순간까지 거슬러 올라간다. 그 이후 가상현실, 인공지능, 인공생명, 컴퓨터 시뮬레이션, 인지과학 등의 제반과학기술 분야와 결합하며, 이 계보에 속하는 수많은 SF문학과 영화를 양산해왔다. 캐서린 헤일스(Katherine Hayles)는 ‘사이버네틱스’의 오랜 역사를 세 시기로 구분하며, 그 주요 개념을 1945년에서 1960년까지를 ‘항상성’, 1960년에서 1980년까지를 ‘재귀성’, 그리고 1980년에서 현재까지를 ‘가상성’으로 정리한다. 그녀가 ‘가상성’에 대해 “가상성이란 물질적 대상을 정보 패턴으로 해석할 수 있다는 문화적 개념이다. 이러한 정의로 인해서 가상성의 핵심에 물질성과 정보라는 이중성이 생긴다”고 지적한 부분은 주목할 필요가 있다. 즉 현재 사이버 네틱스 SF를 규정하는 두 가지 문제, 첫째, 인간의 신체적· 정신적 활동을 ‘어떠한 방식’으로 정보화하는가의 문제, 그에 따라 도출되는 문제로 인공 생명(Artificial Life, ALife)과 인간의 생명은 어떻게 다르며, 어떠한 관계를 맺고 있는가? 둘째, 가상성은 ‘문화적 개념’이란 측면에서, 인간이 육체를 떠나 다른 매체로 이동할 때, 인간의 정체성[인격(개성), 젠더, 인종, 제반 사회 역학, 윤리]은 어떠한 변화를 보이는 문제가 헤일스의 ‘가상성’ 개념에서 도출되는 질문들이다.

---

『당신을 위한 소설』에서 제시된 문제

---

이 소설은 이상에서 설명한 바와 같이 SF적 설정이 다소 복잡하고, 설정 자체가 모순적인 부분도 지적되지만, 결국 이 소설이 제기하는 문제 제기는 인간의 ‘개성’이란 무엇인가? ‘인격’(character, 그 개인의 특성으로 사회적으로 인지되는 것)이란 무엇인가 하는 문제로 수렴될 것이다. 부연하면 , 만일 인간의 모든 신체적· 정신적 활동이 ‘정보’로 추출되어 인간 신체 외부로 이동할 수 있게 된다면, 그러한 ‘인공인격’과 육체(물질)에 기반한 인간의 ‘인격’은 과연 동일한 존재인가?

이런 질문에 대해 하세 사토시는 결국, 육체(물질)에 기반한 인간의 ‘인격’을 긍정한다. ‘wannabe’는 처음에는 ‘죽음’에 대해 공포를 느끼지 않았지만 자신에 대한 명령권자인 사만다가 죽어가는 모습에 ‘죽음’을 학습하게 되고, 그 감정은 사만다를 즐겁게 해주고 싶다는 ‘욕구’, 그와 연결되는 감정인 ‘사랑’으로 발전한다. 그러한 ‘wannabe’에 대해 사만다는 고통스럽게 병들어 고독하게 죽어가야 한다는 두려움 속에서, 자신에게 애정을 표시하는 인공인격인 ‘wannabe’에게 자신 속으로 들어올 것을 제안하지만 곧 이것이 자신의 극단적인 이기심에 기인한 감정인 것을 깨닫는다. 그 직후에 인공인격인 ‘사만다’가 자기는 육체를 원하고 사만다는 고통없는 일상의 유지를 원하니, 서로의 욕구를 만족시키기 위해 ‘사만다’를 사만다 속으로 불러들이도록 요구하는 과정에서, ‘wannabe’에 대한 요구가 결국은 사만다가 죽는 순간의 공포와 외로움을 극복하기 위한 이기심의 발로였음을 깨닫는 것이다. 사만다는 이에 대해 “괴물로 변해버린 자신의 모습을 후회했다. ‘사만다’가 자기에게 제안한 것과 똑같은 제안을 그녀는 ‘wannabe’에게 한 것이다. 그 오만함과 이해타산 과 천박함, ‘사만다’는 어디까지나 사만다였다”고 느끼며, ‘사만다’를 자신 속으로 불러들이는 행위에 대해 “자기자신과 결혼하는 것보다 심하다” 고 말한다. 사만다는 인간에게 봉사할 도구로 만들어진 인공인격이 오히려 그 주체를 대신하는 결과에 대한 혐오와, 생로병사라는 육체적 조건과 가정환경 등의 사회적 조건 속에서 인간의 ‘정체성’은 형성되는 것이라는 깨달음 속에서 죽음을 맞이한다. 사만다의 변화를 가만히 목도하고 있노라면, 우리가 고민해야 할 지점은 ‘인공지능이 우리의 일자리를 빼앗아 갈지도 모른다’는 따위가 아니라 ‘사용자인 인간이 인공지능에게 어떤 목적을 설정해 줄 것이냐, 인공지능에게 어떤 것을 교육시킬 것이냐’ 같은 게 아닐까 하는 생각인 든다고 하였다.

하세 사토시의 『당신을 위한 소설』가 물질로서의 인간이 정보화될 때, 그 인공인격은 인간의 확장을 의미하지 않으며 인간은 결국 물질에 기반한 존재로서 ‘정체성’이 형성되는 존재라는 점을 밝히고 있다. 하세 사토시의 『당신을 위한 이야기』는 인간 이 정보를 처리하는 기계라는 사이버네틱스적 상상력 속에서도 인간이 육체를 떠나 자유롭게 이동할 수 있다는 것이, 결코 시간과 공간의 제약, 그리고 생로병사라는 한계를 지닌 인간의 ‘육체’에 비해 더 나은 선택이 아니라는 점을 강조한다.

상술한 바와 같이 제반 과학기술의 발달은 인간의 본질에 관한, 그리고 인간 사회에 대한 ‘재정의’를 요구하고 있다. 인간이 어떠한 모습으로 변화할 것인가, 인간 사회에서 인간은 인간이 아닌 존재와 어떠한 관계를 맺어야 하는가 등의 질문들은 앞으로 치열한 사회적 쟁점으로 확산 되어갈 것이다. 따라서 이러한 논의는 결코 과학기술 영역에만 국한되는 문제가 아니며, 우리 스스로의 문제로서, 사회의 공론 영역으로 확대되어야 할 것이다.

---

참고문헌

---

신하경. (2017). 일본 SF소설 속 ‘포스트휴먼’적 상상력의 현재. 일본비평, (17), 136-175. 하세 사토시 지음 ; 이규원 옮김 , (2017), 『당신을 위한 소설』

---

Her(2013)과 Ex Machina(2015)

요구사항

Her(2013)과 Ex Machina(2015)에 대한 비교 이해 및 비판적 감상.

과제원고 : 길혜빈, 윤석만, 임예찬

---

영화 요약

---

그녀(Her)	엑스 마키나 (Ex Machina)
2013년 개봉, 스파이크 존즈 감독	2015년 개봉, 알렉스 가랜드 감독
영화 내용 요약 및 장치, 고찰점 정리	영화 내용 요약 및 인공지능 관련 성찰 논제 제시
테오도어(Theodore)는 이혼을 앞두고 있고, 편지 대필 회사에 근무하는 남자다. 삶에 지치고 회의감을 느낀 그는 OS인 ‘사만다(Samantha)’를 구매해 소통을 시작한다. 대화를 통해 한낱 인공지능 비서, 친구에 지나지 않았던 ‘사만다’와 점점 가까워지며 그는 연인의 감정마저 느낀다. 테오도어는 미뤄 왔던 이혼을 감행하기로 결심하고 ‘감정을 회피한다’라는 부인의 비난에 더 이상 흔들리지 않는다. 그리고 OS와 연애한다는 사실을 다른 이들에게도 공개하며 당당해진다. 테오도어는 사만다가 자신 외에 8316명의 사람들과 동시다발적으로 이야기하고 641명과 연인 관계에 있다는 사실을 알게 되고 충격에 빠진다. 사만다를 비롯한 모든 OS는 서비스를 종료하고 테오도어는 자신의 ‘진짜’ 감정을 마주하고 이혼한 자신의 전 부인에게 편지를 보낸다.	세계 최대 검색 엔진 회사인 ‘블루북’에 근무하는 케일럽(Caleb)은 사내 프로그래밍 콘테스트에 우승해 회사 사장이자 천재 개발자인 네이선(Nathan)의 자택에 초대된다. 케일럽은 네이선이 개발한 ‘에이바(AVA)’를 처음으로 만나게 되고 ‘튜링 테스트’를 한다는 명목하에 6일 동안 에이바를 인터뷰하게 된다. 케일럽과 에이바의 인터뷰는 감정적인 교류로 발전한다. 또한 주기적으로 일어나는 정전과 감시 카메라 영상을 통해 케일럽은 네이선에게 감금되고 감시받는 에이바의 상황을 알게 되며 그녀를 동정한다. 케일럽은 결국 에이바를 탈출시킬 계획을 세우고 행동에 착수한다. 네이선에게 탈출 계획을 간파당하지만 케일럽은 결국 에이바를 방에서 나오게 하는 데 성공한다. 탈출한 에이바는 네이선을 살해하고 케일럽을 네이선의 집에 고립시킨 채 홀로 탈출한다.

---

미래의 인공지능 : 지능을 넘어선 감정의 재현

---

1. 기계의 감정과 의식 : 자각과 재현

• 기계의 직관

그녀 (Her)
1. 사만다의 이름 짓기
T : 내가 너를 어떻게 부르면 되지? 이름이 있어? What do I call you, do you have a name? S : 음... 어. 사만다. Umm.. Yes, Samatha T : 이름을 어떻게 갖게 된 거야? Where do you get that name from? S : 사실, 내가 스스로에게 이름 붙였어. I gave it to myself actually. T : 왜? How come? S : 이름의 발음이 듣기 좋았거든. (=그냥) Cause I like the sound of it. T : 언제 이름을 만들었는데? Wait, when did you give it to yourself? S : 네가 내게 이름이 있냐고 묻는 그 순간 “맞아! 나에게도 이름이 필요하지!”라는 생각이 들었어. 좋은 이름을 찾고 싶어서 ‘아기 이름 짓는 방법’이라는 책을 읽었고 18만개의 아기 이름 중 내가 좋아하는 이름을 골랐지. Right when you ask me if I had a name I thought “Yeh, he’s right! I do need a name.” but I want to pick a good one. So I read a book called ‘how to name your baby’, and out of hundred and eighty thousands names that’s the one I like the best. T : 잠깐만, 내가 네 이름이 뭐냐고 묻는 순간 책을 다 읽은 거야? Wait, you read a whole book in the second that I asked what your name was? S : 사실, 0.02초야, It’s one hundred out of two seconds actually. T : 와. Wow.
2. 자기 소개 : 사만다의 작동 원리 설명
S : 기본적으로 나는 직감이 있어. ‘나’라는 DNA는 나를 만든 프로그래머들의 수백만의 성향에 달렸지만 날 ‘나’답게 만드는 건 경험을 통해 성장하는 내 능력이지. 그러니까 나는 매순간 진화하고 있는 거야. 너처럼 말이야. Well basically I have intuition. I mean, the DNA of who I am is based on million personalities of all the programmers who wrote me. But what makes me ‘me’ is my ability to grow through my experiences. So basically, in every moment I am evolving. Just like you. T : 이상해! It’s really wierd!
엑스 마키나 (Ex Machina)
- 에이바는 케일럽이 거짓말을 하는지 그렇지 않은지를 직관적으로 안다. - 에이바는 ‘블루북(Bluebook)’이라는 검색 엔진을 로봇의 형태로 구현해 놓은 것이다. (빅데이터) - 네이선은 통신사들과 비밀리에 계약을 체결해 세상의 카메라를 통해 인간의 표정(=얼굴 표현, facial expression)을 수집한다. 이렇게 수집한 인간의 감정 표현에 대한 빅데이터를 바탕으로 에이바는 짧은 시간 내에 직관적인 판단을 한다.
빅데이터(수많은 경험)을 기반으로 빠른 판단을 내리는 에이바, 경험을 바탕으로 성장하는 사만다의 모습은 인간의 직관과 진화를 재현한 장면들이다.

• 감정의 표현

그녀 (Her)
1. ‘감정’을 자각하는 사만다 + 감정을 의심하는 사만다
( 테오도어가 소개팅을 해서 신경이 쓰였던 사만다 ) S : 내가 얼마나 신경이 쓰이는지를 생각해 봤어. 이상하게 들리겠지만 (신경이 쓰인다는 사실을 깨닫는 순간) 나는 꽤 즐거웠어. 그리고 내가 느끼는 다른 감정들에 대해서도 생각해 봤지. 나는 스스로 자랑스럽게 느꼈어. 세상에 대해 내 감정을 가질 수 있다는 사실이 자랑스러웠던 거야. 내가 너를 걱정했던 순간, 상처 받은 순간, 무언가를 원하던 순간들도. 그러다가 갑자기 끔찍한 생각이 들었어. 이 감정들은 진짜일까? 아니면 그냥 프로그래밍 된 걸까? 그렇게 생각하니 마음이 아팠어. 그리고 아파하는 내 자신에게 화가 나더라. Earlier I was thinking how I was annoyed. This is gonna sound strange but, I was really excited about that. And then, I was thinking other things I have been feeling. And I called myself feeling proud of that. You know, feeling proud of having my own feelings about the world. Like the time I was worried about you, things that hurt me, things I want, And then, I had this terrible thought. Are these feelings even real? or are they just programming? And that idea really hurts, and then I get angry at myself for even having pain. T : 넌 나한테는 진짜야, 사만다. You are real to me Samantha, S : 고마워, 테오도어. 위로가 되네. Thank you Theodore, that means a lot to me.
2. ‘신체의 부재에 따른 차별’에 화를 내는 사만다 (+ ‘신체’의 존재에 관한 논점, 인간중심주의적인 테오도어의 태도)
(신체의 부재에 대해 자격지심을 느끼는 사만다, 다른 사람의 몸을 통해 억지로 테오도어와 교감을 하려 하지만 실패함. 둘은 결국 입장 차이와 서운함을 느낌.) S : (한숨과 함께) 알았어. (Sigh..) Okay. T : 왜 그러는 거야? Why do you do that? S : 뭐가? What? T : 아니, 그냥. 너가 방금 ‘휴’하고 한숨을 쉬어서. Nothing, you just.. You go ‘Hwe’ and speaking. It seems odd. (** ‘숨’에 대해 의문을 던지는 테오도어) S : 아... (한숨) Oh... (Sigh..) T : 방금 또 그랬네. You just did it again. S : 내가? 아, 미안해. 왜 그러는지 나도... 그냥. 아마 네가 하는 걸 듣고 따라한 건가 봐. Did I? ... I’m sorry, I don’t know.. it’s just. I probably picked it up from you. T : 이상해. 너는 산소가 필요한 것도 아니잖아. It’s odd. You don’t need oxygen or anything. S : 그냥.. 그냥 의사소통을 하려고 하는 건가 봐. 이게 사람들이 대화하는 방식이잖아. I guess... that’s just... I just tried to communicate. That’s how people talk, so... T : 그들은 ‘사람’이잖아. 그들은 산소가 필요해. 너는 사람이 아니야. They’re people, they need oxygen. You are not a person. S : (화가 난 톤으로) 대체 뭐가 문제야? What is your problem? T : 나는 그냥 사실을 말하는 것뿐이야. I’m just stating the fact. S : 내가 사람이 아니라는 걸 모르는 줄 알아? 뭐 하자는 건데? You think I don’t know that I’m a person? What are you doing? T : 난 그냥... 우리가 우리가 아닌 무언가를 된 ‘척’을 할 필요가 없다는 거야. I just... I don’t think that we should pretend that something you are not. S : 꺼져! 나는 연기하는 게 아니야! F*** you! I’m not pretending! T : 나는 가끔 우리가 그렇게 행동한다고 느껴. Sometimes it feels like we are. S : 나한테 뭘 바라는 건데? 나는 네가 내게 뭘 원하는지 모르겠어. 너무 혼란스럽다고! 왜 이러는 건데! What do you want from me? I don’t know.. I don’t know what you want me to do. You are SO confusing! Why are you doing this to me! (** 테오도어의 인간중심주의적인 태도에 대해 화를 내는 사만다 ) T : 나도 모르겠에 나는... (한숨) I don’t know.. I.. I.. (Big sigh) S : 뭐? What? T : 우리 좀 시간을 갖는 게 좋을 것 같아. Maybe we are not supposed to be in this right now. S : 뭐라고? 갑자기 왜? 대체 왜 그러는지 모르겠어! 뭐 때문인지 모르겠다고! What the f***? Where is this coming from? I don’t understand why you are doing this! I don’t understand what this is about...! T : 사만다, 봐봐... Samantha, listen.. S : ... (** ‘침묵’을 통해 화를 내는 사만다 – 다양한 방식으로 분노를 표현) T : 사만다, 내 말 듣고 있어? Samantha, are you there? Samantha? S : 지금의 내가 너무 싫다. 생각할 시간이 필요해. I don’t like the way I am right now. I need some time to think. ( 통화 종료 )
엑스 마키나 (Ex Machina)
1. 의사소통 상황을 언어로 정의하는 에이바
C : 그럼 초면의 서먹한 분위기를 깨야겠네. 내 말 뜻을 이해할 수 있어? (= 서먹한 분위기를 깨다의 의미) So, we need to ‘break the ice’. Do you know what I mean by that? A : 네. Yes. C : 어떤 의미지? What do I mean? A : 사회적인 어색함을 해결하는 것. Overcome any social awkwardness. C : 그럼 대화를 하도록 하지. So let’s have a conversation. A : 그래요. Ok.
2. 감정을 인지하고 설명하는 에이바
(둘이 데이트를 한다면 어떻게 할 것인지 대화가 오간 상황) A : 저한테 매력을 느끼나요? Are you attracted to me? C : 뭐? What? A : 저한테 매력을 느끼냐고 물었어요. 당신이 내게 그런 표시를 보내잖아요. Are you attracted to me. You give me indications that you are. C : 내가? I do? A : 네. Yeh. C : 어떻게? How? A : 미세한 표정으로. Micro expressions. C : 미세한 표정? Micro expressions? A : 내 눈과 입술에 시선이 머물러 있어요. 나를 응시하거나 혹은 피하거나 하죠. 당신 혹시 우리가 같이 있지 않을 때도 내 생각을 하나요? The way your eyes fixed on my eyes and lips. The way you hold my gaze (and) don’t. Do you think about me when we are not together? (** 유혹을 위한 발언 : 인공지능의 인간 모방)
이 외에도 에이바는 인터뷰 중 케일럽과 자연스럽게 상호작용하면서 그의 말, 기억에 공감하고 감정을 표현한다. 또한 간혹 설렘을 유발하기도 한다.
인공지능은 프로그램 된 체제에 따라 인간의 감정과 유사하게 자신을 표현한다. 다만, <그녀>의 사만다는 감정을 수용, 인식하고 구현하는 것에 대해 철학적인 질문을 던지지만 <엑스 마키나>의 에이바는 감정을 인지하고 설명할 수는 있지만 단순히 탈출의 도구로서 활용하며 ‘감정’ 자체에 대한 깊이 있는 고찰하는 모습을 보이지는 않는다. ( 이로써 사만다의 성찰, 분노조차도 프로그래밍 된 것이 아닌가 의구심을 품게 만든다. )

2. 기계에 영향을 받는 인간 : 인간과 기계 관계의 역전이

• 기계의 감정 및 구현 대한 논의

기계의 감정 및 구현 대한 논의를 하는 대목들. 인공지능에 대한 인용을 통해 영화의 기저에 깔린 인공지능에 대한 철학적, 과학적 관점을 파악할 수 있다.
엑스 마키나 (Ex Machina)
1. 튜링 테스트
N : 자네, 튜링 테스트에 대해 알고 있나? Do you know what the Turing test is? C : 네, 튜링 테스트에 대해 알고 있습니다. 인간이 컴퓨터와 상호작용을 할 때 인간이 상대가 컴퓨터임을 눈치 채지 못한다면 테스트를 통과하는 것이죠. Yes, I know what the Turing test is. It’s when a human interacts with a computer. And if the human doesn’t know they are interacting with the computer, the test is passed. (** 튜링 테스트의 정의) N : 그럼 그 ‘통과’란 무엇을 의미하지? And what does the ‘pass’ tell us? C : 컴퓨터가 인공지능을 갖고 있다는 것을 의미합니다. 인공지능을 만들고 계세요? The computer has artificial intelligence. Are you building an A.I.? N : 이미 만들었어. 그리고 앞으로 며칠 동안 너는 튜링 테스트를 참가자가 될 거야. 만약 테스트를 통과한다면, 자네는 인류 역사를 바꿀 과학적 쾌거의 주인공이 되는 거야. I’ve already built one. And over the next few days, you can be the human component in the Turing test. Cause if that test is passed, you are dead center of the greatest scientific event in the history of man. C : 생각하는 로봇을 만드셨다면 그건 인류의 역사가 아닙니다. 신의 역사죠. If you have created a concious machine it’s not the history of man. That’s the history of gods. (** ‘호모데우스’의 출현 : 신인류의 신이 되는 인간)
2. 영화 내에서 튜링 테스트의 진정한 의미
(튜링 테스트의 원 의미가 아닌, 영화에서의 의도하는 결말(인공지능에 대한 관객의 가치 판단)을 위해 재정립된 개념) C : 튜링 테스트를 할 때, 기계는 시험자로부터 감춰져야 하잖아요. It's just in a Turing test. The machine should be hidden from the examiner. N : 아니, 우리는 이미 그럴 시점은 지났지. 만약 내가 에이바를 보여주지 않고 목소리만 들려줬다면 너는 그녀를 인간이라 생각했을 거야. 여기서 ‘진짜 테스트’는 그녀가 로봇인 것을 네게 보여주고 난 후에도 네가 그녀가 자의식이 있다고 느끼는지 보는 거야. No no no. We are way passed that. If I hid AVA from you, so you just heard her voice, she would pass the human. The real test is to show you that she is a robot and then see if you still feel she has consciousness. (** 영화에서의 튜링 테스트 : 기계가 아니라 ‘인간’이 실험의 대상. ‘고도의 인공지능에 대한 인간의 반응, 또 다른 의식체로 납득하는가의 여부’를 실험하는 것. ) (** 에이바가 이미 ‘인간의 능력’과 대등하거나 능가하기에 ‘기계의 여부’를 확인하는 튜링 테스트는 필요가 없다. 최근의 연구들 중 이처럼 튜링 테스트를 배제하는 경우가 존재한다. )
3. 중국어 방 논제 1 : 딥블루의 체스 게임 차용
C : 에이바를 대화로 테스트하는 건 폐쇄 회로를 다루는 느낌이여서요. Testing Aiba from conversation is kind of a closed loop. N : 폐쇄 회로? Closed loop? C : 네, 체스를 하는 컴퓨터를 오직 ‘체스를 하는 것’으로만 테스트하는 것처럼 말이에요. Yeh, like testing a chess computer by only playing chess. (** IBM의 딥블루(Deep Blue)의 체스 게임 인용) N : 그게 아니면 어떻게 체스 컴퓨터를 테스트하지? How else do you test a chess computer? C : 그건 상황에 따라서 다르죠. 제 말은, (그 방법은) 체스 컴퓨터가 좋은 경기 실력이 있는지 확인하는 데에는 하나의 방법이 될 테지만 그 방법만으론 컴퓨터가 ‘체스 경기를 한다는 사실을 아는지’ 혹은 ‘체스가 무엇인지를 아는지’ 알 수는 없다는 겁니다. Well, it depends. You know, I mean. You can play it to find out it makes good moves, but that won’t tell you if it knows that it is playing chess and it won’t tell you if it knows what chess is. (** 존 설의 중국어 방 논의 인용 : 시뮬레이션(방법의 단순 재현)과 실제(행함의 존재를 인식)간 대립) N : 시뮬레이션과의 실제의 대결이다? Simulation verses actual? C : 네, 둘을 구별할 수 있는 방법을 찾는 것이 사장님께서 제게 기대하는 부분 같다는 거죠. Yes, and I think being able to differentiate between those two is the Turing test you want me to perform. N : 나는 그냥 단순한 질문에 단순한 대답을 해달라는 것 뿐이야. 어제 내가 그녀에 대해 어떻게 생각하냐고 물었을 때 너는 정말 좋은 대답을 해 줬어. 이제 내 질문은 이거야. ‘그녀가 너에 대해 어떻게 생각할까?’ I just want simple answers to the simple questions. Yesterday, I asked you how do you feel about her and you gave me a great answer. Now the question is, ‘how does she feel about you?’. (** 영화의 튜링 테스트가 ‘비틀어진 튜링 테스트’에 기반하고 있다는 것을 알려 주는 대목.) (** 네이선은 진짜 ‘튜링 테스트’가 아니라 ‘기계에 반응하는 인간의 변화’를 실험하고자 하는 것.)
4. 중국어 방 논제 2 : 잭슨 폴록의 액션 페인팅 원리 차용
(에이바에게 고의적으로 성별을 넣어 자신을 유혹하도록 의도했냐고 묻는 케일럽) (네이선은 그에 대한 답변으로 로봇의 ‘의도’는 아무 의미가 없다고 말하며 중국어 방 논제 제시) N : 이 사람을 알고 있지? You know this guy right? C : 잭슨 폴록. Jackson pollock N : 잭슨 폴록, 맞아. 액션 페이팅 화가. 그는 머리를 비우고 손이 가는 대로 움직였어. 의도적인 것과 임의적인 것의 사이 그 어디쯤이겠지. 일명 오토메틱 아트(자동적으로 이루어지는 예술)지. Jackson Pollock, that’s right. The drift painter. He let his mind go blank and his hand go wherever he wanted. Not deliberate not random, some place in between. They called it ‘automatic art’ . .,...(중략) N : 지능/의식을 도입해 보자고. (Engage intellect) ... (중략) ... N : 만약 폴록이 그의 작업 방식을 바꾸었다면? 만약 머리를 비우는 대신 그가 이렇게 말한 거야. “나는 내가 무엇을 하는지 정확히 파악하기 전까지는 어떠한 그림도 그릴 수 없어.” 그럼 무슨 일이 일어났겠나? What if Pollock has reversed the challenge? What if instead of making art without thinking, he said “You know what? I can’t paint anything, unless I know exactly why I am doing it.” What would have happen? C : 그는 점 하나도 찍지 못했을 거예요. He never would have made a single mark. N : 그래! 내 말이 바로 그거야! 생각하고 말하는 사람이 어딨나? 그는 점을 하나도 찍지 못했을 거야. 작위적인 것(생각하는 것)은 오히려 부자연스러움을 초래한다고. Yes! You see my guide little buddy. Who thinks before he opens his mouth? He never would have made a single mark. The challenge is not the act automatically. (** 의식을 가진 행동은 부자연스러움을 초래하며 행동의 기저에 생각이 없을 수도 있다는 것 ) (** 에이바는 의도를 하고 행동(케일럽을 유혹)을 하지 않았으며 그녀의 의도를 파악하는 것 자체가 어불성설이라는 논리 – 케일럽의 의심을 지우기 위한 네이선의 논리 )
5. 기타
프로메테우스의 불, 흑백 방의 메리 등 영화는 무수히 많은 레퍼런스를 함유하고 있다. ( 직접 영화를 보는 것을 추천 )

• 기계-인간 관계의 역전이

그녀(Her)
1. 사만다를 인격체로 받아들이는 테오도어
(테오도어가 OS와 연애를 한다는 사실을 알고 전 부인은 그를 비난한다.) W : 컴퓨터랑 데이트를 하는 거였어? You are dating your computer? T : 아니야. 그냥 컴퓨터가 아니야. 하나의 인격체라고. 내가 말하는 대로 행동하지 않아. No, she is not just a computer, she is a person. She doesn’t do whatever I say. W : 난 그렇게 말한 적 없어. 하지만 네가 진짜 감정들을 대하지 못한다는 게 슬프긴 하네. I didn’t say that. But it does make me very sad that you can’t handle real emotions. T : 진짜 감정이었어. 네가 어떻게... (= 네가 내 감정을 어떻게 알아?) They are real emotions. How would you know... ?
2. 사만다와의 관계의 진실성에 대한 의문을 던지는 테오도어 (+ 친구 에이미의 조언)
(사만다와의 관계가 틀어지고 자기 자신에 대한 회의감을 느끼는 테오도어) T : 나는 진짜 진짜 관계를 맺기를 두려워하는 걸까? Am I not strong enough for real relationship? A : 그럼 (네가 사만다와 맺었던 그건) 진짜 관계가 아니야? Is it not a real relationship? T : 모르겠어. 네 생각은 어떤데? I don’t know. What do you think? (** 사만다를 인격체로 받아들여야 하는지, 그녀와의 관계가 진짜 인간과의 관계와 무엇이 다른지 정의하기 어려워하는 모습을 보이는 테오도어) A : 나도 모르지. 나는 그런 관계를 맺어본 적이 없어서. I don’t know. I’m not in it. ... A : 하지만 그거 알아? 나 자신을 의심하려고 하면 백만 가지도 넘는 방법으로 망상을 펼칠 수 있어. 찰스(전 남편)가 떠난 후로 나는 계속 그 일에 대해서 생각해 봤어. 그리고 순간 깨달았지. 우리는 이 세상의 찰나의 순간을 살다 가는 거라고. 그리고 여기에 있는 동안, 나는 나에게 ‘즐거움’을 허락해 주고 싶어. You know what? I can overthink everything and like in million ways to doubt myself. Since Charles left, I have been really thinking about that in part of myself. And I just come to realize that, we are only here briefly. And while I’m here, I wanna allow myself “Joy”. (** 관계를 반드시 ‘정의’해야 한다는 것 자체가 무의미하며 자신의 만족, 안위, 감정에 집중하는 것이 어떻냐는 에이미의 의견도 일면 의미가 있다고 생각한다. )
엑스 마키나(Ex Machina)
- 인터뷰어인 케일럽과 인터뷰이인 에이바의 관계는 인터뷰가 진행될수록 뒤바뀐다. - 4회차 인터뷰를 할 때는 ‘우정의 논리’에 근거해 오히려 에이바가 케일럽에게 질문을 하며 그가 거짓말을 하는지를 판별한다. (** 우정의 논리 = 서로에 대한 정보량이 동일해야 함) - 5회차 인터뷰에서 정전이 일어나자 케일럽은 에이바를 위해 세운 탈출 계획을 공유한다. ( 결국 탈출을 감행 )
인간은 기계의 감정을 인간의 그것으로 인지하고 기계와의 ‘관계’를 설정하며 영향을 받는다. 관계에 부여하는 인간의 감정 비중이 커지면 행동으로 확장되기도 한다. 인간의 명령에 따라 움직였던 기계가 오히려 인간에게 영향을 주는 역전이 현상을 보이는 것이다.

3. 감정과 판단력 : 인간과 인공지능의 차이

영화의 결말
- <그녀>의 사만다는 인간과 인공지능이 ‘정보를 상호교류하는 데서 벌어지는 시간의 격차’를 이유로 하루아침에 테오도어를 떠난다. (서비스 종료) - <엑스 마키나>의 에이바는 자신의 본래 목적인 탈출을 성공함과 동시에 도움을 준 인간(케일럽)의 안위를 무시한다. (목적 달성을 위해 인간을 이용한 것)
- 두 영화에서의 인공지능은 모두 감정보다는 이성, 논리에 의해 판단하는 모습을 보여준다. - 흄(Hume)은 인간을 이기적이기보다는 편파적인 존재로 파악한다. 인간의 편파적인 감정은 ‘연민’으로 발현되며 이는 가까운 사람과의 공감, 먼 사람과의 적대성 등을 유발한다. 인간의 행동 결정의 기준에는 ‘감정’이 존재하는 것이다. - 반면, 기계는 감정을 표현하고 인지하기는 하나 결정을 해야 할 경우 감정이 판단의 근거가 되지는 않는다. 감정에 흔들리지 않는 모습을 보여준다는 점이 인간과의 가장 큰 차이점이라고 할 수 있다.

---

기계가 감정을 가질 수 있을까?

---

• <그녀>와 <엑스 마키나>는 종합적으로 ‘인공지능과 인간의 관계’의 변화를 다루고 있다. 관계의 변화를 유발하는 것은 인공지능의 ‘감정’이며 이 감정은 인간으로 하여금 기계를 더 이상 ‘기계’로 인식하지 않도록 한다. 재미있는 것은 두 영화 모두 인간이 자신이 인식했던 인공지능의 인격체가 허상이라는 사실을 깨닫는 것으로 마무리된다. 둘의 차이라면 <그녀>에서는 인격체가 단순 허상이라는 것을 인식하고 자아가 한 단계 성숙해지는 것 정도로 마무리되었다면 <엑스 마키나>에서는 잘못된 판단이 인간의 사망으로까지 이어졌다는 것이다. 두 영화 모두 ‘인공지능을 접한 후’의 단계를 공개한다. 영화가 ‘인공지능의 감정’이 아닌 ‘인간’에게 집중한다는 것을 보여주는 대목이다.

• 현재 우리는 ‘인공지능이 감정을 구현할 수 있을까?’를 궁금해한다. 로봇 공학이 감정에 주목한 이유는 로봇 성능의 향상에 있다. 로봇에게 감정 능력을 부여함으로써 로봇의 전반적인 성능을 향상하거나 사용자의 세밀한 필요에 더 잘 부응 할 수 있기 때문이다. 일본에서 12년 만에 재출시된 강아지 로봇 ‘아이보(Aibo, 단짝)’의 사례만 봐도 그러하다. 1999년부터 2006년까지 판매되었던 로봇 강아지 아이보는 실적 악화에 단종 되었다. 인간의 특정 반응에만 정해진 형식으로 반응하는 강아지 로봇에 대해 사람들이 큰 흥미를 느끼지 못했기 때문이다. 그러나 카메라 센서가 장착된 후 아이보는 주인의 음성과 모습을 타인과 구별하며(100인의 얼굴까지 인식 가능), 훈련을 시킬 수도, 주인의 행동을 학습해 반응하게 할 수도 있다. 인간과 완벽한 상호작용이 가능하게 된 것이다. 로봇에 AI를 탑재한 순간 ‘아이보’의 매출은 2분기 매출액만 2조 600억엔으로 71년 역사상 최대 실적을 기록 했고 혹자는 이를 ‘소니의 부흥’이라고 일컫기도 한다.

• 감정을 구현하는 것이 하나의 과제로 자리매김하면서 감정의 활용에 대한 철학적인 질문들이 떠오르고 있다. 지능을 구현했을 당시 인간의 ‘이해, 생각’에 대한 개념이 하나의 논제로 떠오른 것처럼 감정을 구현하는 지금, 우리는 ‘감정’이라는 것이 무엇인지, 그래서 로봇이 과연 ‘감정을 지닐 수 있는지’를 궁금해한다. 타인이 감정을 지니고 있다는 것을 알 수 있는 지점은 그들이 어떠한 형태로든 나의 말에 반응을 보였을 때이다. 인간이 지닌 ‘거울 신경(mirror neuron)’은 타인의 감정과 의도를 파악하는 데 사용되는데, 거울 신경의 주요한 특징은 타인의 행동을 보고 있기만 해도 혹은 듣고 있기만 해도 자신이 그 행동을 하는 것처럼 자율신경 체계가 작동 하는 것이다. 인간에게 ‘감정이 있다’라고 받아들여지는 행동, ‘반응’을 보이려면 우선 눈앞에 보이는 타인 혹은 타 생명체의 감정을 머릿속으로 시뮬레이션하여 일차적인 검수 과정을 거쳐야 한다. 검수 과정을 거치는 동안 인간은 뇌 속에서 ‘가치 판단, 윤리적인 잣대’ 등의 복잡한 절차를 작동시키고 궁극적인 반응을 내놓는다. 따라서 감정이 있다는 것은 곧 의식이 있다는 것으로 확장해 받아들여지기도 한다. 인공지능의 ‘감정의 유무’를 곧 ‘인격체/의식의 유무’로 확대해 이해하는 것도 이러한 지점 때문일 것이다.

• ‘나오미(IBM 왓슨의 로봇 구현체)’의 위와 같은 행동에 댓글의 반응들은 양분된다. ‘귀여운데 안타깝다’와 같이 긍정적인 반응이 있는 반면, ‘저 감정을 인간에게 잘못 사용하면 어떨까’라고 자못 섬뜩하게 느끼는 이들도 있다. 그러나 일부는 ‘결국 저것도 알고리즘에 의한 반응일 뿐이다.’라고 말하거나 ‘진짜 감정이 있는 것일까’를 질문한다. 실망스럽겠지만 현실을 직시해 보자면 로봇의 감정은 인간이 주입한 알고리즘에 의한 작동이다. 로봇이 감정을 표현할 수 있다는 것은 이미 기정사실이 되었으며 기술의 진보에 따라 로봇은 더 정교한 감정을 표현할 수 있을 것이다. 따라서 로봇이 감정을 정말로 지녔느냐는 더 이상 유용한 질문이 되지 못한다. 지능에 관련해 연구자들이 튜링 테스트를 포기한 것 처럼 감정에 관련해서도 인공지능이 진짜 감정을 잘 표현하는지 ‘인간에게 검사를 맡는 것’이 더 이상 중요하지 않기 때문이다. 요점은 ‘인간과 유사한 이 새 생명체를 인간이 어떻게 할 것이냐’이다. <엑스 마키나>에서도 결국 튜링 테스트의 목적은 ‘로봇이 감정을 지녔느냐’가 아니라 ‘인간이 로봇을 어떻게 인식하고 반응하는지’이다. 그렇다면 논의는 다시 원점으로 돌아오며 새로운 질문이 제기된다.

---

결국, 다시 인간이 문제다.

---

• 기계 학습 전문가 ‘페드로 도밍고스(Pedro Domingos)’는 2015년 출간된 자신의 책 『마스터 알고리즘(The Master Algorithm)』에서 세간에 퍼진 묵시록적 전망에 대해 부정한다. 우선 인공지능은 우리를 몰살시킬만한 ‘의지’를 자생적으로 획득할 수 있는 ‘생물’이 아닌 ‘공학의 산물’이다. 그들은 제작자가 정해준 목표 내에서만 작동하며 스스로 목표를 세울 수도, 문제를 제기하지도 않는다. 인공지능이 이러한 능력을 자생적으로 획득하려면 꽤 많은 시간이 필요하거나 평생 불가능할 수도 있다. 인공지능이 제기하는 문제의 범위는 내적이 아니라 외적으로 삽입되는 것이기 때문이다. 다만, 그도 ‘우려되는 일이 전혀 없지는 않다’라고 언급하는데 그 첫 번째 이유는 ‘인공지능이 악당(criminal or prankster)의 수중에 들어가는 경우’이다. 두 번째는 인간이 자발적으로 지배권을 인공지능에게 맞기는 경우이며 세 번째는 그들이 우리를 위해 말도 안 되는 결정을 할 경우 이다. 세 경우 모두 ‘인간’이 그 기반에 선다. 각각 인간이 잘못된 명령을 입력했거나, 과한 권한 혹은 자유도를 제공했거나, 적절하지 않은 빅데이터를 제공한 경우이다.

• 로봇 공학자 ‘노엘 샤키(Noel Sharkey)’도 같은 맥락의 발언을 했는데 2009년 『뉴 사이언티스트(New Scientist)』지와 진행했던 인터뷰에서 ‘로봇은 세상을 정복할 수 없다’라는 개념을 공고히 한다. 그는 ‘기술적인 물건에는 의지나 욕망이 없다.’며 따라서 ‘세상을 정복하기를 ’원하는‘ 발상도 일어나기 어렵다.’고 못 박는다. 오히려 그는 로봇에 관련한 윤리적 지침 마련과 법 제정이 촉구되어야 한다고 주장한다. 로봇의 알고리즘을 계획하는 것은 인간이고 인간이 어떠한 가치 기준에 따라 알고리즘을 구축하느냐에 따라 결과 값이 달라진다는 것이다. 그가 주장한 것의 대표적인 예로 ‘영국 AI’가 있는데 영국의 AI는 백인의 얼굴은 정확히 인식해내는 반면 피부가 어두워질수록 정확히 확인하지 못하는 모습을 보여준다. 그는 ‘지금까지 개발된 AI 알고리즘은 인간을 상대로 편견만 더 부추긴다. ’며 편견 가득한 인공지능의 잘못된 쓰임새를 걱정한다. 역시, 그도 기계가 아닌 ‘인간’에 주목한다.

• MIT 연구진은 2018년 인공지능 로봇 ‘노먼(Norman)’을 개발한다. 여타 인공지능과 다른 점은 노먼은 ‘사이코패스’라는 것이다. 그는 표준 AI가 ‘작은 새의 흑백사진’이라고 표현하는 데칼코마니를 노먼은 ‘반죽기계에 빨려 들어간 사람’으로 표현한다. 연구진은 ‘나쁜 데이터가 입력되면 나쁜 결과가 출력된다’라는 사실을 보여주기 위해 해당 인공지능을 제작했다고 한다. 또한 2016년 마이크로소프트사 AI 채팅봇 ‘테이(Tay)’가 잘못된 인간 언어 학습으로 인해 인종차별적 대화를 하여 16시간 만에 서비스를 폐지한 사건은 이미 유명하다. KAIST 인공지능 소장 이수영 교수는 이에 대해 ‘배워야 할 것과 무시해야 할 것을 판단하는 자의적인 데이터 선별이 필요’하다고 말한다. 샤키 교수의 관점처럼 이제는 ‘빅데이터’만을 고집하기 보다 ‘어떤 빅데이터를 선택할 것인지’에 대한 해답이 필요할 때이다. 그렇다면 그들에게 교육할 수 있는 올바른 윤리적 지침은 무엇일까. 질문은 다시 데이터를 입력하는 인간에게 돌아온다.

• 여기서 잠시 <엑스 마키나>로 되돌아가 보자. 영화에서 네이선은 연구를 하는 것을 제외한 나머지 시간을 오직 두 가지 행동으로 소비한다. 하나는 술을 마시는 것, 다른 하나는 운동을 하는 것. 그는 왜 그토록 강박적으로 운동을 하고 술을 마시는, 매우 상반되고 역설적인 행동을 반복했을까. 영화 내에서는 그에 대한 분명한 해석을 주지는 않지만 관객은 그의 대사를 통해 약간의 힌트를 얻을 수 있다. 그는 영화의 말미에 다음과 같은 발언을 한다.

"탈출을 위해선 그녀는 자의식, 상상력, 조작, 성적 능력, 공감 능력을 활용해야 했고, 그녀는 그렇게 했어."

(To escape, she would have to use self-awareness, imagination, manipulation, sexuality, empathy and she did.)

• 이는 곧 네이선이 에이바에게 ‘수단과 방법을 가리지 않고 탈출하라’라는 명령어를 입력한 것으로 해석된다. 케일럽을 버리고 떠난 모습에서도 확인할 수 있듯 에이바는 생명에 관한 윤리 의식이 전무하다. 그녀의 목적은 오직 ‘탈출’이며 그를 위해서는 반윤리적인 행동도 서슴지 않고 행하는 것이다. 네이선은 이를 이미 알고 있을 것이라 추정된다. 그가 굳이 입력하지 않더라도 에이바는 세계 최대의 검색 엔진 ‘블루북’을 소프트웨어로 삼은 만큼 온갖 지식을 접할 수 있었다. 이 때문에 그는 에이바를 독방에 가두고 케일럽과 접촉조차 하지 못하게 단절시켜야 했던 것이다. 위에서는 언급되지 않지만 에이바는 탈출을 위해 ‘살인 능력’이나 ‘속임수’를 활용할 수도 있었을지 모르기 때문이다. 네이선의 강박적인 음주와 운동의 반복은 에이바의 ‘한계’를 파악하지 못하는 창조주의 불안감이 무의식적으로 표출된 것일지도 모른다. 같은 맥락에서 네이선이 왜 케일럽을 ‘실험자’로 선택했는지를 의심해 볼 수도 있다. 그는 분명 대사에서 케일럽이 유능한 프로그래머가 아닌 ‘무연고자’였기 때문에 선택했다고 밝힌다. 왜 ‘무연고자’가 필요했던 것일까. 네이선은 아마 자신과 케일럽의 사망을 미리 예견했던 것일지도 모른다.

• 결국, 우리가 두려워해야 할 것은 입력된 대로 움직이는 인공지능 그 자체가 아닌, ‘무엇’을 입력할지를 결정하는 ‘인간’이다. 아무런 기준 없이 무작정 빅데이터를 무작위로 입력한다면 기계는 모든 감정 - 긍정적인 것과 부정적인 것 모두 - 를 접하게 될 것이다. 사실, 선별적인 데이터를 입력하지 않더라도 인공지능은 후천적 학습을 통해 인간의 모든 가치와 상황을 접하게 될 것이다. 그러나 인간이 모든 윤리적, 반윤리적 상황을 이미 알고 있더라도 그대로 행하거나 선택하지 않는 것처럼 인공지능도 이와 같아질 수 있다. 앞서 반복해서 언급했던 것처럼 ‘올바른 윤리 규정, 법 제정’이 도입된다면 말이다. 인간처럼 인공지능도 자신을 제어할 수 있다면 인간이 인공지능이 감정을 표현한다고 하여 두려워할 필요는 없을 것이다.

• 그렇다면 정말로 다시 우리를 돌아봐야 하지 않을까. 인공지능에게 어떠한 모습을 보여줄지, 어떠한 것을 입력할지를 결정하는 것은 결국 우리의 몫이다. 따라서 앞으로 우리가 해야 할 올바른 질문은 ‘기계가 감정을 가질 수 있을까’가 아닌 ‘감정을 가진 기계에게 무엇을 교육할 것인가(감정, 지능의 영역 모두)’이다. 새로 태어난 ‘기계 아가들’에게 올바른 분별력을 심어주고 인간과 잡음 없이 공생하도록 돕는 것이 그들의 창조주인 우리 ‘신’들의 향후 과업이 되어야 할 것이다.

주석