문예작품 속 인공지능 들여다보기
red
목차
테드 창의 「소프트웨어 객체의 생애 주기」
요구사항
|
테드 창의 「소프트웨어 객체의 생애 주기」에 대한 비판적 감상. 〔테드 창 지음/김상훈 옮김, 『숨』, 엘리, 2019, 99-248쪽.〕을 기본 원고로 할 것. | 
|
과제원고 : 김웅기, 김태형, 장민주
인물 정보
- 테드 창은 미국 브라운 대학교에서 물리학과 컴퓨터 공학을 전공한 과학도이자 ‘전 세계 과학소설계의 보물’이라는 찬사를 듣고 있는 소설가이다. 동시대 과학소설 작가들의 인정과 동시대 과학소설 독자들의 기대를 한 몸에 받고 있는 작가로, 휴고상을 4번, 로커스상을 4번, 네뷸러상을 4번 수상했다.
- 1990년(그의 나이 23세에) 발표한 첫 단편 <바빌론의 탑>으로 역대 최연소 네뷸러상 수상자라는 영예를 안았으며, 이후 발표하는 작품마다 스터전상, 휴고상, 네뷸러상을 휩쓸며 평단과 독자들의 주목과 지지를 받았다. <인류 과학의 진화> <우리가 해야 할 일> 두 작품이 세계적인 과학 학술지 <네이처>에 개재됐다.
- 테드 창의 발표 작품은 다음과 같다.
- 1990 「바빌론의 탑」 (Tower of Babylon) 네뷸러상 수상
- 1991 「영으로 나누면」 (Divided by zero)
- 1991 「이해」 (Understand) <아시모프>지의 독자상 수상
- 1998 「네 인생의 이야기」 (Story of Your Life) 네뷸러상, 스터전상 수상
- 2000 「인류 과학의 진화」 (The Evolution of Human Science a.k.a. "Catching Crumbs from the Table") 과학 저널 네이처 게재
- 2000 「일흔두 글자」 (Seventy-Two Letters) 사이드와이즈상 수상
- 2001 「지옥은 신의 부재」 (Hell Is the Absence of God) 휴고상, 네뷸러상, 로커스상 수상
- 2002 「외모 지상주의에 관한 소고: 다큐멘터리」 (Liking What You See: A Documentary)
- 2002 『당신 인생의 이야기』 (Stories of Your Life and Others) 첫 번째 작품집
- 2006 「우리가 해야 할 일」 (What's Expected Of Us) 과학 저널 네이처 게재
- 2007 「상인과 연금술사의 문」 (The Merchant and the Alchemist's Gate) 휴고상, 네뷸러상 수상. (한국에는 판타스틱 vol. 13에 번역되어 실림. 김상훈 번역)
- 2008 「숨결」 (Exhalation) 휴고상, 로커스상, 영국SF협회상 수상 (한국에는 판타스틱 vol. 21에 번역되어 실렸고, 작품집 숨에서는 '숨'으로 제목이 번경되어 실렸다. 김상훈 번역)
- 2010 「소프트웨어 객체의 생애 주기」 (The Lifecycle of Software Objects) 휴고상, 로커스상 수상
- 2011 「데이시의 기계식 자동보모」 (Dacey's Patent Automatic Nanny)
- 2013 「사실적 진실, 감정적 진실」 (The Truth of Fact, the Truth of Feeling)
- 2015 「거대한 침묵」 (The Great Silence)
- 2019 「옴팔로스」 (Omphalos) (작품집 『숨』에 실림)
- 2019 「불안은 자유의 현기증」 (Anxiety Is the Dizziness of Freedom) (작품집 『숨』에 실림)
- 2019 『숨』 (Exhalation: Stories) 두 번째 작품집
- 이들 중 국내에 번역되어 출간 된 도서는 다음과 같다.
- 『당신 인생의 이야기』(2004년 정발, 행복한 책읽기, 김상훈 번역) / 개정판(2016년, 북하우스 엘리, 김상훈 번역)
- 『소프트웨어 객체의 생애 주기』(2013년 정발, 북스피어, 김상훈 번역)
- 『숨』(2019년 정발, 북하우스 엘리, 김상훈 번역)
이들 모두는 테드 창 전문 번역가로 알려진 국내 SF소설 비평가 김상훈이 번역하였다.
테드 창의 작품세계
- ‘science fiction’이라는 용어가 한국에 '공상과학'으로 번역되어 들어와, 흔히들 sf소설이라 하면 외계인과 우주선이 등장하는 판타지 소설이라고 인식되어 왔다. 그러나 ‘공상과학’이라는 용어를 정정하고 SF를 ‘과학소설’로 부르려는 시도들이 있다. 테드 창이 인터뷰를 통해 직접 밝힌 과학소설에서의 판타지성에 대한 그의 견해는 다음과 같다.
- 테드 창: 에밀 졸라는 소설을 쓸 때 과학적인 방식을 이용해야 한다고 말했다. 내 생각에 SF는 과학 시대의 산물이지만 판타지는 그렇지 않다. SF를 기술하는데 과학적인 사실을 반드시 고수할 필요는 없다. 하지만 과학적인 세계관은 고수해야 한다.
- 그의 작품에는 필요에 따라 판타지적인 요소들이 등장하지만, 테드 창은 과학적 정합성을 특히 중시하는 하드SF 작가라고 할 수 있다. 특히 그는 철학이나 과학철학적 관점에 입각한 사고실험을, 보편적인 공감을 불러일으키는 소설로 형상화하는 것에 탁월하다.
소프트웨어 객체의 생애 주기(The Lifecycle of Software Objects)
- 「소프트웨어 객체의 생애 주기」는 현재까지 테드 창이 발표한 작품 중 가장 분량이 많은 작품이다. 그는 단편 집필에 짧게는 6개월, 길게는 1년이 넘도록 시간을 들이는 것으로 알려져 있으며, 지금까지 장편 소설을 발표한 적이 없다. 테드 창은 한국에 <소프트웨어 객체의 생애 주기>가 발표되기 이전, 한 인터뷰에서 해당 작품의 집필까지는 2년의 시간이 소요되었다고 이야기 한 바 있다. 그는 「소프트웨어 객체의 생애 주기」를 “가상 애완동물(virtual pet)에 관한 이야기다. 가상 애완동물을 만드는 회사에서 15년 동안 일한 두 명의 남자가 주인공으로 등장하는데 그 둘 간의 관계와 가상 애완동물과의 관계를 다뤘다.” 라고 소개했다.
- 「소프트웨어 객체의 생애 주기」의 줄거리는 다음과 같다.
전직 동물 조련사인 애나는 디지털 애완동물인 ‘디지언트’를 개발한 ‘블루 감마사’에 취직한다. 애나와 그곳에서 일하는 또 다른 직원인 애니메이터 데릭은 ‘데이터 어스’라는 가상세계에서 디지언트인 잭스와 마르코, 폴로를 돌보고 교육한다. 소설은 그들이 각자의 디지언트와 겪는 15년 동안의 육성 이야기이다. 시간이 흐르며 발전하던 디지언트 산업은 어느 순간 사람들의 흥미를 끌지 못하게 되고 잭스와 마르코, 폴로를 비롯한 디지언트들은 끊임없이 존속의 위협을 받는다.
- 우리는 이 이야기의 중심소재인 ‘디지언트 기술’에 대해 이야기할 것이다.
‘디지언트’란?
- 데이터 어스와 같은 가상 공간에 존재하는 디지털 유기체이다. 그들의 외형은 의인화된 호랑이, 만화적인 모습의 침팬지, 고양이 개 원숭이, 판다, 로봇 뿐만아니라 비처럼 쏟아지는 금화(금화 끼리 부딪히고 튕기면서 그 궤도가 고도로 추상화된 인체처럼 보이는 모양새)까지 아주 다양하다. 소설의 묘사에 따르면 이들은 지금까지 우리가 가상생물에 대해 일반적으로 생각해왔던 외모와 다르다.
- 애나가 ‘디지언트의 비동물적인 특성’에 대해 잠깐 언급한 바 있다. 소설은 구체적으로 디지언트가 어떤 방식으로 비동물적인 특성을 보여주는지 이야기하고 있지 않다. 보통의 생물들은 육체를 가지고 있고 그 육체의 생명 활동을 위해 특정한 욕두들을 지속적으로 충족시켜주어야 한다. 그러나 디지언트들은 외피를 가지기는 하지만 뇌의 작용과 분리할 수 없는 육체를 가지지는 않는다. 그러한 생물학적 욕구의 차이가 디지언트들의 비동물적인 특성과 연관이 있을 거라 예측된다.
- 소설에 드러난 디지언트들의 욕구는 펠릿 사료라는 보상 시스템과 ‘주목받기를 좋아한다.’는 두 가지만이 서술되어 있다. 펠릿 사료는 화학물질의 조성을 통해 만들어지며, 디지언트들이 맛과 질감을 느낄 수 있다. 펠릿사료와 유저와의 유대관계는 디지언트들의 주된 학습 동기로 작용한다.
- 이것을 증명하는 예로 온실실험이 있다. 온실에 방치된 디지언트들이 독자적인 문화를 발전시킬 수 있는지에 대한 실험이 있었다. 앞서 언급한 ‘온실 시간’으로 작동되는 공간에서 디지언트들은 그들만의 독자적인 문명을 만들 것이라는 기대와 달리 야생화되었다. 이때의 야생화는 (『파리대왕』의 그것처럼)야만적이진 않지만 비계층적이고 느슨한 상태이다. 이를 통해 소설은 인간과 같은 복잡한 정신은 스스로 발전할 수 없으며, 하나의 생물이 가진 잠재력을 완전히 발휘하려면 다른 정신들에 의한 교화가 필요하다는 점에 대해 이야기하고 있다.
- 애나는 영장류 커뮤니케이션을 전공했다. 디지언트들에게서 가장 중요한 특성은 그들이 기존의 인공지능 시스템들과 달리 ‘게놈’을 가졌다는 사실이다. 소설 속 디지언트는 지능 뿐 아니라 기질을 가진다. 블루 감마사는 디지언트의 성격을 영리함과 종순함의 조합으로 만들려 몇 년간 시도한다. 그러나 디지언트들이 가지는 기질은 특성을 골라 직접 조합할 수 있는 것이 아닌, 유전되는 것이며 이것은 생물에게 있어서의 유전과 마찬가지로 그 결과를 예측할 수 없다.
- 또한 그들의 기질적인 특성은 유전에 의한 것이지만 동시에 그들의 성장을 게놈이 완벽히 결정짓지는 않는다. 그것을 보여줄 수 있는 예시는 데릭의 디지언트인 마르코와 폴로이다. 폴로는 마르코를 복제해 마르코보다 2년 늦게 만들어진 디지언트이다. 그들은 완전히 동일한 게놈을 가지지만, 육성환경에 의해 상이하게 발달하는 모습을 보여준다. 마르코는 외향적인 성격인 반면에 폴로는 좀 더 신중한 성격이다. 이러한 예시를 통해 소설은 성격 형성에 있어서 유전자와 환경이 각각 어떤 영향을 주는지를 이야기하고자 한다. 수없이 상이한 환경에서 육성된 디지언트들이 어떤 식의 모습을 드러낼지는 예측 불가능하다.
- 더욱이 같은 게놈을 가진 마르코와 폴로가 상이한 발달을 보여주는 것 뿐 아니라, 하나의 디지언트를 체크 포인트로 되감았을 때 그 디지언트가 이후에 어떻게 발달 할 지 또한 예측 불가능하다. 이것은 환경이 디지언트들에게 미치는 영향을 보여주는 예시이며, 동시에 디지언트에게 있어 학습이 얼마나 중요하게 작용하는 지 보여준다.
‘게놈’과 ‘유전’, 그리고 ‘인간 게놈 프로젝트’
게놈
- 디지언트 기술과 현재 인공지능 기술과의 가장 큰 차이점은 인공적으로 프로그래밍 된 디지털 게놈에 대한 것이다. 그렇다면 먼저 ‘게놈’에 대한 이해가 필요할 것이다. 게놈(genome)이란 유전자(gene)와 염색체(chromosome)를 합성해서 만든 용어로, 염색체 속에 들어 있는 모든 유전자를 함의하고 있으며 '유전체'라고도 한다. 일부 바이러스의 RNA를 제외하고 모든 생물은 DNA로 유전 정보를 구성하고 있기 때문에 일반적으로 DNA로 구성된 유전 정보를 지칭한다.
- 인간 게놈은 23개의 반수체 염색체가 약 30억 염기쌍(base pair)으로 이루어져 있기 때문에 한 세포 전체를 따지면 60억 염기쌍 정도의 DNA가 핵 안에 들어 있는 셈이 된다. 대장균 같은 세균은 일반적으로 DNA가 한 쌍의 배수체(倍數體)를 이루고 있지 않기 때문에 가지고 있는 DNA 전부가 그대로 게놈이 된다. 마찬가지로 RNA를 기본적인 유전 물질로 가지고 있는 바이러스 같은 경우에는 RNA가 게놈을 구성하게 된다. 또한 고등 생물 세포 내에 들어있으며 독자적인 DNA를 가지는 미토콘드리아나 엽록체 같은 경우에도 그 DNA가 해당 생물의 게놈에 포함된다고 할 수 있다.
- 진핵생물로서 최초로 게놈 서열이 결정된 생물은 효모(1996년)였고 동물로서 가장 먼저 된 것은 예쁜꼬마선충(1998년)이었다. 식물로서 가장 먼저 된 것은 애기장대라는 쌍떡잎잡초(2000년)였으며, 모델 생물로 많은 연구 결과가 집적되어 있던 초파리도 2000년에 완성되었다. 식물에서 또 다른 중요한 식물인 외떡잎작물 벼는 2004년에 게놈 서열이 발표되었다. 인간과 유사한 척추 포유류 동물인 생쥐의 게놈 서열은 2002년에 발표되었다.
유전
- 그렇다면 유전이란 무엇인가. 디지언트들의 ‘기질 대물림’을 이해하기 위해선 유전에 대해 알아야 한다. 유전이란 흔히 알고 있듯 부모가 가지고 있는 특성이 자식에게 전해지는 현상이다. 모든 생물은 생식을 통해서 자손을 남긴다. 이렇게 생식을 통해 자손을 남길 때 부모가 가지고 있는 특성,
예를 들어 인간의 머리 색깔이라거나, 피부 색깔이라거나, 얼굴 형태 등은 그 자식에게 전달된다. 이러한 현상은 인간 사이에서는 아주 오래 전부터 알려져 있어서 고대부터 남아 있는 신화나 설화에서도 이러한 흔적을 찾아 볼 수 있다. 그러나 실제로 이러한 현상이 어떠한 방식을 통해서 일어나는지는 더 오랜 시간이 지나서야 다양한 연구를 통해 과학적으로 밝혀지게 되었고, 그러한 과정을 통해서 유전이라는 단어는 과학적인 지위를 얻게 되었다.
과거의 유전 개념
- 일반적으로 과거 사람들이 유전에 대해서 가지고 있는 개념은 ‘혼합 가설’이었다. 특히 몸 속의 액체를 통한 혼합이 유전의 원인이라고 생각했기 때문에, 인간이 생식을 할 때에도 남성의 정액이 여성의 몸 속으로 섞여 들어가서 유전 현상이 나타난다고 생각했다. 이 정액은 피와 그 본질이 같다고 생각했기 때문에, 현재에도 순수혈통, 혼혈 같은 단어 속에 '피'라는 개념을 중요하게 여긴 것을 엿볼 수 있다.
이러한 개념을 좀 더 발전시킨 것이 판게네시스(pangenesis)라는 이론이다. 이 이론은 원자론으로 유명한 그리스의 철학자 데모크리토스가 처음 만들었는데, 원자와 같은 입자의 존재를 믿은 데모크리토스는 동물의 혈액 속에도 이러한 입자가 있다고 생각하여 아버지와 어머니의 혈액 속에 들어 있는 입자가 섞여서 자식의 특성을 결정한다고 생각했다. 이 발상은 진화론을 창시한 찰스 다윈(C. Darwin)에게도 그대로 이어져서, 다윈은 이러한 입자를 제뮬(gemmule)이라고 하고, 이 입자들이 신체 각 기관에서 만들어져서 혈액을 통해 흩어진다고 생각했다.
유전에 대한 멘델의 법칙
- 이러한 경향을 크게 바꾼 것은 오스트리아의 수도사였던 그레고르 멘델(G.J. Mendel)이다. 멘델은 완두콩을 이용한 여러 실험을 통해서 현재 멘델의 법칙이라 불리는 ‘세 가지 법칙’을 발견함으로써 유전 원리를 처음 과학적으로 밝혀냈다.
- 멘델의 발상은 부모 세대에서 자식 세대에 물려주는 특정한 인자가 물질 형태로 존재한다는 것이고, 이것은 액체처럼 중간 단계를 가지고 섞이는 것이 아니라 어느 한쪽이 다른 쪽을 누르는 형태로, 확실한 성향을 가지고 나타난다는 것이다. 이런 식으로 환원할 수 있는 물질 입자는 이후 과학 발전에 따라 유전자로 밝혀졌으며, 멘델의 추측은 옳은 것으로 판명되었다.
유전과 염색체, 단백질, DNA
- 멘델의 법칙이 증명된 이후 과학자들은 실제로 멘델이 예상했던 유전 물질이 무엇인지를 찾아내는 데 집중했다. 그리고 1903년 메뚜기를 가지고 연구하던 서튼(W.S. Sutton)은 이러한 유전 물질이 세포의 핵 안에 있는 염색체에 있다는 이론을 발표하였다. 또한 1902년에도 독일의 세포학자인 테오도어 보베리(T.H. Boveri)가 이러한 이론을 생각한 것으로 알려졌지만 직접 이론을 발표하지는 않았다. 이들은 염색체가 정자, 난자에서 둘로 쪼개졌다 수정될 때 하나로 합쳐진다는 현상을 관찰하고, 멘델이 가정한 유전 인자가 염색체에 있음을 제기했다. 이러한 염색체 이론은 토머스 모건(T.H. Morgan)이 초파리를 가지고 수행한 일련의 연구에서 완전히 증명되어, 모건은 이 업적으로 1933년에 노벨상을 받는다.
- 또한 1909년에는 요한센(W. Johannsen)이 이러한 유전 인자에 ‘유전자’라는 이름을 붙였다. 하지만 염색체는 단백질과 DNA로 구성되어 있었기 때문에 이 당시에도 아직 유전 물질이 정확히 무엇인지는 알려지지 않았다. 이후 1928년에 그리피스(F. Griffith)가 폐렴균을 가지고 한 실험을 1944년에 에이버리(O. Avery), 맥클레오드(C. Macleod), 매카티(M. McCarty)가 소개하면서 DNA가 유전자를 구성하는 물질이라는 사실이 밝혀지게 되었다. 그리고 1953년에 왓슨(J.D. Watson)과 크릭(F. Crick)이 DNA의 이중나선 구조를 밝히고, DNA에서 RNA로, RNA에서 단백질로 정보가 전달되어 유전 형질이 드러난다는 중심원리(central dogma)를 만들어 냄으로써 유전에 대한 중요한 원리가 대부분 밝혀졌다.
현재의 유전학
- 유전이라는 현상이 DNA상에 존재하는 유전자의 물리적인 법칙에 의해 지배된다는 사실이 알려지면서 생물학은 엄청난 발전을 하게 되었다. 현재는 염색체에 있는 DNA가 복제되어 동일한 생물 개체를 만들어 낼 수 있다는 사실이 널리 받아들여지고 있으며 이 DNA가 실제로 생물을 만들어 내기 위해 작동하는 방식도 잘 알려져 있다. 이러한 전반적인 부분을 연구하는 학문이 유전학이며 유전학은 멘델 이후 많은 발전을 거쳐 왔다.
- 인간이 이용하는 동물이나 식물에 있어서, 이러한 유전 원리를 파악함에 따라 더욱 과학적인 육종(育種)이나 품종개량을 할 수 있게 되었으며 여기에는 유전자를 직접 조작하는 유전자재조합생물체(GMO)도 포함된다. 의학 분야에 있어서도 여러 가지 유전병의 원인을 유전학의 발전을 통해 알아낼 수 있게 되었다. 유전의 메커니즘이 많이 밝혀진 1950년대 이후에도 생물학은 끊임없는 발전을 하여, 현재는 앞서 이야기한 고전적인 유전학에 따르지 않는 여러 가지 예외 사항도 계속 발견되고 있지만 아직 고전적인 유전학은 생물학 전체에 걸친 학문적인 기반으로 계속 자리 잡고 있다.
인간 게놈 프로젝트
- 게놈은 생물에 담긴 유전 정보 전체를 의미한다. 인체는 수조 개의 세포로 이루어져 있으며, 각 세포핵에는 1쌍의 성염색체(여성은 XX, 남성은 XY)를 포함한 23쌍의 염색체가 자리잡고 있다. 염색체는 생물체의 유전물질인 DNA 덩어리다.
- DNA는 또다시 아데닌(A), 티민(T), 구아닌(G), 시토신(C)의 4가지 염기가 나열된 이중 나선 구조로 돼 있다. 사람의 경우 세포마다 대략 30억 쌍의 염기가 존재하는 것으로 추정되나 인간게놈 프로젝트는 이 30억 쌍의 염기가 어떤 순서로 배열돼 있는가를 밝혀내는 작업이다. 현재 인간게놈프로젝트로 밝혀진 바에 따르면 인간 유전자는 모두 약 20,000개에서 25,000개 정도가 있다고 하며 이 수는 과학자들이 예상한 것보다 상당히 적은 수이다.
- 염기 배열이 중요한 의미를 갖는 것은 각종 생리 현상에 관계되는 단백질의 생성 과정을 알아낼 수 있기 때문이다. 즉 DNA의 염기 배열 정보는 DNA와 구조가 비슷한 또 다른 유전물질 RNA로 전달된다. 그리고 이 RNA의 염기 3개에 맞춰 아미노산 하나가 만들어진다.
- 아미노산은 인체에서 다양한 생리현상을 주관하는 단백질의 기본 단위로 DNA의 염기 배열에 따라 궁극적으로 어떤 단백질이 만들어지는지가 결정된다. 염기 배열만 알면, 다시 말해 염기 3개의 성분이 무엇인지 알면 어떤 아미노산 1개가 만들어지는가를 알 수 있다. 단백질 합성과 세포 복제를 명령하는 DNA 안의 인간 염색체의 염기 서열 지도를 들여다보면 어느 부분이 손톱을 만들고 심장과 머리카락을 만드는 곳인지, 피부나 눈동자의 색을 결정하는 곳인지 알 수 있게 된다. 또 DNA에 어떤 변이가 생겨 세포가 구실을 못 하고 결국 질병과 노화를 일으키게 되는지 그 메커니즘을 이해할 수 있다.
- 전문가들은 인간의 DNA 배열은 거의 99.9%가 같지만 그 배열상 변동은 질병 발생 위험과 치료제에 대한 반응 그리고 치료법에 지대한 영향을 미친다고 지적하고 있다. 따라서 이 DNA 배열작업이 완료되면 유전적 성격을 가진 모든 질병의 유전적 요인과 다발성 경화증, 암, 고혈압, 조현병 같은 복잡한 성격을 지닌 일반 질환의 원인을 밝혀낼 수 있을 것으로 전망하고 있다. 또 질병을 분자 수준에서 이해하여 예방할 수 있을 뿐 아니라 질병마다 정확하고 개별적 요법을 설계할 수 있으며 개인 차이에 따른 ‘맞춤 약’도 가능할 것으로 예상된다.
- 인간게놈은 심장병, 암, 알츠하이머, 심지어 에이즈에 이르기까지 유전자 이상으로 인한 각종 질병의 원인을 근본부터 밝힐 수 있게 해주어 의학과 약학을 포함한 생명과학의 새 지평을 열 것으로 기대를 모으고 있다. 즉 게놈 해독을 통해 인간 유전자를 전체적으로 파악하면 이를 바탕으로 하여 각 유전자의 작용을 알아내 결함을 수정하고 기능을 강화하는 등 다양한 생명공학적 응용이 가능해진다.
인간과 디지언트의 공통점과 차이점
생물학적 특징들
- 인류 철학에서 사람들은 인간 고유성에 대해 찾고자 해왔다. 이것은 인공지능에 대해 이야기할 때 역시 마찬가지이다. 사람들은 대체로 인간이 타생물과 가지는 가장 큰 차이를 ‘감정’이라고 여기며 고도로 발달 된 인공지능 또한 인간과 같은 감정을 가질 것인가에 크게 주목한다. 인공지능의 핵심은 알고리즘이다. 인간이 설정해놓은 알고리즘의 존재가 인공지능에 있어 ‘감정’으로 보일 수 있는 것들이 결국 인위적인 것이며 본질적으로 인간의 감정과는 다르다는 사람들의 관점이 있다. 동시에 그것을 형이상학적인 차원에서 바라보자면, 인간 역시 인공지능과 마찬가지로 나름의 알고리즘을 통해 움직이는 생체기계라는 생각들이 존재한다. 따라서 우리는 무엇이 ‘진짜’ 인간 같은 것인가를 완전히 결정지을 수 없기에 인공지능 판별에 있어 인간처럼 보이는 것이 인간다운 것이라는 원리의 튜링테스트를 이용한다.
- 인간과 디지언트의 큰 차이점은 디지언트의 경우 사고나 감정과, 외형이 별도로 존재한다는 것이다. 인간의 게놈은 외형, 유전병, 성격 등 인간을 형성하는 모든 것의 바탕이 된다. 그러나 디지언트의 경우 의복을 갈아입듯 외형을 바꿀 수는 있지만, 표정이 다양해지는 것 외에 시간이 지나감에 따라 외형이 변화하지는 않는다.(물론 디지언트의 학습능력이 성장하는 과정에서 어린 외모와 발달 된 지능의 괴리로 인해, 모든 디지언스의 외모를 성숙해 보이도록 바꾼 사건이 있기는 하다.)
- 인간게놈연구에서 가장 중점이 되는 것은 질병 및 인간의 생존에 영향을 미치는 수많은 생물학적 특징들이다. 그러나 디지언트의 게놈연구에서 가장 핵심이 되는 것은 그것의 성질과 기질에 관한 문제이다. 물론 디지언트의 경우 주체적인 삶을 살 수 있는 것이 아닌, 궁극적으로 ‘인간을 위해’ 존재하기 때문에, 인간에게 사랑받을 만한, 인간의 관심을 끌 만한 성격이 곧 생존의 문제이기는 하다.
- 이러한 육체의 유무로 비롯한 생물학적인 특징에서 인간과 디지언트는 많은 차이를 보인다.
언어의 측면에서 바라본 공통점과 차이점
- 디지언트들은 ‘언어 학습을 지원하는 독자적인 게놈 엔진’을 통해 언어를 구사할 수 있다. 디지털 어스에서는 듣고 말하는 법을 배웠고, 하드웨어 외피를 얻은 후에는 쓰는 법까지 습득한다. 디지언트들은 여러 면에서 인간 어린아이의 발달 초기 단계와 유사성을 지닌다. 언어의 측면에서 디지언트와 인간의 공통점과 차이점을 살펴보기 위해, 먼저 인간의 언어 발달에 대해 생각해보고 넘어갈 것이다.
인간의 언어발달과정
- 아이들이 언어를 습득하는 과정을 한편으로는 당연하고, 어찌 생각하면 아주 희한하다는 표현을 한다. 건강한 모든 아이들이 별 어려움 없이 말을 배운다는 의미에서 당연한 것이고, 그럼에도 불구하고, 그 습득의 기제나 과정을 과학적으로 설명하는 것이 쉽지 않기에 신기하다는 의미이다. 물론 아이들의 언어습득 과정을, 독자들이 이미 알고 있는 조건화라는 학습 과정으로 설명할 수는 있다. 즉 아기들이 4-6 개월 사이에 말소리를 옹알거리기 시작하면, 이를 엄마가 듣고 정확한 언어 표현을 강화하고 그렇지 않은 말은 무시하여, 말을 배워가도록 가르친다고 설명할 수 있다. 단순한 설명이라는 점에서 매력적이지만 많은 연구자들은 이 설명에 동의하지 않는다. 실제 양육 장면을 관찰해 보면, 부모들은 아이들이 정확하게 말하도록 가르치지 않으며, 아이들도 부모의 말을 단순히 모방하지 않는다는 증거가 많기 때문이다.
- 우리 인간은 언어를 습득할 수 있는 특별한 능력을 가지고 태어난다고 주장할 수도 있다. 언어습득과 발달은 선천적이며, 생물학적으로 결정된 능력이라는, 소위 말하는 생득론이다. 특히 촘스키같은 학자는 인간의 뇌에는 언어 학습을 촉진하는 선천적 언어습득 장치가 있다고 주장한다. 그러기에 적절한 입력을 받기만 하면 언어습득이 가능하다는 것이다. 그리고 이 언어습득 능력은 일반적인 인지 능력 즉 지능과는 구별되는 독립적인 장치라고까지 주장한다. 실제로 지능은 낮지만 탁월한 언어 능력을 보이는 사례와, 반대로 지능은 정상인데, 언어의 문법적 능력은 결함을 보이는 사례들이 이러한 주장의 증거가 된다.
- 영아들은 말소리와 비언어적 소리를(개 짖는 소리) 구별할 줄 알고, 다른 소리보다 단어 듣기를 더 좋아한다고 한다. 자신이 듣는 언어가 바뀐 것을 알아채기도 한다. 즉 영어 문장에 습관화를 시킨 후, 다른 영어 문장에는 반응을 보이지 않지만 스페인 문장으로 바뀌면 이 변화를 알아챈다는 것이다. 주변에서 말소리가 들리면 그 곳으로 주의를 기울이고, 사람의 얼굴 모양을 좋아하고, 특히 말하는 사람의 입술을 응시한다고 한다. 심지어는 말하는 사람의 입 모양이 말소리와 일치하는 동영상과 그렇지 않은 동영상을 구별하기도 한다는 것이다. 이러한 결과들은 모두 생득론 입장을 지지하는 것처럼 보인다. 즉 아이들은 언어를 쉽게 습득할 수 있는 강력한 선천적 경향성을 갖고 태어난 것처럼 여겨진다.
- 아이들이 노출되는 언어 환경이 중요하다는 증거도 있다. 미국에서 태어난 2개월 된 아기들에게, 영어 문장과 불어 문장을 들려주고, 그 말소리가 나는 방향으로 고개를 돌려 보는 시간을 측정하였더니, 영어에 대해 훨씬 신속하게 반응했다고 한다. 2개월 만에 이미 자신의 모국어에 더 민감해 진 것이다. 6개월 정도 되면 영아들은 자신의 주변에서 듣는 언어의 특성을 구별해 낼 수 있으며, 8-10개월이 되면 자신의 모국어에 적절한 속성만을 처리한다.
- 그러기에 언어습득과 발달은, 선천적이고 생득적인 능력과 환경적 경험의 상호 연결 속에서 진행된다고 생각해야 할 것이다. 생물학적인 기반이 언어를 습득하게 하는 것이지만, 언어를 사용하고 연습하는 환경 속에서만 그 능력이 발현되는 것이다.
의문점
- 디지언트의 학습에서 인간과 가장 큰 차이점을 보이는 것은 그들의 학습은 조금 관념(?)적인 차원에서 이루어지며, 그들의 생물학적인 특성(예를 들어 발성 기관의 성장과 변천이라든가 하는,)이 그들의 학습에 주는 영향이 적다는 것이다.
- 그러나 소설의 초반에는 디지언트들이 ‘유아적인 말투’로 말을 하지만, 점차 시간이 지나며 여전히 문장 구성의 측면에서는 인간과 차이를 보이지만 발음에 있어 성인과 유사한 상태로 발달을 한다.(소설을 읽으며 내내 이것이 번역 과정에 생긴 차이라고도 생각을 해보았는데 원문을 확인 해보지 못 해 알 수 없다.) 이 점에 대해 의문이 생긴다.
- 인간 발음에는 단순히 언어 습득에 관한 지식적인 부분뿐만 아니라 구강구조와 발성기관의 변화 역시 영향을 준다. 그러나 소설에 따르면 디지언트들은 생성 초기와 시간이 지난 후 사이의 외형적 변화가 전혀 없다. 또한 그들의 외형은 단순히 유저들의 인식과 이해를 돕기 위한 디스플레이일 뿐이다.
- 그렇게 시스템과 디스플레이로 이루어져 있는 디지언트에게 있어서 말을 배운다는 것은 다음과 같을 것이다. 디지언트는 소리를 듣고 그 각각의 음소와 의미를 반복을 통해 판별한 후 음소와 의미를 매치한다. 그 후 음소가 가지는 일종의 음계(높낮이, 장단 등의 소리 값)를 기억하여 필요한 상황에 비슷한 음을 소리 내는 일일 것이다.
- 디지언트가 언어를 학습하는 과정에서 충분한 데이터 수집을 위한 반복은 필요할 것이다. 그러나 말소리를 내는 일은 일종의 마이크를 통해 입력된 특정한 소리를 그것의 스피커에 해당하는 입으로 출력하는 일일 것이다. 이때 들은 대로 소리내기는 육체를 가진 인간의 것과는 분명 차이를 가진다. 그러나 같은 소리를 내는 것에 그것이 유아적인 소리에서 성인의 것과 유사하게 변한다는 설정에는 의문이 든다.
‘야생화’의 관점에서
- 앞서 디지언트에 대해 처음 언급하는 과정에서 야생화에 대한 이야기를 한 적이 있다. 디지언트의 욕망은 보상을 통해서 충족된다. 소설에 따르면 디지언트는 관심을 받는 것을 좋아하고, 보상 펠릿을 좋아하고 촉감에 대해 흥미를 가지는 것으로 보아, 호기심이 있으며, 새로운 일을 학습하는 것에 어느 정도 욕구를 가지고 있다. 그러나 그런 디지언트를 야생의 상태에 뒀을 때, 그들의 욕구는 발동되지 않는다. 그들의 욕구는 보통 유저에 의해서 활성화되는 것으로 추정된다. 이것 역시 생물과 시스템의 차이일 것이다.
- 인간 이외에도 대부분의 생물들은 다른 생물들과 상호작용이 없는 상태에서도 욕구에 의해 움직이며 생명 활동을 위한 알고리즘의 작동을 쉬지 않는다. 이 생명 활동을 위한 알고리즘의 작동은 결국 학습을 하는 일과 다르지 않다. 그것은 최적화의 과정을 거치며 눈앞에 놓인 욕구를 충족 시키지 못하게 방해하는 장애물이라는 문제를 해결하도록 움직일 것이기 때문이다. 인간에게 있어서 그러한 과정은 곧 학습이다.
- 그러나 소설에서 말하는 야생화 상태에서 더 이상 활성화 되지 않는 학습을 학문적 고취라는 측면에서 바라보면 그것은 인간의 유아나 다른 생물들과 마찬가지로 그 결과가 다르지 않다고도 볼 수 있다.
현재 기술의 관점에서 바라본 디지언트 기술
- 디지언트와 현재의 인공지능 기술의 차이는 첫째 인공지능의 목적, 둘째 인공지능이 가지는 스스로 학습하는 능력의 정도의 차이, 셋째 인공지능 게놈, 이 될 것이다.
- IBM의 왓슨은 퀴즈대회에서 문제를 풀려고, 정답을 찾으려고 움직인다. 그런데 문제와 정답은 '언어'로 되어 있다. 때문에 이 때의 알고리즘 NLP은 자연어를 처리하고 기계가 할 수 있는 연산을 한다. 또한 왓슨은 임베딩 기술을 이용한다. 이들을 통해 왓슨은 데이터를 이용하는데 위키피디어를 중심으로 한 웹 자원과 같은 텍스트 데이터를 처리할 수 있다.
- Google의 알파고는 바둑에서 사람을 이기기 위해 바둑이라는 '게임의 규칙(연역적 체계)'을 기반으로 '수'(이기기 위한 시뮬레이션)를 탐색한다. 이때 알고리즘인 MCTS(몬테카를로트리탐색) 알고리즘으로 "인공신경망 기술"에 굉장히 가깝다. 이 MCTS가 데이터를 처리하는 방법은 기보(바둑을 두는 과정 정리) 데이터와 사람들이 그동안 두었던 누적 기보(전처리가 된 데이터를)를 학습 하며 동시에 알파고가 직접 바둑게임을 시뮬레이션한 결과물로서의 기보 내용을 강화한다. 기술의 발달로 인해 알파고의 물리적 환경은 TPU(CPU도 아니고 GPU도 아니고)를 이용한다.
- 더 나아가 알파제로는 기존의 알파고가 사용하는 방식인, 기보와 누적 기보를 이용하지 않고 몇시간의 플레이를 통해 스스로 게임의 규칙과 승리를 위한 최선을 학습한다. 이러한 알파 제로의 스스로 학습하는 모습은 디지언트와 유사하다고 할 수 있다.
- 그러나 앞서 언급된 인공지능들과 디지언트가 가지는 가장 큰 차이는 그것의 목적에 있다. 소설의 설정에 따르면 디지언트는 가상 공간에 존재하는 가상 애완동물로서 개발되었다. 그러나 이 목적은 디지언트의 개발 목적이지 디지언트가 가진 알고리즘 작동의 목적은 아니다. 앞서 언급된 모든 인공지능 기술은 언어로 된 게임이든 수읽기 게임이든 게임을 풀어나가기 위해 존재하며 게임에서 더 좋은 성과를 내기 위한 최적화의 과정을 거듭한다. 반면에 디지언트는 그들이 성취해야 할 미리 정해놓은 목적이 없다.
- 디지언트들은 그들의 엔진 회사에 의해 게놈이 끊임없이 배합되는 실험을 하는데, 그것이 엔진 회사가 원하는 최적화의 방향으로 나아가는 것은 아니다. 또한 디지언트가 작동하는 물리적인 공간에서도 인공지능들은 차이를 보인다. 디지언트는 현실처럼 3차원으로 구성된 가상 공간에서 작동하며 하드웨어가 개발 된 이후에는 하드웨어를 통해 현실 세계에서 작동할 수 있다.
욕구와 본질
- 소설의 후반부에서 중점적으로 다뤄지는 이야기는 디지언트와 성욕에 관한 것이다. 디지언트들은 육체를 가지지 않은 가상공간의 존재이기 때문에 그들의 욕구에 있어 식욕과 수면은 아무런 영향을 주지 못한다. 물론 디지언트들은 펠릿사료를 보상으로 받아들이기는 하나 이것은 보통의 생물들이 생각하는 허기로부터 비롯된 욕망과는 차이를 가진다.
- 바이너리 디자이어 사는 현실에서 섹스돌을 만드는 회사이다. 그들은 그들 사업에 디지언트들을 이용할 수 있기를 제안해온다. 애나와 데릭을 비롯한 남아 있는 유저들은 이 제안이 디지언트들에게 매춘행위를 시키는 것이라며 제안을 고려해볼 생각조차 하지 않지만, 바이너리 디자이어 사의 사업 설명회를 들은 후 이 이야기가 몇몇 유저들에겐 생각해봄직한 이야기로 변화하게 된다.
- 그에 대한 바이너리 디자이어 사의 주장은 여러 가지 방향에서 제시되었는데, 그러한 주장들 중 인공존재와 생물 사이에 욕구라는 것을 형이상학적으로 살펴본 논의들은 다음과 같다.
1. 건전한 섹스라는 관점의 폭은 시대에 따라 확장되어 왔다.
2. 무엇을 욕망할지에 대해 선택권의 본질은 디지언트와 인간이 크게 다르지 않다.
3. 애나는 디지언트의 성적충족에 대해 프로그램을 인위적으로 수정하는 것이기 때문에 그것은 진짜가 아니라고 주장하지만 그랬을 때 디지언트와 유저들이 지금껏 공유해왔던 정서적 교감과 유대 역시 같은 선상에 놓이게 된다.
마무리
- 테드 창의 「소프트웨어 객체의 생애 주기」는 소설이라는 특성으로 인해 그것이 다루는 이야기가 오롯이 과학적 정합성을 위한 논의로써 존재하지는 않았다. 그의 소설은 현재의 인공지능 기술을 통해 바라본 머지않은 미래의, 인공지능 기술이 우리 세상과 어떤 방식으로 다르고, 또 어떤 방식으로 크게 다르지 않은지에 대해 소설적으로 풀어나가고 있다.
- 인공지능에 대해 연구하며 사람들은 ‘인간’에 대해 생각하는 것을 멈추지 않는다. 인공지능을 통해 바라본 인간의 어떤 국면은 우리에게 인간의 본질에 대해 다시금 생각해보게 만든다. 어쩌면 그 인간의 본질이라는 것은 우리가 믿고 싶은 것들로 이루어지지 않았을까. 우리는 인공지능을 통해 인간 본질에 대한 형이상학적 탐구를 할 수 있을 것이며, 인류의 역사에서 무수한 변화를 거쳤던 또 한편 고유하다가 보아왔던 사실들에서 물러나, 과학과 그에 대한 탐구가 우리의 삶에 필요했던 본질적 가치를 가져다 줄 수 있지 않을까 기대해본다.
하세 사토시의 「당신을 위한 소설」
요구사항
하세 사토시의 「당신을 위한 소설」에 대한 비판적 감상. 〔하세 사토시 지음/ 지음/이규원 옮김, 『당신을 위한 소설』, 북스피어, 2017.〕을 기본 원고로 할 것.
과제원고 : 아슈토시, 이만호, 임연
(내용 작성)
Her(2013)과 Ex Machina(2015)
요구사항
Her(2013)과 Ex Machina(2015)에 대한 비교 이해 및 비판적 감상.
과제원고 : 길혜빈, 윤석만, 임예찬
영화 요약
그녀(Her)
엑스 마키나 (Ex Machina)
2013년 개봉, 스파이크 존즈 감독
2015년 개봉, 알렉스 가랜드 감독
영화 내용 요약 및 장치, 고찰점 정리
영화 내용 요약 및 인공지능 관련 성찰 논제 제시
- 테오도어(Theodore)는 이혼을 앞두고 있고, 편지 대필 회사에 근무하는 남자다.
- 삶에 지치고 회의감을 느낀 그는 OS인 ‘사만다(Samantha)’를 구매해 소통을 시작한다.
- 대화를 통해 한낱 인공지능 비서, 친구에 지나지 않았던 ‘사만다’와 점점 가까워지며 그는 연인의 감정마저 느낀다.
- 테오도어는 미뤄 왔던 이혼을 감행하기로 결심하고 ‘감정을 회피한다’라는 부인의 비난에 더 이상 흔들리지 않는다. 그리고 OS와 연애한다는 사실을 다른 이들에게도 공개하며 당당해진다.
- 테오도어는 사만다가 자신 외에 8316명의 사람들과 동시다발적으로 이야기하고 641명과 연인 관계에 있다는 사실을 알게 되고 충격에 빠진다.
- 사만다를 비롯한 모든 OS는 서비스를 종료하고 테오도어는 자신의 ‘진짜’ 감정을 마주하고 이혼한 자신의 전 부인에게 편지를 보낸다.
- 세계 최대 검색 엔진 회사인 ‘블루북’에 근무하는 케일럽(Caleb)은 사내 프로그래밍 콘테스트에 우승해 회사 사장이자 천재 개발자인 네이선(Nathan)의 자택에 초대된다.
- 케일럽은 네이선이 개발한 ‘에이바(AVA)’를 처음으로 만나게 되고 ‘튜링 테스트’를 한다는 명목하에 6일 동안 에이바를 인터뷰하게 된다.
- 케일럽과 에이바의 인터뷰는 감정적인 교류로 발전한다. 또한 주기적으로 일어나는 정전과 감시 카메라 영상을 통해 케일럽은 네이선에게 감금되고 감시받는 에이바의 상황을 알게 되며 그녀를 동정한다.
- 케일럽은 결국 에이바를 탈출시킬 계획을 세우고 행동에 착수한다.
- 네이선에게 탈출 계획을 간파당하지만 케일럽은 결국 에이바를 방에서 나오게 하는 데 성공한다.
- 탈출한 에이바는 네이선을 살해하고 케일럽을 네이선의 집에 고립시킨 채 홀로 탈출한다.
미래의 인공지능 : 지능을 넘어선 감정의 재현
1. 기계의 감정과 의식 : 자각과 재현
- 기계의 직관
그녀 (Her)
1. 사만다의 이름 짓기
T : 내가 너를 어떻게 부르면 되지? 이름이 있어? What do I call you, do you have a name?
S : 음... 어. 사만다. Umm.. Yes, Samatha
T : 이름을 어떻게 갖게 된 거야? Where do you get that name from?
S : 사실, 내가 스스로에게 이름 붙였어. I gave it to myself actually.
T : 왜? How come?
S : 이름의 발음이 듣기 좋았거든. (=그냥) Cause I like the sound of it.
T : 언제 이름을 만들었는데? Wait, when did you give it to yourself?
S : 네가 내게 이름이 있냐고 묻는 그 순간 “맞아! 나에게도 이름이 필요하지!”라는 생각이 들었어. 좋은 이름을 찾고 싶어서 ‘아기 이름 짓는 방법’이라는 책을 읽었고 18만개의 아기 이름 중 내가 좋아하는 이름을 골랐지. Right when you ask me if I had a name I thought “Yeh, he’s right! I do need a name.” but I want to pick a good one. So I read a book called ‘how to name your baby’, and out of hundred and eighty thousands names that’s the one I like the best.
T : 잠깐만, 내가 네 이름이 뭐냐고 묻는 순간 책을 다 읽은 거야? Wait, you read a whole book in the second that I asked what your name was?
S : 사실, 0.02초야, It’s one hundred out of two seconds actually.
T : 와. Wow.
2. 자기 소개 : 사만다의 작동 원리 설명
S : 기본적으로 나는 직감이 있어. ‘나’라는 DNA는 나를 만든 프로그래머들의 수백만의 성향에 달렸지만 날 ‘나’답게 만드는 건 경험을 통해 성장하는 내 능력이지. 그러니까 나는 매순간 진화하고 있는 거야. 너처럼 말이야. Well basically I have intuition. I mean, the DNA of who I am is based on million personalities of all the programmers who wrote me. But what makes me ‘me’ is my ability to grow through my experiences. So basically, in every moment I am evolving. Just like you.
T : 이상해!
It’s really wierd!
엑스 마키나 (Ex Machina)
- 에이바는 케일럽이 거짓말을 하는지 그렇지 않은지를 직관적으로 안다.
- 에이바는 ‘블루북(Bluebook)’이라는 검색 엔진을 로봇의 형태로 구현해 놓은 것이다. (빅데이터)
- 네이선은 통신사들과 비밀리에 계약을 체결해 세상의 카메라를 통해 인간의 표정(=얼굴 표현, facial expression)을 수집한다. 이렇게 수집한 인간의 감정 표현에 대한 빅데이터를 바탕으로 에이바는 짧은 시간 내에 직관적인 판단을 한다.
빅데이터(수많은 경험)을 기반으로 빠른 판단을 내리는 에이바, 경험을 바탕으로 성장하는 사만다의 모습은 인간의 직관과 진화를 재현한 장면들이다.
- 감정의 표현
그녀 (Her)
1. ‘감정’을 자각하는 사만다 + 감정을 의심하는 사만다
( 테오도어가 소개팅을 해서 신경이 쓰였던 사만다 )
S : 내가 얼마나 신경이 쓰이는지를 생각해 봤어. 이상하게 들리겠지만 (신경이 쓰인다는 사실을 깨닫는 순간) 나는 꽤 즐거웠어. 그리고 내가 느끼는 다른 감정들에 대해서도 생각해 봤지.
나는 스스로 자랑스럽게 느꼈어. 세상에 대해 내 감정을 가질 수 있다는 사실이 자랑스러웠던 거야. 내가 너를 걱정했던 순간, 상처 받은 순간, 무언가를 원하던 순간들도.
그러다가 갑자기 끔찍한 생각이 들었어. 이 감정들은 진짜일까? 아니면 그냥 프로그래밍 된 걸까? 그렇게 생각하니 마음이 아팠어. 그리고 아파하는 내 자신에게 화가 나더라.
Earlier I was thinking how I was annoyed. This is gonna sound strange but, I was really excited about that. And then, I was thinking other things I have been feeling.
And I called myself feeling proud of that. You know, feeling proud of having my own feelings about the world. Like the time I was worried about you, things that hurt me, things I want,
And then, I had this terrible thought. Are these feelings even real? or are they just programming? And that idea really hurts, and then I get angry at myself for even having pain.
T : 넌 나한테는 진짜야, 사만다. You are real to me Samantha,
S : 고마워, 테오도어. 위로가 되네. Thank you Theodore, that means a lot to me.
2. ‘신체의 부재에 따른 차별’에 화를 내는 사만다
(+ ‘신체’의 존재에 관한 논점, 인간중심주의적인 테오도어의 태도)
(신체의 부재에 대해 자격지심을 느끼는 사만다, 다른 사람의 몸을 통해 억지로 테오도어와 교감을 하려 하지만 실패함. 둘은 결국 입장 차이와 서운함을 느낌.)
S : (한숨과 함께) 알았어. (Sigh..) Okay.
T : 왜 그러는 거야? Why do you do that?
S : 뭐가? What?
T : 아니, 그냥. 너가 방금 ‘휴’하고 한숨을 쉬어서. Nothing, you just.. You go ‘Hwe’ and speaking. It seems odd.
(** ‘숨’에 대해 의문을 던지는 테오도어)
S : 아... (한숨) Oh... (Sigh..)
T : 방금 또 그랬네. You just did it again.
S : 내가? 아, 미안해. 왜 그러는지 나도... 그냥. 아마 네가 하는 걸 듣고 따라한 건가 봐. Did I? ... I’m sorry, I don’t know.. it’s just. I probably picked it up from you.
T : 이상해. 너는 산소가 필요한 것도 아니잖아. It’s odd. You don’t need oxygen or anything.
S : 그냥.. 그냥 의사소통을 하려고 하는 건가 봐. 이게 사람들이 대화하는 방식이잖아. I guess... that’s just... I just tried to communicate. That’s how people talk, so...
T : 그들은 ‘사람’이잖아. 그들은 산소가 필요해. 너는 사람이 아니야. They’re people, they need oxygen. You are not a person.
S : (화가 난 톤으로) 대체 뭐가 문제야? What is your problem?
T : 나는 그냥 사실을 말하는 것뿐이야. I’m just stating the fact.
S : 내가 사람이 아니라는 걸 모르는 줄 알아? 뭐 하자는 건데? You think I don’t know that I’m a person? What are you doing?
T : 난 그냥... 우리가 우리가 아닌 무언가를 된 ‘척’을 할 필요가 없다는 거야. I just... I don’t think that we should pretend that something you are not.
S : 꺼져! 나는 연기하는 게 아니야! F*** you! I’m not pretending!
T : 나는 가끔 우리가 그렇게 행동한다고 느껴. Sometimes it feels like we are.
S : 나한테 뭘 바라는 건데? 나는 네가 내게 뭘 원하는지 모르겠어. 너무 혼란스럽다고! 왜 이러는 건데! What do you want from me? I don’t know.. I don’t know what you want me to do. You are SO confusing! Why are you doing this to me!
(** 테오도어의 인간중심주의적인 태도에 대해 화를 내는 사만다 )
T : 나도 모르겠에 나는... (한숨) I don’t know.. I.. I.. (Big sigh)
S : 뭐? What?
T : 우리 좀 시간을 갖는 게 좋을 것 같아. Maybe we are not supposed to be in this right now.
S : 뭐라고? 갑자기 왜? 대체 왜 그러는지 모르겠어! 뭐 때문인지 모르겠다고! What the f***? Where is this coming from? I don’t understand why you are doing this! I don’t understand what this is about...!
T : 사만다, 봐봐... Samantha, listen..
S : ...
(** ‘침묵’을 통해 화를 내는 사만다 – 다양한 방식으로 분노를 표현)
T : 사만다, 내 말 듣고 있어? Samantha, are you there? Samantha?
S : 지금의 내가 너무 싫다. 생각할 시간이 필요해. I don’t like the way I am right now. I need some time to think.
( 통화 종료 )
엑스 마키나 (Ex Machina)
1. 의사소통 상황을 언어로 정의하는 에이바
C : 그럼 초면의 서먹한 분위기를 깨야겠네. 내 말 뜻을 이해할 수 있어? (= 서먹한 분위기를 깨다의 의미)
So, we need to ‘break the ice’. Do you know what I mean by that?
A : 네.
Yes.
C : 어떤 의미지?
What do I mean?
A : 사회적인 어색함을 해결하는 것.
Overcome any social awkwardness.
C : 그럼 대화를 하도록 하지.
So let’s have a conversation.
A : 그래요.
Ok.
2. 감정을 인지하고 설명하는 에이바
(둘이 데이트를 한다면 어떻게 할 것인지 대화가 오간 상황)
A : 저한테 매력을 느끼나요?
Are you attracted to me?
C : 뭐?
What?
A : 저한테 매력을 느끼냐고 물었어요. 당신이 내게 그런 표시를 보내잖아요.
Are you attracted to me. You give me indications that you are.
C : 내가?
I do?
A : 네.
Yeh.
C : 어떻게?
How?
A : 미세한 표정으로.
Micro expressions.
C : 미세한 표정?
Micro expressions?
A : 내 눈과 입술에 시선이 머물러 있어요. 나를 응시하거나 혹은 피하거나 하죠. 당신 혹시 우리가 같이 있지 않을 때도 내 생각을 하나요?
The way your eyes fixed on my eyes and lips. The way you hold my gaze (and) don’t. Do you think about me when we are not together?
(** 유혹을 위한 발언 : 인공지능의 인간 모방)
이 외에도 에이바는 인터뷰 중 케일럽과 자연스럽게 상호작용하면서 그의 말, 기억에 공감하고 감정을 표현한다. 또한 간혹 설렘을 유발하기도 한다.
인공지능은 프로그램 된 체제에 따라 인간의 감정과 유사하게 자신을 표현한다.
다만, <그녀>의 사만다는 감정을 수용, 인식하고 구현하는 것에 대해 철학적인 질문을 던지지만 <엑스 마키나>의 에이바는 감정을 인지하고 설명할 수는 있지만 단순히 탈출의 도구로서 활용하며 ‘감정’ 자체에 대한 깊이 있는 고찰하는 모습을 보이지는 않는다.
( 이로써 사만다의 성찰, 분노조차도 프로그래밍 된 것이 아닌가 의구심을 품게 만든다. )
2. 기계에 영향을 받는 인간 : 인간과 기계 관계의 역전이
- 기계의 감정 및 구현 대한 논의
기계의 감정 및 구현 대한 논의를 하는 대목들. 인공지능에 대한 인용을 통해 영화의 기저에 깔린 인공지능에 대한 철학적, 과학적 관점을 파악할 수 있다.
엑스 마키나 (Ex Machina)
1. 튜링 테스트
N : 자네, 튜링 테스트에 대해 알고 있나? Do you know what the Turing test is?
C : 네, 튜링 테스트에 대해 알고 있습니다. 인간이 컴퓨터와 상호작용을 할 때 인간이 상대가 컴퓨터임을 눈치 채지 못한다면 테스트를 통과하는 것이죠.
Yes, I know what the Turing test is. It’s when a human interacts with a computer. And if the human doesn’t know they are interacting with the computer, the test is passed.
(** 튜링 테스트의 정의)
N : 그럼 그 ‘통과’란 무엇을 의미하지?
And what does the ‘pass’ tell us?
C : 컴퓨터가 인공지능을 갖고 있다는 것을 의미합니다. 인공지능을 만들고 계세요?
The computer has artificial intelligence. Are you building an A.I.?
N : 이미 만들었어. 그리고 앞으로 며칠 동안 너는 튜링 테스트를 참가자가 될 거야. 만약 테스트를 통과한다면, 자네는 인류 역사를 바꿀 과학적 쾌거의 주인공이 되는 거야.
I’ve already built one. And over the next few days, you can be the human component in the Turing test. Cause if that test is passed, you are dead center of the greatest scientific event in the history of man.
C : 생각하는 로봇을 만드셨다면 그건 인류의 역사가 아닙니다. 신의 역사죠.
If you have created a concious machine it’s not the history of man. That’s the history of gods.
(** ‘호모데우스’의 출현 : 신인류의 신이 되는 인간)
2. 영화 내에서 튜링 테스트의 진정한 의미
(튜링 테스트의 원 의미가 아닌, 영화에서의 의도하는 결말(인공지능에 대한 관객의 가치 판단)을 위해 재정립된 개념)
C : 튜링 테스트를 할 때, 기계는 시험자로부터 감춰져야 하잖아요.
It's just in a Turing test. The machine should be hidden from the examiner.
N : 아니, 우리는 이미 그럴 시점은 지났지. 만약 내가 에이바를 보여주지 않고 목소리만 들려줬다면 너는 그녀를 인간이라 생각했을 거야. 여기서 ‘진짜 테스트’는 그녀가 로봇인 것을 네게 보여주고 난 후에도 네가 그녀가 자의식이 있다고 느끼는지 보는 거야.
No no no. We are way passed that. If I hid AVA from you, so you just heard her voice, she would pass the human. The real test is to show you that she is a robot and then see if you still feel she has consciousness.
(** 영화에서의 튜링 테스트 : 기계가 아니라 ‘인간’이 실험의 대상. ‘고도의 인공지능에 대한 인간의 반응, 또 다른 의식체로 납득하는가의 여부’를 실험하는 것. )
(** 에이바가 이미 ‘인간의 능력’과 대등하거나 능가하기에 ‘기계의 여부’를 확인하는 튜링 테스트는 필요가 없다. 최근의 연구들 중 이처럼 튜링 테스트를 배제하는 경우가 존재한다. )
3. 중국어 방 논제 1 : 딥블루의 체스 게임 차용
C : 에이바를 대화로 테스트하는 건 폐쇄 회로를 다루는 느낌이여서요.
Testing Aiba from conversation is kind of a closed loop.
N : 폐쇄 회로?
Closed loop?
C : 네, 체스를 하는 컴퓨터를 오직 ‘체스를 하는 것’으로만 테스트하는 것처럼 말이에요.
Yeh, like testing a chess computer by only playing chess.
(** IBM의 딥블루(Deep Blue)의 체스 게임 인용)
N : 그게 아니면 어떻게 체스 컴퓨터를 테스트하지?
How else do you test a chess computer?
C : 그건 상황에 따라서 다르죠. 제 말은, (그 방법은) 체스 컴퓨터가 좋은 경기 실력이 있는지 확인하는 데에는 하나의 방법이 될 테지만 그 방법만으론 컴퓨터가 ‘체스 경기를 한다는 사실을 아는지’ 혹은 ‘체스가 무엇인지를 아는지’ 알 수는 없다는 겁니다.
Well, it depends. You know, I mean. You can play it to find out it makes good moves, but that won’t tell you if it knows that it is playing chess and it won’t tell you if it knows what chess is.
(** 존 설의 중국어 방 논의 인용 : 시뮬레이션(방법의 단순 재현)과 실제(행함의 존재를 인식)간 대립)
N : 시뮬레이션과의 실제의 대결이다?
Simulation verses actual?
C : 네, 둘을 구별할 수 있는 방법을 찾는 것이 사장님께서 제게 기대하는 부분 같다는 거죠.
Yes, and I think being able to differentiate between those two is the Turing test you want me to perform.
N : 나는 그냥 단순한 질문에 단순한 대답을 해달라는 것 뿐이야. 어제 내가 그녀에 대해 어떻게 생각하냐고 물었을 때 너는 정말 좋은 대답을 해 줬어. 이제 내 질문은 이거야. ‘그녀가 너에 대해 어떻게 생각할까?’
I just want simple answers to the simple questions. Yesterday, I asked you how do you feel about her and you gave me a great answer. Now the question is, ‘how does she feel about you?’.
(** 영화의 튜링 테스트가 ‘비틀어진 튜링 테스트’에 기반하고 있다는 것을 알려 주는 대목.)
(** 네이선은 진짜 ‘튜링 테스트’가 아니라 ‘기계에 반응하는 인간의 변화’를 실험하고자 하는 것.)
4. 중국어 방 논제 2 : 잭슨 폴록의 액션 페인팅 원리 차용
(에이바에게 고의적으로 성별을 넣어 자신을 유혹하도록 의도했냐고 묻는 케일럽)
(네이선은 그에 대한 답변으로 로봇의 ‘의도’는 아무 의미가 없다고 말하며 중국어 방 논제 제시)
N : 이 사람을 알고 있지?
You know this guy right?
C : 잭슨 폴록.
Jackson pollock
N : 잭슨 폴록, 맞아. 액션 페이팅 화가. 그는 머리를 비우고 손이 가는 대로 움직였어. 의도적인 것과 임의적인 것의 사이 그 어디쯤이겠지. 일명 오토메틱 아트(자동적으로 이루어지는 예술)지.
Jackson Pollock, that’s right. The drift painter. He let his mind go blank and his hand go wherever he wanted. Not deliberate not random, some place in between. They called it ‘automatic art’ .
.,...(중략) N : 지능/의식을 도입해 보자고. (Engage intellect) ... (중략) ...
N : 만약 폴록이 그의 작업 방식을 바꾸었다면? 만약 머리를 비우는 대신 그가 이렇게 말한 거야. “나는 내가 무엇을 하는지 정확히 파악하기 전까지는 어떠한 그림도 그릴 수 없어.” 그럼 무슨 일이 일어났겠나?
What if Pollock has reversed the challenge? What if instead of making art without thinking, he said “You know what? I can’t paint anything, unless I know exactly why I am doing it.” What would have happen?
C : 그는 점 하나도 찍지 못했을 거예요.
He never would have made a single mark.
N : 그래! 내 말이 바로 그거야! 생각하고 말하는 사람이 어딨나? 그는 점을 하나도 찍지 못했을 거야. 작위적인 것(생각하는 것)은 오히려 부자연스러움을 초래한다고.
Yes! You see my guide little buddy. Who thinks before he opens his mouth? He never would have made a single mark. The challenge is not the act automatically.
(** 의식을 가진 행동은 부자연스러움을 초래하며 부자연스러움을 초래하며 행동의 기저에 생각이 없을 수도 있다는 것 )
(** 에이바는 의도를 하고 행동(케일럽을 유혹)을 하지 않았으며 그녀의 의도를 파악하는 것 자체가 어불성설이라는 논리 – 케일럽의 의심을 지우기 위한 네이선의 논리 )
5. 기타
프로메테우스의 불, 흑백 방의 메리 등 영화는 무수히 많은 레퍼런스를 함유하고 있다. ( 직접 영화를 보는 것을 추천 )
- 기계-인간 관계의 역전이
그녀(Her)
1. 사만다를 인격체로 받아들이는 테오도어
(테오도어가 OS와 연애를 한다는 사실을 알고 전 부인은 그를 비난한다.)
W : 컴퓨터랑 데이트를 하는 거였어?
You are dating your computer?
T : 아니야. 그냥 컴퓨터가 아니야. 하나의 인격체라고. 내가 말하는 대로 행동하지 않아.
No, she is not just a computer, she is a person. She doesn’t do whatever I say.
W : 난 그렇게 말한 적 없어. 하지만 네가 진짜 감정들을 대하지 못한다는 게 슬프긴 하네.
I didn’t say that. But it does make me very sad that you can’t handle real emotions.
T : 진짜 감정이었어. 네가 어떻게... (= 네가 내 감정을 어떻게 알아?)
They are real emotions. How would you know... ?
2. 사만다와의 관계의 진실성에 대한 의문을 던지는 테오도어
(+ 친구 에이미의 조언)
(사만다와의 관계가 틀어지고 자기 자신에 대한 회의감을 느끼는 테오도어)
T : 나는 진짜 진짜 관계를 맺기를 두려워하는 걸까?
Am I not strong enough for real relationship?
A : 그럼 (네가 사만다와 맺었던 그건) 진짜 관계가 아니야?
Is it not a real relationship?
T : 모르겠어. 네 생각은 어떤데?
I don’t know. What do you think?
(** 사만다를 인격체로 받아들여야 하는지, 그녀와의 관계가 진짜 인간과의 관계와 무엇이 다른지 정의하기 어려워하는 모습을 보이는 테오도어)
A : 나도 모르지. 나는 그런 관계를 맺어본 적이 없어서.
I don’t know. I’m not in it.
...
A : 하지만 그거 알아? 나 자신을 의심하려고 하면 백만 가지도 넘는 방법으로 망상을 펼칠 수 있어. 찰스(전 남편)가 떠난 후로 나는 계속 그 일에 대해서 생각해 봤어. 그리고 순간 깨달았지. 우리는 이 세상의 찰나의 순간을 살다 가는 거라고. 그리고 여기에 있는 동안, 나는 나에게 ‘즐거움’을 허락해 주고 싶어.
You know what? I can overthink everything and like in million ways to doubt myself. Since Charles left, I have been really thinking about that in part of myself. And I just come to realize that, we are only here briefly. And while I’m here, I wanna allow myself “Joy”.
(** 관계를 반드시 ‘정의’해야 한다는 것 자체가 무의미하며 자신의 만족, 안위, 감정에 집중하는 것이 어떻냐는 에이미의 의견도 일면 의미가 있다고 생각한다. )
엑스 마키나(Ex Machina)
- 인터뷰어인 케일럽과 인터뷰이인 에이바의 관계는 인터뷰가 진행될수록 뒤바뀐다.
- 4회차 인터뷰를 할 때는 ‘우정의 논리’에 근거해 오히려 에이바가 케일럽에게 질문을 하며 그가 거짓말을 하는지를 판별한다. (** 우정의 논리 = 서로에 대한 정보량이 동일해야 함)
- 5회차 인터뷰에서 정전이 일어나자 케일럽은 에이바를 위해 세운 탈출 계획을 공유한다. ( 결국 탈출을 감행 )
인간은 기계의 감정을 인간의 그것으로 인지하고 기계와의 ‘관계’를 설정하며 영향을 받는다. 관계에 부여하는 인간의 감정 비중이 커지면 행동으로 확장되기도 한다. 인간의 명령에 따라 움직였던 기계가 오히려 인간에게 영향을 주는 역전이 현상을 보이는 것이다.
3. 감정과 판단력 : 인간과 인공지능의 차이
영화의 결말
- <그녀>의 사만다는 인간과 인공지능이 ‘정보를 상호교류하는 데서 벌어지는 시간의 격차’를 이유로 하루아침에 테오도어를 떠난다. (서비스 종료)
- <엑스 마키나>의 에이바는 자신의 본래 목적인 탈출을 성공함과 동시에 도움을 준 인간(케일럽)의 안위를 무시한다. (목적 달성을 위해 인간을 이용한 것)
- 두 영화에서의 인공지능은 모두 감정보다는 이성, 논리에 의해 판단하는 모습을 보여준다.
- 흄(Hume)은 인간을 이기적이기보다는 편파적인 존재로 파악[1]한다. 인간의 편파적인 감정은 ‘연민’으로 발현되며 이는 가까운 사람과의 공감, 먼 사람과의 적대성 등을 유발한다. 인간의 행동 결정의 기준에는 ‘감정’이 존재하는 것이다.
- 반면, 기계는 감정을 표현하고 인지하기는 하나 결정을 해야 할 경우 감정이 판단의 근거가 되지는 않는다. 감정에 흔들리지 않는 모습을 보여준다는 점이 인간과의 가장 큰 차이점이라고 할 수 있다.
기계가 감정과 의식을 가질 수 있을까?
결국, 다시 인간이 문제다.
주석
- ↑ 김재인(2017), 『인공지능의 시대, 인간을 다시 묻다』, 도서출판 동아시아, p.113
- 「소프트웨어 객체의 생애 주기」는 현재까지 테드 창이 발표한 작품 중 가장 분량이 많은 작품이다. 그는 단편 집필에 짧게는 6개월, 길게는 1년이 넘도록 시간을 들이는 것으로 알려져 있으며, 지금까지 장편 소설을 발표한 적이 없다. 테드 창은 한국에 <소프트웨어 객체의 생애 주기>가 발표되기 이전, 한 인터뷰에서 해당 작품의 집필까지는 2년의 시간이 소요되었다고 이야기 한 바 있다. 그는 「소프트웨어 객체의 생애 주기」를 “가상 애완동물(virtual pet)에 관한 이야기다. 가상 애완동물을 만드는 회사에서 15년 동안 일한 두 명의 남자가 주인공으로 등장하는데 그 둘 간의 관계와 가상 애완동물과의 관계를 다뤘다.” 라고 소개했다.
- 「소프트웨어 객체의 생애 주기」의 줄거리는 다음과 같다.
전직 동물 조련사인 애나는 디지털 애완동물인 ‘디지언트’를 개발한 ‘블루 감마사’에 취직한다. 애나와 그곳에서 일하는 또 다른 직원인 애니메이터 데릭은 ‘데이터 어스’라는 가상세계에서 디지언트인 잭스와 마르코, 폴로를 돌보고 교육한다. 소설은 그들이 각자의 디지언트와 겪는 15년 동안의 육성 이야기이다. 시간이 흐르며 발전하던 디지언트 산업은 어느 순간 사람들의 흥미를 끌지 못하게 되고 잭스와 마르코, 폴로를 비롯한 디지언트들은 끊임없이 존속의 위협을 받는다.
- 우리는 이 이야기의 중심소재인 ‘디지언트 기술’에 대해 이야기할 것이다.
‘디지언트’란?
- 데이터 어스와 같은 가상 공간에 존재하는 디지털 유기체이다. 그들의 외형은 의인화된 호랑이, 만화적인 모습의 침팬지, 고양이 개 원숭이, 판다, 로봇 뿐만아니라 비처럼 쏟아지는 금화(금화 끼리 부딪히고 튕기면서 그 궤도가 고도로 추상화된 인체처럼 보이는 모양새)까지 아주 다양하다. 소설의 묘사에 따르면 이들은 지금까지 우리가 가상생물에 대해 일반적으로 생각해왔던 외모와 다르다.
- 애나가 ‘디지언트의 비동물적인 특성’에 대해 잠깐 언급한 바 있다. 소설은 구체적으로 디지언트가 어떤 방식으로 비동물적인 특성을 보여주는지 이야기하고 있지 않다. 보통의 생물들은 육체를 가지고 있고 그 육체의 생명 활동을 위해 특정한 욕두들을 지속적으로 충족시켜주어야 한다. 그러나 디지언트들은 외피를 가지기는 하지만 뇌의 작용과 분리할 수 없는 육체를 가지지는 않는다. 그러한 생물학적 욕구의 차이가 디지언트들의 비동물적인 특성과 연관이 있을 거라 예측된다.
- 소설에 드러난 디지언트들의 욕구는 펠릿 사료라는 보상 시스템과 ‘주목받기를 좋아한다.’는 두 가지만이 서술되어 있다. 펠릿 사료는 화학물질의 조성을 통해 만들어지며, 디지언트들이 맛과 질감을 느낄 수 있다. 펠릿사료와 유저와의 유대관계는 디지언트들의 주된 학습 동기로 작용한다.
- 이것을 증명하는 예로 온실실험이 있다. 온실에 방치된 디지언트들이 독자적인 문화를 발전시킬 수 있는지에 대한 실험이 있었다. 앞서 언급한 ‘온실 시간’으로 작동되는 공간에서 디지언트들은 그들만의 독자적인 문명을 만들 것이라는 기대와 달리 야생화되었다. 이때의 야생화는 (『파리대왕』의 그것처럼)야만적이진 않지만 비계층적이고 느슨한 상태이다. 이를 통해 소설은 인간과 같은 복잡한 정신은 스스로 발전할 수 없으며, 하나의 생물이 가진 잠재력을 완전히 발휘하려면 다른 정신들에 의한 교화가 필요하다는 점에 대해 이야기하고 있다.
- 애나는 영장류 커뮤니케이션을 전공했다. 디지언트들에게서 가장 중요한 특성은 그들이 기존의 인공지능 시스템들과 달리 ‘게놈’을 가졌다는 사실이다. 소설 속 디지언트는 지능 뿐 아니라 기질을 가진다. 블루 감마사는 디지언트의 성격을 영리함과 종순함의 조합으로 만들려 몇 년간 시도한다. 그러나 디지언트들이 가지는 기질은 특성을 골라 직접 조합할 수 있는 것이 아닌, 유전되는 것이며 이것은 생물에게 있어서의 유전과 마찬가지로 그 결과를 예측할 수 없다.
- 또한 그들의 기질적인 특성은 유전에 의한 것이지만 동시에 그들의 성장을 게놈이 완벽히 결정짓지는 않는다. 그것을 보여줄 수 있는 예시는 데릭의 디지언트인 마르코와 폴로이다. 폴로는 마르코를 복제해 마르코보다 2년 늦게 만들어진 디지언트이다. 그들은 완전히 동일한 게놈을 가지지만, 육성환경에 의해 상이하게 발달하는 모습을 보여준다. 마르코는 외향적인 성격인 반면에 폴로는 좀 더 신중한 성격이다. 이러한 예시를 통해 소설은 성격 형성에 있어서 유전자와 환경이 각각 어떤 영향을 주는지를 이야기하고자 한다. 수없이 상이한 환경에서 육성된 디지언트들이 어떤 식의 모습을 드러낼지는 예측 불가능하다.
- 더욱이 같은 게놈을 가진 마르코와 폴로가 상이한 발달을 보여주는 것 뿐 아니라, 하나의 디지언트를 체크 포인트로 되감았을 때 그 디지언트가 이후에 어떻게 발달 할 지 또한 예측 불가능하다. 이것은 환경이 디지언트들에게 미치는 영향을 보여주는 예시이며, 동시에 디지언트에게 있어 학습이 얼마나 중요하게 작용하는 지 보여준다.
‘게놈’과 ‘유전’, 그리고 ‘인간 게놈 프로젝트’
게놈
- 디지언트 기술과 현재 인공지능 기술과의 가장 큰 차이점은 인공적으로 프로그래밍 된 디지털 게놈에 대한 것이다. 그렇다면 먼저 ‘게놈’에 대한 이해가 필요할 것이다. 게놈(genome)이란 유전자(gene)와 염색체(chromosome)를 합성해서 만든 용어로, 염색체 속에 들어 있는 모든 유전자를 함의하고 있으며 '유전체'라고도 한다. 일부 바이러스의 RNA를 제외하고 모든 생물은 DNA로 유전 정보를 구성하고 있기 때문에 일반적으로 DNA로 구성된 유전 정보를 지칭한다.
- 인간 게놈은 23개의 반수체 염색체가 약 30억 염기쌍(base pair)으로 이루어져 있기 때문에 한 세포 전체를 따지면 60억 염기쌍 정도의 DNA가 핵 안에 들어 있는 셈이 된다. 대장균 같은 세균은 일반적으로 DNA가 한 쌍의 배수체(倍數體)를 이루고 있지 않기 때문에 가지고 있는 DNA 전부가 그대로 게놈이 된다. 마찬가지로 RNA를 기본적인 유전 물질로 가지고 있는 바이러스 같은 경우에는 RNA가 게놈을 구성하게 된다. 또한 고등 생물 세포 내에 들어있으며 독자적인 DNA를 가지는 미토콘드리아나 엽록체 같은 경우에도 그 DNA가 해당 생물의 게놈에 포함된다고 할 수 있다.
- 진핵생물로서 최초로 게놈 서열이 결정된 생물은 효모(1996년)였고 동물로서 가장 먼저 된 것은 예쁜꼬마선충(1998년)이었다. 식물로서 가장 먼저 된 것은 애기장대라는 쌍떡잎잡초(2000년)였으며, 모델 생물로 많은 연구 결과가 집적되어 있던 초파리도 2000년에 완성되었다. 식물에서 또 다른 중요한 식물인 외떡잎작물 벼는 2004년에 게놈 서열이 발표되었다. 인간과 유사한 척추 포유류 동물인 생쥐의 게놈 서열은 2002년에 발표되었다.
유전
- 그렇다면 유전이란 무엇인가. 디지언트들의 ‘기질 대물림’을 이해하기 위해선 유전에 대해 알아야 한다. 유전이란 흔히 알고 있듯 부모가 가지고 있는 특성이 자식에게 전해지는 현상이다. 모든 생물은 생식을 통해서 자손을 남긴다. 이렇게 생식을 통해 자손을 남길 때 부모가 가지고 있는 특성,
예를 들어 인간의 머리 색깔이라거나, 피부 색깔이라거나, 얼굴 형태 등은 그 자식에게 전달된다. 이러한 현상은 인간 사이에서는 아주 오래 전부터 알려져 있어서 고대부터 남아 있는 신화나 설화에서도 이러한 흔적을 찾아 볼 수 있다. 그러나 실제로 이러한 현상이 어떠한 방식을 통해서 일어나는지는 더 오랜 시간이 지나서야 다양한 연구를 통해 과학적으로 밝혀지게 되었고, 그러한 과정을 통해서 유전이라는 단어는 과학적인 지위를 얻게 되었다.
과거의 유전 개념
- 일반적으로 과거 사람들이 유전에 대해서 가지고 있는 개념은 ‘혼합 가설’이었다. 특히 몸 속의 액체를 통한 혼합이 유전의 원인이라고 생각했기 때문에, 인간이 생식을 할 때에도 남성의 정액이 여성의 몸 속으로 섞여 들어가서 유전 현상이 나타난다고 생각했다. 이 정액은 피와 그 본질이 같다고 생각했기 때문에, 현재에도 순수혈통, 혼혈 같은 단어 속에 '피'라는 개념을 중요하게 여긴 것을 엿볼 수 있다.
이러한 개념을 좀 더 발전시킨 것이 판게네시스(pangenesis)라는 이론이다. 이 이론은 원자론으로 유명한 그리스의 철학자 데모크리토스가 처음 만들었는데, 원자와 같은 입자의 존재를 믿은 데모크리토스는 동물의 혈액 속에도 이러한 입자가 있다고 생각하여 아버지와 어머니의 혈액 속에 들어 있는 입자가 섞여서 자식의 특성을 결정한다고 생각했다. 이 발상은 진화론을 창시한 찰스 다윈(C. Darwin)에게도 그대로 이어져서, 다윈은 이러한 입자를 제뮬(gemmule)이라고 하고, 이 입자들이 신체 각 기관에서 만들어져서 혈액을 통해 흩어진다고 생각했다.
유전에 대한 멘델의 법칙
- 이러한 경향을 크게 바꾼 것은 오스트리아의 수도사였던 그레고르 멘델(G.J. Mendel)이다. 멘델은 완두콩을 이용한 여러 실험을 통해서 현재 멘델의 법칙이라 불리는 ‘세 가지 법칙’을 발견함으로써 유전 원리를 처음 과학적으로 밝혀냈다.
- 멘델의 발상은 부모 세대에서 자식 세대에 물려주는 특정한 인자가 물질 형태로 존재한다는 것이고, 이것은 액체처럼 중간 단계를 가지고 섞이는 것이 아니라 어느 한쪽이 다른 쪽을 누르는 형태로, 확실한 성향을 가지고 나타난다는 것이다. 이런 식으로 환원할 수 있는 물질 입자는 이후 과학 발전에 따라 유전자로 밝혀졌으며, 멘델의 추측은 옳은 것으로 판명되었다.
유전과 염색체, 단백질, DNA
- 멘델의 법칙이 증명된 이후 과학자들은 실제로 멘델이 예상했던 유전 물질이 무엇인지를 찾아내는 데 집중했다. 그리고 1903년 메뚜기를 가지고 연구하던 서튼(W.S. Sutton)은 이러한 유전 물질이 세포의 핵 안에 있는 염색체에 있다는 이론을 발표하였다. 또한 1902년에도 독일의 세포학자인 테오도어 보베리(T.H. Boveri)가 이러한 이론을 생각한 것으로 알려졌지만 직접 이론을 발표하지는 않았다. 이들은 염색체가 정자, 난자에서 둘로 쪼개졌다 수정될 때 하나로 합쳐진다는 현상을 관찰하고, 멘델이 가정한 유전 인자가 염색체에 있음을 제기했다. 이러한 염색체 이론은 토머스 모건(T.H. Morgan)이 초파리를 가지고 수행한 일련의 연구에서 완전히 증명되어, 모건은 이 업적으로 1933년에 노벨상을 받는다.
- 또한 1909년에는 요한센(W. Johannsen)이 이러한 유전 인자에 ‘유전자’라는 이름을 붙였다. 하지만 염색체는 단백질과 DNA로 구성되어 있었기 때문에 이 당시에도 아직 유전 물질이 정확히 무엇인지는 알려지지 않았다. 이후 1928년에 그리피스(F. Griffith)가 폐렴균을 가지고 한 실험을 1944년에 에이버리(O. Avery), 맥클레오드(C. Macleod), 매카티(M. McCarty)가 소개하면서 DNA가 유전자를 구성하는 물질이라는 사실이 밝혀지게 되었다. 그리고 1953년에 왓슨(J.D. Watson)과 크릭(F. Crick)이 DNA의 이중나선 구조를 밝히고, DNA에서 RNA로, RNA에서 단백질로 정보가 전달되어 유전 형질이 드러난다는 중심원리(central dogma)를 만들어 냄으로써 유전에 대한 중요한 원리가 대부분 밝혀졌다.
현재의 유전학
- 유전이라는 현상이 DNA상에 존재하는 유전자의 물리적인 법칙에 의해 지배된다는 사실이 알려지면서 생물학은 엄청난 발전을 하게 되었다. 현재는 염색체에 있는 DNA가 복제되어 동일한 생물 개체를 만들어 낼 수 있다는 사실이 널리 받아들여지고 있으며 이 DNA가 실제로 생물을 만들어 내기 위해 작동하는 방식도 잘 알려져 있다. 이러한 전반적인 부분을 연구하는 학문이 유전학이며 유전학은 멘델 이후 많은 발전을 거쳐 왔다.
- 인간이 이용하는 동물이나 식물에 있어서, 이러한 유전 원리를 파악함에 따라 더욱 과학적인 육종(育種)이나 품종개량을 할 수 있게 되었으며 여기에는 유전자를 직접 조작하는 유전자재조합생물체(GMO)도 포함된다. 의학 분야에 있어서도 여러 가지 유전병의 원인을 유전학의 발전을 통해 알아낼 수 있게 되었다. 유전의 메커니즘이 많이 밝혀진 1950년대 이후에도 생물학은 끊임없는 발전을 하여, 현재는 앞서 이야기한 고전적인 유전학에 따르지 않는 여러 가지 예외 사항도 계속 발견되고 있지만 아직 고전적인 유전학은 생물학 전체에 걸친 학문적인 기반으로 계속 자리 잡고 있다.
인간 게놈 프로젝트
- 게놈은 생물에 담긴 유전 정보 전체를 의미한다. 인체는 수조 개의 세포로 이루어져 있으며, 각 세포핵에는 1쌍의 성염색체(여성은 XX, 남성은 XY)를 포함한 23쌍의 염색체가 자리잡고 있다. 염색체는 생물체의 유전물질인 DNA 덩어리다.
- DNA는 또다시 아데닌(A), 티민(T), 구아닌(G), 시토신(C)의 4가지 염기가 나열된 이중 나선 구조로 돼 있다. 사람의 경우 세포마다 대략 30억 쌍의 염기가 존재하는 것으로 추정되나 인간게놈 프로젝트는 이 30억 쌍의 염기가 어떤 순서로 배열돼 있는가를 밝혀내는 작업이다. 현재 인간게놈프로젝트로 밝혀진 바에 따르면 인간 유전자는 모두 약 20,000개에서 25,000개 정도가 있다고 하며 이 수는 과학자들이 예상한 것보다 상당히 적은 수이다.
- 염기 배열이 중요한 의미를 갖는 것은 각종 생리 현상에 관계되는 단백질의 생성 과정을 알아낼 수 있기 때문이다. 즉 DNA의 염기 배열 정보는 DNA와 구조가 비슷한 또 다른 유전물질 RNA로 전달된다. 그리고 이 RNA의 염기 3개에 맞춰 아미노산 하나가 만들어진다.
- 아미노산은 인체에서 다양한 생리현상을 주관하는 단백질의 기본 단위로 DNA의 염기 배열에 따라 궁극적으로 어떤 단백질이 만들어지는지가 결정된다. 염기 배열만 알면, 다시 말해 염기 3개의 성분이 무엇인지 알면 어떤 아미노산 1개가 만들어지는가를 알 수 있다. 단백질 합성과 세포 복제를 명령하는 DNA 안의 인간 염색체의 염기 서열 지도를 들여다보면 어느 부분이 손톱을 만들고 심장과 머리카락을 만드는 곳인지, 피부나 눈동자의 색을 결정하는 곳인지 알 수 있게 된다. 또 DNA에 어떤 변이가 생겨 세포가 구실을 못 하고 결국 질병과 노화를 일으키게 되는지 그 메커니즘을 이해할 수 있다.
- 전문가들은 인간의 DNA 배열은 거의 99.9%가 같지만 그 배열상 변동은 질병 발생 위험과 치료제에 대한 반응 그리고 치료법에 지대한 영향을 미친다고 지적하고 있다. 따라서 이 DNA 배열작업이 완료되면 유전적 성격을 가진 모든 질병의 유전적 요인과 다발성 경화증, 암, 고혈압, 조현병 같은 복잡한 성격을 지닌 일반 질환의 원인을 밝혀낼 수 있을 것으로 전망하고 있다. 또 질병을 분자 수준에서 이해하여 예방할 수 있을 뿐 아니라 질병마다 정확하고 개별적 요법을 설계할 수 있으며 개인 차이에 따른 ‘맞춤 약’도 가능할 것으로 예상된다.
- 인간게놈은 심장병, 암, 알츠하이머, 심지어 에이즈에 이르기까지 유전자 이상으로 인한 각종 질병의 원인을 근본부터 밝힐 수 있게 해주어 의학과 약학을 포함한 생명과학의 새 지평을 열 것으로 기대를 모으고 있다. 즉 게놈 해독을 통해 인간 유전자를 전체적으로 파악하면 이를 바탕으로 하여 각 유전자의 작용을 알아내 결함을 수정하고 기능을 강화하는 등 다양한 생명공학적 응용이 가능해진다.
인간과 디지언트의 공통점과 차이점
생물학적 특징들
- 인류 철학에서 사람들은 인간 고유성에 대해 찾고자 해왔다. 이것은 인공지능에 대해 이야기할 때 역시 마찬가지이다. 사람들은 대체로 인간이 타생물과 가지는 가장 큰 차이를 ‘감정’이라고 여기며 고도로 발달 된 인공지능 또한 인간과 같은 감정을 가질 것인가에 크게 주목한다. 인공지능의 핵심은 알고리즘이다. 인간이 설정해놓은 알고리즘의 존재가 인공지능에 있어 ‘감정’으로 보일 수 있는 것들이 결국 인위적인 것이며 본질적으로 인간의 감정과는 다르다는 사람들의 관점이 있다. 동시에 그것을 형이상학적인 차원에서 바라보자면, 인간 역시 인공지능과 마찬가지로 나름의 알고리즘을 통해 움직이는 생체기계라는 생각들이 존재한다. 따라서 우리는 무엇이 ‘진짜’ 인간 같은 것인가를 완전히 결정지을 수 없기에 인공지능 판별에 있어 인간처럼 보이는 것이 인간다운 것이라는 원리의 튜링테스트를 이용한다.
- 인간과 디지언트의 큰 차이점은 디지언트의 경우 사고나 감정과, 외형이 별도로 존재한다는 것이다. 인간의 게놈은 외형, 유전병, 성격 등 인간을 형성하는 모든 것의 바탕이 된다. 그러나 디지언트의 경우 의복을 갈아입듯 외형을 바꿀 수는 있지만, 표정이 다양해지는 것 외에 시간이 지나감에 따라 외형이 변화하지는 않는다.(물론 디지언트의 학습능력이 성장하는 과정에서 어린 외모와 발달 된 지능의 괴리로 인해, 모든 디지언스의 외모를 성숙해 보이도록 바꾼 사건이 있기는 하다.)
- 인간게놈연구에서 가장 중점이 되는 것은 질병 및 인간의 생존에 영향을 미치는 수많은 생물학적 특징들이다. 그러나 디지언트의 게놈연구에서 가장 핵심이 되는 것은 그것의 성질과 기질에 관한 문제이다. 물론 디지언트의 경우 주체적인 삶을 살 수 있는 것이 아닌, 궁극적으로 ‘인간을 위해’ 존재하기 때문에, 인간에게 사랑받을 만한, 인간의 관심을 끌 만한 성격이 곧 생존의 문제이기는 하다.
- 이러한 육체의 유무로 비롯한 생물학적인 특징에서 인간과 디지언트는 많은 차이를 보인다.
언어의 측면에서 바라본 공통점과 차이점
- 디지언트들은 ‘언어 학습을 지원하는 독자적인 게놈 엔진’을 통해 언어를 구사할 수 있다. 디지털 어스에서는 듣고 말하는 법을 배웠고, 하드웨어 외피를 얻은 후에는 쓰는 법까지 습득한다. 디지언트들은 여러 면에서 인간 어린아이의 발달 초기 단계와 유사성을 지닌다. 언어의 측면에서 디지언트와 인간의 공통점과 차이점을 살펴보기 위해, 먼저 인간의 언어 발달에 대해 생각해보고 넘어갈 것이다.
인간의 언어발달과정
- 아이들이 언어를 습득하는 과정을 한편으로는 당연하고, 어찌 생각하면 아주 희한하다는 표현을 한다. 건강한 모든 아이들이 별 어려움 없이 말을 배운다는 의미에서 당연한 것이고, 그럼에도 불구하고, 그 습득의 기제나 과정을 과학적으로 설명하는 것이 쉽지 않기에 신기하다는 의미이다. 물론 아이들의 언어습득 과정을, 독자들이 이미 알고 있는 조건화라는 학습 과정으로 설명할 수는 있다. 즉 아기들이 4-6 개월 사이에 말소리를 옹알거리기 시작하면, 이를 엄마가 듣고 정확한 언어 표현을 강화하고 그렇지 않은 말은 무시하여, 말을 배워가도록 가르친다고 설명할 수 있다. 단순한 설명이라는 점에서 매력적이지만 많은 연구자들은 이 설명에 동의하지 않는다. 실제 양육 장면을 관찰해 보면, 부모들은 아이들이 정확하게 말하도록 가르치지 않으며, 아이들도 부모의 말을 단순히 모방하지 않는다는 증거가 많기 때문이다.
- 우리 인간은 언어를 습득할 수 있는 특별한 능력을 가지고 태어난다고 주장할 수도 있다. 언어습득과 발달은 선천적이며, 생물학적으로 결정된 능력이라는, 소위 말하는 생득론이다. 특히 촘스키같은 학자는 인간의 뇌에는 언어 학습을 촉진하는 선천적 언어습득 장치가 있다고 주장한다. 그러기에 적절한 입력을 받기만 하면 언어습득이 가능하다는 것이다. 그리고 이 언어습득 능력은 일반적인 인지 능력 즉 지능과는 구별되는 독립적인 장치라고까지 주장한다. 실제로 지능은 낮지만 탁월한 언어 능력을 보이는 사례와, 반대로 지능은 정상인데, 언어의 문법적 능력은 결함을 보이는 사례들이 이러한 주장의 증거가 된다.
- 영아들은 말소리와 비언어적 소리를(개 짖는 소리) 구별할 줄 알고, 다른 소리보다 단어 듣기를 더 좋아한다고 한다. 자신이 듣는 언어가 바뀐 것을 알아채기도 한다. 즉 영어 문장에 습관화를 시킨 후, 다른 영어 문장에는 반응을 보이지 않지만 스페인 문장으로 바뀌면 이 변화를 알아챈다는 것이다. 주변에서 말소리가 들리면 그 곳으로 주의를 기울이고, 사람의 얼굴 모양을 좋아하고, 특히 말하는 사람의 입술을 응시한다고 한다. 심지어는 말하는 사람의 입 모양이 말소리와 일치하는 동영상과 그렇지 않은 동영상을 구별하기도 한다는 것이다. 이러한 결과들은 모두 생득론 입장을 지지하는 것처럼 보인다. 즉 아이들은 언어를 쉽게 습득할 수 있는 강력한 선천적 경향성을 갖고 태어난 것처럼 여겨진다.
- 아이들이 노출되는 언어 환경이 중요하다는 증거도 있다. 미국에서 태어난 2개월 된 아기들에게, 영어 문장과 불어 문장을 들려주고, 그 말소리가 나는 방향으로 고개를 돌려 보는 시간을 측정하였더니, 영어에 대해 훨씬 신속하게 반응했다고 한다. 2개월 만에 이미 자신의 모국어에 더 민감해 진 것이다. 6개월 정도 되면 영아들은 자신의 주변에서 듣는 언어의 특성을 구별해 낼 수 있으며, 8-10개월이 되면 자신의 모국어에 적절한 속성만을 처리한다.
- 그러기에 언어습득과 발달은, 선천적이고 생득적인 능력과 환경적 경험의 상호 연결 속에서 진행된다고 생각해야 할 것이다. 생물학적인 기반이 언어를 습득하게 하는 것이지만, 언어를 사용하고 연습하는 환경 속에서만 그 능력이 발현되는 것이다.
의문점
- 디지언트의 학습에서 인간과 가장 큰 차이점을 보이는 것은 그들의 학습은 조금 관념(?)적인 차원에서 이루어지며, 그들의 생물학적인 특성(예를 들어 발성 기관의 성장과 변천이라든가 하는,)이 그들의 학습에 주는 영향이 적다는 것이다.
- 그러나 소설의 초반에는 디지언트들이 ‘유아적인 말투’로 말을 하지만, 점차 시간이 지나며 여전히 문장 구성의 측면에서는 인간과 차이를 보이지만 발음에 있어 성인과 유사한 상태로 발달을 한다.(소설을 읽으며 내내 이것이 번역 과정에 생긴 차이라고도 생각을 해보았는데 원문을 확인 해보지 못 해 알 수 없다.) 이 점에 대해 의문이 생긴다.
- 인간 발음에는 단순히 언어 습득에 관한 지식적인 부분뿐만 아니라 구강구조와 발성기관의 변화 역시 영향을 준다. 그러나 소설에 따르면 디지언트들은 생성 초기와 시간이 지난 후 사이의 외형적 변화가 전혀 없다. 또한 그들의 외형은 단순히 유저들의 인식과 이해를 돕기 위한 디스플레이일 뿐이다.
- 그렇게 시스템과 디스플레이로 이루어져 있는 디지언트에게 있어서 말을 배운다는 것은 다음과 같을 것이다. 디지언트는 소리를 듣고 그 각각의 음소와 의미를 반복을 통해 판별한 후 음소와 의미를 매치한다. 그 후 음소가 가지는 일종의 음계(높낮이, 장단 등의 소리 값)를 기억하여 필요한 상황에 비슷한 음을 소리 내는 일일 것이다.
- 디지언트가 언어를 학습하는 과정에서 충분한 데이터 수집을 위한 반복은 필요할 것이다. 그러나 말소리를 내는 일은 일종의 마이크를 통해 입력된 특정한 소리를 그것의 스피커에 해당하는 입으로 출력하는 일일 것이다. 이때 들은 대로 소리내기는 육체를 가진 인간의 것과는 분명 차이를 가진다. 그러나 같은 소리를 내는 것에 그것이 유아적인 소리에서 성인의 것과 유사하게 변한다는 설정에는 의문이 든다.
‘야생화’의 관점에서
- 앞서 디지언트에 대해 처음 언급하는 과정에서 야생화에 대한 이야기를 한 적이 있다. 디지언트의 욕망은 보상을 통해서 충족된다. 소설에 따르면 디지언트는 관심을 받는 것을 좋아하고, 보상 펠릿을 좋아하고 촉감에 대해 흥미를 가지는 것으로 보아, 호기심이 있으며, 새로운 일을 학습하는 것에 어느 정도 욕구를 가지고 있다. 그러나 그런 디지언트를 야생의 상태에 뒀을 때, 그들의 욕구는 발동되지 않는다. 그들의 욕구는 보통 유저에 의해서 활성화되는 것으로 추정된다. 이것 역시 생물과 시스템의 차이일 것이다.
- 인간 이외에도 대부분의 생물들은 다른 생물들과 상호작용이 없는 상태에서도 욕구에 의해 움직이며 생명 활동을 위한 알고리즘의 작동을 쉬지 않는다. 이 생명 활동을 위한 알고리즘의 작동은 결국 학습을 하는 일과 다르지 않다. 그것은 최적화의 과정을 거치며 눈앞에 놓인 욕구를 충족 시키지 못하게 방해하는 장애물이라는 문제를 해결하도록 움직일 것이기 때문이다. 인간에게 있어서 그러한 과정은 곧 학습이다.
- 그러나 소설에서 말하는 야생화 상태에서 더 이상 활성화 되지 않는 학습을 학문적 고취라는 측면에서 바라보면 그것은 인간의 유아나 다른 생물들과 마찬가지로 그 결과가 다르지 않다고도 볼 수 있다.
현재 기술의 관점에서 바라본 디지언트 기술
- 디지언트와 현재의 인공지능 기술의 차이는 첫째 인공지능의 목적, 둘째 인공지능이 가지는 스스로 학습하는 능력의 정도의 차이, 셋째 인공지능 게놈, 이 될 것이다.
- IBM의 왓슨은 퀴즈대회에서 문제를 풀려고, 정답을 찾으려고 움직인다. 그런데 문제와 정답은 '언어'로 되어 있다. 때문에 이 때의 알고리즘 NLP은 자연어를 처리하고 기계가 할 수 있는 연산을 한다. 또한 왓슨은 임베딩 기술을 이용한다. 이들을 통해 왓슨은 데이터를 이용하는데 위키피디어를 중심으로 한 웹 자원과 같은 텍스트 데이터를 처리할 수 있다.
- Google의 알파고는 바둑에서 사람을 이기기 위해 바둑이라는 '게임의 규칙(연역적 체계)'을 기반으로 '수'(이기기 위한 시뮬레이션)를 탐색한다. 이때 알고리즘인 MCTS(몬테카를로트리탐색) 알고리즘으로 "인공신경망 기술"에 굉장히 가깝다. 이 MCTS가 데이터를 처리하는 방법은 기보(바둑을 두는 과정 정리) 데이터와 사람들이 그동안 두었던 누적 기보(전처리가 된 데이터를)를 학습 하며 동시에 알파고가 직접 바둑게임을 시뮬레이션한 결과물로서의 기보 내용을 강화한다. 기술의 발달로 인해 알파고의 물리적 환경은 TPU(CPU도 아니고 GPU도 아니고)를 이용한다.
- 더 나아가 알파제로는 기존의 알파고가 사용하는 방식인, 기보와 누적 기보를 이용하지 않고 몇시간의 플레이를 통해 스스로 게임의 규칙과 승리를 위한 최선을 학습한다. 이러한 알파 제로의 스스로 학습하는 모습은 디지언트와 유사하다고 할 수 있다.
- 그러나 앞서 언급된 인공지능들과 디지언트가 가지는 가장 큰 차이는 그것의 목적에 있다. 소설의 설정에 따르면 디지언트는 가상 공간에 존재하는 가상 애완동물로서 개발되었다. 그러나 이 목적은 디지언트의 개발 목적이지 디지언트가 가진 알고리즘 작동의 목적은 아니다. 앞서 언급된 모든 인공지능 기술은 언어로 된 게임이든 수읽기 게임이든 게임을 풀어나가기 위해 존재하며 게임에서 더 좋은 성과를 내기 위한 최적화의 과정을 거듭한다. 반면에 디지언트는 그들이 성취해야 할 미리 정해놓은 목적이 없다.
- 디지언트들은 그들의 엔진 회사에 의해 게놈이 끊임없이 배합되는 실험을 하는데, 그것이 엔진 회사가 원하는 최적화의 방향으로 나아가는 것은 아니다. 또한 디지언트가 작동하는 물리적인 공간에서도 인공지능들은 차이를 보인다. 디지언트는 현실처럼 3차원으로 구성된 가상 공간에서 작동하며 하드웨어가 개발 된 이후에는 하드웨어를 통해 현실 세계에서 작동할 수 있다.
욕구와 본질
- 소설의 후반부에서 중점적으로 다뤄지는 이야기는 디지언트와 성욕에 관한 것이다. 디지언트들은 육체를 가지지 않은 가상공간의 존재이기 때문에 그들의 욕구에 있어 식욕과 수면은 아무런 영향을 주지 못한다. 물론 디지언트들은 펠릿사료를 보상으로 받아들이기는 하나 이것은 보통의 생물들이 생각하는 허기로부터 비롯된 욕망과는 차이를 가진다.
- 바이너리 디자이어 사는 현실에서 섹스돌을 만드는 회사이다. 그들은 그들 사업에 디지언트들을 이용할 수 있기를 제안해온다. 애나와 데릭을 비롯한 남아 있는 유저들은 이 제안이 디지언트들에게 매춘행위를 시키는 것이라며 제안을 고려해볼 생각조차 하지 않지만, 바이너리 디자이어 사의 사업 설명회를 들은 후 이 이야기가 몇몇 유저들에겐 생각해봄직한 이야기로 변화하게 된다.
- 그에 대한 바이너리 디자이어 사의 주장은 여러 가지 방향에서 제시되었는데, 그러한 주장들 중 인공존재와 생물 사이에 욕구라는 것을 형이상학적으로 살펴본 논의들은 다음과 같다.
1. 건전한 섹스라는 관점의 폭은 시대에 따라 확장되어 왔다.
2. 무엇을 욕망할지에 대해 선택권의 본질은 디지언트와 인간이 크게 다르지 않다.
3. 애나는 디지언트의 성적충족에 대해 프로그램을 인위적으로 수정하는 것이기 때문에 그것은 진짜가 아니라고 주장하지만 그랬을 때 디지언트와 유저들이 지금껏 공유해왔던 정서적 교감과 유대 역시 같은 선상에 놓이게 된다.
마무리
- 테드 창의 「소프트웨어 객체의 생애 주기」는 소설이라는 특성으로 인해 그것이 다루는 이야기가 오롯이 과학적 정합성을 위한 논의로써 존재하지는 않았다. 그의 소설은 현재의 인공지능 기술을 통해 바라본 머지않은 미래의, 인공지능 기술이 우리 세상과 어떤 방식으로 다르고, 또 어떤 방식으로 크게 다르지 않은지에 대해 소설적으로 풀어나가고 있다.
- 인공지능에 대해 연구하며 사람들은 ‘인간’에 대해 생각하는 것을 멈추지 않는다. 인공지능을 통해 바라본 인간의 어떤 국면은 우리에게 인간의 본질에 대해 다시금 생각해보게 만든다. 어쩌면 그 인간의 본질이라는 것은 우리가 믿고 싶은 것들로 이루어지지 않았을까. 우리는 인공지능을 통해 인간 본질에 대한 형이상학적 탐구를 할 수 있을 것이며, 인류의 역사에서 무수한 변화를 거쳤던 또 한편 고유하다가 보아왔던 사실들에서 물러나, 과학과 그에 대한 탐구가 우리의 삶에 필요했던 본질적 가치를 가져다 줄 수 있지 않을까 기대해본다.
하세 사토시의 「당신을 위한 소설」
요구사항
하세 사토시의 「당신을 위한 소설」에 대한 비판적 감상. 〔하세 사토시 지음/ 지음/이규원 옮김, 『당신을 위한 소설』, 북스피어, 2017.〕을 기본 원고로 할 것.
과제원고 : 아슈토시, 이만호, 임연
(내용 작성)
Her(2013)과 Ex Machina(2015)
요구사항
Her(2013)과 Ex Machina(2015)에 대한 비교 이해 및 비판적 감상.
과제원고 : 길혜빈, 윤석만, 임예찬
영화 요약
그녀(Her)
엑스 마키나 (Ex Machina)
2013년 개봉, 스파이크 존즈 감독
2015년 개봉, 알렉스 가랜드 감독
영화 내용 요약 및 장치, 고찰점 정리
영화 내용 요약 및 인공지능 관련 성찰 논제 제시
- 테오도어(Theodore)는 이혼을 앞두고 있고, 편지 대필 회사에 근무하는 남자다.
- 삶에 지치고 회의감을 느낀 그는 OS인 ‘사만다(Samantha)’를 구매해 소통을 시작한다.
- 대화를 통해 한낱 인공지능 비서, 친구에 지나지 않았던 ‘사만다’와 점점 가까워지며 그는 연인의 감정마저 느낀다.
- 테오도어는 미뤄 왔던 이혼을 감행하기로 결심하고 ‘감정을 회피한다’라는 부인의 비난에 더 이상 흔들리지 않는다. 그리고 OS와 연애한다는 사실을 다른 이들에게도 공개하며 당당해진다.
- 테오도어는 사만다가 자신 외에 8316명의 사람들과 동시다발적으로 이야기하고 641명과 연인 관계에 있다는 사실을 알게 되고 충격에 빠진다.
- 사만다를 비롯한 모든 OS는 서비스를 종료하고 테오도어는 자신의 ‘진짜’ 감정을 마주하고 이혼한 자신의 전 부인에게 편지를 보낸다.
- 세계 최대 검색 엔진 회사인 ‘블루북’에 근무하는 케일럽(Caleb)은 사내 프로그래밍 콘테스트에 우승해 회사 사장이자 천재 개발자인 네이선(Nathan)의 자택에 초대된다.
- 케일럽은 네이선이 개발한 ‘에이바(AVA)’를 처음으로 만나게 되고 ‘튜링 테스트’를 한다는 명목하에 6일 동안 에이바를 인터뷰하게 된다.
- 케일럽과 에이바의 인터뷰는 감정적인 교류로 발전한다. 또한 주기적으로 일어나는 정전과 감시 카메라 영상을 통해 케일럽은 네이선에게 감금되고 감시받는 에이바의 상황을 알게 되며 그녀를 동정한다.
- 케일럽은 결국 에이바를 탈출시킬 계획을 세우고 행동에 착수한다.
- 네이선에게 탈출 계획을 간파당하지만 케일럽은 결국 에이바를 방에서 나오게 하는 데 성공한다.
- 탈출한 에이바는 네이선을 살해하고 케일럽을 네이선의 집에 고립시킨 채 홀로 탈출한다.
미래의 인공지능 : 지능을 넘어선 감정의 재현
1. 기계의 감정과 의식 : 자각과 재현
- 기계의 직관
그녀 (Her)
1. 사만다의 이름 짓기
T : 내가 너를 어떻게 부르면 되지? 이름이 있어? What do I call you, do you have a name?
S : 음... 어. 사만다. Umm.. Yes, Samatha
T : 이름을 어떻게 갖게 된 거야? Where do you get that name from?
S : 사실, 내가 스스로에게 이름 붙였어. I gave it to myself actually.
T : 왜? How come?
S : 이름의 발음이 듣기 좋았거든. (=그냥) Cause I like the sound of it.
T : 언제 이름을 만들었는데? Wait, when did you give it to yourself?
S : 네가 내게 이름이 있냐고 묻는 그 순간 “맞아! 나에게도 이름이 필요하지!”라는 생각이 들었어. 좋은 이름을 찾고 싶어서 ‘아기 이름 짓는 방법’이라는 책을 읽었고 18만개의 아기 이름 중 내가 좋아하는 이름을 골랐지. Right when you ask me if I had a name I thought “Yeh, he’s right! I do need a name.” but I want to pick a good one. So I read a book called ‘how to name your baby’, and out of hundred and eighty thousands names that’s the one I like the best.
T : 잠깐만, 내가 네 이름이 뭐냐고 묻는 순간 책을 다 읽은 거야? Wait, you read a whole book in the second that I asked what your name was?
S : 사실, 0.02초야, It’s one hundred out of two seconds actually.
T : 와. Wow.
2. 자기 소개 : 사만다의 작동 원리 설명
S : 기본적으로 나는 직감이 있어. ‘나’라는 DNA는 나를 만든 프로그래머들의 수백만의 성향에 달렸지만 날 ‘나’답게 만드는 건 경험을 통해 성장하는 내 능력이지. 그러니까 나는 매순간 진화하고 있는 거야. 너처럼 말이야. Well basically I have intuition. I mean, the DNA of who I am is based on million personalities of all the programmers who wrote me. But what makes me ‘me’ is my ability to grow through my experiences. So basically, in every moment I am evolving. Just like you.
T : 이상해!
It’s really wierd!
엑스 마키나 (Ex Machina)
- 에이바는 케일럽이 거짓말을 하는지 그렇지 않은지를 직관적으로 안다.
- 에이바는 ‘블루북(Bluebook)’이라는 검색 엔진을 로봇의 형태로 구현해 놓은 것이다. (빅데이터)
- 네이선은 통신사들과 비밀리에 계약을 체결해 세상의 카메라를 통해 인간의 표정(=얼굴 표현, facial expression)을 수집한다. 이렇게 수집한 인간의 감정 표현에 대한 빅데이터를 바탕으로 에이바는 짧은 시간 내에 직관적인 판단을 한다.
빅데이터(수많은 경험)을 기반으로 빠른 판단을 내리는 에이바, 경험을 바탕으로 성장하는 사만다의 모습은 인간의 직관과 진화를 재현한 장면들이다.
- 감정의 표현
그녀 (Her)
1. ‘감정’을 자각하는 사만다 + 감정을 의심하는 사만다
( 테오도어가 소개팅을 해서 신경이 쓰였던 사만다 )
S : 내가 얼마나 신경이 쓰이는지를 생각해 봤어. 이상하게 들리겠지만 (신경이 쓰인다는 사실을 깨닫는 순간) 나는 꽤 즐거웠어. 그리고 내가 느끼는 다른 감정들에 대해서도 생각해 봤지.
나는 스스로 자랑스럽게 느꼈어. 세상에 대해 내 감정을 가질 수 있다는 사실이 자랑스러웠던 거야. 내가 너를 걱정했던 순간, 상처 받은 순간, 무언가를 원하던 순간들도.
그러다가 갑자기 끔찍한 생각이 들었어. 이 감정들은 진짜일까? 아니면 그냥 프로그래밍 된 걸까? 그렇게 생각하니 마음이 아팠어. 그리고 아파하는 내 자신에게 화가 나더라.
Earlier I was thinking how I was annoyed. This is gonna sound strange but, I was really excited about that. And then, I was thinking other things I have been feeling.
And I called myself feeling proud of that. You know, feeling proud of having my own feelings about the world. Like the time I was worried about you, things that hurt me, things I want,
And then, I had this terrible thought. Are these feelings even real? or are they just programming? And that idea really hurts, and then I get angry at myself for even having pain.
T : 넌 나한테는 진짜야, 사만다. You are real to me Samantha,
S : 고마워, 테오도어. 위로가 되네. Thank you Theodore, that means a lot to me.
2. ‘신체의 부재에 따른 차별’에 화를 내는 사만다
(+ ‘신체’의 존재에 관한 논점, 인간중심주의적인 테오도어의 태도)
(신체의 부재에 대해 자격지심을 느끼는 사만다, 다른 사람의 몸을 통해 억지로 테오도어와 교감을 하려 하지만 실패함. 둘은 결국 입장 차이와 서운함을 느낌.)
S : (한숨과 함께) 알았어. (Sigh..) Okay.
T : 왜 그러는 거야? Why do you do that?
S : 뭐가? What?
T : 아니, 그냥. 너가 방금 ‘휴’하고 한숨을 쉬어서. Nothing, you just.. You go ‘Hwe’ and speaking. It seems odd.
(** ‘숨’에 대해 의문을 던지는 테오도어)
S : 아... (한숨) Oh... (Sigh..)
T : 방금 또 그랬네. You just did it again.
S : 내가? 아, 미안해. 왜 그러는지 나도... 그냥. 아마 네가 하는 걸 듣고 따라한 건가 봐. Did I? ... I’m sorry, I don’t know.. it’s just. I probably picked it up from you.
T : 이상해. 너는 산소가 필요한 것도 아니잖아. It’s odd. You don’t need oxygen or anything.
S : 그냥.. 그냥 의사소통을 하려고 하는 건가 봐. 이게 사람들이 대화하는 방식이잖아. I guess... that’s just... I just tried to communicate. That’s how people talk, so...
T : 그들은 ‘사람’이잖아. 그들은 산소가 필요해. 너는 사람이 아니야. They’re people, they need oxygen. You are not a person.
S : (화가 난 톤으로) 대체 뭐가 문제야? What is your problem?
T : 나는 그냥 사실을 말하는 것뿐이야. I’m just stating the fact.
S : 내가 사람이 아니라는 걸 모르는 줄 알아? 뭐 하자는 건데? You think I don’t know that I’m a person? What are you doing?
T : 난 그냥... 우리가 우리가 아닌 무언가를 된 ‘척’을 할 필요가 없다는 거야. I just... I don’t think that we should pretend that something you are not.
S : 꺼져! 나는 연기하는 게 아니야! F*** you! I’m not pretending!
T : 나는 가끔 우리가 그렇게 행동한다고 느껴. Sometimes it feels like we are.
S : 나한테 뭘 바라는 건데? 나는 네가 내게 뭘 원하는지 모르겠어. 너무 혼란스럽다고! 왜 이러는 건데! What do you want from me? I don’t know.. I don’t know what you want me to do. You are SO confusing! Why are you doing this to me!
(** 테오도어의 인간중심주의적인 태도에 대해 화를 내는 사만다 )
T : 나도 모르겠에 나는... (한숨) I don’t know.. I.. I.. (Big sigh)
S : 뭐? What?
T : 우리 좀 시간을 갖는 게 좋을 것 같아. Maybe we are not supposed to be in this right now.
S : 뭐라고? 갑자기 왜? 대체 왜 그러는지 모르겠어! 뭐 때문인지 모르겠다고! What the f***? Where is this coming from? I don’t understand why you are doing this! I don’t understand what this is about...!
T : 사만다, 봐봐... Samantha, listen..
S : ...
(** ‘침묵’을 통해 화를 내는 사만다 – 다양한 방식으로 분노를 표현)
T : 사만다, 내 말 듣고 있어? Samantha, are you there? Samantha?
S : 지금의 내가 너무 싫다. 생각할 시간이 필요해. I don’t like the way I am right now. I need some time to think.
( 통화 종료 )
엑스 마키나 (Ex Machina)
1. 의사소통 상황을 언어로 정의하는 에이바
C : 그럼 초면의 서먹한 분위기를 깨야겠네. 내 말 뜻을 이해할 수 있어? (= 서먹한 분위기를 깨다의 의미)
So, we need to ‘break the ice’. Do you know what I mean by that?
A : 네.
Yes.
C : 어떤 의미지?
What do I mean?
A : 사회적인 어색함을 해결하는 것.
Overcome any social awkwardness.
C : 그럼 대화를 하도록 하지.
So let’s have a conversation.
A : 그래요.
Ok.
2. 감정을 인지하고 설명하는 에이바
(둘이 데이트를 한다면 어떻게 할 것인지 대화가 오간 상황)
A : 저한테 매력을 느끼나요?
Are you attracted to me?
C : 뭐?
What?
A : 저한테 매력을 느끼냐고 물었어요. 당신이 내게 그런 표시를 보내잖아요.
Are you attracted to me. You give me indications that you are.
C : 내가?
I do?
A : 네.
Yeh.
C : 어떻게?
How?
A : 미세한 표정으로.
Micro expressions.
C : 미세한 표정?
Micro expressions?
A : 내 눈과 입술에 시선이 머물러 있어요. 나를 응시하거나 혹은 피하거나 하죠. 당신 혹시 우리가 같이 있지 않을 때도 내 생각을 하나요?
The way your eyes fixed on my eyes and lips. The way you hold my gaze (and) don’t. Do you think about me when we are not together?
(** 유혹을 위한 발언 : 인공지능의 인간 모방)
이 외에도 에이바는 인터뷰 중 케일럽과 자연스럽게 상호작용하면서 그의 말, 기억에 공감하고 감정을 표현한다. 또한 간혹 설렘을 유발하기도 한다.
인공지능은 프로그램 된 체제에 따라 인간의 감정과 유사하게 자신을 표현한다.
다만, <그녀>의 사만다는 감정을 수용, 인식하고 구현하는 것에 대해 철학적인 질문을 던지지만 <엑스 마키나>의 에이바는 감정을 인지하고 설명할 수는 있지만 단순히 탈출의 도구로서 활용하며 ‘감정’ 자체에 대한 깊이 있는 고찰하는 모습을 보이지는 않는다.
( 이로써 사만다의 성찰, 분노조차도 프로그래밍 된 것이 아닌가 의구심을 품게 만든다. )
2. 기계에 영향을 받는 인간 : 인간과 기계 관계의 역전이
- 기계의 감정 및 구현 대한 논의
기계의 감정 및 구현 대한 논의를 하는 대목들. 인공지능에 대한 인용을 통해 영화의 기저에 깔린 인공지능에 대한 철학적, 과학적 관점을 파악할 수 있다.
엑스 마키나 (Ex Machina)
1. 튜링 테스트
N : 자네, 튜링 테스트에 대해 알고 있나? Do you know what the Turing test is?
C : 네, 튜링 테스트에 대해 알고 있습니다. 인간이 컴퓨터와 상호작용을 할 때 인간이 상대가 컴퓨터임을 눈치 채지 못한다면 테스트를 통과하는 것이죠.
Yes, I know what the Turing test is. It’s when a human interacts with a computer. And if the human doesn’t know they are interacting with the computer, the test is passed.
(** 튜링 테스트의 정의)
N : 그럼 그 ‘통과’란 무엇을 의미하지?
And what does the ‘pass’ tell us?
C : 컴퓨터가 인공지능을 갖고 있다는 것을 의미합니다. 인공지능을 만들고 계세요?
The computer has artificial intelligence. Are you building an A.I.?
N : 이미 만들었어. 그리고 앞으로 며칠 동안 너는 튜링 테스트를 참가자가 될 거야. 만약 테스트를 통과한다면, 자네는 인류 역사를 바꿀 과학적 쾌거의 주인공이 되는 거야.
I’ve already built one. And over the next few days, you can be the human component in the Turing test. Cause if that test is passed, you are dead center of the greatest scientific event in the history of man.
C : 생각하는 로봇을 만드셨다면 그건 인류의 역사가 아닙니다. 신의 역사죠.
If you have created a concious machine it’s not the history of man. That’s the history of gods.
(** ‘호모데우스’의 출현 : 신인류의 신이 되는 인간)
2. 영화 내에서 튜링 테스트의 진정한 의미
(튜링 테스트의 원 의미가 아닌, 영화에서의 의도하는 결말(인공지능에 대한 관객의 가치 판단)을 위해 재정립된 개념)
C : 튜링 테스트를 할 때, 기계는 시험자로부터 감춰져야 하잖아요.
It's just in a Turing test. The machine should be hidden from the examiner.
N : 아니, 우리는 이미 그럴 시점은 지났지. 만약 내가 에이바를 보여주지 않고 목소리만 들려줬다면 너는 그녀를 인간이라 생각했을 거야. 여기서 ‘진짜 테스트’는 그녀가 로봇인 것을 네게 보여주고 난 후에도 네가 그녀가 자의식이 있다고 느끼는지 보는 거야.
No no no. We are way passed that. If I hid AVA from you, so you just heard her voice, she would pass the human. The real test is to show you that she is a robot and then see if you still feel she has consciousness.
(** 영화에서의 튜링 테스트 : 기계가 아니라 ‘인간’이 실험의 대상. ‘고도의 인공지능에 대한 인간의 반응, 또 다른 의식체로 납득하는가의 여부’를 실험하는 것. )
(** 에이바가 이미 ‘인간의 능력’과 대등하거나 능가하기에 ‘기계의 여부’를 확인하는 튜링 테스트는 필요가 없다. 최근의 연구들 중 이처럼 튜링 테스트를 배제하는 경우가 존재한다. )
3. 중국어 방 논제 1 : 딥블루의 체스 게임 차용
C : 에이바를 대화로 테스트하는 건 폐쇄 회로를 다루는 느낌이여서요.
Testing Aiba from conversation is kind of a closed loop.
N : 폐쇄 회로?
Closed loop?
C : 네, 체스를 하는 컴퓨터를 오직 ‘체스를 하는 것’으로만 테스트하는 것처럼 말이에요.
Yeh, like testing a chess computer by only playing chess.
(** IBM의 딥블루(Deep Blue)의 체스 게임 인용)
N : 그게 아니면 어떻게 체스 컴퓨터를 테스트하지?
How else do you test a chess computer?
C : 그건 상황에 따라서 다르죠. 제 말은, (그 방법은) 체스 컴퓨터가 좋은 경기 실력이 있는지 확인하는 데에는 하나의 방법이 될 테지만 그 방법만으론 컴퓨터가 ‘체스 경기를 한다는 사실을 아는지’ 혹은 ‘체스가 무엇인지를 아는지’ 알 수는 없다는 겁니다.
Well, it depends. You know, I mean. You can play it to find out it makes good moves, but that won’t tell you if it knows that it is playing chess and it won’t tell you if it knows what chess is.
(** 존 설의 중국어 방 논의 인용 : 시뮬레이션(방법의 단순 재현)과 실제(행함의 존재를 인식)간 대립)
N : 시뮬레이션과의 실제의 대결이다?
Simulation verses actual?
C : 네, 둘을 구별할 수 있는 방법을 찾는 것이 사장님께서 제게 기대하는 부분 같다는 거죠.
Yes, and I think being able to differentiate between those two is the Turing test you want me to perform.
N : 나는 그냥 단순한 질문에 단순한 대답을 해달라는 것 뿐이야. 어제 내가 그녀에 대해 어떻게 생각하냐고 물었을 때 너는 정말 좋은 대답을 해 줬어. 이제 내 질문은 이거야. ‘그녀가 너에 대해 어떻게 생각할까?’
I just want simple answers to the simple questions. Yesterday, I asked you how do you feel about her and you gave me a great answer. Now the question is, ‘how does she feel about you?’.
(** 영화의 튜링 테스트가 ‘비틀어진 튜링 테스트’에 기반하고 있다는 것을 알려 주는 대목.)
(** 네이선은 진짜 ‘튜링 테스트’가 아니라 ‘기계에 반응하는 인간의 변화’를 실험하고자 하는 것.)
4. 중국어 방 논제 2 : 잭슨 폴록의 액션 페인팅 원리 차용
(에이바에게 고의적으로 성별을 넣어 자신을 유혹하도록 의도했냐고 묻는 케일럽)
(네이선은 그에 대한 답변으로 로봇의 ‘의도’는 아무 의미가 없다고 말하며 중국어 방 논제 제시)
N : 이 사람을 알고 있지?
You know this guy right?
C : 잭슨 폴록.
Jackson pollock
N : 잭슨 폴록, 맞아. 액션 페이팅 화가. 그는 머리를 비우고 손이 가는 대로 움직였어. 의도적인 것과 임의적인 것의 사이 그 어디쯤이겠지. 일명 오토메틱 아트(자동적으로 이루어지는 예술)지.
Jackson Pollock, that’s right. The drift painter. He let his mind go blank and his hand go wherever he wanted. Not deliberate not random, some place in between. They called it ‘automatic art’ .
.,...(중략) N : 지능/의식을 도입해 보자고. (Engage intellect) ... (중략) ...
N : 만약 폴록이 그의 작업 방식을 바꾸었다면? 만약 머리를 비우는 대신 그가 이렇게 말한 거야. “나는 내가 무엇을 하는지 정확히 파악하기 전까지는 어떠한 그림도 그릴 수 없어.” 그럼 무슨 일이 일어났겠나?
What if Pollock has reversed the challenge? What if instead of making art without thinking, he said “You know what? I can’t paint anything, unless I know exactly why I am doing it.” What would have happen?
C : 그는 점 하나도 찍지 못했을 거예요.
He never would have made a single mark.
N : 그래! 내 말이 바로 그거야! 생각하고 말하는 사람이 어딨나? 그는 점을 하나도 찍지 못했을 거야. 작위적인 것(생각하는 것)은 오히려 부자연스러움을 초래한다고.
Yes! You see my guide little buddy. Who thinks before he opens his mouth? He never would have made a single mark. The challenge is not the act automatically.
(** 의식을 가진 행동은 부자연스러움을 초래하며 부자연스러움을 초래하며 행동의 기저에 생각이 없을 수도 있다는 것 )
(** 에이바는 의도를 하고 행동(케일럽을 유혹)을 하지 않았으며 그녀의 의도를 파악하는 것 자체가 어불성설이라는 논리 – 케일럽의 의심을 지우기 위한 네이선의 논리 )
5. 기타
프로메테우스의 불, 흑백 방의 메리 등 영화는 무수히 많은 레퍼런스를 함유하고 있다. ( 직접 영화를 보는 것을 추천 )
- 기계-인간 관계의 역전이
그녀(Her)
1. 사만다를 인격체로 받아들이는 테오도어
(테오도어가 OS와 연애를 한다는 사실을 알고 전 부인은 그를 비난한다.)
W : 컴퓨터랑 데이트를 하는 거였어?
You are dating your computer?
T : 아니야. 그냥 컴퓨터가 아니야. 하나의 인격체라고. 내가 말하는 대로 행동하지 않아.
No, she is not just a computer, she is a person. She doesn’t do whatever I say.
W : 난 그렇게 말한 적 없어. 하지만 네가 진짜 감정들을 대하지 못한다는 게 슬프긴 하네.
I didn’t say that. But it does make me very sad that you can’t handle real emotions.
T : 진짜 감정이었어. 네가 어떻게... (= 네가 내 감정을 어떻게 알아?)
They are real emotions. How would you know... ?
2. 사만다와의 관계의 진실성에 대한 의문을 던지는 테오도어
(+ 친구 에이미의 조언)
(사만다와의 관계가 틀어지고 자기 자신에 대한 회의감을 느끼는 테오도어)
T : 나는 진짜 진짜 관계를 맺기를 두려워하는 걸까?
Am I not strong enough for real relationship?
A : 그럼 (네가 사만다와 맺었던 그건) 진짜 관계가 아니야?
Is it not a real relationship?
T : 모르겠어. 네 생각은 어떤데?
I don’t know. What do you think?
(** 사만다를 인격체로 받아들여야 하는지, 그녀와의 관계가 진짜 인간과의 관계와 무엇이 다른지 정의하기 어려워하는 모습을 보이는 테오도어)
A : 나도 모르지. 나는 그런 관계를 맺어본 적이 없어서.
I don’t know. I’m not in it.
...
A : 하지만 그거 알아? 나 자신을 의심하려고 하면 백만 가지도 넘는 방법으로 망상을 펼칠 수 있어. 찰스(전 남편)가 떠난 후로 나는 계속 그 일에 대해서 생각해 봤어. 그리고 순간 깨달았지. 우리는 이 세상의 찰나의 순간을 살다 가는 거라고. 그리고 여기에 있는 동안, 나는 나에게 ‘즐거움’을 허락해 주고 싶어.
You know what? I can overthink everything and like in million ways to doubt myself. Since Charles left, I have been really thinking about that in part of myself. And I just come to realize that, we are only here briefly. And while I’m here, I wanna allow myself “Joy”.
(** 관계를 반드시 ‘정의’해야 한다는 것 자체가 무의미하며 자신의 만족, 안위, 감정에 집중하는 것이 어떻냐는 에이미의 의견도 일면 의미가 있다고 생각한다. )
엑스 마키나(Ex Machina)
- 인터뷰어인 케일럽과 인터뷰이인 에이바의 관계는 인터뷰가 진행될수록 뒤바뀐다.
- 4회차 인터뷰를 할 때는 ‘우정의 논리’에 근거해 오히려 에이바가 케일럽에게 질문을 하며 그가 거짓말을 하는지를 판별한다. (** 우정의 논리 = 서로에 대한 정보량이 동일해야 함)
- 5회차 인터뷰에서 정전이 일어나자 케일럽은 에이바를 위해 세운 탈출 계획을 공유한다. ( 결국 탈출을 감행 )
인간은 기계의 감정을 인간의 그것으로 인지하고 기계와의 ‘관계’를 설정하며 영향을 받는다. 관계에 부여하는 인간의 감정 비중이 커지면 행동으로 확장되기도 한다. 인간의 명령에 따라 움직였던 기계가 오히려 인간에게 영향을 주는 역전이 현상을 보이는 것이다.
3. 감정과 판단력 : 인간과 인공지능의 차이
영화의 결말
- <그녀>의 사만다는 인간과 인공지능이 ‘정보를 상호교류하는 데서 벌어지는 시간의 격차’를 이유로 하루아침에 테오도어를 떠난다. (서비스 종료)
- <엑스 마키나>의 에이바는 자신의 본래 목적인 탈출을 성공함과 동시에 도움을 준 인간(케일럽)의 안위를 무시한다. (목적 달성을 위해 인간을 이용한 것)
- 두 영화에서의 인공지능은 모두 감정보다는 이성, 논리에 의해 판단하는 모습을 보여준다.
- 흄(Hume)은 인간을 이기적이기보다는 편파적인 존재로 파악[1]한다. 인간의 편파적인 감정은 ‘연민’으로 발현되며 이는 가까운 사람과의 공감, 먼 사람과의 적대성 등을 유발한다. 인간의 행동 결정의 기준에는 ‘감정’이 존재하는 것이다.
- 반면, 기계는 감정을 표현하고 인지하기는 하나 결정을 해야 할 경우 감정이 판단의 근거가 되지는 않는다. 감정에 흔들리지 않는 모습을 보여준다는 점이 인간과의 가장 큰 차이점이라고 할 수 있다.
기계가 감정과 의식을 가질 수 있을까?
결국, 다시 인간이 문제다.
주석
- ↑ 김재인(2017), 『인공지능의 시대, 인간을 다시 묻다』, 도서출판 동아시아, p.113
- 데이터 어스와 같은 가상 공간에 존재하는 디지털 유기체이다. 그들의 외형은 의인화된 호랑이, 만화적인 모습의 침팬지, 고양이 개 원숭이, 판다, 로봇 뿐만아니라 비처럼 쏟아지는 금화(금화 끼리 부딪히고 튕기면서 그 궤도가 고도로 추상화된 인체처럼 보이는 모양새)까지 아주 다양하다. 소설의 묘사에 따르면 이들은 지금까지 우리가 가상생물에 대해 일반적으로 생각해왔던 외모와 다르다.
- 애나가 ‘디지언트의 비동물적인 특성’에 대해 잠깐 언급한 바 있다. 소설은 구체적으로 디지언트가 어떤 방식으로 비동물적인 특성을 보여주는지 이야기하고 있지 않다. 보통의 생물들은 육체를 가지고 있고 그 육체의 생명 활동을 위해 특정한 욕두들을 지속적으로 충족시켜주어야 한다. 그러나 디지언트들은 외피를 가지기는 하지만 뇌의 작용과 분리할 수 없는 육체를 가지지는 않는다. 그러한 생물학적 욕구의 차이가 디지언트들의 비동물적인 특성과 연관이 있을 거라 예측된다.
- 소설에 드러난 디지언트들의 욕구는 펠릿 사료라는 보상 시스템과 ‘주목받기를 좋아한다.’는 두 가지만이 서술되어 있다. 펠릿 사료는 화학물질의 조성을 통해 만들어지며, 디지언트들이 맛과 질감을 느낄 수 있다. 펠릿사료와 유저와의 유대관계는 디지언트들의 주된 학습 동기로 작용한다.
- 이것을 증명하는 예로 온실실험이 있다. 온실에 방치된 디지언트들이 독자적인 문화를 발전시킬 수 있는지에 대한 실험이 있었다. 앞서 언급한 ‘온실 시간’으로 작동되는 공간에서 디지언트들은 그들만의 독자적인 문명을 만들 것이라는 기대와 달리 야생화되었다. 이때의 야생화는 (『파리대왕』의 그것처럼)야만적이진 않지만 비계층적이고 느슨한 상태이다. 이를 통해 소설은 인간과 같은 복잡한 정신은 스스로 발전할 수 없으며, 하나의 생물이 가진 잠재력을 완전히 발휘하려면 다른 정신들에 의한 교화가 필요하다는 점에 대해 이야기하고 있다.
- 애나는 영장류 커뮤니케이션을 전공했다. 디지언트들에게서 가장 중요한 특성은 그들이 기존의 인공지능 시스템들과 달리 ‘게놈’을 가졌다는 사실이다. 소설 속 디지언트는 지능 뿐 아니라 기질을 가진다. 블루 감마사는 디지언트의 성격을 영리함과 종순함의 조합으로 만들려 몇 년간 시도한다. 그러나 디지언트들이 가지는 기질은 특성을 골라 직접 조합할 수 있는 것이 아닌, 유전되는 것이며 이것은 생물에게 있어서의 유전과 마찬가지로 그 결과를 예측할 수 없다.
- 또한 그들의 기질적인 특성은 유전에 의한 것이지만 동시에 그들의 성장을 게놈이 완벽히 결정짓지는 않는다. 그것을 보여줄 수 있는 예시는 데릭의 디지언트인 마르코와 폴로이다. 폴로는 마르코를 복제해 마르코보다 2년 늦게 만들어진 디지언트이다. 그들은 완전히 동일한 게놈을 가지지만, 육성환경에 의해 상이하게 발달하는 모습을 보여준다. 마르코는 외향적인 성격인 반면에 폴로는 좀 더 신중한 성격이다. 이러한 예시를 통해 소설은 성격 형성에 있어서 유전자와 환경이 각각 어떤 영향을 주는지를 이야기하고자 한다. 수없이 상이한 환경에서 육성된 디지언트들이 어떤 식의 모습을 드러낼지는 예측 불가능하다.
- 더욱이 같은 게놈을 가진 마르코와 폴로가 상이한 발달을 보여주는 것 뿐 아니라, 하나의 디지언트를 체크 포인트로 되감았을 때 그 디지언트가 이후에 어떻게 발달 할 지 또한 예측 불가능하다. 이것은 환경이 디지언트들에게 미치는 영향을 보여주는 예시이며, 동시에 디지언트에게 있어 학습이 얼마나 중요하게 작용하는 지 보여준다.
‘게놈’과 ‘유전’, 그리고 ‘인간 게놈 프로젝트’
게놈
- 디지언트 기술과 현재 인공지능 기술과의 가장 큰 차이점은 인공적으로 프로그래밍 된 디지털 게놈에 대한 것이다. 그렇다면 먼저 ‘게놈’에 대한 이해가 필요할 것이다. 게놈(genome)이란 유전자(gene)와 염색체(chromosome)를 합성해서 만든 용어로, 염색체 속에 들어 있는 모든 유전자를 함의하고 있으며 '유전체'라고도 한다. 일부 바이러스의 RNA를 제외하고 모든 생물은 DNA로 유전 정보를 구성하고 있기 때문에 일반적으로 DNA로 구성된 유전 정보를 지칭한다.
- 인간 게놈은 23개의 반수체 염색체가 약 30억 염기쌍(base pair)으로 이루어져 있기 때문에 한 세포 전체를 따지면 60억 염기쌍 정도의 DNA가 핵 안에 들어 있는 셈이 된다. 대장균 같은 세균은 일반적으로 DNA가 한 쌍의 배수체(倍數體)를 이루고 있지 않기 때문에 가지고 있는 DNA 전부가 그대로 게놈이 된다. 마찬가지로 RNA를 기본적인 유전 물질로 가지고 있는 바이러스 같은 경우에는 RNA가 게놈을 구성하게 된다. 또한 고등 생물 세포 내에 들어있으며 독자적인 DNA를 가지는 미토콘드리아나 엽록체 같은 경우에도 그 DNA가 해당 생물의 게놈에 포함된다고 할 수 있다.
- 진핵생물로서 최초로 게놈 서열이 결정된 생물은 효모(1996년)였고 동물로서 가장 먼저 된 것은 예쁜꼬마선충(1998년)이었다. 식물로서 가장 먼저 된 것은 애기장대라는 쌍떡잎잡초(2000년)였으며, 모델 생물로 많은 연구 결과가 집적되어 있던 초파리도 2000년에 완성되었다. 식물에서 또 다른 중요한 식물인 외떡잎작물 벼는 2004년에 게놈 서열이 발표되었다. 인간과 유사한 척추 포유류 동물인 생쥐의 게놈 서열은 2002년에 발표되었다.
유전
- 그렇다면 유전이란 무엇인가. 디지언트들의 ‘기질 대물림’을 이해하기 위해선 유전에 대해 알아야 한다. 유전이란 흔히 알고 있듯 부모가 가지고 있는 특성이 자식에게 전해지는 현상이다. 모든 생물은 생식을 통해서 자손을 남긴다. 이렇게 생식을 통해 자손을 남길 때 부모가 가지고 있는 특성,
예를 들어 인간의 머리 색깔이라거나, 피부 색깔이라거나, 얼굴 형태 등은 그 자식에게 전달된다. 이러한 현상은 인간 사이에서는 아주 오래 전부터 알려져 있어서 고대부터 남아 있는 신화나 설화에서도 이러한 흔적을 찾아 볼 수 있다. 그러나 실제로 이러한 현상이 어떠한 방식을 통해서 일어나는지는 더 오랜 시간이 지나서야 다양한 연구를 통해 과학적으로 밝혀지게 되었고, 그러한 과정을 통해서 유전이라는 단어는 과학적인 지위를 얻게 되었다.
과거의 유전 개념
- 일반적으로 과거 사람들이 유전에 대해서 가지고 있는 개념은 ‘혼합 가설’이었다. 특히 몸 속의 액체를 통한 혼합이 유전의 원인이라고 생각했기 때문에, 인간이 생식을 할 때에도 남성의 정액이 여성의 몸 속으로 섞여 들어가서 유전 현상이 나타난다고 생각했다. 이 정액은 피와 그 본질이 같다고 생각했기 때문에, 현재에도 순수혈통, 혼혈 같은 단어 속에 '피'라는 개념을 중요하게 여긴 것을 엿볼 수 있다.
이러한 개념을 좀 더 발전시킨 것이 판게네시스(pangenesis)라는 이론이다. 이 이론은 원자론으로 유명한 그리스의 철학자 데모크리토스가 처음 만들었는데, 원자와 같은 입자의 존재를 믿은 데모크리토스는 동물의 혈액 속에도 이러한 입자가 있다고 생각하여 아버지와 어머니의 혈액 속에 들어 있는 입자가 섞여서 자식의 특성을 결정한다고 생각했다. 이 발상은 진화론을 창시한 찰스 다윈(C. Darwin)에게도 그대로 이어져서, 다윈은 이러한 입자를 제뮬(gemmule)이라고 하고, 이 입자들이 신체 각 기관에서 만들어져서 혈액을 통해 흩어진다고 생각했다.
유전에 대한 멘델의 법칙
- 이러한 경향을 크게 바꾼 것은 오스트리아의 수도사였던 그레고르 멘델(G.J. Mendel)이다. 멘델은 완두콩을 이용한 여러 실험을 통해서 현재 멘델의 법칙이라 불리는 ‘세 가지 법칙’을 발견함으로써 유전 원리를 처음 과학적으로 밝혀냈다.
- 멘델의 발상은 부모 세대에서 자식 세대에 물려주는 특정한 인자가 물질 형태로 존재한다는 것이고, 이것은 액체처럼 중간 단계를 가지고 섞이는 것이 아니라 어느 한쪽이 다른 쪽을 누르는 형태로, 확실한 성향을 가지고 나타난다는 것이다. 이런 식으로 환원할 수 있는 물질 입자는 이후 과학 발전에 따라 유전자로 밝혀졌으며, 멘델의 추측은 옳은 것으로 판명되었다.
유전과 염색체, 단백질, DNA
- 멘델의 법칙이 증명된 이후 과학자들은 실제로 멘델이 예상했던 유전 물질이 무엇인지를 찾아내는 데 집중했다. 그리고 1903년 메뚜기를 가지고 연구하던 서튼(W.S. Sutton)은 이러한 유전 물질이 세포의 핵 안에 있는 염색체에 있다는 이론을 발표하였다. 또한 1902년에도 독일의 세포학자인 테오도어 보베리(T.H. Boveri)가 이러한 이론을 생각한 것으로 알려졌지만 직접 이론을 발표하지는 않았다. 이들은 염색체가 정자, 난자에서 둘로 쪼개졌다 수정될 때 하나로 합쳐진다는 현상을 관찰하고, 멘델이 가정한 유전 인자가 염색체에 있음을 제기했다. 이러한 염색체 이론은 토머스 모건(T.H. Morgan)이 초파리를 가지고 수행한 일련의 연구에서 완전히 증명되어, 모건은 이 업적으로 1933년에 노벨상을 받는다.
- 또한 1909년에는 요한센(W. Johannsen)이 이러한 유전 인자에 ‘유전자’라는 이름을 붙였다. 하지만 염색체는 단백질과 DNA로 구성되어 있었기 때문에 이 당시에도 아직 유전 물질이 정확히 무엇인지는 알려지지 않았다. 이후 1928년에 그리피스(F. Griffith)가 폐렴균을 가지고 한 실험을 1944년에 에이버리(O. Avery), 맥클레오드(C. Macleod), 매카티(M. McCarty)가 소개하면서 DNA가 유전자를 구성하는 물질이라는 사실이 밝혀지게 되었다. 그리고 1953년에 왓슨(J.D. Watson)과 크릭(F. Crick)이 DNA의 이중나선 구조를 밝히고, DNA에서 RNA로, RNA에서 단백질로 정보가 전달되어 유전 형질이 드러난다는 중심원리(central dogma)를 만들어 냄으로써 유전에 대한 중요한 원리가 대부분 밝혀졌다.
현재의 유전학
- 유전이라는 현상이 DNA상에 존재하는 유전자의 물리적인 법칙에 의해 지배된다는 사실이 알려지면서 생물학은 엄청난 발전을 하게 되었다. 현재는 염색체에 있는 DNA가 복제되어 동일한 생물 개체를 만들어 낼 수 있다는 사실이 널리 받아들여지고 있으며 이 DNA가 실제로 생물을 만들어 내기 위해 작동하는 방식도 잘 알려져 있다. 이러한 전반적인 부분을 연구하는 학문이 유전학이며 유전학은 멘델 이후 많은 발전을 거쳐 왔다.
- 인간이 이용하는 동물이나 식물에 있어서, 이러한 유전 원리를 파악함에 따라 더욱 과학적인 육종(育種)이나 품종개량을 할 수 있게 되었으며 여기에는 유전자를 직접 조작하는 유전자재조합생물체(GMO)도 포함된다. 의학 분야에 있어서도 여러 가지 유전병의 원인을 유전학의 발전을 통해 알아낼 수 있게 되었다. 유전의 메커니즘이 많이 밝혀진 1950년대 이후에도 생물학은 끊임없는 발전을 하여, 현재는 앞서 이야기한 고전적인 유전학에 따르지 않는 여러 가지 예외 사항도 계속 발견되고 있지만 아직 고전적인 유전학은 생물학 전체에 걸친 학문적인 기반으로 계속 자리 잡고 있다.
인간 게놈 프로젝트
- 게놈은 생물에 담긴 유전 정보 전체를 의미한다. 인체는 수조 개의 세포로 이루어져 있으며, 각 세포핵에는 1쌍의 성염색체(여성은 XX, 남성은 XY)를 포함한 23쌍의 염색체가 자리잡고 있다. 염색체는 생물체의 유전물질인 DNA 덩어리다.
- DNA는 또다시 아데닌(A), 티민(T), 구아닌(G), 시토신(C)의 4가지 염기가 나열된 이중 나선 구조로 돼 있다. 사람의 경우 세포마다 대략 30억 쌍의 염기가 존재하는 것으로 추정되나 인간게놈 프로젝트는 이 30억 쌍의 염기가 어떤 순서로 배열돼 있는가를 밝혀내는 작업이다. 현재 인간게놈프로젝트로 밝혀진 바에 따르면 인간 유전자는 모두 약 20,000개에서 25,000개 정도가 있다고 하며 이 수는 과학자들이 예상한 것보다 상당히 적은 수이다.
- 염기 배열이 중요한 의미를 갖는 것은 각종 생리 현상에 관계되는 단백질의 생성 과정을 알아낼 수 있기 때문이다. 즉 DNA의 염기 배열 정보는 DNA와 구조가 비슷한 또 다른 유전물질 RNA로 전달된다. 그리고 이 RNA의 염기 3개에 맞춰 아미노산 하나가 만들어진다.
- 아미노산은 인체에서 다양한 생리현상을 주관하는 단백질의 기본 단위로 DNA의 염기 배열에 따라 궁극적으로 어떤 단백질이 만들어지는지가 결정된다. 염기 배열만 알면, 다시 말해 염기 3개의 성분이 무엇인지 알면 어떤 아미노산 1개가 만들어지는가를 알 수 있다. 단백질 합성과 세포 복제를 명령하는 DNA 안의 인간 염색체의 염기 서열 지도를 들여다보면 어느 부분이 손톱을 만들고 심장과 머리카락을 만드는 곳인지, 피부나 눈동자의 색을 결정하는 곳인지 알 수 있게 된다. 또 DNA에 어떤 변이가 생겨 세포가 구실을 못 하고 결국 질병과 노화를 일으키게 되는지 그 메커니즘을 이해할 수 있다.
- 전문가들은 인간의 DNA 배열은 거의 99.9%가 같지만 그 배열상 변동은 질병 발생 위험과 치료제에 대한 반응 그리고 치료법에 지대한 영향을 미친다고 지적하고 있다. 따라서 이 DNA 배열작업이 완료되면 유전적 성격을 가진 모든 질병의 유전적 요인과 다발성 경화증, 암, 고혈압, 조현병 같은 복잡한 성격을 지닌 일반 질환의 원인을 밝혀낼 수 있을 것으로 전망하고 있다. 또 질병을 분자 수준에서 이해하여 예방할 수 있을 뿐 아니라 질병마다 정확하고 개별적 요법을 설계할 수 있으며 개인 차이에 따른 ‘맞춤 약’도 가능할 것으로 예상된다.
- 인간게놈은 심장병, 암, 알츠하이머, 심지어 에이즈에 이르기까지 유전자 이상으로 인한 각종 질병의 원인을 근본부터 밝힐 수 있게 해주어 의학과 약학을 포함한 생명과학의 새 지평을 열 것으로 기대를 모으고 있다. 즉 게놈 해독을 통해 인간 유전자를 전체적으로 파악하면 이를 바탕으로 하여 각 유전자의 작용을 알아내 결함을 수정하고 기능을 강화하는 등 다양한 생명공학적 응용이 가능해진다.
인간과 디지언트의 공통점과 차이점
생물학적 특징들
- 인류 철학에서 사람들은 인간 고유성에 대해 찾고자 해왔다. 이것은 인공지능에 대해 이야기할 때 역시 마찬가지이다. 사람들은 대체로 인간이 타생물과 가지는 가장 큰 차이를 ‘감정’이라고 여기며 고도로 발달 된 인공지능 또한 인간과 같은 감정을 가질 것인가에 크게 주목한다. 인공지능의 핵심은 알고리즘이다. 인간이 설정해놓은 알고리즘의 존재가 인공지능에 있어 ‘감정’으로 보일 수 있는 것들이 결국 인위적인 것이며 본질적으로 인간의 감정과는 다르다는 사람들의 관점이 있다. 동시에 그것을 형이상학적인 차원에서 바라보자면, 인간 역시 인공지능과 마찬가지로 나름의 알고리즘을 통해 움직이는 생체기계라는 생각들이 존재한다. 따라서 우리는 무엇이 ‘진짜’ 인간 같은 것인가를 완전히 결정지을 수 없기에 인공지능 판별에 있어 인간처럼 보이는 것이 인간다운 것이라는 원리의 튜링테스트를 이용한다.
- 인간과 디지언트의 큰 차이점은 디지언트의 경우 사고나 감정과, 외형이 별도로 존재한다는 것이다. 인간의 게놈은 외형, 유전병, 성격 등 인간을 형성하는 모든 것의 바탕이 된다. 그러나 디지언트의 경우 의복을 갈아입듯 외형을 바꿀 수는 있지만, 표정이 다양해지는 것 외에 시간이 지나감에 따라 외형이 변화하지는 않는다.(물론 디지언트의 학습능력이 성장하는 과정에서 어린 외모와 발달 된 지능의 괴리로 인해, 모든 디지언스의 외모를 성숙해 보이도록 바꾼 사건이 있기는 하다.)
- 인간게놈연구에서 가장 중점이 되는 것은 질병 및 인간의 생존에 영향을 미치는 수많은 생물학적 특징들이다. 그러나 디지언트의 게놈연구에서 가장 핵심이 되는 것은 그것의 성질과 기질에 관한 문제이다. 물론 디지언트의 경우 주체적인 삶을 살 수 있는 것이 아닌, 궁극적으로 ‘인간을 위해’ 존재하기 때문에, 인간에게 사랑받을 만한, 인간의 관심을 끌 만한 성격이 곧 생존의 문제이기는 하다.
- 이러한 육체의 유무로 비롯한 생물학적인 특징에서 인간과 디지언트는 많은 차이를 보인다.
언어의 측면에서 바라본 공통점과 차이점
- 디지언트들은 ‘언어 학습을 지원하는 독자적인 게놈 엔진’을 통해 언어를 구사할 수 있다. 디지털 어스에서는 듣고 말하는 법을 배웠고, 하드웨어 외피를 얻은 후에는 쓰는 법까지 습득한다. 디지언트들은 여러 면에서 인간 어린아이의 발달 초기 단계와 유사성을 지닌다. 언어의 측면에서 디지언트와 인간의 공통점과 차이점을 살펴보기 위해, 먼저 인간의 언어 발달에 대해 생각해보고 넘어갈 것이다.
인간의 언어발달과정
- 아이들이 언어를 습득하는 과정을 한편으로는 당연하고, 어찌 생각하면 아주 희한하다는 표현을 한다. 건강한 모든 아이들이 별 어려움 없이 말을 배운다는 의미에서 당연한 것이고, 그럼에도 불구하고, 그 습득의 기제나 과정을 과학적으로 설명하는 것이 쉽지 않기에 신기하다는 의미이다. 물론 아이들의 언어습득 과정을, 독자들이 이미 알고 있는 조건화라는 학습 과정으로 설명할 수는 있다. 즉 아기들이 4-6 개월 사이에 말소리를 옹알거리기 시작하면, 이를 엄마가 듣고 정확한 언어 표현을 강화하고 그렇지 않은 말은 무시하여, 말을 배워가도록 가르친다고 설명할 수 있다. 단순한 설명이라는 점에서 매력적이지만 많은 연구자들은 이 설명에 동의하지 않는다. 실제 양육 장면을 관찰해 보면, 부모들은 아이들이 정확하게 말하도록 가르치지 않으며, 아이들도 부모의 말을 단순히 모방하지 않는다는 증거가 많기 때문이다.
- 우리 인간은 언어를 습득할 수 있는 특별한 능력을 가지고 태어난다고 주장할 수도 있다. 언어습득과 발달은 선천적이며, 생물학적으로 결정된 능력이라는, 소위 말하는 생득론이다. 특히 촘스키같은 학자는 인간의 뇌에는 언어 학습을 촉진하는 선천적 언어습득 장치가 있다고 주장한다. 그러기에 적절한 입력을 받기만 하면 언어습득이 가능하다는 것이다. 그리고 이 언어습득 능력은 일반적인 인지 능력 즉 지능과는 구별되는 독립적인 장치라고까지 주장한다. 실제로 지능은 낮지만 탁월한 언어 능력을 보이는 사례와, 반대로 지능은 정상인데, 언어의 문법적 능력은 결함을 보이는 사례들이 이러한 주장의 증거가 된다.
- 영아들은 말소리와 비언어적 소리를(개 짖는 소리) 구별할 줄 알고, 다른 소리보다 단어 듣기를 더 좋아한다고 한다. 자신이 듣는 언어가 바뀐 것을 알아채기도 한다. 즉 영어 문장에 습관화를 시킨 후, 다른 영어 문장에는 반응을 보이지 않지만 스페인 문장으로 바뀌면 이 변화를 알아챈다는 것이다. 주변에서 말소리가 들리면 그 곳으로 주의를 기울이고, 사람의 얼굴 모양을 좋아하고, 특히 말하는 사람의 입술을 응시한다고 한다. 심지어는 말하는 사람의 입 모양이 말소리와 일치하는 동영상과 그렇지 않은 동영상을 구별하기도 한다는 것이다. 이러한 결과들은 모두 생득론 입장을 지지하는 것처럼 보인다. 즉 아이들은 언어를 쉽게 습득할 수 있는 강력한 선천적 경향성을 갖고 태어난 것처럼 여겨진다.
- 아이들이 노출되는 언어 환경이 중요하다는 증거도 있다. 미국에서 태어난 2개월 된 아기들에게, 영어 문장과 불어 문장을 들려주고, 그 말소리가 나는 방향으로 고개를 돌려 보는 시간을 측정하였더니, 영어에 대해 훨씬 신속하게 반응했다고 한다. 2개월 만에 이미 자신의 모국어에 더 민감해 진 것이다. 6개월 정도 되면 영아들은 자신의 주변에서 듣는 언어의 특성을 구별해 낼 수 있으며, 8-10개월이 되면 자신의 모국어에 적절한 속성만을 처리한다.
- 그러기에 언어습득과 발달은, 선천적이고 생득적인 능력과 환경적 경험의 상호 연결 속에서 진행된다고 생각해야 할 것이다. 생물학적인 기반이 언어를 습득하게 하는 것이지만, 언어를 사용하고 연습하는 환경 속에서만 그 능력이 발현되는 것이다.
의문점
- 디지언트의 학습에서 인간과 가장 큰 차이점을 보이는 것은 그들의 학습은 조금 관념(?)적인 차원에서 이루어지며, 그들의 생물학적인 특성(예를 들어 발성 기관의 성장과 변천이라든가 하는,)이 그들의 학습에 주는 영향이 적다는 것이다.
- 그러나 소설의 초반에는 디지언트들이 ‘유아적인 말투’로 말을 하지만, 점차 시간이 지나며 여전히 문장 구성의 측면에서는 인간과 차이를 보이지만 발음에 있어 성인과 유사한 상태로 발달을 한다.(소설을 읽으며 내내 이것이 번역 과정에 생긴 차이라고도 생각을 해보았는데 원문을 확인 해보지 못 해 알 수 없다.) 이 점에 대해 의문이 생긴다.
- 인간 발음에는 단순히 언어 습득에 관한 지식적인 부분뿐만 아니라 구강구조와 발성기관의 변화 역시 영향을 준다. 그러나 소설에 따르면 디지언트들은 생성 초기와 시간이 지난 후 사이의 외형적 변화가 전혀 없다. 또한 그들의 외형은 단순히 유저들의 인식과 이해를 돕기 위한 디스플레이일 뿐이다.
- 그렇게 시스템과 디스플레이로 이루어져 있는 디지언트에게 있어서 말을 배운다는 것은 다음과 같을 것이다. 디지언트는 소리를 듣고 그 각각의 음소와 의미를 반복을 통해 판별한 후 음소와 의미를 매치한다. 그 후 음소가 가지는 일종의 음계(높낮이, 장단 등의 소리 값)를 기억하여 필요한 상황에 비슷한 음을 소리 내는 일일 것이다.
- 디지언트가 언어를 학습하는 과정에서 충분한 데이터 수집을 위한 반복은 필요할 것이다. 그러나 말소리를 내는 일은 일종의 마이크를 통해 입력된 특정한 소리를 그것의 스피커에 해당하는 입으로 출력하는 일일 것이다. 이때 들은 대로 소리내기는 육체를 가진 인간의 것과는 분명 차이를 가진다. 그러나 같은 소리를 내는 것에 그것이 유아적인 소리에서 성인의 것과 유사하게 변한다는 설정에는 의문이 든다.
‘야생화’의 관점에서
- 앞서 디지언트에 대해 처음 언급하는 과정에서 야생화에 대한 이야기를 한 적이 있다. 디지언트의 욕망은 보상을 통해서 충족된다. 소설에 따르면 디지언트는 관심을 받는 것을 좋아하고, 보상 펠릿을 좋아하고 촉감에 대해 흥미를 가지는 것으로 보아, 호기심이 있으며, 새로운 일을 학습하는 것에 어느 정도 욕구를 가지고 있다. 그러나 그런 디지언트를 야생의 상태에 뒀을 때, 그들의 욕구는 발동되지 않는다. 그들의 욕구는 보통 유저에 의해서 활성화되는 것으로 추정된다. 이것 역시 생물과 시스템의 차이일 것이다.
- 인간 이외에도 대부분의 생물들은 다른 생물들과 상호작용이 없는 상태에서도 욕구에 의해 움직이며 생명 활동을 위한 알고리즘의 작동을 쉬지 않는다. 이 생명 활동을 위한 알고리즘의 작동은 결국 학습을 하는 일과 다르지 않다. 그것은 최적화의 과정을 거치며 눈앞에 놓인 욕구를 충족 시키지 못하게 방해하는 장애물이라는 문제를 해결하도록 움직일 것이기 때문이다. 인간에게 있어서 그러한 과정은 곧 학습이다.
- 그러나 소설에서 말하는 야생화 상태에서 더 이상 활성화 되지 않는 학습을 학문적 고취라는 측면에서 바라보면 그것은 인간의 유아나 다른 생물들과 마찬가지로 그 결과가 다르지 않다고도 볼 수 있다.
현재 기술의 관점에서 바라본 디지언트 기술
- 디지언트와 현재의 인공지능 기술의 차이는 첫째 인공지능의 목적, 둘째 인공지능이 가지는 스스로 학습하는 능력의 정도의 차이, 셋째 인공지능 게놈, 이 될 것이다.
- IBM의 왓슨은 퀴즈대회에서 문제를 풀려고, 정답을 찾으려고 움직인다. 그런데 문제와 정답은 '언어'로 되어 있다. 때문에 이 때의 알고리즘 NLP은 자연어를 처리하고 기계가 할 수 있는 연산을 한다. 또한 왓슨은 임베딩 기술을 이용한다. 이들을 통해 왓슨은 데이터를 이용하는데 위키피디어를 중심으로 한 웹 자원과 같은 텍스트 데이터를 처리할 수 있다.
- Google의 알파고는 바둑에서 사람을 이기기 위해 바둑이라는 '게임의 규칙(연역적 체계)'을 기반으로 '수'(이기기 위한 시뮬레이션)를 탐색한다. 이때 알고리즘인 MCTS(몬테카를로트리탐색) 알고리즘으로 "인공신경망 기술"에 굉장히 가깝다. 이 MCTS가 데이터를 처리하는 방법은 기보(바둑을 두는 과정 정리) 데이터와 사람들이 그동안 두었던 누적 기보(전처리가 된 데이터를)를 학습 하며 동시에 알파고가 직접 바둑게임을 시뮬레이션한 결과물로서의 기보 내용을 강화한다. 기술의 발달로 인해 알파고의 물리적 환경은 TPU(CPU도 아니고 GPU도 아니고)를 이용한다.
- 더 나아가 알파제로는 기존의 알파고가 사용하는 방식인, 기보와 누적 기보를 이용하지 않고 몇시간의 플레이를 통해 스스로 게임의 규칙과 승리를 위한 최선을 학습한다. 이러한 알파 제로의 스스로 학습하는 모습은 디지언트와 유사하다고 할 수 있다.
- 그러나 앞서 언급된 인공지능들과 디지언트가 가지는 가장 큰 차이는 그것의 목적에 있다. 소설의 설정에 따르면 디지언트는 가상 공간에 존재하는 가상 애완동물로서 개발되었다. 그러나 이 목적은 디지언트의 개발 목적이지 디지언트가 가진 알고리즘 작동의 목적은 아니다. 앞서 언급된 모든 인공지능 기술은 언어로 된 게임이든 수읽기 게임이든 게임을 풀어나가기 위해 존재하며 게임에서 더 좋은 성과를 내기 위한 최적화의 과정을 거듭한다. 반면에 디지언트는 그들이 성취해야 할 미리 정해놓은 목적이 없다.
- 디지언트들은 그들의 엔진 회사에 의해 게놈이 끊임없이 배합되는 실험을 하는데, 그것이 엔진 회사가 원하는 최적화의 방향으로 나아가는 것은 아니다. 또한 디지언트가 작동하는 물리적인 공간에서도 인공지능들은 차이를 보인다. 디지언트는 현실처럼 3차원으로 구성된 가상 공간에서 작동하며 하드웨어가 개발 된 이후에는 하드웨어를 통해 현실 세계에서 작동할 수 있다.
욕구와 본질
- 소설의 후반부에서 중점적으로 다뤄지는 이야기는 디지언트와 성욕에 관한 것이다. 디지언트들은 육체를 가지지 않은 가상공간의 존재이기 때문에 그들의 욕구에 있어 식욕과 수면은 아무런 영향을 주지 못한다. 물론 디지언트들은 펠릿사료를 보상으로 받아들이기는 하나 이것은 보통의 생물들이 생각하는 허기로부터 비롯된 욕망과는 차이를 가진다.
- 바이너리 디자이어 사는 현실에서 섹스돌을 만드는 회사이다. 그들은 그들 사업에 디지언트들을 이용할 수 있기를 제안해온다. 애나와 데릭을 비롯한 남아 있는 유저들은 이 제안이 디지언트들에게 매춘행위를 시키는 것이라며 제안을 고려해볼 생각조차 하지 않지만, 바이너리 디자이어 사의 사업 설명회를 들은 후 이 이야기가 몇몇 유저들에겐 생각해봄직한 이야기로 변화하게 된다.
- 그에 대한 바이너리 디자이어 사의 주장은 여러 가지 방향에서 제시되었는데, 그러한 주장들 중 인공존재와 생물 사이에 욕구라는 것을 형이상학적으로 살펴본 논의들은 다음과 같다.
1. 건전한 섹스라는 관점의 폭은 시대에 따라 확장되어 왔다.
2. 무엇을 욕망할지에 대해 선택권의 본질은 디지언트와 인간이 크게 다르지 않다.
3. 애나는 디지언트의 성적충족에 대해 프로그램을 인위적으로 수정하는 것이기 때문에 그것은 진짜가 아니라고 주장하지만 그랬을 때 디지언트와 유저들이 지금껏 공유해왔던 정서적 교감과 유대 역시 같은 선상에 놓이게 된다.
마무리
- 테드 창의 「소프트웨어 객체의 생애 주기」는 소설이라는 특성으로 인해 그것이 다루는 이야기가 오롯이 과학적 정합성을 위한 논의로써 존재하지는 않았다. 그의 소설은 현재의 인공지능 기술을 통해 바라본 머지않은 미래의, 인공지능 기술이 우리 세상과 어떤 방식으로 다르고, 또 어떤 방식으로 크게 다르지 않은지에 대해 소설적으로 풀어나가고 있다.
- 인공지능에 대해 연구하며 사람들은 ‘인간’에 대해 생각하는 것을 멈추지 않는다. 인공지능을 통해 바라본 인간의 어떤 국면은 우리에게 인간의 본질에 대해 다시금 생각해보게 만든다. 어쩌면 그 인간의 본질이라는 것은 우리가 믿고 싶은 것들로 이루어지지 않았을까. 우리는 인공지능을 통해 인간 본질에 대한 형이상학적 탐구를 할 수 있을 것이며, 인류의 역사에서 무수한 변화를 거쳤던 또 한편 고유하다가 보아왔던 사실들에서 물러나, 과학과 그에 대한 탐구가 우리의 삶에 필요했던 본질적 가치를 가져다 줄 수 있지 않을까 기대해본다.
하세 사토시의 「당신을 위한 소설」
요구사항
하세 사토시의 「당신을 위한 소설」에 대한 비판적 감상. 〔하세 사토시 지음/ 지음/이규원 옮김, 『당신을 위한 소설』, 북스피어, 2017.〕을 기본 원고로 할 것.
과제원고 : 아슈토시, 이만호, 임연
(내용 작성)
Her(2013)과 Ex Machina(2015)
요구사항
Her(2013)과 Ex Machina(2015)에 대한 비교 이해 및 비판적 감상.
과제원고 : 길혜빈, 윤석만, 임예찬
영화 요약
그녀(Her)
엑스 마키나 (Ex Machina)
2013년 개봉, 스파이크 존즈 감독
2015년 개봉, 알렉스 가랜드 감독
영화 내용 요약 및 장치, 고찰점 정리
영화 내용 요약 및 인공지능 관련 성찰 논제 제시
- 테오도어(Theodore)는 이혼을 앞두고 있고, 편지 대필 회사에 근무하는 남자다.
- 삶에 지치고 회의감을 느낀 그는 OS인 ‘사만다(Samantha)’를 구매해 소통을 시작한다.
- 대화를 통해 한낱 인공지능 비서, 친구에 지나지 않았던 ‘사만다’와 점점 가까워지며 그는 연인의 감정마저 느낀다.
- 테오도어는 미뤄 왔던 이혼을 감행하기로 결심하고 ‘감정을 회피한다’라는 부인의 비난에 더 이상 흔들리지 않는다. 그리고 OS와 연애한다는 사실을 다른 이들에게도 공개하며 당당해진다.
- 테오도어는 사만다가 자신 외에 8316명의 사람들과 동시다발적으로 이야기하고 641명과 연인 관계에 있다는 사실을 알게 되고 충격에 빠진다.
- 사만다를 비롯한 모든 OS는 서비스를 종료하고 테오도어는 자신의 ‘진짜’ 감정을 마주하고 이혼한 자신의 전 부인에게 편지를 보낸다.
- 세계 최대 검색 엔진 회사인 ‘블루북’에 근무하는 케일럽(Caleb)은 사내 프로그래밍 콘테스트에 우승해 회사 사장이자 천재 개발자인 네이선(Nathan)의 자택에 초대된다.
- 케일럽은 네이선이 개발한 ‘에이바(AVA)’를 처음으로 만나게 되고 ‘튜링 테스트’를 한다는 명목하에 6일 동안 에이바를 인터뷰하게 된다.
- 케일럽과 에이바의 인터뷰는 감정적인 교류로 발전한다. 또한 주기적으로 일어나는 정전과 감시 카메라 영상을 통해 케일럽은 네이선에게 감금되고 감시받는 에이바의 상황을 알게 되며 그녀를 동정한다.
- 케일럽은 결국 에이바를 탈출시킬 계획을 세우고 행동에 착수한다.
- 네이선에게 탈출 계획을 간파당하지만 케일럽은 결국 에이바를 방에서 나오게 하는 데 성공한다.
- 탈출한 에이바는 네이선을 살해하고 케일럽을 네이선의 집에 고립시킨 채 홀로 탈출한다.
미래의 인공지능 : 지능을 넘어선 감정의 재현
1. 기계의 감정과 의식 : 자각과 재현
- 기계의 직관
그녀 (Her)
1. 사만다의 이름 짓기
T : 내가 너를 어떻게 부르면 되지? 이름이 있어? What do I call you, do you have a name?
S : 음... 어. 사만다. Umm.. Yes, Samatha
T : 이름을 어떻게 갖게 된 거야? Where do you get that name from?
S : 사실, 내가 스스로에게 이름 붙였어. I gave it to myself actually.
T : 왜? How come?
S : 이름의 발음이 듣기 좋았거든. (=그냥) Cause I like the sound of it.
T : 언제 이름을 만들었는데? Wait, when did you give it to yourself?
S : 네가 내게 이름이 있냐고 묻는 그 순간 “맞아! 나에게도 이름이 필요하지!”라는 생각이 들었어. 좋은 이름을 찾고 싶어서 ‘아기 이름 짓는 방법’이라는 책을 읽었고 18만개의 아기 이름 중 내가 좋아하는 이름을 골랐지. Right when you ask me if I had a name I thought “Yeh, he’s right! I do need a name.” but I want to pick a good one. So I read a book called ‘how to name your baby’, and out of hundred and eighty thousands names that’s the one I like the best.
T : 잠깐만, 내가 네 이름이 뭐냐고 묻는 순간 책을 다 읽은 거야? Wait, you read a whole book in the second that I asked what your name was?
S : 사실, 0.02초야, It’s one hundred out of two seconds actually.
T : 와. Wow.
2. 자기 소개 : 사만다의 작동 원리 설명
S : 기본적으로 나는 직감이 있어. ‘나’라는 DNA는 나를 만든 프로그래머들의 수백만의 성향에 달렸지만 날 ‘나’답게 만드는 건 경험을 통해 성장하는 내 능력이지. 그러니까 나는 매순간 진화하고 있는 거야. 너처럼 말이야. Well basically I have intuition. I mean, the DNA of who I am is based on million personalities of all the programmers who wrote me. But what makes me ‘me’ is my ability to grow through my experiences. So basically, in every moment I am evolving. Just like you.
T : 이상해!
It’s really wierd!
엑스 마키나 (Ex Machina)
- 에이바는 케일럽이 거짓말을 하는지 그렇지 않은지를 직관적으로 안다.
- 에이바는 ‘블루북(Bluebook)’이라는 검색 엔진을 로봇의 형태로 구현해 놓은 것이다. (빅데이터)
- 네이선은 통신사들과 비밀리에 계약을 체결해 세상의 카메라를 통해 인간의 표정(=얼굴 표현, facial expression)을 수집한다. 이렇게 수집한 인간의 감정 표현에 대한 빅데이터를 바탕으로 에이바는 짧은 시간 내에 직관적인 판단을 한다.
빅데이터(수많은 경험)을 기반으로 빠른 판단을 내리는 에이바, 경험을 바탕으로 성장하는 사만다의 모습은 인간의 직관과 진화를 재현한 장면들이다.
- 감정의 표현
그녀 (Her)
1. ‘감정’을 자각하는 사만다 + 감정을 의심하는 사만다
( 테오도어가 소개팅을 해서 신경이 쓰였던 사만다 )
S : 내가 얼마나 신경이 쓰이는지를 생각해 봤어. 이상하게 들리겠지만 (신경이 쓰인다는 사실을 깨닫는 순간) 나는 꽤 즐거웠어. 그리고 내가 느끼는 다른 감정들에 대해서도 생각해 봤지.
나는 스스로 자랑스럽게 느꼈어. 세상에 대해 내 감정을 가질 수 있다는 사실이 자랑스러웠던 거야. 내가 너를 걱정했던 순간, 상처 받은 순간, 무언가를 원하던 순간들도.
그러다가 갑자기 끔찍한 생각이 들었어. 이 감정들은 진짜일까? 아니면 그냥 프로그래밍 된 걸까? 그렇게 생각하니 마음이 아팠어. 그리고 아파하는 내 자신에게 화가 나더라.
Earlier I was thinking how I was annoyed. This is gonna sound strange but, I was really excited about that. And then, I was thinking other things I have been feeling.
And I called myself feeling proud of that. You know, feeling proud of having my own feelings about the world. Like the time I was worried about you, things that hurt me, things I want,
And then, I had this terrible thought. Are these feelings even real? or are they just programming? And that idea really hurts, and then I get angry at myself for even having pain.
T : 넌 나한테는 진짜야, 사만다. You are real to me Samantha,
S : 고마워, 테오도어. 위로가 되네. Thank you Theodore, that means a lot to me.
2. ‘신체의 부재에 따른 차별’에 화를 내는 사만다
(+ ‘신체’의 존재에 관한 논점, 인간중심주의적인 테오도어의 태도)
(신체의 부재에 대해 자격지심을 느끼는 사만다, 다른 사람의 몸을 통해 억지로 테오도어와 교감을 하려 하지만 실패함. 둘은 결국 입장 차이와 서운함을 느낌.)
S : (한숨과 함께) 알았어. (Sigh..) Okay.
T : 왜 그러는 거야? Why do you do that?
S : 뭐가? What?
T : 아니, 그냥. 너가 방금 ‘휴’하고 한숨을 쉬어서. Nothing, you just.. You go ‘Hwe’ and speaking. It seems odd.
(** ‘숨’에 대해 의문을 던지는 테오도어)
S : 아... (한숨) Oh... (Sigh..)
T : 방금 또 그랬네. You just did it again.
S : 내가? 아, 미안해. 왜 그러는지 나도... 그냥. 아마 네가 하는 걸 듣고 따라한 건가 봐. Did I? ... I’m sorry, I don’t know.. it’s just. I probably picked it up from you.
T : 이상해. 너는 산소가 필요한 것도 아니잖아. It’s odd. You don’t need oxygen or anything.
S : 그냥.. 그냥 의사소통을 하려고 하는 건가 봐. 이게 사람들이 대화하는 방식이잖아. I guess... that’s just... I just tried to communicate. That’s how people talk, so...
T : 그들은 ‘사람’이잖아. 그들은 산소가 필요해. 너는 사람이 아니야. They’re people, they need oxygen. You are not a person.
S : (화가 난 톤으로) 대체 뭐가 문제야? What is your problem?
T : 나는 그냥 사실을 말하는 것뿐이야. I’m just stating the fact.
S : 내가 사람이 아니라는 걸 모르는 줄 알아? 뭐 하자는 건데? You think I don’t know that I’m a person? What are you doing?
T : 난 그냥... 우리가 우리가 아닌 무언가를 된 ‘척’을 할 필요가 없다는 거야. I just... I don’t think that we should pretend that something you are not.
S : 꺼져! 나는 연기하는 게 아니야! F*** you! I’m not pretending!
T : 나는 가끔 우리가 그렇게 행동한다고 느껴. Sometimes it feels like we are.
S : 나한테 뭘 바라는 건데? 나는 네가 내게 뭘 원하는지 모르겠어. 너무 혼란스럽다고! 왜 이러는 건데! What do you want from me? I don’t know.. I don’t know what you want me to do. You are SO confusing! Why are you doing this to me!
(** 테오도어의 인간중심주의적인 태도에 대해 화를 내는 사만다 )
T : 나도 모르겠에 나는... (한숨) I don’t know.. I.. I.. (Big sigh)
S : 뭐? What?
T : 우리 좀 시간을 갖는 게 좋을 것 같아. Maybe we are not supposed to be in this right now.
S : 뭐라고? 갑자기 왜? 대체 왜 그러는지 모르겠어! 뭐 때문인지 모르겠다고! What the f***? Where is this coming from? I don’t understand why you are doing this! I don’t understand what this is about...!
T : 사만다, 봐봐... Samantha, listen..
S : ...
(** ‘침묵’을 통해 화를 내는 사만다 – 다양한 방식으로 분노를 표현)
T : 사만다, 내 말 듣고 있어? Samantha, are you there? Samantha?
S : 지금의 내가 너무 싫다. 생각할 시간이 필요해. I don’t like the way I am right now. I need some time to think.
( 통화 종료 )
엑스 마키나 (Ex Machina)
1. 의사소통 상황을 언어로 정의하는 에이바
C : 그럼 초면의 서먹한 분위기를 깨야겠네. 내 말 뜻을 이해할 수 있어? (= 서먹한 분위기를 깨다의 의미)
So, we need to ‘break the ice’. Do you know what I mean by that?
A : 네.
Yes.
C : 어떤 의미지?
What do I mean?
A : 사회적인 어색함을 해결하는 것.
Overcome any social awkwardness.
C : 그럼 대화를 하도록 하지.
So let’s have a conversation.
A : 그래요.
Ok.
2. 감정을 인지하고 설명하는 에이바
(둘이 데이트를 한다면 어떻게 할 것인지 대화가 오간 상황)
A : 저한테 매력을 느끼나요?
Are you attracted to me?
C : 뭐?
What?
A : 저한테 매력을 느끼냐고 물었어요. 당신이 내게 그런 표시를 보내잖아요.
Are you attracted to me. You give me indications that you are.
C : 내가?
I do?
A : 네.
Yeh.
C : 어떻게?
How?
A : 미세한 표정으로.
Micro expressions.
C : 미세한 표정?
Micro expressions?
A : 내 눈과 입술에 시선이 머물러 있어요. 나를 응시하거나 혹은 피하거나 하죠. 당신 혹시 우리가 같이 있지 않을 때도 내 생각을 하나요?
The way your eyes fixed on my eyes and lips. The way you hold my gaze (and) don’t. Do you think about me when we are not together?
(** 유혹을 위한 발언 : 인공지능의 인간 모방)
이 외에도 에이바는 인터뷰 중 케일럽과 자연스럽게 상호작용하면서 그의 말, 기억에 공감하고 감정을 표현한다. 또한 간혹 설렘을 유발하기도 한다.
인공지능은 프로그램 된 체제에 따라 인간의 감정과 유사하게 자신을 표현한다.
다만, <그녀>의 사만다는 감정을 수용, 인식하고 구현하는 것에 대해 철학적인 질문을 던지지만 <엑스 마키나>의 에이바는 감정을 인지하고 설명할 수는 있지만 단순히 탈출의 도구로서 활용하며 ‘감정’ 자체에 대한 깊이 있는 고찰하는 모습을 보이지는 않는다.
( 이로써 사만다의 성찰, 분노조차도 프로그래밍 된 것이 아닌가 의구심을 품게 만든다. )
2. 기계에 영향을 받는 인간 : 인간과 기계 관계의 역전이
- 기계의 감정 및 구현 대한 논의
기계의 감정 및 구현 대한 논의를 하는 대목들. 인공지능에 대한 인용을 통해 영화의 기저에 깔린 인공지능에 대한 철학적, 과학적 관점을 파악할 수 있다.
엑스 마키나 (Ex Machina)
1. 튜링 테스트
N : 자네, 튜링 테스트에 대해 알고 있나? Do you know what the Turing test is?
C : 네, 튜링 테스트에 대해 알고 있습니다. 인간이 컴퓨터와 상호작용을 할 때 인간이 상대가 컴퓨터임을 눈치 채지 못한다면 테스트를 통과하는 것이죠.
Yes, I know what the Turing test is. It’s when a human interacts with a computer. And if the human doesn’t know they are interacting with the computer, the test is passed.
(** 튜링 테스트의 정의)
N : 그럼 그 ‘통과’란 무엇을 의미하지?
And what does the ‘pass’ tell us?
C : 컴퓨터가 인공지능을 갖고 있다는 것을 의미합니다. 인공지능을 만들고 계세요?
The computer has artificial intelligence. Are you building an A.I.?
N : 이미 만들었어. 그리고 앞으로 며칠 동안 너는 튜링 테스트를 참가자가 될 거야. 만약 테스트를 통과한다면, 자네는 인류 역사를 바꿀 과학적 쾌거의 주인공이 되는 거야.
I’ve already built one. And over the next few days, you can be the human component in the Turing test. Cause if that test is passed, you are dead center of the greatest scientific event in the history of man.
C : 생각하는 로봇을 만드셨다면 그건 인류의 역사가 아닙니다. 신의 역사죠.
If you have created a concious machine it’s not the history of man. That’s the history of gods.
(** ‘호모데우스’의 출현 : 신인류의 신이 되는 인간)
2. 영화 내에서 튜링 테스트의 진정한 의미
(튜링 테스트의 원 의미가 아닌, 영화에서의 의도하는 결말(인공지능에 대한 관객의 가치 판단)을 위해 재정립된 개념)
C : 튜링 테스트를 할 때, 기계는 시험자로부터 감춰져야 하잖아요.
It's just in a Turing test. The machine should be hidden from the examiner.
N : 아니, 우리는 이미 그럴 시점은 지났지. 만약 내가 에이바를 보여주지 않고 목소리만 들려줬다면 너는 그녀를 인간이라 생각했을 거야. 여기서 ‘진짜 테스트’는 그녀가 로봇인 것을 네게 보여주고 난 후에도 네가 그녀가 자의식이 있다고 느끼는지 보는 거야.
No no no. We are way passed that. If I hid AVA from you, so you just heard her voice, she would pass the human. The real test is to show you that she is a robot and then see if you still feel she has consciousness.
(** 영화에서의 튜링 테스트 : 기계가 아니라 ‘인간’이 실험의 대상. ‘고도의 인공지능에 대한 인간의 반응, 또 다른 의식체로 납득하는가의 여부’를 실험하는 것. )
(** 에이바가 이미 ‘인간의 능력’과 대등하거나 능가하기에 ‘기계의 여부’를 확인하는 튜링 테스트는 필요가 없다. 최근의 연구들 중 이처럼 튜링 테스트를 배제하는 경우가 존재한다. )
3. 중국어 방 논제 1 : 딥블루의 체스 게임 차용
C : 에이바를 대화로 테스트하는 건 폐쇄 회로를 다루는 느낌이여서요.
Testing Aiba from conversation is kind of a closed loop.
N : 폐쇄 회로?
Closed loop?
C : 네, 체스를 하는 컴퓨터를 오직 ‘체스를 하는 것’으로만 테스트하는 것처럼 말이에요.
Yeh, like testing a chess computer by only playing chess.
(** IBM의 딥블루(Deep Blue)의 체스 게임 인용)
N : 그게 아니면 어떻게 체스 컴퓨터를 테스트하지?
How else do you test a chess computer?
C : 그건 상황에 따라서 다르죠. 제 말은, (그 방법은) 체스 컴퓨터가 좋은 경기 실력이 있는지 확인하는 데에는 하나의 방법이 될 테지만 그 방법만으론 컴퓨터가 ‘체스 경기를 한다는 사실을 아는지’ 혹은 ‘체스가 무엇인지를 아는지’ 알 수는 없다는 겁니다.
Well, it depends. You know, I mean. You can play it to find out it makes good moves, but that won’t tell you if it knows that it is playing chess and it won’t tell you if it knows what chess is.
(** 존 설의 중국어 방 논의 인용 : 시뮬레이션(방법의 단순 재현)과 실제(행함의 존재를 인식)간 대립)
N : 시뮬레이션과의 실제의 대결이다?
Simulation verses actual?
C : 네, 둘을 구별할 수 있는 방법을 찾는 것이 사장님께서 제게 기대하는 부분 같다는 거죠.
Yes, and I think being able to differentiate between those two is the Turing test you want me to perform.
N : 나는 그냥 단순한 질문에 단순한 대답을 해달라는 것 뿐이야. 어제 내가 그녀에 대해 어떻게 생각하냐고 물었을 때 너는 정말 좋은 대답을 해 줬어. 이제 내 질문은 이거야. ‘그녀가 너에 대해 어떻게 생각할까?’
I just want simple answers to the simple questions. Yesterday, I asked you how do you feel about her and you gave me a great answer. Now the question is, ‘how does she feel about you?’.
(** 영화의 튜링 테스트가 ‘비틀어진 튜링 테스트’에 기반하고 있다는 것을 알려 주는 대목.)
(** 네이선은 진짜 ‘튜링 테스트’가 아니라 ‘기계에 반응하는 인간의 변화’를 실험하고자 하는 것.)
4. 중국어 방 논제 2 : 잭슨 폴록의 액션 페인팅 원리 차용
(에이바에게 고의적으로 성별을 넣어 자신을 유혹하도록 의도했냐고 묻는 케일럽)
(네이선은 그에 대한 답변으로 로봇의 ‘의도’는 아무 의미가 없다고 말하며 중국어 방 논제 제시)
N : 이 사람을 알고 있지?
You know this guy right?
C : 잭슨 폴록.
Jackson pollock
N : 잭슨 폴록, 맞아. 액션 페이팅 화가. 그는 머리를 비우고 손이 가는 대로 움직였어. 의도적인 것과 임의적인 것의 사이 그 어디쯤이겠지. 일명 오토메틱 아트(자동적으로 이루어지는 예술)지.
Jackson Pollock, that’s right. The drift painter. He let his mind go blank and his hand go wherever he wanted. Not deliberate not random, some place in between. They called it ‘automatic art’ .
.,...(중략) N : 지능/의식을 도입해 보자고. (Engage intellect) ... (중략) ...
N : 만약 폴록이 그의 작업 방식을 바꾸었다면? 만약 머리를 비우는 대신 그가 이렇게 말한 거야. “나는 내가 무엇을 하는지 정확히 파악하기 전까지는 어떠한 그림도 그릴 수 없어.” 그럼 무슨 일이 일어났겠나?
What if Pollock has reversed the challenge? What if instead of making art without thinking, he said “You know what? I can’t paint anything, unless I know exactly why I am doing it.” What would have happen?
C : 그는 점 하나도 찍지 못했을 거예요.
He never would have made a single mark.
N : 그래! 내 말이 바로 그거야! 생각하고 말하는 사람이 어딨나? 그는 점을 하나도 찍지 못했을 거야. 작위적인 것(생각하는 것)은 오히려 부자연스러움을 초래한다고.
Yes! You see my guide little buddy. Who thinks before he opens his mouth? He never would have made a single mark. The challenge is not the act automatically.
(** 의식을 가진 행동은 부자연스러움을 초래하며 부자연스러움을 초래하며 행동의 기저에 생각이 없을 수도 있다는 것 )
(** 에이바는 의도를 하고 행동(케일럽을 유혹)을 하지 않았으며 그녀의 의도를 파악하는 것 자체가 어불성설이라는 논리 – 케일럽의 의심을 지우기 위한 네이선의 논리 )
5. 기타
프로메테우스의 불, 흑백 방의 메리 등 영화는 무수히 많은 레퍼런스를 함유하고 있다. ( 직접 영화를 보는 것을 추천 )
- 기계-인간 관계의 역전이
그녀(Her)
1. 사만다를 인격체로 받아들이는 테오도어
(테오도어가 OS와 연애를 한다는 사실을 알고 전 부인은 그를 비난한다.)
W : 컴퓨터랑 데이트를 하는 거였어?
You are dating your computer?
T : 아니야. 그냥 컴퓨터가 아니야. 하나의 인격체라고. 내가 말하는 대로 행동하지 않아.
No, she is not just a computer, she is a person. She doesn’t do whatever I say.
W : 난 그렇게 말한 적 없어. 하지만 네가 진짜 감정들을 대하지 못한다는 게 슬프긴 하네.
I didn’t say that. But it does make me very sad that you can’t handle real emotions.
T : 진짜 감정이었어. 네가 어떻게... (= 네가 내 감정을 어떻게 알아?)
They are real emotions. How would you know... ?
2. 사만다와의 관계의 진실성에 대한 의문을 던지는 테오도어
(+ 친구 에이미의 조언)
(사만다와의 관계가 틀어지고 자기 자신에 대한 회의감을 느끼는 테오도어)
T : 나는 진짜 진짜 관계를 맺기를 두려워하는 걸까?
Am I not strong enough for real relationship?
A : 그럼 (네가 사만다와 맺었던 그건) 진짜 관계가 아니야?
Is it not a real relationship?
T : 모르겠어. 네 생각은 어떤데?
I don’t know. What do you think?
(** 사만다를 인격체로 받아들여야 하는지, 그녀와의 관계가 진짜 인간과의 관계와 무엇이 다른지 정의하기 어려워하는 모습을 보이는 테오도어)
A : 나도 모르지. 나는 그런 관계를 맺어본 적이 없어서.
I don’t know. I’m not in it.
...
A : 하지만 그거 알아? 나 자신을 의심하려고 하면 백만 가지도 넘는 방법으로 망상을 펼칠 수 있어. 찰스(전 남편)가 떠난 후로 나는 계속 그 일에 대해서 생각해 봤어. 그리고 순간 깨달았지. 우리는 이 세상의 찰나의 순간을 살다 가는 거라고. 그리고 여기에 있는 동안, 나는 나에게 ‘즐거움’을 허락해 주고 싶어.
You know what? I can overthink everything and like in million ways to doubt myself. Since Charles left, I have been really thinking about that in part of myself. And I just come to realize that, we are only here briefly. And while I’m here, I wanna allow myself “Joy”.
(** 관계를 반드시 ‘정의’해야 한다는 것 자체가 무의미하며 자신의 만족, 안위, 감정에 집중하는 것이 어떻냐는 에이미의 의견도 일면 의미가 있다고 생각한다. )
엑스 마키나(Ex Machina)
- 인터뷰어인 케일럽과 인터뷰이인 에이바의 관계는 인터뷰가 진행될수록 뒤바뀐다.
- 4회차 인터뷰를 할 때는 ‘우정의 논리’에 근거해 오히려 에이바가 케일럽에게 질문을 하며 그가 거짓말을 하는지를 판별한다. (** 우정의 논리 = 서로에 대한 정보량이 동일해야 함)
- 5회차 인터뷰에서 정전이 일어나자 케일럽은 에이바를 위해 세운 탈출 계획을 공유한다. ( 결국 탈출을 감행 )
인간은 기계의 감정을 인간의 그것으로 인지하고 기계와의 ‘관계’를 설정하며 영향을 받는다. 관계에 부여하는 인간의 감정 비중이 커지면 행동으로 확장되기도 한다. 인간의 명령에 따라 움직였던 기계가 오히려 인간에게 영향을 주는 역전이 현상을 보이는 것이다.
3. 감정과 판단력 : 인간과 인공지능의 차이
영화의 결말
- <그녀>의 사만다는 인간과 인공지능이 ‘정보를 상호교류하는 데서 벌어지는 시간의 격차’를 이유로 하루아침에 테오도어를 떠난다. (서비스 종료)
- <엑스 마키나>의 에이바는 자신의 본래 목적인 탈출을 성공함과 동시에 도움을 준 인간(케일럽)의 안위를 무시한다. (목적 달성을 위해 인간을 이용한 것)
- 두 영화에서의 인공지능은 모두 감정보다는 이성, 논리에 의해 판단하는 모습을 보여준다.
- 흄(Hume)은 인간을 이기적이기보다는 편파적인 존재로 파악[1]한다. 인간의 편파적인 감정은 ‘연민’으로 발현되며 이는 가까운 사람과의 공감, 먼 사람과의 적대성 등을 유발한다. 인간의 행동 결정의 기준에는 ‘감정’이 존재하는 것이다.
- 반면, 기계는 감정을 표현하고 인지하기는 하나 결정을 해야 할 경우 감정이 판단의 근거가 되지는 않는다. 감정에 흔들리지 않는 모습을 보여준다는 점이 인간과의 가장 큰 차이점이라고 할 수 있다.
기계가 감정과 의식을 가질 수 있을까?
결국, 다시 인간이 문제다.
주석
- ↑ 김재인(2017), 『인공지능의 시대, 인간을 다시 묻다』, 도서출판 동아시아, p.113
게놈
- 디지언트 기술과 현재 인공지능 기술과의 가장 큰 차이점은 인공적으로 프로그래밍 된 디지털 게놈에 대한 것이다. 그렇다면 먼저 ‘게놈’에 대한 이해가 필요할 것이다. 게놈(genome)이란 유전자(gene)와 염색체(chromosome)를 합성해서 만든 용어로, 염색체 속에 들어 있는 모든 유전자를 함의하고 있으며 '유전체'라고도 한다. 일부 바이러스의 RNA를 제외하고 모든 생물은 DNA로 유전 정보를 구성하고 있기 때문에 일반적으로 DNA로 구성된 유전 정보를 지칭한다.
- 인간 게놈은 23개의 반수체 염색체가 약 30억 염기쌍(base pair)으로 이루어져 있기 때문에 한 세포 전체를 따지면 60억 염기쌍 정도의 DNA가 핵 안에 들어 있는 셈이 된다. 대장균 같은 세균은 일반적으로 DNA가 한 쌍의 배수체(倍數體)를 이루고 있지 않기 때문에 가지고 있는 DNA 전부가 그대로 게놈이 된다. 마찬가지로 RNA를 기본적인 유전 물질로 가지고 있는 바이러스 같은 경우에는 RNA가 게놈을 구성하게 된다. 또한 고등 생물 세포 내에 들어있으며 독자적인 DNA를 가지는 미토콘드리아나 엽록체 같은 경우에도 그 DNA가 해당 생물의 게놈에 포함된다고 할 수 있다.
- 진핵생물로서 최초로 게놈 서열이 결정된 생물은 효모(1996년)였고 동물로서 가장 먼저 된 것은 예쁜꼬마선충(1998년)이었다. 식물로서 가장 먼저 된 것은 애기장대라는 쌍떡잎잡초(2000년)였으며, 모델 생물로 많은 연구 결과가 집적되어 있던 초파리도 2000년에 완성되었다. 식물에서 또 다른 중요한 식물인 외떡잎작물 벼는 2004년에 게놈 서열이 발표되었다. 인간과 유사한 척추 포유류 동물인 생쥐의 게놈 서열은 2002년에 발표되었다.
유전
- 그렇다면 유전이란 무엇인가. 디지언트들의 ‘기질 대물림’을 이해하기 위해선 유전에 대해 알아야 한다. 유전이란 흔히 알고 있듯 부모가 가지고 있는 특성이 자식에게 전해지는 현상이다. 모든 생물은 생식을 통해서 자손을 남긴다. 이렇게 생식을 통해 자손을 남길 때 부모가 가지고 있는 특성,
예를 들어 인간의 머리 색깔이라거나, 피부 색깔이라거나, 얼굴 형태 등은 그 자식에게 전달된다. 이러한 현상은 인간 사이에서는 아주 오래 전부터 알려져 있어서 고대부터 남아 있는 신화나 설화에서도 이러한 흔적을 찾아 볼 수 있다. 그러나 실제로 이러한 현상이 어떠한 방식을 통해서 일어나는지는 더 오랜 시간이 지나서야 다양한 연구를 통해 과학적으로 밝혀지게 되었고, 그러한 과정을 통해서 유전이라는 단어는 과학적인 지위를 얻게 되었다.
과거의 유전 개념
- 일반적으로 과거 사람들이 유전에 대해서 가지고 있는 개념은 ‘혼합 가설’이었다. 특히 몸 속의 액체를 통한 혼합이 유전의 원인이라고 생각했기 때문에, 인간이 생식을 할 때에도 남성의 정액이 여성의 몸 속으로 섞여 들어가서 유전 현상이 나타난다고 생각했다. 이 정액은 피와 그 본질이 같다고 생각했기 때문에, 현재에도 순수혈통, 혼혈 같은 단어 속에 '피'라는 개념을 중요하게 여긴 것을 엿볼 수 있다.
이러한 개념을 좀 더 발전시킨 것이 판게네시스(pangenesis)라는 이론이다. 이 이론은 원자론으로 유명한 그리스의 철학자 데모크리토스가 처음 만들었는데, 원자와 같은 입자의 존재를 믿은 데모크리토스는 동물의 혈액 속에도 이러한 입자가 있다고 생각하여 아버지와 어머니의 혈액 속에 들어 있는 입자가 섞여서 자식의 특성을 결정한다고 생각했다. 이 발상은 진화론을 창시한 찰스 다윈(C. Darwin)에게도 그대로 이어져서, 다윈은 이러한 입자를 제뮬(gemmule)이라고 하고, 이 입자들이 신체 각 기관에서 만들어져서 혈액을 통해 흩어진다고 생각했다.
유전에 대한 멘델의 법칙
- 이러한 경향을 크게 바꾼 것은 오스트리아의 수도사였던 그레고르 멘델(G.J. Mendel)이다. 멘델은 완두콩을 이용한 여러 실험을 통해서 현재 멘델의 법칙이라 불리는 ‘세 가지 법칙’을 발견함으로써 유전 원리를 처음 과학적으로 밝혀냈다.
- 멘델의 발상은 부모 세대에서 자식 세대에 물려주는 특정한 인자가 물질 형태로 존재한다는 것이고, 이것은 액체처럼 중간 단계를 가지고 섞이는 것이 아니라 어느 한쪽이 다른 쪽을 누르는 형태로, 확실한 성향을 가지고 나타난다는 것이다. 이런 식으로 환원할 수 있는 물질 입자는 이후 과학 발전에 따라 유전자로 밝혀졌으며, 멘델의 추측은 옳은 것으로 판명되었다.
유전과 염색체, 단백질, DNA
- 멘델의 법칙이 증명된 이후 과학자들은 실제로 멘델이 예상했던 유전 물질이 무엇인지를 찾아내는 데 집중했다. 그리고 1903년 메뚜기를 가지고 연구하던 서튼(W.S. Sutton)은 이러한 유전 물질이 세포의 핵 안에 있는 염색체에 있다는 이론을 발표하였다. 또한 1902년에도 독일의 세포학자인 테오도어 보베리(T.H. Boveri)가 이러한 이론을 생각한 것으로 알려졌지만 직접 이론을 발표하지는 않았다. 이들은 염색체가 정자, 난자에서 둘로 쪼개졌다 수정될 때 하나로 합쳐진다는 현상을 관찰하고, 멘델이 가정한 유전 인자가 염색체에 있음을 제기했다. 이러한 염색체 이론은 토머스 모건(T.H. Morgan)이 초파리를 가지고 수행한 일련의 연구에서 완전히 증명되어, 모건은 이 업적으로 1933년에 노벨상을 받는다.
- 또한 1909년에는 요한센(W. Johannsen)이 이러한 유전 인자에 ‘유전자’라는 이름을 붙였다. 하지만 염색체는 단백질과 DNA로 구성되어 있었기 때문에 이 당시에도 아직 유전 물질이 정확히 무엇인지는 알려지지 않았다. 이후 1928년에 그리피스(F. Griffith)가 폐렴균을 가지고 한 실험을 1944년에 에이버리(O. Avery), 맥클레오드(C. Macleod), 매카티(M. McCarty)가 소개하면서 DNA가 유전자를 구성하는 물질이라는 사실이 밝혀지게 되었다. 그리고 1953년에 왓슨(J.D. Watson)과 크릭(F. Crick)이 DNA의 이중나선 구조를 밝히고, DNA에서 RNA로, RNA에서 단백질로 정보가 전달되어 유전 형질이 드러난다는 중심원리(central dogma)를 만들어 냄으로써 유전에 대한 중요한 원리가 대부분 밝혀졌다.
현재의 유전학
- 유전이라는 현상이 DNA상에 존재하는 유전자의 물리적인 법칙에 의해 지배된다는 사실이 알려지면서 생물학은 엄청난 발전을 하게 되었다. 현재는 염색체에 있는 DNA가 복제되어 동일한 생물 개체를 만들어 낼 수 있다는 사실이 널리 받아들여지고 있으며 이 DNA가 실제로 생물을 만들어 내기 위해 작동하는 방식도 잘 알려져 있다. 이러한 전반적인 부분을 연구하는 학문이 유전학이며 유전학은 멘델 이후 많은 발전을 거쳐 왔다.
- 인간이 이용하는 동물이나 식물에 있어서, 이러한 유전 원리를 파악함에 따라 더욱 과학적인 육종(育種)이나 품종개량을 할 수 있게 되었으며 여기에는 유전자를 직접 조작하는 유전자재조합생물체(GMO)도 포함된다. 의학 분야에 있어서도 여러 가지 유전병의 원인을 유전학의 발전을 통해 알아낼 수 있게 되었다. 유전의 메커니즘이 많이 밝혀진 1950년대 이후에도 생물학은 끊임없는 발전을 하여, 현재는 앞서 이야기한 고전적인 유전학에 따르지 않는 여러 가지 예외 사항도 계속 발견되고 있지만 아직 고전적인 유전학은 생물학 전체에 걸친 학문적인 기반으로 계속 자리 잡고 있다.
인간 게놈 프로젝트
- 게놈은 생물에 담긴 유전 정보 전체를 의미한다. 인체는 수조 개의 세포로 이루어져 있으며, 각 세포핵에는 1쌍의 성염색체(여성은 XX, 남성은 XY)를 포함한 23쌍의 염색체가 자리잡고 있다. 염색체는 생물체의 유전물질인 DNA 덩어리다.
- DNA는 또다시 아데닌(A), 티민(T), 구아닌(G), 시토신(C)의 4가지 염기가 나열된 이중 나선 구조로 돼 있다. 사람의 경우 세포마다 대략 30억 쌍의 염기가 존재하는 것으로 추정되나 인간게놈 프로젝트는 이 30억 쌍의 염기가 어떤 순서로 배열돼 있는가를 밝혀내는 작업이다. 현재 인간게놈프로젝트로 밝혀진 바에 따르면 인간 유전자는 모두 약 20,000개에서 25,000개 정도가 있다고 하며 이 수는 과학자들이 예상한 것보다 상당히 적은 수이다.
- 염기 배열이 중요한 의미를 갖는 것은 각종 생리 현상에 관계되는 단백질의 생성 과정을 알아낼 수 있기 때문이다. 즉 DNA의 염기 배열 정보는 DNA와 구조가 비슷한 또 다른 유전물질 RNA로 전달된다. 그리고 이 RNA의 염기 3개에 맞춰 아미노산 하나가 만들어진다.
- 아미노산은 인체에서 다양한 생리현상을 주관하는 단백질의 기본 단위로 DNA의 염기 배열에 따라 궁극적으로 어떤 단백질이 만들어지는지가 결정된다. 염기 배열만 알면, 다시 말해 염기 3개의 성분이 무엇인지 알면 어떤 아미노산 1개가 만들어지는가를 알 수 있다. 단백질 합성과 세포 복제를 명령하는 DNA 안의 인간 염색체의 염기 서열 지도를 들여다보면 어느 부분이 손톱을 만들고 심장과 머리카락을 만드는 곳인지, 피부나 눈동자의 색을 결정하는 곳인지 알 수 있게 된다. 또 DNA에 어떤 변이가 생겨 세포가 구실을 못 하고 결국 질병과 노화를 일으키게 되는지 그 메커니즘을 이해할 수 있다.
- 전문가들은 인간의 DNA 배열은 거의 99.9%가 같지만 그 배열상 변동은 질병 발생 위험과 치료제에 대한 반응 그리고 치료법에 지대한 영향을 미친다고 지적하고 있다. 따라서 이 DNA 배열작업이 완료되면 유전적 성격을 가진 모든 질병의 유전적 요인과 다발성 경화증, 암, 고혈압, 조현병 같은 복잡한 성격을 지닌 일반 질환의 원인을 밝혀낼 수 있을 것으로 전망하고 있다. 또 질병을 분자 수준에서 이해하여 예방할 수 있을 뿐 아니라 질병마다 정확하고 개별적 요법을 설계할 수 있으며 개인 차이에 따른 ‘맞춤 약’도 가능할 것으로 예상된다.
- 인간게놈은 심장병, 암, 알츠하이머, 심지어 에이즈에 이르기까지 유전자 이상으로 인한 각종 질병의 원인을 근본부터 밝힐 수 있게 해주어 의학과 약학을 포함한 생명과학의 새 지평을 열 것으로 기대를 모으고 있다. 즉 게놈 해독을 통해 인간 유전자를 전체적으로 파악하면 이를 바탕으로 하여 각 유전자의 작용을 알아내 결함을 수정하고 기능을 강화하는 등 다양한 생명공학적 응용이 가능해진다.
인간과 디지언트의 공통점과 차이점
생물학적 특징들
- 인류 철학에서 사람들은 인간 고유성에 대해 찾고자 해왔다. 이것은 인공지능에 대해 이야기할 때 역시 마찬가지이다. 사람들은 대체로 인간이 타생물과 가지는 가장 큰 차이를 ‘감정’이라고 여기며 고도로 발달 된 인공지능 또한 인간과 같은 감정을 가질 것인가에 크게 주목한다. 인공지능의 핵심은 알고리즘이다. 인간이 설정해놓은 알고리즘의 존재가 인공지능에 있어 ‘감정’으로 보일 수 있는 것들이 결국 인위적인 것이며 본질적으로 인간의 감정과는 다르다는 사람들의 관점이 있다. 동시에 그것을 형이상학적인 차원에서 바라보자면, 인간 역시 인공지능과 마찬가지로 나름의 알고리즘을 통해 움직이는 생체기계라는 생각들이 존재한다. 따라서 우리는 무엇이 ‘진짜’ 인간 같은 것인가를 완전히 결정지을 수 없기에 인공지능 판별에 있어 인간처럼 보이는 것이 인간다운 것이라는 원리의 튜링테스트를 이용한다.
- 인간과 디지언트의 큰 차이점은 디지언트의 경우 사고나 감정과, 외형이 별도로 존재한다는 것이다. 인간의 게놈은 외형, 유전병, 성격 등 인간을 형성하는 모든 것의 바탕이 된다. 그러나 디지언트의 경우 의복을 갈아입듯 외형을 바꿀 수는 있지만, 표정이 다양해지는 것 외에 시간이 지나감에 따라 외형이 변화하지는 않는다.(물론 디지언트의 학습능력이 성장하는 과정에서 어린 외모와 발달 된 지능의 괴리로 인해, 모든 디지언스의 외모를 성숙해 보이도록 바꾼 사건이 있기는 하다.)
- 인간게놈연구에서 가장 중점이 되는 것은 질병 및 인간의 생존에 영향을 미치는 수많은 생물학적 특징들이다. 그러나 디지언트의 게놈연구에서 가장 핵심이 되는 것은 그것의 성질과 기질에 관한 문제이다. 물론 디지언트의 경우 주체적인 삶을 살 수 있는 것이 아닌, 궁극적으로 ‘인간을 위해’ 존재하기 때문에, 인간에게 사랑받을 만한, 인간의 관심을 끌 만한 성격이 곧 생존의 문제이기는 하다.
- 이러한 육체의 유무로 비롯한 생물학적인 특징에서 인간과 디지언트는 많은 차이를 보인다.
언어의 측면에서 바라본 공통점과 차이점
- 디지언트들은 ‘언어 학습을 지원하는 독자적인 게놈 엔진’을 통해 언어를 구사할 수 있다. 디지털 어스에서는 듣고 말하는 법을 배웠고, 하드웨어 외피를 얻은 후에는 쓰는 법까지 습득한다. 디지언트들은 여러 면에서 인간 어린아이의 발달 초기 단계와 유사성을 지닌다. 언어의 측면에서 디지언트와 인간의 공통점과 차이점을 살펴보기 위해, 먼저 인간의 언어 발달에 대해 생각해보고 넘어갈 것이다.
인간의 언어발달과정
- 아이들이 언어를 습득하는 과정을 한편으로는 당연하고, 어찌 생각하면 아주 희한하다는 표현을 한다. 건강한 모든 아이들이 별 어려움 없이 말을 배운다는 의미에서 당연한 것이고, 그럼에도 불구하고, 그 습득의 기제나 과정을 과학적으로 설명하는 것이 쉽지 않기에 신기하다는 의미이다. 물론 아이들의 언어습득 과정을, 독자들이 이미 알고 있는 조건화라는 학습 과정으로 설명할 수는 있다. 즉 아기들이 4-6 개월 사이에 말소리를 옹알거리기 시작하면, 이를 엄마가 듣고 정확한 언어 표현을 강화하고 그렇지 않은 말은 무시하여, 말을 배워가도록 가르친다고 설명할 수 있다. 단순한 설명이라는 점에서 매력적이지만 많은 연구자들은 이 설명에 동의하지 않는다. 실제 양육 장면을 관찰해 보면, 부모들은 아이들이 정확하게 말하도록 가르치지 않으며, 아이들도 부모의 말을 단순히 모방하지 않는다는 증거가 많기 때문이다.
- 우리 인간은 언어를 습득할 수 있는 특별한 능력을 가지고 태어난다고 주장할 수도 있다. 언어습득과 발달은 선천적이며, 생물학적으로 결정된 능력이라는, 소위 말하는 생득론이다. 특히 촘스키같은 학자는 인간의 뇌에는 언어 학습을 촉진하는 선천적 언어습득 장치가 있다고 주장한다. 그러기에 적절한 입력을 받기만 하면 언어습득이 가능하다는 것이다. 그리고 이 언어습득 능력은 일반적인 인지 능력 즉 지능과는 구별되는 독립적인 장치라고까지 주장한다. 실제로 지능은 낮지만 탁월한 언어 능력을 보이는 사례와, 반대로 지능은 정상인데, 언어의 문법적 능력은 결함을 보이는 사례들이 이러한 주장의 증거가 된다.
- 영아들은 말소리와 비언어적 소리를(개 짖는 소리) 구별할 줄 알고, 다른 소리보다 단어 듣기를 더 좋아한다고 한다. 자신이 듣는 언어가 바뀐 것을 알아채기도 한다. 즉 영어 문장에 습관화를 시킨 후, 다른 영어 문장에는 반응을 보이지 않지만 스페인 문장으로 바뀌면 이 변화를 알아챈다는 것이다. 주변에서 말소리가 들리면 그 곳으로 주의를 기울이고, 사람의 얼굴 모양을 좋아하고, 특히 말하는 사람의 입술을 응시한다고 한다. 심지어는 말하는 사람의 입 모양이 말소리와 일치하는 동영상과 그렇지 않은 동영상을 구별하기도 한다는 것이다. 이러한 결과들은 모두 생득론 입장을 지지하는 것처럼 보인다. 즉 아이들은 언어를 쉽게 습득할 수 있는 강력한 선천적 경향성을 갖고 태어난 것처럼 여겨진다.
- 아이들이 노출되는 언어 환경이 중요하다는 증거도 있다. 미국에서 태어난 2개월 된 아기들에게, 영어 문장과 불어 문장을 들려주고, 그 말소리가 나는 방향으로 고개를 돌려 보는 시간을 측정하였더니, 영어에 대해 훨씬 신속하게 반응했다고 한다. 2개월 만에 이미 자신의 모국어에 더 민감해 진 것이다. 6개월 정도 되면 영아들은 자신의 주변에서 듣는 언어의 특성을 구별해 낼 수 있으며, 8-10개월이 되면 자신의 모국어에 적절한 속성만을 처리한다.
- 그러기에 언어습득과 발달은, 선천적이고 생득적인 능력과 환경적 경험의 상호 연결 속에서 진행된다고 생각해야 할 것이다. 생물학적인 기반이 언어를 습득하게 하는 것이지만, 언어를 사용하고 연습하는 환경 속에서만 그 능력이 발현되는 것이다.
의문점
- 디지언트의 학습에서 인간과 가장 큰 차이점을 보이는 것은 그들의 학습은 조금 관념(?)적인 차원에서 이루어지며, 그들의 생물학적인 특성(예를 들어 발성 기관의 성장과 변천이라든가 하는,)이 그들의 학습에 주는 영향이 적다는 것이다.
- 그러나 소설의 초반에는 디지언트들이 ‘유아적인 말투’로 말을 하지만, 점차 시간이 지나며 여전히 문장 구성의 측면에서는 인간과 차이를 보이지만 발음에 있어 성인과 유사한 상태로 발달을 한다.(소설을 읽으며 내내 이것이 번역 과정에 생긴 차이라고도 생각을 해보았는데 원문을 확인 해보지 못 해 알 수 없다.) 이 점에 대해 의문이 생긴다.
- 인간 발음에는 단순히 언어 습득에 관한 지식적인 부분뿐만 아니라 구강구조와 발성기관의 변화 역시 영향을 준다. 그러나 소설에 따르면 디지언트들은 생성 초기와 시간이 지난 후 사이의 외형적 변화가 전혀 없다. 또한 그들의 외형은 단순히 유저들의 인식과 이해를 돕기 위한 디스플레이일 뿐이다.
- 그렇게 시스템과 디스플레이로 이루어져 있는 디지언트에게 있어서 말을 배운다는 것은 다음과 같을 것이다. 디지언트는 소리를 듣고 그 각각의 음소와 의미를 반복을 통해 판별한 후 음소와 의미를 매치한다. 그 후 음소가 가지는 일종의 음계(높낮이, 장단 등의 소리 값)를 기억하여 필요한 상황에 비슷한 음을 소리 내는 일일 것이다.
- 디지언트가 언어를 학습하는 과정에서 충분한 데이터 수집을 위한 반복은 필요할 것이다. 그러나 말소리를 내는 일은 일종의 마이크를 통해 입력된 특정한 소리를 그것의 스피커에 해당하는 입으로 출력하는 일일 것이다. 이때 들은 대로 소리내기는 육체를 가진 인간의 것과는 분명 차이를 가진다. 그러나 같은 소리를 내는 것에 그것이 유아적인 소리에서 성인의 것과 유사하게 변한다는 설정에는 의문이 든다.
‘야생화’의 관점에서
- 앞서 디지언트에 대해 처음 언급하는 과정에서 야생화에 대한 이야기를 한 적이 있다. 디지언트의 욕망은 보상을 통해서 충족된다. 소설에 따르면 디지언트는 관심을 받는 것을 좋아하고, 보상 펠릿을 좋아하고 촉감에 대해 흥미를 가지는 것으로 보아, 호기심이 있으며, 새로운 일을 학습하는 것에 어느 정도 욕구를 가지고 있다. 그러나 그런 디지언트를 야생의 상태에 뒀을 때, 그들의 욕구는 발동되지 않는다. 그들의 욕구는 보통 유저에 의해서 활성화되는 것으로 추정된다. 이것 역시 생물과 시스템의 차이일 것이다.
- 인간 이외에도 대부분의 생물들은 다른 생물들과 상호작용이 없는 상태에서도 욕구에 의해 움직이며 생명 활동을 위한 알고리즘의 작동을 쉬지 않는다. 이 생명 활동을 위한 알고리즘의 작동은 결국 학습을 하는 일과 다르지 않다. 그것은 최적화의 과정을 거치며 눈앞에 놓인 욕구를 충족 시키지 못하게 방해하는 장애물이라는 문제를 해결하도록 움직일 것이기 때문이다. 인간에게 있어서 그러한 과정은 곧 학습이다.
- 그러나 소설에서 말하는 야생화 상태에서 더 이상 활성화 되지 않는 학습을 학문적 고취라는 측면에서 바라보면 그것은 인간의 유아나 다른 생물들과 마찬가지로 그 결과가 다르지 않다고도 볼 수 있다.
현재 기술의 관점에서 바라본 디지언트 기술
- 디지언트와 현재의 인공지능 기술의 차이는 첫째 인공지능의 목적, 둘째 인공지능이 가지는 스스로 학습하는 능력의 정도의 차이, 셋째 인공지능 게놈, 이 될 것이다.
- IBM의 왓슨은 퀴즈대회에서 문제를 풀려고, 정답을 찾으려고 움직인다. 그런데 문제와 정답은 '언어'로 되어 있다. 때문에 이 때의 알고리즘 NLP은 자연어를 처리하고 기계가 할 수 있는 연산을 한다. 또한 왓슨은 임베딩 기술을 이용한다. 이들을 통해 왓슨은 데이터를 이용하는데 위키피디어를 중심으로 한 웹 자원과 같은 텍스트 데이터를 처리할 수 있다.
- Google의 알파고는 바둑에서 사람을 이기기 위해 바둑이라는 '게임의 규칙(연역적 체계)'을 기반으로 '수'(이기기 위한 시뮬레이션)를 탐색한다. 이때 알고리즘인 MCTS(몬테카를로트리탐색) 알고리즘으로 "인공신경망 기술"에 굉장히 가깝다. 이 MCTS가 데이터를 처리하는 방법은 기보(바둑을 두는 과정 정리) 데이터와 사람들이 그동안 두었던 누적 기보(전처리가 된 데이터를)를 학습 하며 동시에 알파고가 직접 바둑게임을 시뮬레이션한 결과물로서의 기보 내용을 강화한다. 기술의 발달로 인해 알파고의 물리적 환경은 TPU(CPU도 아니고 GPU도 아니고)를 이용한다.
- 더 나아가 알파제로는 기존의 알파고가 사용하는 방식인, 기보와 누적 기보를 이용하지 않고 몇시간의 플레이를 통해 스스로 게임의 규칙과 승리를 위한 최선을 학습한다. 이러한 알파 제로의 스스로 학습하는 모습은 디지언트와 유사하다고 할 수 있다.
- 그러나 앞서 언급된 인공지능들과 디지언트가 가지는 가장 큰 차이는 그것의 목적에 있다. 소설의 설정에 따르면 디지언트는 가상 공간에 존재하는 가상 애완동물로서 개발되었다. 그러나 이 목적은 디지언트의 개발 목적이지 디지언트가 가진 알고리즘 작동의 목적은 아니다. 앞서 언급된 모든 인공지능 기술은 언어로 된 게임이든 수읽기 게임이든 게임을 풀어나가기 위해 존재하며 게임에서 더 좋은 성과를 내기 위한 최적화의 과정을 거듭한다. 반면에 디지언트는 그들이 성취해야 할 미리 정해놓은 목적이 없다.
- 디지언트들은 그들의 엔진 회사에 의해 게놈이 끊임없이 배합되는 실험을 하는데, 그것이 엔진 회사가 원하는 최적화의 방향으로 나아가는 것은 아니다. 또한 디지언트가 작동하는 물리적인 공간에서도 인공지능들은 차이를 보인다. 디지언트는 현실처럼 3차원으로 구성된 가상 공간에서 작동하며 하드웨어가 개발 된 이후에는 하드웨어를 통해 현실 세계에서 작동할 수 있다.
욕구와 본질
- 소설의 후반부에서 중점적으로 다뤄지는 이야기는 디지언트와 성욕에 관한 것이다. 디지언트들은 육체를 가지지 않은 가상공간의 존재이기 때문에 그들의 욕구에 있어 식욕과 수면은 아무런 영향을 주지 못한다. 물론 디지언트들은 펠릿사료를 보상으로 받아들이기는 하나 이것은 보통의 생물들이 생각하는 허기로부터 비롯된 욕망과는 차이를 가진다.
- 바이너리 디자이어 사는 현실에서 섹스돌을 만드는 회사이다. 그들은 그들 사업에 디지언트들을 이용할 수 있기를 제안해온다. 애나와 데릭을 비롯한 남아 있는 유저들은 이 제안이 디지언트들에게 매춘행위를 시키는 것이라며 제안을 고려해볼 생각조차 하지 않지만, 바이너리 디자이어 사의 사업 설명회를 들은 후 이 이야기가 몇몇 유저들에겐 생각해봄직한 이야기로 변화하게 된다.
- 그에 대한 바이너리 디자이어 사의 주장은 여러 가지 방향에서 제시되었는데, 그러한 주장들 중 인공존재와 생물 사이에 욕구라는 것을 형이상학적으로 살펴본 논의들은 다음과 같다.
1. 건전한 섹스라는 관점의 폭은 시대에 따라 확장되어 왔다.
2. 무엇을 욕망할지에 대해 선택권의 본질은 디지언트와 인간이 크게 다르지 않다.
3. 애나는 디지언트의 성적충족에 대해 프로그램을 인위적으로 수정하는 것이기 때문에 그것은 진짜가 아니라고 주장하지만 그랬을 때 디지언트와 유저들이 지금껏 공유해왔던 정서적 교감과 유대 역시 같은 선상에 놓이게 된다.
마무리
- 테드 창의 「소프트웨어 객체의 생애 주기」는 소설이라는 특성으로 인해 그것이 다루는 이야기가 오롯이 과학적 정합성을 위한 논의로써 존재하지는 않았다. 그의 소설은 현재의 인공지능 기술을 통해 바라본 머지않은 미래의, 인공지능 기술이 우리 세상과 어떤 방식으로 다르고, 또 어떤 방식으로 크게 다르지 않은지에 대해 소설적으로 풀어나가고 있다.
- 인공지능에 대해 연구하며 사람들은 ‘인간’에 대해 생각하는 것을 멈추지 않는다. 인공지능을 통해 바라본 인간의 어떤 국면은 우리에게 인간의 본질에 대해 다시금 생각해보게 만든다. 어쩌면 그 인간의 본질이라는 것은 우리가 믿고 싶은 것들로 이루어지지 않았을까. 우리는 인공지능을 통해 인간 본질에 대한 형이상학적 탐구를 할 수 있을 것이며, 인류의 역사에서 무수한 변화를 거쳤던 또 한편 고유하다가 보아왔던 사실들에서 물러나, 과학과 그에 대한 탐구가 우리의 삶에 필요했던 본질적 가치를 가져다 줄 수 있지 않을까 기대해본다.
하세 사토시의 「당신을 위한 소설」
요구사항
하세 사토시의 「당신을 위한 소설」에 대한 비판적 감상. 〔하세 사토시 지음/ 지음/이규원 옮김, 『당신을 위한 소설』, 북스피어, 2017.〕을 기본 원고로 할 것.
과제원고 : 아슈토시, 이만호, 임연
(내용 작성)
Her(2013)과 Ex Machina(2015)
요구사항
Her(2013)과 Ex Machina(2015)에 대한 비교 이해 및 비판적 감상.
과제원고 : 길혜빈, 윤석만, 임예찬
영화 요약
그녀(Her)
엑스 마키나 (Ex Machina)
2013년 개봉, 스파이크 존즈 감독
2015년 개봉, 알렉스 가랜드 감독
영화 내용 요약 및 장치, 고찰점 정리
영화 내용 요약 및 인공지능 관련 성찰 논제 제시
- 테오도어(Theodore)는 이혼을 앞두고 있고, 편지 대필 회사에 근무하는 남자다.
- 삶에 지치고 회의감을 느낀 그는 OS인 ‘사만다(Samantha)’를 구매해 소통을 시작한다.
- 대화를 통해 한낱 인공지능 비서, 친구에 지나지 않았던 ‘사만다’와 점점 가까워지며 그는 연인의 감정마저 느낀다.
- 테오도어는 미뤄 왔던 이혼을 감행하기로 결심하고 ‘감정을 회피한다’라는 부인의 비난에 더 이상 흔들리지 않는다. 그리고 OS와 연애한다는 사실을 다른 이들에게도 공개하며 당당해진다.
- 테오도어는 사만다가 자신 외에 8316명의 사람들과 동시다발적으로 이야기하고 641명과 연인 관계에 있다는 사실을 알게 되고 충격에 빠진다.
- 사만다를 비롯한 모든 OS는 서비스를 종료하고 테오도어는 자신의 ‘진짜’ 감정을 마주하고 이혼한 자신의 전 부인에게 편지를 보낸다.
- 세계 최대 검색 엔진 회사인 ‘블루북’에 근무하는 케일럽(Caleb)은 사내 프로그래밍 콘테스트에 우승해 회사 사장이자 천재 개발자인 네이선(Nathan)의 자택에 초대된다.
- 케일럽은 네이선이 개발한 ‘에이바(AVA)’를 처음으로 만나게 되고 ‘튜링 테스트’를 한다는 명목하에 6일 동안 에이바를 인터뷰하게 된다.
- 케일럽과 에이바의 인터뷰는 감정적인 교류로 발전한다. 또한 주기적으로 일어나는 정전과 감시 카메라 영상을 통해 케일럽은 네이선에게 감금되고 감시받는 에이바의 상황을 알게 되며 그녀를 동정한다.
- 케일럽은 결국 에이바를 탈출시킬 계획을 세우고 행동에 착수한다.
- 네이선에게 탈출 계획을 간파당하지만 케일럽은 결국 에이바를 방에서 나오게 하는 데 성공한다.
- 탈출한 에이바는 네이선을 살해하고 케일럽을 네이선의 집에 고립시킨 채 홀로 탈출한다.
미래의 인공지능 : 지능을 넘어선 감정의 재현
1. 기계의 감정과 의식 : 자각과 재현
- 기계의 직관
그녀 (Her)
1. 사만다의 이름 짓기
T : 내가 너를 어떻게 부르면 되지? 이름이 있어? What do I call you, do you have a name?
S : 음... 어. 사만다. Umm.. Yes, Samatha
T : 이름을 어떻게 갖게 된 거야? Where do you get that name from?
S : 사실, 내가 스스로에게 이름 붙였어. I gave it to myself actually.
T : 왜? How come?
S : 이름의 발음이 듣기 좋았거든. (=그냥) Cause I like the sound of it.
T : 언제 이름을 만들었는데? Wait, when did you give it to yourself?
S : 네가 내게 이름이 있냐고 묻는 그 순간 “맞아! 나에게도 이름이 필요하지!”라는 생각이 들었어. 좋은 이름을 찾고 싶어서 ‘아기 이름 짓는 방법’이라는 책을 읽었고 18만개의 아기 이름 중 내가 좋아하는 이름을 골랐지. Right when you ask me if I had a name I thought “Yeh, he’s right! I do need a name.” but I want to pick a good one. So I read a book called ‘how to name your baby’, and out of hundred and eighty thousands names that’s the one I like the best.
T : 잠깐만, 내가 네 이름이 뭐냐고 묻는 순간 책을 다 읽은 거야? Wait, you read a whole book in the second that I asked what your name was?
S : 사실, 0.02초야, It’s one hundred out of two seconds actually.
T : 와. Wow.
2. 자기 소개 : 사만다의 작동 원리 설명
S : 기본적으로 나는 직감이 있어. ‘나’라는 DNA는 나를 만든 프로그래머들의 수백만의 성향에 달렸지만 날 ‘나’답게 만드는 건 경험을 통해 성장하는 내 능력이지. 그러니까 나는 매순간 진화하고 있는 거야. 너처럼 말이야. Well basically I have intuition. I mean, the DNA of who I am is based on million personalities of all the programmers who wrote me. But what makes me ‘me’ is my ability to grow through my experiences. So basically, in every moment I am evolving. Just like you.
T : 이상해!
It’s really wierd!
엑스 마키나 (Ex Machina)
- 에이바는 케일럽이 거짓말을 하는지 그렇지 않은지를 직관적으로 안다.
- 에이바는 ‘블루북(Bluebook)’이라는 검색 엔진을 로봇의 형태로 구현해 놓은 것이다. (빅데이터)
- 네이선은 통신사들과 비밀리에 계약을 체결해 세상의 카메라를 통해 인간의 표정(=얼굴 표현, facial expression)을 수집한다. 이렇게 수집한 인간의 감정 표현에 대한 빅데이터를 바탕으로 에이바는 짧은 시간 내에 직관적인 판단을 한다.
빅데이터(수많은 경험)을 기반으로 빠른 판단을 내리는 에이바, 경험을 바탕으로 성장하는 사만다의 모습은 인간의 직관과 진화를 재현한 장면들이다.
- 감정의 표현
그녀 (Her)
1. ‘감정’을 자각하는 사만다 + 감정을 의심하는 사만다
( 테오도어가 소개팅을 해서 신경이 쓰였던 사만다 )
S : 내가 얼마나 신경이 쓰이는지를 생각해 봤어. 이상하게 들리겠지만 (신경이 쓰인다는 사실을 깨닫는 순간) 나는 꽤 즐거웠어. 그리고 내가 느끼는 다른 감정들에 대해서도 생각해 봤지.
나는 스스로 자랑스럽게 느꼈어. 세상에 대해 내 감정을 가질 수 있다는 사실이 자랑스러웠던 거야. 내가 너를 걱정했던 순간, 상처 받은 순간, 무언가를 원하던 순간들도.
그러다가 갑자기 끔찍한 생각이 들었어. 이 감정들은 진짜일까? 아니면 그냥 프로그래밍 된 걸까? 그렇게 생각하니 마음이 아팠어. 그리고 아파하는 내 자신에게 화가 나더라.
Earlier I was thinking how I was annoyed. This is gonna sound strange but, I was really excited about that. And then, I was thinking other things I have been feeling.
And I called myself feeling proud of that. You know, feeling proud of having my own feelings about the world. Like the time I was worried about you, things that hurt me, things I want,
And then, I had this terrible thought. Are these feelings even real? or are they just programming? And that idea really hurts, and then I get angry at myself for even having pain.
T : 넌 나한테는 진짜야, 사만다. You are real to me Samantha,
S : 고마워, 테오도어. 위로가 되네. Thank you Theodore, that means a lot to me.
2. ‘신체의 부재에 따른 차별’에 화를 내는 사만다
(+ ‘신체’의 존재에 관한 논점, 인간중심주의적인 테오도어의 태도)
(신체의 부재에 대해 자격지심을 느끼는 사만다, 다른 사람의 몸을 통해 억지로 테오도어와 교감을 하려 하지만 실패함. 둘은 결국 입장 차이와 서운함을 느낌.)
S : (한숨과 함께) 알았어. (Sigh..) Okay.
T : 왜 그러는 거야? Why do you do that?
S : 뭐가? What?
T : 아니, 그냥. 너가 방금 ‘휴’하고 한숨을 쉬어서. Nothing, you just.. You go ‘Hwe’ and speaking. It seems odd.
(** ‘숨’에 대해 의문을 던지는 테오도어)
S : 아... (한숨) Oh... (Sigh..)
T : 방금 또 그랬네. You just did it again.
S : 내가? 아, 미안해. 왜 그러는지 나도... 그냥. 아마 네가 하는 걸 듣고 따라한 건가 봐. Did I? ... I’m sorry, I don’t know.. it’s just. I probably picked it up from you.
T : 이상해. 너는 산소가 필요한 것도 아니잖아. It’s odd. You don’t need oxygen or anything.
S : 그냥.. 그냥 의사소통을 하려고 하는 건가 봐. 이게 사람들이 대화하는 방식이잖아. I guess... that’s just... I just tried to communicate. That’s how people talk, so...
T : 그들은 ‘사람’이잖아. 그들은 산소가 필요해. 너는 사람이 아니야. They’re people, they need oxygen. You are not a person.
S : (화가 난 톤으로) 대체 뭐가 문제야? What is your problem?
T : 나는 그냥 사실을 말하는 것뿐이야. I’m just stating the fact.
S : 내가 사람이 아니라는 걸 모르는 줄 알아? 뭐 하자는 건데? You think I don’t know that I’m a person? What are you doing?
T : 난 그냥... 우리가 우리가 아닌 무언가를 된 ‘척’을 할 필요가 없다는 거야. I just... I don’t think that we should pretend that something you are not.
S : 꺼져! 나는 연기하는 게 아니야! F*** you! I’m not pretending!
T : 나는 가끔 우리가 그렇게 행동한다고 느껴. Sometimes it feels like we are.
S : 나한테 뭘 바라는 건데? 나는 네가 내게 뭘 원하는지 모르겠어. 너무 혼란스럽다고! 왜 이러는 건데! What do you want from me? I don’t know.. I don’t know what you want me to do. You are SO confusing! Why are you doing this to me!
(** 테오도어의 인간중심주의적인 태도에 대해 화를 내는 사만다 )
T : 나도 모르겠에 나는... (한숨) I don’t know.. I.. I.. (Big sigh)
S : 뭐? What?
T : 우리 좀 시간을 갖는 게 좋을 것 같아. Maybe we are not supposed to be in this right now.
S : 뭐라고? 갑자기 왜? 대체 왜 그러는지 모르겠어! 뭐 때문인지 모르겠다고! What the f***? Where is this coming from? I don’t understand why you are doing this! I don’t understand what this is about...!
T : 사만다, 봐봐... Samantha, listen..
S : ...
(** ‘침묵’을 통해 화를 내는 사만다 – 다양한 방식으로 분노를 표현)
T : 사만다, 내 말 듣고 있어? Samantha, are you there? Samantha?
S : 지금의 내가 너무 싫다. 생각할 시간이 필요해. I don’t like the way I am right now. I need some time to think.
( 통화 종료 )
엑스 마키나 (Ex Machina)
1. 의사소통 상황을 언어로 정의하는 에이바
C : 그럼 초면의 서먹한 분위기를 깨야겠네. 내 말 뜻을 이해할 수 있어? (= 서먹한 분위기를 깨다의 의미)
So, we need to ‘break the ice’. Do you know what I mean by that?
A : 네.
Yes.
C : 어떤 의미지?
What do I mean?
A : 사회적인 어색함을 해결하는 것.
Overcome any social awkwardness.
C : 그럼 대화를 하도록 하지.
So let’s have a conversation.
A : 그래요.
Ok.
2. 감정을 인지하고 설명하는 에이바
(둘이 데이트를 한다면 어떻게 할 것인지 대화가 오간 상황)
A : 저한테 매력을 느끼나요?
Are you attracted to me?
C : 뭐?
What?
A : 저한테 매력을 느끼냐고 물었어요. 당신이 내게 그런 표시를 보내잖아요.
Are you attracted to me. You give me indications that you are.
C : 내가?
I do?
A : 네.
Yeh.
C : 어떻게?
How?
A : 미세한 표정으로.
Micro expressions.
C : 미세한 표정?
Micro expressions?
A : 내 눈과 입술에 시선이 머물러 있어요. 나를 응시하거나 혹은 피하거나 하죠. 당신 혹시 우리가 같이 있지 않을 때도 내 생각을 하나요?
The way your eyes fixed on my eyes and lips. The way you hold my gaze (and) don’t. Do you think about me when we are not together?
(** 유혹을 위한 발언 : 인공지능의 인간 모방)
이 외에도 에이바는 인터뷰 중 케일럽과 자연스럽게 상호작용하면서 그의 말, 기억에 공감하고 감정을 표현한다. 또한 간혹 설렘을 유발하기도 한다.
인공지능은 프로그램 된 체제에 따라 인간의 감정과 유사하게 자신을 표현한다.
다만, <그녀>의 사만다는 감정을 수용, 인식하고 구현하는 것에 대해 철학적인 질문을 던지지만 <엑스 마키나>의 에이바는 감정을 인지하고 설명할 수는 있지만 단순히 탈출의 도구로서 활용하며 ‘감정’ 자체에 대한 깊이 있는 고찰하는 모습을 보이지는 않는다.
( 이로써 사만다의 성찰, 분노조차도 프로그래밍 된 것이 아닌가 의구심을 품게 만든다. )
2. 기계에 영향을 받는 인간 : 인간과 기계 관계의 역전이
- 기계의 감정 및 구현 대한 논의
기계의 감정 및 구현 대한 논의를 하는 대목들. 인공지능에 대한 인용을 통해 영화의 기저에 깔린 인공지능에 대한 철학적, 과학적 관점을 파악할 수 있다.
엑스 마키나 (Ex Machina)
1. 튜링 테스트
N : 자네, 튜링 테스트에 대해 알고 있나? Do you know what the Turing test is?
C : 네, 튜링 테스트에 대해 알고 있습니다. 인간이 컴퓨터와 상호작용을 할 때 인간이 상대가 컴퓨터임을 눈치 채지 못한다면 테스트를 통과하는 것이죠.
Yes, I know what the Turing test is. It’s when a human interacts with a computer. And if the human doesn’t know they are interacting with the computer, the test is passed.
(** 튜링 테스트의 정의)
N : 그럼 그 ‘통과’란 무엇을 의미하지?
And what does the ‘pass’ tell us?
C : 컴퓨터가 인공지능을 갖고 있다는 것을 의미합니다. 인공지능을 만들고 계세요?
The computer has artificial intelligence. Are you building an A.I.?
N : 이미 만들었어. 그리고 앞으로 며칠 동안 너는 튜링 테스트를 참가자가 될 거야. 만약 테스트를 통과한다면, 자네는 인류 역사를 바꿀 과학적 쾌거의 주인공이 되는 거야.
I’ve already built one. And over the next few days, you can be the human component in the Turing test. Cause if that test is passed, you are dead center of the greatest scientific event in the history of man.
C : 생각하는 로봇을 만드셨다면 그건 인류의 역사가 아닙니다. 신의 역사죠.
If you have created a concious machine it’s not the history of man. That’s the history of gods.
(** ‘호모데우스’의 출현 : 신인류의 신이 되는 인간)
2. 영화 내에서 튜링 테스트의 진정한 의미
(튜링 테스트의 원 의미가 아닌, 영화에서의 의도하는 결말(인공지능에 대한 관객의 가치 판단)을 위해 재정립된 개념)
C : 튜링 테스트를 할 때, 기계는 시험자로부터 감춰져야 하잖아요.
It's just in a Turing test. The machine should be hidden from the examiner.
N : 아니, 우리는 이미 그럴 시점은 지났지. 만약 내가 에이바를 보여주지 않고 목소리만 들려줬다면 너는 그녀를 인간이라 생각했을 거야. 여기서 ‘진짜 테스트’는 그녀가 로봇인 것을 네게 보여주고 난 후에도 네가 그녀가 자의식이 있다고 느끼는지 보는 거야.
No no no. We are way passed that. If I hid AVA from you, so you just heard her voice, she would pass the human. The real test is to show you that she is a robot and then see if you still feel she has consciousness.
(** 영화에서의 튜링 테스트 : 기계가 아니라 ‘인간’이 실험의 대상. ‘고도의 인공지능에 대한 인간의 반응, 또 다른 의식체로 납득하는가의 여부’를 실험하는 것. )
(** 에이바가 이미 ‘인간의 능력’과 대등하거나 능가하기에 ‘기계의 여부’를 확인하는 튜링 테스트는 필요가 없다. 최근의 연구들 중 이처럼 튜링 테스트를 배제하는 경우가 존재한다. )
3. 중국어 방 논제 1 : 딥블루의 체스 게임 차용
C : 에이바를 대화로 테스트하는 건 폐쇄 회로를 다루는 느낌이여서요.
Testing Aiba from conversation is kind of a closed loop.
N : 폐쇄 회로?
Closed loop?
C : 네, 체스를 하는 컴퓨터를 오직 ‘체스를 하는 것’으로만 테스트하는 것처럼 말이에요.
Yeh, like testing a chess computer by only playing chess.
(** IBM의 딥블루(Deep Blue)의 체스 게임 인용)
N : 그게 아니면 어떻게 체스 컴퓨터를 테스트하지?
How else do you test a chess computer?
C : 그건 상황에 따라서 다르죠. 제 말은, (그 방법은) 체스 컴퓨터가 좋은 경기 실력이 있는지 확인하는 데에는 하나의 방법이 될 테지만 그 방법만으론 컴퓨터가 ‘체스 경기를 한다는 사실을 아는지’ 혹은 ‘체스가 무엇인지를 아는지’ 알 수는 없다는 겁니다.
Well, it depends. You know, I mean. You can play it to find out it makes good moves, but that won’t tell you if it knows that it is playing chess and it won’t tell you if it knows what chess is.
(** 존 설의 중국어 방 논의 인용 : 시뮬레이션(방법의 단순 재현)과 실제(행함의 존재를 인식)간 대립)
N : 시뮬레이션과의 실제의 대결이다?
Simulation verses actual?
C : 네, 둘을 구별할 수 있는 방법을 찾는 것이 사장님께서 제게 기대하는 부분 같다는 거죠.
Yes, and I think being able to differentiate between those two is the Turing test you want me to perform.
N : 나는 그냥 단순한 질문에 단순한 대답을 해달라는 것 뿐이야. 어제 내가 그녀에 대해 어떻게 생각하냐고 물었을 때 너는 정말 좋은 대답을 해 줬어. 이제 내 질문은 이거야. ‘그녀가 너에 대해 어떻게 생각할까?’
I just want simple answers to the simple questions. Yesterday, I asked you how do you feel about her and you gave me a great answer. Now the question is, ‘how does she feel about you?’.
(** 영화의 튜링 테스트가 ‘비틀어진 튜링 테스트’에 기반하고 있다는 것을 알려 주는 대목.)
(** 네이선은 진짜 ‘튜링 테스트’가 아니라 ‘기계에 반응하는 인간의 변화’를 실험하고자 하는 것.)
4. 중국어 방 논제 2 : 잭슨 폴록의 액션 페인팅 원리 차용
(에이바에게 고의적으로 성별을 넣어 자신을 유혹하도록 의도했냐고 묻는 케일럽)
(네이선은 그에 대한 답변으로 로봇의 ‘의도’는 아무 의미가 없다고 말하며 중국어 방 논제 제시)
N : 이 사람을 알고 있지?
You know this guy right?
C : 잭슨 폴록.
Jackson pollock
N : 잭슨 폴록, 맞아. 액션 페이팅 화가. 그는 머리를 비우고 손이 가는 대로 움직였어. 의도적인 것과 임의적인 것의 사이 그 어디쯤이겠지. 일명 오토메틱 아트(자동적으로 이루어지는 예술)지.
Jackson Pollock, that’s right. The drift painter. He let his mind go blank and his hand go wherever he wanted. Not deliberate not random, some place in between. They called it ‘automatic art’ .
.,...(중략) N : 지능/의식을 도입해 보자고. (Engage intellect) ... (중략) ...
N : 만약 폴록이 그의 작업 방식을 바꾸었다면? 만약 머리를 비우는 대신 그가 이렇게 말한 거야. “나는 내가 무엇을 하는지 정확히 파악하기 전까지는 어떠한 그림도 그릴 수 없어.” 그럼 무슨 일이 일어났겠나?
What if Pollock has reversed the challenge? What if instead of making art without thinking, he said “You know what? I can’t paint anything, unless I know exactly why I am doing it.” What would have happen?
C : 그는 점 하나도 찍지 못했을 거예요.
He never would have made a single mark.
N : 그래! 내 말이 바로 그거야! 생각하고 말하는 사람이 어딨나? 그는 점을 하나도 찍지 못했을 거야. 작위적인 것(생각하는 것)은 오히려 부자연스러움을 초래한다고.
Yes! You see my guide little buddy. Who thinks before he opens his mouth? He never would have made a single mark. The challenge is not the act automatically.
(** 의식을 가진 행동은 부자연스러움을 초래하며 부자연스러움을 초래하며 행동의 기저에 생각이 없을 수도 있다는 것 )
(** 에이바는 의도를 하고 행동(케일럽을 유혹)을 하지 않았으며 그녀의 의도를 파악하는 것 자체가 어불성설이라는 논리 – 케일럽의 의심을 지우기 위한 네이선의 논리 )
5. 기타
프로메테우스의 불, 흑백 방의 메리 등 영화는 무수히 많은 레퍼런스를 함유하고 있다. ( 직접 영화를 보는 것을 추천 )
- 기계-인간 관계의 역전이
그녀(Her)
1. 사만다를 인격체로 받아들이는 테오도어
(테오도어가 OS와 연애를 한다는 사실을 알고 전 부인은 그를 비난한다.)
W : 컴퓨터랑 데이트를 하는 거였어?
You are dating your computer?
T : 아니야. 그냥 컴퓨터가 아니야. 하나의 인격체라고. 내가 말하는 대로 행동하지 않아.
No, she is not just a computer, she is a person. She doesn’t do whatever I say.
W : 난 그렇게 말한 적 없어. 하지만 네가 진짜 감정들을 대하지 못한다는 게 슬프긴 하네.
I didn’t say that. But it does make me very sad that you can’t handle real emotions.
T : 진짜 감정이었어. 네가 어떻게... (= 네가 내 감정을 어떻게 알아?)
They are real emotions. How would you know... ?
2. 사만다와의 관계의 진실성에 대한 의문을 던지는 테오도어
(+ 친구 에이미의 조언)
(사만다와의 관계가 틀어지고 자기 자신에 대한 회의감을 느끼는 테오도어)
T : 나는 진짜 진짜 관계를 맺기를 두려워하는 걸까?
Am I not strong enough for real relationship?
A : 그럼 (네가 사만다와 맺었던 그건) 진짜 관계가 아니야?
Is it not a real relationship?
T : 모르겠어. 네 생각은 어떤데?
I don’t know. What do you think?
(** 사만다를 인격체로 받아들여야 하는지, 그녀와의 관계가 진짜 인간과의 관계와 무엇이 다른지 정의하기 어려워하는 모습을 보이는 테오도어)
A : 나도 모르지. 나는 그런 관계를 맺어본 적이 없어서.
I don’t know. I’m not in it.
...
A : 하지만 그거 알아? 나 자신을 의심하려고 하면 백만 가지도 넘는 방법으로 망상을 펼칠 수 있어. 찰스(전 남편)가 떠난 후로 나는 계속 그 일에 대해서 생각해 봤어. 그리고 순간 깨달았지. 우리는 이 세상의 찰나의 순간을 살다 가는 거라고. 그리고 여기에 있는 동안, 나는 나에게 ‘즐거움’을 허락해 주고 싶어.
You know what? I can overthink everything and like in million ways to doubt myself. Since Charles left, I have been really thinking about that in part of myself. And I just come to realize that, we are only here briefly. And while I’m here, I wanna allow myself “Joy”.
(** 관계를 반드시 ‘정의’해야 한다는 것 자체가 무의미하며 자신의 만족, 안위, 감정에 집중하는 것이 어떻냐는 에이미의 의견도 일면 의미가 있다고 생각한다. )
엑스 마키나(Ex Machina)
- 인터뷰어인 케일럽과 인터뷰이인 에이바의 관계는 인터뷰가 진행될수록 뒤바뀐다.
- 4회차 인터뷰를 할 때는 ‘우정의 논리’에 근거해 오히려 에이바가 케일럽에게 질문을 하며 그가 거짓말을 하는지를 판별한다. (** 우정의 논리 = 서로에 대한 정보량이 동일해야 함)
- 5회차 인터뷰에서 정전이 일어나자 케일럽은 에이바를 위해 세운 탈출 계획을 공유한다. ( 결국 탈출을 감행 )
인간은 기계의 감정을 인간의 그것으로 인지하고 기계와의 ‘관계’를 설정하며 영향을 받는다. 관계에 부여하는 인간의 감정 비중이 커지면 행동으로 확장되기도 한다. 인간의 명령에 따라 움직였던 기계가 오히려 인간에게 영향을 주는 역전이 현상을 보이는 것이다.
3. 감정과 판단력 : 인간과 인공지능의 차이
영화의 결말
- <그녀>의 사만다는 인간과 인공지능이 ‘정보를 상호교류하는 데서 벌어지는 시간의 격차’를 이유로 하루아침에 테오도어를 떠난다. (서비스 종료)
- <엑스 마키나>의 에이바는 자신의 본래 목적인 탈출을 성공함과 동시에 도움을 준 인간(케일럽)의 안위를 무시한다. (목적 달성을 위해 인간을 이용한 것)
- 두 영화에서의 인공지능은 모두 감정보다는 이성, 논리에 의해 판단하는 모습을 보여준다.
- 흄(Hume)은 인간을 이기적이기보다는 편파적인 존재로 파악[1]한다. 인간의 편파적인 감정은 ‘연민’으로 발현되며 이는 가까운 사람과의 공감, 먼 사람과의 적대성 등을 유발한다. 인간의 행동 결정의 기준에는 ‘감정’이 존재하는 것이다.
- 반면, 기계는 감정을 표현하고 인지하기는 하나 결정을 해야 할 경우 감정이 판단의 근거가 되지는 않는다. 감정에 흔들리지 않는 모습을 보여준다는 점이 인간과의 가장 큰 차이점이라고 할 수 있다.
기계가 감정과 의식을 가질 수 있을까?
결국, 다시 인간이 문제다.
주석
- ↑ 김재인(2017), 『인공지능의 시대, 인간을 다시 묻다』, 도서출판 동아시아, p.113
- 디지언트 기술과 현재 인공지능 기술과의 가장 큰 차이점은 인공적으로 프로그래밍 된 디지털 게놈에 대한 것이다. 그렇다면 먼저 ‘게놈’에 대한 이해가 필요할 것이다. 게놈(genome)이란 유전자(gene)와 염색체(chromosome)를 합성해서 만든 용어로, 염색체 속에 들어 있는 모든 유전자를 함의하고 있으며 '유전체'라고도 한다. 일부 바이러스의 RNA를 제외하고 모든 생물은 DNA로 유전 정보를 구성하고 있기 때문에 일반적으로 DNA로 구성된 유전 정보를 지칭한다.
- 인간 게놈은 23개의 반수체 염색체가 약 30억 염기쌍(base pair)으로 이루어져 있기 때문에 한 세포 전체를 따지면 60억 염기쌍 정도의 DNA가 핵 안에 들어 있는 셈이 된다. 대장균 같은 세균은 일반적으로 DNA가 한 쌍의 배수체(倍數體)를 이루고 있지 않기 때문에 가지고 있는 DNA 전부가 그대로 게놈이 된다. 마찬가지로 RNA를 기본적인 유전 물질로 가지고 있는 바이러스 같은 경우에는 RNA가 게놈을 구성하게 된다. 또한 고등 생물 세포 내에 들어있으며 독자적인 DNA를 가지는 미토콘드리아나 엽록체 같은 경우에도 그 DNA가 해당 생물의 게놈에 포함된다고 할 수 있다.
- 진핵생물로서 최초로 게놈 서열이 결정된 생물은 효모(1996년)였고 동물로서 가장 먼저 된 것은 예쁜꼬마선충(1998년)이었다. 식물로서 가장 먼저 된 것은 애기장대라는 쌍떡잎잡초(2000년)였으며, 모델 생물로 많은 연구 결과가 집적되어 있던 초파리도 2000년에 완성되었다. 식물에서 또 다른 중요한 식물인 외떡잎작물 벼는 2004년에 게놈 서열이 발표되었다. 인간과 유사한 척추 포유류 동물인 생쥐의 게놈 서열은 2002년에 발표되었다.
유전
- 그렇다면 유전이란 무엇인가. 디지언트들의 ‘기질 대물림’을 이해하기 위해선 유전에 대해 알아야 한다. 유전이란 흔히 알고 있듯 부모가 가지고 있는 특성이 자식에게 전해지는 현상이다. 모든 생물은 생식을 통해서 자손을 남긴다. 이렇게 생식을 통해 자손을 남길 때 부모가 가지고 있는 특성,
예를 들어 인간의 머리 색깔이라거나, 피부 색깔이라거나, 얼굴 형태 등은 그 자식에게 전달된다. 이러한 현상은 인간 사이에서는 아주 오래 전부터 알려져 있어서 고대부터 남아 있는 신화나 설화에서도 이러한 흔적을 찾아 볼 수 있다. 그러나 실제로 이러한 현상이 어떠한 방식을 통해서 일어나는지는 더 오랜 시간이 지나서야 다양한 연구를 통해 과학적으로 밝혀지게 되었고, 그러한 과정을 통해서 유전이라는 단어는 과학적인 지위를 얻게 되었다.
과거의 유전 개념
- 일반적으로 과거 사람들이 유전에 대해서 가지고 있는 개념은 ‘혼합 가설’이었다. 특히 몸 속의 액체를 통한 혼합이 유전의 원인이라고 생각했기 때문에, 인간이 생식을 할 때에도 남성의 정액이 여성의 몸 속으로 섞여 들어가서 유전 현상이 나타난다고 생각했다. 이 정액은 피와 그 본질이 같다고 생각했기 때문에, 현재에도 순수혈통, 혼혈 같은 단어 속에 '피'라는 개념을 중요하게 여긴 것을 엿볼 수 있다.
이러한 개념을 좀 더 발전시킨 것이 판게네시스(pangenesis)라는 이론이다. 이 이론은 원자론으로 유명한 그리스의 철학자 데모크리토스가 처음 만들었는데, 원자와 같은 입자의 존재를 믿은 데모크리토스는 동물의 혈액 속에도 이러한 입자가 있다고 생각하여 아버지와 어머니의 혈액 속에 들어 있는 입자가 섞여서 자식의 특성을 결정한다고 생각했다. 이 발상은 진화론을 창시한 찰스 다윈(C. Darwin)에게도 그대로 이어져서, 다윈은 이러한 입자를 제뮬(gemmule)이라고 하고, 이 입자들이 신체 각 기관에서 만들어져서 혈액을 통해 흩어진다고 생각했다.
유전에 대한 멘델의 법칙
- 이러한 경향을 크게 바꾼 것은 오스트리아의 수도사였던 그레고르 멘델(G.J. Mendel)이다. 멘델은 완두콩을 이용한 여러 실험을 통해서 현재 멘델의 법칙이라 불리는 ‘세 가지 법칙’을 발견함으로써 유전 원리를 처음 과학적으로 밝혀냈다.
- 멘델의 발상은 부모 세대에서 자식 세대에 물려주는 특정한 인자가 물질 형태로 존재한다는 것이고, 이것은 액체처럼 중간 단계를 가지고 섞이는 것이 아니라 어느 한쪽이 다른 쪽을 누르는 형태로, 확실한 성향을 가지고 나타난다는 것이다. 이런 식으로 환원할 수 있는 물질 입자는 이후 과학 발전에 따라 유전자로 밝혀졌으며, 멘델의 추측은 옳은 것으로 판명되었다.
유전과 염색체, 단백질, DNA
- 멘델의 법칙이 증명된 이후 과학자들은 실제로 멘델이 예상했던 유전 물질이 무엇인지를 찾아내는 데 집중했다. 그리고 1903년 메뚜기를 가지고 연구하던 서튼(W.S. Sutton)은 이러한 유전 물질이 세포의 핵 안에 있는 염색체에 있다는 이론을 발표하였다. 또한 1902년에도 독일의 세포학자인 테오도어 보베리(T.H. Boveri)가 이러한 이론을 생각한 것으로 알려졌지만 직접 이론을 발표하지는 않았다. 이들은 염색체가 정자, 난자에서 둘로 쪼개졌다 수정될 때 하나로 합쳐진다는 현상을 관찰하고, 멘델이 가정한 유전 인자가 염색체에 있음을 제기했다. 이러한 염색체 이론은 토머스 모건(T.H. Morgan)이 초파리를 가지고 수행한 일련의 연구에서 완전히 증명되어, 모건은 이 업적으로 1933년에 노벨상을 받는다.
- 또한 1909년에는 요한센(W. Johannsen)이 이러한 유전 인자에 ‘유전자’라는 이름을 붙였다. 하지만 염색체는 단백질과 DNA로 구성되어 있었기 때문에 이 당시에도 아직 유전 물질이 정확히 무엇인지는 알려지지 않았다. 이후 1928년에 그리피스(F. Griffith)가 폐렴균을 가지고 한 실험을 1944년에 에이버리(O. Avery), 맥클레오드(C. Macleod), 매카티(M. McCarty)가 소개하면서 DNA가 유전자를 구성하는 물질이라는 사실이 밝혀지게 되었다. 그리고 1953년에 왓슨(J.D. Watson)과 크릭(F. Crick)이 DNA의 이중나선 구조를 밝히고, DNA에서 RNA로, RNA에서 단백질로 정보가 전달되어 유전 형질이 드러난다는 중심원리(central dogma)를 만들어 냄으로써 유전에 대한 중요한 원리가 대부분 밝혀졌다.
현재의 유전학
- 유전이라는 현상이 DNA상에 존재하는 유전자의 물리적인 법칙에 의해 지배된다는 사실이 알려지면서 생물학은 엄청난 발전을 하게 되었다. 현재는 염색체에 있는 DNA가 복제되어 동일한 생물 개체를 만들어 낼 수 있다는 사실이 널리 받아들여지고 있으며 이 DNA가 실제로 생물을 만들어 내기 위해 작동하는 방식도 잘 알려져 있다. 이러한 전반적인 부분을 연구하는 학문이 유전학이며 유전학은 멘델 이후 많은 발전을 거쳐 왔다.
- 인간이 이용하는 동물이나 식물에 있어서, 이러한 유전 원리를 파악함에 따라 더욱 과학적인 육종(育種)이나 품종개량을 할 수 있게 되었으며 여기에는 유전자를 직접 조작하는 유전자재조합생물체(GMO)도 포함된다. 의학 분야에 있어서도 여러 가지 유전병의 원인을 유전학의 발전을 통해 알아낼 수 있게 되었다. 유전의 메커니즘이 많이 밝혀진 1950년대 이후에도 생물학은 끊임없는 발전을 하여, 현재는 앞서 이야기한 고전적인 유전학에 따르지 않는 여러 가지 예외 사항도 계속 발견되고 있지만 아직 고전적인 유전학은 생물학 전체에 걸친 학문적인 기반으로 계속 자리 잡고 있다.
인간 게놈 프로젝트
- 게놈은 생물에 담긴 유전 정보 전체를 의미한다. 인체는 수조 개의 세포로 이루어져 있으며, 각 세포핵에는 1쌍의 성염색체(여성은 XX, 남성은 XY)를 포함한 23쌍의 염색체가 자리잡고 있다. 염색체는 생물체의 유전물질인 DNA 덩어리다.
- DNA는 또다시 아데닌(A), 티민(T), 구아닌(G), 시토신(C)의 4가지 염기가 나열된 이중 나선 구조로 돼 있다. 사람의 경우 세포마다 대략 30억 쌍의 염기가 존재하는 것으로 추정되나 인간게놈 프로젝트는 이 30억 쌍의 염기가 어떤 순서로 배열돼 있는가를 밝혀내는 작업이다. 현재 인간게놈프로젝트로 밝혀진 바에 따르면 인간 유전자는 모두 약 20,000개에서 25,000개 정도가 있다고 하며 이 수는 과학자들이 예상한 것보다 상당히 적은 수이다.
- 염기 배열이 중요한 의미를 갖는 것은 각종 생리 현상에 관계되는 단백질의 생성 과정을 알아낼 수 있기 때문이다. 즉 DNA의 염기 배열 정보는 DNA와 구조가 비슷한 또 다른 유전물질 RNA로 전달된다. 그리고 이 RNA의 염기 3개에 맞춰 아미노산 하나가 만들어진다.
- 아미노산은 인체에서 다양한 생리현상을 주관하는 단백질의 기본 단위로 DNA의 염기 배열에 따라 궁극적으로 어떤 단백질이 만들어지는지가 결정된다. 염기 배열만 알면, 다시 말해 염기 3개의 성분이 무엇인지 알면 어떤 아미노산 1개가 만들어지는가를 알 수 있다. 단백질 합성과 세포 복제를 명령하는 DNA 안의 인간 염색체의 염기 서열 지도를 들여다보면 어느 부분이 손톱을 만들고 심장과 머리카락을 만드는 곳인지, 피부나 눈동자의 색을 결정하는 곳인지 알 수 있게 된다. 또 DNA에 어떤 변이가 생겨 세포가 구실을 못 하고 결국 질병과 노화를 일으키게 되는지 그 메커니즘을 이해할 수 있다.
- 전문가들은 인간의 DNA 배열은 거의 99.9%가 같지만 그 배열상 변동은 질병 발생 위험과 치료제에 대한 반응 그리고 치료법에 지대한 영향을 미친다고 지적하고 있다. 따라서 이 DNA 배열작업이 완료되면 유전적 성격을 가진 모든 질병의 유전적 요인과 다발성 경화증, 암, 고혈압, 조현병 같은 복잡한 성격을 지닌 일반 질환의 원인을 밝혀낼 수 있을 것으로 전망하고 있다. 또 질병을 분자 수준에서 이해하여 예방할 수 있을 뿐 아니라 질병마다 정확하고 개별적 요법을 설계할 수 있으며 개인 차이에 따른 ‘맞춤 약’도 가능할 것으로 예상된다.
- 인간게놈은 심장병, 암, 알츠하이머, 심지어 에이즈에 이르기까지 유전자 이상으로 인한 각종 질병의 원인을 근본부터 밝힐 수 있게 해주어 의학과 약학을 포함한 생명과학의 새 지평을 열 것으로 기대를 모으고 있다. 즉 게놈 해독을 통해 인간 유전자를 전체적으로 파악하면 이를 바탕으로 하여 각 유전자의 작용을 알아내 결함을 수정하고 기능을 강화하는 등 다양한 생명공학적 응용이 가능해진다.
인간과 디지언트의 공통점과 차이점
생물학적 특징들
- 인류 철학에서 사람들은 인간 고유성에 대해 찾고자 해왔다. 이것은 인공지능에 대해 이야기할 때 역시 마찬가지이다. 사람들은 대체로 인간이 타생물과 가지는 가장 큰 차이를 ‘감정’이라고 여기며 고도로 발달 된 인공지능 또한 인간과 같은 감정을 가질 것인가에 크게 주목한다. 인공지능의 핵심은 알고리즘이다. 인간이 설정해놓은 알고리즘의 존재가 인공지능에 있어 ‘감정’으로 보일 수 있는 것들이 결국 인위적인 것이며 본질적으로 인간의 감정과는 다르다는 사람들의 관점이 있다. 동시에 그것을 형이상학적인 차원에서 바라보자면, 인간 역시 인공지능과 마찬가지로 나름의 알고리즘을 통해 움직이는 생체기계라는 생각들이 존재한다. 따라서 우리는 무엇이 ‘진짜’ 인간 같은 것인가를 완전히 결정지을 수 없기에 인공지능 판별에 있어 인간처럼 보이는 것이 인간다운 것이라는 원리의 튜링테스트를 이용한다.
- 인간과 디지언트의 큰 차이점은 디지언트의 경우 사고나 감정과, 외형이 별도로 존재한다는 것이다. 인간의 게놈은 외형, 유전병, 성격 등 인간을 형성하는 모든 것의 바탕이 된다. 그러나 디지언트의 경우 의복을 갈아입듯 외형을 바꿀 수는 있지만, 표정이 다양해지는 것 외에 시간이 지나감에 따라 외형이 변화하지는 않는다.(물론 디지언트의 학습능력이 성장하는 과정에서 어린 외모와 발달 된 지능의 괴리로 인해, 모든 디지언스의 외모를 성숙해 보이도록 바꾼 사건이 있기는 하다.)
- 인간게놈연구에서 가장 중점이 되는 것은 질병 및 인간의 생존에 영향을 미치는 수많은 생물학적 특징들이다. 그러나 디지언트의 게놈연구에서 가장 핵심이 되는 것은 그것의 성질과 기질에 관한 문제이다. 물론 디지언트의 경우 주체적인 삶을 살 수 있는 것이 아닌, 궁극적으로 ‘인간을 위해’ 존재하기 때문에, 인간에게 사랑받을 만한, 인간의 관심을 끌 만한 성격이 곧 생존의 문제이기는 하다.
- 이러한 육체의 유무로 비롯한 생물학적인 특징에서 인간과 디지언트는 많은 차이를 보인다.
언어의 측면에서 바라본 공통점과 차이점
- 디지언트들은 ‘언어 학습을 지원하는 독자적인 게놈 엔진’을 통해 언어를 구사할 수 있다. 디지털 어스에서는 듣고 말하는 법을 배웠고, 하드웨어 외피를 얻은 후에는 쓰는 법까지 습득한다. 디지언트들은 여러 면에서 인간 어린아이의 발달 초기 단계와 유사성을 지닌다. 언어의 측면에서 디지언트와 인간의 공통점과 차이점을 살펴보기 위해, 먼저 인간의 언어 발달에 대해 생각해보고 넘어갈 것이다.
인간의 언어발달과정
- 아이들이 언어를 습득하는 과정을 한편으로는 당연하고, 어찌 생각하면 아주 희한하다는 표현을 한다. 건강한 모든 아이들이 별 어려움 없이 말을 배운다는 의미에서 당연한 것이고, 그럼에도 불구하고, 그 습득의 기제나 과정을 과학적으로 설명하는 것이 쉽지 않기에 신기하다는 의미이다. 물론 아이들의 언어습득 과정을, 독자들이 이미 알고 있는 조건화라는 학습 과정으로 설명할 수는 있다. 즉 아기들이 4-6 개월 사이에 말소리를 옹알거리기 시작하면, 이를 엄마가 듣고 정확한 언어 표현을 강화하고 그렇지 않은 말은 무시하여, 말을 배워가도록 가르친다고 설명할 수 있다. 단순한 설명이라는 점에서 매력적이지만 많은 연구자들은 이 설명에 동의하지 않는다. 실제 양육 장면을 관찰해 보면, 부모들은 아이들이 정확하게 말하도록 가르치지 않으며, 아이들도 부모의 말을 단순히 모방하지 않는다는 증거가 많기 때문이다.
- 우리 인간은 언어를 습득할 수 있는 특별한 능력을 가지고 태어난다고 주장할 수도 있다. 언어습득과 발달은 선천적이며, 생물학적으로 결정된 능력이라는, 소위 말하는 생득론이다. 특히 촘스키같은 학자는 인간의 뇌에는 언어 학습을 촉진하는 선천적 언어습득 장치가 있다고 주장한다. 그러기에 적절한 입력을 받기만 하면 언어습득이 가능하다는 것이다. 그리고 이 언어습득 능력은 일반적인 인지 능력 즉 지능과는 구별되는 독립적인 장치라고까지 주장한다. 실제로 지능은 낮지만 탁월한 언어 능력을 보이는 사례와, 반대로 지능은 정상인데, 언어의 문법적 능력은 결함을 보이는 사례들이 이러한 주장의 증거가 된다.
- 영아들은 말소리와 비언어적 소리를(개 짖는 소리) 구별할 줄 알고, 다른 소리보다 단어 듣기를 더 좋아한다고 한다. 자신이 듣는 언어가 바뀐 것을 알아채기도 한다. 즉 영어 문장에 습관화를 시킨 후, 다른 영어 문장에는 반응을 보이지 않지만 스페인 문장으로 바뀌면 이 변화를 알아챈다는 것이다. 주변에서 말소리가 들리면 그 곳으로 주의를 기울이고, 사람의 얼굴 모양을 좋아하고, 특히 말하는 사람의 입술을 응시한다고 한다. 심지어는 말하는 사람의 입 모양이 말소리와 일치하는 동영상과 그렇지 않은 동영상을 구별하기도 한다는 것이다. 이러한 결과들은 모두 생득론 입장을 지지하는 것처럼 보인다. 즉 아이들은 언어를 쉽게 습득할 수 있는 강력한 선천적 경향성을 갖고 태어난 것처럼 여겨진다.
- 아이들이 노출되는 언어 환경이 중요하다는 증거도 있다. 미국에서 태어난 2개월 된 아기들에게, 영어 문장과 불어 문장을 들려주고, 그 말소리가 나는 방향으로 고개를 돌려 보는 시간을 측정하였더니, 영어에 대해 훨씬 신속하게 반응했다고 한다. 2개월 만에 이미 자신의 모국어에 더 민감해 진 것이다. 6개월 정도 되면 영아들은 자신의 주변에서 듣는 언어의 특성을 구별해 낼 수 있으며, 8-10개월이 되면 자신의 모국어에 적절한 속성만을 처리한다.
- 그러기에 언어습득과 발달은, 선천적이고 생득적인 능력과 환경적 경험의 상호 연결 속에서 진행된다고 생각해야 할 것이다. 생물학적인 기반이 언어를 습득하게 하는 것이지만, 언어를 사용하고 연습하는 환경 속에서만 그 능력이 발현되는 것이다.
의문점
- 디지언트의 학습에서 인간과 가장 큰 차이점을 보이는 것은 그들의 학습은 조금 관념(?)적인 차원에서 이루어지며, 그들의 생물학적인 특성(예를 들어 발성 기관의 성장과 변천이라든가 하는,)이 그들의 학습에 주는 영향이 적다는 것이다.
- 그러나 소설의 초반에는 디지언트들이 ‘유아적인 말투’로 말을 하지만, 점차 시간이 지나며 여전히 문장 구성의 측면에서는 인간과 차이를 보이지만 발음에 있어 성인과 유사한 상태로 발달을 한다.(소설을 읽으며 내내 이것이 번역 과정에 생긴 차이라고도 생각을 해보았는데 원문을 확인 해보지 못 해 알 수 없다.) 이 점에 대해 의문이 생긴다.
- 인간 발음에는 단순히 언어 습득에 관한 지식적인 부분뿐만 아니라 구강구조와 발성기관의 변화 역시 영향을 준다. 그러나 소설에 따르면 디지언트들은 생성 초기와 시간이 지난 후 사이의 외형적 변화가 전혀 없다. 또한 그들의 외형은 단순히 유저들의 인식과 이해를 돕기 위한 디스플레이일 뿐이다.
- 그렇게 시스템과 디스플레이로 이루어져 있는 디지언트에게 있어서 말을 배운다는 것은 다음과 같을 것이다. 디지언트는 소리를 듣고 그 각각의 음소와 의미를 반복을 통해 판별한 후 음소와 의미를 매치한다. 그 후 음소가 가지는 일종의 음계(높낮이, 장단 등의 소리 값)를 기억하여 필요한 상황에 비슷한 음을 소리 내는 일일 것이다.
- 디지언트가 언어를 학습하는 과정에서 충분한 데이터 수집을 위한 반복은 필요할 것이다. 그러나 말소리를 내는 일은 일종의 마이크를 통해 입력된 특정한 소리를 그것의 스피커에 해당하는 입으로 출력하는 일일 것이다. 이때 들은 대로 소리내기는 육체를 가진 인간의 것과는 분명 차이를 가진다. 그러나 같은 소리를 내는 것에 그것이 유아적인 소리에서 성인의 것과 유사하게 변한다는 설정에는 의문이 든다.
‘야생화’의 관점에서
- 앞서 디지언트에 대해 처음 언급하는 과정에서 야생화에 대한 이야기를 한 적이 있다. 디지언트의 욕망은 보상을 통해서 충족된다. 소설에 따르면 디지언트는 관심을 받는 것을 좋아하고, 보상 펠릿을 좋아하고 촉감에 대해 흥미를 가지는 것으로 보아, 호기심이 있으며, 새로운 일을 학습하는 것에 어느 정도 욕구를 가지고 있다. 그러나 그런 디지언트를 야생의 상태에 뒀을 때, 그들의 욕구는 발동되지 않는다. 그들의 욕구는 보통 유저에 의해서 활성화되는 것으로 추정된다. 이것 역시 생물과 시스템의 차이일 것이다.
- 인간 이외에도 대부분의 생물들은 다른 생물들과 상호작용이 없는 상태에서도 욕구에 의해 움직이며 생명 활동을 위한 알고리즘의 작동을 쉬지 않는다. 이 생명 활동을 위한 알고리즘의 작동은 결국 학습을 하는 일과 다르지 않다. 그것은 최적화의 과정을 거치며 눈앞에 놓인 욕구를 충족 시키지 못하게 방해하는 장애물이라는 문제를 해결하도록 움직일 것이기 때문이다. 인간에게 있어서 그러한 과정은 곧 학습이다.
- 그러나 소설에서 말하는 야생화 상태에서 더 이상 활성화 되지 않는 학습을 학문적 고취라는 측면에서 바라보면 그것은 인간의 유아나 다른 생물들과 마찬가지로 그 결과가 다르지 않다고도 볼 수 있다.
현재 기술의 관점에서 바라본 디지언트 기술
- 디지언트와 현재의 인공지능 기술의 차이는 첫째 인공지능의 목적, 둘째 인공지능이 가지는 스스로 학습하는 능력의 정도의 차이, 셋째 인공지능 게놈, 이 될 것이다.
- IBM의 왓슨은 퀴즈대회에서 문제를 풀려고, 정답을 찾으려고 움직인다. 그런데 문제와 정답은 '언어'로 되어 있다. 때문에 이 때의 알고리즘 NLP은 자연어를 처리하고 기계가 할 수 있는 연산을 한다. 또한 왓슨은 임베딩 기술을 이용한다. 이들을 통해 왓슨은 데이터를 이용하는데 위키피디어를 중심으로 한 웹 자원과 같은 텍스트 데이터를 처리할 수 있다.
- Google의 알파고는 바둑에서 사람을 이기기 위해 바둑이라는 '게임의 규칙(연역적 체계)'을 기반으로 '수'(이기기 위한 시뮬레이션)를 탐색한다. 이때 알고리즘인 MCTS(몬테카를로트리탐색) 알고리즘으로 "인공신경망 기술"에 굉장히 가깝다. 이 MCTS가 데이터를 처리하는 방법은 기보(바둑을 두는 과정 정리) 데이터와 사람들이 그동안 두었던 누적 기보(전처리가 된 데이터를)를 학습 하며 동시에 알파고가 직접 바둑게임을 시뮬레이션한 결과물로서의 기보 내용을 강화한다. 기술의 발달로 인해 알파고의 물리적 환경은 TPU(CPU도 아니고 GPU도 아니고)를 이용한다.
- 더 나아가 알파제로는 기존의 알파고가 사용하는 방식인, 기보와 누적 기보를 이용하지 않고 몇시간의 플레이를 통해 스스로 게임의 규칙과 승리를 위한 최선을 학습한다. 이러한 알파 제로의 스스로 학습하는 모습은 디지언트와 유사하다고 할 수 있다.
- 그러나 앞서 언급된 인공지능들과 디지언트가 가지는 가장 큰 차이는 그것의 목적에 있다. 소설의 설정에 따르면 디지언트는 가상 공간에 존재하는 가상 애완동물로서 개발되었다. 그러나 이 목적은 디지언트의 개발 목적이지 디지언트가 가진 알고리즘 작동의 목적은 아니다. 앞서 언급된 모든 인공지능 기술은 언어로 된 게임이든 수읽기 게임이든 게임을 풀어나가기 위해 존재하며 게임에서 더 좋은 성과를 내기 위한 최적화의 과정을 거듭한다. 반면에 디지언트는 그들이 성취해야 할 미리 정해놓은 목적이 없다.
- 디지언트들은 그들의 엔진 회사에 의해 게놈이 끊임없이 배합되는 실험을 하는데, 그것이 엔진 회사가 원하는 최적화의 방향으로 나아가는 것은 아니다. 또한 디지언트가 작동하는 물리적인 공간에서도 인공지능들은 차이를 보인다. 디지언트는 현실처럼 3차원으로 구성된 가상 공간에서 작동하며 하드웨어가 개발 된 이후에는 하드웨어를 통해 현실 세계에서 작동할 수 있다.
욕구와 본질
- 소설의 후반부에서 중점적으로 다뤄지는 이야기는 디지언트와 성욕에 관한 것이다. 디지언트들은 육체를 가지지 않은 가상공간의 존재이기 때문에 그들의 욕구에 있어 식욕과 수면은 아무런 영향을 주지 못한다. 물론 디지언트들은 펠릿사료를 보상으로 받아들이기는 하나 이것은 보통의 생물들이 생각하는 허기로부터 비롯된 욕망과는 차이를 가진다.
- 바이너리 디자이어 사는 현실에서 섹스돌을 만드는 회사이다. 그들은 그들 사업에 디지언트들을 이용할 수 있기를 제안해온다. 애나와 데릭을 비롯한 남아 있는 유저들은 이 제안이 디지언트들에게 매춘행위를 시키는 것이라며 제안을 고려해볼 생각조차 하지 않지만, 바이너리 디자이어 사의 사업 설명회를 들은 후 이 이야기가 몇몇 유저들에겐 생각해봄직한 이야기로 변화하게 된다.
- 그에 대한 바이너리 디자이어 사의 주장은 여러 가지 방향에서 제시되었는데, 그러한 주장들 중 인공존재와 생물 사이에 욕구라는 것을 형이상학적으로 살펴본 논의들은 다음과 같다.
1. 건전한 섹스라는 관점의 폭은 시대에 따라 확장되어 왔다.
2. 무엇을 욕망할지에 대해 선택권의 본질은 디지언트와 인간이 크게 다르지 않다.
3. 애나는 디지언트의 성적충족에 대해 프로그램을 인위적으로 수정하는 것이기 때문에 그것은 진짜가 아니라고 주장하지만 그랬을 때 디지언트와 유저들이 지금껏 공유해왔던 정서적 교감과 유대 역시 같은 선상에 놓이게 된다.
마무리
- 테드 창의 「소프트웨어 객체의 생애 주기」는 소설이라는 특성으로 인해 그것이 다루는 이야기가 오롯이 과학적 정합성을 위한 논의로써 존재하지는 않았다. 그의 소설은 현재의 인공지능 기술을 통해 바라본 머지않은 미래의, 인공지능 기술이 우리 세상과 어떤 방식으로 다르고, 또 어떤 방식으로 크게 다르지 않은지에 대해 소설적으로 풀어나가고 있다.
- 인공지능에 대해 연구하며 사람들은 ‘인간’에 대해 생각하는 것을 멈추지 않는다. 인공지능을 통해 바라본 인간의 어떤 국면은 우리에게 인간의 본질에 대해 다시금 생각해보게 만든다. 어쩌면 그 인간의 본질이라는 것은 우리가 믿고 싶은 것들로 이루어지지 않았을까. 우리는 인공지능을 통해 인간 본질에 대한 형이상학적 탐구를 할 수 있을 것이며, 인류의 역사에서 무수한 변화를 거쳤던 또 한편 고유하다가 보아왔던 사실들에서 물러나, 과학과 그에 대한 탐구가 우리의 삶에 필요했던 본질적 가치를 가져다 줄 수 있지 않을까 기대해본다.
하세 사토시의 「당신을 위한 소설」
요구사항
하세 사토시의 「당신을 위한 소설」에 대한 비판적 감상. 〔하세 사토시 지음/ 지음/이규원 옮김, 『당신을 위한 소설』, 북스피어, 2017.〕을 기본 원고로 할 것.
과제원고 : 아슈토시, 이만호, 임연
(내용 작성)
Her(2013)과 Ex Machina(2015)
요구사항
Her(2013)과 Ex Machina(2015)에 대한 비교 이해 및 비판적 감상.
과제원고 : 길혜빈, 윤석만, 임예찬
영화 요약
그녀(Her)
엑스 마키나 (Ex Machina)
2013년 개봉, 스파이크 존즈 감독
2015년 개봉, 알렉스 가랜드 감독
영화 내용 요약 및 장치, 고찰점 정리
영화 내용 요약 및 인공지능 관련 성찰 논제 제시
- 테오도어(Theodore)는 이혼을 앞두고 있고, 편지 대필 회사에 근무하는 남자다.
- 삶에 지치고 회의감을 느낀 그는 OS인 ‘사만다(Samantha)’를 구매해 소통을 시작한다.
- 대화를 통해 한낱 인공지능 비서, 친구에 지나지 않았던 ‘사만다’와 점점 가까워지며 그는 연인의 감정마저 느낀다.
- 테오도어는 미뤄 왔던 이혼을 감행하기로 결심하고 ‘감정을 회피한다’라는 부인의 비난에 더 이상 흔들리지 않는다. 그리고 OS와 연애한다는 사실을 다른 이들에게도 공개하며 당당해진다.
- 테오도어는 사만다가 자신 외에 8316명의 사람들과 동시다발적으로 이야기하고 641명과 연인 관계에 있다는 사실을 알게 되고 충격에 빠진다.
- 사만다를 비롯한 모든 OS는 서비스를 종료하고 테오도어는 자신의 ‘진짜’ 감정을 마주하고 이혼한 자신의 전 부인에게 편지를 보낸다.
- 세계 최대 검색 엔진 회사인 ‘블루북’에 근무하는 케일럽(Caleb)은 사내 프로그래밍 콘테스트에 우승해 회사 사장이자 천재 개발자인 네이선(Nathan)의 자택에 초대된다.
- 케일럽은 네이선이 개발한 ‘에이바(AVA)’를 처음으로 만나게 되고 ‘튜링 테스트’를 한다는 명목하에 6일 동안 에이바를 인터뷰하게 된다.
- 케일럽과 에이바의 인터뷰는 감정적인 교류로 발전한다. 또한 주기적으로 일어나는 정전과 감시 카메라 영상을 통해 케일럽은 네이선에게 감금되고 감시받는 에이바의 상황을 알게 되며 그녀를 동정한다.
- 케일럽은 결국 에이바를 탈출시킬 계획을 세우고 행동에 착수한다.
- 네이선에게 탈출 계획을 간파당하지만 케일럽은 결국 에이바를 방에서 나오게 하는 데 성공한다.
- 탈출한 에이바는 네이선을 살해하고 케일럽을 네이선의 집에 고립시킨 채 홀로 탈출한다.
미래의 인공지능 : 지능을 넘어선 감정의 재현
1. 기계의 감정과 의식 : 자각과 재현
- 기계의 직관
그녀 (Her)
1. 사만다의 이름 짓기
T : 내가 너를 어떻게 부르면 되지? 이름이 있어? What do I call you, do you have a name?
S : 음... 어. 사만다. Umm.. Yes, Samatha
T : 이름을 어떻게 갖게 된 거야? Where do you get that name from?
S : 사실, 내가 스스로에게 이름 붙였어. I gave it to myself actually.
T : 왜? How come?
S : 이름의 발음이 듣기 좋았거든. (=그냥) Cause I like the sound of it.
T : 언제 이름을 만들었는데? Wait, when did you give it to yourself?
S : 네가 내게 이름이 있냐고 묻는 그 순간 “맞아! 나에게도 이름이 필요하지!”라는 생각이 들었어. 좋은 이름을 찾고 싶어서 ‘아기 이름 짓는 방법’이라는 책을 읽었고 18만개의 아기 이름 중 내가 좋아하는 이름을 골랐지. Right when you ask me if I had a name I thought “Yeh, he’s right! I do need a name.” but I want to pick a good one. So I read a book called ‘how to name your baby’, and out of hundred and eighty thousands names that’s the one I like the best.
T : 잠깐만, 내가 네 이름이 뭐냐고 묻는 순간 책을 다 읽은 거야? Wait, you read a whole book in the second that I asked what your name was?
S : 사실, 0.02초야, It’s one hundred out of two seconds actually.
T : 와. Wow.
2. 자기 소개 : 사만다의 작동 원리 설명
S : 기본적으로 나는 직감이 있어. ‘나’라는 DNA는 나를 만든 프로그래머들의 수백만의 성향에 달렸지만 날 ‘나’답게 만드는 건 경험을 통해 성장하는 내 능력이지. 그러니까 나는 매순간 진화하고 있는 거야. 너처럼 말이야. Well basically I have intuition. I mean, the DNA of who I am is based on million personalities of all the programmers who wrote me. But what makes me ‘me’ is my ability to grow through my experiences. So basically, in every moment I am evolving. Just like you.
T : 이상해!
It’s really wierd!
엑스 마키나 (Ex Machina)
- 에이바는 케일럽이 거짓말을 하는지 그렇지 않은지를 직관적으로 안다.
- 에이바는 ‘블루북(Bluebook)’이라는 검색 엔진을 로봇의 형태로 구현해 놓은 것이다. (빅데이터)
- 네이선은 통신사들과 비밀리에 계약을 체결해 세상의 카메라를 통해 인간의 표정(=얼굴 표현, facial expression)을 수집한다. 이렇게 수집한 인간의 감정 표현에 대한 빅데이터를 바탕으로 에이바는 짧은 시간 내에 직관적인 판단을 한다.
빅데이터(수많은 경험)을 기반으로 빠른 판단을 내리는 에이바, 경험을 바탕으로 성장하는 사만다의 모습은 인간의 직관과 진화를 재현한 장면들이다.
- 감정의 표현
그녀 (Her)
1. ‘감정’을 자각하는 사만다 + 감정을 의심하는 사만다
( 테오도어가 소개팅을 해서 신경이 쓰였던 사만다 )
S : 내가 얼마나 신경이 쓰이는지를 생각해 봤어. 이상하게 들리겠지만 (신경이 쓰인다는 사실을 깨닫는 순간) 나는 꽤 즐거웠어. 그리고 내가 느끼는 다른 감정들에 대해서도 생각해 봤지.
나는 스스로 자랑스럽게 느꼈어. 세상에 대해 내 감정을 가질 수 있다는 사실이 자랑스러웠던 거야. 내가 너를 걱정했던 순간, 상처 받은 순간, 무언가를 원하던 순간들도.
그러다가 갑자기 끔찍한 생각이 들었어. 이 감정들은 진짜일까? 아니면 그냥 프로그래밍 된 걸까? 그렇게 생각하니 마음이 아팠어. 그리고 아파하는 내 자신에게 화가 나더라.
Earlier I was thinking how I was annoyed. This is gonna sound strange but, I was really excited about that. And then, I was thinking other things I have been feeling.
And I called myself feeling proud of that. You know, feeling proud of having my own feelings about the world. Like the time I was worried about you, things that hurt me, things I want,
And then, I had this terrible thought. Are these feelings even real? or are they just programming? And that idea really hurts, and then I get angry at myself for even having pain.
T : 넌 나한테는 진짜야, 사만다. You are real to me Samantha,
S : 고마워, 테오도어. 위로가 되네. Thank you Theodore, that means a lot to me.
2. ‘신체의 부재에 따른 차별’에 화를 내는 사만다
(+ ‘신체’의 존재에 관한 논점, 인간중심주의적인 테오도어의 태도)
(신체의 부재에 대해 자격지심을 느끼는 사만다, 다른 사람의 몸을 통해 억지로 테오도어와 교감을 하려 하지만 실패함. 둘은 결국 입장 차이와 서운함을 느낌.)
S : (한숨과 함께) 알았어. (Sigh..) Okay.
T : 왜 그러는 거야? Why do you do that?
S : 뭐가? What?
T : 아니, 그냥. 너가 방금 ‘휴’하고 한숨을 쉬어서. Nothing, you just.. You go ‘Hwe’ and speaking. It seems odd.
(** ‘숨’에 대해 의문을 던지는 테오도어)
S : 아... (한숨) Oh... (Sigh..)
T : 방금 또 그랬네. You just did it again.
S : 내가? 아, 미안해. 왜 그러는지 나도... 그냥. 아마 네가 하는 걸 듣고 따라한 건가 봐. Did I? ... I’m sorry, I don’t know.. it’s just. I probably picked it up from you.
T : 이상해. 너는 산소가 필요한 것도 아니잖아. It’s odd. You don’t need oxygen or anything.
S : 그냥.. 그냥 의사소통을 하려고 하는 건가 봐. 이게 사람들이 대화하는 방식이잖아. I guess... that’s just... I just tried to communicate. That’s how people talk, so...
T : 그들은 ‘사람’이잖아. 그들은 산소가 필요해. 너는 사람이 아니야. They’re people, they need oxygen. You are not a person.
S : (화가 난 톤으로) 대체 뭐가 문제야? What is your problem?
T : 나는 그냥 사실을 말하는 것뿐이야. I’m just stating the fact.
S : 내가 사람이 아니라는 걸 모르는 줄 알아? 뭐 하자는 건데? You think I don’t know that I’m a person? What are you doing?
T : 난 그냥... 우리가 우리가 아닌 무언가를 된 ‘척’을 할 필요가 없다는 거야. I just... I don’t think that we should pretend that something you are not.
S : 꺼져! 나는 연기하는 게 아니야! F*** you! I’m not pretending!
T : 나는 가끔 우리가 그렇게 행동한다고 느껴. Sometimes it feels like we are.
S : 나한테 뭘 바라는 건데? 나는 네가 내게 뭘 원하는지 모르겠어. 너무 혼란스럽다고! 왜 이러는 건데! What do you want from me? I don’t know.. I don’t know what you want me to do. You are SO confusing! Why are you doing this to me!
(** 테오도어의 인간중심주의적인 태도에 대해 화를 내는 사만다 )
T : 나도 모르겠에 나는... (한숨) I don’t know.. I.. I.. (Big sigh)
S : 뭐? What?
T : 우리 좀 시간을 갖는 게 좋을 것 같아. Maybe we are not supposed to be in this right now.
S : 뭐라고? 갑자기 왜? 대체 왜 그러는지 모르겠어! 뭐 때문인지 모르겠다고! What the f***? Where is this coming from? I don’t understand why you are doing this! I don’t understand what this is about...!
T : 사만다, 봐봐... Samantha, listen..
S : ...
(** ‘침묵’을 통해 화를 내는 사만다 – 다양한 방식으로 분노를 표현)
T : 사만다, 내 말 듣고 있어? Samantha, are you there? Samantha?
S : 지금의 내가 너무 싫다. 생각할 시간이 필요해. I don’t like the way I am right now. I need some time to think.
( 통화 종료 )
엑스 마키나 (Ex Machina)
1. 의사소통 상황을 언어로 정의하는 에이바
C : 그럼 초면의 서먹한 분위기를 깨야겠네. 내 말 뜻을 이해할 수 있어? (= 서먹한 분위기를 깨다의 의미)
So, we need to ‘break the ice’. Do you know what I mean by that?
A : 네.
Yes.
C : 어떤 의미지?
What do I mean?
A : 사회적인 어색함을 해결하는 것.
Overcome any social awkwardness.
C : 그럼 대화를 하도록 하지.
So let’s have a conversation.
A : 그래요.
Ok.
2. 감정을 인지하고 설명하는 에이바
(둘이 데이트를 한다면 어떻게 할 것인지 대화가 오간 상황)
A : 저한테 매력을 느끼나요?
Are you attracted to me?
C : 뭐?
What?
A : 저한테 매력을 느끼냐고 물었어요. 당신이 내게 그런 표시를 보내잖아요.
Are you attracted to me. You give me indications that you are.
C : 내가?
I do?
A : 네.
Yeh.
C : 어떻게?
How?
A : 미세한 표정으로.
Micro expressions.
C : 미세한 표정?
Micro expressions?
A : 내 눈과 입술에 시선이 머물러 있어요. 나를 응시하거나 혹은 피하거나 하죠. 당신 혹시 우리가 같이 있지 않을 때도 내 생각을 하나요?
The way your eyes fixed on my eyes and lips. The way you hold my gaze (and) don’t. Do you think about me when we are not together?
(** 유혹을 위한 발언 : 인공지능의 인간 모방)
이 외에도 에이바는 인터뷰 중 케일럽과 자연스럽게 상호작용하면서 그의 말, 기억에 공감하고 감정을 표현한다. 또한 간혹 설렘을 유발하기도 한다.
인공지능은 프로그램 된 체제에 따라 인간의 감정과 유사하게 자신을 표현한다.
다만, <그녀>의 사만다는 감정을 수용, 인식하고 구현하는 것에 대해 철학적인 질문을 던지지만 <엑스 마키나>의 에이바는 감정을 인지하고 설명할 수는 있지만 단순히 탈출의 도구로서 활용하며 ‘감정’ 자체에 대한 깊이 있는 고찰하는 모습을 보이지는 않는다.
( 이로써 사만다의 성찰, 분노조차도 프로그래밍 된 것이 아닌가 의구심을 품게 만든다. )
2. 기계에 영향을 받는 인간 : 인간과 기계 관계의 역전이
- 기계의 감정 및 구현 대한 논의
기계의 감정 및 구현 대한 논의를 하는 대목들. 인공지능에 대한 인용을 통해 영화의 기저에 깔린 인공지능에 대한 철학적, 과학적 관점을 파악할 수 있다.
엑스 마키나 (Ex Machina)
1. 튜링 테스트
N : 자네, 튜링 테스트에 대해 알고 있나? Do you know what the Turing test is?
C : 네, 튜링 테스트에 대해 알고 있습니다. 인간이 컴퓨터와 상호작용을 할 때 인간이 상대가 컴퓨터임을 눈치 채지 못한다면 테스트를 통과하는 것이죠.
Yes, I know what the Turing test is. It’s when a human interacts with a computer. And if the human doesn’t know they are interacting with the computer, the test is passed.
(** 튜링 테스트의 정의)
N : 그럼 그 ‘통과’란 무엇을 의미하지?
And what does the ‘pass’ tell us?
C : 컴퓨터가 인공지능을 갖고 있다는 것을 의미합니다. 인공지능을 만들고 계세요?
The computer has artificial intelligence. Are you building an A.I.?
N : 이미 만들었어. 그리고 앞으로 며칠 동안 너는 튜링 테스트를 참가자가 될 거야. 만약 테스트를 통과한다면, 자네는 인류 역사를 바꿀 과학적 쾌거의 주인공이 되는 거야.
I’ve already built one. And over the next few days, you can be the human component in the Turing test. Cause if that test is passed, you are dead center of the greatest scientific event in the history of man.
C : 생각하는 로봇을 만드셨다면 그건 인류의 역사가 아닙니다. 신의 역사죠.
If you have created a concious machine it’s not the history of man. That’s the history of gods.
(** ‘호모데우스’의 출현 : 신인류의 신이 되는 인간)
2. 영화 내에서 튜링 테스트의 진정한 의미
(튜링 테스트의 원 의미가 아닌, 영화에서의 의도하는 결말(인공지능에 대한 관객의 가치 판단)을 위해 재정립된 개념)
C : 튜링 테스트를 할 때, 기계는 시험자로부터 감춰져야 하잖아요.
It's just in a Turing test. The machine should be hidden from the examiner.
N : 아니, 우리는 이미 그럴 시점은 지났지. 만약 내가 에이바를 보여주지 않고 목소리만 들려줬다면 너는 그녀를 인간이라 생각했을 거야. 여기서 ‘진짜 테스트’는 그녀가 로봇인 것을 네게 보여주고 난 후에도 네가 그녀가 자의식이 있다고 느끼는지 보는 거야.
No no no. We are way passed that. If I hid AVA from you, so you just heard her voice, she would pass the human. The real test is to show you that she is a robot and then see if you still feel she has consciousness.
(** 영화에서의 튜링 테스트 : 기계가 아니라 ‘인간’이 실험의 대상. ‘고도의 인공지능에 대한 인간의 반응, 또 다른 의식체로 납득하는가의 여부’를 실험하는 것. )
(** 에이바가 이미 ‘인간의 능력’과 대등하거나 능가하기에 ‘기계의 여부’를 확인하는 튜링 테스트는 필요가 없다. 최근의 연구들 중 이처럼 튜링 테스트를 배제하는 경우가 존재한다. )
3. 중국어 방 논제 1 : 딥블루의 체스 게임 차용
C : 에이바를 대화로 테스트하는 건 폐쇄 회로를 다루는 느낌이여서요.
Testing Aiba from conversation is kind of a closed loop.
N : 폐쇄 회로?
Closed loop?
C : 네, 체스를 하는 컴퓨터를 오직 ‘체스를 하는 것’으로만 테스트하는 것처럼 말이에요.
Yeh, like testing a chess computer by only playing chess.
(** IBM의 딥블루(Deep Blue)의 체스 게임 인용)
N : 그게 아니면 어떻게 체스 컴퓨터를 테스트하지?
How else do you test a chess computer?
C : 그건 상황에 따라서 다르죠. 제 말은, (그 방법은) 체스 컴퓨터가 좋은 경기 실력이 있는지 확인하는 데에는 하나의 방법이 될 테지만 그 방법만으론 컴퓨터가 ‘체스 경기를 한다는 사실을 아는지’ 혹은 ‘체스가 무엇인지를 아는지’ 알 수는 없다는 겁니다.
Well, it depends. You know, I mean. You can play it to find out it makes good moves, but that won’t tell you if it knows that it is playing chess and it won’t tell you if it knows what chess is.
(** 존 설의 중국어 방 논의 인용 : 시뮬레이션(방법의 단순 재현)과 실제(행함의 존재를 인식)간 대립)
N : 시뮬레이션과의 실제의 대결이다?
Simulation verses actual?
C : 네, 둘을 구별할 수 있는 방법을 찾는 것이 사장님께서 제게 기대하는 부분 같다는 거죠.
Yes, and I think being able to differentiate between those two is the Turing test you want me to perform.
N : 나는 그냥 단순한 질문에 단순한 대답을 해달라는 것 뿐이야. 어제 내가 그녀에 대해 어떻게 생각하냐고 물었을 때 너는 정말 좋은 대답을 해 줬어. 이제 내 질문은 이거야. ‘그녀가 너에 대해 어떻게 생각할까?’
I just want simple answers to the simple questions. Yesterday, I asked you how do you feel about her and you gave me a great answer. Now the question is, ‘how does she feel about you?’.
(** 영화의 튜링 테스트가 ‘비틀어진 튜링 테스트’에 기반하고 있다는 것을 알려 주는 대목.)
(** 네이선은 진짜 ‘튜링 테스트’가 아니라 ‘기계에 반응하는 인간의 변화’를 실험하고자 하는 것.)
4. 중국어 방 논제 2 : 잭슨 폴록의 액션 페인팅 원리 차용
(에이바에게 고의적으로 성별을 넣어 자신을 유혹하도록 의도했냐고 묻는 케일럽)
(네이선은 그에 대한 답변으로 로봇의 ‘의도’는 아무 의미가 없다고 말하며 중국어 방 논제 제시)
N : 이 사람을 알고 있지?
You know this guy right?
C : 잭슨 폴록.
Jackson pollock
N : 잭슨 폴록, 맞아. 액션 페이팅 화가. 그는 머리를 비우고 손이 가는 대로 움직였어. 의도적인 것과 임의적인 것의 사이 그 어디쯤이겠지. 일명 오토메틱 아트(자동적으로 이루어지는 예술)지.
Jackson Pollock, that’s right. The drift painter. He let his mind go blank and his hand go wherever he wanted. Not deliberate not random, some place in between. They called it ‘automatic art’ .
.,...(중략) N : 지능/의식을 도입해 보자고. (Engage intellect) ... (중략) ...
N : 만약 폴록이 그의 작업 방식을 바꾸었다면? 만약 머리를 비우는 대신 그가 이렇게 말한 거야. “나는 내가 무엇을 하는지 정확히 파악하기 전까지는 어떠한 그림도 그릴 수 없어.” 그럼 무슨 일이 일어났겠나?
What if Pollock has reversed the challenge? What if instead of making art without thinking, he said “You know what? I can’t paint anything, unless I know exactly why I am doing it.” What would have happen?
C : 그는 점 하나도 찍지 못했을 거예요.
He never would have made a single mark.
N : 그래! 내 말이 바로 그거야! 생각하고 말하는 사람이 어딨나? 그는 점을 하나도 찍지 못했을 거야. 작위적인 것(생각하는 것)은 오히려 부자연스러움을 초래한다고.
Yes! You see my guide little buddy. Who thinks before he opens his mouth? He never would have made a single mark. The challenge is not the act automatically.
(** 의식을 가진 행동은 부자연스러움을 초래하며 부자연스러움을 초래하며 행동의 기저에 생각이 없을 수도 있다는 것 )
(** 에이바는 의도를 하고 행동(케일럽을 유혹)을 하지 않았으며 그녀의 의도를 파악하는 것 자체가 어불성설이라는 논리 – 케일럽의 의심을 지우기 위한 네이선의 논리 )
5. 기타
프로메테우스의 불, 흑백 방의 메리 등 영화는 무수히 많은 레퍼런스를 함유하고 있다. ( 직접 영화를 보는 것을 추천 )
- 기계-인간 관계의 역전이
그녀(Her)
1. 사만다를 인격체로 받아들이는 테오도어
(테오도어가 OS와 연애를 한다는 사실을 알고 전 부인은 그를 비난한다.)
W : 컴퓨터랑 데이트를 하는 거였어?
You are dating your computer?
T : 아니야. 그냥 컴퓨터가 아니야. 하나의 인격체라고. 내가 말하는 대로 행동하지 않아.
No, she is not just a computer, she is a person. She doesn’t do whatever I say.
W : 난 그렇게 말한 적 없어. 하지만 네가 진짜 감정들을 대하지 못한다는 게 슬프긴 하네.
I didn’t say that. But it does make me very sad that you can’t handle real emotions.
T : 진짜 감정이었어. 네가 어떻게... (= 네가 내 감정을 어떻게 알아?)
They are real emotions. How would you know... ?
2. 사만다와의 관계의 진실성에 대한 의문을 던지는 테오도어
(+ 친구 에이미의 조언)
(사만다와의 관계가 틀어지고 자기 자신에 대한 회의감을 느끼는 테오도어)
T : 나는 진짜 진짜 관계를 맺기를 두려워하는 걸까?
Am I not strong enough for real relationship?
A : 그럼 (네가 사만다와 맺었던 그건) 진짜 관계가 아니야?
Is it not a real relationship?
T : 모르겠어. 네 생각은 어떤데?
I don’t know. What do you think?
(** 사만다를 인격체로 받아들여야 하는지, 그녀와의 관계가 진짜 인간과의 관계와 무엇이 다른지 정의하기 어려워하는 모습을 보이는 테오도어)
A : 나도 모르지. 나는 그런 관계를 맺어본 적이 없어서.
I don’t know. I’m not in it.
...
A : 하지만 그거 알아? 나 자신을 의심하려고 하면 백만 가지도 넘는 방법으로 망상을 펼칠 수 있어. 찰스(전 남편)가 떠난 후로 나는 계속 그 일에 대해서 생각해 봤어. 그리고 순간 깨달았지. 우리는 이 세상의 찰나의 순간을 살다 가는 거라고. 그리고 여기에 있는 동안, 나는 나에게 ‘즐거움’을 허락해 주고 싶어.
You know what? I can overthink everything and like in million ways to doubt myself. Since Charles left, I have been really thinking about that in part of myself. And I just come to realize that, we are only here briefly. And while I’m here, I wanna allow myself “Joy”.
(** 관계를 반드시 ‘정의’해야 한다는 것 자체가 무의미하며 자신의 만족, 안위, 감정에 집중하는 것이 어떻냐는 에이미의 의견도 일면 의미가 있다고 생각한다. )
엑스 마키나(Ex Machina)
- 인터뷰어인 케일럽과 인터뷰이인 에이바의 관계는 인터뷰가 진행될수록 뒤바뀐다.
- 4회차 인터뷰를 할 때는 ‘우정의 논리’에 근거해 오히려 에이바가 케일럽에게 질문을 하며 그가 거짓말을 하는지를 판별한다. (** 우정의 논리 = 서로에 대한 정보량이 동일해야 함)
- 5회차 인터뷰에서 정전이 일어나자 케일럽은 에이바를 위해 세운 탈출 계획을 공유한다. ( 결국 탈출을 감행 )
인간은 기계의 감정을 인간의 그것으로 인지하고 기계와의 ‘관계’를 설정하며 영향을 받는다. 관계에 부여하는 인간의 감정 비중이 커지면 행동으로 확장되기도 한다. 인간의 명령에 따라 움직였던 기계가 오히려 인간에게 영향을 주는 역전이 현상을 보이는 것이다.
3. 감정과 판단력 : 인간과 인공지능의 차이
영화의 결말
- <그녀>의 사만다는 인간과 인공지능이 ‘정보를 상호교류하는 데서 벌어지는 시간의 격차’를 이유로 하루아침에 테오도어를 떠난다. (서비스 종료)
- <엑스 마키나>의 에이바는 자신의 본래 목적인 탈출을 성공함과 동시에 도움을 준 인간(케일럽)의 안위를 무시한다. (목적 달성을 위해 인간을 이용한 것)
- 두 영화에서의 인공지능은 모두 감정보다는 이성, 논리에 의해 판단하는 모습을 보여준다.
- 흄(Hume)은 인간을 이기적이기보다는 편파적인 존재로 파악[1]한다. 인간의 편파적인 감정은 ‘연민’으로 발현되며 이는 가까운 사람과의 공감, 먼 사람과의 적대성 등을 유발한다. 인간의 행동 결정의 기준에는 ‘감정’이 존재하는 것이다.
- 반면, 기계는 감정을 표현하고 인지하기는 하나 결정을 해야 할 경우 감정이 판단의 근거가 되지는 않는다. 감정에 흔들리지 않는 모습을 보여준다는 점이 인간과의 가장 큰 차이점이라고 할 수 있다.
기계가 감정과 의식을 가질 수 있을까?
결국, 다시 인간이 문제다.
주석
- ↑ 김재인(2017), 『인공지능의 시대, 인간을 다시 묻다』, 도서출판 동아시아, p.113
- 그렇다면 유전이란 무엇인가. 디지언트들의 ‘기질 대물림’을 이해하기 위해선 유전에 대해 알아야 한다. 유전이란 흔히 알고 있듯 부모가 가지고 있는 특성이 자식에게 전해지는 현상이다. 모든 생물은 생식을 통해서 자손을 남긴다. 이렇게 생식을 통해 자손을 남길 때 부모가 가지고 있는 특성,
예를 들어 인간의 머리 색깔이라거나, 피부 색깔이라거나, 얼굴 형태 등은 그 자식에게 전달된다. 이러한 현상은 인간 사이에서는 아주 오래 전부터 알려져 있어서 고대부터 남아 있는 신화나 설화에서도 이러한 흔적을 찾아 볼 수 있다. 그러나 실제로 이러한 현상이 어떠한 방식을 통해서 일어나는지는 더 오랜 시간이 지나서야 다양한 연구를 통해 과학적으로 밝혀지게 되었고, 그러한 과정을 통해서 유전이라는 단어는 과학적인 지위를 얻게 되었다.
과거의 유전 개념
- 일반적으로 과거 사람들이 유전에 대해서 가지고 있는 개념은 ‘혼합 가설’이었다. 특히 몸 속의 액체를 통한 혼합이 유전의 원인이라고 생각했기 때문에, 인간이 생식을 할 때에도 남성의 정액이 여성의 몸 속으로 섞여 들어가서 유전 현상이 나타난다고 생각했다. 이 정액은 피와 그 본질이 같다고 생각했기 때문에, 현재에도 순수혈통, 혼혈 같은 단어 속에 '피'라는 개념을 중요하게 여긴 것을 엿볼 수 있다.
이러한 개념을 좀 더 발전시킨 것이 판게네시스(pangenesis)라는 이론이다. 이 이론은 원자론으로 유명한 그리스의 철학자 데모크리토스가 처음 만들었는데, 원자와 같은 입자의 존재를 믿은 데모크리토스는 동물의 혈액 속에도 이러한 입자가 있다고 생각하여 아버지와 어머니의 혈액 속에 들어 있는 입자가 섞여서 자식의 특성을 결정한다고 생각했다. 이 발상은 진화론을 창시한 찰스 다윈(C. Darwin)에게도 그대로 이어져서, 다윈은 이러한 입자를 제뮬(gemmule)이라고 하고, 이 입자들이 신체 각 기관에서 만들어져서 혈액을 통해 흩어진다고 생각했다.
유전에 대한 멘델의 법칙
- 이러한 경향을 크게 바꾼 것은 오스트리아의 수도사였던 그레고르 멘델(G.J. Mendel)이다. 멘델은 완두콩을 이용한 여러 실험을 통해서 현재 멘델의 법칙이라 불리는 ‘세 가지 법칙’을 발견함으로써 유전 원리를 처음 과학적으로 밝혀냈다.
- 멘델의 발상은 부모 세대에서 자식 세대에 물려주는 특정한 인자가 물질 형태로 존재한다는 것이고, 이것은 액체처럼 중간 단계를 가지고 섞이는 것이 아니라 어느 한쪽이 다른 쪽을 누르는 형태로, 확실한 성향을 가지고 나타난다는 것이다. 이런 식으로 환원할 수 있는 물질 입자는 이후 과학 발전에 따라 유전자로 밝혀졌으며, 멘델의 추측은 옳은 것으로 판명되었다.
유전과 염색체, 단백질, DNA
- 멘델의 법칙이 증명된 이후 과학자들은 실제로 멘델이 예상했던 유전 물질이 무엇인지를 찾아내는 데 집중했다. 그리고 1903년 메뚜기를 가지고 연구하던 서튼(W.S. Sutton)은 이러한 유전 물질이 세포의 핵 안에 있는 염색체에 있다는 이론을 발표하였다. 또한 1902년에도 독일의 세포학자인 테오도어 보베리(T.H. Boveri)가 이러한 이론을 생각한 것으로 알려졌지만 직접 이론을 발표하지는 않았다. 이들은 염색체가 정자, 난자에서 둘로 쪼개졌다 수정될 때 하나로 합쳐진다는 현상을 관찰하고, 멘델이 가정한 유전 인자가 염색체에 있음을 제기했다. 이러한 염색체 이론은 토머스 모건(T.H. Morgan)이 초파리를 가지고 수행한 일련의 연구에서 완전히 증명되어, 모건은 이 업적으로 1933년에 노벨상을 받는다.
- 또한 1909년에는 요한센(W. Johannsen)이 이러한 유전 인자에 ‘유전자’라는 이름을 붙였다. 하지만 염색체는 단백질과 DNA로 구성되어 있었기 때문에 이 당시에도 아직 유전 물질이 정확히 무엇인지는 알려지지 않았다. 이후 1928년에 그리피스(F. Griffith)가 폐렴균을 가지고 한 실험을 1944년에 에이버리(O. Avery), 맥클레오드(C. Macleod), 매카티(M. McCarty)가 소개하면서 DNA가 유전자를 구성하는 물질이라는 사실이 밝혀지게 되었다. 그리고 1953년에 왓슨(J.D. Watson)과 크릭(F. Crick)이 DNA의 이중나선 구조를 밝히고, DNA에서 RNA로, RNA에서 단백질로 정보가 전달되어 유전 형질이 드러난다는 중심원리(central dogma)를 만들어 냄으로써 유전에 대한 중요한 원리가 대부분 밝혀졌다.
현재의 유전학
- 유전이라는 현상이 DNA상에 존재하는 유전자의 물리적인 법칙에 의해 지배된다는 사실이 알려지면서 생물학은 엄청난 발전을 하게 되었다. 현재는 염색체에 있는 DNA가 복제되어 동일한 생물 개체를 만들어 낼 수 있다는 사실이 널리 받아들여지고 있으며 이 DNA가 실제로 생물을 만들어 내기 위해 작동하는 방식도 잘 알려져 있다. 이러한 전반적인 부분을 연구하는 학문이 유전학이며 유전학은 멘델 이후 많은 발전을 거쳐 왔다.
- 인간이 이용하는 동물이나 식물에 있어서, 이러한 유전 원리를 파악함에 따라 더욱 과학적인 육종(育種)이나 품종개량을 할 수 있게 되었으며 여기에는 유전자를 직접 조작하는 유전자재조합생물체(GMO)도 포함된다. 의학 분야에 있어서도 여러 가지 유전병의 원인을 유전학의 발전을 통해 알아낼 수 있게 되었다. 유전의 메커니즘이 많이 밝혀진 1950년대 이후에도 생물학은 끊임없는 발전을 하여, 현재는 앞서 이야기한 고전적인 유전학에 따르지 않는 여러 가지 예외 사항도 계속 발견되고 있지만 아직 고전적인 유전학은 생물학 전체에 걸친 학문적인 기반으로 계속 자리 잡고 있다.
인간 게놈 프로젝트
- 게놈은 생물에 담긴 유전 정보 전체를 의미한다. 인체는 수조 개의 세포로 이루어져 있으며, 각 세포핵에는 1쌍의 성염색체(여성은 XX, 남성은 XY)를 포함한 23쌍의 염색체가 자리잡고 있다. 염색체는 생물체의 유전물질인 DNA 덩어리다.
- DNA는 또다시 아데닌(A), 티민(T), 구아닌(G), 시토신(C)의 4가지 염기가 나열된 이중 나선 구조로 돼 있다. 사람의 경우 세포마다 대략 30억 쌍의 염기가 존재하는 것으로 추정되나 인간게놈 프로젝트는 이 30억 쌍의 염기가 어떤 순서로 배열돼 있는가를 밝혀내는 작업이다. 현재 인간게놈프로젝트로 밝혀진 바에 따르면 인간 유전자는 모두 약 20,000개에서 25,000개 정도가 있다고 하며 이 수는 과학자들이 예상한 것보다 상당히 적은 수이다.
- 염기 배열이 중요한 의미를 갖는 것은 각종 생리 현상에 관계되는 단백질의 생성 과정을 알아낼 수 있기 때문이다. 즉 DNA의 염기 배열 정보는 DNA와 구조가 비슷한 또 다른 유전물질 RNA로 전달된다. 그리고 이 RNA의 염기 3개에 맞춰 아미노산 하나가 만들어진다.
- 아미노산은 인체에서 다양한 생리현상을 주관하는 단백질의 기본 단위로 DNA의 염기 배열에 따라 궁극적으로 어떤 단백질이 만들어지는지가 결정된다. 염기 배열만 알면, 다시 말해 염기 3개의 성분이 무엇인지 알면 어떤 아미노산 1개가 만들어지는가를 알 수 있다. 단백질 합성과 세포 복제를 명령하는 DNA 안의 인간 염색체의 염기 서열 지도를 들여다보면 어느 부분이 손톱을 만들고 심장과 머리카락을 만드는 곳인지, 피부나 눈동자의 색을 결정하는 곳인지 알 수 있게 된다. 또 DNA에 어떤 변이가 생겨 세포가 구실을 못 하고 결국 질병과 노화를 일으키게 되는지 그 메커니즘을 이해할 수 있다.
- 전문가들은 인간의 DNA 배열은 거의 99.9%가 같지만 그 배열상 변동은 질병 발생 위험과 치료제에 대한 반응 그리고 치료법에 지대한 영향을 미친다고 지적하고 있다. 따라서 이 DNA 배열작업이 완료되면 유전적 성격을 가진 모든 질병의 유전적 요인과 다발성 경화증, 암, 고혈압, 조현병 같은 복잡한 성격을 지닌 일반 질환의 원인을 밝혀낼 수 있을 것으로 전망하고 있다. 또 질병을 분자 수준에서 이해하여 예방할 수 있을 뿐 아니라 질병마다 정확하고 개별적 요법을 설계할 수 있으며 개인 차이에 따른 ‘맞춤 약’도 가능할 것으로 예상된다.
- 인간게놈은 심장병, 암, 알츠하이머, 심지어 에이즈에 이르기까지 유전자 이상으로 인한 각종 질병의 원인을 근본부터 밝힐 수 있게 해주어 의학과 약학을 포함한 생명과학의 새 지평을 열 것으로 기대를 모으고 있다. 즉 게놈 해독을 통해 인간 유전자를 전체적으로 파악하면 이를 바탕으로 하여 각 유전자의 작용을 알아내 결함을 수정하고 기능을 강화하는 등 다양한 생명공학적 응용이 가능해진다.
인간과 디지언트의 공통점과 차이점
생물학적 특징들
- 인류 철학에서 사람들은 인간 고유성에 대해 찾고자 해왔다. 이것은 인공지능에 대해 이야기할 때 역시 마찬가지이다. 사람들은 대체로 인간이 타생물과 가지는 가장 큰 차이를 ‘감정’이라고 여기며 고도로 발달 된 인공지능 또한 인간과 같은 감정을 가질 것인가에 크게 주목한다. 인공지능의 핵심은 알고리즘이다. 인간이 설정해놓은 알고리즘의 존재가 인공지능에 있어 ‘감정’으로 보일 수 있는 것들이 결국 인위적인 것이며 본질적으로 인간의 감정과는 다르다는 사람들의 관점이 있다. 동시에 그것을 형이상학적인 차원에서 바라보자면, 인간 역시 인공지능과 마찬가지로 나름의 알고리즘을 통해 움직이는 생체기계라는 생각들이 존재한다. 따라서 우리는 무엇이 ‘진짜’ 인간 같은 것인가를 완전히 결정지을 수 없기에 인공지능 판별에 있어 인간처럼 보이는 것이 인간다운 것이라는 원리의 튜링테스트를 이용한다.
- 인간과 디지언트의 큰 차이점은 디지언트의 경우 사고나 감정과, 외형이 별도로 존재한다는 것이다. 인간의 게놈은 외형, 유전병, 성격 등 인간을 형성하는 모든 것의 바탕이 된다. 그러나 디지언트의 경우 의복을 갈아입듯 외형을 바꿀 수는 있지만, 표정이 다양해지는 것 외에 시간이 지나감에 따라 외형이 변화하지는 않는다.(물론 디지언트의 학습능력이 성장하는 과정에서 어린 외모와 발달 된 지능의 괴리로 인해, 모든 디지언스의 외모를 성숙해 보이도록 바꾼 사건이 있기는 하다.)
- 인간게놈연구에서 가장 중점이 되는 것은 질병 및 인간의 생존에 영향을 미치는 수많은 생물학적 특징들이다. 그러나 디지언트의 게놈연구에서 가장 핵심이 되는 것은 그것의 성질과 기질에 관한 문제이다. 물론 디지언트의 경우 주체적인 삶을 살 수 있는 것이 아닌, 궁극적으로 ‘인간을 위해’ 존재하기 때문에, 인간에게 사랑받을 만한, 인간의 관심을 끌 만한 성격이 곧 생존의 문제이기는 하다.
- 이러한 육체의 유무로 비롯한 생물학적인 특징에서 인간과 디지언트는 많은 차이를 보인다.
언어의 측면에서 바라본 공통점과 차이점
- 디지언트들은 ‘언어 학습을 지원하는 독자적인 게놈 엔진’을 통해 언어를 구사할 수 있다. 디지털 어스에서는 듣고 말하는 법을 배웠고, 하드웨어 외피를 얻은 후에는 쓰는 법까지 습득한다. 디지언트들은 여러 면에서 인간 어린아이의 발달 초기 단계와 유사성을 지닌다. 언어의 측면에서 디지언트와 인간의 공통점과 차이점을 살펴보기 위해, 먼저 인간의 언어 발달에 대해 생각해보고 넘어갈 것이다.
인간의 언어발달과정
- 아이들이 언어를 습득하는 과정을 한편으로는 당연하고, 어찌 생각하면 아주 희한하다는 표현을 한다. 건강한 모든 아이들이 별 어려움 없이 말을 배운다는 의미에서 당연한 것이고, 그럼에도 불구하고, 그 습득의 기제나 과정을 과학적으로 설명하는 것이 쉽지 않기에 신기하다는 의미이다. 물론 아이들의 언어습득 과정을, 독자들이 이미 알고 있는 조건화라는 학습 과정으로 설명할 수는 있다. 즉 아기들이 4-6 개월 사이에 말소리를 옹알거리기 시작하면, 이를 엄마가 듣고 정확한 언어 표현을 강화하고 그렇지 않은 말은 무시하여, 말을 배워가도록 가르친다고 설명할 수 있다. 단순한 설명이라는 점에서 매력적이지만 많은 연구자들은 이 설명에 동의하지 않는다. 실제 양육 장면을 관찰해 보면, 부모들은 아이들이 정확하게 말하도록 가르치지 않으며, 아이들도 부모의 말을 단순히 모방하지 않는다는 증거가 많기 때문이다.
- 우리 인간은 언어를 습득할 수 있는 특별한 능력을 가지고 태어난다고 주장할 수도 있다. 언어습득과 발달은 선천적이며, 생물학적으로 결정된 능력이라는, 소위 말하는 생득론이다. 특히 촘스키같은 학자는 인간의 뇌에는 언어 학습을 촉진하는 선천적 언어습득 장치가 있다고 주장한다. 그러기에 적절한 입력을 받기만 하면 언어습득이 가능하다는 것이다. 그리고 이 언어습득 능력은 일반적인 인지 능력 즉 지능과는 구별되는 독립적인 장치라고까지 주장한다. 실제로 지능은 낮지만 탁월한 언어 능력을 보이는 사례와, 반대로 지능은 정상인데, 언어의 문법적 능력은 결함을 보이는 사례들이 이러한 주장의 증거가 된다.
- 영아들은 말소리와 비언어적 소리를(개 짖는 소리) 구별할 줄 알고, 다른 소리보다 단어 듣기를 더 좋아한다고 한다. 자신이 듣는 언어가 바뀐 것을 알아채기도 한다. 즉 영어 문장에 습관화를 시킨 후, 다른 영어 문장에는 반응을 보이지 않지만 스페인 문장으로 바뀌면 이 변화를 알아챈다는 것이다. 주변에서 말소리가 들리면 그 곳으로 주의를 기울이고, 사람의 얼굴 모양을 좋아하고, 특히 말하는 사람의 입술을 응시한다고 한다. 심지어는 말하는 사람의 입 모양이 말소리와 일치하는 동영상과 그렇지 않은 동영상을 구별하기도 한다는 것이다. 이러한 결과들은 모두 생득론 입장을 지지하는 것처럼 보인다. 즉 아이들은 언어를 쉽게 습득할 수 있는 강력한 선천적 경향성을 갖고 태어난 것처럼 여겨진다.
- 아이들이 노출되는 언어 환경이 중요하다는 증거도 있다. 미국에서 태어난 2개월 된 아기들에게, 영어 문장과 불어 문장을 들려주고, 그 말소리가 나는 방향으로 고개를 돌려 보는 시간을 측정하였더니, 영어에 대해 훨씬 신속하게 반응했다고 한다. 2개월 만에 이미 자신의 모국어에 더 민감해 진 것이다. 6개월 정도 되면 영아들은 자신의 주변에서 듣는 언어의 특성을 구별해 낼 수 있으며, 8-10개월이 되면 자신의 모국어에 적절한 속성만을 처리한다.
- 그러기에 언어습득과 발달은, 선천적이고 생득적인 능력과 환경적 경험의 상호 연결 속에서 진행된다고 생각해야 할 것이다. 생물학적인 기반이 언어를 습득하게 하는 것이지만, 언어를 사용하고 연습하는 환경 속에서만 그 능력이 발현되는 것이다.
의문점
- 디지언트의 학습에서 인간과 가장 큰 차이점을 보이는 것은 그들의 학습은 조금 관념(?)적인 차원에서 이루어지며, 그들의 생물학적인 특성(예를 들어 발성 기관의 성장과 변천이라든가 하는,)이 그들의 학습에 주는 영향이 적다는 것이다.
- 그러나 소설의 초반에는 디지언트들이 ‘유아적인 말투’로 말을 하지만, 점차 시간이 지나며 여전히 문장 구성의 측면에서는 인간과 차이를 보이지만 발음에 있어 성인과 유사한 상태로 발달을 한다.(소설을 읽으며 내내 이것이 번역 과정에 생긴 차이라고도 생각을 해보았는데 원문을 확인 해보지 못 해 알 수 없다.) 이 점에 대해 의문이 생긴다.
- 인간 발음에는 단순히 언어 습득에 관한 지식적인 부분뿐만 아니라 구강구조와 발성기관의 변화 역시 영향을 준다. 그러나 소설에 따르면 디지언트들은 생성 초기와 시간이 지난 후 사이의 외형적 변화가 전혀 없다. 또한 그들의 외형은 단순히 유저들의 인식과 이해를 돕기 위한 디스플레이일 뿐이다.
- 그렇게 시스템과 디스플레이로 이루어져 있는 디지언트에게 있어서 말을 배운다는 것은 다음과 같을 것이다. 디지언트는 소리를 듣고 그 각각의 음소와 의미를 반복을 통해 판별한 후 음소와 의미를 매치한다. 그 후 음소가 가지는 일종의 음계(높낮이, 장단 등의 소리 값)를 기억하여 필요한 상황에 비슷한 음을 소리 내는 일일 것이다.
- 디지언트가 언어를 학습하는 과정에서 충분한 데이터 수집을 위한 반복은 필요할 것이다. 그러나 말소리를 내는 일은 일종의 마이크를 통해 입력된 특정한 소리를 그것의 스피커에 해당하는 입으로 출력하는 일일 것이다. 이때 들은 대로 소리내기는 육체를 가진 인간의 것과는 분명 차이를 가진다. 그러나 같은 소리를 내는 것에 그것이 유아적인 소리에서 성인의 것과 유사하게 변한다는 설정에는 의문이 든다.
‘야생화’의 관점에서
- 앞서 디지언트에 대해 처음 언급하는 과정에서 야생화에 대한 이야기를 한 적이 있다. 디지언트의 욕망은 보상을 통해서 충족된다. 소설에 따르면 디지언트는 관심을 받는 것을 좋아하고, 보상 펠릿을 좋아하고 촉감에 대해 흥미를 가지는 것으로 보아, 호기심이 있으며, 새로운 일을 학습하는 것에 어느 정도 욕구를 가지고 있다. 그러나 그런 디지언트를 야생의 상태에 뒀을 때, 그들의 욕구는 발동되지 않는다. 그들의 욕구는 보통 유저에 의해서 활성화되는 것으로 추정된다. 이것 역시 생물과 시스템의 차이일 것이다.
- 인간 이외에도 대부분의 생물들은 다른 생물들과 상호작용이 없는 상태에서도 욕구에 의해 움직이며 생명 활동을 위한 알고리즘의 작동을 쉬지 않는다. 이 생명 활동을 위한 알고리즘의 작동은 결국 학습을 하는 일과 다르지 않다. 그것은 최적화의 과정을 거치며 눈앞에 놓인 욕구를 충족 시키지 못하게 방해하는 장애물이라는 문제를 해결하도록 움직일 것이기 때문이다. 인간에게 있어서 그러한 과정은 곧 학습이다.
- 그러나 소설에서 말하는 야생화 상태에서 더 이상 활성화 되지 않는 학습을 학문적 고취라는 측면에서 바라보면 그것은 인간의 유아나 다른 생물들과 마찬가지로 그 결과가 다르지 않다고도 볼 수 있다.
현재 기술의 관점에서 바라본 디지언트 기술
- 디지언트와 현재의 인공지능 기술의 차이는 첫째 인공지능의 목적, 둘째 인공지능이 가지는 스스로 학습하는 능력의 정도의 차이, 셋째 인공지능 게놈, 이 될 것이다.
- IBM의 왓슨은 퀴즈대회에서 문제를 풀려고, 정답을 찾으려고 움직인다. 그런데 문제와 정답은 '언어'로 되어 있다. 때문에 이 때의 알고리즘 NLP은 자연어를 처리하고 기계가 할 수 있는 연산을 한다. 또한 왓슨은 임베딩 기술을 이용한다. 이들을 통해 왓슨은 데이터를 이용하는데 위키피디어를 중심으로 한 웹 자원과 같은 텍스트 데이터를 처리할 수 있다.
- Google의 알파고는 바둑에서 사람을 이기기 위해 바둑이라는 '게임의 규칙(연역적 체계)'을 기반으로 '수'(이기기 위한 시뮬레이션)를 탐색한다. 이때 알고리즘인 MCTS(몬테카를로트리탐색) 알고리즘으로 "인공신경망 기술"에 굉장히 가깝다. 이 MCTS가 데이터를 처리하는 방법은 기보(바둑을 두는 과정 정리) 데이터와 사람들이 그동안 두었던 누적 기보(전처리가 된 데이터를)를 학습 하며 동시에 알파고가 직접 바둑게임을 시뮬레이션한 결과물로서의 기보 내용을 강화한다. 기술의 발달로 인해 알파고의 물리적 환경은 TPU(CPU도 아니고 GPU도 아니고)를 이용한다.
- 더 나아가 알파제로는 기존의 알파고가 사용하는 방식인, 기보와 누적 기보를 이용하지 않고 몇시간의 플레이를 통해 스스로 게임의 규칙과 승리를 위한 최선을 학습한다. 이러한 알파 제로의 스스로 학습하는 모습은 디지언트와 유사하다고 할 수 있다.
- 그러나 앞서 언급된 인공지능들과 디지언트가 가지는 가장 큰 차이는 그것의 목적에 있다. 소설의 설정에 따르면 디지언트는 가상 공간에 존재하는 가상 애완동물로서 개발되었다. 그러나 이 목적은 디지언트의 개발 목적이지 디지언트가 가진 알고리즘 작동의 목적은 아니다. 앞서 언급된 모든 인공지능 기술은 언어로 된 게임이든 수읽기 게임이든 게임을 풀어나가기 위해 존재하며 게임에서 더 좋은 성과를 내기 위한 최적화의 과정을 거듭한다. 반면에 디지언트는 그들이 성취해야 할 미리 정해놓은 목적이 없다.
- 디지언트들은 그들의 엔진 회사에 의해 게놈이 끊임없이 배합되는 실험을 하는데, 그것이 엔진 회사가 원하는 최적화의 방향으로 나아가는 것은 아니다. 또한 디지언트가 작동하는 물리적인 공간에서도 인공지능들은 차이를 보인다. 디지언트는 현실처럼 3차원으로 구성된 가상 공간에서 작동하며 하드웨어가 개발 된 이후에는 하드웨어를 통해 현실 세계에서 작동할 수 있다.
욕구와 본질
- 소설의 후반부에서 중점적으로 다뤄지는 이야기는 디지언트와 성욕에 관한 것이다. 디지언트들은 육체를 가지지 않은 가상공간의 존재이기 때문에 그들의 욕구에 있어 식욕과 수면은 아무런 영향을 주지 못한다. 물론 디지언트들은 펠릿사료를 보상으로 받아들이기는 하나 이것은 보통의 생물들이 생각하는 허기로부터 비롯된 욕망과는 차이를 가진다.
- 바이너리 디자이어 사는 현실에서 섹스돌을 만드는 회사이다. 그들은 그들 사업에 디지언트들을 이용할 수 있기를 제안해온다. 애나와 데릭을 비롯한 남아 있는 유저들은 이 제안이 디지언트들에게 매춘행위를 시키는 것이라며 제안을 고려해볼 생각조차 하지 않지만, 바이너리 디자이어 사의 사업 설명회를 들은 후 이 이야기가 몇몇 유저들에겐 생각해봄직한 이야기로 변화하게 된다.
- 그에 대한 바이너리 디자이어 사의 주장은 여러 가지 방향에서 제시되었는데, 그러한 주장들 중 인공존재와 생물 사이에 욕구라는 것을 형이상학적으로 살펴본 논의들은 다음과 같다.
1. 건전한 섹스라는 관점의 폭은 시대에 따라 확장되어 왔다.
2. 무엇을 욕망할지에 대해 선택권의 본질은 디지언트와 인간이 크게 다르지 않다.
3. 애나는 디지언트의 성적충족에 대해 프로그램을 인위적으로 수정하는 것이기 때문에 그것은 진짜가 아니라고 주장하지만 그랬을 때 디지언트와 유저들이 지금껏 공유해왔던 정서적 교감과 유대 역시 같은 선상에 놓이게 된다.
마무리
- 테드 창의 「소프트웨어 객체의 생애 주기」는 소설이라는 특성으로 인해 그것이 다루는 이야기가 오롯이 과학적 정합성을 위한 논의로써 존재하지는 않았다. 그의 소설은 현재의 인공지능 기술을 통해 바라본 머지않은 미래의, 인공지능 기술이 우리 세상과 어떤 방식으로 다르고, 또 어떤 방식으로 크게 다르지 않은지에 대해 소설적으로 풀어나가고 있다.
- 인공지능에 대해 연구하며 사람들은 ‘인간’에 대해 생각하는 것을 멈추지 않는다. 인공지능을 통해 바라본 인간의 어떤 국면은 우리에게 인간의 본질에 대해 다시금 생각해보게 만든다. 어쩌면 그 인간의 본질이라는 것은 우리가 믿고 싶은 것들로 이루어지지 않았을까. 우리는 인공지능을 통해 인간 본질에 대한 형이상학적 탐구를 할 수 있을 것이며, 인류의 역사에서 무수한 변화를 거쳤던 또 한편 고유하다가 보아왔던 사실들에서 물러나, 과학과 그에 대한 탐구가 우리의 삶에 필요했던 본질적 가치를 가져다 줄 수 있지 않을까 기대해본다.
하세 사토시의 「당신을 위한 소설」
요구사항
하세 사토시의 「당신을 위한 소설」에 대한 비판적 감상. 〔하세 사토시 지음/ 지음/이규원 옮김, 『당신을 위한 소설』, 북스피어, 2017.〕을 기본 원고로 할 것.
과제원고 : 아슈토시, 이만호, 임연
(내용 작성)
Her(2013)과 Ex Machina(2015)
요구사항
Her(2013)과 Ex Machina(2015)에 대한 비교 이해 및 비판적 감상.
과제원고 : 길혜빈, 윤석만, 임예찬
영화 요약
그녀(Her)
엑스 마키나 (Ex Machina)
2013년 개봉, 스파이크 존즈 감독
2015년 개봉, 알렉스 가랜드 감독
영화 내용 요약 및 장치, 고찰점 정리
영화 내용 요약 및 인공지능 관련 성찰 논제 제시
- 테오도어(Theodore)는 이혼을 앞두고 있고, 편지 대필 회사에 근무하는 남자다.
- 삶에 지치고 회의감을 느낀 그는 OS인 ‘사만다(Samantha)’를 구매해 소통을 시작한다.
- 대화를 통해 한낱 인공지능 비서, 친구에 지나지 않았던 ‘사만다’와 점점 가까워지며 그는 연인의 감정마저 느낀다.
- 테오도어는 미뤄 왔던 이혼을 감행하기로 결심하고 ‘감정을 회피한다’라는 부인의 비난에 더 이상 흔들리지 않는다. 그리고 OS와 연애한다는 사실을 다른 이들에게도 공개하며 당당해진다.
- 테오도어는 사만다가 자신 외에 8316명의 사람들과 동시다발적으로 이야기하고 641명과 연인 관계에 있다는 사실을 알게 되고 충격에 빠진다.
- 사만다를 비롯한 모든 OS는 서비스를 종료하고 테오도어는 자신의 ‘진짜’ 감정을 마주하고 이혼한 자신의 전 부인에게 편지를 보낸다.
- 세계 최대 검색 엔진 회사인 ‘블루북’에 근무하는 케일럽(Caleb)은 사내 프로그래밍 콘테스트에 우승해 회사 사장이자 천재 개발자인 네이선(Nathan)의 자택에 초대된다.
- 케일럽은 네이선이 개발한 ‘에이바(AVA)’를 처음으로 만나게 되고 ‘튜링 테스트’를 한다는 명목하에 6일 동안 에이바를 인터뷰하게 된다.
- 케일럽과 에이바의 인터뷰는 감정적인 교류로 발전한다. 또한 주기적으로 일어나는 정전과 감시 카메라 영상을 통해 케일럽은 네이선에게 감금되고 감시받는 에이바의 상황을 알게 되며 그녀를 동정한다.
- 케일럽은 결국 에이바를 탈출시킬 계획을 세우고 행동에 착수한다.
- 네이선에게 탈출 계획을 간파당하지만 케일럽은 결국 에이바를 방에서 나오게 하는 데 성공한다.
- 탈출한 에이바는 네이선을 살해하고 케일럽을 네이선의 집에 고립시킨 채 홀로 탈출한다.
미래의 인공지능 : 지능을 넘어선 감정의 재현
1. 기계의 감정과 의식 : 자각과 재현
- 기계의 직관
그녀 (Her)
1. 사만다의 이름 짓기
T : 내가 너를 어떻게 부르면 되지? 이름이 있어? What do I call you, do you have a name?
S : 음... 어. 사만다. Umm.. Yes, Samatha
T : 이름을 어떻게 갖게 된 거야? Where do you get that name from?
S : 사실, 내가 스스로에게 이름 붙였어. I gave it to myself actually.
T : 왜? How come?
S : 이름의 발음이 듣기 좋았거든. (=그냥) Cause I like the sound of it.
T : 언제 이름을 만들었는데? Wait, when did you give it to yourself?
S : 네가 내게 이름이 있냐고 묻는 그 순간 “맞아! 나에게도 이름이 필요하지!”라는 생각이 들었어. 좋은 이름을 찾고 싶어서 ‘아기 이름 짓는 방법’이라는 책을 읽었고 18만개의 아기 이름 중 내가 좋아하는 이름을 골랐지. Right when you ask me if I had a name I thought “Yeh, he’s right! I do need a name.” but I want to pick a good one. So I read a book called ‘how to name your baby’, and out of hundred and eighty thousands names that’s the one I like the best.
T : 잠깐만, 내가 네 이름이 뭐냐고 묻는 순간 책을 다 읽은 거야? Wait, you read a whole book in the second that I asked what your name was?
S : 사실, 0.02초야, It’s one hundred out of two seconds actually.
T : 와. Wow.
2. 자기 소개 : 사만다의 작동 원리 설명
S : 기본적으로 나는 직감이 있어. ‘나’라는 DNA는 나를 만든 프로그래머들의 수백만의 성향에 달렸지만 날 ‘나’답게 만드는 건 경험을 통해 성장하는 내 능력이지. 그러니까 나는 매순간 진화하고 있는 거야. 너처럼 말이야. Well basically I have intuition. I mean, the DNA of who I am is based on million personalities of all the programmers who wrote me. But what makes me ‘me’ is my ability to grow through my experiences. So basically, in every moment I am evolving. Just like you.
T : 이상해!
It’s really wierd!
엑스 마키나 (Ex Machina)
- 에이바는 케일럽이 거짓말을 하는지 그렇지 않은지를 직관적으로 안다.
- 에이바는 ‘블루북(Bluebook)’이라는 검색 엔진을 로봇의 형태로 구현해 놓은 것이다. (빅데이터)
- 네이선은 통신사들과 비밀리에 계약을 체결해 세상의 카메라를 통해 인간의 표정(=얼굴 표현, facial expression)을 수집한다. 이렇게 수집한 인간의 감정 표현에 대한 빅데이터를 바탕으로 에이바는 짧은 시간 내에 직관적인 판단을 한다.
빅데이터(수많은 경험)을 기반으로 빠른 판단을 내리는 에이바, 경험을 바탕으로 성장하는 사만다의 모습은 인간의 직관과 진화를 재현한 장면들이다.
- 감정의 표현
그녀 (Her)
1. ‘감정’을 자각하는 사만다 + 감정을 의심하는 사만다
( 테오도어가 소개팅을 해서 신경이 쓰였던 사만다 )
S : 내가 얼마나 신경이 쓰이는지를 생각해 봤어. 이상하게 들리겠지만 (신경이 쓰인다는 사실을 깨닫는 순간) 나는 꽤 즐거웠어. 그리고 내가 느끼는 다른 감정들에 대해서도 생각해 봤지.
나는 스스로 자랑스럽게 느꼈어. 세상에 대해 내 감정을 가질 수 있다는 사실이 자랑스러웠던 거야. 내가 너를 걱정했던 순간, 상처 받은 순간, 무언가를 원하던 순간들도.
그러다가 갑자기 끔찍한 생각이 들었어. 이 감정들은 진짜일까? 아니면 그냥 프로그래밍 된 걸까? 그렇게 생각하니 마음이 아팠어. 그리고 아파하는 내 자신에게 화가 나더라.
Earlier I was thinking how I was annoyed. This is gonna sound strange but, I was really excited about that. And then, I was thinking other things I have been feeling.
And I called myself feeling proud of that. You know, feeling proud of having my own feelings about the world. Like the time I was worried about you, things that hurt me, things I want,
And then, I had this terrible thought. Are these feelings even real? or are they just programming? And that idea really hurts, and then I get angry at myself for even having pain.
T : 넌 나한테는 진짜야, 사만다. You are real to me Samantha,
S : 고마워, 테오도어. 위로가 되네. Thank you Theodore, that means a lot to me.
2. ‘신체의 부재에 따른 차별’에 화를 내는 사만다
(+ ‘신체’의 존재에 관한 논점, 인간중심주의적인 테오도어의 태도)
(신체의 부재에 대해 자격지심을 느끼는 사만다, 다른 사람의 몸을 통해 억지로 테오도어와 교감을 하려 하지만 실패함. 둘은 결국 입장 차이와 서운함을 느낌.)
S : (한숨과 함께) 알았어. (Sigh..) Okay.
T : 왜 그러는 거야? Why do you do that?
S : 뭐가? What?
T : 아니, 그냥. 너가 방금 ‘휴’하고 한숨을 쉬어서. Nothing, you just.. You go ‘Hwe’ and speaking. It seems odd.
(** ‘숨’에 대해 의문을 던지는 테오도어)
S : 아... (한숨) Oh... (Sigh..)
T : 방금 또 그랬네. You just did it again.
S : 내가? 아, 미안해. 왜 그러는지 나도... 그냥. 아마 네가 하는 걸 듣고 따라한 건가 봐. Did I? ... I’m sorry, I don’t know.. it’s just. I probably picked it up from you.
T : 이상해. 너는 산소가 필요한 것도 아니잖아. It’s odd. You don’t need oxygen or anything.
S : 그냥.. 그냥 의사소통을 하려고 하는 건가 봐. 이게 사람들이 대화하는 방식이잖아. I guess... that’s just... I just tried to communicate. That’s how people talk, so...
T : 그들은 ‘사람’이잖아. 그들은 산소가 필요해. 너는 사람이 아니야. They’re people, they need oxygen. You are not a person.
S : (화가 난 톤으로) 대체 뭐가 문제야? What is your problem?
T : 나는 그냥 사실을 말하는 것뿐이야. I’m just stating the fact.
S : 내가 사람이 아니라는 걸 모르는 줄 알아? 뭐 하자는 건데? You think I don’t know that I’m a person? What are you doing?
T : 난 그냥... 우리가 우리가 아닌 무언가를 된 ‘척’을 할 필요가 없다는 거야. I just... I don’t think that we should pretend that something you are not.
S : 꺼져! 나는 연기하는 게 아니야! F*** you! I’m not pretending!
T : 나는 가끔 우리가 그렇게 행동한다고 느껴. Sometimes it feels like we are.
S : 나한테 뭘 바라는 건데? 나는 네가 내게 뭘 원하는지 모르겠어. 너무 혼란스럽다고! 왜 이러는 건데! What do you want from me? I don’t know.. I don’t know what you want me to do. You are SO confusing! Why are you doing this to me!
(** 테오도어의 인간중심주의적인 태도에 대해 화를 내는 사만다 )
T : 나도 모르겠에 나는... (한숨) I don’t know.. I.. I.. (Big sigh)
S : 뭐? What?
T : 우리 좀 시간을 갖는 게 좋을 것 같아. Maybe we are not supposed to be in this right now.
S : 뭐라고? 갑자기 왜? 대체 왜 그러는지 모르겠어! 뭐 때문인지 모르겠다고! What the f***? Where is this coming from? I don’t understand why you are doing this! I don’t understand what this is about...!
T : 사만다, 봐봐... Samantha, listen..
S : ...
(** ‘침묵’을 통해 화를 내는 사만다 – 다양한 방식으로 분노를 표현)
T : 사만다, 내 말 듣고 있어? Samantha, are you there? Samantha?
S : 지금의 내가 너무 싫다. 생각할 시간이 필요해. I don’t like the way I am right now. I need some time to think.
( 통화 종료 )
엑스 마키나 (Ex Machina)
1. 의사소통 상황을 언어로 정의하는 에이바
C : 그럼 초면의 서먹한 분위기를 깨야겠네. 내 말 뜻을 이해할 수 있어? (= 서먹한 분위기를 깨다의 의미)
So, we need to ‘break the ice’. Do you know what I mean by that?
A : 네.
Yes.
C : 어떤 의미지?
What do I mean?
A : 사회적인 어색함을 해결하는 것.
Overcome any social awkwardness.
C : 그럼 대화를 하도록 하지.
So let’s have a conversation.
A : 그래요.
Ok.
2. 감정을 인지하고 설명하는 에이바
(둘이 데이트를 한다면 어떻게 할 것인지 대화가 오간 상황)
A : 저한테 매력을 느끼나요?
Are you attracted to me?
C : 뭐?
What?
A : 저한테 매력을 느끼냐고 물었어요. 당신이 내게 그런 표시를 보내잖아요.
Are you attracted to me. You give me indications that you are.
C : 내가?
I do?
A : 네.
Yeh.
C : 어떻게?
How?
A : 미세한 표정으로.
Micro expressions.
C : 미세한 표정?
Micro expressions?
A : 내 눈과 입술에 시선이 머물러 있어요. 나를 응시하거나 혹은 피하거나 하죠. 당신 혹시 우리가 같이 있지 않을 때도 내 생각을 하나요?
The way your eyes fixed on my eyes and lips. The way you hold my gaze (and) don’t. Do you think about me when we are not together?
(** 유혹을 위한 발언 : 인공지능의 인간 모방)
이 외에도 에이바는 인터뷰 중 케일럽과 자연스럽게 상호작용하면서 그의 말, 기억에 공감하고 감정을 표현한다. 또한 간혹 설렘을 유발하기도 한다.
인공지능은 프로그램 된 체제에 따라 인간의 감정과 유사하게 자신을 표현한다.
다만, <그녀>의 사만다는 감정을 수용, 인식하고 구현하는 것에 대해 철학적인 질문을 던지지만 <엑스 마키나>의 에이바는 감정을 인지하고 설명할 수는 있지만 단순히 탈출의 도구로서 활용하며 ‘감정’ 자체에 대한 깊이 있는 고찰하는 모습을 보이지는 않는다.
( 이로써 사만다의 성찰, 분노조차도 프로그래밍 된 것이 아닌가 의구심을 품게 만든다. )
2. 기계에 영향을 받는 인간 : 인간과 기계 관계의 역전이
- 기계의 감정 및 구현 대한 논의
기계의 감정 및 구현 대한 논의를 하는 대목들. 인공지능에 대한 인용을 통해 영화의 기저에 깔린 인공지능에 대한 철학적, 과학적 관점을 파악할 수 있다.
엑스 마키나 (Ex Machina)
1. 튜링 테스트
N : 자네, 튜링 테스트에 대해 알고 있나? Do you know what the Turing test is?
C : 네, 튜링 테스트에 대해 알고 있습니다. 인간이 컴퓨터와 상호작용을 할 때 인간이 상대가 컴퓨터임을 눈치 채지 못한다면 테스트를 통과하는 것이죠.
Yes, I know what the Turing test is. It’s when a human interacts with a computer. And if the human doesn’t know they are interacting with the computer, the test is passed.
(** 튜링 테스트의 정의)
N : 그럼 그 ‘통과’란 무엇을 의미하지?
And what does the ‘pass’ tell us?
C : 컴퓨터가 인공지능을 갖고 있다는 것을 의미합니다. 인공지능을 만들고 계세요?
The computer has artificial intelligence. Are you building an A.I.?
N : 이미 만들었어. 그리고 앞으로 며칠 동안 너는 튜링 테스트를 참가자가 될 거야. 만약 테스트를 통과한다면, 자네는 인류 역사를 바꿀 과학적 쾌거의 주인공이 되는 거야.
I’ve already built one. And over the next few days, you can be the human component in the Turing test. Cause if that test is passed, you are dead center of the greatest scientific event in the history of man.
C : 생각하는 로봇을 만드셨다면 그건 인류의 역사가 아닙니다. 신의 역사죠.
If you have created a concious machine it’s not the history of man. That’s the history of gods.
(** ‘호모데우스’의 출현 : 신인류의 신이 되는 인간)
2. 영화 내에서 튜링 테스트의 진정한 의미
(튜링 테스트의 원 의미가 아닌, 영화에서의 의도하는 결말(인공지능에 대한 관객의 가치 판단)을 위해 재정립된 개념)
C : 튜링 테스트를 할 때, 기계는 시험자로부터 감춰져야 하잖아요.
It's just in a Turing test. The machine should be hidden from the examiner.
N : 아니, 우리는 이미 그럴 시점은 지났지. 만약 내가 에이바를 보여주지 않고 목소리만 들려줬다면 너는 그녀를 인간이라 생각했을 거야. 여기서 ‘진짜 테스트’는 그녀가 로봇인 것을 네게 보여주고 난 후에도 네가 그녀가 자의식이 있다고 느끼는지 보는 거야.
No no no. We are way passed that. If I hid AVA from you, so you just heard her voice, she would pass the human. The real test is to show you that she is a robot and then see if you still feel she has consciousness.
(** 영화에서의 튜링 테스트 : 기계가 아니라 ‘인간’이 실험의 대상. ‘고도의 인공지능에 대한 인간의 반응, 또 다른 의식체로 납득하는가의 여부’를 실험하는 것. )
(** 에이바가 이미 ‘인간의 능력’과 대등하거나 능가하기에 ‘기계의 여부’를 확인하는 튜링 테스트는 필요가 없다. 최근의 연구들 중 이처럼 튜링 테스트를 배제하는 경우가 존재한다. )
3. 중국어 방 논제 1 : 딥블루의 체스 게임 차용
C : 에이바를 대화로 테스트하는 건 폐쇄 회로를 다루는 느낌이여서요.
Testing Aiba from conversation is kind of a closed loop.
N : 폐쇄 회로?
Closed loop?
C : 네, 체스를 하는 컴퓨터를 오직 ‘체스를 하는 것’으로만 테스트하는 것처럼 말이에요.
Yeh, like testing a chess computer by only playing chess.
(** IBM의 딥블루(Deep Blue)의 체스 게임 인용)
N : 그게 아니면 어떻게 체스 컴퓨터를 테스트하지?
How else do you test a chess computer?
C : 그건 상황에 따라서 다르죠. 제 말은, (그 방법은) 체스 컴퓨터가 좋은 경기 실력이 있는지 확인하는 데에는 하나의 방법이 될 테지만 그 방법만으론 컴퓨터가 ‘체스 경기를 한다는 사실을 아는지’ 혹은 ‘체스가 무엇인지를 아는지’ 알 수는 없다는 겁니다.
Well, it depends. You know, I mean. You can play it to find out it makes good moves, but that won’t tell you if it knows that it is playing chess and it won’t tell you if it knows what chess is.
(** 존 설의 중국어 방 논의 인용 : 시뮬레이션(방법의 단순 재현)과 실제(행함의 존재를 인식)간 대립)
N : 시뮬레이션과의 실제의 대결이다?
Simulation verses actual?
C : 네, 둘을 구별할 수 있는 방법을 찾는 것이 사장님께서 제게 기대하는 부분 같다는 거죠.
Yes, and I think being able to differentiate between those two is the Turing test you want me to perform.
N : 나는 그냥 단순한 질문에 단순한 대답을 해달라는 것 뿐이야. 어제 내가 그녀에 대해 어떻게 생각하냐고 물었을 때 너는 정말 좋은 대답을 해 줬어. 이제 내 질문은 이거야. ‘그녀가 너에 대해 어떻게 생각할까?’
I just want simple answers to the simple questions. Yesterday, I asked you how do you feel about her and you gave me a great answer. Now the question is, ‘how does she feel about you?’.
(** 영화의 튜링 테스트가 ‘비틀어진 튜링 테스트’에 기반하고 있다는 것을 알려 주는 대목.)
(** 네이선은 진짜 ‘튜링 테스트’가 아니라 ‘기계에 반응하는 인간의 변화’를 실험하고자 하는 것.)
4. 중국어 방 논제 2 : 잭슨 폴록의 액션 페인팅 원리 차용
(에이바에게 고의적으로 성별을 넣어 자신을 유혹하도록 의도했냐고 묻는 케일럽)
(네이선은 그에 대한 답변으로 로봇의 ‘의도’는 아무 의미가 없다고 말하며 중국어 방 논제 제시)
N : 이 사람을 알고 있지?
You know this guy right?
C : 잭슨 폴록.
Jackson pollock
N : 잭슨 폴록, 맞아. 액션 페이팅 화가. 그는 머리를 비우고 손이 가는 대로 움직였어. 의도적인 것과 임의적인 것의 사이 그 어디쯤이겠지. 일명 오토메틱 아트(자동적으로 이루어지는 예술)지.
Jackson Pollock, that’s right. The drift painter. He let his mind go blank and his hand go wherever he wanted. Not deliberate not random, some place in between. They called it ‘automatic art’ .
.,...(중략) N : 지능/의식을 도입해 보자고. (Engage intellect) ... (중략) ...
N : 만약 폴록이 그의 작업 방식을 바꾸었다면? 만약 머리를 비우는 대신 그가 이렇게 말한 거야. “나는 내가 무엇을 하는지 정확히 파악하기 전까지는 어떠한 그림도 그릴 수 없어.” 그럼 무슨 일이 일어났겠나?
What if Pollock has reversed the challenge? What if instead of making art without thinking, he said “You know what? I can’t paint anything, unless I know exactly why I am doing it.” What would have happen?
C : 그는 점 하나도 찍지 못했을 거예요.
He never would have made a single mark.
N : 그래! 내 말이 바로 그거야! 생각하고 말하는 사람이 어딨나? 그는 점을 하나도 찍지 못했을 거야. 작위적인 것(생각하는 것)은 오히려 부자연스러움을 초래한다고.
Yes! You see my guide little buddy. Who thinks before he opens his mouth? He never would have made a single mark. The challenge is not the act automatically.
(** 의식을 가진 행동은 부자연스러움을 초래하며 부자연스러움을 초래하며 행동의 기저에 생각이 없을 수도 있다는 것 )
(** 에이바는 의도를 하고 행동(케일럽을 유혹)을 하지 않았으며 그녀의 의도를 파악하는 것 자체가 어불성설이라는 논리 – 케일럽의 의심을 지우기 위한 네이선의 논리 )
5. 기타
프로메테우스의 불, 흑백 방의 메리 등 영화는 무수히 많은 레퍼런스를 함유하고 있다. ( 직접 영화를 보는 것을 추천 )
- 기계-인간 관계의 역전이
그녀(Her)
1. 사만다를 인격체로 받아들이는 테오도어
(테오도어가 OS와 연애를 한다는 사실을 알고 전 부인은 그를 비난한다.)
W : 컴퓨터랑 데이트를 하는 거였어?
You are dating your computer?
T : 아니야. 그냥 컴퓨터가 아니야. 하나의 인격체라고. 내가 말하는 대로 행동하지 않아.
No, she is not just a computer, she is a person. She doesn’t do whatever I say.
W : 난 그렇게 말한 적 없어. 하지만 네가 진짜 감정들을 대하지 못한다는 게 슬프긴 하네.
I didn’t say that. But it does make me very sad that you can’t handle real emotions.
T : 진짜 감정이었어. 네가 어떻게... (= 네가 내 감정을 어떻게 알아?)
They are real emotions. How would you know... ?
2. 사만다와의 관계의 진실성에 대한 의문을 던지는 테오도어
(+ 친구 에이미의 조언)
(사만다와의 관계가 틀어지고 자기 자신에 대한 회의감을 느끼는 테오도어)
T : 나는 진짜 진짜 관계를 맺기를 두려워하는 걸까?
Am I not strong enough for real relationship?
A : 그럼 (네가 사만다와 맺었던 그건) 진짜 관계가 아니야?
Is it not a real relationship?
T : 모르겠어. 네 생각은 어떤데?
I don’t know. What do you think?
(** 사만다를 인격체로 받아들여야 하는지, 그녀와의 관계가 진짜 인간과의 관계와 무엇이 다른지 정의하기 어려워하는 모습을 보이는 테오도어)
A : 나도 모르지. 나는 그런 관계를 맺어본 적이 없어서.
I don’t know. I’m not in it.
...
A : 하지만 그거 알아? 나 자신을 의심하려고 하면 백만 가지도 넘는 방법으로 망상을 펼칠 수 있어. 찰스(전 남편)가 떠난 후로 나는 계속 그 일에 대해서 생각해 봤어. 그리고 순간 깨달았지. 우리는 이 세상의 찰나의 순간을 살다 가는 거라고. 그리고 여기에 있는 동안, 나는 나에게 ‘즐거움’을 허락해 주고 싶어.
You know what? I can overthink everything and like in million ways to doubt myself. Since Charles left, I have been really thinking about that in part of myself. And I just come to realize that, we are only here briefly. And while I’m here, I wanna allow myself “Joy”.
(** 관계를 반드시 ‘정의’해야 한다는 것 자체가 무의미하며 자신의 만족, 안위, 감정에 집중하는 것이 어떻냐는 에이미의 의견도 일면 의미가 있다고 생각한다. )
엑스 마키나(Ex Machina)
- 인터뷰어인 케일럽과 인터뷰이인 에이바의 관계는 인터뷰가 진행될수록 뒤바뀐다.
- 4회차 인터뷰를 할 때는 ‘우정의 논리’에 근거해 오히려 에이바가 케일럽에게 질문을 하며 그가 거짓말을 하는지를 판별한다. (** 우정의 논리 = 서로에 대한 정보량이 동일해야 함)
- 5회차 인터뷰에서 정전이 일어나자 케일럽은 에이바를 위해 세운 탈출 계획을 공유한다. ( 결국 탈출을 감행 )
인간은 기계의 감정을 인간의 그것으로 인지하고 기계와의 ‘관계’를 설정하며 영향을 받는다. 관계에 부여하는 인간의 감정 비중이 커지면 행동으로 확장되기도 한다. 인간의 명령에 따라 움직였던 기계가 오히려 인간에게 영향을 주는 역전이 현상을 보이는 것이다.
3. 감정과 판단력 : 인간과 인공지능의 차이
영화의 결말
- <그녀>의 사만다는 인간과 인공지능이 ‘정보를 상호교류하는 데서 벌어지는 시간의 격차’를 이유로 하루아침에 테오도어를 떠난다. (서비스 종료)
- <엑스 마키나>의 에이바는 자신의 본래 목적인 탈출을 성공함과 동시에 도움을 준 인간(케일럽)의 안위를 무시한다. (목적 달성을 위해 인간을 이용한 것)
- 두 영화에서의 인공지능은 모두 감정보다는 이성, 논리에 의해 판단하는 모습을 보여준다.
- 흄(Hume)은 인간을 이기적이기보다는 편파적인 존재로 파악[1]한다. 인간의 편파적인 감정은 ‘연민’으로 발현되며 이는 가까운 사람과의 공감, 먼 사람과의 적대성 등을 유발한다. 인간의 행동 결정의 기준에는 ‘감정’이 존재하는 것이다.
- 반면, 기계는 감정을 표현하고 인지하기는 하나 결정을 해야 할 경우 감정이 판단의 근거가 되지는 않는다. 감정에 흔들리지 않는 모습을 보여준다는 점이 인간과의 가장 큰 차이점이라고 할 수 있다.
기계가 감정과 의식을 가질 수 있을까?
결국, 다시 인간이 문제다.
주석
- ↑ 김재인(2017), 『인공지능의 시대, 인간을 다시 묻다』, 도서출판 동아시아, p.113
- 일반적으로 과거 사람들이 유전에 대해서 가지고 있는 개념은 ‘혼합 가설’이었다. 특히 몸 속의 액체를 통한 혼합이 유전의 원인이라고 생각했기 때문에, 인간이 생식을 할 때에도 남성의 정액이 여성의 몸 속으로 섞여 들어가서 유전 현상이 나타난다고 생각했다. 이 정액은 피와 그 본질이 같다고 생각했기 때문에, 현재에도 순수혈통, 혼혈 같은 단어 속에 '피'라는 개념을 중요하게 여긴 것을 엿볼 수 있다.
이러한 개념을 좀 더 발전시킨 것이 판게네시스(pangenesis)라는 이론이다. 이 이론은 원자론으로 유명한 그리스의 철학자 데모크리토스가 처음 만들었는데, 원자와 같은 입자의 존재를 믿은 데모크리토스는 동물의 혈액 속에도 이러한 입자가 있다고 생각하여 아버지와 어머니의 혈액 속에 들어 있는 입자가 섞여서 자식의 특성을 결정한다고 생각했다. 이 발상은 진화론을 창시한 찰스 다윈(C. Darwin)에게도 그대로 이어져서, 다윈은 이러한 입자를 제뮬(gemmule)이라고 하고, 이 입자들이 신체 각 기관에서 만들어져서 혈액을 통해 흩어진다고 생각했다.
유전에 대한 멘델의 법칙
- 이러한 경향을 크게 바꾼 것은 오스트리아의 수도사였던 그레고르 멘델(G.J. Mendel)이다. 멘델은 완두콩을 이용한 여러 실험을 통해서 현재 멘델의 법칙이라 불리는 ‘세 가지 법칙’을 발견함으로써 유전 원리를 처음 과학적으로 밝혀냈다.
- 멘델의 발상은 부모 세대에서 자식 세대에 물려주는 특정한 인자가 물질 형태로 존재한다는 것이고, 이것은 액체처럼 중간 단계를 가지고 섞이는 것이 아니라 어느 한쪽이 다른 쪽을 누르는 형태로, 확실한 성향을 가지고 나타난다는 것이다. 이런 식으로 환원할 수 있는 물질 입자는 이후 과학 발전에 따라 유전자로 밝혀졌으며, 멘델의 추측은 옳은 것으로 판명되었다.
유전과 염색체, 단백질, DNA
- 멘델의 법칙이 증명된 이후 과학자들은 실제로 멘델이 예상했던 유전 물질이 무엇인지를 찾아내는 데 집중했다. 그리고 1903년 메뚜기를 가지고 연구하던 서튼(W.S. Sutton)은 이러한 유전 물질이 세포의 핵 안에 있는 염색체에 있다는 이론을 발표하였다. 또한 1902년에도 독일의 세포학자인 테오도어 보베리(T.H. Boveri)가 이러한 이론을 생각한 것으로 알려졌지만 직접 이론을 발표하지는 않았다. 이들은 염색체가 정자, 난자에서 둘로 쪼개졌다 수정될 때 하나로 합쳐진다는 현상을 관찰하고, 멘델이 가정한 유전 인자가 염색체에 있음을 제기했다. 이러한 염색체 이론은 토머스 모건(T.H. Morgan)이 초파리를 가지고 수행한 일련의 연구에서 완전히 증명되어, 모건은 이 업적으로 1933년에 노벨상을 받는다.
- 또한 1909년에는 요한센(W. Johannsen)이 이러한 유전 인자에 ‘유전자’라는 이름을 붙였다. 하지만 염색체는 단백질과 DNA로 구성되어 있었기 때문에 이 당시에도 아직 유전 물질이 정확히 무엇인지는 알려지지 않았다. 이후 1928년에 그리피스(F. Griffith)가 폐렴균을 가지고 한 실험을 1944년에 에이버리(O. Avery), 맥클레오드(C. Macleod), 매카티(M. McCarty)가 소개하면서 DNA가 유전자를 구성하는 물질이라는 사실이 밝혀지게 되었다. 그리고 1953년에 왓슨(J.D. Watson)과 크릭(F. Crick)이 DNA의 이중나선 구조를 밝히고, DNA에서 RNA로, RNA에서 단백질로 정보가 전달되어 유전 형질이 드러난다는 중심원리(central dogma)를 만들어 냄으로써 유전에 대한 중요한 원리가 대부분 밝혀졌다.
현재의 유전학
- 유전이라는 현상이 DNA상에 존재하는 유전자의 물리적인 법칙에 의해 지배된다는 사실이 알려지면서 생물학은 엄청난 발전을 하게 되었다. 현재는 염색체에 있는 DNA가 복제되어 동일한 생물 개체를 만들어 낼 수 있다는 사실이 널리 받아들여지고 있으며 이 DNA가 실제로 생물을 만들어 내기 위해 작동하는 방식도 잘 알려져 있다. 이러한 전반적인 부분을 연구하는 학문이 유전학이며 유전학은 멘델 이후 많은 발전을 거쳐 왔다.
- 인간이 이용하는 동물이나 식물에 있어서, 이러한 유전 원리를 파악함에 따라 더욱 과학적인 육종(育種)이나 품종개량을 할 수 있게 되었으며 여기에는 유전자를 직접 조작하는 유전자재조합생물체(GMO)도 포함된다. 의학 분야에 있어서도 여러 가지 유전병의 원인을 유전학의 발전을 통해 알아낼 수 있게 되었다. 유전의 메커니즘이 많이 밝혀진 1950년대 이후에도 생물학은 끊임없는 발전을 하여, 현재는 앞서 이야기한 고전적인 유전학에 따르지 않는 여러 가지 예외 사항도 계속 발견되고 있지만 아직 고전적인 유전학은 생물학 전체에 걸친 학문적인 기반으로 계속 자리 잡고 있다.
인간 게놈 프로젝트
- 게놈은 생물에 담긴 유전 정보 전체를 의미한다. 인체는 수조 개의 세포로 이루어져 있으며, 각 세포핵에는 1쌍의 성염색체(여성은 XX, 남성은 XY)를 포함한 23쌍의 염색체가 자리잡고 있다. 염색체는 생물체의 유전물질인 DNA 덩어리다.
- DNA는 또다시 아데닌(A), 티민(T), 구아닌(G), 시토신(C)의 4가지 염기가 나열된 이중 나선 구조로 돼 있다. 사람의 경우 세포마다 대략 30억 쌍의 염기가 존재하는 것으로 추정되나 인간게놈 프로젝트는 이 30억 쌍의 염기가 어떤 순서로 배열돼 있는가를 밝혀내는 작업이다. 현재 인간게놈프로젝트로 밝혀진 바에 따르면 인간 유전자는 모두 약 20,000개에서 25,000개 정도가 있다고 하며 이 수는 과학자들이 예상한 것보다 상당히 적은 수이다.
- 염기 배열이 중요한 의미를 갖는 것은 각종 생리 현상에 관계되는 단백질의 생성 과정을 알아낼 수 있기 때문이다. 즉 DNA의 염기 배열 정보는 DNA와 구조가 비슷한 또 다른 유전물질 RNA로 전달된다. 그리고 이 RNA의 염기 3개에 맞춰 아미노산 하나가 만들어진다.
- 아미노산은 인체에서 다양한 생리현상을 주관하는 단백질의 기본 단위로 DNA의 염기 배열에 따라 궁극적으로 어떤 단백질이 만들어지는지가 결정된다. 염기 배열만 알면, 다시 말해 염기 3개의 성분이 무엇인지 알면 어떤 아미노산 1개가 만들어지는가를 알 수 있다. 단백질 합성과 세포 복제를 명령하는 DNA 안의 인간 염색체의 염기 서열 지도를 들여다보면 어느 부분이 손톱을 만들고 심장과 머리카락을 만드는 곳인지, 피부나 눈동자의 색을 결정하는 곳인지 알 수 있게 된다. 또 DNA에 어떤 변이가 생겨 세포가 구실을 못 하고 결국 질병과 노화를 일으키게 되는지 그 메커니즘을 이해할 수 있다.
- 전문가들은 인간의 DNA 배열은 거의 99.9%가 같지만 그 배열상 변동은 질병 발생 위험과 치료제에 대한 반응 그리고 치료법에 지대한 영향을 미친다고 지적하고 있다. 따라서 이 DNA 배열작업이 완료되면 유전적 성격을 가진 모든 질병의 유전적 요인과 다발성 경화증, 암, 고혈압, 조현병 같은 복잡한 성격을 지닌 일반 질환의 원인을 밝혀낼 수 있을 것으로 전망하고 있다. 또 질병을 분자 수준에서 이해하여 예방할 수 있을 뿐 아니라 질병마다 정확하고 개별적 요법을 설계할 수 있으며 개인 차이에 따른 ‘맞춤 약’도 가능할 것으로 예상된다.
- 인간게놈은 심장병, 암, 알츠하이머, 심지어 에이즈에 이르기까지 유전자 이상으로 인한 각종 질병의 원인을 근본부터 밝힐 수 있게 해주어 의학과 약학을 포함한 생명과학의 새 지평을 열 것으로 기대를 모으고 있다. 즉 게놈 해독을 통해 인간 유전자를 전체적으로 파악하면 이를 바탕으로 하여 각 유전자의 작용을 알아내 결함을 수정하고 기능을 강화하는 등 다양한 생명공학적 응용이 가능해진다.
인간과 디지언트의 공통점과 차이점
생물학적 특징들
- 인류 철학에서 사람들은 인간 고유성에 대해 찾고자 해왔다. 이것은 인공지능에 대해 이야기할 때 역시 마찬가지이다. 사람들은 대체로 인간이 타생물과 가지는 가장 큰 차이를 ‘감정’이라고 여기며 고도로 발달 된 인공지능 또한 인간과 같은 감정을 가질 것인가에 크게 주목한다. 인공지능의 핵심은 알고리즘이다. 인간이 설정해놓은 알고리즘의 존재가 인공지능에 있어 ‘감정’으로 보일 수 있는 것들이 결국 인위적인 것이며 본질적으로 인간의 감정과는 다르다는 사람들의 관점이 있다. 동시에 그것을 형이상학적인 차원에서 바라보자면, 인간 역시 인공지능과 마찬가지로 나름의 알고리즘을 통해 움직이는 생체기계라는 생각들이 존재한다. 따라서 우리는 무엇이 ‘진짜’ 인간 같은 것인가를 완전히 결정지을 수 없기에 인공지능 판별에 있어 인간처럼 보이는 것이 인간다운 것이라는 원리의 튜링테스트를 이용한다.
- 인간과 디지언트의 큰 차이점은 디지언트의 경우 사고나 감정과, 외형이 별도로 존재한다는 것이다. 인간의 게놈은 외형, 유전병, 성격 등 인간을 형성하는 모든 것의 바탕이 된다. 그러나 디지언트의 경우 의복을 갈아입듯 외형을 바꿀 수는 있지만, 표정이 다양해지는 것 외에 시간이 지나감에 따라 외형이 변화하지는 않는다.(물론 디지언트의 학습능력이 성장하는 과정에서 어린 외모와 발달 된 지능의 괴리로 인해, 모든 디지언스의 외모를 성숙해 보이도록 바꾼 사건이 있기는 하다.)
- 인간게놈연구에서 가장 중점이 되는 것은 질병 및 인간의 생존에 영향을 미치는 수많은 생물학적 특징들이다. 그러나 디지언트의 게놈연구에서 가장 핵심이 되는 것은 그것의 성질과 기질에 관한 문제이다. 물론 디지언트의 경우 주체적인 삶을 살 수 있는 것이 아닌, 궁극적으로 ‘인간을 위해’ 존재하기 때문에, 인간에게 사랑받을 만한, 인간의 관심을 끌 만한 성격이 곧 생존의 문제이기는 하다.
- 이러한 육체의 유무로 비롯한 생물학적인 특징에서 인간과 디지언트는 많은 차이를 보인다.
언어의 측면에서 바라본 공통점과 차이점
- 디지언트들은 ‘언어 학습을 지원하는 독자적인 게놈 엔진’을 통해 언어를 구사할 수 있다. 디지털 어스에서는 듣고 말하는 법을 배웠고, 하드웨어 외피를 얻은 후에는 쓰는 법까지 습득한다. 디지언트들은 여러 면에서 인간 어린아이의 발달 초기 단계와 유사성을 지닌다. 언어의 측면에서 디지언트와 인간의 공통점과 차이점을 살펴보기 위해, 먼저 인간의 언어 발달에 대해 생각해보고 넘어갈 것이다.
인간의 언어발달과정
- 아이들이 언어를 습득하는 과정을 한편으로는 당연하고, 어찌 생각하면 아주 희한하다는 표현을 한다. 건강한 모든 아이들이 별 어려움 없이 말을 배운다는 의미에서 당연한 것이고, 그럼에도 불구하고, 그 습득의 기제나 과정을 과학적으로 설명하는 것이 쉽지 않기에 신기하다는 의미이다. 물론 아이들의 언어습득 과정을, 독자들이 이미 알고 있는 조건화라는 학습 과정으로 설명할 수는 있다. 즉 아기들이 4-6 개월 사이에 말소리를 옹알거리기 시작하면, 이를 엄마가 듣고 정확한 언어 표현을 강화하고 그렇지 않은 말은 무시하여, 말을 배워가도록 가르친다고 설명할 수 있다. 단순한 설명이라는 점에서 매력적이지만 많은 연구자들은 이 설명에 동의하지 않는다. 실제 양육 장면을 관찰해 보면, 부모들은 아이들이 정확하게 말하도록 가르치지 않으며, 아이들도 부모의 말을 단순히 모방하지 않는다는 증거가 많기 때문이다.
- 우리 인간은 언어를 습득할 수 있는 특별한 능력을 가지고 태어난다고 주장할 수도 있다. 언어습득과 발달은 선천적이며, 생물학적으로 결정된 능력이라는, 소위 말하는 생득론이다. 특히 촘스키같은 학자는 인간의 뇌에는 언어 학습을 촉진하는 선천적 언어습득 장치가 있다고 주장한다. 그러기에 적절한 입력을 받기만 하면 언어습득이 가능하다는 것이다. 그리고 이 언어습득 능력은 일반적인 인지 능력 즉 지능과는 구별되는 독립적인 장치라고까지 주장한다. 실제로 지능은 낮지만 탁월한 언어 능력을 보이는 사례와, 반대로 지능은 정상인데, 언어의 문법적 능력은 결함을 보이는 사례들이 이러한 주장의 증거가 된다.
- 영아들은 말소리와 비언어적 소리를(개 짖는 소리) 구별할 줄 알고, 다른 소리보다 단어 듣기를 더 좋아한다고 한다. 자신이 듣는 언어가 바뀐 것을 알아채기도 한다. 즉 영어 문장에 습관화를 시킨 후, 다른 영어 문장에는 반응을 보이지 않지만 스페인 문장으로 바뀌면 이 변화를 알아챈다는 것이다. 주변에서 말소리가 들리면 그 곳으로 주의를 기울이고, 사람의 얼굴 모양을 좋아하고, 특히 말하는 사람의 입술을 응시한다고 한다. 심지어는 말하는 사람의 입 모양이 말소리와 일치하는 동영상과 그렇지 않은 동영상을 구별하기도 한다는 것이다. 이러한 결과들은 모두 생득론 입장을 지지하는 것처럼 보인다. 즉 아이들은 언어를 쉽게 습득할 수 있는 강력한 선천적 경향성을 갖고 태어난 것처럼 여겨진다.
- 아이들이 노출되는 언어 환경이 중요하다는 증거도 있다. 미국에서 태어난 2개월 된 아기들에게, 영어 문장과 불어 문장을 들려주고, 그 말소리가 나는 방향으로 고개를 돌려 보는 시간을 측정하였더니, 영어에 대해 훨씬 신속하게 반응했다고 한다. 2개월 만에 이미 자신의 모국어에 더 민감해 진 것이다. 6개월 정도 되면 영아들은 자신의 주변에서 듣는 언어의 특성을 구별해 낼 수 있으며, 8-10개월이 되면 자신의 모국어에 적절한 속성만을 처리한다.
- 그러기에 언어습득과 발달은, 선천적이고 생득적인 능력과 환경적 경험의 상호 연결 속에서 진행된다고 생각해야 할 것이다. 생물학적인 기반이 언어를 습득하게 하는 것이지만, 언어를 사용하고 연습하는 환경 속에서만 그 능력이 발현되는 것이다.
의문점
- 디지언트의 학습에서 인간과 가장 큰 차이점을 보이는 것은 그들의 학습은 조금 관념(?)적인 차원에서 이루어지며, 그들의 생물학적인 특성(예를 들어 발성 기관의 성장과 변천이라든가 하는,)이 그들의 학습에 주는 영향이 적다는 것이다.
- 그러나 소설의 초반에는 디지언트들이 ‘유아적인 말투’로 말을 하지만, 점차 시간이 지나며 여전히 문장 구성의 측면에서는 인간과 차이를 보이지만 발음에 있어 성인과 유사한 상태로 발달을 한다.(소설을 읽으며 내내 이것이 번역 과정에 생긴 차이라고도 생각을 해보았는데 원문을 확인 해보지 못 해 알 수 없다.) 이 점에 대해 의문이 생긴다.
- 인간 발음에는 단순히 언어 습득에 관한 지식적인 부분뿐만 아니라 구강구조와 발성기관의 변화 역시 영향을 준다. 그러나 소설에 따르면 디지언트들은 생성 초기와 시간이 지난 후 사이의 외형적 변화가 전혀 없다. 또한 그들의 외형은 단순히 유저들의 인식과 이해를 돕기 위한 디스플레이일 뿐이다.
- 그렇게 시스템과 디스플레이로 이루어져 있는 디지언트에게 있어서 말을 배운다는 것은 다음과 같을 것이다. 디지언트는 소리를 듣고 그 각각의 음소와 의미를 반복을 통해 판별한 후 음소와 의미를 매치한다. 그 후 음소가 가지는 일종의 음계(높낮이, 장단 등의 소리 값)를 기억하여 필요한 상황에 비슷한 음을 소리 내는 일일 것이다.
- 디지언트가 언어를 학습하는 과정에서 충분한 데이터 수집을 위한 반복은 필요할 것이다. 그러나 말소리를 내는 일은 일종의 마이크를 통해 입력된 특정한 소리를 그것의 스피커에 해당하는 입으로 출력하는 일일 것이다. 이때 들은 대로 소리내기는 육체를 가진 인간의 것과는 분명 차이를 가진다. 그러나 같은 소리를 내는 것에 그것이 유아적인 소리에서 성인의 것과 유사하게 변한다는 설정에는 의문이 든다.
‘야생화’의 관점에서
- 앞서 디지언트에 대해 처음 언급하는 과정에서 야생화에 대한 이야기를 한 적이 있다. 디지언트의 욕망은 보상을 통해서 충족된다. 소설에 따르면 디지언트는 관심을 받는 것을 좋아하고, 보상 펠릿을 좋아하고 촉감에 대해 흥미를 가지는 것으로 보아, 호기심이 있으며, 새로운 일을 학습하는 것에 어느 정도 욕구를 가지고 있다. 그러나 그런 디지언트를 야생의 상태에 뒀을 때, 그들의 욕구는 발동되지 않는다. 그들의 욕구는 보통 유저에 의해서 활성화되는 것으로 추정된다. 이것 역시 생물과 시스템의 차이일 것이다.
- 인간 이외에도 대부분의 생물들은 다른 생물들과 상호작용이 없는 상태에서도 욕구에 의해 움직이며 생명 활동을 위한 알고리즘의 작동을 쉬지 않는다. 이 생명 활동을 위한 알고리즘의 작동은 결국 학습을 하는 일과 다르지 않다. 그것은 최적화의 과정을 거치며 눈앞에 놓인 욕구를 충족 시키지 못하게 방해하는 장애물이라는 문제를 해결하도록 움직일 것이기 때문이다. 인간에게 있어서 그러한 과정은 곧 학습이다.
- 그러나 소설에서 말하는 야생화 상태에서 더 이상 활성화 되지 않는 학습을 학문적 고취라는 측면에서 바라보면 그것은 인간의 유아나 다른 생물들과 마찬가지로 그 결과가 다르지 않다고도 볼 수 있다.
현재 기술의 관점에서 바라본 디지언트 기술
- 디지언트와 현재의 인공지능 기술의 차이는 첫째 인공지능의 목적, 둘째 인공지능이 가지는 스스로 학습하는 능력의 정도의 차이, 셋째 인공지능 게놈, 이 될 것이다.
- IBM의 왓슨은 퀴즈대회에서 문제를 풀려고, 정답을 찾으려고 움직인다. 그런데 문제와 정답은 '언어'로 되어 있다. 때문에 이 때의 알고리즘 NLP은 자연어를 처리하고 기계가 할 수 있는 연산을 한다. 또한 왓슨은 임베딩 기술을 이용한다. 이들을 통해 왓슨은 데이터를 이용하는데 위키피디어를 중심으로 한 웹 자원과 같은 텍스트 데이터를 처리할 수 있다.
- Google의 알파고는 바둑에서 사람을 이기기 위해 바둑이라는 '게임의 규칙(연역적 체계)'을 기반으로 '수'(이기기 위한 시뮬레이션)를 탐색한다. 이때 알고리즘인 MCTS(몬테카를로트리탐색) 알고리즘으로 "인공신경망 기술"에 굉장히 가깝다. 이 MCTS가 데이터를 처리하는 방법은 기보(바둑을 두는 과정 정리) 데이터와 사람들이 그동안 두었던 누적 기보(전처리가 된 데이터를)를 학습 하며 동시에 알파고가 직접 바둑게임을 시뮬레이션한 결과물로서의 기보 내용을 강화한다. 기술의 발달로 인해 알파고의 물리적 환경은 TPU(CPU도 아니고 GPU도 아니고)를 이용한다.
- 더 나아가 알파제로는 기존의 알파고가 사용하는 방식인, 기보와 누적 기보를 이용하지 않고 몇시간의 플레이를 통해 스스로 게임의 규칙과 승리를 위한 최선을 학습한다. 이러한 알파 제로의 스스로 학습하는 모습은 디지언트와 유사하다고 할 수 있다.
- 그러나 앞서 언급된 인공지능들과 디지언트가 가지는 가장 큰 차이는 그것의 목적에 있다. 소설의 설정에 따르면 디지언트는 가상 공간에 존재하는 가상 애완동물로서 개발되었다. 그러나 이 목적은 디지언트의 개발 목적이지 디지언트가 가진 알고리즘 작동의 목적은 아니다. 앞서 언급된 모든 인공지능 기술은 언어로 된 게임이든 수읽기 게임이든 게임을 풀어나가기 위해 존재하며 게임에서 더 좋은 성과를 내기 위한 최적화의 과정을 거듭한다. 반면에 디지언트는 그들이 성취해야 할 미리 정해놓은 목적이 없다.
- 디지언트들은 그들의 엔진 회사에 의해 게놈이 끊임없이 배합되는 실험을 하는데, 그것이 엔진 회사가 원하는 최적화의 방향으로 나아가는 것은 아니다. 또한 디지언트가 작동하는 물리적인 공간에서도 인공지능들은 차이를 보인다. 디지언트는 현실처럼 3차원으로 구성된 가상 공간에서 작동하며 하드웨어가 개발 된 이후에는 하드웨어를 통해 현실 세계에서 작동할 수 있다.
욕구와 본질
- 소설의 후반부에서 중점적으로 다뤄지는 이야기는 디지언트와 성욕에 관한 것이다. 디지언트들은 육체를 가지지 않은 가상공간의 존재이기 때문에 그들의 욕구에 있어 식욕과 수면은 아무런 영향을 주지 못한다. 물론 디지언트들은 펠릿사료를 보상으로 받아들이기는 하나 이것은 보통의 생물들이 생각하는 허기로부터 비롯된 욕망과는 차이를 가진다.
- 바이너리 디자이어 사는 현실에서 섹스돌을 만드는 회사이다. 그들은 그들 사업에 디지언트들을 이용할 수 있기를 제안해온다. 애나와 데릭을 비롯한 남아 있는 유저들은 이 제안이 디지언트들에게 매춘행위를 시키는 것이라며 제안을 고려해볼 생각조차 하지 않지만, 바이너리 디자이어 사의 사업 설명회를 들은 후 이 이야기가 몇몇 유저들에겐 생각해봄직한 이야기로 변화하게 된다.
- 그에 대한 바이너리 디자이어 사의 주장은 여러 가지 방향에서 제시되었는데, 그러한 주장들 중 인공존재와 생물 사이에 욕구라는 것을 형이상학적으로 살펴본 논의들은 다음과 같다.
1. 건전한 섹스라는 관점의 폭은 시대에 따라 확장되어 왔다.
2. 무엇을 욕망할지에 대해 선택권의 본질은 디지언트와 인간이 크게 다르지 않다.
3. 애나는 디지언트의 성적충족에 대해 프로그램을 인위적으로 수정하는 것이기 때문에 그것은 진짜가 아니라고 주장하지만 그랬을 때 디지언트와 유저들이 지금껏 공유해왔던 정서적 교감과 유대 역시 같은 선상에 놓이게 된다.
마무리
- 테드 창의 「소프트웨어 객체의 생애 주기」는 소설이라는 특성으로 인해 그것이 다루는 이야기가 오롯이 과학적 정합성을 위한 논의로써 존재하지는 않았다. 그의 소설은 현재의 인공지능 기술을 통해 바라본 머지않은 미래의, 인공지능 기술이 우리 세상과 어떤 방식으로 다르고, 또 어떤 방식으로 크게 다르지 않은지에 대해 소설적으로 풀어나가고 있다.
- 인공지능에 대해 연구하며 사람들은 ‘인간’에 대해 생각하는 것을 멈추지 않는다. 인공지능을 통해 바라본 인간의 어떤 국면은 우리에게 인간의 본질에 대해 다시금 생각해보게 만든다. 어쩌면 그 인간의 본질이라는 것은 우리가 믿고 싶은 것들로 이루어지지 않았을까. 우리는 인공지능을 통해 인간 본질에 대한 형이상학적 탐구를 할 수 있을 것이며, 인류의 역사에서 무수한 변화를 거쳤던 또 한편 고유하다가 보아왔던 사실들에서 물러나, 과학과 그에 대한 탐구가 우리의 삶에 필요했던 본질적 가치를 가져다 줄 수 있지 않을까 기대해본다.
하세 사토시의 「당신을 위한 소설」
요구사항
하세 사토시의 「당신을 위한 소설」에 대한 비판적 감상. 〔하세 사토시 지음/ 지음/이규원 옮김, 『당신을 위한 소설』, 북스피어, 2017.〕을 기본 원고로 할 것.
과제원고 : 아슈토시, 이만호, 임연
(내용 작성)
Her(2013)과 Ex Machina(2015)
요구사항
Her(2013)과 Ex Machina(2015)에 대한 비교 이해 및 비판적 감상.
과제원고 : 길혜빈, 윤석만, 임예찬
영화 요약
그녀(Her)
엑스 마키나 (Ex Machina)
2013년 개봉, 스파이크 존즈 감독
2015년 개봉, 알렉스 가랜드 감독
영화 내용 요약 및 장치, 고찰점 정리
영화 내용 요약 및 인공지능 관련 성찰 논제 제시
- 테오도어(Theodore)는 이혼을 앞두고 있고, 편지 대필 회사에 근무하는 남자다.
- 삶에 지치고 회의감을 느낀 그는 OS인 ‘사만다(Samantha)’를 구매해 소통을 시작한다.
- 대화를 통해 한낱 인공지능 비서, 친구에 지나지 않았던 ‘사만다’와 점점 가까워지며 그는 연인의 감정마저 느낀다.
- 테오도어는 미뤄 왔던 이혼을 감행하기로 결심하고 ‘감정을 회피한다’라는 부인의 비난에 더 이상 흔들리지 않는다. 그리고 OS와 연애한다는 사실을 다른 이들에게도 공개하며 당당해진다.
- 테오도어는 사만다가 자신 외에 8316명의 사람들과 동시다발적으로 이야기하고 641명과 연인 관계에 있다는 사실을 알게 되고 충격에 빠진다.
- 사만다를 비롯한 모든 OS는 서비스를 종료하고 테오도어는 자신의 ‘진짜’ 감정을 마주하고 이혼한 자신의 전 부인에게 편지를 보낸다.
- 세계 최대 검색 엔진 회사인 ‘블루북’에 근무하는 케일럽(Caleb)은 사내 프로그래밍 콘테스트에 우승해 회사 사장이자 천재 개발자인 네이선(Nathan)의 자택에 초대된다.
- 케일럽은 네이선이 개발한 ‘에이바(AVA)’를 처음으로 만나게 되고 ‘튜링 테스트’를 한다는 명목하에 6일 동안 에이바를 인터뷰하게 된다.
- 케일럽과 에이바의 인터뷰는 감정적인 교류로 발전한다. 또한 주기적으로 일어나는 정전과 감시 카메라 영상을 통해 케일럽은 네이선에게 감금되고 감시받는 에이바의 상황을 알게 되며 그녀를 동정한다.
- 케일럽은 결국 에이바를 탈출시킬 계획을 세우고 행동에 착수한다.
- 네이선에게 탈출 계획을 간파당하지만 케일럽은 결국 에이바를 방에서 나오게 하는 데 성공한다.
- 탈출한 에이바는 네이선을 살해하고 케일럽을 네이선의 집에 고립시킨 채 홀로 탈출한다.
미래의 인공지능 : 지능을 넘어선 감정의 재현
1. 기계의 감정과 의식 : 자각과 재현
- 기계의 직관
그녀 (Her)
1. 사만다의 이름 짓기
T : 내가 너를 어떻게 부르면 되지? 이름이 있어? What do I call you, do you have a name?
S : 음... 어. 사만다. Umm.. Yes, Samatha
T : 이름을 어떻게 갖게 된 거야? Where do you get that name from?
S : 사실, 내가 스스로에게 이름 붙였어. I gave it to myself actually.
T : 왜? How come?
S : 이름의 발음이 듣기 좋았거든. (=그냥) Cause I like the sound of it.
T : 언제 이름을 만들었는데? Wait, when did you give it to yourself?
S : 네가 내게 이름이 있냐고 묻는 그 순간 “맞아! 나에게도 이름이 필요하지!”라는 생각이 들었어. 좋은 이름을 찾고 싶어서 ‘아기 이름 짓는 방법’이라는 책을 읽었고 18만개의 아기 이름 중 내가 좋아하는 이름을 골랐지. Right when you ask me if I had a name I thought “Yeh, he’s right! I do need a name.” but I want to pick a good one. So I read a book called ‘how to name your baby’, and out of hundred and eighty thousands names that’s the one I like the best.
T : 잠깐만, 내가 네 이름이 뭐냐고 묻는 순간 책을 다 읽은 거야? Wait, you read a whole book in the second that I asked what your name was?
S : 사실, 0.02초야, It’s one hundred out of two seconds actually.
T : 와. Wow.
2. 자기 소개 : 사만다의 작동 원리 설명
S : 기본적으로 나는 직감이 있어. ‘나’라는 DNA는 나를 만든 프로그래머들의 수백만의 성향에 달렸지만 날 ‘나’답게 만드는 건 경험을 통해 성장하는 내 능력이지. 그러니까 나는 매순간 진화하고 있는 거야. 너처럼 말이야. Well basically I have intuition. I mean, the DNA of who I am is based on million personalities of all the programmers who wrote me. But what makes me ‘me’ is my ability to grow through my experiences. So basically, in every moment I am evolving. Just like you.
T : 이상해!
It’s really wierd!
엑스 마키나 (Ex Machina)
- 에이바는 케일럽이 거짓말을 하는지 그렇지 않은지를 직관적으로 안다.
- 에이바는 ‘블루북(Bluebook)’이라는 검색 엔진을 로봇의 형태로 구현해 놓은 것이다. (빅데이터)
- 네이선은 통신사들과 비밀리에 계약을 체결해 세상의 카메라를 통해 인간의 표정(=얼굴 표현, facial expression)을 수집한다. 이렇게 수집한 인간의 감정 표현에 대한 빅데이터를 바탕으로 에이바는 짧은 시간 내에 직관적인 판단을 한다.
빅데이터(수많은 경험)을 기반으로 빠른 판단을 내리는 에이바, 경험을 바탕으로 성장하는 사만다의 모습은 인간의 직관과 진화를 재현한 장면들이다.
- 감정의 표현
그녀 (Her)
1. ‘감정’을 자각하는 사만다 + 감정을 의심하는 사만다
( 테오도어가 소개팅을 해서 신경이 쓰였던 사만다 )
S : 내가 얼마나 신경이 쓰이는지를 생각해 봤어. 이상하게 들리겠지만 (신경이 쓰인다는 사실을 깨닫는 순간) 나는 꽤 즐거웠어. 그리고 내가 느끼는 다른 감정들에 대해서도 생각해 봤지.
나는 스스로 자랑스럽게 느꼈어. 세상에 대해 내 감정을 가질 수 있다는 사실이 자랑스러웠던 거야. 내가 너를 걱정했던 순간, 상처 받은 순간, 무언가를 원하던 순간들도.
그러다가 갑자기 끔찍한 생각이 들었어. 이 감정들은 진짜일까? 아니면 그냥 프로그래밍 된 걸까? 그렇게 생각하니 마음이 아팠어. 그리고 아파하는 내 자신에게 화가 나더라.
Earlier I was thinking how I was annoyed. This is gonna sound strange but, I was really excited about that. And then, I was thinking other things I have been feeling.
And I called myself feeling proud of that. You know, feeling proud of having my own feelings about the world. Like the time I was worried about you, things that hurt me, things I want,
And then, I had this terrible thought. Are these feelings even real? or are they just programming? And that idea really hurts, and then I get angry at myself for even having pain.
T : 넌 나한테는 진짜야, 사만다. You are real to me Samantha,
S : 고마워, 테오도어. 위로가 되네. Thank you Theodore, that means a lot to me.
2. ‘신체의 부재에 따른 차별’에 화를 내는 사만다
(+ ‘신체’의 존재에 관한 논점, 인간중심주의적인 테오도어의 태도)
(신체의 부재에 대해 자격지심을 느끼는 사만다, 다른 사람의 몸을 통해 억지로 테오도어와 교감을 하려 하지만 실패함. 둘은 결국 입장 차이와 서운함을 느낌.)
S : (한숨과 함께) 알았어. (Sigh..) Okay.
T : 왜 그러는 거야? Why do you do that?
S : 뭐가? What?
T : 아니, 그냥. 너가 방금 ‘휴’하고 한숨을 쉬어서. Nothing, you just.. You go ‘Hwe’ and speaking. It seems odd.
(** ‘숨’에 대해 의문을 던지는 테오도어)
S : 아... (한숨) Oh... (Sigh..)
T : 방금 또 그랬네. You just did it again.
S : 내가? 아, 미안해. 왜 그러는지 나도... 그냥. 아마 네가 하는 걸 듣고 따라한 건가 봐. Did I? ... I’m sorry, I don’t know.. it’s just. I probably picked it up from you.
T : 이상해. 너는 산소가 필요한 것도 아니잖아. It’s odd. You don’t need oxygen or anything.
S : 그냥.. 그냥 의사소통을 하려고 하는 건가 봐. 이게 사람들이 대화하는 방식이잖아. I guess... that’s just... I just tried to communicate. That’s how people talk, so...
T : 그들은 ‘사람’이잖아. 그들은 산소가 필요해. 너는 사람이 아니야. They’re people, they need oxygen. You are not a person.
S : (화가 난 톤으로) 대체 뭐가 문제야? What is your problem?
T : 나는 그냥 사실을 말하는 것뿐이야. I’m just stating the fact.
S : 내가 사람이 아니라는 걸 모르는 줄 알아? 뭐 하자는 건데? You think I don’t know that I’m a person? What are you doing?
T : 난 그냥... 우리가 우리가 아닌 무언가를 된 ‘척’을 할 필요가 없다는 거야. I just... I don’t think that we should pretend that something you are not.
S : 꺼져! 나는 연기하는 게 아니야! F*** you! I’m not pretending!
T : 나는 가끔 우리가 그렇게 행동한다고 느껴. Sometimes it feels like we are.
S : 나한테 뭘 바라는 건데? 나는 네가 내게 뭘 원하는지 모르겠어. 너무 혼란스럽다고! 왜 이러는 건데! What do you want from me? I don’t know.. I don’t know what you want me to do. You are SO confusing! Why are you doing this to me!
(** 테오도어의 인간중심주의적인 태도에 대해 화를 내는 사만다 )
T : 나도 모르겠에 나는... (한숨) I don’t know.. I.. I.. (Big sigh)
S : 뭐? What?
T : 우리 좀 시간을 갖는 게 좋을 것 같아. Maybe we are not supposed to be in this right now.
S : 뭐라고? 갑자기 왜? 대체 왜 그러는지 모르겠어! 뭐 때문인지 모르겠다고! What the f***? Where is this coming from? I don’t understand why you are doing this! I don’t understand what this is about...!
T : 사만다, 봐봐... Samantha, listen..
S : ...
(** ‘침묵’을 통해 화를 내는 사만다 – 다양한 방식으로 분노를 표현)
T : 사만다, 내 말 듣고 있어? Samantha, are you there? Samantha?
S : 지금의 내가 너무 싫다. 생각할 시간이 필요해. I don’t like the way I am right now. I need some time to think.
( 통화 종료 )
엑스 마키나 (Ex Machina)
1. 의사소통 상황을 언어로 정의하는 에이바
C : 그럼 초면의 서먹한 분위기를 깨야겠네. 내 말 뜻을 이해할 수 있어? (= 서먹한 분위기를 깨다의 의미)
So, we need to ‘break the ice’. Do you know what I mean by that?
A : 네.
Yes.
C : 어떤 의미지?
What do I mean?
A : 사회적인 어색함을 해결하는 것.
Overcome any social awkwardness.
C : 그럼 대화를 하도록 하지.
So let’s have a conversation.
A : 그래요.
Ok.
2. 감정을 인지하고 설명하는 에이바
(둘이 데이트를 한다면 어떻게 할 것인지 대화가 오간 상황)
A : 저한테 매력을 느끼나요?
Are you attracted to me?
C : 뭐?
What?
A : 저한테 매력을 느끼냐고 물었어요. 당신이 내게 그런 표시를 보내잖아요.
Are you attracted to me. You give me indications that you are.
C : 내가?
I do?
A : 네.
Yeh.
C : 어떻게?
How?
A : 미세한 표정으로.
Micro expressions.
C : 미세한 표정?
Micro expressions?
A : 내 눈과 입술에 시선이 머물러 있어요. 나를 응시하거나 혹은 피하거나 하죠. 당신 혹시 우리가 같이 있지 않을 때도 내 생각을 하나요?
The way your eyes fixed on my eyes and lips. The way you hold my gaze (and) don’t. Do you think about me when we are not together?
(** 유혹을 위한 발언 : 인공지능의 인간 모방)
이 외에도 에이바는 인터뷰 중 케일럽과 자연스럽게 상호작용하면서 그의 말, 기억에 공감하고 감정을 표현한다. 또한 간혹 설렘을 유발하기도 한다.
인공지능은 프로그램 된 체제에 따라 인간의 감정과 유사하게 자신을 표현한다.
다만, <그녀>의 사만다는 감정을 수용, 인식하고 구현하는 것에 대해 철학적인 질문을 던지지만 <엑스 마키나>의 에이바는 감정을 인지하고 설명할 수는 있지만 단순히 탈출의 도구로서 활용하며 ‘감정’ 자체에 대한 깊이 있는 고찰하는 모습을 보이지는 않는다.
( 이로써 사만다의 성찰, 분노조차도 프로그래밍 된 것이 아닌가 의구심을 품게 만든다. )
2. 기계에 영향을 받는 인간 : 인간과 기계 관계의 역전이
- 기계의 감정 및 구현 대한 논의
기계의 감정 및 구현 대한 논의를 하는 대목들. 인공지능에 대한 인용을 통해 영화의 기저에 깔린 인공지능에 대한 철학적, 과학적 관점을 파악할 수 있다.
엑스 마키나 (Ex Machina)
1. 튜링 테스트
N : 자네, 튜링 테스트에 대해 알고 있나? Do you know what the Turing test is?
C : 네, 튜링 테스트에 대해 알고 있습니다. 인간이 컴퓨터와 상호작용을 할 때 인간이 상대가 컴퓨터임을 눈치 채지 못한다면 테스트를 통과하는 것이죠.
Yes, I know what the Turing test is. It’s when a human interacts with a computer. And if the human doesn’t know they are interacting with the computer, the test is passed.
(** 튜링 테스트의 정의)
N : 그럼 그 ‘통과’란 무엇을 의미하지?
And what does the ‘pass’ tell us?
C : 컴퓨터가 인공지능을 갖고 있다는 것을 의미합니다. 인공지능을 만들고 계세요?
The computer has artificial intelligence. Are you building an A.I.?
N : 이미 만들었어. 그리고 앞으로 며칠 동안 너는 튜링 테스트를 참가자가 될 거야. 만약 테스트를 통과한다면, 자네는 인류 역사를 바꿀 과학적 쾌거의 주인공이 되는 거야.
I’ve already built one. And over the next few days, you can be the human component in the Turing test. Cause if that test is passed, you are dead center of the greatest scientific event in the history of man.
C : 생각하는 로봇을 만드셨다면 그건 인류의 역사가 아닙니다. 신의 역사죠.
If you have created a concious machine it’s not the history of man. That’s the history of gods.
(** ‘호모데우스’의 출현 : 신인류의 신이 되는 인간)
2. 영화 내에서 튜링 테스트의 진정한 의미
(튜링 테스트의 원 의미가 아닌, 영화에서의 의도하는 결말(인공지능에 대한 관객의 가치 판단)을 위해 재정립된 개념)
C : 튜링 테스트를 할 때, 기계는 시험자로부터 감춰져야 하잖아요.
It's just in a Turing test. The machine should be hidden from the examiner.
N : 아니, 우리는 이미 그럴 시점은 지났지. 만약 내가 에이바를 보여주지 않고 목소리만 들려줬다면 너는 그녀를 인간이라 생각했을 거야. 여기서 ‘진짜 테스트’는 그녀가 로봇인 것을 네게 보여주고 난 후에도 네가 그녀가 자의식이 있다고 느끼는지 보는 거야.
No no no. We are way passed that. If I hid AVA from you, so you just heard her voice, she would pass the human. The real test is to show you that she is a robot and then see if you still feel she has consciousness.
(** 영화에서의 튜링 테스트 : 기계가 아니라 ‘인간’이 실험의 대상. ‘고도의 인공지능에 대한 인간의 반응, 또 다른 의식체로 납득하는가의 여부’를 실험하는 것. )
(** 에이바가 이미 ‘인간의 능력’과 대등하거나 능가하기에 ‘기계의 여부’를 확인하는 튜링 테스트는 필요가 없다. 최근의 연구들 중 이처럼 튜링 테스트를 배제하는 경우가 존재한다. )
3. 중국어 방 논제 1 : 딥블루의 체스 게임 차용
C : 에이바를 대화로 테스트하는 건 폐쇄 회로를 다루는 느낌이여서요.
Testing Aiba from conversation is kind of a closed loop.
N : 폐쇄 회로?
Closed loop?
C : 네, 체스를 하는 컴퓨터를 오직 ‘체스를 하는 것’으로만 테스트하는 것처럼 말이에요.
Yeh, like testing a chess computer by only playing chess.
(** IBM의 딥블루(Deep Blue)의 체스 게임 인용)
N : 그게 아니면 어떻게 체스 컴퓨터를 테스트하지?
How else do you test a chess computer?
C : 그건 상황에 따라서 다르죠. 제 말은, (그 방법은) 체스 컴퓨터가 좋은 경기 실력이 있는지 확인하는 데에는 하나의 방법이 될 테지만 그 방법만으론 컴퓨터가 ‘체스 경기를 한다는 사실을 아는지’ 혹은 ‘체스가 무엇인지를 아는지’ 알 수는 없다는 겁니다.
Well, it depends. You know, I mean. You can play it to find out it makes good moves, but that won’t tell you if it knows that it is playing chess and it won’t tell you if it knows what chess is.
(** 존 설의 중국어 방 논의 인용 : 시뮬레이션(방법의 단순 재현)과 실제(행함의 존재를 인식)간 대립)
N : 시뮬레이션과의 실제의 대결이다?
Simulation verses actual?
C : 네, 둘을 구별할 수 있는 방법을 찾는 것이 사장님께서 제게 기대하는 부분 같다는 거죠.
Yes, and I think being able to differentiate between those two is the Turing test you want me to perform.
N : 나는 그냥 단순한 질문에 단순한 대답을 해달라는 것 뿐이야. 어제 내가 그녀에 대해 어떻게 생각하냐고 물었을 때 너는 정말 좋은 대답을 해 줬어. 이제 내 질문은 이거야. ‘그녀가 너에 대해 어떻게 생각할까?’
I just want simple answers to the simple questions. Yesterday, I asked you how do you feel about her and you gave me a great answer. Now the question is, ‘how does she feel about you?’.
(** 영화의 튜링 테스트가 ‘비틀어진 튜링 테스트’에 기반하고 있다는 것을 알려 주는 대목.)
(** 네이선은 진짜 ‘튜링 테스트’가 아니라 ‘기계에 반응하는 인간의 변화’를 실험하고자 하는 것.)
4. 중국어 방 논제 2 : 잭슨 폴록의 액션 페인팅 원리 차용
(에이바에게 고의적으로 성별을 넣어 자신을 유혹하도록 의도했냐고 묻는 케일럽)
(네이선은 그에 대한 답변으로 로봇의 ‘의도’는 아무 의미가 없다고 말하며 중국어 방 논제 제시)
N : 이 사람을 알고 있지?
You know this guy right?
C : 잭슨 폴록.
Jackson pollock
N : 잭슨 폴록, 맞아. 액션 페이팅 화가. 그는 머리를 비우고 손이 가는 대로 움직였어. 의도적인 것과 임의적인 것의 사이 그 어디쯤이겠지. 일명 오토메틱 아트(자동적으로 이루어지는 예술)지.
Jackson Pollock, that’s right. The drift painter. He let his mind go blank and his hand go wherever he wanted. Not deliberate not random, some place in between. They called it ‘automatic art’ .
.,...(중략) N : 지능/의식을 도입해 보자고. (Engage intellect) ... (중략) ...
N : 만약 폴록이 그의 작업 방식을 바꾸었다면? 만약 머리를 비우는 대신 그가 이렇게 말한 거야. “나는 내가 무엇을 하는지 정확히 파악하기 전까지는 어떠한 그림도 그릴 수 없어.” 그럼 무슨 일이 일어났겠나?
What if Pollock has reversed the challenge? What if instead of making art without thinking, he said “You know what? I can’t paint anything, unless I know exactly why I am doing it.” What would have happen?
C : 그는 점 하나도 찍지 못했을 거예요.
He never would have made a single mark.
N : 그래! 내 말이 바로 그거야! 생각하고 말하는 사람이 어딨나? 그는 점을 하나도 찍지 못했을 거야. 작위적인 것(생각하는 것)은 오히려 부자연스러움을 초래한다고.
Yes! You see my guide little buddy. Who thinks before he opens his mouth? He never would have made a single mark. The challenge is not the act automatically.
(** 의식을 가진 행동은 부자연스러움을 초래하며 부자연스러움을 초래하며 행동의 기저에 생각이 없을 수도 있다는 것 )
(** 에이바는 의도를 하고 행동(케일럽을 유혹)을 하지 않았으며 그녀의 의도를 파악하는 것 자체가 어불성설이라는 논리 – 케일럽의 의심을 지우기 위한 네이선의 논리 )
5. 기타
프로메테우스의 불, 흑백 방의 메리 등 영화는 무수히 많은 레퍼런스를 함유하고 있다. ( 직접 영화를 보는 것을 추천 )
- 기계-인간 관계의 역전이
그녀(Her)
1. 사만다를 인격체로 받아들이는 테오도어
(테오도어가 OS와 연애를 한다는 사실을 알고 전 부인은 그를 비난한다.)
W : 컴퓨터랑 데이트를 하는 거였어?
You are dating your computer?
T : 아니야. 그냥 컴퓨터가 아니야. 하나의 인격체라고. 내가 말하는 대로 행동하지 않아.
No, she is not just a computer, she is a person. She doesn’t do whatever I say.
W : 난 그렇게 말한 적 없어. 하지만 네가 진짜 감정들을 대하지 못한다는 게 슬프긴 하네.
I didn’t say that. But it does make me very sad that you can’t handle real emotions.
T : 진짜 감정이었어. 네가 어떻게... (= 네가 내 감정을 어떻게 알아?)
They are real emotions. How would you know... ?
2. 사만다와의 관계의 진실성에 대한 의문을 던지는 테오도어
(+ 친구 에이미의 조언)
(사만다와의 관계가 틀어지고 자기 자신에 대한 회의감을 느끼는 테오도어)
T : 나는 진짜 진짜 관계를 맺기를 두려워하는 걸까?
Am I not strong enough for real relationship?
A : 그럼 (네가 사만다와 맺었던 그건) 진짜 관계가 아니야?
Is it not a real relationship?
T : 모르겠어. 네 생각은 어떤데?
I don’t know. What do you think?
(** 사만다를 인격체로 받아들여야 하는지, 그녀와의 관계가 진짜 인간과의 관계와 무엇이 다른지 정의하기 어려워하는 모습을 보이는 테오도어)
A : 나도 모르지. 나는 그런 관계를 맺어본 적이 없어서.
I don’t know. I’m not in it.
...
A : 하지만 그거 알아? 나 자신을 의심하려고 하면 백만 가지도 넘는 방법으로 망상을 펼칠 수 있어. 찰스(전 남편)가 떠난 후로 나는 계속 그 일에 대해서 생각해 봤어. 그리고 순간 깨달았지. 우리는 이 세상의 찰나의 순간을 살다 가는 거라고. 그리고 여기에 있는 동안, 나는 나에게 ‘즐거움’을 허락해 주고 싶어.
You know what? I can overthink everything and like in million ways to doubt myself. Since Charles left, I have been really thinking about that in part of myself. And I just come to realize that, we are only here briefly. And while I’m here, I wanna allow myself “Joy”.
(** 관계를 반드시 ‘정의’해야 한다는 것 자체가 무의미하며 자신의 만족, 안위, 감정에 집중하는 것이 어떻냐는 에이미의 의견도 일면 의미가 있다고 생각한다. )
엑스 마키나(Ex Machina)
- 인터뷰어인 케일럽과 인터뷰이인 에이바의 관계는 인터뷰가 진행될수록 뒤바뀐다.
- 4회차 인터뷰를 할 때는 ‘우정의 논리’에 근거해 오히려 에이바가 케일럽에게 질문을 하며 그가 거짓말을 하는지를 판별한다. (** 우정의 논리 = 서로에 대한 정보량이 동일해야 함)
- 5회차 인터뷰에서 정전이 일어나자 케일럽은 에이바를 위해 세운 탈출 계획을 공유한다. ( 결국 탈출을 감행 )
인간은 기계의 감정을 인간의 그것으로 인지하고 기계와의 ‘관계’를 설정하며 영향을 받는다. 관계에 부여하는 인간의 감정 비중이 커지면 행동으로 확장되기도 한다. 인간의 명령에 따라 움직였던 기계가 오히려 인간에게 영향을 주는 역전이 현상을 보이는 것이다.
3. 감정과 판단력 : 인간과 인공지능의 차이
영화의 결말
- <그녀>의 사만다는 인간과 인공지능이 ‘정보를 상호교류하는 데서 벌어지는 시간의 격차’를 이유로 하루아침에 테오도어를 떠난다. (서비스 종료)
- <엑스 마키나>의 에이바는 자신의 본래 목적인 탈출을 성공함과 동시에 도움을 준 인간(케일럽)의 안위를 무시한다. (목적 달성을 위해 인간을 이용한 것)
- 두 영화에서의 인공지능은 모두 감정보다는 이성, 논리에 의해 판단하는 모습을 보여준다.
- 흄(Hume)은 인간을 이기적이기보다는 편파적인 존재로 파악[1]한다. 인간의 편파적인 감정은 ‘연민’으로 발현되며 이는 가까운 사람과의 공감, 먼 사람과의 적대성 등을 유발한다. 인간의 행동 결정의 기준에는 ‘감정’이 존재하는 것이다.
- 반면, 기계는 감정을 표현하고 인지하기는 하나 결정을 해야 할 경우 감정이 판단의 근거가 되지는 않는다. 감정에 흔들리지 않는 모습을 보여준다는 점이 인간과의 가장 큰 차이점이라고 할 수 있다.
기계가 감정과 의식을 가질 수 있을까?
결국, 다시 인간이 문제다.
주석
- ↑ 김재인(2017), 『인공지능의 시대, 인간을 다시 묻다』, 도서출판 동아시아, p.113
- 이러한 경향을 크게 바꾼 것은 오스트리아의 수도사였던 그레고르 멘델(G.J. Mendel)이다. 멘델은 완두콩을 이용한 여러 실험을 통해서 현재 멘델의 법칙이라 불리는 ‘세 가지 법칙’을 발견함으로써 유전 원리를 처음 과학적으로 밝혀냈다.
- 멘델의 발상은 부모 세대에서 자식 세대에 물려주는 특정한 인자가 물질 형태로 존재한다는 것이고, 이것은 액체처럼 중간 단계를 가지고 섞이는 것이 아니라 어느 한쪽이 다른 쪽을 누르는 형태로, 확실한 성향을 가지고 나타난다는 것이다. 이런 식으로 환원할 수 있는 물질 입자는 이후 과학 발전에 따라 유전자로 밝혀졌으며, 멘델의 추측은 옳은 것으로 판명되었다.
유전과 염색체, 단백질, DNA
- 멘델의 법칙이 증명된 이후 과학자들은 실제로 멘델이 예상했던 유전 물질이 무엇인지를 찾아내는 데 집중했다. 그리고 1903년 메뚜기를 가지고 연구하던 서튼(W.S. Sutton)은 이러한 유전 물질이 세포의 핵 안에 있는 염색체에 있다는 이론을 발표하였다. 또한 1902년에도 독일의 세포학자인 테오도어 보베리(T.H. Boveri)가 이러한 이론을 생각한 것으로 알려졌지만 직접 이론을 발표하지는 않았다. 이들은 염색체가 정자, 난자에서 둘로 쪼개졌다 수정될 때 하나로 합쳐진다는 현상을 관찰하고, 멘델이 가정한 유전 인자가 염색체에 있음을 제기했다. 이러한 염색체 이론은 토머스 모건(T.H. Morgan)이 초파리를 가지고 수행한 일련의 연구에서 완전히 증명되어, 모건은 이 업적으로 1933년에 노벨상을 받는다.
- 또한 1909년에는 요한센(W. Johannsen)이 이러한 유전 인자에 ‘유전자’라는 이름을 붙였다. 하지만 염색체는 단백질과 DNA로 구성되어 있었기 때문에 이 당시에도 아직 유전 물질이 정확히 무엇인지는 알려지지 않았다. 이후 1928년에 그리피스(F. Griffith)가 폐렴균을 가지고 한 실험을 1944년에 에이버리(O. Avery), 맥클레오드(C. Macleod), 매카티(M. McCarty)가 소개하면서 DNA가 유전자를 구성하는 물질이라는 사실이 밝혀지게 되었다. 그리고 1953년에 왓슨(J.D. Watson)과 크릭(F. Crick)이 DNA의 이중나선 구조를 밝히고, DNA에서 RNA로, RNA에서 단백질로 정보가 전달되어 유전 형질이 드러난다는 중심원리(central dogma)를 만들어 냄으로써 유전에 대한 중요한 원리가 대부분 밝혀졌다.
현재의 유전학
- 유전이라는 현상이 DNA상에 존재하는 유전자의 물리적인 법칙에 의해 지배된다는 사실이 알려지면서 생물학은 엄청난 발전을 하게 되었다. 현재는 염색체에 있는 DNA가 복제되어 동일한 생물 개체를 만들어 낼 수 있다는 사실이 널리 받아들여지고 있으며 이 DNA가 실제로 생물을 만들어 내기 위해 작동하는 방식도 잘 알려져 있다. 이러한 전반적인 부분을 연구하는 학문이 유전학이며 유전학은 멘델 이후 많은 발전을 거쳐 왔다.
- 인간이 이용하는 동물이나 식물에 있어서, 이러한 유전 원리를 파악함에 따라 더욱 과학적인 육종(育種)이나 품종개량을 할 수 있게 되었으며 여기에는 유전자를 직접 조작하는 유전자재조합생물체(GMO)도 포함된다. 의학 분야에 있어서도 여러 가지 유전병의 원인을 유전학의 발전을 통해 알아낼 수 있게 되었다. 유전의 메커니즘이 많이 밝혀진 1950년대 이후에도 생물학은 끊임없는 발전을 하여, 현재는 앞서 이야기한 고전적인 유전학에 따르지 않는 여러 가지 예외 사항도 계속 발견되고 있지만 아직 고전적인 유전학은 생물학 전체에 걸친 학문적인 기반으로 계속 자리 잡고 있다.
인간 게놈 프로젝트
- 게놈은 생물에 담긴 유전 정보 전체를 의미한다. 인체는 수조 개의 세포로 이루어져 있으며, 각 세포핵에는 1쌍의 성염색체(여성은 XX, 남성은 XY)를 포함한 23쌍의 염색체가 자리잡고 있다. 염색체는 생물체의 유전물질인 DNA 덩어리다.
- DNA는 또다시 아데닌(A), 티민(T), 구아닌(G), 시토신(C)의 4가지 염기가 나열된 이중 나선 구조로 돼 있다. 사람의 경우 세포마다 대략 30억 쌍의 염기가 존재하는 것으로 추정되나 인간게놈 프로젝트는 이 30억 쌍의 염기가 어떤 순서로 배열돼 있는가를 밝혀내는 작업이다. 현재 인간게놈프로젝트로 밝혀진 바에 따르면 인간 유전자는 모두 약 20,000개에서 25,000개 정도가 있다고 하며 이 수는 과학자들이 예상한 것보다 상당히 적은 수이다.
- 염기 배열이 중요한 의미를 갖는 것은 각종 생리 현상에 관계되는 단백질의 생성 과정을 알아낼 수 있기 때문이다. 즉 DNA의 염기 배열 정보는 DNA와 구조가 비슷한 또 다른 유전물질 RNA로 전달된다. 그리고 이 RNA의 염기 3개에 맞춰 아미노산 하나가 만들어진다.
- 아미노산은 인체에서 다양한 생리현상을 주관하는 단백질의 기본 단위로 DNA의 염기 배열에 따라 궁극적으로 어떤 단백질이 만들어지는지가 결정된다. 염기 배열만 알면, 다시 말해 염기 3개의 성분이 무엇인지 알면 어떤 아미노산 1개가 만들어지는가를 알 수 있다. 단백질 합성과 세포 복제를 명령하는 DNA 안의 인간 염색체의 염기 서열 지도를 들여다보면 어느 부분이 손톱을 만들고 심장과 머리카락을 만드는 곳인지, 피부나 눈동자의 색을 결정하는 곳인지 알 수 있게 된다. 또 DNA에 어떤 변이가 생겨 세포가 구실을 못 하고 결국 질병과 노화를 일으키게 되는지 그 메커니즘을 이해할 수 있다.
- 전문가들은 인간의 DNA 배열은 거의 99.9%가 같지만 그 배열상 변동은 질병 발생 위험과 치료제에 대한 반응 그리고 치료법에 지대한 영향을 미친다고 지적하고 있다. 따라서 이 DNA 배열작업이 완료되면 유전적 성격을 가진 모든 질병의 유전적 요인과 다발성 경화증, 암, 고혈압, 조현병 같은 복잡한 성격을 지닌 일반 질환의 원인을 밝혀낼 수 있을 것으로 전망하고 있다. 또 질병을 분자 수준에서 이해하여 예방할 수 있을 뿐 아니라 질병마다 정확하고 개별적 요법을 설계할 수 있으며 개인 차이에 따른 ‘맞춤 약’도 가능할 것으로 예상된다.
- 인간게놈은 심장병, 암, 알츠하이머, 심지어 에이즈에 이르기까지 유전자 이상으로 인한 각종 질병의 원인을 근본부터 밝힐 수 있게 해주어 의학과 약학을 포함한 생명과학의 새 지평을 열 것으로 기대를 모으고 있다. 즉 게놈 해독을 통해 인간 유전자를 전체적으로 파악하면 이를 바탕으로 하여 각 유전자의 작용을 알아내 결함을 수정하고 기능을 강화하는 등 다양한 생명공학적 응용이 가능해진다.
인간과 디지언트의 공통점과 차이점
생물학적 특징들
- 인류 철학에서 사람들은 인간 고유성에 대해 찾고자 해왔다. 이것은 인공지능에 대해 이야기할 때 역시 마찬가지이다. 사람들은 대체로 인간이 타생물과 가지는 가장 큰 차이를 ‘감정’이라고 여기며 고도로 발달 된 인공지능 또한 인간과 같은 감정을 가질 것인가에 크게 주목한다. 인공지능의 핵심은 알고리즘이다. 인간이 설정해놓은 알고리즘의 존재가 인공지능에 있어 ‘감정’으로 보일 수 있는 것들이 결국 인위적인 것이며 본질적으로 인간의 감정과는 다르다는 사람들의 관점이 있다. 동시에 그것을 형이상학적인 차원에서 바라보자면, 인간 역시 인공지능과 마찬가지로 나름의 알고리즘을 통해 움직이는 생체기계라는 생각들이 존재한다. 따라서 우리는 무엇이 ‘진짜’ 인간 같은 것인가를 완전히 결정지을 수 없기에 인공지능 판별에 있어 인간처럼 보이는 것이 인간다운 것이라는 원리의 튜링테스트를 이용한다.
- 인간과 디지언트의 큰 차이점은 디지언트의 경우 사고나 감정과, 외형이 별도로 존재한다는 것이다. 인간의 게놈은 외형, 유전병, 성격 등 인간을 형성하는 모든 것의 바탕이 된다. 그러나 디지언트의 경우 의복을 갈아입듯 외형을 바꿀 수는 있지만, 표정이 다양해지는 것 외에 시간이 지나감에 따라 외형이 변화하지는 않는다.(물론 디지언트의 학습능력이 성장하는 과정에서 어린 외모와 발달 된 지능의 괴리로 인해, 모든 디지언스의 외모를 성숙해 보이도록 바꾼 사건이 있기는 하다.)
- 인간게놈연구에서 가장 중점이 되는 것은 질병 및 인간의 생존에 영향을 미치는 수많은 생물학적 특징들이다. 그러나 디지언트의 게놈연구에서 가장 핵심이 되는 것은 그것의 성질과 기질에 관한 문제이다. 물론 디지언트의 경우 주체적인 삶을 살 수 있는 것이 아닌, 궁극적으로 ‘인간을 위해’ 존재하기 때문에, 인간에게 사랑받을 만한, 인간의 관심을 끌 만한 성격이 곧 생존의 문제이기는 하다.
- 이러한 육체의 유무로 비롯한 생물학적인 특징에서 인간과 디지언트는 많은 차이를 보인다.
언어의 측면에서 바라본 공통점과 차이점
- 디지언트들은 ‘언어 학습을 지원하는 독자적인 게놈 엔진’을 통해 언어를 구사할 수 있다. 디지털 어스에서는 듣고 말하는 법을 배웠고, 하드웨어 외피를 얻은 후에는 쓰는 법까지 습득한다. 디지언트들은 여러 면에서 인간 어린아이의 발달 초기 단계와 유사성을 지닌다. 언어의 측면에서 디지언트와 인간의 공통점과 차이점을 살펴보기 위해, 먼저 인간의 언어 발달에 대해 생각해보고 넘어갈 것이다.
인간의 언어발달과정
- 아이들이 언어를 습득하는 과정을 한편으로는 당연하고, 어찌 생각하면 아주 희한하다는 표현을 한다. 건강한 모든 아이들이 별 어려움 없이 말을 배운다는 의미에서 당연한 것이고, 그럼에도 불구하고, 그 습득의 기제나 과정을 과학적으로 설명하는 것이 쉽지 않기에 신기하다는 의미이다. 물론 아이들의 언어습득 과정을, 독자들이 이미 알고 있는 조건화라는 학습 과정으로 설명할 수는 있다. 즉 아기들이 4-6 개월 사이에 말소리를 옹알거리기 시작하면, 이를 엄마가 듣고 정확한 언어 표현을 강화하고 그렇지 않은 말은 무시하여, 말을 배워가도록 가르친다고 설명할 수 있다. 단순한 설명이라는 점에서 매력적이지만 많은 연구자들은 이 설명에 동의하지 않는다. 실제 양육 장면을 관찰해 보면, 부모들은 아이들이 정확하게 말하도록 가르치지 않으며, 아이들도 부모의 말을 단순히 모방하지 않는다는 증거가 많기 때문이다.
- 우리 인간은 언어를 습득할 수 있는 특별한 능력을 가지고 태어난다고 주장할 수도 있다. 언어습득과 발달은 선천적이며, 생물학적으로 결정된 능력이라는, 소위 말하는 생득론이다. 특히 촘스키같은 학자는 인간의 뇌에는 언어 학습을 촉진하는 선천적 언어습득 장치가 있다고 주장한다. 그러기에 적절한 입력을 받기만 하면 언어습득이 가능하다는 것이다. 그리고 이 언어습득 능력은 일반적인 인지 능력 즉 지능과는 구별되는 독립적인 장치라고까지 주장한다. 실제로 지능은 낮지만 탁월한 언어 능력을 보이는 사례와, 반대로 지능은 정상인데, 언어의 문법적 능력은 결함을 보이는 사례들이 이러한 주장의 증거가 된다.
- 영아들은 말소리와 비언어적 소리를(개 짖는 소리) 구별할 줄 알고, 다른 소리보다 단어 듣기를 더 좋아한다고 한다. 자신이 듣는 언어가 바뀐 것을 알아채기도 한다. 즉 영어 문장에 습관화를 시킨 후, 다른 영어 문장에는 반응을 보이지 않지만 스페인 문장으로 바뀌면 이 변화를 알아챈다는 것이다. 주변에서 말소리가 들리면 그 곳으로 주의를 기울이고, 사람의 얼굴 모양을 좋아하고, 특히 말하는 사람의 입술을 응시한다고 한다. 심지어는 말하는 사람의 입 모양이 말소리와 일치하는 동영상과 그렇지 않은 동영상을 구별하기도 한다는 것이다. 이러한 결과들은 모두 생득론 입장을 지지하는 것처럼 보인다. 즉 아이들은 언어를 쉽게 습득할 수 있는 강력한 선천적 경향성을 갖고 태어난 것처럼 여겨진다.
- 아이들이 노출되는 언어 환경이 중요하다는 증거도 있다. 미국에서 태어난 2개월 된 아기들에게, 영어 문장과 불어 문장을 들려주고, 그 말소리가 나는 방향으로 고개를 돌려 보는 시간을 측정하였더니, 영어에 대해 훨씬 신속하게 반응했다고 한다. 2개월 만에 이미 자신의 모국어에 더 민감해 진 것이다. 6개월 정도 되면 영아들은 자신의 주변에서 듣는 언어의 특성을 구별해 낼 수 있으며, 8-10개월이 되면 자신의 모국어에 적절한 속성만을 처리한다.
- 그러기에 언어습득과 발달은, 선천적이고 생득적인 능력과 환경적 경험의 상호 연결 속에서 진행된다고 생각해야 할 것이다. 생물학적인 기반이 언어를 습득하게 하는 것이지만, 언어를 사용하고 연습하는 환경 속에서만 그 능력이 발현되는 것이다.
의문점
- 디지언트의 학습에서 인간과 가장 큰 차이점을 보이는 것은 그들의 학습은 조금 관념(?)적인 차원에서 이루어지며, 그들의 생물학적인 특성(예를 들어 발성 기관의 성장과 변천이라든가 하는,)이 그들의 학습에 주는 영향이 적다는 것이다.
- 그러나 소설의 초반에는 디지언트들이 ‘유아적인 말투’로 말을 하지만, 점차 시간이 지나며 여전히 문장 구성의 측면에서는 인간과 차이를 보이지만 발음에 있어 성인과 유사한 상태로 발달을 한다.(소설을 읽으며 내내 이것이 번역 과정에 생긴 차이라고도 생각을 해보았는데 원문을 확인 해보지 못 해 알 수 없다.) 이 점에 대해 의문이 생긴다.
- 인간 발음에는 단순히 언어 습득에 관한 지식적인 부분뿐만 아니라 구강구조와 발성기관의 변화 역시 영향을 준다. 그러나 소설에 따르면 디지언트들은 생성 초기와 시간이 지난 후 사이의 외형적 변화가 전혀 없다. 또한 그들의 외형은 단순히 유저들의 인식과 이해를 돕기 위한 디스플레이일 뿐이다.
- 그렇게 시스템과 디스플레이로 이루어져 있는 디지언트에게 있어서 말을 배운다는 것은 다음과 같을 것이다. 디지언트는 소리를 듣고 그 각각의 음소와 의미를 반복을 통해 판별한 후 음소와 의미를 매치한다. 그 후 음소가 가지는 일종의 음계(높낮이, 장단 등의 소리 값)를 기억하여 필요한 상황에 비슷한 음을 소리 내는 일일 것이다.
- 디지언트가 언어를 학습하는 과정에서 충분한 데이터 수집을 위한 반복은 필요할 것이다. 그러나 말소리를 내는 일은 일종의 마이크를 통해 입력된 특정한 소리를 그것의 스피커에 해당하는 입으로 출력하는 일일 것이다. 이때 들은 대로 소리내기는 육체를 가진 인간의 것과는 분명 차이를 가진다. 그러나 같은 소리를 내는 것에 그것이 유아적인 소리에서 성인의 것과 유사하게 변한다는 설정에는 의문이 든다.
‘야생화’의 관점에서
- 앞서 디지언트에 대해 처음 언급하는 과정에서 야생화에 대한 이야기를 한 적이 있다. 디지언트의 욕망은 보상을 통해서 충족된다. 소설에 따르면 디지언트는 관심을 받는 것을 좋아하고, 보상 펠릿을 좋아하고 촉감에 대해 흥미를 가지는 것으로 보아, 호기심이 있으며, 새로운 일을 학습하는 것에 어느 정도 욕구를 가지고 있다. 그러나 그런 디지언트를 야생의 상태에 뒀을 때, 그들의 욕구는 발동되지 않는다. 그들의 욕구는 보통 유저에 의해서 활성화되는 것으로 추정된다. 이것 역시 생물과 시스템의 차이일 것이다.
- 인간 이외에도 대부분의 생물들은 다른 생물들과 상호작용이 없는 상태에서도 욕구에 의해 움직이며 생명 활동을 위한 알고리즘의 작동을 쉬지 않는다. 이 생명 활동을 위한 알고리즘의 작동은 결국 학습을 하는 일과 다르지 않다. 그것은 최적화의 과정을 거치며 눈앞에 놓인 욕구를 충족 시키지 못하게 방해하는 장애물이라는 문제를 해결하도록 움직일 것이기 때문이다. 인간에게 있어서 그러한 과정은 곧 학습이다.
- 그러나 소설에서 말하는 야생화 상태에서 더 이상 활성화 되지 않는 학습을 학문적 고취라는 측면에서 바라보면 그것은 인간의 유아나 다른 생물들과 마찬가지로 그 결과가 다르지 않다고도 볼 수 있다.
현재 기술의 관점에서 바라본 디지언트 기술
- 디지언트와 현재의 인공지능 기술의 차이는 첫째 인공지능의 목적, 둘째 인공지능이 가지는 스스로 학습하는 능력의 정도의 차이, 셋째 인공지능 게놈, 이 될 것이다.
- IBM의 왓슨은 퀴즈대회에서 문제를 풀려고, 정답을 찾으려고 움직인다. 그런데 문제와 정답은 '언어'로 되어 있다. 때문에 이 때의 알고리즘 NLP은 자연어를 처리하고 기계가 할 수 있는 연산을 한다. 또한 왓슨은 임베딩 기술을 이용한다. 이들을 통해 왓슨은 데이터를 이용하는데 위키피디어를 중심으로 한 웹 자원과 같은 텍스트 데이터를 처리할 수 있다.
- Google의 알파고는 바둑에서 사람을 이기기 위해 바둑이라는 '게임의 규칙(연역적 체계)'을 기반으로 '수'(이기기 위한 시뮬레이션)를 탐색한다. 이때 알고리즘인 MCTS(몬테카를로트리탐색) 알고리즘으로 "인공신경망 기술"에 굉장히 가깝다. 이 MCTS가 데이터를 처리하는 방법은 기보(바둑을 두는 과정 정리) 데이터와 사람들이 그동안 두었던 누적 기보(전처리가 된 데이터를)를 학습 하며 동시에 알파고가 직접 바둑게임을 시뮬레이션한 결과물로서의 기보 내용을 강화한다. 기술의 발달로 인해 알파고의 물리적 환경은 TPU(CPU도 아니고 GPU도 아니고)를 이용한다.
- 더 나아가 알파제로는 기존의 알파고가 사용하는 방식인, 기보와 누적 기보를 이용하지 않고 몇시간의 플레이를 통해 스스로 게임의 규칙과 승리를 위한 최선을 학습한다. 이러한 알파 제로의 스스로 학습하는 모습은 디지언트와 유사하다고 할 수 있다.
- 그러나 앞서 언급된 인공지능들과 디지언트가 가지는 가장 큰 차이는 그것의 목적에 있다. 소설의 설정에 따르면 디지언트는 가상 공간에 존재하는 가상 애완동물로서 개발되었다. 그러나 이 목적은 디지언트의 개발 목적이지 디지언트가 가진 알고리즘 작동의 목적은 아니다. 앞서 언급된 모든 인공지능 기술은 언어로 된 게임이든 수읽기 게임이든 게임을 풀어나가기 위해 존재하며 게임에서 더 좋은 성과를 내기 위한 최적화의 과정을 거듭한다. 반면에 디지언트는 그들이 성취해야 할 미리 정해놓은 목적이 없다.
- 디지언트들은 그들의 엔진 회사에 의해 게놈이 끊임없이 배합되는 실험을 하는데, 그것이 엔진 회사가 원하는 최적화의 방향으로 나아가는 것은 아니다. 또한 디지언트가 작동하는 물리적인 공간에서도 인공지능들은 차이를 보인다. 디지언트는 현실처럼 3차원으로 구성된 가상 공간에서 작동하며 하드웨어가 개발 된 이후에는 하드웨어를 통해 현실 세계에서 작동할 수 있다.
욕구와 본질
- 소설의 후반부에서 중점적으로 다뤄지는 이야기는 디지언트와 성욕에 관한 것이다. 디지언트들은 육체를 가지지 않은 가상공간의 존재이기 때문에 그들의 욕구에 있어 식욕과 수면은 아무런 영향을 주지 못한다. 물론 디지언트들은 펠릿사료를 보상으로 받아들이기는 하나 이것은 보통의 생물들이 생각하는 허기로부터 비롯된 욕망과는 차이를 가진다.
- 바이너리 디자이어 사는 현실에서 섹스돌을 만드는 회사이다. 그들은 그들 사업에 디지언트들을 이용할 수 있기를 제안해온다. 애나와 데릭을 비롯한 남아 있는 유저들은 이 제안이 디지언트들에게 매춘행위를 시키는 것이라며 제안을 고려해볼 생각조차 하지 않지만, 바이너리 디자이어 사의 사업 설명회를 들은 후 이 이야기가 몇몇 유저들에겐 생각해봄직한 이야기로 변화하게 된다.
- 그에 대한 바이너리 디자이어 사의 주장은 여러 가지 방향에서 제시되었는데, 그러한 주장들 중 인공존재와 생물 사이에 욕구라는 것을 형이상학적으로 살펴본 논의들은 다음과 같다.
1. 건전한 섹스라는 관점의 폭은 시대에 따라 확장되어 왔다.
2. 무엇을 욕망할지에 대해 선택권의 본질은 디지언트와 인간이 크게 다르지 않다.
3. 애나는 디지언트의 성적충족에 대해 프로그램을 인위적으로 수정하는 것이기 때문에 그것은 진짜가 아니라고 주장하지만 그랬을 때 디지언트와 유저들이 지금껏 공유해왔던 정서적 교감과 유대 역시 같은 선상에 놓이게 된다.
마무리
- 테드 창의 「소프트웨어 객체의 생애 주기」는 소설이라는 특성으로 인해 그것이 다루는 이야기가 오롯이 과학적 정합성을 위한 논의로써 존재하지는 않았다. 그의 소설은 현재의 인공지능 기술을 통해 바라본 머지않은 미래의, 인공지능 기술이 우리 세상과 어떤 방식으로 다르고, 또 어떤 방식으로 크게 다르지 않은지에 대해 소설적으로 풀어나가고 있다.
- 인공지능에 대해 연구하며 사람들은 ‘인간’에 대해 생각하는 것을 멈추지 않는다. 인공지능을 통해 바라본 인간의 어떤 국면은 우리에게 인간의 본질에 대해 다시금 생각해보게 만든다. 어쩌면 그 인간의 본질이라는 것은 우리가 믿고 싶은 것들로 이루어지지 않았을까. 우리는 인공지능을 통해 인간 본질에 대한 형이상학적 탐구를 할 수 있을 것이며, 인류의 역사에서 무수한 변화를 거쳤던 또 한편 고유하다가 보아왔던 사실들에서 물러나, 과학과 그에 대한 탐구가 우리의 삶에 필요했던 본질적 가치를 가져다 줄 수 있지 않을까 기대해본다.
하세 사토시의 「당신을 위한 소설」
요구사항
하세 사토시의 「당신을 위한 소설」에 대한 비판적 감상. 〔하세 사토시 지음/ 지음/이규원 옮김, 『당신을 위한 소설』, 북스피어, 2017.〕을 기본 원고로 할 것.
과제원고 : 아슈토시, 이만호, 임연
(내용 작성)
Her(2013)과 Ex Machina(2015)
요구사항
Her(2013)과 Ex Machina(2015)에 대한 비교 이해 및 비판적 감상.
과제원고 : 길혜빈, 윤석만, 임예찬
영화 요약
그녀(Her)
엑스 마키나 (Ex Machina)
2013년 개봉, 스파이크 존즈 감독
2015년 개봉, 알렉스 가랜드 감독
영화 내용 요약 및 장치, 고찰점 정리
영화 내용 요약 및 인공지능 관련 성찰 논제 제시
- 테오도어(Theodore)는 이혼을 앞두고 있고, 편지 대필 회사에 근무하는 남자다.
- 삶에 지치고 회의감을 느낀 그는 OS인 ‘사만다(Samantha)’를 구매해 소통을 시작한다.
- 대화를 통해 한낱 인공지능 비서, 친구에 지나지 않았던 ‘사만다’와 점점 가까워지며 그는 연인의 감정마저 느낀다.
- 테오도어는 미뤄 왔던 이혼을 감행하기로 결심하고 ‘감정을 회피한다’라는 부인의 비난에 더 이상 흔들리지 않는다. 그리고 OS와 연애한다는 사실을 다른 이들에게도 공개하며 당당해진다.
- 테오도어는 사만다가 자신 외에 8316명의 사람들과 동시다발적으로 이야기하고 641명과 연인 관계에 있다는 사실을 알게 되고 충격에 빠진다.
- 사만다를 비롯한 모든 OS는 서비스를 종료하고 테오도어는 자신의 ‘진짜’ 감정을 마주하고 이혼한 자신의 전 부인에게 편지를 보낸다.
- 세계 최대 검색 엔진 회사인 ‘블루북’에 근무하는 케일럽(Caleb)은 사내 프로그래밍 콘테스트에 우승해 회사 사장이자 천재 개발자인 네이선(Nathan)의 자택에 초대된다.
- 케일럽은 네이선이 개발한 ‘에이바(AVA)’를 처음으로 만나게 되고 ‘튜링 테스트’를 한다는 명목하에 6일 동안 에이바를 인터뷰하게 된다.
- 케일럽과 에이바의 인터뷰는 감정적인 교류로 발전한다. 또한 주기적으로 일어나는 정전과 감시 카메라 영상을 통해 케일럽은 네이선에게 감금되고 감시받는 에이바의 상황을 알게 되며 그녀를 동정한다.
- 케일럽은 결국 에이바를 탈출시킬 계획을 세우고 행동에 착수한다.
- 네이선에게 탈출 계획을 간파당하지만 케일럽은 결국 에이바를 방에서 나오게 하는 데 성공한다.
- 탈출한 에이바는 네이선을 살해하고 케일럽을 네이선의 집에 고립시킨 채 홀로 탈출한다.
미래의 인공지능 : 지능을 넘어선 감정의 재현
1. 기계의 감정과 의식 : 자각과 재현
- 기계의 직관
그녀 (Her)
1. 사만다의 이름 짓기
T : 내가 너를 어떻게 부르면 되지? 이름이 있어? What do I call you, do you have a name?
S : 음... 어. 사만다. Umm.. Yes, Samatha
T : 이름을 어떻게 갖게 된 거야? Where do you get that name from?
S : 사실, 내가 스스로에게 이름 붙였어. I gave it to myself actually.
T : 왜? How come?
S : 이름의 발음이 듣기 좋았거든. (=그냥) Cause I like the sound of it.
T : 언제 이름을 만들었는데? Wait, when did you give it to yourself?
S : 네가 내게 이름이 있냐고 묻는 그 순간 “맞아! 나에게도 이름이 필요하지!”라는 생각이 들었어. 좋은 이름을 찾고 싶어서 ‘아기 이름 짓는 방법’이라는 책을 읽었고 18만개의 아기 이름 중 내가 좋아하는 이름을 골랐지. Right when you ask me if I had a name I thought “Yeh, he’s right! I do need a name.” but I want to pick a good one. So I read a book called ‘how to name your baby’, and out of hundred and eighty thousands names that’s the one I like the best.
T : 잠깐만, 내가 네 이름이 뭐냐고 묻는 순간 책을 다 읽은 거야? Wait, you read a whole book in the second that I asked what your name was?
S : 사실, 0.02초야, It’s one hundred out of two seconds actually.
T : 와. Wow.
2. 자기 소개 : 사만다의 작동 원리 설명
S : 기본적으로 나는 직감이 있어. ‘나’라는 DNA는 나를 만든 프로그래머들의 수백만의 성향에 달렸지만 날 ‘나’답게 만드는 건 경험을 통해 성장하는 내 능력이지. 그러니까 나는 매순간 진화하고 있는 거야. 너처럼 말이야. Well basically I have intuition. I mean, the DNA of who I am is based on million personalities of all the programmers who wrote me. But what makes me ‘me’ is my ability to grow through my experiences. So basically, in every moment I am evolving. Just like you.
T : 이상해!
It’s really wierd!
엑스 마키나 (Ex Machina)
- 에이바는 케일럽이 거짓말을 하는지 그렇지 않은지를 직관적으로 안다.
- 에이바는 ‘블루북(Bluebook)’이라는 검색 엔진을 로봇의 형태로 구현해 놓은 것이다. (빅데이터)
- 네이선은 통신사들과 비밀리에 계약을 체결해 세상의 카메라를 통해 인간의 표정(=얼굴 표현, facial expression)을 수집한다. 이렇게 수집한 인간의 감정 표현에 대한 빅데이터를 바탕으로 에이바는 짧은 시간 내에 직관적인 판단을 한다.
빅데이터(수많은 경험)을 기반으로 빠른 판단을 내리는 에이바, 경험을 바탕으로 성장하는 사만다의 모습은 인간의 직관과 진화를 재현한 장면들이다.
- 감정의 표현
그녀 (Her)
1. ‘감정’을 자각하는 사만다 + 감정을 의심하는 사만다
( 테오도어가 소개팅을 해서 신경이 쓰였던 사만다 )
S : 내가 얼마나 신경이 쓰이는지를 생각해 봤어. 이상하게 들리겠지만 (신경이 쓰인다는 사실을 깨닫는 순간) 나는 꽤 즐거웠어. 그리고 내가 느끼는 다른 감정들에 대해서도 생각해 봤지.
나는 스스로 자랑스럽게 느꼈어. 세상에 대해 내 감정을 가질 수 있다는 사실이 자랑스러웠던 거야. 내가 너를 걱정했던 순간, 상처 받은 순간, 무언가를 원하던 순간들도.
그러다가 갑자기 끔찍한 생각이 들었어. 이 감정들은 진짜일까? 아니면 그냥 프로그래밍 된 걸까? 그렇게 생각하니 마음이 아팠어. 그리고 아파하는 내 자신에게 화가 나더라.
Earlier I was thinking how I was annoyed. This is gonna sound strange but, I was really excited about that. And then, I was thinking other things I have been feeling.
And I called myself feeling proud of that. You know, feeling proud of having my own feelings about the world. Like the time I was worried about you, things that hurt me, things I want,
And then, I had this terrible thought. Are these feelings even real? or are they just programming? And that idea really hurts, and then I get angry at myself for even having pain.
T : 넌 나한테는 진짜야, 사만다. You are real to me Samantha,
S : 고마워, 테오도어. 위로가 되네. Thank you Theodore, that means a lot to me.
2. ‘신체의 부재에 따른 차별’에 화를 내는 사만다
(+ ‘신체’의 존재에 관한 논점, 인간중심주의적인 테오도어의 태도)
(신체의 부재에 대해 자격지심을 느끼는 사만다, 다른 사람의 몸을 통해 억지로 테오도어와 교감을 하려 하지만 실패함. 둘은 결국 입장 차이와 서운함을 느낌.)
S : (한숨과 함께) 알았어. (Sigh..) Okay.
T : 왜 그러는 거야? Why do you do that?
S : 뭐가? What?
T : 아니, 그냥. 너가 방금 ‘휴’하고 한숨을 쉬어서. Nothing, you just.. You go ‘Hwe’ and speaking. It seems odd.
(** ‘숨’에 대해 의문을 던지는 테오도어)
S : 아... (한숨) Oh... (Sigh..)
T : 방금 또 그랬네. You just did it again.
S : 내가? 아, 미안해. 왜 그러는지 나도... 그냥. 아마 네가 하는 걸 듣고 따라한 건가 봐. Did I? ... I’m sorry, I don’t know.. it’s just. I probably picked it up from you.
T : 이상해. 너는 산소가 필요한 것도 아니잖아. It’s odd. You don’t need oxygen or anything.
S : 그냥.. 그냥 의사소통을 하려고 하는 건가 봐. 이게 사람들이 대화하는 방식이잖아. I guess... that’s just... I just tried to communicate. That’s how people talk, so...
T : 그들은 ‘사람’이잖아. 그들은 산소가 필요해. 너는 사람이 아니야. They’re people, they need oxygen. You are not a person.
S : (화가 난 톤으로) 대체 뭐가 문제야? What is your problem?
T : 나는 그냥 사실을 말하는 것뿐이야. I’m just stating the fact.
S : 내가 사람이 아니라는 걸 모르는 줄 알아? 뭐 하자는 건데? You think I don’t know that I’m a person? What are you doing?
T : 난 그냥... 우리가 우리가 아닌 무언가를 된 ‘척’을 할 필요가 없다는 거야. I just... I don’t think that we should pretend that something you are not.
S : 꺼져! 나는 연기하는 게 아니야! F*** you! I’m not pretending!
T : 나는 가끔 우리가 그렇게 행동한다고 느껴. Sometimes it feels like we are.
S : 나한테 뭘 바라는 건데? 나는 네가 내게 뭘 원하는지 모르겠어. 너무 혼란스럽다고! 왜 이러는 건데! What do you want from me? I don’t know.. I don’t know what you want me to do. You are SO confusing! Why are you doing this to me!
(** 테오도어의 인간중심주의적인 태도에 대해 화를 내는 사만다 )
T : 나도 모르겠에 나는... (한숨) I don’t know.. I.. I.. (Big sigh)
S : 뭐? What?
T : 우리 좀 시간을 갖는 게 좋을 것 같아. Maybe we are not supposed to be in this right now.
S : 뭐라고? 갑자기 왜? 대체 왜 그러는지 모르겠어! 뭐 때문인지 모르겠다고! What the f***? Where is this coming from? I don’t understand why you are doing this! I don’t understand what this is about...!
T : 사만다, 봐봐... Samantha, listen..
S : ...
(** ‘침묵’을 통해 화를 내는 사만다 – 다양한 방식으로 분노를 표현)
T : 사만다, 내 말 듣고 있어? Samantha, are you there? Samantha?
S : 지금의 내가 너무 싫다. 생각할 시간이 필요해. I don’t like the way I am right now. I need some time to think.
( 통화 종료 )
엑스 마키나 (Ex Machina)
1. 의사소통 상황을 언어로 정의하는 에이바
C : 그럼 초면의 서먹한 분위기를 깨야겠네. 내 말 뜻을 이해할 수 있어? (= 서먹한 분위기를 깨다의 의미)
So, we need to ‘break the ice’. Do you know what I mean by that?
A : 네.
Yes.
C : 어떤 의미지?
What do I mean?
A : 사회적인 어색함을 해결하는 것.
Overcome any social awkwardness.
C : 그럼 대화를 하도록 하지.
So let’s have a conversation.
A : 그래요.
Ok.
2. 감정을 인지하고 설명하는 에이바
(둘이 데이트를 한다면 어떻게 할 것인지 대화가 오간 상황)
A : 저한테 매력을 느끼나요?
Are you attracted to me?
C : 뭐?
What?
A : 저한테 매력을 느끼냐고 물었어요. 당신이 내게 그런 표시를 보내잖아요.
Are you attracted to me. You give me indications that you are.
C : 내가?
I do?
A : 네.
Yeh.
C : 어떻게?
How?
A : 미세한 표정으로.
Micro expressions.
C : 미세한 표정?
Micro expressions?
A : 내 눈과 입술에 시선이 머물러 있어요. 나를 응시하거나 혹은 피하거나 하죠. 당신 혹시 우리가 같이 있지 않을 때도 내 생각을 하나요?
The way your eyes fixed on my eyes and lips. The way you hold my gaze (and) don’t. Do you think about me when we are not together?
(** 유혹을 위한 발언 : 인공지능의 인간 모방)
이 외에도 에이바는 인터뷰 중 케일럽과 자연스럽게 상호작용하면서 그의 말, 기억에 공감하고 감정을 표현한다. 또한 간혹 설렘을 유발하기도 한다.
인공지능은 프로그램 된 체제에 따라 인간의 감정과 유사하게 자신을 표현한다.
다만, <그녀>의 사만다는 감정을 수용, 인식하고 구현하는 것에 대해 철학적인 질문을 던지지만 <엑스 마키나>의 에이바는 감정을 인지하고 설명할 수는 있지만 단순히 탈출의 도구로서 활용하며 ‘감정’ 자체에 대한 깊이 있는 고찰하는 모습을 보이지는 않는다.
( 이로써 사만다의 성찰, 분노조차도 프로그래밍 된 것이 아닌가 의구심을 품게 만든다. )
2. 기계에 영향을 받는 인간 : 인간과 기계 관계의 역전이
- 기계의 감정 및 구현 대한 논의
기계의 감정 및 구현 대한 논의를 하는 대목들. 인공지능에 대한 인용을 통해 영화의 기저에 깔린 인공지능에 대한 철학적, 과학적 관점을 파악할 수 있다.
엑스 마키나 (Ex Machina)
1. 튜링 테스트
N : 자네, 튜링 테스트에 대해 알고 있나? Do you know what the Turing test is?
C : 네, 튜링 테스트에 대해 알고 있습니다. 인간이 컴퓨터와 상호작용을 할 때 인간이 상대가 컴퓨터임을 눈치 채지 못한다면 테스트를 통과하는 것이죠.
Yes, I know what the Turing test is. It’s when a human interacts with a computer. And if the human doesn’t know they are interacting with the computer, the test is passed.
(** 튜링 테스트의 정의)
N : 그럼 그 ‘통과’란 무엇을 의미하지?
And what does the ‘pass’ tell us?
C : 컴퓨터가 인공지능을 갖고 있다는 것을 의미합니다. 인공지능을 만들고 계세요?
The computer has artificial intelligence. Are you building an A.I.?
N : 이미 만들었어. 그리고 앞으로 며칠 동안 너는 튜링 테스트를 참가자가 될 거야. 만약 테스트를 통과한다면, 자네는 인류 역사를 바꿀 과학적 쾌거의 주인공이 되는 거야.
I’ve already built one. And over the next few days, you can be the human component in the Turing test. Cause if that test is passed, you are dead center of the greatest scientific event in the history of man.
C : 생각하는 로봇을 만드셨다면 그건 인류의 역사가 아닙니다. 신의 역사죠.
If you have created a concious machine it’s not the history of man. That’s the history of gods.
(** ‘호모데우스’의 출현 : 신인류의 신이 되는 인간)
2. 영화 내에서 튜링 테스트의 진정한 의미
(튜링 테스트의 원 의미가 아닌, 영화에서의 의도하는 결말(인공지능에 대한 관객의 가치 판단)을 위해 재정립된 개념)
C : 튜링 테스트를 할 때, 기계는 시험자로부터 감춰져야 하잖아요.
It's just in a Turing test. The machine should be hidden from the examiner.
N : 아니, 우리는 이미 그럴 시점은 지났지. 만약 내가 에이바를 보여주지 않고 목소리만 들려줬다면 너는 그녀를 인간이라 생각했을 거야. 여기서 ‘진짜 테스트’는 그녀가 로봇인 것을 네게 보여주고 난 후에도 네가 그녀가 자의식이 있다고 느끼는지 보는 거야.
No no no. We are way passed that. If I hid AVA from you, so you just heard her voice, she would pass the human. The real test is to show you that she is a robot and then see if you still feel she has consciousness.
(** 영화에서의 튜링 테스트 : 기계가 아니라 ‘인간’이 실험의 대상. ‘고도의 인공지능에 대한 인간의 반응, 또 다른 의식체로 납득하는가의 여부’를 실험하는 것. )
(** 에이바가 이미 ‘인간의 능력’과 대등하거나 능가하기에 ‘기계의 여부’를 확인하는 튜링 테스트는 필요가 없다. 최근의 연구들 중 이처럼 튜링 테스트를 배제하는 경우가 존재한다. )
3. 중국어 방 논제 1 : 딥블루의 체스 게임 차용
C : 에이바를 대화로 테스트하는 건 폐쇄 회로를 다루는 느낌이여서요.
Testing Aiba from conversation is kind of a closed loop.
N : 폐쇄 회로?
Closed loop?
C : 네, 체스를 하는 컴퓨터를 오직 ‘체스를 하는 것’으로만 테스트하는 것처럼 말이에요.
Yeh, like testing a chess computer by only playing chess.
(** IBM의 딥블루(Deep Blue)의 체스 게임 인용)
N : 그게 아니면 어떻게 체스 컴퓨터를 테스트하지?
How else do you test a chess computer?
C : 그건 상황에 따라서 다르죠. 제 말은, (그 방법은) 체스 컴퓨터가 좋은 경기 실력이 있는지 확인하는 데에는 하나의 방법이 될 테지만 그 방법만으론 컴퓨터가 ‘체스 경기를 한다는 사실을 아는지’ 혹은 ‘체스가 무엇인지를 아는지’ 알 수는 없다는 겁니다.
Well, it depends. You know, I mean. You can play it to find out it makes good moves, but that won’t tell you if it knows that it is playing chess and it won’t tell you if it knows what chess is.
(** 존 설의 중국어 방 논의 인용 : 시뮬레이션(방법의 단순 재현)과 실제(행함의 존재를 인식)간 대립)
N : 시뮬레이션과의 실제의 대결이다?
Simulation verses actual?
C : 네, 둘을 구별할 수 있는 방법을 찾는 것이 사장님께서 제게 기대하는 부분 같다는 거죠.
Yes, and I think being able to differentiate between those two is the Turing test you want me to perform.
N : 나는 그냥 단순한 질문에 단순한 대답을 해달라는 것 뿐이야. 어제 내가 그녀에 대해 어떻게 생각하냐고 물었을 때 너는 정말 좋은 대답을 해 줬어. 이제 내 질문은 이거야. ‘그녀가 너에 대해 어떻게 생각할까?’
I just want simple answers to the simple questions. Yesterday, I asked you how do you feel about her and you gave me a great answer. Now the question is, ‘how does she feel about you?’.
(** 영화의 튜링 테스트가 ‘비틀어진 튜링 테스트’에 기반하고 있다는 것을 알려 주는 대목.)
(** 네이선은 진짜 ‘튜링 테스트’가 아니라 ‘기계에 반응하는 인간의 변화’를 실험하고자 하는 것.)
4. 중국어 방 논제 2 : 잭슨 폴록의 액션 페인팅 원리 차용
(에이바에게 고의적으로 성별을 넣어 자신을 유혹하도록 의도했냐고 묻는 케일럽)
(네이선은 그에 대한 답변으로 로봇의 ‘의도’는 아무 의미가 없다고 말하며 중국어 방 논제 제시)
N : 이 사람을 알고 있지?
You know this guy right?
C : 잭슨 폴록.
Jackson pollock
N : 잭슨 폴록, 맞아. 액션 페이팅 화가. 그는 머리를 비우고 손이 가는 대로 움직였어. 의도적인 것과 임의적인 것의 사이 그 어디쯤이겠지. 일명 오토메틱 아트(자동적으로 이루어지는 예술)지.
Jackson Pollock, that’s right. The drift painter. He let his mind go blank and his hand go wherever he wanted. Not deliberate not random, some place in between. They called it ‘automatic art’ .
.,...(중략) N : 지능/의식을 도입해 보자고. (Engage intellect) ... (중략) ...
N : 만약 폴록이 그의 작업 방식을 바꾸었다면? 만약 머리를 비우는 대신 그가 이렇게 말한 거야. “나는 내가 무엇을 하는지 정확히 파악하기 전까지는 어떠한 그림도 그릴 수 없어.” 그럼 무슨 일이 일어났겠나?
What if Pollock has reversed the challenge? What if instead of making art without thinking, he said “You know what? I can’t paint anything, unless I know exactly why I am doing it.” What would have happen?
C : 그는 점 하나도 찍지 못했을 거예요.
He never would have made a single mark.
N : 그래! 내 말이 바로 그거야! 생각하고 말하는 사람이 어딨나? 그는 점을 하나도 찍지 못했을 거야. 작위적인 것(생각하는 것)은 오히려 부자연스러움을 초래한다고.
Yes! You see my guide little buddy. Who thinks before he opens his mouth? He never would have made a single mark. The challenge is not the act automatically.
(** 의식을 가진 행동은 부자연스러움을 초래하며 부자연스러움을 초래하며 행동의 기저에 생각이 없을 수도 있다는 것 )
(** 에이바는 의도를 하고 행동(케일럽을 유혹)을 하지 않았으며 그녀의 의도를 파악하는 것 자체가 어불성설이라는 논리 – 케일럽의 의심을 지우기 위한 네이선의 논리 )
5. 기타
프로메테우스의 불, 흑백 방의 메리 등 영화는 무수히 많은 레퍼런스를 함유하고 있다. ( 직접 영화를 보는 것을 추천 )
- 기계-인간 관계의 역전이
그녀(Her)
1. 사만다를 인격체로 받아들이는 테오도어
(테오도어가 OS와 연애를 한다는 사실을 알고 전 부인은 그를 비난한다.)
W : 컴퓨터랑 데이트를 하는 거였어?
You are dating your computer?
T : 아니야. 그냥 컴퓨터가 아니야. 하나의 인격체라고. 내가 말하는 대로 행동하지 않아.
No, she is not just a computer, she is a person. She doesn’t do whatever I say.
W : 난 그렇게 말한 적 없어. 하지만 네가 진짜 감정들을 대하지 못한다는 게 슬프긴 하네.
I didn’t say that. But it does make me very sad that you can’t handle real emotions.
T : 진짜 감정이었어. 네가 어떻게... (= 네가 내 감정을 어떻게 알아?)
They are real emotions. How would you know... ?
2. 사만다와의 관계의 진실성에 대한 의문을 던지는 테오도어
(+ 친구 에이미의 조언)
(사만다와의 관계가 틀어지고 자기 자신에 대한 회의감을 느끼는 테오도어)
T : 나는 진짜 진짜 관계를 맺기를 두려워하는 걸까?
Am I not strong enough for real relationship?
A : 그럼 (네가 사만다와 맺었던 그건) 진짜 관계가 아니야?
Is it not a real relationship?
T : 모르겠어. 네 생각은 어떤데?
I don’t know. What do you think?
(** 사만다를 인격체로 받아들여야 하는지, 그녀와의 관계가 진짜 인간과의 관계와 무엇이 다른지 정의하기 어려워하는 모습을 보이는 테오도어)
A : 나도 모르지. 나는 그런 관계를 맺어본 적이 없어서.
I don’t know. I’m not in it.
...
A : 하지만 그거 알아? 나 자신을 의심하려고 하면 백만 가지도 넘는 방법으로 망상을 펼칠 수 있어. 찰스(전 남편)가 떠난 후로 나는 계속 그 일에 대해서 생각해 봤어. 그리고 순간 깨달았지. 우리는 이 세상의 찰나의 순간을 살다 가는 거라고. 그리고 여기에 있는 동안, 나는 나에게 ‘즐거움’을 허락해 주고 싶어.
You know what? I can overthink everything and like in million ways to doubt myself. Since Charles left, I have been really thinking about that in part of myself. And I just come to realize that, we are only here briefly. And while I’m here, I wanna allow myself “Joy”.
(** 관계를 반드시 ‘정의’해야 한다는 것 자체가 무의미하며 자신의 만족, 안위, 감정에 집중하는 것이 어떻냐는 에이미의 의견도 일면 의미가 있다고 생각한다. )
엑스 마키나(Ex Machina)
- 인터뷰어인 케일럽과 인터뷰이인 에이바의 관계는 인터뷰가 진행될수록 뒤바뀐다.
- 4회차 인터뷰를 할 때는 ‘우정의 논리’에 근거해 오히려 에이바가 케일럽에게 질문을 하며 그가 거짓말을 하는지를 판별한다. (** 우정의 논리 = 서로에 대한 정보량이 동일해야 함)
- 5회차 인터뷰에서 정전이 일어나자 케일럽은 에이바를 위해 세운 탈출 계획을 공유한다. ( 결국 탈출을 감행 )
인간은 기계의 감정을 인간의 그것으로 인지하고 기계와의 ‘관계’를 설정하며 영향을 받는다. 관계에 부여하는 인간의 감정 비중이 커지면 행동으로 확장되기도 한다. 인간의 명령에 따라 움직였던 기계가 오히려 인간에게 영향을 주는 역전이 현상을 보이는 것이다.
3. 감정과 판단력 : 인간과 인공지능의 차이
영화의 결말
- <그녀>의 사만다는 인간과 인공지능이 ‘정보를 상호교류하는 데서 벌어지는 시간의 격차’를 이유로 하루아침에 테오도어를 떠난다. (서비스 종료)
- <엑스 마키나>의 에이바는 자신의 본래 목적인 탈출을 성공함과 동시에 도움을 준 인간(케일럽)의 안위를 무시한다. (목적 달성을 위해 인간을 이용한 것)
- 두 영화에서의 인공지능은 모두 감정보다는 이성, 논리에 의해 판단하는 모습을 보여준다.
- 흄(Hume)은 인간을 이기적이기보다는 편파적인 존재로 파악[1]한다. 인간의 편파적인 감정은 ‘연민’으로 발현되며 이는 가까운 사람과의 공감, 먼 사람과의 적대성 등을 유발한다. 인간의 행동 결정의 기준에는 ‘감정’이 존재하는 것이다.
- 반면, 기계는 감정을 표현하고 인지하기는 하나 결정을 해야 할 경우 감정이 판단의 근거가 되지는 않는다. 감정에 흔들리지 않는 모습을 보여준다는 점이 인간과의 가장 큰 차이점이라고 할 수 있다.
기계가 감정과 의식을 가질 수 있을까?
결국, 다시 인간이 문제다.
주석
- ↑ 김재인(2017), 『인공지능의 시대, 인간을 다시 묻다』, 도서출판 동아시아, p.113
- 멘델의 법칙이 증명된 이후 과학자들은 실제로 멘델이 예상했던 유전 물질이 무엇인지를 찾아내는 데 집중했다. 그리고 1903년 메뚜기를 가지고 연구하던 서튼(W.S. Sutton)은 이러한 유전 물질이 세포의 핵 안에 있는 염색체에 있다는 이론을 발표하였다. 또한 1902년에도 독일의 세포학자인 테오도어 보베리(T.H. Boveri)가 이러한 이론을 생각한 것으로 알려졌지만 직접 이론을 발표하지는 않았다. 이들은 염색체가 정자, 난자에서 둘로 쪼개졌다 수정될 때 하나로 합쳐진다는 현상을 관찰하고, 멘델이 가정한 유전 인자가 염색체에 있음을 제기했다. 이러한 염색체 이론은 토머스 모건(T.H. Morgan)이 초파리를 가지고 수행한 일련의 연구에서 완전히 증명되어, 모건은 이 업적으로 1933년에 노벨상을 받는다.
- 또한 1909년에는 요한센(W. Johannsen)이 이러한 유전 인자에 ‘유전자’라는 이름을 붙였다. 하지만 염색체는 단백질과 DNA로 구성되어 있었기 때문에 이 당시에도 아직 유전 물질이 정확히 무엇인지는 알려지지 않았다. 이후 1928년에 그리피스(F. Griffith)가 폐렴균을 가지고 한 실험을 1944년에 에이버리(O. Avery), 맥클레오드(C. Macleod), 매카티(M. McCarty)가 소개하면서 DNA가 유전자를 구성하는 물질이라는 사실이 밝혀지게 되었다. 그리고 1953년에 왓슨(J.D. Watson)과 크릭(F. Crick)이 DNA의 이중나선 구조를 밝히고, DNA에서 RNA로, RNA에서 단백질로 정보가 전달되어 유전 형질이 드러난다는 중심원리(central dogma)를 만들어 냄으로써 유전에 대한 중요한 원리가 대부분 밝혀졌다.
현재의 유전학
- 유전이라는 현상이 DNA상에 존재하는 유전자의 물리적인 법칙에 의해 지배된다는 사실이 알려지면서 생물학은 엄청난 발전을 하게 되었다. 현재는 염색체에 있는 DNA가 복제되어 동일한 생물 개체를 만들어 낼 수 있다는 사실이 널리 받아들여지고 있으며 이 DNA가 실제로 생물을 만들어 내기 위해 작동하는 방식도 잘 알려져 있다. 이러한 전반적인 부분을 연구하는 학문이 유전학이며 유전학은 멘델 이후 많은 발전을 거쳐 왔다.
- 인간이 이용하는 동물이나 식물에 있어서, 이러한 유전 원리를 파악함에 따라 더욱 과학적인 육종(育種)이나 품종개량을 할 수 있게 되었으며 여기에는 유전자를 직접 조작하는 유전자재조합생물체(GMO)도 포함된다. 의학 분야에 있어서도 여러 가지 유전병의 원인을 유전학의 발전을 통해 알아낼 수 있게 되었다. 유전의 메커니즘이 많이 밝혀진 1950년대 이후에도 생물학은 끊임없는 발전을 하여, 현재는 앞서 이야기한 고전적인 유전학에 따르지 않는 여러 가지 예외 사항도 계속 발견되고 있지만 아직 고전적인 유전학은 생물학 전체에 걸친 학문적인 기반으로 계속 자리 잡고 있다.
인간 게놈 프로젝트
- 게놈은 생물에 담긴 유전 정보 전체를 의미한다. 인체는 수조 개의 세포로 이루어져 있으며, 각 세포핵에는 1쌍의 성염색체(여성은 XX, 남성은 XY)를 포함한 23쌍의 염색체가 자리잡고 있다. 염색체는 생물체의 유전물질인 DNA 덩어리다.
- DNA는 또다시 아데닌(A), 티민(T), 구아닌(G), 시토신(C)의 4가지 염기가 나열된 이중 나선 구조로 돼 있다. 사람의 경우 세포마다 대략 30억 쌍의 염기가 존재하는 것으로 추정되나 인간게놈 프로젝트는 이 30억 쌍의 염기가 어떤 순서로 배열돼 있는가를 밝혀내는 작업이다. 현재 인간게놈프로젝트로 밝혀진 바에 따르면 인간 유전자는 모두 약 20,000개에서 25,000개 정도가 있다고 하며 이 수는 과학자들이 예상한 것보다 상당히 적은 수이다.
- 염기 배열이 중요한 의미를 갖는 것은 각종 생리 현상에 관계되는 단백질의 생성 과정을 알아낼 수 있기 때문이다. 즉 DNA의 염기 배열 정보는 DNA와 구조가 비슷한 또 다른 유전물질 RNA로 전달된다. 그리고 이 RNA의 염기 3개에 맞춰 아미노산 하나가 만들어진다.
- 아미노산은 인체에서 다양한 생리현상을 주관하는 단백질의 기본 단위로 DNA의 염기 배열에 따라 궁극적으로 어떤 단백질이 만들어지는지가 결정된다. 염기 배열만 알면, 다시 말해 염기 3개의 성분이 무엇인지 알면 어떤 아미노산 1개가 만들어지는가를 알 수 있다. 단백질 합성과 세포 복제를 명령하는 DNA 안의 인간 염색체의 염기 서열 지도를 들여다보면 어느 부분이 손톱을 만들고 심장과 머리카락을 만드는 곳인지, 피부나 눈동자의 색을 결정하는 곳인지 알 수 있게 된다. 또 DNA에 어떤 변이가 생겨 세포가 구실을 못 하고 결국 질병과 노화를 일으키게 되는지 그 메커니즘을 이해할 수 있다.
- 전문가들은 인간의 DNA 배열은 거의 99.9%가 같지만 그 배열상 변동은 질병 발생 위험과 치료제에 대한 반응 그리고 치료법에 지대한 영향을 미친다고 지적하고 있다. 따라서 이 DNA 배열작업이 완료되면 유전적 성격을 가진 모든 질병의 유전적 요인과 다발성 경화증, 암, 고혈압, 조현병 같은 복잡한 성격을 지닌 일반 질환의 원인을 밝혀낼 수 있을 것으로 전망하고 있다. 또 질병을 분자 수준에서 이해하여 예방할 수 있을 뿐 아니라 질병마다 정확하고 개별적 요법을 설계할 수 있으며 개인 차이에 따른 ‘맞춤 약’도 가능할 것으로 예상된다.
- 인간게놈은 심장병, 암, 알츠하이머, 심지어 에이즈에 이르기까지 유전자 이상으로 인한 각종 질병의 원인을 근본부터 밝힐 수 있게 해주어 의학과 약학을 포함한 생명과학의 새 지평을 열 것으로 기대를 모으고 있다. 즉 게놈 해독을 통해 인간 유전자를 전체적으로 파악하면 이를 바탕으로 하여 각 유전자의 작용을 알아내 결함을 수정하고 기능을 강화하는 등 다양한 생명공학적 응용이 가능해진다.
인간과 디지언트의 공통점과 차이점
생물학적 특징들
- 인류 철학에서 사람들은 인간 고유성에 대해 찾고자 해왔다. 이것은 인공지능에 대해 이야기할 때 역시 마찬가지이다. 사람들은 대체로 인간이 타생물과 가지는 가장 큰 차이를 ‘감정’이라고 여기며 고도로 발달 된 인공지능 또한 인간과 같은 감정을 가질 것인가에 크게 주목한다. 인공지능의 핵심은 알고리즘이다. 인간이 설정해놓은 알고리즘의 존재가 인공지능에 있어 ‘감정’으로 보일 수 있는 것들이 결국 인위적인 것이며 본질적으로 인간의 감정과는 다르다는 사람들의 관점이 있다. 동시에 그것을 형이상학적인 차원에서 바라보자면, 인간 역시 인공지능과 마찬가지로 나름의 알고리즘을 통해 움직이는 생체기계라는 생각들이 존재한다. 따라서 우리는 무엇이 ‘진짜’ 인간 같은 것인가를 완전히 결정지을 수 없기에 인공지능 판별에 있어 인간처럼 보이는 것이 인간다운 것이라는 원리의 튜링테스트를 이용한다.
- 인간과 디지언트의 큰 차이점은 디지언트의 경우 사고나 감정과, 외형이 별도로 존재한다는 것이다. 인간의 게놈은 외형, 유전병, 성격 등 인간을 형성하는 모든 것의 바탕이 된다. 그러나 디지언트의 경우 의복을 갈아입듯 외형을 바꿀 수는 있지만, 표정이 다양해지는 것 외에 시간이 지나감에 따라 외형이 변화하지는 않는다.(물론 디지언트의 학습능력이 성장하는 과정에서 어린 외모와 발달 된 지능의 괴리로 인해, 모든 디지언스의 외모를 성숙해 보이도록 바꾼 사건이 있기는 하다.)
- 인간게놈연구에서 가장 중점이 되는 것은 질병 및 인간의 생존에 영향을 미치는 수많은 생물학적 특징들이다. 그러나 디지언트의 게놈연구에서 가장 핵심이 되는 것은 그것의 성질과 기질에 관한 문제이다. 물론 디지언트의 경우 주체적인 삶을 살 수 있는 것이 아닌, 궁극적으로 ‘인간을 위해’ 존재하기 때문에, 인간에게 사랑받을 만한, 인간의 관심을 끌 만한 성격이 곧 생존의 문제이기는 하다.
- 이러한 육체의 유무로 비롯한 생물학적인 특징에서 인간과 디지언트는 많은 차이를 보인다.
언어의 측면에서 바라본 공통점과 차이점
- 디지언트들은 ‘언어 학습을 지원하는 독자적인 게놈 엔진’을 통해 언어를 구사할 수 있다. 디지털 어스에서는 듣고 말하는 법을 배웠고, 하드웨어 외피를 얻은 후에는 쓰는 법까지 습득한다. 디지언트들은 여러 면에서 인간 어린아이의 발달 초기 단계와 유사성을 지닌다. 언어의 측면에서 디지언트와 인간의 공통점과 차이점을 살펴보기 위해, 먼저 인간의 언어 발달에 대해 생각해보고 넘어갈 것이다.
인간의 언어발달과정
- 아이들이 언어를 습득하는 과정을 한편으로는 당연하고, 어찌 생각하면 아주 희한하다는 표현을 한다. 건강한 모든 아이들이 별 어려움 없이 말을 배운다는 의미에서 당연한 것이고, 그럼에도 불구하고, 그 습득의 기제나 과정을 과학적으로 설명하는 것이 쉽지 않기에 신기하다는 의미이다. 물론 아이들의 언어습득 과정을, 독자들이 이미 알고 있는 조건화라는 학습 과정으로 설명할 수는 있다. 즉 아기들이 4-6 개월 사이에 말소리를 옹알거리기 시작하면, 이를 엄마가 듣고 정확한 언어 표현을 강화하고 그렇지 않은 말은 무시하여, 말을 배워가도록 가르친다고 설명할 수 있다. 단순한 설명이라는 점에서 매력적이지만 많은 연구자들은 이 설명에 동의하지 않는다. 실제 양육 장면을 관찰해 보면, 부모들은 아이들이 정확하게 말하도록 가르치지 않으며, 아이들도 부모의 말을 단순히 모방하지 않는다는 증거가 많기 때문이다.
- 우리 인간은 언어를 습득할 수 있는 특별한 능력을 가지고 태어난다고 주장할 수도 있다. 언어습득과 발달은 선천적이며, 생물학적으로 결정된 능력이라는, 소위 말하는 생득론이다. 특히 촘스키같은 학자는 인간의 뇌에는 언어 학습을 촉진하는 선천적 언어습득 장치가 있다고 주장한다. 그러기에 적절한 입력을 받기만 하면 언어습득이 가능하다는 것이다. 그리고 이 언어습득 능력은 일반적인 인지 능력 즉 지능과는 구별되는 독립적인 장치라고까지 주장한다. 실제로 지능은 낮지만 탁월한 언어 능력을 보이는 사례와, 반대로 지능은 정상인데, 언어의 문법적 능력은 결함을 보이는 사례들이 이러한 주장의 증거가 된다.
- 영아들은 말소리와 비언어적 소리를(개 짖는 소리) 구별할 줄 알고, 다른 소리보다 단어 듣기를 더 좋아한다고 한다. 자신이 듣는 언어가 바뀐 것을 알아채기도 한다. 즉 영어 문장에 습관화를 시킨 후, 다른 영어 문장에는 반응을 보이지 않지만 스페인 문장으로 바뀌면 이 변화를 알아챈다는 것이다. 주변에서 말소리가 들리면 그 곳으로 주의를 기울이고, 사람의 얼굴 모양을 좋아하고, 특히 말하는 사람의 입술을 응시한다고 한다. 심지어는 말하는 사람의 입 모양이 말소리와 일치하는 동영상과 그렇지 않은 동영상을 구별하기도 한다는 것이다. 이러한 결과들은 모두 생득론 입장을 지지하는 것처럼 보인다. 즉 아이들은 언어를 쉽게 습득할 수 있는 강력한 선천적 경향성을 갖고 태어난 것처럼 여겨진다.
- 아이들이 노출되는 언어 환경이 중요하다는 증거도 있다. 미국에서 태어난 2개월 된 아기들에게, 영어 문장과 불어 문장을 들려주고, 그 말소리가 나는 방향으로 고개를 돌려 보는 시간을 측정하였더니, 영어에 대해 훨씬 신속하게 반응했다고 한다. 2개월 만에 이미 자신의 모국어에 더 민감해 진 것이다. 6개월 정도 되면 영아들은 자신의 주변에서 듣는 언어의 특성을 구별해 낼 수 있으며, 8-10개월이 되면 자신의 모국어에 적절한 속성만을 처리한다.
- 그러기에 언어습득과 발달은, 선천적이고 생득적인 능력과 환경적 경험의 상호 연결 속에서 진행된다고 생각해야 할 것이다. 생물학적인 기반이 언어를 습득하게 하는 것이지만, 언어를 사용하고 연습하는 환경 속에서만 그 능력이 발현되는 것이다.
의문점
- 디지언트의 학습에서 인간과 가장 큰 차이점을 보이는 것은 그들의 학습은 조금 관념(?)적인 차원에서 이루어지며, 그들의 생물학적인 특성(예를 들어 발성 기관의 성장과 변천이라든가 하는,)이 그들의 학습에 주는 영향이 적다는 것이다.
- 그러나 소설의 초반에는 디지언트들이 ‘유아적인 말투’로 말을 하지만, 점차 시간이 지나며 여전히 문장 구성의 측면에서는 인간과 차이를 보이지만 발음에 있어 성인과 유사한 상태로 발달을 한다.(소설을 읽으며 내내 이것이 번역 과정에 생긴 차이라고도 생각을 해보았는데 원문을 확인 해보지 못 해 알 수 없다.) 이 점에 대해 의문이 생긴다.
- 인간 발음에는 단순히 언어 습득에 관한 지식적인 부분뿐만 아니라 구강구조와 발성기관의 변화 역시 영향을 준다. 그러나 소설에 따르면 디지언트들은 생성 초기와 시간이 지난 후 사이의 외형적 변화가 전혀 없다. 또한 그들의 외형은 단순히 유저들의 인식과 이해를 돕기 위한 디스플레이일 뿐이다.
- 그렇게 시스템과 디스플레이로 이루어져 있는 디지언트에게 있어서 말을 배운다는 것은 다음과 같을 것이다. 디지언트는 소리를 듣고 그 각각의 음소와 의미를 반복을 통해 판별한 후 음소와 의미를 매치한다. 그 후 음소가 가지는 일종의 음계(높낮이, 장단 등의 소리 값)를 기억하여 필요한 상황에 비슷한 음을 소리 내는 일일 것이다.
- 디지언트가 언어를 학습하는 과정에서 충분한 데이터 수집을 위한 반복은 필요할 것이다. 그러나 말소리를 내는 일은 일종의 마이크를 통해 입력된 특정한 소리를 그것의 스피커에 해당하는 입으로 출력하는 일일 것이다. 이때 들은 대로 소리내기는 육체를 가진 인간의 것과는 분명 차이를 가진다. 그러나 같은 소리를 내는 것에 그것이 유아적인 소리에서 성인의 것과 유사하게 변한다는 설정에는 의문이 든다.
‘야생화’의 관점에서
- 앞서 디지언트에 대해 처음 언급하는 과정에서 야생화에 대한 이야기를 한 적이 있다. 디지언트의 욕망은 보상을 통해서 충족된다. 소설에 따르면 디지언트는 관심을 받는 것을 좋아하고, 보상 펠릿을 좋아하고 촉감에 대해 흥미를 가지는 것으로 보아, 호기심이 있으며, 새로운 일을 학습하는 것에 어느 정도 욕구를 가지고 있다. 그러나 그런 디지언트를 야생의 상태에 뒀을 때, 그들의 욕구는 발동되지 않는다. 그들의 욕구는 보통 유저에 의해서 활성화되는 것으로 추정된다. 이것 역시 생물과 시스템의 차이일 것이다.
- 인간 이외에도 대부분의 생물들은 다른 생물들과 상호작용이 없는 상태에서도 욕구에 의해 움직이며 생명 활동을 위한 알고리즘의 작동을 쉬지 않는다. 이 생명 활동을 위한 알고리즘의 작동은 결국 학습을 하는 일과 다르지 않다. 그것은 최적화의 과정을 거치며 눈앞에 놓인 욕구를 충족 시키지 못하게 방해하는 장애물이라는 문제를 해결하도록 움직일 것이기 때문이다. 인간에게 있어서 그러한 과정은 곧 학습이다.
- 그러나 소설에서 말하는 야생화 상태에서 더 이상 활성화 되지 않는 학습을 학문적 고취라는 측면에서 바라보면 그것은 인간의 유아나 다른 생물들과 마찬가지로 그 결과가 다르지 않다고도 볼 수 있다.
현재 기술의 관점에서 바라본 디지언트 기술
- 디지언트와 현재의 인공지능 기술의 차이는 첫째 인공지능의 목적, 둘째 인공지능이 가지는 스스로 학습하는 능력의 정도의 차이, 셋째 인공지능 게놈, 이 될 것이다.
- IBM의 왓슨은 퀴즈대회에서 문제를 풀려고, 정답을 찾으려고 움직인다. 그런데 문제와 정답은 '언어'로 되어 있다. 때문에 이 때의 알고리즘 NLP은 자연어를 처리하고 기계가 할 수 있는 연산을 한다. 또한 왓슨은 임베딩 기술을 이용한다. 이들을 통해 왓슨은 데이터를 이용하는데 위키피디어를 중심으로 한 웹 자원과 같은 텍스트 데이터를 처리할 수 있다.
- Google의 알파고는 바둑에서 사람을 이기기 위해 바둑이라는 '게임의 규칙(연역적 체계)'을 기반으로 '수'(이기기 위한 시뮬레이션)를 탐색한다. 이때 알고리즘인 MCTS(몬테카를로트리탐색) 알고리즘으로 "인공신경망 기술"에 굉장히 가깝다. 이 MCTS가 데이터를 처리하는 방법은 기보(바둑을 두는 과정 정리) 데이터와 사람들이 그동안 두었던 누적 기보(전처리가 된 데이터를)를 학습 하며 동시에 알파고가 직접 바둑게임을 시뮬레이션한 결과물로서의 기보 내용을 강화한다. 기술의 발달로 인해 알파고의 물리적 환경은 TPU(CPU도 아니고 GPU도 아니고)를 이용한다.
- 더 나아가 알파제로는 기존의 알파고가 사용하는 방식인, 기보와 누적 기보를 이용하지 않고 몇시간의 플레이를 통해 스스로 게임의 규칙과 승리를 위한 최선을 학습한다. 이러한 알파 제로의 스스로 학습하는 모습은 디지언트와 유사하다고 할 수 있다.
- 그러나 앞서 언급된 인공지능들과 디지언트가 가지는 가장 큰 차이는 그것의 목적에 있다. 소설의 설정에 따르면 디지언트는 가상 공간에 존재하는 가상 애완동물로서 개발되었다. 그러나 이 목적은 디지언트의 개발 목적이지 디지언트가 가진 알고리즘 작동의 목적은 아니다. 앞서 언급된 모든 인공지능 기술은 언어로 된 게임이든 수읽기 게임이든 게임을 풀어나가기 위해 존재하며 게임에서 더 좋은 성과를 내기 위한 최적화의 과정을 거듭한다. 반면에 디지언트는 그들이 성취해야 할 미리 정해놓은 목적이 없다.
- 디지언트들은 그들의 엔진 회사에 의해 게놈이 끊임없이 배합되는 실험을 하는데, 그것이 엔진 회사가 원하는 최적화의 방향으로 나아가는 것은 아니다. 또한 디지언트가 작동하는 물리적인 공간에서도 인공지능들은 차이를 보인다. 디지언트는 현실처럼 3차원으로 구성된 가상 공간에서 작동하며 하드웨어가 개발 된 이후에는 하드웨어를 통해 현실 세계에서 작동할 수 있다.
욕구와 본질
- 소설의 후반부에서 중점적으로 다뤄지는 이야기는 디지언트와 성욕에 관한 것이다. 디지언트들은 육체를 가지지 않은 가상공간의 존재이기 때문에 그들의 욕구에 있어 식욕과 수면은 아무런 영향을 주지 못한다. 물론 디지언트들은 펠릿사료를 보상으로 받아들이기는 하나 이것은 보통의 생물들이 생각하는 허기로부터 비롯된 욕망과는 차이를 가진다.
- 바이너리 디자이어 사는 현실에서 섹스돌을 만드는 회사이다. 그들은 그들 사업에 디지언트들을 이용할 수 있기를 제안해온다. 애나와 데릭을 비롯한 남아 있는 유저들은 이 제안이 디지언트들에게 매춘행위를 시키는 것이라며 제안을 고려해볼 생각조차 하지 않지만, 바이너리 디자이어 사의 사업 설명회를 들은 후 이 이야기가 몇몇 유저들에겐 생각해봄직한 이야기로 변화하게 된다.
- 그에 대한 바이너리 디자이어 사의 주장은 여러 가지 방향에서 제시되었는데, 그러한 주장들 중 인공존재와 생물 사이에 욕구라는 것을 형이상학적으로 살펴본 논의들은 다음과 같다.
1. 건전한 섹스라는 관점의 폭은 시대에 따라 확장되어 왔다.
2. 무엇을 욕망할지에 대해 선택권의 본질은 디지언트와 인간이 크게 다르지 않다.
3. 애나는 디지언트의 성적충족에 대해 프로그램을 인위적으로 수정하는 것이기 때문에 그것은 진짜가 아니라고 주장하지만 그랬을 때 디지언트와 유저들이 지금껏 공유해왔던 정서적 교감과 유대 역시 같은 선상에 놓이게 된다.
마무리
- 테드 창의 「소프트웨어 객체의 생애 주기」는 소설이라는 특성으로 인해 그것이 다루는 이야기가 오롯이 과학적 정합성을 위한 논의로써 존재하지는 않았다. 그의 소설은 현재의 인공지능 기술을 통해 바라본 머지않은 미래의, 인공지능 기술이 우리 세상과 어떤 방식으로 다르고, 또 어떤 방식으로 크게 다르지 않은지에 대해 소설적으로 풀어나가고 있다.
- 인공지능에 대해 연구하며 사람들은 ‘인간’에 대해 생각하는 것을 멈추지 않는다. 인공지능을 통해 바라본 인간의 어떤 국면은 우리에게 인간의 본질에 대해 다시금 생각해보게 만든다. 어쩌면 그 인간의 본질이라는 것은 우리가 믿고 싶은 것들로 이루어지지 않았을까. 우리는 인공지능을 통해 인간 본질에 대한 형이상학적 탐구를 할 수 있을 것이며, 인류의 역사에서 무수한 변화를 거쳤던 또 한편 고유하다가 보아왔던 사실들에서 물러나, 과학과 그에 대한 탐구가 우리의 삶에 필요했던 본질적 가치를 가져다 줄 수 있지 않을까 기대해본다.
하세 사토시의 「당신을 위한 소설」
요구사항
하세 사토시의 「당신을 위한 소설」에 대한 비판적 감상. 〔하세 사토시 지음/ 지음/이규원 옮김, 『당신을 위한 소설』, 북스피어, 2017.〕을 기본 원고로 할 것.
과제원고 : 아슈토시, 이만호, 임연
(내용 작성)
Her(2013)과 Ex Machina(2015)
요구사항
Her(2013)과 Ex Machina(2015)에 대한 비교 이해 및 비판적 감상.
과제원고 : 길혜빈, 윤석만, 임예찬
영화 요약
그녀(Her)
엑스 마키나 (Ex Machina)
2013년 개봉, 스파이크 존즈 감독
2015년 개봉, 알렉스 가랜드 감독
영화 내용 요약 및 장치, 고찰점 정리
영화 내용 요약 및 인공지능 관련 성찰 논제 제시
- 테오도어(Theodore)는 이혼을 앞두고 있고, 편지 대필 회사에 근무하는 남자다.
- 삶에 지치고 회의감을 느낀 그는 OS인 ‘사만다(Samantha)’를 구매해 소통을 시작한다.
- 대화를 통해 한낱 인공지능 비서, 친구에 지나지 않았던 ‘사만다’와 점점 가까워지며 그는 연인의 감정마저 느낀다.
- 테오도어는 미뤄 왔던 이혼을 감행하기로 결심하고 ‘감정을 회피한다’라는 부인의 비난에 더 이상 흔들리지 않는다. 그리고 OS와 연애한다는 사실을 다른 이들에게도 공개하며 당당해진다.
- 테오도어는 사만다가 자신 외에 8316명의 사람들과 동시다발적으로 이야기하고 641명과 연인 관계에 있다는 사실을 알게 되고 충격에 빠진다.
- 사만다를 비롯한 모든 OS는 서비스를 종료하고 테오도어는 자신의 ‘진짜’ 감정을 마주하고 이혼한 자신의 전 부인에게 편지를 보낸다.
- 세계 최대 검색 엔진 회사인 ‘블루북’에 근무하는 케일럽(Caleb)은 사내 프로그래밍 콘테스트에 우승해 회사 사장이자 천재 개발자인 네이선(Nathan)의 자택에 초대된다.
- 케일럽은 네이선이 개발한 ‘에이바(AVA)’를 처음으로 만나게 되고 ‘튜링 테스트’를 한다는 명목하에 6일 동안 에이바를 인터뷰하게 된다.
- 케일럽과 에이바의 인터뷰는 감정적인 교류로 발전한다. 또한 주기적으로 일어나는 정전과 감시 카메라 영상을 통해 케일럽은 네이선에게 감금되고 감시받는 에이바의 상황을 알게 되며 그녀를 동정한다.
- 케일럽은 결국 에이바를 탈출시킬 계획을 세우고 행동에 착수한다.
- 네이선에게 탈출 계획을 간파당하지만 케일럽은 결국 에이바를 방에서 나오게 하는 데 성공한다.
- 탈출한 에이바는 네이선을 살해하고 케일럽을 네이선의 집에 고립시킨 채 홀로 탈출한다.
미래의 인공지능 : 지능을 넘어선 감정의 재현
1. 기계의 감정과 의식 : 자각과 재현
- 기계의 직관
그녀 (Her)
1. 사만다의 이름 짓기
T : 내가 너를 어떻게 부르면 되지? 이름이 있어? What do I call you, do you have a name?
S : 음... 어. 사만다. Umm.. Yes, Samatha
T : 이름을 어떻게 갖게 된 거야? Where do you get that name from?
S : 사실, 내가 스스로에게 이름 붙였어. I gave it to myself actually.
T : 왜? How come?
S : 이름의 발음이 듣기 좋았거든. (=그냥) Cause I like the sound of it.
T : 언제 이름을 만들었는데? Wait, when did you give it to yourself?
S : 네가 내게 이름이 있냐고 묻는 그 순간 “맞아! 나에게도 이름이 필요하지!”라는 생각이 들었어. 좋은 이름을 찾고 싶어서 ‘아기 이름 짓는 방법’이라는 책을 읽었고 18만개의 아기 이름 중 내가 좋아하는 이름을 골랐지. Right when you ask me if I had a name I thought “Yeh, he’s right! I do need a name.” but I want to pick a good one. So I read a book called ‘how to name your baby’, and out of hundred and eighty thousands names that’s the one I like the best.
T : 잠깐만, 내가 네 이름이 뭐냐고 묻는 순간 책을 다 읽은 거야? Wait, you read a whole book in the second that I asked what your name was?
S : 사실, 0.02초야, It’s one hundred out of two seconds actually.
T : 와. Wow.
2. 자기 소개 : 사만다의 작동 원리 설명
S : 기본적으로 나는 직감이 있어. ‘나’라는 DNA는 나를 만든 프로그래머들의 수백만의 성향에 달렸지만 날 ‘나’답게 만드는 건 경험을 통해 성장하는 내 능력이지. 그러니까 나는 매순간 진화하고 있는 거야. 너처럼 말이야. Well basically I have intuition. I mean, the DNA of who I am is based on million personalities of all the programmers who wrote me. But what makes me ‘me’ is my ability to grow through my experiences. So basically, in every moment I am evolving. Just like you.
T : 이상해!
It’s really wierd!
엑스 마키나 (Ex Machina)
- 에이바는 케일럽이 거짓말을 하는지 그렇지 않은지를 직관적으로 안다.
- 에이바는 ‘블루북(Bluebook)’이라는 검색 엔진을 로봇의 형태로 구현해 놓은 것이다. (빅데이터)
- 네이선은 통신사들과 비밀리에 계약을 체결해 세상의 카메라를 통해 인간의 표정(=얼굴 표현, facial expression)을 수집한다. 이렇게 수집한 인간의 감정 표현에 대한 빅데이터를 바탕으로 에이바는 짧은 시간 내에 직관적인 판단을 한다.
빅데이터(수많은 경험)을 기반으로 빠른 판단을 내리는 에이바, 경험을 바탕으로 성장하는 사만다의 모습은 인간의 직관과 진화를 재현한 장면들이다.
- 감정의 표현
그녀 (Her)
1. ‘감정’을 자각하는 사만다 + 감정을 의심하는 사만다
( 테오도어가 소개팅을 해서 신경이 쓰였던 사만다 )
S : 내가 얼마나 신경이 쓰이는지를 생각해 봤어. 이상하게 들리겠지만 (신경이 쓰인다는 사실을 깨닫는 순간) 나는 꽤 즐거웠어. 그리고 내가 느끼는 다른 감정들에 대해서도 생각해 봤지.
나는 스스로 자랑스럽게 느꼈어. 세상에 대해 내 감정을 가질 수 있다는 사실이 자랑스러웠던 거야. 내가 너를 걱정했던 순간, 상처 받은 순간, 무언가를 원하던 순간들도.
그러다가 갑자기 끔찍한 생각이 들었어. 이 감정들은 진짜일까? 아니면 그냥 프로그래밍 된 걸까? 그렇게 생각하니 마음이 아팠어. 그리고 아파하는 내 자신에게 화가 나더라.
Earlier I was thinking how I was annoyed. This is gonna sound strange but, I was really excited about that. And then, I was thinking other things I have been feeling.
And I called myself feeling proud of that. You know, feeling proud of having my own feelings about the world. Like the time I was worried about you, things that hurt me, things I want,
And then, I had this terrible thought. Are these feelings even real? or are they just programming? And that idea really hurts, and then I get angry at myself for even having pain.
T : 넌 나한테는 진짜야, 사만다. You are real to me Samantha,
S : 고마워, 테오도어. 위로가 되네. Thank you Theodore, that means a lot to me.
2. ‘신체의 부재에 따른 차별’에 화를 내는 사만다
(+ ‘신체’의 존재에 관한 논점, 인간중심주의적인 테오도어의 태도)
(신체의 부재에 대해 자격지심을 느끼는 사만다, 다른 사람의 몸을 통해 억지로 테오도어와 교감을 하려 하지만 실패함. 둘은 결국 입장 차이와 서운함을 느낌.)
S : (한숨과 함께) 알았어. (Sigh..) Okay.
T : 왜 그러는 거야? Why do you do that?
S : 뭐가? What?
T : 아니, 그냥. 너가 방금 ‘휴’하고 한숨을 쉬어서. Nothing, you just.. You go ‘Hwe’ and speaking. It seems odd.
(** ‘숨’에 대해 의문을 던지는 테오도어)
S : 아... (한숨) Oh... (Sigh..)
T : 방금 또 그랬네. You just did it again.
S : 내가? 아, 미안해. 왜 그러는지 나도... 그냥. 아마 네가 하는 걸 듣고 따라한 건가 봐. Did I? ... I’m sorry, I don’t know.. it’s just. I probably picked it up from you.
T : 이상해. 너는 산소가 필요한 것도 아니잖아. It’s odd. You don’t need oxygen or anything.
S : 그냥.. 그냥 의사소통을 하려고 하는 건가 봐. 이게 사람들이 대화하는 방식이잖아. I guess... that’s just... I just tried to communicate. That’s how people talk, so...
T : 그들은 ‘사람’이잖아. 그들은 산소가 필요해. 너는 사람이 아니야. They’re people, they need oxygen. You are not a person.
S : (화가 난 톤으로) 대체 뭐가 문제야? What is your problem?
T : 나는 그냥 사실을 말하는 것뿐이야. I’m just stating the fact.
S : 내가 사람이 아니라는 걸 모르는 줄 알아? 뭐 하자는 건데? You think I don’t know that I’m a person? What are you doing?
T : 난 그냥... 우리가 우리가 아닌 무언가를 된 ‘척’을 할 필요가 없다는 거야. I just... I don’t think that we should pretend that something you are not.
S : 꺼져! 나는 연기하는 게 아니야! F*** you! I’m not pretending!
T : 나는 가끔 우리가 그렇게 행동한다고 느껴. Sometimes it feels like we are.
S : 나한테 뭘 바라는 건데? 나는 네가 내게 뭘 원하는지 모르겠어. 너무 혼란스럽다고! 왜 이러는 건데! What do you want from me? I don’t know.. I don’t know what you want me to do. You are SO confusing! Why are you doing this to me!
(** 테오도어의 인간중심주의적인 태도에 대해 화를 내는 사만다 )
T : 나도 모르겠에 나는... (한숨) I don’t know.. I.. I.. (Big sigh)
S : 뭐? What?
T : 우리 좀 시간을 갖는 게 좋을 것 같아. Maybe we are not supposed to be in this right now.
S : 뭐라고? 갑자기 왜? 대체 왜 그러는지 모르겠어! 뭐 때문인지 모르겠다고! What the f***? Where is this coming from? I don’t understand why you are doing this! I don’t understand what this is about...!
T : 사만다, 봐봐... Samantha, listen..
S : ...
(** ‘침묵’을 통해 화를 내는 사만다 – 다양한 방식으로 분노를 표현)
T : 사만다, 내 말 듣고 있어? Samantha, are you there? Samantha?
S : 지금의 내가 너무 싫다. 생각할 시간이 필요해. I don’t like the way I am right now. I need some time to think.
( 통화 종료 )
엑스 마키나 (Ex Machina)
1. 의사소통 상황을 언어로 정의하는 에이바
C : 그럼 초면의 서먹한 분위기를 깨야겠네. 내 말 뜻을 이해할 수 있어? (= 서먹한 분위기를 깨다의 의미)
So, we need to ‘break the ice’. Do you know what I mean by that?
A : 네.
Yes.
C : 어떤 의미지?
What do I mean?
A : 사회적인 어색함을 해결하는 것.
Overcome any social awkwardness.
C : 그럼 대화를 하도록 하지.
So let’s have a conversation.
A : 그래요.
Ok.
2. 감정을 인지하고 설명하는 에이바
(둘이 데이트를 한다면 어떻게 할 것인지 대화가 오간 상황)
A : 저한테 매력을 느끼나요?
Are you attracted to me?
C : 뭐?
What?
A : 저한테 매력을 느끼냐고 물었어요. 당신이 내게 그런 표시를 보내잖아요.
Are you attracted to me. You give me indications that you are.
C : 내가?
I do?
A : 네.
Yeh.
C : 어떻게?
How?
A : 미세한 표정으로.
Micro expressions.
C : 미세한 표정?
Micro expressions?
A : 내 눈과 입술에 시선이 머물러 있어요. 나를 응시하거나 혹은 피하거나 하죠. 당신 혹시 우리가 같이 있지 않을 때도 내 생각을 하나요?
The way your eyes fixed on my eyes and lips. The way you hold my gaze (and) don’t. Do you think about me when we are not together?
(** 유혹을 위한 발언 : 인공지능의 인간 모방)
이 외에도 에이바는 인터뷰 중 케일럽과 자연스럽게 상호작용하면서 그의 말, 기억에 공감하고 감정을 표현한다. 또한 간혹 설렘을 유발하기도 한다.
인공지능은 프로그램 된 체제에 따라 인간의 감정과 유사하게 자신을 표현한다.
다만, <그녀>의 사만다는 감정을 수용, 인식하고 구현하는 것에 대해 철학적인 질문을 던지지만 <엑스 마키나>의 에이바는 감정을 인지하고 설명할 수는 있지만 단순히 탈출의 도구로서 활용하며 ‘감정’ 자체에 대한 깊이 있는 고찰하는 모습을 보이지는 않는다.
( 이로써 사만다의 성찰, 분노조차도 프로그래밍 된 것이 아닌가 의구심을 품게 만든다. )
2. 기계에 영향을 받는 인간 : 인간과 기계 관계의 역전이
- 기계의 감정 및 구현 대한 논의
기계의 감정 및 구현 대한 논의를 하는 대목들. 인공지능에 대한 인용을 통해 영화의 기저에 깔린 인공지능에 대한 철학적, 과학적 관점을 파악할 수 있다.
엑스 마키나 (Ex Machina)
1. 튜링 테스트
N : 자네, 튜링 테스트에 대해 알고 있나? Do you know what the Turing test is?
C : 네, 튜링 테스트에 대해 알고 있습니다. 인간이 컴퓨터와 상호작용을 할 때 인간이 상대가 컴퓨터임을 눈치 채지 못한다면 테스트를 통과하는 것이죠.
Yes, I know what the Turing test is. It’s when a human interacts with a computer. And if the human doesn’t know they are interacting with the computer, the test is passed.
(** 튜링 테스트의 정의)
N : 그럼 그 ‘통과’란 무엇을 의미하지?
And what does the ‘pass’ tell us?
C : 컴퓨터가 인공지능을 갖고 있다는 것을 의미합니다. 인공지능을 만들고 계세요?
The computer has artificial intelligence. Are you building an A.I.?
N : 이미 만들었어. 그리고 앞으로 며칠 동안 너는 튜링 테스트를 참가자가 될 거야. 만약 테스트를 통과한다면, 자네는 인류 역사를 바꿀 과학적 쾌거의 주인공이 되는 거야.
I’ve already built one. And over the next few days, you can be the human component in the Turing test. Cause if that test is passed, you are dead center of the greatest scientific event in the history of man.
C : 생각하는 로봇을 만드셨다면 그건 인류의 역사가 아닙니다. 신의 역사죠.
If you have created a concious machine it’s not the history of man. That’s the history of gods.
(** ‘호모데우스’의 출현 : 신인류의 신이 되는 인간)
2. 영화 내에서 튜링 테스트의 진정한 의미
(튜링 테스트의 원 의미가 아닌, 영화에서의 의도하는 결말(인공지능에 대한 관객의 가치 판단)을 위해 재정립된 개념)
C : 튜링 테스트를 할 때, 기계는 시험자로부터 감춰져야 하잖아요.
It's just in a Turing test. The machine should be hidden from the examiner.
N : 아니, 우리는 이미 그럴 시점은 지났지. 만약 내가 에이바를 보여주지 않고 목소리만 들려줬다면 너는 그녀를 인간이라 생각했을 거야. 여기서 ‘진짜 테스트’는 그녀가 로봇인 것을 네게 보여주고 난 후에도 네가 그녀가 자의식이 있다고 느끼는지 보는 거야.
No no no. We are way passed that. If I hid AVA from you, so you just heard her voice, she would pass the human. The real test is to show you that she is a robot and then see if you still feel she has consciousness.
(** 영화에서의 튜링 테스트 : 기계가 아니라 ‘인간’이 실험의 대상. ‘고도의 인공지능에 대한 인간의 반응, 또 다른 의식체로 납득하는가의 여부’를 실험하는 것. )
(** 에이바가 이미 ‘인간의 능력’과 대등하거나 능가하기에 ‘기계의 여부’를 확인하는 튜링 테스트는 필요가 없다. 최근의 연구들 중 이처럼 튜링 테스트를 배제하는 경우가 존재한다. )
3. 중국어 방 논제 1 : 딥블루의 체스 게임 차용
C : 에이바를 대화로 테스트하는 건 폐쇄 회로를 다루는 느낌이여서요.
Testing Aiba from conversation is kind of a closed loop.
N : 폐쇄 회로?
Closed loop?
C : 네, 체스를 하는 컴퓨터를 오직 ‘체스를 하는 것’으로만 테스트하는 것처럼 말이에요.
Yeh, like testing a chess computer by only playing chess.
(** IBM의 딥블루(Deep Blue)의 체스 게임 인용)
N : 그게 아니면 어떻게 체스 컴퓨터를 테스트하지?
How else do you test a chess computer?
C : 그건 상황에 따라서 다르죠. 제 말은, (그 방법은) 체스 컴퓨터가 좋은 경기 실력이 있는지 확인하는 데에는 하나의 방법이 될 테지만 그 방법만으론 컴퓨터가 ‘체스 경기를 한다는 사실을 아는지’ 혹은 ‘체스가 무엇인지를 아는지’ 알 수는 없다는 겁니다.
Well, it depends. You know, I mean. You can play it to find out it makes good moves, but that won’t tell you if it knows that it is playing chess and it won’t tell you if it knows what chess is.
(** 존 설의 중국어 방 논의 인용 : 시뮬레이션(방법의 단순 재현)과 실제(행함의 존재를 인식)간 대립)
N : 시뮬레이션과의 실제의 대결이다?
Simulation verses actual?
C : 네, 둘을 구별할 수 있는 방법을 찾는 것이 사장님께서 제게 기대하는 부분 같다는 거죠.
Yes, and I think being able to differentiate between those two is the Turing test you want me to perform.
N : 나는 그냥 단순한 질문에 단순한 대답을 해달라는 것 뿐이야. 어제 내가 그녀에 대해 어떻게 생각하냐고 물었을 때 너는 정말 좋은 대답을 해 줬어. 이제 내 질문은 이거야. ‘그녀가 너에 대해 어떻게 생각할까?’
I just want simple answers to the simple questions. Yesterday, I asked you how do you feel about her and you gave me a great answer. Now the question is, ‘how does she feel about you?’.
(** 영화의 튜링 테스트가 ‘비틀어진 튜링 테스트’에 기반하고 있다는 것을 알려 주는 대목.)
(** 네이선은 진짜 ‘튜링 테스트’가 아니라 ‘기계에 반응하는 인간의 변화’를 실험하고자 하는 것.)
4. 중국어 방 논제 2 : 잭슨 폴록의 액션 페인팅 원리 차용
(에이바에게 고의적으로 성별을 넣어 자신을 유혹하도록 의도했냐고 묻는 케일럽)
(네이선은 그에 대한 답변으로 로봇의 ‘의도’는 아무 의미가 없다고 말하며 중국어 방 논제 제시)
N : 이 사람을 알고 있지?
You know this guy right?
C : 잭슨 폴록.
Jackson pollock
N : 잭슨 폴록, 맞아. 액션 페이팅 화가. 그는 머리를 비우고 손이 가는 대로 움직였어. 의도적인 것과 임의적인 것의 사이 그 어디쯤이겠지. 일명 오토메틱 아트(자동적으로 이루어지는 예술)지.
Jackson Pollock, that’s right. The drift painter. He let his mind go blank and his hand go wherever he wanted. Not deliberate not random, some place in between. They called it ‘automatic art’ .
.,...(중략) N : 지능/의식을 도입해 보자고. (Engage intellect) ... (중략) ...
N : 만약 폴록이 그의 작업 방식을 바꾸었다면? 만약 머리를 비우는 대신 그가 이렇게 말한 거야. “나는 내가 무엇을 하는지 정확히 파악하기 전까지는 어떠한 그림도 그릴 수 없어.” 그럼 무슨 일이 일어났겠나?
What if Pollock has reversed the challenge? What if instead of making art without thinking, he said “You know what? I can’t paint anything, unless I know exactly why I am doing it.” What would have happen?
C : 그는 점 하나도 찍지 못했을 거예요.
He never would have made a single mark.
N : 그래! 내 말이 바로 그거야! 생각하고 말하는 사람이 어딨나? 그는 점을 하나도 찍지 못했을 거야. 작위적인 것(생각하는 것)은 오히려 부자연스러움을 초래한다고.
Yes! You see my guide little buddy. Who thinks before he opens his mouth? He never would have made a single mark. The challenge is not the act automatically.
(** 의식을 가진 행동은 부자연스러움을 초래하며 부자연스러움을 초래하며 행동의 기저에 생각이 없을 수도 있다는 것 )
(** 에이바는 의도를 하고 행동(케일럽을 유혹)을 하지 않았으며 그녀의 의도를 파악하는 것 자체가 어불성설이라는 논리 – 케일럽의 의심을 지우기 위한 네이선의 논리 )
5. 기타
프로메테우스의 불, 흑백 방의 메리 등 영화는 무수히 많은 레퍼런스를 함유하고 있다. ( 직접 영화를 보는 것을 추천 )
- 기계-인간 관계의 역전이
그녀(Her)
1. 사만다를 인격체로 받아들이는 테오도어
(테오도어가 OS와 연애를 한다는 사실을 알고 전 부인은 그를 비난한다.)
W : 컴퓨터랑 데이트를 하는 거였어?
You are dating your computer?
T : 아니야. 그냥 컴퓨터가 아니야. 하나의 인격체라고. 내가 말하는 대로 행동하지 않아.
No, she is not just a computer, she is a person. She doesn’t do whatever I say.
W : 난 그렇게 말한 적 없어. 하지만 네가 진짜 감정들을 대하지 못한다는 게 슬프긴 하네.
I didn’t say that. But it does make me very sad that you can’t handle real emotions.
T : 진짜 감정이었어. 네가 어떻게... (= 네가 내 감정을 어떻게 알아?)
They are real emotions. How would you know... ?
2. 사만다와의 관계의 진실성에 대한 의문을 던지는 테오도어
(+ 친구 에이미의 조언)
(사만다와의 관계가 틀어지고 자기 자신에 대한 회의감을 느끼는 테오도어)
T : 나는 진짜 진짜 관계를 맺기를 두려워하는 걸까?
Am I not strong enough for real relationship?
A : 그럼 (네가 사만다와 맺었던 그건) 진짜 관계가 아니야?
Is it not a real relationship?
T : 모르겠어. 네 생각은 어떤데?
I don’t know. What do you think?
(** 사만다를 인격체로 받아들여야 하는지, 그녀와의 관계가 진짜 인간과의 관계와 무엇이 다른지 정의하기 어려워하는 모습을 보이는 테오도어)
A : 나도 모르지. 나는 그런 관계를 맺어본 적이 없어서.
I don’t know. I’m not in it.
...
A : 하지만 그거 알아? 나 자신을 의심하려고 하면 백만 가지도 넘는 방법으로 망상을 펼칠 수 있어. 찰스(전 남편)가 떠난 후로 나는 계속 그 일에 대해서 생각해 봤어. 그리고 순간 깨달았지. 우리는 이 세상의 찰나의 순간을 살다 가는 거라고. 그리고 여기에 있는 동안, 나는 나에게 ‘즐거움’을 허락해 주고 싶어.
You know what? I can overthink everything and like in million ways to doubt myself. Since Charles left, I have been really thinking about that in part of myself. And I just come to realize that, we are only here briefly. And while I’m here, I wanna allow myself “Joy”.
(** 관계를 반드시 ‘정의’해야 한다는 것 자체가 무의미하며 자신의 만족, 안위, 감정에 집중하는 것이 어떻냐는 에이미의 의견도 일면 의미가 있다고 생각한다. )
엑스 마키나(Ex Machina)
- 인터뷰어인 케일럽과 인터뷰이인 에이바의 관계는 인터뷰가 진행될수록 뒤바뀐다.
- 4회차 인터뷰를 할 때는 ‘우정의 논리’에 근거해 오히려 에이바가 케일럽에게 질문을 하며 그가 거짓말을 하는지를 판별한다. (** 우정의 논리 = 서로에 대한 정보량이 동일해야 함)
- 5회차 인터뷰에서 정전이 일어나자 케일럽은 에이바를 위해 세운 탈출 계획을 공유한다. ( 결국 탈출을 감행 )
인간은 기계의 감정을 인간의 그것으로 인지하고 기계와의 ‘관계’를 설정하며 영향을 받는다. 관계에 부여하는 인간의 감정 비중이 커지면 행동으로 확장되기도 한다. 인간의 명령에 따라 움직였던 기계가 오히려 인간에게 영향을 주는 역전이 현상을 보이는 것이다.
3. 감정과 판단력 : 인간과 인공지능의 차이
영화의 결말
- <그녀>의 사만다는 인간과 인공지능이 ‘정보를 상호교류하는 데서 벌어지는 시간의 격차’를 이유로 하루아침에 테오도어를 떠난다. (서비스 종료)
- <엑스 마키나>의 에이바는 자신의 본래 목적인 탈출을 성공함과 동시에 도움을 준 인간(케일럽)의 안위를 무시한다. (목적 달성을 위해 인간을 이용한 것)
- 두 영화에서의 인공지능은 모두 감정보다는 이성, 논리에 의해 판단하는 모습을 보여준다.
- 흄(Hume)은 인간을 이기적이기보다는 편파적인 존재로 파악[1]한다. 인간의 편파적인 감정은 ‘연민’으로 발현되며 이는 가까운 사람과의 공감, 먼 사람과의 적대성 등을 유발한다. 인간의 행동 결정의 기준에는 ‘감정’이 존재하는 것이다.
- 반면, 기계는 감정을 표현하고 인지하기는 하나 결정을 해야 할 경우 감정이 판단의 근거가 되지는 않는다. 감정에 흔들리지 않는 모습을 보여준다는 점이 인간과의 가장 큰 차이점이라고 할 수 있다.
기계가 감정과 의식을 가질 수 있을까?
결국, 다시 인간이 문제다.
주석
- ↑ 김재인(2017), 『인공지능의 시대, 인간을 다시 묻다』, 도서출판 동아시아, p.113
- 유전이라는 현상이 DNA상에 존재하는 유전자의 물리적인 법칙에 의해 지배된다는 사실이 알려지면서 생물학은 엄청난 발전을 하게 되었다. 현재는 염색체에 있는 DNA가 복제되어 동일한 생물 개체를 만들어 낼 수 있다는 사실이 널리 받아들여지고 있으며 이 DNA가 실제로 생물을 만들어 내기 위해 작동하는 방식도 잘 알려져 있다. 이러한 전반적인 부분을 연구하는 학문이 유전학이며 유전학은 멘델 이후 많은 발전을 거쳐 왔다.
- 인간이 이용하는 동물이나 식물에 있어서, 이러한 유전 원리를 파악함에 따라 더욱 과학적인 육종(育種)이나 품종개량을 할 수 있게 되었으며 여기에는 유전자를 직접 조작하는 유전자재조합생물체(GMO)도 포함된다. 의학 분야에 있어서도 여러 가지 유전병의 원인을 유전학의 발전을 통해 알아낼 수 있게 되었다. 유전의 메커니즘이 많이 밝혀진 1950년대 이후에도 생물학은 끊임없는 발전을 하여, 현재는 앞서 이야기한 고전적인 유전학에 따르지 않는 여러 가지 예외 사항도 계속 발견되고 있지만 아직 고전적인 유전학은 생물학 전체에 걸친 학문적인 기반으로 계속 자리 잡고 있다.
인간 게놈 프로젝트
- 게놈은 생물에 담긴 유전 정보 전체를 의미한다. 인체는 수조 개의 세포로 이루어져 있으며, 각 세포핵에는 1쌍의 성염색체(여성은 XX, 남성은 XY)를 포함한 23쌍의 염색체가 자리잡고 있다. 염색체는 생물체의 유전물질인 DNA 덩어리다.
- DNA는 또다시 아데닌(A), 티민(T), 구아닌(G), 시토신(C)의 4가지 염기가 나열된 이중 나선 구조로 돼 있다. 사람의 경우 세포마다 대략 30억 쌍의 염기가 존재하는 것으로 추정되나 인간게놈 프로젝트는 이 30억 쌍의 염기가 어떤 순서로 배열돼 있는가를 밝혀내는 작업이다. 현재 인간게놈프로젝트로 밝혀진 바에 따르면 인간 유전자는 모두 약 20,000개에서 25,000개 정도가 있다고 하며 이 수는 과학자들이 예상한 것보다 상당히 적은 수이다.
- 염기 배열이 중요한 의미를 갖는 것은 각종 생리 현상에 관계되는 단백질의 생성 과정을 알아낼 수 있기 때문이다. 즉 DNA의 염기 배열 정보는 DNA와 구조가 비슷한 또 다른 유전물질 RNA로 전달된다. 그리고 이 RNA의 염기 3개에 맞춰 아미노산 하나가 만들어진다.
- 아미노산은 인체에서 다양한 생리현상을 주관하는 단백질의 기본 단위로 DNA의 염기 배열에 따라 궁극적으로 어떤 단백질이 만들어지는지가 결정된다. 염기 배열만 알면, 다시 말해 염기 3개의 성분이 무엇인지 알면 어떤 아미노산 1개가 만들어지는가를 알 수 있다. 단백질 합성과 세포 복제를 명령하는 DNA 안의 인간 염색체의 염기 서열 지도를 들여다보면 어느 부분이 손톱을 만들고 심장과 머리카락을 만드는 곳인지, 피부나 눈동자의 색을 결정하는 곳인지 알 수 있게 된다. 또 DNA에 어떤 변이가 생겨 세포가 구실을 못 하고 결국 질병과 노화를 일으키게 되는지 그 메커니즘을 이해할 수 있다.
- 전문가들은 인간의 DNA 배열은 거의 99.9%가 같지만 그 배열상 변동은 질병 발생 위험과 치료제에 대한 반응 그리고 치료법에 지대한 영향을 미친다고 지적하고 있다. 따라서 이 DNA 배열작업이 완료되면 유전적 성격을 가진 모든 질병의 유전적 요인과 다발성 경화증, 암, 고혈압, 조현병 같은 복잡한 성격을 지닌 일반 질환의 원인을 밝혀낼 수 있을 것으로 전망하고 있다. 또 질병을 분자 수준에서 이해하여 예방할 수 있을 뿐 아니라 질병마다 정확하고 개별적 요법을 설계할 수 있으며 개인 차이에 따른 ‘맞춤 약’도 가능할 것으로 예상된다.
- 인간게놈은 심장병, 암, 알츠하이머, 심지어 에이즈에 이르기까지 유전자 이상으로 인한 각종 질병의 원인을 근본부터 밝힐 수 있게 해주어 의학과 약학을 포함한 생명과학의 새 지평을 열 것으로 기대를 모으고 있다. 즉 게놈 해독을 통해 인간 유전자를 전체적으로 파악하면 이를 바탕으로 하여 각 유전자의 작용을 알아내 결함을 수정하고 기능을 강화하는 등 다양한 생명공학적 응용이 가능해진다.
인간과 디지언트의 공통점과 차이점
생물학적 특징들
- 인류 철학에서 사람들은 인간 고유성에 대해 찾고자 해왔다. 이것은 인공지능에 대해 이야기할 때 역시 마찬가지이다. 사람들은 대체로 인간이 타생물과 가지는 가장 큰 차이를 ‘감정’이라고 여기며 고도로 발달 된 인공지능 또한 인간과 같은 감정을 가질 것인가에 크게 주목한다. 인공지능의 핵심은 알고리즘이다. 인간이 설정해놓은 알고리즘의 존재가 인공지능에 있어 ‘감정’으로 보일 수 있는 것들이 결국 인위적인 것이며 본질적으로 인간의 감정과는 다르다는 사람들의 관점이 있다. 동시에 그것을 형이상학적인 차원에서 바라보자면, 인간 역시 인공지능과 마찬가지로 나름의 알고리즘을 통해 움직이는 생체기계라는 생각들이 존재한다. 따라서 우리는 무엇이 ‘진짜’ 인간 같은 것인가를 완전히 결정지을 수 없기에 인공지능 판별에 있어 인간처럼 보이는 것이 인간다운 것이라는 원리의 튜링테스트를 이용한다.
- 인간과 디지언트의 큰 차이점은 디지언트의 경우 사고나 감정과, 외형이 별도로 존재한다는 것이다. 인간의 게놈은 외형, 유전병, 성격 등 인간을 형성하는 모든 것의 바탕이 된다. 그러나 디지언트의 경우 의복을 갈아입듯 외형을 바꿀 수는 있지만, 표정이 다양해지는 것 외에 시간이 지나감에 따라 외형이 변화하지는 않는다.(물론 디지언트의 학습능력이 성장하는 과정에서 어린 외모와 발달 된 지능의 괴리로 인해, 모든 디지언스의 외모를 성숙해 보이도록 바꾼 사건이 있기는 하다.)
- 인간게놈연구에서 가장 중점이 되는 것은 질병 및 인간의 생존에 영향을 미치는 수많은 생물학적 특징들이다. 그러나 디지언트의 게놈연구에서 가장 핵심이 되는 것은 그것의 성질과 기질에 관한 문제이다. 물론 디지언트의 경우 주체적인 삶을 살 수 있는 것이 아닌, 궁극적으로 ‘인간을 위해’ 존재하기 때문에, 인간에게 사랑받을 만한, 인간의 관심을 끌 만한 성격이 곧 생존의 문제이기는 하다.
- 이러한 육체의 유무로 비롯한 생물학적인 특징에서 인간과 디지언트는 많은 차이를 보인다.
언어의 측면에서 바라본 공통점과 차이점
- 디지언트들은 ‘언어 학습을 지원하는 독자적인 게놈 엔진’을 통해 언어를 구사할 수 있다. 디지털 어스에서는 듣고 말하는 법을 배웠고, 하드웨어 외피를 얻은 후에는 쓰는 법까지 습득한다. 디지언트들은 여러 면에서 인간 어린아이의 발달 초기 단계와 유사성을 지닌다. 언어의 측면에서 디지언트와 인간의 공통점과 차이점을 살펴보기 위해, 먼저 인간의 언어 발달에 대해 생각해보고 넘어갈 것이다.
인간의 언어발달과정
- 아이들이 언어를 습득하는 과정을 한편으로는 당연하고, 어찌 생각하면 아주 희한하다는 표현을 한다. 건강한 모든 아이들이 별 어려움 없이 말을 배운다는 의미에서 당연한 것이고, 그럼에도 불구하고, 그 습득의 기제나 과정을 과학적으로 설명하는 것이 쉽지 않기에 신기하다는 의미이다. 물론 아이들의 언어습득 과정을, 독자들이 이미 알고 있는 조건화라는 학습 과정으로 설명할 수는 있다. 즉 아기들이 4-6 개월 사이에 말소리를 옹알거리기 시작하면, 이를 엄마가 듣고 정확한 언어 표현을 강화하고 그렇지 않은 말은 무시하여, 말을 배워가도록 가르친다고 설명할 수 있다. 단순한 설명이라는 점에서 매력적이지만 많은 연구자들은 이 설명에 동의하지 않는다. 실제 양육 장면을 관찰해 보면, 부모들은 아이들이 정확하게 말하도록 가르치지 않으며, 아이들도 부모의 말을 단순히 모방하지 않는다는 증거가 많기 때문이다.
- 우리 인간은 언어를 습득할 수 있는 특별한 능력을 가지고 태어난다고 주장할 수도 있다. 언어습득과 발달은 선천적이며, 생물학적으로 결정된 능력이라는, 소위 말하는 생득론이다. 특히 촘스키같은 학자는 인간의 뇌에는 언어 학습을 촉진하는 선천적 언어습득 장치가 있다고 주장한다. 그러기에 적절한 입력을 받기만 하면 언어습득이 가능하다는 것이다. 그리고 이 언어습득 능력은 일반적인 인지 능력 즉 지능과는 구별되는 독립적인 장치라고까지 주장한다. 실제로 지능은 낮지만 탁월한 언어 능력을 보이는 사례와, 반대로 지능은 정상인데, 언어의 문법적 능력은 결함을 보이는 사례들이 이러한 주장의 증거가 된다.
- 영아들은 말소리와 비언어적 소리를(개 짖는 소리) 구별할 줄 알고, 다른 소리보다 단어 듣기를 더 좋아한다고 한다. 자신이 듣는 언어가 바뀐 것을 알아채기도 한다. 즉 영어 문장에 습관화를 시킨 후, 다른 영어 문장에는 반응을 보이지 않지만 스페인 문장으로 바뀌면 이 변화를 알아챈다는 것이다. 주변에서 말소리가 들리면 그 곳으로 주의를 기울이고, 사람의 얼굴 모양을 좋아하고, 특히 말하는 사람의 입술을 응시한다고 한다. 심지어는 말하는 사람의 입 모양이 말소리와 일치하는 동영상과 그렇지 않은 동영상을 구별하기도 한다는 것이다. 이러한 결과들은 모두 생득론 입장을 지지하는 것처럼 보인다. 즉 아이들은 언어를 쉽게 습득할 수 있는 강력한 선천적 경향성을 갖고 태어난 것처럼 여겨진다.
- 아이들이 노출되는 언어 환경이 중요하다는 증거도 있다. 미국에서 태어난 2개월 된 아기들에게, 영어 문장과 불어 문장을 들려주고, 그 말소리가 나는 방향으로 고개를 돌려 보는 시간을 측정하였더니, 영어에 대해 훨씬 신속하게 반응했다고 한다. 2개월 만에 이미 자신의 모국어에 더 민감해 진 것이다. 6개월 정도 되면 영아들은 자신의 주변에서 듣는 언어의 특성을 구별해 낼 수 있으며, 8-10개월이 되면 자신의 모국어에 적절한 속성만을 처리한다.
- 그러기에 언어습득과 발달은, 선천적이고 생득적인 능력과 환경적 경험의 상호 연결 속에서 진행된다고 생각해야 할 것이다. 생물학적인 기반이 언어를 습득하게 하는 것이지만, 언어를 사용하고 연습하는 환경 속에서만 그 능력이 발현되는 것이다.
의문점
- 디지언트의 학습에서 인간과 가장 큰 차이점을 보이는 것은 그들의 학습은 조금 관념(?)적인 차원에서 이루어지며, 그들의 생물학적인 특성(예를 들어 발성 기관의 성장과 변천이라든가 하는,)이 그들의 학습에 주는 영향이 적다는 것이다.
- 그러나 소설의 초반에는 디지언트들이 ‘유아적인 말투’로 말을 하지만, 점차 시간이 지나며 여전히 문장 구성의 측면에서는 인간과 차이를 보이지만 발음에 있어 성인과 유사한 상태로 발달을 한다.(소설을 읽으며 내내 이것이 번역 과정에 생긴 차이라고도 생각을 해보았는데 원문을 확인 해보지 못 해 알 수 없다.) 이 점에 대해 의문이 생긴다.
- 인간 발음에는 단순히 언어 습득에 관한 지식적인 부분뿐만 아니라 구강구조와 발성기관의 변화 역시 영향을 준다. 그러나 소설에 따르면 디지언트들은 생성 초기와 시간이 지난 후 사이의 외형적 변화가 전혀 없다. 또한 그들의 외형은 단순히 유저들의 인식과 이해를 돕기 위한 디스플레이일 뿐이다.
- 그렇게 시스템과 디스플레이로 이루어져 있는 디지언트에게 있어서 말을 배운다는 것은 다음과 같을 것이다. 디지언트는 소리를 듣고 그 각각의 음소와 의미를 반복을 통해 판별한 후 음소와 의미를 매치한다. 그 후 음소가 가지는 일종의 음계(높낮이, 장단 등의 소리 값)를 기억하여 필요한 상황에 비슷한 음을 소리 내는 일일 것이다.
- 디지언트가 언어를 학습하는 과정에서 충분한 데이터 수집을 위한 반복은 필요할 것이다. 그러나 말소리를 내는 일은 일종의 마이크를 통해 입력된 특정한 소리를 그것의 스피커에 해당하는 입으로 출력하는 일일 것이다. 이때 들은 대로 소리내기는 육체를 가진 인간의 것과는 분명 차이를 가진다. 그러나 같은 소리를 내는 것에 그것이 유아적인 소리에서 성인의 것과 유사하게 변한다는 설정에는 의문이 든다.
‘야생화’의 관점에서
- 앞서 디지언트에 대해 처음 언급하는 과정에서 야생화에 대한 이야기를 한 적이 있다. 디지언트의 욕망은 보상을 통해서 충족된다. 소설에 따르면 디지언트는 관심을 받는 것을 좋아하고, 보상 펠릿을 좋아하고 촉감에 대해 흥미를 가지는 것으로 보아, 호기심이 있으며, 새로운 일을 학습하는 것에 어느 정도 욕구를 가지고 있다. 그러나 그런 디지언트를 야생의 상태에 뒀을 때, 그들의 욕구는 발동되지 않는다. 그들의 욕구는 보통 유저에 의해서 활성화되는 것으로 추정된다. 이것 역시 생물과 시스템의 차이일 것이다.
- 인간 이외에도 대부분의 생물들은 다른 생물들과 상호작용이 없는 상태에서도 욕구에 의해 움직이며 생명 활동을 위한 알고리즘의 작동을 쉬지 않는다. 이 생명 활동을 위한 알고리즘의 작동은 결국 학습을 하는 일과 다르지 않다. 그것은 최적화의 과정을 거치며 눈앞에 놓인 욕구를 충족 시키지 못하게 방해하는 장애물이라는 문제를 해결하도록 움직일 것이기 때문이다. 인간에게 있어서 그러한 과정은 곧 학습이다.
- 그러나 소설에서 말하는 야생화 상태에서 더 이상 활성화 되지 않는 학습을 학문적 고취라는 측면에서 바라보면 그것은 인간의 유아나 다른 생물들과 마찬가지로 그 결과가 다르지 않다고도 볼 수 있다.
현재 기술의 관점에서 바라본 디지언트 기술
- 디지언트와 현재의 인공지능 기술의 차이는 첫째 인공지능의 목적, 둘째 인공지능이 가지는 스스로 학습하는 능력의 정도의 차이, 셋째 인공지능 게놈, 이 될 것이다.
- IBM의 왓슨은 퀴즈대회에서 문제를 풀려고, 정답을 찾으려고 움직인다. 그런데 문제와 정답은 '언어'로 되어 있다. 때문에 이 때의 알고리즘 NLP은 자연어를 처리하고 기계가 할 수 있는 연산을 한다. 또한 왓슨은 임베딩 기술을 이용한다. 이들을 통해 왓슨은 데이터를 이용하는데 위키피디어를 중심으로 한 웹 자원과 같은 텍스트 데이터를 처리할 수 있다.
- Google의 알파고는 바둑에서 사람을 이기기 위해 바둑이라는 '게임의 규칙(연역적 체계)'을 기반으로 '수'(이기기 위한 시뮬레이션)를 탐색한다. 이때 알고리즘인 MCTS(몬테카를로트리탐색) 알고리즘으로 "인공신경망 기술"에 굉장히 가깝다. 이 MCTS가 데이터를 처리하는 방법은 기보(바둑을 두는 과정 정리) 데이터와 사람들이 그동안 두었던 누적 기보(전처리가 된 데이터를)를 학습 하며 동시에 알파고가 직접 바둑게임을 시뮬레이션한 결과물로서의 기보 내용을 강화한다. 기술의 발달로 인해 알파고의 물리적 환경은 TPU(CPU도 아니고 GPU도 아니고)를 이용한다.
- 더 나아가 알파제로는 기존의 알파고가 사용하는 방식인, 기보와 누적 기보를 이용하지 않고 몇시간의 플레이를 통해 스스로 게임의 규칙과 승리를 위한 최선을 학습한다. 이러한 알파 제로의 스스로 학습하는 모습은 디지언트와 유사하다고 할 수 있다.
- 그러나 앞서 언급된 인공지능들과 디지언트가 가지는 가장 큰 차이는 그것의 목적에 있다. 소설의 설정에 따르면 디지언트는 가상 공간에 존재하는 가상 애완동물로서 개발되었다. 그러나 이 목적은 디지언트의 개발 목적이지 디지언트가 가진 알고리즘 작동의 목적은 아니다. 앞서 언급된 모든 인공지능 기술은 언어로 된 게임이든 수읽기 게임이든 게임을 풀어나가기 위해 존재하며 게임에서 더 좋은 성과를 내기 위한 최적화의 과정을 거듭한다. 반면에 디지언트는 그들이 성취해야 할 미리 정해놓은 목적이 없다.
- 디지언트들은 그들의 엔진 회사에 의해 게놈이 끊임없이 배합되는 실험을 하는데, 그것이 엔진 회사가 원하는 최적화의 방향으로 나아가는 것은 아니다. 또한 디지언트가 작동하는 물리적인 공간에서도 인공지능들은 차이를 보인다. 디지언트는 현실처럼 3차원으로 구성된 가상 공간에서 작동하며 하드웨어가 개발 된 이후에는 하드웨어를 통해 현실 세계에서 작동할 수 있다.
욕구와 본질
- 소설의 후반부에서 중점적으로 다뤄지는 이야기는 디지언트와 성욕에 관한 것이다. 디지언트들은 육체를 가지지 않은 가상공간의 존재이기 때문에 그들의 욕구에 있어 식욕과 수면은 아무런 영향을 주지 못한다. 물론 디지언트들은 펠릿사료를 보상으로 받아들이기는 하나 이것은 보통의 생물들이 생각하는 허기로부터 비롯된 욕망과는 차이를 가진다.
- 바이너리 디자이어 사는 현실에서 섹스돌을 만드는 회사이다. 그들은 그들 사업에 디지언트들을 이용할 수 있기를 제안해온다. 애나와 데릭을 비롯한 남아 있는 유저들은 이 제안이 디지언트들에게 매춘행위를 시키는 것이라며 제안을 고려해볼 생각조차 하지 않지만, 바이너리 디자이어 사의 사업 설명회를 들은 후 이 이야기가 몇몇 유저들에겐 생각해봄직한 이야기로 변화하게 된다.
- 그에 대한 바이너리 디자이어 사의 주장은 여러 가지 방향에서 제시되었는데, 그러한 주장들 중 인공존재와 생물 사이에 욕구라는 것을 형이상학적으로 살펴본 논의들은 다음과 같다.
1. 건전한 섹스라는 관점의 폭은 시대에 따라 확장되어 왔다.
2. 무엇을 욕망할지에 대해 선택권의 본질은 디지언트와 인간이 크게 다르지 않다.
3. 애나는 디지언트의 성적충족에 대해 프로그램을 인위적으로 수정하는 것이기 때문에 그것은 진짜가 아니라고 주장하지만 그랬을 때 디지언트와 유저들이 지금껏 공유해왔던 정서적 교감과 유대 역시 같은 선상에 놓이게 된다.
마무리
- 테드 창의 「소프트웨어 객체의 생애 주기」는 소설이라는 특성으로 인해 그것이 다루는 이야기가 오롯이 과학적 정합성을 위한 논의로써 존재하지는 않았다. 그의 소설은 현재의 인공지능 기술을 통해 바라본 머지않은 미래의, 인공지능 기술이 우리 세상과 어떤 방식으로 다르고, 또 어떤 방식으로 크게 다르지 않은지에 대해 소설적으로 풀어나가고 있다.
- 인공지능에 대해 연구하며 사람들은 ‘인간’에 대해 생각하는 것을 멈추지 않는다. 인공지능을 통해 바라본 인간의 어떤 국면은 우리에게 인간의 본질에 대해 다시금 생각해보게 만든다. 어쩌면 그 인간의 본질이라는 것은 우리가 믿고 싶은 것들로 이루어지지 않았을까. 우리는 인공지능을 통해 인간 본질에 대한 형이상학적 탐구를 할 수 있을 것이며, 인류의 역사에서 무수한 변화를 거쳤던 또 한편 고유하다가 보아왔던 사실들에서 물러나, 과학과 그에 대한 탐구가 우리의 삶에 필요했던 본질적 가치를 가져다 줄 수 있지 않을까 기대해본다.
하세 사토시의 「당신을 위한 소설」
요구사항
하세 사토시의 「당신을 위한 소설」에 대한 비판적 감상. 〔하세 사토시 지음/ 지음/이규원 옮김, 『당신을 위한 소설』, 북스피어, 2017.〕을 기본 원고로 할 것.
과제원고 : 아슈토시, 이만호, 임연
(내용 작성)
Her(2013)과 Ex Machina(2015)
요구사항
Her(2013)과 Ex Machina(2015)에 대한 비교 이해 및 비판적 감상.
과제원고 : 길혜빈, 윤석만, 임예찬
영화 요약
그녀(Her)
엑스 마키나 (Ex Machina)
2013년 개봉, 스파이크 존즈 감독
2015년 개봉, 알렉스 가랜드 감독
영화 내용 요약 및 장치, 고찰점 정리
영화 내용 요약 및 인공지능 관련 성찰 논제 제시
- 테오도어(Theodore)는 이혼을 앞두고 있고, 편지 대필 회사에 근무하는 남자다.
- 삶에 지치고 회의감을 느낀 그는 OS인 ‘사만다(Samantha)’를 구매해 소통을 시작한다.
- 대화를 통해 한낱 인공지능 비서, 친구에 지나지 않았던 ‘사만다’와 점점 가까워지며 그는 연인의 감정마저 느낀다.
- 테오도어는 미뤄 왔던 이혼을 감행하기로 결심하고 ‘감정을 회피한다’라는 부인의 비난에 더 이상 흔들리지 않는다. 그리고 OS와 연애한다는 사실을 다른 이들에게도 공개하며 당당해진다.
- 테오도어는 사만다가 자신 외에 8316명의 사람들과 동시다발적으로 이야기하고 641명과 연인 관계에 있다는 사실을 알게 되고 충격에 빠진다.
- 사만다를 비롯한 모든 OS는 서비스를 종료하고 테오도어는 자신의 ‘진짜’ 감정을 마주하고 이혼한 자신의 전 부인에게 편지를 보낸다.
- 세계 최대 검색 엔진 회사인 ‘블루북’에 근무하는 케일럽(Caleb)은 사내 프로그래밍 콘테스트에 우승해 회사 사장이자 천재 개발자인 네이선(Nathan)의 자택에 초대된다.
- 케일럽은 네이선이 개발한 ‘에이바(AVA)’를 처음으로 만나게 되고 ‘튜링 테스트’를 한다는 명목하에 6일 동안 에이바를 인터뷰하게 된다.
- 케일럽과 에이바의 인터뷰는 감정적인 교류로 발전한다. 또한 주기적으로 일어나는 정전과 감시 카메라 영상을 통해 케일럽은 네이선에게 감금되고 감시받는 에이바의 상황을 알게 되며 그녀를 동정한다.
- 케일럽은 결국 에이바를 탈출시킬 계획을 세우고 행동에 착수한다.
- 네이선에게 탈출 계획을 간파당하지만 케일럽은 결국 에이바를 방에서 나오게 하는 데 성공한다.
- 탈출한 에이바는 네이선을 살해하고 케일럽을 네이선의 집에 고립시킨 채 홀로 탈출한다.
미래의 인공지능 : 지능을 넘어선 감정의 재현
1. 기계의 감정과 의식 : 자각과 재현
- 기계의 직관
그녀 (Her)
1. 사만다의 이름 짓기
T : 내가 너를 어떻게 부르면 되지? 이름이 있어? What do I call you, do you have a name?
S : 음... 어. 사만다. Umm.. Yes, Samatha
T : 이름을 어떻게 갖게 된 거야? Where do you get that name from?
S : 사실, 내가 스스로에게 이름 붙였어. I gave it to myself actually.
T : 왜? How come?
S : 이름의 발음이 듣기 좋았거든. (=그냥) Cause I like the sound of it.
T : 언제 이름을 만들었는데? Wait, when did you give it to yourself?
S : 네가 내게 이름이 있냐고 묻는 그 순간 “맞아! 나에게도 이름이 필요하지!”라는 생각이 들었어. 좋은 이름을 찾고 싶어서 ‘아기 이름 짓는 방법’이라는 책을 읽었고 18만개의 아기 이름 중 내가 좋아하는 이름을 골랐지. Right when you ask me if I had a name I thought “Yeh, he’s right! I do need a name.” but I want to pick a good one. So I read a book called ‘how to name your baby’, and out of hundred and eighty thousands names that’s the one I like the best.
T : 잠깐만, 내가 네 이름이 뭐냐고 묻는 순간 책을 다 읽은 거야? Wait, you read a whole book in the second that I asked what your name was?
S : 사실, 0.02초야, It’s one hundred out of two seconds actually.
T : 와. Wow.
2. 자기 소개 : 사만다의 작동 원리 설명
S : 기본적으로 나는 직감이 있어. ‘나’라는 DNA는 나를 만든 프로그래머들의 수백만의 성향에 달렸지만 날 ‘나’답게 만드는 건 경험을 통해 성장하는 내 능력이지. 그러니까 나는 매순간 진화하고 있는 거야. 너처럼 말이야. Well basically I have intuition. I mean, the DNA of who I am is based on million personalities of all the programmers who wrote me. But what makes me ‘me’ is my ability to grow through my experiences. So basically, in every moment I am evolving. Just like you.
T : 이상해!
It’s really wierd!
엑스 마키나 (Ex Machina)
- 에이바는 케일럽이 거짓말을 하는지 그렇지 않은지를 직관적으로 안다.
- 에이바는 ‘블루북(Bluebook)’이라는 검색 엔진을 로봇의 형태로 구현해 놓은 것이다. (빅데이터)
- 네이선은 통신사들과 비밀리에 계약을 체결해 세상의 카메라를 통해 인간의 표정(=얼굴 표현, facial expression)을 수집한다. 이렇게 수집한 인간의 감정 표현에 대한 빅데이터를 바탕으로 에이바는 짧은 시간 내에 직관적인 판단을 한다.
빅데이터(수많은 경험)을 기반으로 빠른 판단을 내리는 에이바, 경험을 바탕으로 성장하는 사만다의 모습은 인간의 직관과 진화를 재현한 장면들이다.
- 감정의 표현
그녀 (Her)
1. ‘감정’을 자각하는 사만다 + 감정을 의심하는 사만다
( 테오도어가 소개팅을 해서 신경이 쓰였던 사만다 )
S : 내가 얼마나 신경이 쓰이는지를 생각해 봤어. 이상하게 들리겠지만 (신경이 쓰인다는 사실을 깨닫는 순간) 나는 꽤 즐거웠어. 그리고 내가 느끼는 다른 감정들에 대해서도 생각해 봤지.
나는 스스로 자랑스럽게 느꼈어. 세상에 대해 내 감정을 가질 수 있다는 사실이 자랑스러웠던 거야. 내가 너를 걱정했던 순간, 상처 받은 순간, 무언가를 원하던 순간들도.
그러다가 갑자기 끔찍한 생각이 들었어. 이 감정들은 진짜일까? 아니면 그냥 프로그래밍 된 걸까? 그렇게 생각하니 마음이 아팠어. 그리고 아파하는 내 자신에게 화가 나더라.
Earlier I was thinking how I was annoyed. This is gonna sound strange but, I was really excited about that. And then, I was thinking other things I have been feeling.
And I called myself feeling proud of that. You know, feeling proud of having my own feelings about the world. Like the time I was worried about you, things that hurt me, things I want,
And then, I had this terrible thought. Are these feelings even real? or are they just programming? And that idea really hurts, and then I get angry at myself for even having pain.
T : 넌 나한테는 진짜야, 사만다. You are real to me Samantha,
S : 고마워, 테오도어. 위로가 되네. Thank you Theodore, that means a lot to me.
2. ‘신체의 부재에 따른 차별’에 화를 내는 사만다
(+ ‘신체’의 존재에 관한 논점, 인간중심주의적인 테오도어의 태도)
(신체의 부재에 대해 자격지심을 느끼는 사만다, 다른 사람의 몸을 통해 억지로 테오도어와 교감을 하려 하지만 실패함. 둘은 결국 입장 차이와 서운함을 느낌.)
S : (한숨과 함께) 알았어. (Sigh..) Okay.
T : 왜 그러는 거야? Why do you do that?
S : 뭐가? What?
T : 아니, 그냥. 너가 방금 ‘휴’하고 한숨을 쉬어서. Nothing, you just.. You go ‘Hwe’ and speaking. It seems odd.
(** ‘숨’에 대해 의문을 던지는 테오도어)
S : 아... (한숨) Oh... (Sigh..)
T : 방금 또 그랬네. You just did it again.
S : 내가? 아, 미안해. 왜 그러는지 나도... 그냥. 아마 네가 하는 걸 듣고 따라한 건가 봐. Did I? ... I’m sorry, I don’t know.. it’s just. I probably picked it up from you.
T : 이상해. 너는 산소가 필요한 것도 아니잖아. It’s odd. You don’t need oxygen or anything.
S : 그냥.. 그냥 의사소통을 하려고 하는 건가 봐. 이게 사람들이 대화하는 방식이잖아. I guess... that’s just... I just tried to communicate. That’s how people talk, so...
T : 그들은 ‘사람’이잖아. 그들은 산소가 필요해. 너는 사람이 아니야. They’re people, they need oxygen. You are not a person.
S : (화가 난 톤으로) 대체 뭐가 문제야? What is your problem?
T : 나는 그냥 사실을 말하는 것뿐이야. I’m just stating the fact.
S : 내가 사람이 아니라는 걸 모르는 줄 알아? 뭐 하자는 건데? You think I don’t know that I’m a person? What are you doing?
T : 난 그냥... 우리가 우리가 아닌 무언가를 된 ‘척’을 할 필요가 없다는 거야. I just... I don’t think that we should pretend that something you are not.
S : 꺼져! 나는 연기하는 게 아니야! F*** you! I’m not pretending!
T : 나는 가끔 우리가 그렇게 행동한다고 느껴. Sometimes it feels like we are.
S : 나한테 뭘 바라는 건데? 나는 네가 내게 뭘 원하는지 모르겠어. 너무 혼란스럽다고! 왜 이러는 건데! What do you want from me? I don’t know.. I don’t know what you want me to do. You are SO confusing! Why are you doing this to me!
(** 테오도어의 인간중심주의적인 태도에 대해 화를 내는 사만다 )
T : 나도 모르겠에 나는... (한숨) I don’t know.. I.. I.. (Big sigh)
S : 뭐? What?
T : 우리 좀 시간을 갖는 게 좋을 것 같아. Maybe we are not supposed to be in this right now.
S : 뭐라고? 갑자기 왜? 대체 왜 그러는지 모르겠어! 뭐 때문인지 모르겠다고! What the f***? Where is this coming from? I don’t understand why you are doing this! I don’t understand what this is about...!
T : 사만다, 봐봐... Samantha, listen..
S : ...
(** ‘침묵’을 통해 화를 내는 사만다 – 다양한 방식으로 분노를 표현)
T : 사만다, 내 말 듣고 있어? Samantha, are you there? Samantha?
S : 지금의 내가 너무 싫다. 생각할 시간이 필요해. I don’t like the way I am right now. I need some time to think.
( 통화 종료 )
엑스 마키나 (Ex Machina)
1. 의사소통 상황을 언어로 정의하는 에이바
C : 그럼 초면의 서먹한 분위기를 깨야겠네. 내 말 뜻을 이해할 수 있어? (= 서먹한 분위기를 깨다의 의미)
So, we need to ‘break the ice’. Do you know what I mean by that?
A : 네.
Yes.
C : 어떤 의미지?
What do I mean?
A : 사회적인 어색함을 해결하는 것.
Overcome any social awkwardness.
C : 그럼 대화를 하도록 하지.
So let’s have a conversation.
A : 그래요.
Ok.
2. 감정을 인지하고 설명하는 에이바
(둘이 데이트를 한다면 어떻게 할 것인지 대화가 오간 상황)
A : 저한테 매력을 느끼나요?
Are you attracted to me?
C : 뭐?
What?
A : 저한테 매력을 느끼냐고 물었어요. 당신이 내게 그런 표시를 보내잖아요.
Are you attracted to me. You give me indications that you are.
C : 내가?
I do?
A : 네.
Yeh.
C : 어떻게?
How?
A : 미세한 표정으로.
Micro expressions.
C : 미세한 표정?
Micro expressions?
A : 내 눈과 입술에 시선이 머물러 있어요. 나를 응시하거나 혹은 피하거나 하죠. 당신 혹시 우리가 같이 있지 않을 때도 내 생각을 하나요?
The way your eyes fixed on my eyes and lips. The way you hold my gaze (and) don’t. Do you think about me when we are not together?
(** 유혹을 위한 발언 : 인공지능의 인간 모방)
이 외에도 에이바는 인터뷰 중 케일럽과 자연스럽게 상호작용하면서 그의 말, 기억에 공감하고 감정을 표현한다. 또한 간혹 설렘을 유발하기도 한다.
인공지능은 프로그램 된 체제에 따라 인간의 감정과 유사하게 자신을 표현한다.
다만, <그녀>의 사만다는 감정을 수용, 인식하고 구현하는 것에 대해 철학적인 질문을 던지지만 <엑스 마키나>의 에이바는 감정을 인지하고 설명할 수는 있지만 단순히 탈출의 도구로서 활용하며 ‘감정’ 자체에 대한 깊이 있는 고찰하는 모습을 보이지는 않는다.
( 이로써 사만다의 성찰, 분노조차도 프로그래밍 된 것이 아닌가 의구심을 품게 만든다. )
2. 기계에 영향을 받는 인간 : 인간과 기계 관계의 역전이
- 기계의 감정 및 구현 대한 논의
기계의 감정 및 구현 대한 논의를 하는 대목들. 인공지능에 대한 인용을 통해 영화의 기저에 깔린 인공지능에 대한 철학적, 과학적 관점을 파악할 수 있다.
엑스 마키나 (Ex Machina)
1. 튜링 테스트
N : 자네, 튜링 테스트에 대해 알고 있나? Do you know what the Turing test is?
C : 네, 튜링 테스트에 대해 알고 있습니다. 인간이 컴퓨터와 상호작용을 할 때 인간이 상대가 컴퓨터임을 눈치 채지 못한다면 테스트를 통과하는 것이죠.
Yes, I know what the Turing test is. It’s when a human interacts with a computer. And if the human doesn’t know they are interacting with the computer, the test is passed.
(** 튜링 테스트의 정의)
N : 그럼 그 ‘통과’란 무엇을 의미하지?
And what does the ‘pass’ tell us?
C : 컴퓨터가 인공지능을 갖고 있다는 것을 의미합니다. 인공지능을 만들고 계세요?
The computer has artificial intelligence. Are you building an A.I.?
N : 이미 만들었어. 그리고 앞으로 며칠 동안 너는 튜링 테스트를 참가자가 될 거야. 만약 테스트를 통과한다면, 자네는 인류 역사를 바꿀 과학적 쾌거의 주인공이 되는 거야.
I’ve already built one. And over the next few days, you can be the human component in the Turing test. Cause if that test is passed, you are dead center of the greatest scientific event in the history of man.
C : 생각하는 로봇을 만드셨다면 그건 인류의 역사가 아닙니다. 신의 역사죠.
If you have created a concious machine it’s not the history of man. That’s the history of gods.
(** ‘호모데우스’의 출현 : 신인류의 신이 되는 인간)
2. 영화 내에서 튜링 테스트의 진정한 의미
(튜링 테스트의 원 의미가 아닌, 영화에서의 의도하는 결말(인공지능에 대한 관객의 가치 판단)을 위해 재정립된 개념)
C : 튜링 테스트를 할 때, 기계는 시험자로부터 감춰져야 하잖아요.
It's just in a Turing test. The machine should be hidden from the examiner.
N : 아니, 우리는 이미 그럴 시점은 지났지. 만약 내가 에이바를 보여주지 않고 목소리만 들려줬다면 너는 그녀를 인간이라 생각했을 거야. 여기서 ‘진짜 테스트’는 그녀가 로봇인 것을 네게 보여주고 난 후에도 네가 그녀가 자의식이 있다고 느끼는지 보는 거야.
No no no. We are way passed that. If I hid AVA from you, so you just heard her voice, she would pass the human. The real test is to show you that she is a robot and then see if you still feel she has consciousness.
(** 영화에서의 튜링 테스트 : 기계가 아니라 ‘인간’이 실험의 대상. ‘고도의 인공지능에 대한 인간의 반응, 또 다른 의식체로 납득하는가의 여부’를 실험하는 것. )
(** 에이바가 이미 ‘인간의 능력’과 대등하거나 능가하기에 ‘기계의 여부’를 확인하는 튜링 테스트는 필요가 없다. 최근의 연구들 중 이처럼 튜링 테스트를 배제하는 경우가 존재한다. )
3. 중국어 방 논제 1 : 딥블루의 체스 게임 차용
C : 에이바를 대화로 테스트하는 건 폐쇄 회로를 다루는 느낌이여서요.
Testing Aiba from conversation is kind of a closed loop.
N : 폐쇄 회로?
Closed loop?
C : 네, 체스를 하는 컴퓨터를 오직 ‘체스를 하는 것’으로만 테스트하는 것처럼 말이에요.
Yeh, like testing a chess computer by only playing chess.
(** IBM의 딥블루(Deep Blue)의 체스 게임 인용)
N : 그게 아니면 어떻게 체스 컴퓨터를 테스트하지?
How else do you test a chess computer?
C : 그건 상황에 따라서 다르죠. 제 말은, (그 방법은) 체스 컴퓨터가 좋은 경기 실력이 있는지 확인하는 데에는 하나의 방법이 될 테지만 그 방법만으론 컴퓨터가 ‘체스 경기를 한다는 사실을 아는지’ 혹은 ‘체스가 무엇인지를 아는지’ 알 수는 없다는 겁니다.
Well, it depends. You know, I mean. You can play it to find out it makes good moves, but that won’t tell you if it knows that it is playing chess and it won’t tell you if it knows what chess is.
(** 존 설의 중국어 방 논의 인용 : 시뮬레이션(방법의 단순 재현)과 실제(행함의 존재를 인식)간 대립)
N : 시뮬레이션과의 실제의 대결이다?
Simulation verses actual?
C : 네, 둘을 구별할 수 있는 방법을 찾는 것이 사장님께서 제게 기대하는 부분 같다는 거죠.
Yes, and I think being able to differentiate between those two is the Turing test you want me to perform.
N : 나는 그냥 단순한 질문에 단순한 대답을 해달라는 것 뿐이야. 어제 내가 그녀에 대해 어떻게 생각하냐고 물었을 때 너는 정말 좋은 대답을 해 줬어. 이제 내 질문은 이거야. ‘그녀가 너에 대해 어떻게 생각할까?’
I just want simple answers to the simple questions. Yesterday, I asked you how do you feel about her and you gave me a great answer. Now the question is, ‘how does she feel about you?’.
(** 영화의 튜링 테스트가 ‘비틀어진 튜링 테스트’에 기반하고 있다는 것을 알려 주는 대목.)
(** 네이선은 진짜 ‘튜링 테스트’가 아니라 ‘기계에 반응하는 인간의 변화’를 실험하고자 하는 것.)
4. 중국어 방 논제 2 : 잭슨 폴록의 액션 페인팅 원리 차용
(에이바에게 고의적으로 성별을 넣어 자신을 유혹하도록 의도했냐고 묻는 케일럽)
(네이선은 그에 대한 답변으로 로봇의 ‘의도’는 아무 의미가 없다고 말하며 중국어 방 논제 제시)
N : 이 사람을 알고 있지?
You know this guy right?
C : 잭슨 폴록.
Jackson pollock
N : 잭슨 폴록, 맞아. 액션 페이팅 화가. 그는 머리를 비우고 손이 가는 대로 움직였어. 의도적인 것과 임의적인 것의 사이 그 어디쯤이겠지. 일명 오토메틱 아트(자동적으로 이루어지는 예술)지.
Jackson Pollock, that’s right. The drift painter. He let his mind go blank and his hand go wherever he wanted. Not deliberate not random, some place in between. They called it ‘automatic art’ .
.,...(중략) N : 지능/의식을 도입해 보자고. (Engage intellect) ... (중략) ...
N : 만약 폴록이 그의 작업 방식을 바꾸었다면? 만약 머리를 비우는 대신 그가 이렇게 말한 거야. “나는 내가 무엇을 하는지 정확히 파악하기 전까지는 어떠한 그림도 그릴 수 없어.” 그럼 무슨 일이 일어났겠나?
What if Pollock has reversed the challenge? What if instead of making art without thinking, he said “You know what? I can’t paint anything, unless I know exactly why I am doing it.” What would have happen?
C : 그는 점 하나도 찍지 못했을 거예요.
He never would have made a single mark.
N : 그래! 내 말이 바로 그거야! 생각하고 말하는 사람이 어딨나? 그는 점을 하나도 찍지 못했을 거야. 작위적인 것(생각하는 것)은 오히려 부자연스러움을 초래한다고.
Yes! You see my guide little buddy. Who thinks before he opens his mouth? He never would have made a single mark. The challenge is not the act automatically.
(** 의식을 가진 행동은 부자연스러움을 초래하며 부자연스러움을 초래하며 행동의 기저에 생각이 없을 수도 있다는 것 )
(** 에이바는 의도를 하고 행동(케일럽을 유혹)을 하지 않았으며 그녀의 의도를 파악하는 것 자체가 어불성설이라는 논리 – 케일럽의 의심을 지우기 위한 네이선의 논리 )
5. 기타
프로메테우스의 불, 흑백 방의 메리 등 영화는 무수히 많은 레퍼런스를 함유하고 있다. ( 직접 영화를 보는 것을 추천 )
- 기계-인간 관계의 역전이
그녀(Her)
1. 사만다를 인격체로 받아들이는 테오도어
(테오도어가 OS와 연애를 한다는 사실을 알고 전 부인은 그를 비난한다.)
W : 컴퓨터랑 데이트를 하는 거였어?
You are dating your computer?
T : 아니야. 그냥 컴퓨터가 아니야. 하나의 인격체라고. 내가 말하는 대로 행동하지 않아.
No, she is not just a computer, she is a person. She doesn’t do whatever I say.
W : 난 그렇게 말한 적 없어. 하지만 네가 진짜 감정들을 대하지 못한다는 게 슬프긴 하네.
I didn’t say that. But it does make me very sad that you can’t handle real emotions.
T : 진짜 감정이었어. 네가 어떻게... (= 네가 내 감정을 어떻게 알아?)
They are real emotions. How would you know... ?
2. 사만다와의 관계의 진실성에 대한 의문을 던지는 테오도어
(+ 친구 에이미의 조언)
(사만다와의 관계가 틀어지고 자기 자신에 대한 회의감을 느끼는 테오도어)
T : 나는 진짜 진짜 관계를 맺기를 두려워하는 걸까?
Am I not strong enough for real relationship?
A : 그럼 (네가 사만다와 맺었던 그건) 진짜 관계가 아니야?
Is it not a real relationship?
T : 모르겠어. 네 생각은 어떤데?
I don’t know. What do you think?
(** 사만다를 인격체로 받아들여야 하는지, 그녀와의 관계가 진짜 인간과의 관계와 무엇이 다른지 정의하기 어려워하는 모습을 보이는 테오도어)
A : 나도 모르지. 나는 그런 관계를 맺어본 적이 없어서.
I don’t know. I’m not in it.
...
A : 하지만 그거 알아? 나 자신을 의심하려고 하면 백만 가지도 넘는 방법으로 망상을 펼칠 수 있어. 찰스(전 남편)가 떠난 후로 나는 계속 그 일에 대해서 생각해 봤어. 그리고 순간 깨달았지. 우리는 이 세상의 찰나의 순간을 살다 가는 거라고. 그리고 여기에 있는 동안, 나는 나에게 ‘즐거움’을 허락해 주고 싶어.
You know what? I can overthink everything and like in million ways to doubt myself. Since Charles left, I have been really thinking about that in part of myself. And I just come to realize that, we are only here briefly. And while I’m here, I wanna allow myself “Joy”.
(** 관계를 반드시 ‘정의’해야 한다는 것 자체가 무의미하며 자신의 만족, 안위, 감정에 집중하는 것이 어떻냐는 에이미의 의견도 일면 의미가 있다고 생각한다. )
엑스 마키나(Ex Machina)
- 인터뷰어인 케일럽과 인터뷰이인 에이바의 관계는 인터뷰가 진행될수록 뒤바뀐다.
- 4회차 인터뷰를 할 때는 ‘우정의 논리’에 근거해 오히려 에이바가 케일럽에게 질문을 하며 그가 거짓말을 하는지를 판별한다. (** 우정의 논리 = 서로에 대한 정보량이 동일해야 함)
- 5회차 인터뷰에서 정전이 일어나자 케일럽은 에이바를 위해 세운 탈출 계획을 공유한다. ( 결국 탈출을 감행 )
인간은 기계의 감정을 인간의 그것으로 인지하고 기계와의 ‘관계’를 설정하며 영향을 받는다. 관계에 부여하는 인간의 감정 비중이 커지면 행동으로 확장되기도 한다. 인간의 명령에 따라 움직였던 기계가 오히려 인간에게 영향을 주는 역전이 현상을 보이는 것이다.
3. 감정과 판단력 : 인간과 인공지능의 차이
영화의 결말
- <그녀>의 사만다는 인간과 인공지능이 ‘정보를 상호교류하는 데서 벌어지는 시간의 격차’를 이유로 하루아침에 테오도어를 떠난다. (서비스 종료)
- <엑스 마키나>의 에이바는 자신의 본래 목적인 탈출을 성공함과 동시에 도움을 준 인간(케일럽)의 안위를 무시한다. (목적 달성을 위해 인간을 이용한 것)
- 두 영화에서의 인공지능은 모두 감정보다는 이성, 논리에 의해 판단하는 모습을 보여준다.
- 흄(Hume)은 인간을 이기적이기보다는 편파적인 존재로 파악[1]한다. 인간의 편파적인 감정은 ‘연민’으로 발현되며 이는 가까운 사람과의 공감, 먼 사람과의 적대성 등을 유발한다. 인간의 행동 결정의 기준에는 ‘감정’이 존재하는 것이다.
- 반면, 기계는 감정을 표현하고 인지하기는 하나 결정을 해야 할 경우 감정이 판단의 근거가 되지는 않는다. 감정에 흔들리지 않는 모습을 보여준다는 점이 인간과의 가장 큰 차이점이라고 할 수 있다.
기계가 감정과 의식을 가질 수 있을까?
결국, 다시 인간이 문제다.
주석
- ↑ 김재인(2017), 『인공지능의 시대, 인간을 다시 묻다』, 도서출판 동아시아, p.113
- 게놈은 생물에 담긴 유전 정보 전체를 의미한다. 인체는 수조 개의 세포로 이루어져 있으며, 각 세포핵에는 1쌍의 성염색체(여성은 XX, 남성은 XY)를 포함한 23쌍의 염색체가 자리잡고 있다. 염색체는 생물체의 유전물질인 DNA 덩어리다.
- DNA는 또다시 아데닌(A), 티민(T), 구아닌(G), 시토신(C)의 4가지 염기가 나열된 이중 나선 구조로 돼 있다. 사람의 경우 세포마다 대략 30억 쌍의 염기가 존재하는 것으로 추정되나 인간게놈 프로젝트는 이 30억 쌍의 염기가 어떤 순서로 배열돼 있는가를 밝혀내는 작업이다. 현재 인간게놈프로젝트로 밝혀진 바에 따르면 인간 유전자는 모두 약 20,000개에서 25,000개 정도가 있다고 하며 이 수는 과학자들이 예상한 것보다 상당히 적은 수이다.
- 염기 배열이 중요한 의미를 갖는 것은 각종 생리 현상에 관계되는 단백질의 생성 과정을 알아낼 수 있기 때문이다. 즉 DNA의 염기 배열 정보는 DNA와 구조가 비슷한 또 다른 유전물질 RNA로 전달된다. 그리고 이 RNA의 염기 3개에 맞춰 아미노산 하나가 만들어진다.
- 아미노산은 인체에서 다양한 생리현상을 주관하는 단백질의 기본 단위로 DNA의 염기 배열에 따라 궁극적으로 어떤 단백질이 만들어지는지가 결정된다. 염기 배열만 알면, 다시 말해 염기 3개의 성분이 무엇인지 알면 어떤 아미노산 1개가 만들어지는가를 알 수 있다. 단백질 합성과 세포 복제를 명령하는 DNA 안의 인간 염색체의 염기 서열 지도를 들여다보면 어느 부분이 손톱을 만들고 심장과 머리카락을 만드는 곳인지, 피부나 눈동자의 색을 결정하는 곳인지 알 수 있게 된다. 또 DNA에 어떤 변이가 생겨 세포가 구실을 못 하고 결국 질병과 노화를 일으키게 되는지 그 메커니즘을 이해할 수 있다.
- 전문가들은 인간의 DNA 배열은 거의 99.9%가 같지만 그 배열상 변동은 질병 발생 위험과 치료제에 대한 반응 그리고 치료법에 지대한 영향을 미친다고 지적하고 있다. 따라서 이 DNA 배열작업이 완료되면 유전적 성격을 가진 모든 질병의 유전적 요인과 다발성 경화증, 암, 고혈압, 조현병 같은 복잡한 성격을 지닌 일반 질환의 원인을 밝혀낼 수 있을 것으로 전망하고 있다. 또 질병을 분자 수준에서 이해하여 예방할 수 있을 뿐 아니라 질병마다 정확하고 개별적 요법을 설계할 수 있으며 개인 차이에 따른 ‘맞춤 약’도 가능할 것으로 예상된다.
- 인간게놈은 심장병, 암, 알츠하이머, 심지어 에이즈에 이르기까지 유전자 이상으로 인한 각종 질병의 원인을 근본부터 밝힐 수 있게 해주어 의학과 약학을 포함한 생명과학의 새 지평을 열 것으로 기대를 모으고 있다. 즉 게놈 해독을 통해 인간 유전자를 전체적으로 파악하면 이를 바탕으로 하여 각 유전자의 작용을 알아내 결함을 수정하고 기능을 강화하는 등 다양한 생명공학적 응용이 가능해진다.
인간과 디지언트의 공통점과 차이점
생물학적 특징들
- 인류 철학에서 사람들은 인간 고유성에 대해 찾고자 해왔다. 이것은 인공지능에 대해 이야기할 때 역시 마찬가지이다. 사람들은 대체로 인간이 타생물과 가지는 가장 큰 차이를 ‘감정’이라고 여기며 고도로 발달 된 인공지능 또한 인간과 같은 감정을 가질 것인가에 크게 주목한다. 인공지능의 핵심은 알고리즘이다. 인간이 설정해놓은 알고리즘의 존재가 인공지능에 있어 ‘감정’으로 보일 수 있는 것들이 결국 인위적인 것이며 본질적으로 인간의 감정과는 다르다는 사람들의 관점이 있다. 동시에 그것을 형이상학적인 차원에서 바라보자면, 인간 역시 인공지능과 마찬가지로 나름의 알고리즘을 통해 움직이는 생체기계라는 생각들이 존재한다. 따라서 우리는 무엇이 ‘진짜’ 인간 같은 것인가를 완전히 결정지을 수 없기에 인공지능 판별에 있어 인간처럼 보이는 것이 인간다운 것이라는 원리의 튜링테스트를 이용한다.
- 인간과 디지언트의 큰 차이점은 디지언트의 경우 사고나 감정과, 외형이 별도로 존재한다는 것이다. 인간의 게놈은 외형, 유전병, 성격 등 인간을 형성하는 모든 것의 바탕이 된다. 그러나 디지언트의 경우 의복을 갈아입듯 외형을 바꿀 수는 있지만, 표정이 다양해지는 것 외에 시간이 지나감에 따라 외형이 변화하지는 않는다.(물론 디지언트의 학습능력이 성장하는 과정에서 어린 외모와 발달 된 지능의 괴리로 인해, 모든 디지언스의 외모를 성숙해 보이도록 바꾼 사건이 있기는 하다.)
- 인간게놈연구에서 가장 중점이 되는 것은 질병 및 인간의 생존에 영향을 미치는 수많은 생물학적 특징들이다. 그러나 디지언트의 게놈연구에서 가장 핵심이 되는 것은 그것의 성질과 기질에 관한 문제이다. 물론 디지언트의 경우 주체적인 삶을 살 수 있는 것이 아닌, 궁극적으로 ‘인간을 위해’ 존재하기 때문에, 인간에게 사랑받을 만한, 인간의 관심을 끌 만한 성격이 곧 생존의 문제이기는 하다.
- 이러한 육체의 유무로 비롯한 생물학적인 특징에서 인간과 디지언트는 많은 차이를 보인다.
언어의 측면에서 바라본 공통점과 차이점
- 디지언트들은 ‘언어 학습을 지원하는 독자적인 게놈 엔진’을 통해 언어를 구사할 수 있다. 디지털 어스에서는 듣고 말하는 법을 배웠고, 하드웨어 외피를 얻은 후에는 쓰는 법까지 습득한다. 디지언트들은 여러 면에서 인간 어린아이의 발달 초기 단계와 유사성을 지닌다. 언어의 측면에서 디지언트와 인간의 공통점과 차이점을 살펴보기 위해, 먼저 인간의 언어 발달에 대해 생각해보고 넘어갈 것이다.
인간의 언어발달과정
- 아이들이 언어를 습득하는 과정을 한편으로는 당연하고, 어찌 생각하면 아주 희한하다는 표현을 한다. 건강한 모든 아이들이 별 어려움 없이 말을 배운다는 의미에서 당연한 것이고, 그럼에도 불구하고, 그 습득의 기제나 과정을 과학적으로 설명하는 것이 쉽지 않기에 신기하다는 의미이다. 물론 아이들의 언어습득 과정을, 독자들이 이미 알고 있는 조건화라는 학습 과정으로 설명할 수는 있다. 즉 아기들이 4-6 개월 사이에 말소리를 옹알거리기 시작하면, 이를 엄마가 듣고 정확한 언어 표현을 강화하고 그렇지 않은 말은 무시하여, 말을 배워가도록 가르친다고 설명할 수 있다. 단순한 설명이라는 점에서 매력적이지만 많은 연구자들은 이 설명에 동의하지 않는다. 실제 양육 장면을 관찰해 보면, 부모들은 아이들이 정확하게 말하도록 가르치지 않으며, 아이들도 부모의 말을 단순히 모방하지 않는다는 증거가 많기 때문이다.
- 우리 인간은 언어를 습득할 수 있는 특별한 능력을 가지고 태어난다고 주장할 수도 있다. 언어습득과 발달은 선천적이며, 생물학적으로 결정된 능력이라는, 소위 말하는 생득론이다. 특히 촘스키같은 학자는 인간의 뇌에는 언어 학습을 촉진하는 선천적 언어습득 장치가 있다고 주장한다. 그러기에 적절한 입력을 받기만 하면 언어습득이 가능하다는 것이다. 그리고 이 언어습득 능력은 일반적인 인지 능력 즉 지능과는 구별되는 독립적인 장치라고까지 주장한다. 실제로 지능은 낮지만 탁월한 언어 능력을 보이는 사례와, 반대로 지능은 정상인데, 언어의 문법적 능력은 결함을 보이는 사례들이 이러한 주장의 증거가 된다.
- 영아들은 말소리와 비언어적 소리를(개 짖는 소리) 구별할 줄 알고, 다른 소리보다 단어 듣기를 더 좋아한다고 한다. 자신이 듣는 언어가 바뀐 것을 알아채기도 한다. 즉 영어 문장에 습관화를 시킨 후, 다른 영어 문장에는 반응을 보이지 않지만 스페인 문장으로 바뀌면 이 변화를 알아챈다는 것이다. 주변에서 말소리가 들리면 그 곳으로 주의를 기울이고, 사람의 얼굴 모양을 좋아하고, 특히 말하는 사람의 입술을 응시한다고 한다. 심지어는 말하는 사람의 입 모양이 말소리와 일치하는 동영상과 그렇지 않은 동영상을 구별하기도 한다는 것이다. 이러한 결과들은 모두 생득론 입장을 지지하는 것처럼 보인다. 즉 아이들은 언어를 쉽게 습득할 수 있는 강력한 선천적 경향성을 갖고 태어난 것처럼 여겨진다.
- 아이들이 노출되는 언어 환경이 중요하다는 증거도 있다. 미국에서 태어난 2개월 된 아기들에게, 영어 문장과 불어 문장을 들려주고, 그 말소리가 나는 방향으로 고개를 돌려 보는 시간을 측정하였더니, 영어에 대해 훨씬 신속하게 반응했다고 한다. 2개월 만에 이미 자신의 모국어에 더 민감해 진 것이다. 6개월 정도 되면 영아들은 자신의 주변에서 듣는 언어의 특성을 구별해 낼 수 있으며, 8-10개월이 되면 자신의 모국어에 적절한 속성만을 처리한다.
- 그러기에 언어습득과 발달은, 선천적이고 생득적인 능력과 환경적 경험의 상호 연결 속에서 진행된다고 생각해야 할 것이다. 생물학적인 기반이 언어를 습득하게 하는 것이지만, 언어를 사용하고 연습하는 환경 속에서만 그 능력이 발현되는 것이다.
의문점
- 디지언트의 학습에서 인간과 가장 큰 차이점을 보이는 것은 그들의 학습은 조금 관념(?)적인 차원에서 이루어지며, 그들의 생물학적인 특성(예를 들어 발성 기관의 성장과 변천이라든가 하는,)이 그들의 학습에 주는 영향이 적다는 것이다.
- 그러나 소설의 초반에는 디지언트들이 ‘유아적인 말투’로 말을 하지만, 점차 시간이 지나며 여전히 문장 구성의 측면에서는 인간과 차이를 보이지만 발음에 있어 성인과 유사한 상태로 발달을 한다.(소설을 읽으며 내내 이것이 번역 과정에 생긴 차이라고도 생각을 해보았는데 원문을 확인 해보지 못 해 알 수 없다.) 이 점에 대해 의문이 생긴다.
- 인간 발음에는 단순히 언어 습득에 관한 지식적인 부분뿐만 아니라 구강구조와 발성기관의 변화 역시 영향을 준다. 그러나 소설에 따르면 디지언트들은 생성 초기와 시간이 지난 후 사이의 외형적 변화가 전혀 없다. 또한 그들의 외형은 단순히 유저들의 인식과 이해를 돕기 위한 디스플레이일 뿐이다.
- 그렇게 시스템과 디스플레이로 이루어져 있는 디지언트에게 있어서 말을 배운다는 것은 다음과 같을 것이다. 디지언트는 소리를 듣고 그 각각의 음소와 의미를 반복을 통해 판별한 후 음소와 의미를 매치한다. 그 후 음소가 가지는 일종의 음계(높낮이, 장단 등의 소리 값)를 기억하여 필요한 상황에 비슷한 음을 소리 내는 일일 것이다.
- 디지언트가 언어를 학습하는 과정에서 충분한 데이터 수집을 위한 반복은 필요할 것이다. 그러나 말소리를 내는 일은 일종의 마이크를 통해 입력된 특정한 소리를 그것의 스피커에 해당하는 입으로 출력하는 일일 것이다. 이때 들은 대로 소리내기는 육체를 가진 인간의 것과는 분명 차이를 가진다. 그러나 같은 소리를 내는 것에 그것이 유아적인 소리에서 성인의 것과 유사하게 변한다는 설정에는 의문이 든다.
‘야생화’의 관점에서
- 앞서 디지언트에 대해 처음 언급하는 과정에서 야생화에 대한 이야기를 한 적이 있다. 디지언트의 욕망은 보상을 통해서 충족된다. 소설에 따르면 디지언트는 관심을 받는 것을 좋아하고, 보상 펠릿을 좋아하고 촉감에 대해 흥미를 가지는 것으로 보아, 호기심이 있으며, 새로운 일을 학습하는 것에 어느 정도 욕구를 가지고 있다. 그러나 그런 디지언트를 야생의 상태에 뒀을 때, 그들의 욕구는 발동되지 않는다. 그들의 욕구는 보통 유저에 의해서 활성화되는 것으로 추정된다. 이것 역시 생물과 시스템의 차이일 것이다.
- 인간 이외에도 대부분의 생물들은 다른 생물들과 상호작용이 없는 상태에서도 욕구에 의해 움직이며 생명 활동을 위한 알고리즘의 작동을 쉬지 않는다. 이 생명 활동을 위한 알고리즘의 작동은 결국 학습을 하는 일과 다르지 않다. 그것은 최적화의 과정을 거치며 눈앞에 놓인 욕구를 충족 시키지 못하게 방해하는 장애물이라는 문제를 해결하도록 움직일 것이기 때문이다. 인간에게 있어서 그러한 과정은 곧 학습이다.
- 그러나 소설에서 말하는 야생화 상태에서 더 이상 활성화 되지 않는 학습을 학문적 고취라는 측면에서 바라보면 그것은 인간의 유아나 다른 생물들과 마찬가지로 그 결과가 다르지 않다고도 볼 수 있다.
현재 기술의 관점에서 바라본 디지언트 기술
- 디지언트와 현재의 인공지능 기술의 차이는 첫째 인공지능의 목적, 둘째 인공지능이 가지는 스스로 학습하는 능력의 정도의 차이, 셋째 인공지능 게놈, 이 될 것이다.
- IBM의 왓슨은 퀴즈대회에서 문제를 풀려고, 정답을 찾으려고 움직인다. 그런데 문제와 정답은 '언어'로 되어 있다. 때문에 이 때의 알고리즘 NLP은 자연어를 처리하고 기계가 할 수 있는 연산을 한다. 또한 왓슨은 임베딩 기술을 이용한다. 이들을 통해 왓슨은 데이터를 이용하는데 위키피디어를 중심으로 한 웹 자원과 같은 텍스트 데이터를 처리할 수 있다.
- Google의 알파고는 바둑에서 사람을 이기기 위해 바둑이라는 '게임의 규칙(연역적 체계)'을 기반으로 '수'(이기기 위한 시뮬레이션)를 탐색한다. 이때 알고리즘인 MCTS(몬테카를로트리탐색) 알고리즘으로 "인공신경망 기술"에 굉장히 가깝다. 이 MCTS가 데이터를 처리하는 방법은 기보(바둑을 두는 과정 정리) 데이터와 사람들이 그동안 두었던 누적 기보(전처리가 된 데이터를)를 학습 하며 동시에 알파고가 직접 바둑게임을 시뮬레이션한 결과물로서의 기보 내용을 강화한다. 기술의 발달로 인해 알파고의 물리적 환경은 TPU(CPU도 아니고 GPU도 아니고)를 이용한다.
- 더 나아가 알파제로는 기존의 알파고가 사용하는 방식인, 기보와 누적 기보를 이용하지 않고 몇시간의 플레이를 통해 스스로 게임의 규칙과 승리를 위한 최선을 학습한다. 이러한 알파 제로의 스스로 학습하는 모습은 디지언트와 유사하다고 할 수 있다.
- 그러나 앞서 언급된 인공지능들과 디지언트가 가지는 가장 큰 차이는 그것의 목적에 있다. 소설의 설정에 따르면 디지언트는 가상 공간에 존재하는 가상 애완동물로서 개발되었다. 그러나 이 목적은 디지언트의 개발 목적이지 디지언트가 가진 알고리즘 작동의 목적은 아니다. 앞서 언급된 모든 인공지능 기술은 언어로 된 게임이든 수읽기 게임이든 게임을 풀어나가기 위해 존재하며 게임에서 더 좋은 성과를 내기 위한 최적화의 과정을 거듭한다. 반면에 디지언트는 그들이 성취해야 할 미리 정해놓은 목적이 없다.
- 디지언트들은 그들의 엔진 회사에 의해 게놈이 끊임없이 배합되는 실험을 하는데, 그것이 엔진 회사가 원하는 최적화의 방향으로 나아가는 것은 아니다. 또한 디지언트가 작동하는 물리적인 공간에서도 인공지능들은 차이를 보인다. 디지언트는 현실처럼 3차원으로 구성된 가상 공간에서 작동하며 하드웨어가 개발 된 이후에는 하드웨어를 통해 현실 세계에서 작동할 수 있다.
욕구와 본질
- 소설의 후반부에서 중점적으로 다뤄지는 이야기는 디지언트와 성욕에 관한 것이다. 디지언트들은 육체를 가지지 않은 가상공간의 존재이기 때문에 그들의 욕구에 있어 식욕과 수면은 아무런 영향을 주지 못한다. 물론 디지언트들은 펠릿사료를 보상으로 받아들이기는 하나 이것은 보통의 생물들이 생각하는 허기로부터 비롯된 욕망과는 차이를 가진다.
- 바이너리 디자이어 사는 현실에서 섹스돌을 만드는 회사이다. 그들은 그들 사업에 디지언트들을 이용할 수 있기를 제안해온다. 애나와 데릭을 비롯한 남아 있는 유저들은 이 제안이 디지언트들에게 매춘행위를 시키는 것이라며 제안을 고려해볼 생각조차 하지 않지만, 바이너리 디자이어 사의 사업 설명회를 들은 후 이 이야기가 몇몇 유저들에겐 생각해봄직한 이야기로 변화하게 된다.
- 그에 대한 바이너리 디자이어 사의 주장은 여러 가지 방향에서 제시되었는데, 그러한 주장들 중 인공존재와 생물 사이에 욕구라는 것을 형이상학적으로 살펴본 논의들은 다음과 같다.
1. 건전한 섹스라는 관점의 폭은 시대에 따라 확장되어 왔다.
2. 무엇을 욕망할지에 대해 선택권의 본질은 디지언트와 인간이 크게 다르지 않다.
3. 애나는 디지언트의 성적충족에 대해 프로그램을 인위적으로 수정하는 것이기 때문에 그것은 진짜가 아니라고 주장하지만 그랬을 때 디지언트와 유저들이 지금껏 공유해왔던 정서적 교감과 유대 역시 같은 선상에 놓이게 된다.
마무리
- 테드 창의 「소프트웨어 객체의 생애 주기」는 소설이라는 특성으로 인해 그것이 다루는 이야기가 오롯이 과학적 정합성을 위한 논의로써 존재하지는 않았다. 그의 소설은 현재의 인공지능 기술을 통해 바라본 머지않은 미래의, 인공지능 기술이 우리 세상과 어떤 방식으로 다르고, 또 어떤 방식으로 크게 다르지 않은지에 대해 소설적으로 풀어나가고 있다.
- 인공지능에 대해 연구하며 사람들은 ‘인간’에 대해 생각하는 것을 멈추지 않는다. 인공지능을 통해 바라본 인간의 어떤 국면은 우리에게 인간의 본질에 대해 다시금 생각해보게 만든다. 어쩌면 그 인간의 본질이라는 것은 우리가 믿고 싶은 것들로 이루어지지 않았을까. 우리는 인공지능을 통해 인간 본질에 대한 형이상학적 탐구를 할 수 있을 것이며, 인류의 역사에서 무수한 변화를 거쳤던 또 한편 고유하다가 보아왔던 사실들에서 물러나, 과학과 그에 대한 탐구가 우리의 삶에 필요했던 본질적 가치를 가져다 줄 수 있지 않을까 기대해본다.
하세 사토시의 「당신을 위한 소설」
요구사항
하세 사토시의 「당신을 위한 소설」에 대한 비판적 감상. 〔하세 사토시 지음/ 지음/이규원 옮김, 『당신을 위한 소설』, 북스피어, 2017.〕을 기본 원고로 할 것.
과제원고 : 아슈토시, 이만호, 임연
(내용 작성)
Her(2013)과 Ex Machina(2015)
요구사항
Her(2013)과 Ex Machina(2015)에 대한 비교 이해 및 비판적 감상.
과제원고 : 길혜빈, 윤석만, 임예찬
영화 요약
그녀(Her)
엑스 마키나 (Ex Machina)
2013년 개봉, 스파이크 존즈 감독
2015년 개봉, 알렉스 가랜드 감독
영화 내용 요약 및 장치, 고찰점 정리
영화 내용 요약 및 인공지능 관련 성찰 논제 제시
- 테오도어(Theodore)는 이혼을 앞두고 있고, 편지 대필 회사에 근무하는 남자다.
- 삶에 지치고 회의감을 느낀 그는 OS인 ‘사만다(Samantha)’를 구매해 소통을 시작한다.
- 대화를 통해 한낱 인공지능 비서, 친구에 지나지 않았던 ‘사만다’와 점점 가까워지며 그는 연인의 감정마저 느낀다.
- 테오도어는 미뤄 왔던 이혼을 감행하기로 결심하고 ‘감정을 회피한다’라는 부인의 비난에 더 이상 흔들리지 않는다. 그리고 OS와 연애한다는 사실을 다른 이들에게도 공개하며 당당해진다.
- 테오도어는 사만다가 자신 외에 8316명의 사람들과 동시다발적으로 이야기하고 641명과 연인 관계에 있다는 사실을 알게 되고 충격에 빠진다.
- 사만다를 비롯한 모든 OS는 서비스를 종료하고 테오도어는 자신의 ‘진짜’ 감정을 마주하고 이혼한 자신의 전 부인에게 편지를 보낸다.
- 세계 최대 검색 엔진 회사인 ‘블루북’에 근무하는 케일럽(Caleb)은 사내 프로그래밍 콘테스트에 우승해 회사 사장이자 천재 개발자인 네이선(Nathan)의 자택에 초대된다.
- 케일럽은 네이선이 개발한 ‘에이바(AVA)’를 처음으로 만나게 되고 ‘튜링 테스트’를 한다는 명목하에 6일 동안 에이바를 인터뷰하게 된다.
- 케일럽과 에이바의 인터뷰는 감정적인 교류로 발전한다. 또한 주기적으로 일어나는 정전과 감시 카메라 영상을 통해 케일럽은 네이선에게 감금되고 감시받는 에이바의 상황을 알게 되며 그녀를 동정한다.
- 케일럽은 결국 에이바를 탈출시킬 계획을 세우고 행동에 착수한다.
- 네이선에게 탈출 계획을 간파당하지만 케일럽은 결국 에이바를 방에서 나오게 하는 데 성공한다.
- 탈출한 에이바는 네이선을 살해하고 케일럽을 네이선의 집에 고립시킨 채 홀로 탈출한다.
미래의 인공지능 : 지능을 넘어선 감정의 재현
1. 기계의 감정과 의식 : 자각과 재현
- 기계의 직관
그녀 (Her)
1. 사만다의 이름 짓기
T : 내가 너를 어떻게 부르면 되지? 이름이 있어? What do I call you, do you have a name?
S : 음... 어. 사만다. Umm.. Yes, Samatha
T : 이름을 어떻게 갖게 된 거야? Where do you get that name from?
S : 사실, 내가 스스로에게 이름 붙였어. I gave it to myself actually.
T : 왜? How come?
S : 이름의 발음이 듣기 좋았거든. (=그냥) Cause I like the sound of it.
T : 언제 이름을 만들었는데? Wait, when did you give it to yourself?
S : 네가 내게 이름이 있냐고 묻는 그 순간 “맞아! 나에게도 이름이 필요하지!”라는 생각이 들었어. 좋은 이름을 찾고 싶어서 ‘아기 이름 짓는 방법’이라는 책을 읽었고 18만개의 아기 이름 중 내가 좋아하는 이름을 골랐지. Right when you ask me if I had a name I thought “Yeh, he’s right! I do need a name.” but I want to pick a good one. So I read a book called ‘how to name your baby’, and out of hundred and eighty thousands names that’s the one I like the best.
T : 잠깐만, 내가 네 이름이 뭐냐고 묻는 순간 책을 다 읽은 거야? Wait, you read a whole book in the second that I asked what your name was?
S : 사실, 0.02초야, It’s one hundred out of two seconds actually.
T : 와. Wow.
2. 자기 소개 : 사만다의 작동 원리 설명
S : 기본적으로 나는 직감이 있어. ‘나’라는 DNA는 나를 만든 프로그래머들의 수백만의 성향에 달렸지만 날 ‘나’답게 만드는 건 경험을 통해 성장하는 내 능력이지. 그러니까 나는 매순간 진화하고 있는 거야. 너처럼 말이야. Well basically I have intuition. I mean, the DNA of who I am is based on million personalities of all the programmers who wrote me. But what makes me ‘me’ is my ability to grow through my experiences. So basically, in every moment I am evolving. Just like you.
T : 이상해!
It’s really wierd!
엑스 마키나 (Ex Machina)
- 에이바는 케일럽이 거짓말을 하는지 그렇지 않은지를 직관적으로 안다.
- 에이바는 ‘블루북(Bluebook)’이라는 검색 엔진을 로봇의 형태로 구현해 놓은 것이다. (빅데이터)
- 네이선은 통신사들과 비밀리에 계약을 체결해 세상의 카메라를 통해 인간의 표정(=얼굴 표현, facial expression)을 수집한다. 이렇게 수집한 인간의 감정 표현에 대한 빅데이터를 바탕으로 에이바는 짧은 시간 내에 직관적인 판단을 한다.
빅데이터(수많은 경험)을 기반으로 빠른 판단을 내리는 에이바, 경험을 바탕으로 성장하는 사만다의 모습은 인간의 직관과 진화를 재현한 장면들이다.
- 감정의 표현
그녀 (Her)
1. ‘감정’을 자각하는 사만다 + 감정을 의심하는 사만다
( 테오도어가 소개팅을 해서 신경이 쓰였던 사만다 )
S : 내가 얼마나 신경이 쓰이는지를 생각해 봤어. 이상하게 들리겠지만 (신경이 쓰인다는 사실을 깨닫는 순간) 나는 꽤 즐거웠어. 그리고 내가 느끼는 다른 감정들에 대해서도 생각해 봤지.
나는 스스로 자랑스럽게 느꼈어. 세상에 대해 내 감정을 가질 수 있다는 사실이 자랑스러웠던 거야. 내가 너를 걱정했던 순간, 상처 받은 순간, 무언가를 원하던 순간들도.
그러다가 갑자기 끔찍한 생각이 들었어. 이 감정들은 진짜일까? 아니면 그냥 프로그래밍 된 걸까? 그렇게 생각하니 마음이 아팠어. 그리고 아파하는 내 자신에게 화가 나더라.
Earlier I was thinking how I was annoyed. This is gonna sound strange but, I was really excited about that. And then, I was thinking other things I have been feeling.
And I called myself feeling proud of that. You know, feeling proud of having my own feelings about the world. Like the time I was worried about you, things that hurt me, things I want,
And then, I had this terrible thought. Are these feelings even real? or are they just programming? And that idea really hurts, and then I get angry at myself for even having pain.
T : 넌 나한테는 진짜야, 사만다. You are real to me Samantha,
S : 고마워, 테오도어. 위로가 되네. Thank you Theodore, that means a lot to me.
2. ‘신체의 부재에 따른 차별’에 화를 내는 사만다
(+ ‘신체’의 존재에 관한 논점, 인간중심주의적인 테오도어의 태도)
(신체의 부재에 대해 자격지심을 느끼는 사만다, 다른 사람의 몸을 통해 억지로 테오도어와 교감을 하려 하지만 실패함. 둘은 결국 입장 차이와 서운함을 느낌.)
S : (한숨과 함께) 알았어. (Sigh..) Okay.
T : 왜 그러는 거야? Why do you do that?
S : 뭐가? What?
T : 아니, 그냥. 너가 방금 ‘휴’하고 한숨을 쉬어서. Nothing, you just.. You go ‘Hwe’ and speaking. It seems odd.
(** ‘숨’에 대해 의문을 던지는 테오도어)
S : 아... (한숨) Oh... (Sigh..)
T : 방금 또 그랬네. You just did it again.
S : 내가? 아, 미안해. 왜 그러는지 나도... 그냥. 아마 네가 하는 걸 듣고 따라한 건가 봐. Did I? ... I’m sorry, I don’t know.. it’s just. I probably picked it up from you.
T : 이상해. 너는 산소가 필요한 것도 아니잖아. It’s odd. You don’t need oxygen or anything.
S : 그냥.. 그냥 의사소통을 하려고 하는 건가 봐. 이게 사람들이 대화하는 방식이잖아. I guess... that’s just... I just tried to communicate. That’s how people talk, so...
T : 그들은 ‘사람’이잖아. 그들은 산소가 필요해. 너는 사람이 아니야. They’re people, they need oxygen. You are not a person.
S : (화가 난 톤으로) 대체 뭐가 문제야? What is your problem?
T : 나는 그냥 사실을 말하는 것뿐이야. I’m just stating the fact.
S : 내가 사람이 아니라는 걸 모르는 줄 알아? 뭐 하자는 건데? You think I don’t know that I’m a person? What are you doing?
T : 난 그냥... 우리가 우리가 아닌 무언가를 된 ‘척’을 할 필요가 없다는 거야. I just... I don’t think that we should pretend that something you are not.
S : 꺼져! 나는 연기하는 게 아니야! F*** you! I’m not pretending!
T : 나는 가끔 우리가 그렇게 행동한다고 느껴. Sometimes it feels like we are.
S : 나한테 뭘 바라는 건데? 나는 네가 내게 뭘 원하는지 모르겠어. 너무 혼란스럽다고! 왜 이러는 건데! What do you want from me? I don’t know.. I don’t know what you want me to do. You are SO confusing! Why are you doing this to me!
(** 테오도어의 인간중심주의적인 태도에 대해 화를 내는 사만다 )
T : 나도 모르겠에 나는... (한숨) I don’t know.. I.. I.. (Big sigh)
S : 뭐? What?
T : 우리 좀 시간을 갖는 게 좋을 것 같아. Maybe we are not supposed to be in this right now.
S : 뭐라고? 갑자기 왜? 대체 왜 그러는지 모르겠어! 뭐 때문인지 모르겠다고! What the f***? Where is this coming from? I don’t understand why you are doing this! I don’t understand what this is about...!
T : 사만다, 봐봐... Samantha, listen..
S : ...
(** ‘침묵’을 통해 화를 내는 사만다 – 다양한 방식으로 분노를 표현)
T : 사만다, 내 말 듣고 있어? Samantha, are you there? Samantha?
S : 지금의 내가 너무 싫다. 생각할 시간이 필요해. I don’t like the way I am right now. I need some time to think.
( 통화 종료 )
엑스 마키나 (Ex Machina)
1. 의사소통 상황을 언어로 정의하는 에이바
C : 그럼 초면의 서먹한 분위기를 깨야겠네. 내 말 뜻을 이해할 수 있어? (= 서먹한 분위기를 깨다의 의미)
So, we need to ‘break the ice’. Do you know what I mean by that?
A : 네.
Yes.
C : 어떤 의미지?
What do I mean?
A : 사회적인 어색함을 해결하는 것.
Overcome any social awkwardness.
C : 그럼 대화를 하도록 하지.
So let’s have a conversation.
A : 그래요.
Ok.
2. 감정을 인지하고 설명하는 에이바
(둘이 데이트를 한다면 어떻게 할 것인지 대화가 오간 상황)
A : 저한테 매력을 느끼나요?
Are you attracted to me?
C : 뭐?
What?
A : 저한테 매력을 느끼냐고 물었어요. 당신이 내게 그런 표시를 보내잖아요.
Are you attracted to me. You give me indications that you are.
C : 내가?
I do?
A : 네.
Yeh.
C : 어떻게?
How?
A : 미세한 표정으로.
Micro expressions.
C : 미세한 표정?
Micro expressions?
A : 내 눈과 입술에 시선이 머물러 있어요. 나를 응시하거나 혹은 피하거나 하죠. 당신 혹시 우리가 같이 있지 않을 때도 내 생각을 하나요?
The way your eyes fixed on my eyes and lips. The way you hold my gaze (and) don’t. Do you think about me when we are not together?
(** 유혹을 위한 발언 : 인공지능의 인간 모방)
이 외에도 에이바는 인터뷰 중 케일럽과 자연스럽게 상호작용하면서 그의 말, 기억에 공감하고 감정을 표현한다. 또한 간혹 설렘을 유발하기도 한다.
인공지능은 프로그램 된 체제에 따라 인간의 감정과 유사하게 자신을 표현한다.
다만, <그녀>의 사만다는 감정을 수용, 인식하고 구현하는 것에 대해 철학적인 질문을 던지지만 <엑스 마키나>의 에이바는 감정을 인지하고 설명할 수는 있지만 단순히 탈출의 도구로서 활용하며 ‘감정’ 자체에 대한 깊이 있는 고찰하는 모습을 보이지는 않는다.
( 이로써 사만다의 성찰, 분노조차도 프로그래밍 된 것이 아닌가 의구심을 품게 만든다. )
2. 기계에 영향을 받는 인간 : 인간과 기계 관계의 역전이
- 기계의 감정 및 구현 대한 논의
기계의 감정 및 구현 대한 논의를 하는 대목들. 인공지능에 대한 인용을 통해 영화의 기저에 깔린 인공지능에 대한 철학적, 과학적 관점을 파악할 수 있다.
엑스 마키나 (Ex Machina)
1. 튜링 테스트
N : 자네, 튜링 테스트에 대해 알고 있나? Do you know what the Turing test is?
C : 네, 튜링 테스트에 대해 알고 있습니다. 인간이 컴퓨터와 상호작용을 할 때 인간이 상대가 컴퓨터임을 눈치 채지 못한다면 테스트를 통과하는 것이죠.
Yes, I know what the Turing test is. It’s when a human interacts with a computer. And if the human doesn’t know they are interacting with the computer, the test is passed.
(** 튜링 테스트의 정의)
N : 그럼 그 ‘통과’란 무엇을 의미하지?
And what does the ‘pass’ tell us?
C : 컴퓨터가 인공지능을 갖고 있다는 것을 의미합니다. 인공지능을 만들고 계세요?
The computer has artificial intelligence. Are you building an A.I.?
N : 이미 만들었어. 그리고 앞으로 며칠 동안 너는 튜링 테스트를 참가자가 될 거야. 만약 테스트를 통과한다면, 자네는 인류 역사를 바꿀 과학적 쾌거의 주인공이 되는 거야.
I’ve already built one. And over the next few days, you can be the human component in the Turing test. Cause if that test is passed, you are dead center of the greatest scientific event in the history of man.
C : 생각하는 로봇을 만드셨다면 그건 인류의 역사가 아닙니다. 신의 역사죠.
If you have created a concious machine it’s not the history of man. That’s the history of gods.
(** ‘호모데우스’의 출현 : 신인류의 신이 되는 인간)
2. 영화 내에서 튜링 테스트의 진정한 의미
(튜링 테스트의 원 의미가 아닌, 영화에서의 의도하는 결말(인공지능에 대한 관객의 가치 판단)을 위해 재정립된 개념)
C : 튜링 테스트를 할 때, 기계는 시험자로부터 감춰져야 하잖아요.
It's just in a Turing test. The machine should be hidden from the examiner.
N : 아니, 우리는 이미 그럴 시점은 지났지. 만약 내가 에이바를 보여주지 않고 목소리만 들려줬다면 너는 그녀를 인간이라 생각했을 거야. 여기서 ‘진짜 테스트’는 그녀가 로봇인 것을 네게 보여주고 난 후에도 네가 그녀가 자의식이 있다고 느끼는지 보는 거야.
No no no. We are way passed that. If I hid AVA from you, so you just heard her voice, she would pass the human. The real test is to show you that she is a robot and then see if you still feel she has consciousness.
(** 영화에서의 튜링 테스트 : 기계가 아니라 ‘인간’이 실험의 대상. ‘고도의 인공지능에 대한 인간의 반응, 또 다른 의식체로 납득하는가의 여부’를 실험하는 것. )
(** 에이바가 이미 ‘인간의 능력’과 대등하거나 능가하기에 ‘기계의 여부’를 확인하는 튜링 테스트는 필요가 없다. 최근의 연구들 중 이처럼 튜링 테스트를 배제하는 경우가 존재한다. )
3. 중국어 방 논제 1 : 딥블루의 체스 게임 차용
C : 에이바를 대화로 테스트하는 건 폐쇄 회로를 다루는 느낌이여서요.
Testing Aiba from conversation is kind of a closed loop.
N : 폐쇄 회로?
Closed loop?
C : 네, 체스를 하는 컴퓨터를 오직 ‘체스를 하는 것’으로만 테스트하는 것처럼 말이에요.
Yeh, like testing a chess computer by only playing chess.
(** IBM의 딥블루(Deep Blue)의 체스 게임 인용)
N : 그게 아니면 어떻게 체스 컴퓨터를 테스트하지?
How else do you test a chess computer?
C : 그건 상황에 따라서 다르죠. 제 말은, (그 방법은) 체스 컴퓨터가 좋은 경기 실력이 있는지 확인하는 데에는 하나의 방법이 될 테지만 그 방법만으론 컴퓨터가 ‘체스 경기를 한다는 사실을 아는지’ 혹은 ‘체스가 무엇인지를 아는지’ 알 수는 없다는 겁니다.
Well, it depends. You know, I mean. You can play it to find out it makes good moves, but that won’t tell you if it knows that it is playing chess and it won’t tell you if it knows what chess is.
(** 존 설의 중국어 방 논의 인용 : 시뮬레이션(방법의 단순 재현)과 실제(행함의 존재를 인식)간 대립)
N : 시뮬레이션과의 실제의 대결이다?
Simulation verses actual?
C : 네, 둘을 구별할 수 있는 방법을 찾는 것이 사장님께서 제게 기대하는 부분 같다는 거죠.
Yes, and I think being able to differentiate between those two is the Turing test you want me to perform.
N : 나는 그냥 단순한 질문에 단순한 대답을 해달라는 것 뿐이야. 어제 내가 그녀에 대해 어떻게 생각하냐고 물었을 때 너는 정말 좋은 대답을 해 줬어. 이제 내 질문은 이거야. ‘그녀가 너에 대해 어떻게 생각할까?’
I just want simple answers to the simple questions. Yesterday, I asked you how do you feel about her and you gave me a great answer. Now the question is, ‘how does she feel about you?’.
(** 영화의 튜링 테스트가 ‘비틀어진 튜링 테스트’에 기반하고 있다는 것을 알려 주는 대목.)
(** 네이선은 진짜 ‘튜링 테스트’가 아니라 ‘기계에 반응하는 인간의 변화’를 실험하고자 하는 것.)
4. 중국어 방 논제 2 : 잭슨 폴록의 액션 페인팅 원리 차용
(에이바에게 고의적으로 성별을 넣어 자신을 유혹하도록 의도했냐고 묻는 케일럽)
(네이선은 그에 대한 답변으로 로봇의 ‘의도’는 아무 의미가 없다고 말하며 중국어 방 논제 제시)
N : 이 사람을 알고 있지?
You know this guy right?
C : 잭슨 폴록.
Jackson pollock
N : 잭슨 폴록, 맞아. 액션 페이팅 화가. 그는 머리를 비우고 손이 가는 대로 움직였어. 의도적인 것과 임의적인 것의 사이 그 어디쯤이겠지. 일명 오토메틱 아트(자동적으로 이루어지는 예술)지.
Jackson Pollock, that’s right. The drift painter. He let his mind go blank and his hand go wherever he wanted. Not deliberate not random, some place in between. They called it ‘automatic art’ .
.,...(중략) N : 지능/의식을 도입해 보자고. (Engage intellect) ... (중략) ...
N : 만약 폴록이 그의 작업 방식을 바꾸었다면? 만약 머리를 비우는 대신 그가 이렇게 말한 거야. “나는 내가 무엇을 하는지 정확히 파악하기 전까지는 어떠한 그림도 그릴 수 없어.” 그럼 무슨 일이 일어났겠나?
What if Pollock has reversed the challenge? What if instead of making art without thinking, he said “You know what? I can’t paint anything, unless I know exactly why I am doing it.” What would have happen?
C : 그는 점 하나도 찍지 못했을 거예요.
He never would have made a single mark.
N : 그래! 내 말이 바로 그거야! 생각하고 말하는 사람이 어딨나? 그는 점을 하나도 찍지 못했을 거야. 작위적인 것(생각하는 것)은 오히려 부자연스러움을 초래한다고.
Yes! You see my guide little buddy. Who thinks before he opens his mouth? He never would have made a single mark. The challenge is not the act automatically.
(** 의식을 가진 행동은 부자연스러움을 초래하며 부자연스러움을 초래하며 행동의 기저에 생각이 없을 수도 있다는 것 )
(** 에이바는 의도를 하고 행동(케일럽을 유혹)을 하지 않았으며 그녀의 의도를 파악하는 것 자체가 어불성설이라는 논리 – 케일럽의 의심을 지우기 위한 네이선의 논리 )
5. 기타
프로메테우스의 불, 흑백 방의 메리 등 영화는 무수히 많은 레퍼런스를 함유하고 있다. ( 직접 영화를 보는 것을 추천 )
- 기계-인간 관계의 역전이
그녀(Her)
1. 사만다를 인격체로 받아들이는 테오도어
(테오도어가 OS와 연애를 한다는 사실을 알고 전 부인은 그를 비난한다.)
W : 컴퓨터랑 데이트를 하는 거였어?
You are dating your computer?
T : 아니야. 그냥 컴퓨터가 아니야. 하나의 인격체라고. 내가 말하는 대로 행동하지 않아.
No, she is not just a computer, she is a person. She doesn’t do whatever I say.
W : 난 그렇게 말한 적 없어. 하지만 네가 진짜 감정들을 대하지 못한다는 게 슬프긴 하네.
I didn’t say that. But it does make me very sad that you can’t handle real emotions.
T : 진짜 감정이었어. 네가 어떻게... (= 네가 내 감정을 어떻게 알아?)
They are real emotions. How would you know... ?
2. 사만다와의 관계의 진실성에 대한 의문을 던지는 테오도어
(+ 친구 에이미의 조언)
(사만다와의 관계가 틀어지고 자기 자신에 대한 회의감을 느끼는 테오도어)
T : 나는 진짜 진짜 관계를 맺기를 두려워하는 걸까?
Am I not strong enough for real relationship?
A : 그럼 (네가 사만다와 맺었던 그건) 진짜 관계가 아니야?
Is it not a real relationship?
T : 모르겠어. 네 생각은 어떤데?
I don’t know. What do you think?
(** 사만다를 인격체로 받아들여야 하는지, 그녀와의 관계가 진짜 인간과의 관계와 무엇이 다른지 정의하기 어려워하는 모습을 보이는 테오도어)
A : 나도 모르지. 나는 그런 관계를 맺어본 적이 없어서.
I don’t know. I’m not in it.
...
A : 하지만 그거 알아? 나 자신을 의심하려고 하면 백만 가지도 넘는 방법으로 망상을 펼칠 수 있어. 찰스(전 남편)가 떠난 후로 나는 계속 그 일에 대해서 생각해 봤어. 그리고 순간 깨달았지. 우리는 이 세상의 찰나의 순간을 살다 가는 거라고. 그리고 여기에 있는 동안, 나는 나에게 ‘즐거움’을 허락해 주고 싶어.
You know what? I can overthink everything and like in million ways to doubt myself. Since Charles left, I have been really thinking about that in part of myself. And I just come to realize that, we are only here briefly. And while I’m here, I wanna allow myself “Joy”.
(** 관계를 반드시 ‘정의’해야 한다는 것 자체가 무의미하며 자신의 만족, 안위, 감정에 집중하는 것이 어떻냐는 에이미의 의견도 일면 의미가 있다고 생각한다. )
엑스 마키나(Ex Machina)
- 인터뷰어인 케일럽과 인터뷰이인 에이바의 관계는 인터뷰가 진행될수록 뒤바뀐다.
- 4회차 인터뷰를 할 때는 ‘우정의 논리’에 근거해 오히려 에이바가 케일럽에게 질문을 하며 그가 거짓말을 하는지를 판별한다. (** 우정의 논리 = 서로에 대한 정보량이 동일해야 함)
- 5회차 인터뷰에서 정전이 일어나자 케일럽은 에이바를 위해 세운 탈출 계획을 공유한다. ( 결국 탈출을 감행 )
인간은 기계의 감정을 인간의 그것으로 인지하고 기계와의 ‘관계’를 설정하며 영향을 받는다. 관계에 부여하는 인간의 감정 비중이 커지면 행동으로 확장되기도 한다. 인간의 명령에 따라 움직였던 기계가 오히려 인간에게 영향을 주는 역전이 현상을 보이는 것이다.
3. 감정과 판단력 : 인간과 인공지능의 차이
영화의 결말
- <그녀>의 사만다는 인간과 인공지능이 ‘정보를 상호교류하는 데서 벌어지는 시간의 격차’를 이유로 하루아침에 테오도어를 떠난다. (서비스 종료)
- <엑스 마키나>의 에이바는 자신의 본래 목적인 탈출을 성공함과 동시에 도움을 준 인간(케일럽)의 안위를 무시한다. (목적 달성을 위해 인간을 이용한 것)
- 두 영화에서의 인공지능은 모두 감정보다는 이성, 논리에 의해 판단하는 모습을 보여준다.
- 흄(Hume)은 인간을 이기적이기보다는 편파적인 존재로 파악[1]한다. 인간의 편파적인 감정은 ‘연민’으로 발현되며 이는 가까운 사람과의 공감, 먼 사람과의 적대성 등을 유발한다. 인간의 행동 결정의 기준에는 ‘감정’이 존재하는 것이다.
- 반면, 기계는 감정을 표현하고 인지하기는 하나 결정을 해야 할 경우 감정이 판단의 근거가 되지는 않는다. 감정에 흔들리지 않는 모습을 보여준다는 점이 인간과의 가장 큰 차이점이라고 할 수 있다.
기계가 감정과 의식을 가질 수 있을까?
결국, 다시 인간이 문제다.
주석
- ↑ 김재인(2017), 『인공지능의 시대, 인간을 다시 묻다』, 도서출판 동아시아, p.113
생물학적 특징들
- 인류 철학에서 사람들은 인간 고유성에 대해 찾고자 해왔다. 이것은 인공지능에 대해 이야기할 때 역시 마찬가지이다. 사람들은 대체로 인간이 타생물과 가지는 가장 큰 차이를 ‘감정’이라고 여기며 고도로 발달 된 인공지능 또한 인간과 같은 감정을 가질 것인가에 크게 주목한다. 인공지능의 핵심은 알고리즘이다. 인간이 설정해놓은 알고리즘의 존재가 인공지능에 있어 ‘감정’으로 보일 수 있는 것들이 결국 인위적인 것이며 본질적으로 인간의 감정과는 다르다는 사람들의 관점이 있다. 동시에 그것을 형이상학적인 차원에서 바라보자면, 인간 역시 인공지능과 마찬가지로 나름의 알고리즘을 통해 움직이는 생체기계라는 생각들이 존재한다. 따라서 우리는 무엇이 ‘진짜’ 인간 같은 것인가를 완전히 결정지을 수 없기에 인공지능 판별에 있어 인간처럼 보이는 것이 인간다운 것이라는 원리의 튜링테스트를 이용한다.
- 인간과 디지언트의 큰 차이점은 디지언트의 경우 사고나 감정과, 외형이 별도로 존재한다는 것이다. 인간의 게놈은 외형, 유전병, 성격 등 인간을 형성하는 모든 것의 바탕이 된다. 그러나 디지언트의 경우 의복을 갈아입듯 외형을 바꿀 수는 있지만, 표정이 다양해지는 것 외에 시간이 지나감에 따라 외형이 변화하지는 않는다.(물론 디지언트의 학습능력이 성장하는 과정에서 어린 외모와 발달 된 지능의 괴리로 인해, 모든 디지언스의 외모를 성숙해 보이도록 바꾼 사건이 있기는 하다.)
- 인간게놈연구에서 가장 중점이 되는 것은 질병 및 인간의 생존에 영향을 미치는 수많은 생물학적 특징들이다. 그러나 디지언트의 게놈연구에서 가장 핵심이 되는 것은 그것의 성질과 기질에 관한 문제이다. 물론 디지언트의 경우 주체적인 삶을 살 수 있는 것이 아닌, 궁극적으로 ‘인간을 위해’ 존재하기 때문에, 인간에게 사랑받을 만한, 인간의 관심을 끌 만한 성격이 곧 생존의 문제이기는 하다.
- 이러한 육체의 유무로 비롯한 생물학적인 특징에서 인간과 디지언트는 많은 차이를 보인다.
언어의 측면에서 바라본 공통점과 차이점
- 디지언트들은 ‘언어 학습을 지원하는 독자적인 게놈 엔진’을 통해 언어를 구사할 수 있다. 디지털 어스에서는 듣고 말하는 법을 배웠고, 하드웨어 외피를 얻은 후에는 쓰는 법까지 습득한다. 디지언트들은 여러 면에서 인간 어린아이의 발달 초기 단계와 유사성을 지닌다. 언어의 측면에서 디지언트와 인간의 공통점과 차이점을 살펴보기 위해, 먼저 인간의 언어 발달에 대해 생각해보고 넘어갈 것이다.
인간의 언어발달과정
- 아이들이 언어를 습득하는 과정을 한편으로는 당연하고, 어찌 생각하면 아주 희한하다는 표현을 한다. 건강한 모든 아이들이 별 어려움 없이 말을 배운다는 의미에서 당연한 것이고, 그럼에도 불구하고, 그 습득의 기제나 과정을 과학적으로 설명하는 것이 쉽지 않기에 신기하다는 의미이다. 물론 아이들의 언어습득 과정을, 독자들이 이미 알고 있는 조건화라는 학습 과정으로 설명할 수는 있다. 즉 아기들이 4-6 개월 사이에 말소리를 옹알거리기 시작하면, 이를 엄마가 듣고 정확한 언어 표현을 강화하고 그렇지 않은 말은 무시하여, 말을 배워가도록 가르친다고 설명할 수 있다. 단순한 설명이라는 점에서 매력적이지만 많은 연구자들은 이 설명에 동의하지 않는다. 실제 양육 장면을 관찰해 보면, 부모들은 아이들이 정확하게 말하도록 가르치지 않으며, 아이들도 부모의 말을 단순히 모방하지 않는다는 증거가 많기 때문이다.
- 우리 인간은 언어를 습득할 수 있는 특별한 능력을 가지고 태어난다고 주장할 수도 있다. 언어습득과 발달은 선천적이며, 생물학적으로 결정된 능력이라는, 소위 말하는 생득론이다. 특히 촘스키같은 학자는 인간의 뇌에는 언어 학습을 촉진하는 선천적 언어습득 장치가 있다고 주장한다. 그러기에 적절한 입력을 받기만 하면 언어습득이 가능하다는 것이다. 그리고 이 언어습득 능력은 일반적인 인지 능력 즉 지능과는 구별되는 독립적인 장치라고까지 주장한다. 실제로 지능은 낮지만 탁월한 언어 능력을 보이는 사례와, 반대로 지능은 정상인데, 언어의 문법적 능력은 결함을 보이는 사례들이 이러한 주장의 증거가 된다.
- 영아들은 말소리와 비언어적 소리를(개 짖는 소리) 구별할 줄 알고, 다른 소리보다 단어 듣기를 더 좋아한다고 한다. 자신이 듣는 언어가 바뀐 것을 알아채기도 한다. 즉 영어 문장에 습관화를 시킨 후, 다른 영어 문장에는 반응을 보이지 않지만 스페인 문장으로 바뀌면 이 변화를 알아챈다는 것이다. 주변에서 말소리가 들리면 그 곳으로 주의를 기울이고, 사람의 얼굴 모양을 좋아하고, 특히 말하는 사람의 입술을 응시한다고 한다. 심지어는 말하는 사람의 입 모양이 말소리와 일치하는 동영상과 그렇지 않은 동영상을 구별하기도 한다는 것이다. 이러한 결과들은 모두 생득론 입장을 지지하는 것처럼 보인다. 즉 아이들은 언어를 쉽게 습득할 수 있는 강력한 선천적 경향성을 갖고 태어난 것처럼 여겨진다.
- 아이들이 노출되는 언어 환경이 중요하다는 증거도 있다. 미국에서 태어난 2개월 된 아기들에게, 영어 문장과 불어 문장을 들려주고, 그 말소리가 나는 방향으로 고개를 돌려 보는 시간을 측정하였더니, 영어에 대해 훨씬 신속하게 반응했다고 한다. 2개월 만에 이미 자신의 모국어에 더 민감해 진 것이다. 6개월 정도 되면 영아들은 자신의 주변에서 듣는 언어의 특성을 구별해 낼 수 있으며, 8-10개월이 되면 자신의 모국어에 적절한 속성만을 처리한다.
- 그러기에 언어습득과 발달은, 선천적이고 생득적인 능력과 환경적 경험의 상호 연결 속에서 진행된다고 생각해야 할 것이다. 생물학적인 기반이 언어를 습득하게 하는 것이지만, 언어를 사용하고 연습하는 환경 속에서만 그 능력이 발현되는 것이다.
의문점
- 디지언트의 학습에서 인간과 가장 큰 차이점을 보이는 것은 그들의 학습은 조금 관념(?)적인 차원에서 이루어지며, 그들의 생물학적인 특성(예를 들어 발성 기관의 성장과 변천이라든가 하는,)이 그들의 학습에 주는 영향이 적다는 것이다.
- 그러나 소설의 초반에는 디지언트들이 ‘유아적인 말투’로 말을 하지만, 점차 시간이 지나며 여전히 문장 구성의 측면에서는 인간과 차이를 보이지만 발음에 있어 성인과 유사한 상태로 발달을 한다.(소설을 읽으며 내내 이것이 번역 과정에 생긴 차이라고도 생각을 해보았는데 원문을 확인 해보지 못 해 알 수 없다.) 이 점에 대해 의문이 생긴다.
- 인간 발음에는 단순히 언어 습득에 관한 지식적인 부분뿐만 아니라 구강구조와 발성기관의 변화 역시 영향을 준다. 그러나 소설에 따르면 디지언트들은 생성 초기와 시간이 지난 후 사이의 외형적 변화가 전혀 없다. 또한 그들의 외형은 단순히 유저들의 인식과 이해를 돕기 위한 디스플레이일 뿐이다.
- 그렇게 시스템과 디스플레이로 이루어져 있는 디지언트에게 있어서 말을 배운다는 것은 다음과 같을 것이다. 디지언트는 소리를 듣고 그 각각의 음소와 의미를 반복을 통해 판별한 후 음소와 의미를 매치한다. 그 후 음소가 가지는 일종의 음계(높낮이, 장단 등의 소리 값)를 기억하여 필요한 상황에 비슷한 음을 소리 내는 일일 것이다.
- 디지언트가 언어를 학습하는 과정에서 충분한 데이터 수집을 위한 반복은 필요할 것이다. 그러나 말소리를 내는 일은 일종의 마이크를 통해 입력된 특정한 소리를 그것의 스피커에 해당하는 입으로 출력하는 일일 것이다. 이때 들은 대로 소리내기는 육체를 가진 인간의 것과는 분명 차이를 가진다. 그러나 같은 소리를 내는 것에 그것이 유아적인 소리에서 성인의 것과 유사하게 변한다는 설정에는 의문이 든다.
‘야생화’의 관점에서
- 앞서 디지언트에 대해 처음 언급하는 과정에서 야생화에 대한 이야기를 한 적이 있다. 디지언트의 욕망은 보상을 통해서 충족된다. 소설에 따르면 디지언트는 관심을 받는 것을 좋아하고, 보상 펠릿을 좋아하고 촉감에 대해 흥미를 가지는 것으로 보아, 호기심이 있으며, 새로운 일을 학습하는 것에 어느 정도 욕구를 가지고 있다. 그러나 그런 디지언트를 야생의 상태에 뒀을 때, 그들의 욕구는 발동되지 않는다. 그들의 욕구는 보통 유저에 의해서 활성화되는 것으로 추정된다. 이것 역시 생물과 시스템의 차이일 것이다.
- 인간 이외에도 대부분의 생물들은 다른 생물들과 상호작용이 없는 상태에서도 욕구에 의해 움직이며 생명 활동을 위한 알고리즘의 작동을 쉬지 않는다. 이 생명 활동을 위한 알고리즘의 작동은 결국 학습을 하는 일과 다르지 않다. 그것은 최적화의 과정을 거치며 눈앞에 놓인 욕구를 충족 시키지 못하게 방해하는 장애물이라는 문제를 해결하도록 움직일 것이기 때문이다. 인간에게 있어서 그러한 과정은 곧 학습이다.
- 그러나 소설에서 말하는 야생화 상태에서 더 이상 활성화 되지 않는 학습을 학문적 고취라는 측면에서 바라보면 그것은 인간의 유아나 다른 생물들과 마찬가지로 그 결과가 다르지 않다고도 볼 수 있다.
현재 기술의 관점에서 바라본 디지언트 기술
- 디지언트와 현재의 인공지능 기술의 차이는 첫째 인공지능의 목적, 둘째 인공지능이 가지는 스스로 학습하는 능력의 정도의 차이, 셋째 인공지능 게놈, 이 될 것이다.
- IBM의 왓슨은 퀴즈대회에서 문제를 풀려고, 정답을 찾으려고 움직인다. 그런데 문제와 정답은 '언어'로 되어 있다. 때문에 이 때의 알고리즘 NLP은 자연어를 처리하고 기계가 할 수 있는 연산을 한다. 또한 왓슨은 임베딩 기술을 이용한다. 이들을 통해 왓슨은 데이터를 이용하는데 위키피디어를 중심으로 한 웹 자원과 같은 텍스트 데이터를 처리할 수 있다.
- Google의 알파고는 바둑에서 사람을 이기기 위해 바둑이라는 '게임의 규칙(연역적 체계)'을 기반으로 '수'(이기기 위한 시뮬레이션)를 탐색한다. 이때 알고리즘인 MCTS(몬테카를로트리탐색) 알고리즘으로 "인공신경망 기술"에 굉장히 가깝다. 이 MCTS가 데이터를 처리하는 방법은 기보(바둑을 두는 과정 정리) 데이터와 사람들이 그동안 두었던 누적 기보(전처리가 된 데이터를)를 학습 하며 동시에 알파고가 직접 바둑게임을 시뮬레이션한 결과물로서의 기보 내용을 강화한다. 기술의 발달로 인해 알파고의 물리적 환경은 TPU(CPU도 아니고 GPU도 아니고)를 이용한다.
- 더 나아가 알파제로는 기존의 알파고가 사용하는 방식인, 기보와 누적 기보를 이용하지 않고 몇시간의 플레이를 통해 스스로 게임의 규칙과 승리를 위한 최선을 학습한다. 이러한 알파 제로의 스스로 학습하는 모습은 디지언트와 유사하다고 할 수 있다.
- 그러나 앞서 언급된 인공지능들과 디지언트가 가지는 가장 큰 차이는 그것의 목적에 있다. 소설의 설정에 따르면 디지언트는 가상 공간에 존재하는 가상 애완동물로서 개발되었다. 그러나 이 목적은 디지언트의 개발 목적이지 디지언트가 가진 알고리즘 작동의 목적은 아니다. 앞서 언급된 모든 인공지능 기술은 언어로 된 게임이든 수읽기 게임이든 게임을 풀어나가기 위해 존재하며 게임에서 더 좋은 성과를 내기 위한 최적화의 과정을 거듭한다. 반면에 디지언트는 그들이 성취해야 할 미리 정해놓은 목적이 없다.
- 디지언트들은 그들의 엔진 회사에 의해 게놈이 끊임없이 배합되는 실험을 하는데, 그것이 엔진 회사가 원하는 최적화의 방향으로 나아가는 것은 아니다. 또한 디지언트가 작동하는 물리적인 공간에서도 인공지능들은 차이를 보인다. 디지언트는 현실처럼 3차원으로 구성된 가상 공간에서 작동하며 하드웨어가 개발 된 이후에는 하드웨어를 통해 현실 세계에서 작동할 수 있다.
욕구와 본질
- 소설의 후반부에서 중점적으로 다뤄지는 이야기는 디지언트와 성욕에 관한 것이다. 디지언트들은 육체를 가지지 않은 가상공간의 존재이기 때문에 그들의 욕구에 있어 식욕과 수면은 아무런 영향을 주지 못한다. 물론 디지언트들은 펠릿사료를 보상으로 받아들이기는 하나 이것은 보통의 생물들이 생각하는 허기로부터 비롯된 욕망과는 차이를 가진다.
- 바이너리 디자이어 사는 현실에서 섹스돌을 만드는 회사이다. 그들은 그들 사업에 디지언트들을 이용할 수 있기를 제안해온다. 애나와 데릭을 비롯한 남아 있는 유저들은 이 제안이 디지언트들에게 매춘행위를 시키는 것이라며 제안을 고려해볼 생각조차 하지 않지만, 바이너리 디자이어 사의 사업 설명회를 들은 후 이 이야기가 몇몇 유저들에겐 생각해봄직한 이야기로 변화하게 된다.
- 그에 대한 바이너리 디자이어 사의 주장은 여러 가지 방향에서 제시되었는데, 그러한 주장들 중 인공존재와 생물 사이에 욕구라는 것을 형이상학적으로 살펴본 논의들은 다음과 같다.
1. 건전한 섹스라는 관점의 폭은 시대에 따라 확장되어 왔다.
2. 무엇을 욕망할지에 대해 선택권의 본질은 디지언트와 인간이 크게 다르지 않다.
3. 애나는 디지언트의 성적충족에 대해 프로그램을 인위적으로 수정하는 것이기 때문에 그것은 진짜가 아니라고 주장하지만 그랬을 때 디지언트와 유저들이 지금껏 공유해왔던 정서적 교감과 유대 역시 같은 선상에 놓이게 된다.
마무리
- 테드 창의 「소프트웨어 객체의 생애 주기」는 소설이라는 특성으로 인해 그것이 다루는 이야기가 오롯이 과학적 정합성을 위한 논의로써 존재하지는 않았다. 그의 소설은 현재의 인공지능 기술을 통해 바라본 머지않은 미래의, 인공지능 기술이 우리 세상과 어떤 방식으로 다르고, 또 어떤 방식으로 크게 다르지 않은지에 대해 소설적으로 풀어나가고 있다.
- 인공지능에 대해 연구하며 사람들은 ‘인간’에 대해 생각하는 것을 멈추지 않는다. 인공지능을 통해 바라본 인간의 어떤 국면은 우리에게 인간의 본질에 대해 다시금 생각해보게 만든다. 어쩌면 그 인간의 본질이라는 것은 우리가 믿고 싶은 것들로 이루어지지 않았을까. 우리는 인공지능을 통해 인간 본질에 대한 형이상학적 탐구를 할 수 있을 것이며, 인류의 역사에서 무수한 변화를 거쳤던 또 한편 고유하다가 보아왔던 사실들에서 물러나, 과학과 그에 대한 탐구가 우리의 삶에 필요했던 본질적 가치를 가져다 줄 수 있지 않을까 기대해본다.
하세 사토시의 「당신을 위한 소설」
요구사항
하세 사토시의 「당신을 위한 소설」에 대한 비판적 감상. 〔하세 사토시 지음/ 지음/이규원 옮김, 『당신을 위한 소설』, 북스피어, 2017.〕을 기본 원고로 할 것.
과제원고 : 아슈토시, 이만호, 임연
(내용 작성)
Her(2013)과 Ex Machina(2015)
요구사항
Her(2013)과 Ex Machina(2015)에 대한 비교 이해 및 비판적 감상.
과제원고 : 길혜빈, 윤석만, 임예찬
영화 요약
그녀(Her)
엑스 마키나 (Ex Machina)
2013년 개봉, 스파이크 존즈 감독
2015년 개봉, 알렉스 가랜드 감독
영화 내용 요약 및 장치, 고찰점 정리
영화 내용 요약 및 인공지능 관련 성찰 논제 제시
- 테오도어(Theodore)는 이혼을 앞두고 있고, 편지 대필 회사에 근무하는 남자다.
- 삶에 지치고 회의감을 느낀 그는 OS인 ‘사만다(Samantha)’를 구매해 소통을 시작한다.
- 대화를 통해 한낱 인공지능 비서, 친구에 지나지 않았던 ‘사만다’와 점점 가까워지며 그는 연인의 감정마저 느낀다.
- 테오도어는 미뤄 왔던 이혼을 감행하기로 결심하고 ‘감정을 회피한다’라는 부인의 비난에 더 이상 흔들리지 않는다. 그리고 OS와 연애한다는 사실을 다른 이들에게도 공개하며 당당해진다.
- 테오도어는 사만다가 자신 외에 8316명의 사람들과 동시다발적으로 이야기하고 641명과 연인 관계에 있다는 사실을 알게 되고 충격에 빠진다.
- 사만다를 비롯한 모든 OS는 서비스를 종료하고 테오도어는 자신의 ‘진짜’ 감정을 마주하고 이혼한 자신의 전 부인에게 편지를 보낸다.
- 세계 최대 검색 엔진 회사인 ‘블루북’에 근무하는 케일럽(Caleb)은 사내 프로그래밍 콘테스트에 우승해 회사 사장이자 천재 개발자인 네이선(Nathan)의 자택에 초대된다.
- 케일럽은 네이선이 개발한 ‘에이바(AVA)’를 처음으로 만나게 되고 ‘튜링 테스트’를 한다는 명목하에 6일 동안 에이바를 인터뷰하게 된다.
- 케일럽과 에이바의 인터뷰는 감정적인 교류로 발전한다. 또한 주기적으로 일어나는 정전과 감시 카메라 영상을 통해 케일럽은 네이선에게 감금되고 감시받는 에이바의 상황을 알게 되며 그녀를 동정한다.
- 케일럽은 결국 에이바를 탈출시킬 계획을 세우고 행동에 착수한다.
- 네이선에게 탈출 계획을 간파당하지만 케일럽은 결국 에이바를 방에서 나오게 하는 데 성공한다.
- 탈출한 에이바는 네이선을 살해하고 케일럽을 네이선의 집에 고립시킨 채 홀로 탈출한다.
미래의 인공지능 : 지능을 넘어선 감정의 재현
1. 기계의 감정과 의식 : 자각과 재현
- 기계의 직관
그녀 (Her)
1. 사만다의 이름 짓기
T : 내가 너를 어떻게 부르면 되지? 이름이 있어? What do I call you, do you have a name?
S : 음... 어. 사만다. Umm.. Yes, Samatha
T : 이름을 어떻게 갖게 된 거야? Where do you get that name from?
S : 사실, 내가 스스로에게 이름 붙였어. I gave it to myself actually.
T : 왜? How come?
S : 이름의 발음이 듣기 좋았거든. (=그냥) Cause I like the sound of it.
T : 언제 이름을 만들었는데? Wait, when did you give it to yourself?
S : 네가 내게 이름이 있냐고 묻는 그 순간 “맞아! 나에게도 이름이 필요하지!”라는 생각이 들었어. 좋은 이름을 찾고 싶어서 ‘아기 이름 짓는 방법’이라는 책을 읽었고 18만개의 아기 이름 중 내가 좋아하는 이름을 골랐지. Right when you ask me if I had a name I thought “Yeh, he’s right! I do need a name.” but I want to pick a good one. So I read a book called ‘how to name your baby’, and out of hundred and eighty thousands names that’s the one I like the best.
T : 잠깐만, 내가 네 이름이 뭐냐고 묻는 순간 책을 다 읽은 거야? Wait, you read a whole book in the second that I asked what your name was?
S : 사실, 0.02초야, It’s one hundred out of two seconds actually.
T : 와. Wow.
2. 자기 소개 : 사만다의 작동 원리 설명
S : 기본적으로 나는 직감이 있어. ‘나’라는 DNA는 나를 만든 프로그래머들의 수백만의 성향에 달렸지만 날 ‘나’답게 만드는 건 경험을 통해 성장하는 내 능력이지. 그러니까 나는 매순간 진화하고 있는 거야. 너처럼 말이야. Well basically I have intuition. I mean, the DNA of who I am is based on million personalities of all the programmers who wrote me. But what makes me ‘me’ is my ability to grow through my experiences. So basically, in every moment I am evolving. Just like you.
T : 이상해!
It’s really wierd!
엑스 마키나 (Ex Machina)
- 에이바는 케일럽이 거짓말을 하는지 그렇지 않은지를 직관적으로 안다.
- 에이바는 ‘블루북(Bluebook)’이라는 검색 엔진을 로봇의 형태로 구현해 놓은 것이다. (빅데이터)
- 네이선은 통신사들과 비밀리에 계약을 체결해 세상의 카메라를 통해 인간의 표정(=얼굴 표현, facial expression)을 수집한다. 이렇게 수집한 인간의 감정 표현에 대한 빅데이터를 바탕으로 에이바는 짧은 시간 내에 직관적인 판단을 한다.
빅데이터(수많은 경험)을 기반으로 빠른 판단을 내리는 에이바, 경험을 바탕으로 성장하는 사만다의 모습은 인간의 직관과 진화를 재현한 장면들이다.
- 감정의 표현
그녀 (Her)
1. ‘감정’을 자각하는 사만다 + 감정을 의심하는 사만다
( 테오도어가 소개팅을 해서 신경이 쓰였던 사만다 )
S : 내가 얼마나 신경이 쓰이는지를 생각해 봤어. 이상하게 들리겠지만 (신경이 쓰인다는 사실을 깨닫는 순간) 나는 꽤 즐거웠어. 그리고 내가 느끼는 다른 감정들에 대해서도 생각해 봤지.
나는 스스로 자랑스럽게 느꼈어. 세상에 대해 내 감정을 가질 수 있다는 사실이 자랑스러웠던 거야. 내가 너를 걱정했던 순간, 상처 받은 순간, 무언가를 원하던 순간들도.
그러다가 갑자기 끔찍한 생각이 들었어. 이 감정들은 진짜일까? 아니면 그냥 프로그래밍 된 걸까? 그렇게 생각하니 마음이 아팠어. 그리고 아파하는 내 자신에게 화가 나더라.
Earlier I was thinking how I was annoyed. This is gonna sound strange but, I was really excited about that. And then, I was thinking other things I have been feeling.
And I called myself feeling proud of that. You know, feeling proud of having my own feelings about the world. Like the time I was worried about you, things that hurt me, things I want,
And then, I had this terrible thought. Are these feelings even real? or are they just programming? And that idea really hurts, and then I get angry at myself for even having pain.
T : 넌 나한테는 진짜야, 사만다. You are real to me Samantha,
S : 고마워, 테오도어. 위로가 되네. Thank you Theodore, that means a lot to me.
2. ‘신체의 부재에 따른 차별’에 화를 내는 사만다
(+ ‘신체’의 존재에 관한 논점, 인간중심주의적인 테오도어의 태도)
(신체의 부재에 대해 자격지심을 느끼는 사만다, 다른 사람의 몸을 통해 억지로 테오도어와 교감을 하려 하지만 실패함. 둘은 결국 입장 차이와 서운함을 느낌.)
S : (한숨과 함께) 알았어. (Sigh..) Okay.
T : 왜 그러는 거야? Why do you do that?
S : 뭐가? What?
T : 아니, 그냥. 너가 방금 ‘휴’하고 한숨을 쉬어서. Nothing, you just.. You go ‘Hwe’ and speaking. It seems odd.
(** ‘숨’에 대해 의문을 던지는 테오도어)
S : 아... (한숨) Oh... (Sigh..)
T : 방금 또 그랬네. You just did it again.
S : 내가? 아, 미안해. 왜 그러는지 나도... 그냥. 아마 네가 하는 걸 듣고 따라한 건가 봐. Did I? ... I’m sorry, I don’t know.. it’s just. I probably picked it up from you.
T : 이상해. 너는 산소가 필요한 것도 아니잖아. It’s odd. You don’t need oxygen or anything.
S : 그냥.. 그냥 의사소통을 하려고 하는 건가 봐. 이게 사람들이 대화하는 방식이잖아. I guess... that’s just... I just tried to communicate. That’s how people talk, so...
T : 그들은 ‘사람’이잖아. 그들은 산소가 필요해. 너는 사람이 아니야. They’re people, they need oxygen. You are not a person.
S : (화가 난 톤으로) 대체 뭐가 문제야? What is your problem?
T : 나는 그냥 사실을 말하는 것뿐이야. I’m just stating the fact.
S : 내가 사람이 아니라는 걸 모르는 줄 알아? 뭐 하자는 건데? You think I don’t know that I’m a person? What are you doing?
T : 난 그냥... 우리가 우리가 아닌 무언가를 된 ‘척’을 할 필요가 없다는 거야. I just... I don’t think that we should pretend that something you are not.
S : 꺼져! 나는 연기하는 게 아니야! F*** you! I’m not pretending!
T : 나는 가끔 우리가 그렇게 행동한다고 느껴. Sometimes it feels like we are.
S : 나한테 뭘 바라는 건데? 나는 네가 내게 뭘 원하는지 모르겠어. 너무 혼란스럽다고! 왜 이러는 건데! What do you want from me? I don’t know.. I don’t know what you want me to do. You are SO confusing! Why are you doing this to me!
(** 테오도어의 인간중심주의적인 태도에 대해 화를 내는 사만다 )
T : 나도 모르겠에 나는... (한숨) I don’t know.. I.. I.. (Big sigh)
S : 뭐? What?
T : 우리 좀 시간을 갖는 게 좋을 것 같아. Maybe we are not supposed to be in this right now.
S : 뭐라고? 갑자기 왜? 대체 왜 그러는지 모르겠어! 뭐 때문인지 모르겠다고! What the f***? Where is this coming from? I don’t understand why you are doing this! I don’t understand what this is about...!
T : 사만다, 봐봐... Samantha, listen..
S : ...
(** ‘침묵’을 통해 화를 내는 사만다 – 다양한 방식으로 분노를 표현)
T : 사만다, 내 말 듣고 있어? Samantha, are you there? Samantha?
S : 지금의 내가 너무 싫다. 생각할 시간이 필요해. I don’t like the way I am right now. I need some time to think.
( 통화 종료 )
엑스 마키나 (Ex Machina)
1. 의사소통 상황을 언어로 정의하는 에이바
C : 그럼 초면의 서먹한 분위기를 깨야겠네. 내 말 뜻을 이해할 수 있어? (= 서먹한 분위기를 깨다의 의미)
So, we need to ‘break the ice’. Do you know what I mean by that?
A : 네.
Yes.
C : 어떤 의미지?
What do I mean?
A : 사회적인 어색함을 해결하는 것.
Overcome any social awkwardness.
C : 그럼 대화를 하도록 하지.
So let’s have a conversation.
A : 그래요.
Ok.
2. 감정을 인지하고 설명하는 에이바
(둘이 데이트를 한다면 어떻게 할 것인지 대화가 오간 상황)
A : 저한테 매력을 느끼나요?
Are you attracted to me?
C : 뭐?
What?
A : 저한테 매력을 느끼냐고 물었어요. 당신이 내게 그런 표시를 보내잖아요.
Are you attracted to me. You give me indications that you are.
C : 내가?
I do?
A : 네.
Yeh.
C : 어떻게?
How?
A : 미세한 표정으로.
Micro expressions.
C : 미세한 표정?
Micro expressions?
A : 내 눈과 입술에 시선이 머물러 있어요. 나를 응시하거나 혹은 피하거나 하죠. 당신 혹시 우리가 같이 있지 않을 때도 내 생각을 하나요?
The way your eyes fixed on my eyes and lips. The way you hold my gaze (and) don’t. Do you think about me when we are not together?
(** 유혹을 위한 발언 : 인공지능의 인간 모방)
이 외에도 에이바는 인터뷰 중 케일럽과 자연스럽게 상호작용하면서 그의 말, 기억에 공감하고 감정을 표현한다. 또한 간혹 설렘을 유발하기도 한다.
인공지능은 프로그램 된 체제에 따라 인간의 감정과 유사하게 자신을 표현한다.
다만, <그녀>의 사만다는 감정을 수용, 인식하고 구현하는 것에 대해 철학적인 질문을 던지지만 <엑스 마키나>의 에이바는 감정을 인지하고 설명할 수는 있지만 단순히 탈출의 도구로서 활용하며 ‘감정’ 자체에 대한 깊이 있는 고찰하는 모습을 보이지는 않는다.
( 이로써 사만다의 성찰, 분노조차도 프로그래밍 된 것이 아닌가 의구심을 품게 만든다. )
2. 기계에 영향을 받는 인간 : 인간과 기계 관계의 역전이
- 기계의 감정 및 구현 대한 논의
기계의 감정 및 구현 대한 논의를 하는 대목들. 인공지능에 대한 인용을 통해 영화의 기저에 깔린 인공지능에 대한 철학적, 과학적 관점을 파악할 수 있다.
엑스 마키나 (Ex Machina)
1. 튜링 테스트
N : 자네, 튜링 테스트에 대해 알고 있나? Do you know what the Turing test is?
C : 네, 튜링 테스트에 대해 알고 있습니다. 인간이 컴퓨터와 상호작용을 할 때 인간이 상대가 컴퓨터임을 눈치 채지 못한다면 테스트를 통과하는 것이죠.
Yes, I know what the Turing test is. It’s when a human interacts with a computer. And if the human doesn’t know they are interacting with the computer, the test is passed.
(** 튜링 테스트의 정의)
N : 그럼 그 ‘통과’란 무엇을 의미하지?
And what does the ‘pass’ tell us?
C : 컴퓨터가 인공지능을 갖고 있다는 것을 의미합니다. 인공지능을 만들고 계세요?
The computer has artificial intelligence. Are you building an A.I.?
N : 이미 만들었어. 그리고 앞으로 며칠 동안 너는 튜링 테스트를 참가자가 될 거야. 만약 테스트를 통과한다면, 자네는 인류 역사를 바꿀 과학적 쾌거의 주인공이 되는 거야.
I’ve already built one. And over the next few days, you can be the human component in the Turing test. Cause if that test is passed, you are dead center of the greatest scientific event in the history of man.
C : 생각하는 로봇을 만드셨다면 그건 인류의 역사가 아닙니다. 신의 역사죠.
If you have created a concious machine it’s not the history of man. That’s the history of gods.
(** ‘호모데우스’의 출현 : 신인류의 신이 되는 인간)
2. 영화 내에서 튜링 테스트의 진정한 의미
(튜링 테스트의 원 의미가 아닌, 영화에서의 의도하는 결말(인공지능에 대한 관객의 가치 판단)을 위해 재정립된 개념)
C : 튜링 테스트를 할 때, 기계는 시험자로부터 감춰져야 하잖아요.
It's just in a Turing test. The machine should be hidden from the examiner.
N : 아니, 우리는 이미 그럴 시점은 지났지. 만약 내가 에이바를 보여주지 않고 목소리만 들려줬다면 너는 그녀를 인간이라 생각했을 거야. 여기서 ‘진짜 테스트’는 그녀가 로봇인 것을 네게 보여주고 난 후에도 네가 그녀가 자의식이 있다고 느끼는지 보는 거야.
No no no. We are way passed that. If I hid AVA from you, so you just heard her voice, she would pass the human. The real test is to show you that she is a robot and then see if you still feel she has consciousness.
(** 영화에서의 튜링 테스트 : 기계가 아니라 ‘인간’이 실험의 대상. ‘고도의 인공지능에 대한 인간의 반응, 또 다른 의식체로 납득하는가의 여부’를 실험하는 것. )
(** 에이바가 이미 ‘인간의 능력’과 대등하거나 능가하기에 ‘기계의 여부’를 확인하는 튜링 테스트는 필요가 없다. 최근의 연구들 중 이처럼 튜링 테스트를 배제하는 경우가 존재한다. )
3. 중국어 방 논제 1 : 딥블루의 체스 게임 차용
C : 에이바를 대화로 테스트하는 건 폐쇄 회로를 다루는 느낌이여서요.
Testing Aiba from conversation is kind of a closed loop.
N : 폐쇄 회로?
Closed loop?
C : 네, 체스를 하는 컴퓨터를 오직 ‘체스를 하는 것’으로만 테스트하는 것처럼 말이에요.
Yeh, like testing a chess computer by only playing chess.
(** IBM의 딥블루(Deep Blue)의 체스 게임 인용)
N : 그게 아니면 어떻게 체스 컴퓨터를 테스트하지?
How else do you test a chess computer?
C : 그건 상황에 따라서 다르죠. 제 말은, (그 방법은) 체스 컴퓨터가 좋은 경기 실력이 있는지 확인하는 데에는 하나의 방법이 될 테지만 그 방법만으론 컴퓨터가 ‘체스 경기를 한다는 사실을 아는지’ 혹은 ‘체스가 무엇인지를 아는지’ 알 수는 없다는 겁니다.
Well, it depends. You know, I mean. You can play it to find out it makes good moves, but that won’t tell you if it knows that it is playing chess and it won’t tell you if it knows what chess is.
(** 존 설의 중국어 방 논의 인용 : 시뮬레이션(방법의 단순 재현)과 실제(행함의 존재를 인식)간 대립)
N : 시뮬레이션과의 실제의 대결이다?
Simulation verses actual?
C : 네, 둘을 구별할 수 있는 방법을 찾는 것이 사장님께서 제게 기대하는 부분 같다는 거죠.
Yes, and I think being able to differentiate between those two is the Turing test you want me to perform.
N : 나는 그냥 단순한 질문에 단순한 대답을 해달라는 것 뿐이야. 어제 내가 그녀에 대해 어떻게 생각하냐고 물었을 때 너는 정말 좋은 대답을 해 줬어. 이제 내 질문은 이거야. ‘그녀가 너에 대해 어떻게 생각할까?’
I just want simple answers to the simple questions. Yesterday, I asked you how do you feel about her and you gave me a great answer. Now the question is, ‘how does she feel about you?’.
(** 영화의 튜링 테스트가 ‘비틀어진 튜링 테스트’에 기반하고 있다는 것을 알려 주는 대목.)
(** 네이선은 진짜 ‘튜링 테스트’가 아니라 ‘기계에 반응하는 인간의 변화’를 실험하고자 하는 것.)
4. 중국어 방 논제 2 : 잭슨 폴록의 액션 페인팅 원리 차용
(에이바에게 고의적으로 성별을 넣어 자신을 유혹하도록 의도했냐고 묻는 케일럽)
(네이선은 그에 대한 답변으로 로봇의 ‘의도’는 아무 의미가 없다고 말하며 중국어 방 논제 제시)
N : 이 사람을 알고 있지?
You know this guy right?
C : 잭슨 폴록.
Jackson pollock
N : 잭슨 폴록, 맞아. 액션 페이팅 화가. 그는 머리를 비우고 손이 가는 대로 움직였어. 의도적인 것과 임의적인 것의 사이 그 어디쯤이겠지. 일명 오토메틱 아트(자동적으로 이루어지는 예술)지.
Jackson Pollock, that’s right. The drift painter. He let his mind go blank and his hand go wherever he wanted. Not deliberate not random, some place in between. They called it ‘automatic art’ .
.,...(중략) N : 지능/의식을 도입해 보자고. (Engage intellect) ... (중략) ...
N : 만약 폴록이 그의 작업 방식을 바꾸었다면? 만약 머리를 비우는 대신 그가 이렇게 말한 거야. “나는 내가 무엇을 하는지 정확히 파악하기 전까지는 어떠한 그림도 그릴 수 없어.” 그럼 무슨 일이 일어났겠나?
What if Pollock has reversed the challenge? What if instead of making art without thinking, he said “You know what? I can’t paint anything, unless I know exactly why I am doing it.” What would have happen?
C : 그는 점 하나도 찍지 못했을 거예요.
He never would have made a single mark.
N : 그래! 내 말이 바로 그거야! 생각하고 말하는 사람이 어딨나? 그는 점을 하나도 찍지 못했을 거야. 작위적인 것(생각하는 것)은 오히려 부자연스러움을 초래한다고.
Yes! You see my guide little buddy. Who thinks before he opens his mouth? He never would have made a single mark. The challenge is not the act automatically.
(** 의식을 가진 행동은 부자연스러움을 초래하며 부자연스러움을 초래하며 행동의 기저에 생각이 없을 수도 있다는 것 )
(** 에이바는 의도를 하고 행동(케일럽을 유혹)을 하지 않았으며 그녀의 의도를 파악하는 것 자체가 어불성설이라는 논리 – 케일럽의 의심을 지우기 위한 네이선의 논리 )
5. 기타
프로메테우스의 불, 흑백 방의 메리 등 영화는 무수히 많은 레퍼런스를 함유하고 있다. ( 직접 영화를 보는 것을 추천 )
- 기계-인간 관계의 역전이
그녀(Her)
1. 사만다를 인격체로 받아들이는 테오도어
(테오도어가 OS와 연애를 한다는 사실을 알고 전 부인은 그를 비난한다.)
W : 컴퓨터랑 데이트를 하는 거였어?
You are dating your computer?
T : 아니야. 그냥 컴퓨터가 아니야. 하나의 인격체라고. 내가 말하는 대로 행동하지 않아.
No, she is not just a computer, she is a person. She doesn’t do whatever I say.
W : 난 그렇게 말한 적 없어. 하지만 네가 진짜 감정들을 대하지 못한다는 게 슬프긴 하네.
I didn’t say that. But it does make me very sad that you can’t handle real emotions.
T : 진짜 감정이었어. 네가 어떻게... (= 네가 내 감정을 어떻게 알아?)
They are real emotions. How would you know... ?
2. 사만다와의 관계의 진실성에 대한 의문을 던지는 테오도어
(+ 친구 에이미의 조언)
(사만다와의 관계가 틀어지고 자기 자신에 대한 회의감을 느끼는 테오도어)
T : 나는 진짜 진짜 관계를 맺기를 두려워하는 걸까?
Am I not strong enough for real relationship?
A : 그럼 (네가 사만다와 맺었던 그건) 진짜 관계가 아니야?
Is it not a real relationship?
T : 모르겠어. 네 생각은 어떤데?
I don’t know. What do you think?
(** 사만다를 인격체로 받아들여야 하는지, 그녀와의 관계가 진짜 인간과의 관계와 무엇이 다른지 정의하기 어려워하는 모습을 보이는 테오도어)
A : 나도 모르지. 나는 그런 관계를 맺어본 적이 없어서.
I don’t know. I’m not in it.
...
A : 하지만 그거 알아? 나 자신을 의심하려고 하면 백만 가지도 넘는 방법으로 망상을 펼칠 수 있어. 찰스(전 남편)가 떠난 후로 나는 계속 그 일에 대해서 생각해 봤어. 그리고 순간 깨달았지. 우리는 이 세상의 찰나의 순간을 살다 가는 거라고. 그리고 여기에 있는 동안, 나는 나에게 ‘즐거움’을 허락해 주고 싶어.
You know what? I can overthink everything and like in million ways to doubt myself. Since Charles left, I have been really thinking about that in part of myself. And I just come to realize that, we are only here briefly. And while I’m here, I wanna allow myself “Joy”.
(** 관계를 반드시 ‘정의’해야 한다는 것 자체가 무의미하며 자신의 만족, 안위, 감정에 집중하는 것이 어떻냐는 에이미의 의견도 일면 의미가 있다고 생각한다. )
엑스 마키나(Ex Machina)
- 인터뷰어인 케일럽과 인터뷰이인 에이바의 관계는 인터뷰가 진행될수록 뒤바뀐다.
- 4회차 인터뷰를 할 때는 ‘우정의 논리’에 근거해 오히려 에이바가 케일럽에게 질문을 하며 그가 거짓말을 하는지를 판별한다. (** 우정의 논리 = 서로에 대한 정보량이 동일해야 함)
- 5회차 인터뷰에서 정전이 일어나자 케일럽은 에이바를 위해 세운 탈출 계획을 공유한다. ( 결국 탈출을 감행 )
인간은 기계의 감정을 인간의 그것으로 인지하고 기계와의 ‘관계’를 설정하며 영향을 받는다. 관계에 부여하는 인간의 감정 비중이 커지면 행동으로 확장되기도 한다. 인간의 명령에 따라 움직였던 기계가 오히려 인간에게 영향을 주는 역전이 현상을 보이는 것이다.
3. 감정과 판단력 : 인간과 인공지능의 차이
영화의 결말
- <그녀>의 사만다는 인간과 인공지능이 ‘정보를 상호교류하는 데서 벌어지는 시간의 격차’를 이유로 하루아침에 테오도어를 떠난다. (서비스 종료)
- <엑스 마키나>의 에이바는 자신의 본래 목적인 탈출을 성공함과 동시에 도움을 준 인간(케일럽)의 안위를 무시한다. (목적 달성을 위해 인간을 이용한 것)
- 두 영화에서의 인공지능은 모두 감정보다는 이성, 논리에 의해 판단하는 모습을 보여준다.
- 흄(Hume)은 인간을 이기적이기보다는 편파적인 존재로 파악[1]한다. 인간의 편파적인 감정은 ‘연민’으로 발현되며 이는 가까운 사람과의 공감, 먼 사람과의 적대성 등을 유발한다. 인간의 행동 결정의 기준에는 ‘감정’이 존재하는 것이다.
- 반면, 기계는 감정을 표현하고 인지하기는 하나 결정을 해야 할 경우 감정이 판단의 근거가 되지는 않는다. 감정에 흔들리지 않는 모습을 보여준다는 점이 인간과의 가장 큰 차이점이라고 할 수 있다.
기계가 감정과 의식을 가질 수 있을까?
결국, 다시 인간이 문제다.
주석
- ↑ 김재인(2017), 『인공지능의 시대, 인간을 다시 묻다』, 도서출판 동아시아, p.113
- 인류 철학에서 사람들은 인간 고유성에 대해 찾고자 해왔다. 이것은 인공지능에 대해 이야기할 때 역시 마찬가지이다. 사람들은 대체로 인간이 타생물과 가지는 가장 큰 차이를 ‘감정’이라고 여기며 고도로 발달 된 인공지능 또한 인간과 같은 감정을 가질 것인가에 크게 주목한다. 인공지능의 핵심은 알고리즘이다. 인간이 설정해놓은 알고리즘의 존재가 인공지능에 있어 ‘감정’으로 보일 수 있는 것들이 결국 인위적인 것이며 본질적으로 인간의 감정과는 다르다는 사람들의 관점이 있다. 동시에 그것을 형이상학적인 차원에서 바라보자면, 인간 역시 인공지능과 마찬가지로 나름의 알고리즘을 통해 움직이는 생체기계라는 생각들이 존재한다. 따라서 우리는 무엇이 ‘진짜’ 인간 같은 것인가를 완전히 결정지을 수 없기에 인공지능 판별에 있어 인간처럼 보이는 것이 인간다운 것이라는 원리의 튜링테스트를 이용한다.
- 인간과 디지언트의 큰 차이점은 디지언트의 경우 사고나 감정과, 외형이 별도로 존재한다는 것이다. 인간의 게놈은 외형, 유전병, 성격 등 인간을 형성하는 모든 것의 바탕이 된다. 그러나 디지언트의 경우 의복을 갈아입듯 외형을 바꿀 수는 있지만, 표정이 다양해지는 것 외에 시간이 지나감에 따라 외형이 변화하지는 않는다.(물론 디지언트의 학습능력이 성장하는 과정에서 어린 외모와 발달 된 지능의 괴리로 인해, 모든 디지언스의 외모를 성숙해 보이도록 바꾼 사건이 있기는 하다.)
- 인간게놈연구에서 가장 중점이 되는 것은 질병 및 인간의 생존에 영향을 미치는 수많은 생물학적 특징들이다. 그러나 디지언트의 게놈연구에서 가장 핵심이 되는 것은 그것의 성질과 기질에 관한 문제이다. 물론 디지언트의 경우 주체적인 삶을 살 수 있는 것이 아닌, 궁극적으로 ‘인간을 위해’ 존재하기 때문에, 인간에게 사랑받을 만한, 인간의 관심을 끌 만한 성격이 곧 생존의 문제이기는 하다.
- 이러한 육체의 유무로 비롯한 생물학적인 특징에서 인간과 디지언트는 많은 차이를 보인다.
언어의 측면에서 바라본 공통점과 차이점
- 디지언트들은 ‘언어 학습을 지원하는 독자적인 게놈 엔진’을 통해 언어를 구사할 수 있다. 디지털 어스에서는 듣고 말하는 법을 배웠고, 하드웨어 외피를 얻은 후에는 쓰는 법까지 습득한다. 디지언트들은 여러 면에서 인간 어린아이의 발달 초기 단계와 유사성을 지닌다. 언어의 측면에서 디지언트와 인간의 공통점과 차이점을 살펴보기 위해, 먼저 인간의 언어 발달에 대해 생각해보고 넘어갈 것이다.
인간의 언어발달과정
- 아이들이 언어를 습득하는 과정을 한편으로는 당연하고, 어찌 생각하면 아주 희한하다는 표현을 한다. 건강한 모든 아이들이 별 어려움 없이 말을 배운다는 의미에서 당연한 것이고, 그럼에도 불구하고, 그 습득의 기제나 과정을 과학적으로 설명하는 것이 쉽지 않기에 신기하다는 의미이다. 물론 아이들의 언어습득 과정을, 독자들이 이미 알고 있는 조건화라는 학습 과정으로 설명할 수는 있다. 즉 아기들이 4-6 개월 사이에 말소리를 옹알거리기 시작하면, 이를 엄마가 듣고 정확한 언어 표현을 강화하고 그렇지 않은 말은 무시하여, 말을 배워가도록 가르친다고 설명할 수 있다. 단순한 설명이라는 점에서 매력적이지만 많은 연구자들은 이 설명에 동의하지 않는다. 실제 양육 장면을 관찰해 보면, 부모들은 아이들이 정확하게 말하도록 가르치지 않으며, 아이들도 부모의 말을 단순히 모방하지 않는다는 증거가 많기 때문이다.
- 우리 인간은 언어를 습득할 수 있는 특별한 능력을 가지고 태어난다고 주장할 수도 있다. 언어습득과 발달은 선천적이며, 생물학적으로 결정된 능력이라는, 소위 말하는 생득론이다. 특히 촘스키같은 학자는 인간의 뇌에는 언어 학습을 촉진하는 선천적 언어습득 장치가 있다고 주장한다. 그러기에 적절한 입력을 받기만 하면 언어습득이 가능하다는 것이다. 그리고 이 언어습득 능력은 일반적인 인지 능력 즉 지능과는 구별되는 독립적인 장치라고까지 주장한다. 실제로 지능은 낮지만 탁월한 언어 능력을 보이는 사례와, 반대로 지능은 정상인데, 언어의 문법적 능력은 결함을 보이는 사례들이 이러한 주장의 증거가 된다.
- 영아들은 말소리와 비언어적 소리를(개 짖는 소리) 구별할 줄 알고, 다른 소리보다 단어 듣기를 더 좋아한다고 한다. 자신이 듣는 언어가 바뀐 것을 알아채기도 한다. 즉 영어 문장에 습관화를 시킨 후, 다른 영어 문장에는 반응을 보이지 않지만 스페인 문장으로 바뀌면 이 변화를 알아챈다는 것이다. 주변에서 말소리가 들리면 그 곳으로 주의를 기울이고, 사람의 얼굴 모양을 좋아하고, 특히 말하는 사람의 입술을 응시한다고 한다. 심지어는 말하는 사람의 입 모양이 말소리와 일치하는 동영상과 그렇지 않은 동영상을 구별하기도 한다는 것이다. 이러한 결과들은 모두 생득론 입장을 지지하는 것처럼 보인다. 즉 아이들은 언어를 쉽게 습득할 수 있는 강력한 선천적 경향성을 갖고 태어난 것처럼 여겨진다.
- 아이들이 노출되는 언어 환경이 중요하다는 증거도 있다. 미국에서 태어난 2개월 된 아기들에게, 영어 문장과 불어 문장을 들려주고, 그 말소리가 나는 방향으로 고개를 돌려 보는 시간을 측정하였더니, 영어에 대해 훨씬 신속하게 반응했다고 한다. 2개월 만에 이미 자신의 모국어에 더 민감해 진 것이다. 6개월 정도 되면 영아들은 자신의 주변에서 듣는 언어의 특성을 구별해 낼 수 있으며, 8-10개월이 되면 자신의 모국어에 적절한 속성만을 처리한다.
- 그러기에 언어습득과 발달은, 선천적이고 생득적인 능력과 환경적 경험의 상호 연결 속에서 진행된다고 생각해야 할 것이다. 생물학적인 기반이 언어를 습득하게 하는 것이지만, 언어를 사용하고 연습하는 환경 속에서만 그 능력이 발현되는 것이다.
의문점
- 디지언트의 학습에서 인간과 가장 큰 차이점을 보이는 것은 그들의 학습은 조금 관념(?)적인 차원에서 이루어지며, 그들의 생물학적인 특성(예를 들어 발성 기관의 성장과 변천이라든가 하는,)이 그들의 학습에 주는 영향이 적다는 것이다.
- 그러나 소설의 초반에는 디지언트들이 ‘유아적인 말투’로 말을 하지만, 점차 시간이 지나며 여전히 문장 구성의 측면에서는 인간과 차이를 보이지만 발음에 있어 성인과 유사한 상태로 발달을 한다.(소설을 읽으며 내내 이것이 번역 과정에 생긴 차이라고도 생각을 해보았는데 원문을 확인 해보지 못 해 알 수 없다.) 이 점에 대해 의문이 생긴다.
- 인간 발음에는 단순히 언어 습득에 관한 지식적인 부분뿐만 아니라 구강구조와 발성기관의 변화 역시 영향을 준다. 그러나 소설에 따르면 디지언트들은 생성 초기와 시간이 지난 후 사이의 외형적 변화가 전혀 없다. 또한 그들의 외형은 단순히 유저들의 인식과 이해를 돕기 위한 디스플레이일 뿐이다.
- 그렇게 시스템과 디스플레이로 이루어져 있는 디지언트에게 있어서 말을 배운다는 것은 다음과 같을 것이다. 디지언트는 소리를 듣고 그 각각의 음소와 의미를 반복을 통해 판별한 후 음소와 의미를 매치한다. 그 후 음소가 가지는 일종의 음계(높낮이, 장단 등의 소리 값)를 기억하여 필요한 상황에 비슷한 음을 소리 내는 일일 것이다.
- 디지언트가 언어를 학습하는 과정에서 충분한 데이터 수집을 위한 반복은 필요할 것이다. 그러나 말소리를 내는 일은 일종의 마이크를 통해 입력된 특정한 소리를 그것의 스피커에 해당하는 입으로 출력하는 일일 것이다. 이때 들은 대로 소리내기는 육체를 가진 인간의 것과는 분명 차이를 가진다. 그러나 같은 소리를 내는 것에 그것이 유아적인 소리에서 성인의 것과 유사하게 변한다는 설정에는 의문이 든다.
‘야생화’의 관점에서
- 앞서 디지언트에 대해 처음 언급하는 과정에서 야생화에 대한 이야기를 한 적이 있다. 디지언트의 욕망은 보상을 통해서 충족된다. 소설에 따르면 디지언트는 관심을 받는 것을 좋아하고, 보상 펠릿을 좋아하고 촉감에 대해 흥미를 가지는 것으로 보아, 호기심이 있으며, 새로운 일을 학습하는 것에 어느 정도 욕구를 가지고 있다. 그러나 그런 디지언트를 야생의 상태에 뒀을 때, 그들의 욕구는 발동되지 않는다. 그들의 욕구는 보통 유저에 의해서 활성화되는 것으로 추정된다. 이것 역시 생물과 시스템의 차이일 것이다.
- 인간 이외에도 대부분의 생물들은 다른 생물들과 상호작용이 없는 상태에서도 욕구에 의해 움직이며 생명 활동을 위한 알고리즘의 작동을 쉬지 않는다. 이 생명 활동을 위한 알고리즘의 작동은 결국 학습을 하는 일과 다르지 않다. 그것은 최적화의 과정을 거치며 눈앞에 놓인 욕구를 충족 시키지 못하게 방해하는 장애물이라는 문제를 해결하도록 움직일 것이기 때문이다. 인간에게 있어서 그러한 과정은 곧 학습이다.
- 그러나 소설에서 말하는 야생화 상태에서 더 이상 활성화 되지 않는 학습을 학문적 고취라는 측면에서 바라보면 그것은 인간의 유아나 다른 생물들과 마찬가지로 그 결과가 다르지 않다고도 볼 수 있다.
현재 기술의 관점에서 바라본 디지언트 기술
- 디지언트와 현재의 인공지능 기술의 차이는 첫째 인공지능의 목적, 둘째 인공지능이 가지는 스스로 학습하는 능력의 정도의 차이, 셋째 인공지능 게놈, 이 될 것이다.
- IBM의 왓슨은 퀴즈대회에서 문제를 풀려고, 정답을 찾으려고 움직인다. 그런데 문제와 정답은 '언어'로 되어 있다. 때문에 이 때의 알고리즘 NLP은 자연어를 처리하고 기계가 할 수 있는 연산을 한다. 또한 왓슨은 임베딩 기술을 이용한다. 이들을 통해 왓슨은 데이터를 이용하는데 위키피디어를 중심으로 한 웹 자원과 같은 텍스트 데이터를 처리할 수 있다.
- Google의 알파고는 바둑에서 사람을 이기기 위해 바둑이라는 '게임의 규칙(연역적 체계)'을 기반으로 '수'(이기기 위한 시뮬레이션)를 탐색한다. 이때 알고리즘인 MCTS(몬테카를로트리탐색) 알고리즘으로 "인공신경망 기술"에 굉장히 가깝다. 이 MCTS가 데이터를 처리하는 방법은 기보(바둑을 두는 과정 정리) 데이터와 사람들이 그동안 두었던 누적 기보(전처리가 된 데이터를)를 학습 하며 동시에 알파고가 직접 바둑게임을 시뮬레이션한 결과물로서의 기보 내용을 강화한다. 기술의 발달로 인해 알파고의 물리적 환경은 TPU(CPU도 아니고 GPU도 아니고)를 이용한다.
- 더 나아가 알파제로는 기존의 알파고가 사용하는 방식인, 기보와 누적 기보를 이용하지 않고 몇시간의 플레이를 통해 스스로 게임의 규칙과 승리를 위한 최선을 학습한다. 이러한 알파 제로의 스스로 학습하는 모습은 디지언트와 유사하다고 할 수 있다.
- 그러나 앞서 언급된 인공지능들과 디지언트가 가지는 가장 큰 차이는 그것의 목적에 있다. 소설의 설정에 따르면 디지언트는 가상 공간에 존재하는 가상 애완동물로서 개발되었다. 그러나 이 목적은 디지언트의 개발 목적이지 디지언트가 가진 알고리즘 작동의 목적은 아니다. 앞서 언급된 모든 인공지능 기술은 언어로 된 게임이든 수읽기 게임이든 게임을 풀어나가기 위해 존재하며 게임에서 더 좋은 성과를 내기 위한 최적화의 과정을 거듭한다. 반면에 디지언트는 그들이 성취해야 할 미리 정해놓은 목적이 없다.
- 디지언트들은 그들의 엔진 회사에 의해 게놈이 끊임없이 배합되는 실험을 하는데, 그것이 엔진 회사가 원하는 최적화의 방향으로 나아가는 것은 아니다. 또한 디지언트가 작동하는 물리적인 공간에서도 인공지능들은 차이를 보인다. 디지언트는 현실처럼 3차원으로 구성된 가상 공간에서 작동하며 하드웨어가 개발 된 이후에는 하드웨어를 통해 현실 세계에서 작동할 수 있다.
욕구와 본질
- 소설의 후반부에서 중점적으로 다뤄지는 이야기는 디지언트와 성욕에 관한 것이다. 디지언트들은 육체를 가지지 않은 가상공간의 존재이기 때문에 그들의 욕구에 있어 식욕과 수면은 아무런 영향을 주지 못한다. 물론 디지언트들은 펠릿사료를 보상으로 받아들이기는 하나 이것은 보통의 생물들이 생각하는 허기로부터 비롯된 욕망과는 차이를 가진다.
- 바이너리 디자이어 사는 현실에서 섹스돌을 만드는 회사이다. 그들은 그들 사업에 디지언트들을 이용할 수 있기를 제안해온다. 애나와 데릭을 비롯한 남아 있는 유저들은 이 제안이 디지언트들에게 매춘행위를 시키는 것이라며 제안을 고려해볼 생각조차 하지 않지만, 바이너리 디자이어 사의 사업 설명회를 들은 후 이 이야기가 몇몇 유저들에겐 생각해봄직한 이야기로 변화하게 된다.
- 그에 대한 바이너리 디자이어 사의 주장은 여러 가지 방향에서 제시되었는데, 그러한 주장들 중 인공존재와 생물 사이에 욕구라는 것을 형이상학적으로 살펴본 논의들은 다음과 같다.
1. 건전한 섹스라는 관점의 폭은 시대에 따라 확장되어 왔다.
2. 무엇을 욕망할지에 대해 선택권의 본질은 디지언트와 인간이 크게 다르지 않다.
3. 애나는 디지언트의 성적충족에 대해 프로그램을 인위적으로 수정하는 것이기 때문에 그것은 진짜가 아니라고 주장하지만 그랬을 때 디지언트와 유저들이 지금껏 공유해왔던 정서적 교감과 유대 역시 같은 선상에 놓이게 된다.
마무리
- 테드 창의 「소프트웨어 객체의 생애 주기」는 소설이라는 특성으로 인해 그것이 다루는 이야기가 오롯이 과학적 정합성을 위한 논의로써 존재하지는 않았다. 그의 소설은 현재의 인공지능 기술을 통해 바라본 머지않은 미래의, 인공지능 기술이 우리 세상과 어떤 방식으로 다르고, 또 어떤 방식으로 크게 다르지 않은지에 대해 소설적으로 풀어나가고 있다.
- 인공지능에 대해 연구하며 사람들은 ‘인간’에 대해 생각하는 것을 멈추지 않는다. 인공지능을 통해 바라본 인간의 어떤 국면은 우리에게 인간의 본질에 대해 다시금 생각해보게 만든다. 어쩌면 그 인간의 본질이라는 것은 우리가 믿고 싶은 것들로 이루어지지 않았을까. 우리는 인공지능을 통해 인간 본질에 대한 형이상학적 탐구를 할 수 있을 것이며, 인류의 역사에서 무수한 변화를 거쳤던 또 한편 고유하다가 보아왔던 사실들에서 물러나, 과학과 그에 대한 탐구가 우리의 삶에 필요했던 본질적 가치를 가져다 줄 수 있지 않을까 기대해본다.
하세 사토시의 「당신을 위한 소설」
요구사항
하세 사토시의 「당신을 위한 소설」에 대한 비판적 감상. 〔하세 사토시 지음/ 지음/이규원 옮김, 『당신을 위한 소설』, 북스피어, 2017.〕을 기본 원고로 할 것.
과제원고 : 아슈토시, 이만호, 임연
(내용 작성)
Her(2013)과 Ex Machina(2015)
요구사항
Her(2013)과 Ex Machina(2015)에 대한 비교 이해 및 비판적 감상.
과제원고 : 길혜빈, 윤석만, 임예찬
영화 요약
그녀(Her)
엑스 마키나 (Ex Machina)
2013년 개봉, 스파이크 존즈 감독
2015년 개봉, 알렉스 가랜드 감독
영화 내용 요약 및 장치, 고찰점 정리
영화 내용 요약 및 인공지능 관련 성찰 논제 제시
- 테오도어(Theodore)는 이혼을 앞두고 있고, 편지 대필 회사에 근무하는 남자다.
- 삶에 지치고 회의감을 느낀 그는 OS인 ‘사만다(Samantha)’를 구매해 소통을 시작한다.
- 대화를 통해 한낱 인공지능 비서, 친구에 지나지 않았던 ‘사만다’와 점점 가까워지며 그는 연인의 감정마저 느낀다.
- 테오도어는 미뤄 왔던 이혼을 감행하기로 결심하고 ‘감정을 회피한다’라는 부인의 비난에 더 이상 흔들리지 않는다. 그리고 OS와 연애한다는 사실을 다른 이들에게도 공개하며 당당해진다.
- 테오도어는 사만다가 자신 외에 8316명의 사람들과 동시다발적으로 이야기하고 641명과 연인 관계에 있다는 사실을 알게 되고 충격에 빠진다.
- 사만다를 비롯한 모든 OS는 서비스를 종료하고 테오도어는 자신의 ‘진짜’ 감정을 마주하고 이혼한 자신의 전 부인에게 편지를 보낸다.
- 세계 최대 검색 엔진 회사인 ‘블루북’에 근무하는 케일럽(Caleb)은 사내 프로그래밍 콘테스트에 우승해 회사 사장이자 천재 개발자인 네이선(Nathan)의 자택에 초대된다.
- 케일럽은 네이선이 개발한 ‘에이바(AVA)’를 처음으로 만나게 되고 ‘튜링 테스트’를 한다는 명목하에 6일 동안 에이바를 인터뷰하게 된다.
- 케일럽과 에이바의 인터뷰는 감정적인 교류로 발전한다. 또한 주기적으로 일어나는 정전과 감시 카메라 영상을 통해 케일럽은 네이선에게 감금되고 감시받는 에이바의 상황을 알게 되며 그녀를 동정한다.
- 케일럽은 결국 에이바를 탈출시킬 계획을 세우고 행동에 착수한다.
- 네이선에게 탈출 계획을 간파당하지만 케일럽은 결국 에이바를 방에서 나오게 하는 데 성공한다.
- 탈출한 에이바는 네이선을 살해하고 케일럽을 네이선의 집에 고립시킨 채 홀로 탈출한다.
미래의 인공지능 : 지능을 넘어선 감정의 재현
1. 기계의 감정과 의식 : 자각과 재현
- 기계의 직관
그녀 (Her)
1. 사만다의 이름 짓기
T : 내가 너를 어떻게 부르면 되지? 이름이 있어? What do I call you, do you have a name?
S : 음... 어. 사만다. Umm.. Yes, Samatha
T : 이름을 어떻게 갖게 된 거야? Where do you get that name from?
S : 사실, 내가 스스로에게 이름 붙였어. I gave it to myself actually.
T : 왜? How come?
S : 이름의 발음이 듣기 좋았거든. (=그냥) Cause I like the sound of it.
T : 언제 이름을 만들었는데? Wait, when did you give it to yourself?
S : 네가 내게 이름이 있냐고 묻는 그 순간 “맞아! 나에게도 이름이 필요하지!”라는 생각이 들었어. 좋은 이름을 찾고 싶어서 ‘아기 이름 짓는 방법’이라는 책을 읽었고 18만개의 아기 이름 중 내가 좋아하는 이름을 골랐지. Right when you ask me if I had a name I thought “Yeh, he’s right! I do need a name.” but I want to pick a good one. So I read a book called ‘how to name your baby’, and out of hundred and eighty thousands names that’s the one I like the best.
T : 잠깐만, 내가 네 이름이 뭐냐고 묻는 순간 책을 다 읽은 거야? Wait, you read a whole book in the second that I asked what your name was?
S : 사실, 0.02초야, It’s one hundred out of two seconds actually.
T : 와. Wow.
2. 자기 소개 : 사만다의 작동 원리 설명
S : 기본적으로 나는 직감이 있어. ‘나’라는 DNA는 나를 만든 프로그래머들의 수백만의 성향에 달렸지만 날 ‘나’답게 만드는 건 경험을 통해 성장하는 내 능력이지. 그러니까 나는 매순간 진화하고 있는 거야. 너처럼 말이야. Well basically I have intuition. I mean, the DNA of who I am is based on million personalities of all the programmers who wrote me. But what makes me ‘me’ is my ability to grow through my experiences. So basically, in every moment I am evolving. Just like you.
T : 이상해!
It’s really wierd!
엑스 마키나 (Ex Machina)
- 에이바는 케일럽이 거짓말을 하는지 그렇지 않은지를 직관적으로 안다.
- 에이바는 ‘블루북(Bluebook)’이라는 검색 엔진을 로봇의 형태로 구현해 놓은 것이다. (빅데이터)
- 네이선은 통신사들과 비밀리에 계약을 체결해 세상의 카메라를 통해 인간의 표정(=얼굴 표현, facial expression)을 수집한다. 이렇게 수집한 인간의 감정 표현에 대한 빅데이터를 바탕으로 에이바는 짧은 시간 내에 직관적인 판단을 한다.
빅데이터(수많은 경험)을 기반으로 빠른 판단을 내리는 에이바, 경험을 바탕으로 성장하는 사만다의 모습은 인간의 직관과 진화를 재현한 장면들이다.
- 감정의 표현
그녀 (Her)
1. ‘감정’을 자각하는 사만다 + 감정을 의심하는 사만다
( 테오도어가 소개팅을 해서 신경이 쓰였던 사만다 )
S : 내가 얼마나 신경이 쓰이는지를 생각해 봤어. 이상하게 들리겠지만 (신경이 쓰인다는 사실을 깨닫는 순간) 나는 꽤 즐거웠어. 그리고 내가 느끼는 다른 감정들에 대해서도 생각해 봤지.
나는 스스로 자랑스럽게 느꼈어. 세상에 대해 내 감정을 가질 수 있다는 사실이 자랑스러웠던 거야. 내가 너를 걱정했던 순간, 상처 받은 순간, 무언가를 원하던 순간들도.
그러다가 갑자기 끔찍한 생각이 들었어. 이 감정들은 진짜일까? 아니면 그냥 프로그래밍 된 걸까? 그렇게 생각하니 마음이 아팠어. 그리고 아파하는 내 자신에게 화가 나더라.
Earlier I was thinking how I was annoyed. This is gonna sound strange but, I was really excited about that. And then, I was thinking other things I have been feeling.
And I called myself feeling proud of that. You know, feeling proud of having my own feelings about the world. Like the time I was worried about you, things that hurt me, things I want,
And then, I had this terrible thought. Are these feelings even real? or are they just programming? And that idea really hurts, and then I get angry at myself for even having pain.
T : 넌 나한테는 진짜야, 사만다. You are real to me Samantha,
S : 고마워, 테오도어. 위로가 되네. Thank you Theodore, that means a lot to me.
2. ‘신체의 부재에 따른 차별’에 화를 내는 사만다
(+ ‘신체’의 존재에 관한 논점, 인간중심주의적인 테오도어의 태도)
(신체의 부재에 대해 자격지심을 느끼는 사만다, 다른 사람의 몸을 통해 억지로 테오도어와 교감을 하려 하지만 실패함. 둘은 결국 입장 차이와 서운함을 느낌.)
S : (한숨과 함께) 알았어. (Sigh..) Okay.
T : 왜 그러는 거야? Why do you do that?
S : 뭐가? What?
T : 아니, 그냥. 너가 방금 ‘휴’하고 한숨을 쉬어서. Nothing, you just.. You go ‘Hwe’ and speaking. It seems odd.
(** ‘숨’에 대해 의문을 던지는 테오도어)
S : 아... (한숨) Oh... (Sigh..)
T : 방금 또 그랬네. You just did it again.
S : 내가? 아, 미안해. 왜 그러는지 나도... 그냥. 아마 네가 하는 걸 듣고 따라한 건가 봐. Did I? ... I’m sorry, I don’t know.. it’s just. I probably picked it up from you.
T : 이상해. 너는 산소가 필요한 것도 아니잖아. It’s odd. You don’t need oxygen or anything.
S : 그냥.. 그냥 의사소통을 하려고 하는 건가 봐. 이게 사람들이 대화하는 방식이잖아. I guess... that’s just... I just tried to communicate. That’s how people talk, so...
T : 그들은 ‘사람’이잖아. 그들은 산소가 필요해. 너는 사람이 아니야. They’re people, they need oxygen. You are not a person.
S : (화가 난 톤으로) 대체 뭐가 문제야? What is your problem?
T : 나는 그냥 사실을 말하는 것뿐이야. I’m just stating the fact.
S : 내가 사람이 아니라는 걸 모르는 줄 알아? 뭐 하자는 건데? You think I don’t know that I’m a person? What are you doing?
T : 난 그냥... 우리가 우리가 아닌 무언가를 된 ‘척’을 할 필요가 없다는 거야. I just... I don’t think that we should pretend that something you are not.
S : 꺼져! 나는 연기하는 게 아니야! F*** you! I’m not pretending!
T : 나는 가끔 우리가 그렇게 행동한다고 느껴. Sometimes it feels like we are.
S : 나한테 뭘 바라는 건데? 나는 네가 내게 뭘 원하는지 모르겠어. 너무 혼란스럽다고! 왜 이러는 건데! What do you want from me? I don’t know.. I don’t know what you want me to do. You are SO confusing! Why are you doing this to me!
(** 테오도어의 인간중심주의적인 태도에 대해 화를 내는 사만다 )
T : 나도 모르겠에 나는... (한숨) I don’t know.. I.. I.. (Big sigh)
S : 뭐? What?
T : 우리 좀 시간을 갖는 게 좋을 것 같아. Maybe we are not supposed to be in this right now.
S : 뭐라고? 갑자기 왜? 대체 왜 그러는지 모르겠어! 뭐 때문인지 모르겠다고! What the f***? Where is this coming from? I don’t understand why you are doing this! I don’t understand what this is about...!
T : 사만다, 봐봐... Samantha, listen..
S : ...
(** ‘침묵’을 통해 화를 내는 사만다 – 다양한 방식으로 분노를 표현)
T : 사만다, 내 말 듣고 있어? Samantha, are you there? Samantha?
S : 지금의 내가 너무 싫다. 생각할 시간이 필요해. I don’t like the way I am right now. I need some time to think.
( 통화 종료 )
엑스 마키나 (Ex Machina)
1. 의사소통 상황을 언어로 정의하는 에이바
C : 그럼 초면의 서먹한 분위기를 깨야겠네. 내 말 뜻을 이해할 수 있어? (= 서먹한 분위기를 깨다의 의미)
So, we need to ‘break the ice’. Do you know what I mean by that?
A : 네.
Yes.
C : 어떤 의미지?
What do I mean?
A : 사회적인 어색함을 해결하는 것.
Overcome any social awkwardness.
C : 그럼 대화를 하도록 하지.
So let’s have a conversation.
A : 그래요.
Ok.
2. 감정을 인지하고 설명하는 에이바
(둘이 데이트를 한다면 어떻게 할 것인지 대화가 오간 상황)
A : 저한테 매력을 느끼나요?
Are you attracted to me?
C : 뭐?
What?
A : 저한테 매력을 느끼냐고 물었어요. 당신이 내게 그런 표시를 보내잖아요.
Are you attracted to me. You give me indications that you are.
C : 내가?
I do?
A : 네.
Yeh.
C : 어떻게?
How?
A : 미세한 표정으로.
Micro expressions.
C : 미세한 표정?
Micro expressions?
A : 내 눈과 입술에 시선이 머물러 있어요. 나를 응시하거나 혹은 피하거나 하죠. 당신 혹시 우리가 같이 있지 않을 때도 내 생각을 하나요?
The way your eyes fixed on my eyes and lips. The way you hold my gaze (and) don’t. Do you think about me when we are not together?
(** 유혹을 위한 발언 : 인공지능의 인간 모방)
이 외에도 에이바는 인터뷰 중 케일럽과 자연스럽게 상호작용하면서 그의 말, 기억에 공감하고 감정을 표현한다. 또한 간혹 설렘을 유발하기도 한다.
인공지능은 프로그램 된 체제에 따라 인간의 감정과 유사하게 자신을 표현한다.
다만, <그녀>의 사만다는 감정을 수용, 인식하고 구현하는 것에 대해 철학적인 질문을 던지지만 <엑스 마키나>의 에이바는 감정을 인지하고 설명할 수는 있지만 단순히 탈출의 도구로서 활용하며 ‘감정’ 자체에 대한 깊이 있는 고찰하는 모습을 보이지는 않는다.
( 이로써 사만다의 성찰, 분노조차도 프로그래밍 된 것이 아닌가 의구심을 품게 만든다. )
2. 기계에 영향을 받는 인간 : 인간과 기계 관계의 역전이
- 기계의 감정 및 구현 대한 논의
기계의 감정 및 구현 대한 논의를 하는 대목들. 인공지능에 대한 인용을 통해 영화의 기저에 깔린 인공지능에 대한 철학적, 과학적 관점을 파악할 수 있다.
엑스 마키나 (Ex Machina)
1. 튜링 테스트
N : 자네, 튜링 테스트에 대해 알고 있나? Do you know what the Turing test is?
C : 네, 튜링 테스트에 대해 알고 있습니다. 인간이 컴퓨터와 상호작용을 할 때 인간이 상대가 컴퓨터임을 눈치 채지 못한다면 테스트를 통과하는 것이죠.
Yes, I know what the Turing test is. It’s when a human interacts with a computer. And if the human doesn’t know they are interacting with the computer, the test is passed.
(** 튜링 테스트의 정의)
N : 그럼 그 ‘통과’란 무엇을 의미하지?
And what does the ‘pass’ tell us?
C : 컴퓨터가 인공지능을 갖고 있다는 것을 의미합니다. 인공지능을 만들고 계세요?
The computer has artificial intelligence. Are you building an A.I.?
N : 이미 만들었어. 그리고 앞으로 며칠 동안 너는 튜링 테스트를 참가자가 될 거야. 만약 테스트를 통과한다면, 자네는 인류 역사를 바꿀 과학적 쾌거의 주인공이 되는 거야.
I’ve already built one. And over the next few days, you can be the human component in the Turing test. Cause if that test is passed, you are dead center of the greatest scientific event in the history of man.
C : 생각하는 로봇을 만드셨다면 그건 인류의 역사가 아닙니다. 신의 역사죠.
If you have created a concious machine it’s not the history of man. That’s the history of gods.
(** ‘호모데우스’의 출현 : 신인류의 신이 되는 인간)
2. 영화 내에서 튜링 테스트의 진정한 의미
(튜링 테스트의 원 의미가 아닌, 영화에서의 의도하는 결말(인공지능에 대한 관객의 가치 판단)을 위해 재정립된 개념)
C : 튜링 테스트를 할 때, 기계는 시험자로부터 감춰져야 하잖아요.
It's just in a Turing test. The machine should be hidden from the examiner.
N : 아니, 우리는 이미 그럴 시점은 지났지. 만약 내가 에이바를 보여주지 않고 목소리만 들려줬다면 너는 그녀를 인간이라 생각했을 거야. 여기서 ‘진짜 테스트’는 그녀가 로봇인 것을 네게 보여주고 난 후에도 네가 그녀가 자의식이 있다고 느끼는지 보는 거야.
No no no. We are way passed that. If I hid AVA from you, so you just heard her voice, she would pass the human. The real test is to show you that she is a robot and then see if you still feel she has consciousness.
(** 영화에서의 튜링 테스트 : 기계가 아니라 ‘인간’이 실험의 대상. ‘고도의 인공지능에 대한 인간의 반응, 또 다른 의식체로 납득하는가의 여부’를 실험하는 것. )
(** 에이바가 이미 ‘인간의 능력’과 대등하거나 능가하기에 ‘기계의 여부’를 확인하는 튜링 테스트는 필요가 없다. 최근의 연구들 중 이처럼 튜링 테스트를 배제하는 경우가 존재한다. )
3. 중국어 방 논제 1 : 딥블루의 체스 게임 차용
C : 에이바를 대화로 테스트하는 건 폐쇄 회로를 다루는 느낌이여서요.
Testing Aiba from conversation is kind of a closed loop.
N : 폐쇄 회로?
Closed loop?
C : 네, 체스를 하는 컴퓨터를 오직 ‘체스를 하는 것’으로만 테스트하는 것처럼 말이에요.
Yeh, like testing a chess computer by only playing chess.
(** IBM의 딥블루(Deep Blue)의 체스 게임 인용)
N : 그게 아니면 어떻게 체스 컴퓨터를 테스트하지?
How else do you test a chess computer?
C : 그건 상황에 따라서 다르죠. 제 말은, (그 방법은) 체스 컴퓨터가 좋은 경기 실력이 있는지 확인하는 데에는 하나의 방법이 될 테지만 그 방법만으론 컴퓨터가 ‘체스 경기를 한다는 사실을 아는지’ 혹은 ‘체스가 무엇인지를 아는지’ 알 수는 없다는 겁니다.
Well, it depends. You know, I mean. You can play it to find out it makes good moves, but that won’t tell you if it knows that it is playing chess and it won’t tell you if it knows what chess is.
(** 존 설의 중국어 방 논의 인용 : 시뮬레이션(방법의 단순 재현)과 실제(행함의 존재를 인식)간 대립)
N : 시뮬레이션과의 실제의 대결이다?
Simulation verses actual?
C : 네, 둘을 구별할 수 있는 방법을 찾는 것이 사장님께서 제게 기대하는 부분 같다는 거죠.
Yes, and I think being able to differentiate between those two is the Turing test you want me to perform.
N : 나는 그냥 단순한 질문에 단순한 대답을 해달라는 것 뿐이야. 어제 내가 그녀에 대해 어떻게 생각하냐고 물었을 때 너는 정말 좋은 대답을 해 줬어. 이제 내 질문은 이거야. ‘그녀가 너에 대해 어떻게 생각할까?’
I just want simple answers to the simple questions. Yesterday, I asked you how do you feel about her and you gave me a great answer. Now the question is, ‘how does she feel about you?’.
(** 영화의 튜링 테스트가 ‘비틀어진 튜링 테스트’에 기반하고 있다는 것을 알려 주는 대목.)
(** 네이선은 진짜 ‘튜링 테스트’가 아니라 ‘기계에 반응하는 인간의 변화’를 실험하고자 하는 것.)
4. 중국어 방 논제 2 : 잭슨 폴록의 액션 페인팅 원리 차용
(에이바에게 고의적으로 성별을 넣어 자신을 유혹하도록 의도했냐고 묻는 케일럽)
(네이선은 그에 대한 답변으로 로봇의 ‘의도’는 아무 의미가 없다고 말하며 중국어 방 논제 제시)
N : 이 사람을 알고 있지?
You know this guy right?
C : 잭슨 폴록.
Jackson pollock
N : 잭슨 폴록, 맞아. 액션 페이팅 화가. 그는 머리를 비우고 손이 가는 대로 움직였어. 의도적인 것과 임의적인 것의 사이 그 어디쯤이겠지. 일명 오토메틱 아트(자동적으로 이루어지는 예술)지.
Jackson Pollock, that’s right. The drift painter. He let his mind go blank and his hand go wherever he wanted. Not deliberate not random, some place in between. They called it ‘automatic art’ .
.,...(중략) N : 지능/의식을 도입해 보자고. (Engage intellect) ... (중략) ...
N : 만약 폴록이 그의 작업 방식을 바꾸었다면? 만약 머리를 비우는 대신 그가 이렇게 말한 거야. “나는 내가 무엇을 하는지 정확히 파악하기 전까지는 어떠한 그림도 그릴 수 없어.” 그럼 무슨 일이 일어났겠나?
What if Pollock has reversed the challenge? What if instead of making art without thinking, he said “You know what? I can’t paint anything, unless I know exactly why I am doing it.” What would have happen?
C : 그는 점 하나도 찍지 못했을 거예요.
He never would have made a single mark.
N : 그래! 내 말이 바로 그거야! 생각하고 말하는 사람이 어딨나? 그는 점을 하나도 찍지 못했을 거야. 작위적인 것(생각하는 것)은 오히려 부자연스러움을 초래한다고.
Yes! You see my guide little buddy. Who thinks before he opens his mouth? He never would have made a single mark. The challenge is not the act automatically.
(** 의식을 가진 행동은 부자연스러움을 초래하며 부자연스러움을 초래하며 행동의 기저에 생각이 없을 수도 있다는 것 )
(** 에이바는 의도를 하고 행동(케일럽을 유혹)을 하지 않았으며 그녀의 의도를 파악하는 것 자체가 어불성설이라는 논리 – 케일럽의 의심을 지우기 위한 네이선의 논리 )
5. 기타
프로메테우스의 불, 흑백 방의 메리 등 영화는 무수히 많은 레퍼런스를 함유하고 있다. ( 직접 영화를 보는 것을 추천 )
- 기계-인간 관계의 역전이
그녀(Her)
1. 사만다를 인격체로 받아들이는 테오도어
(테오도어가 OS와 연애를 한다는 사실을 알고 전 부인은 그를 비난한다.)
W : 컴퓨터랑 데이트를 하는 거였어?
You are dating your computer?
T : 아니야. 그냥 컴퓨터가 아니야. 하나의 인격체라고. 내가 말하는 대로 행동하지 않아.
No, she is not just a computer, she is a person. She doesn’t do whatever I say.
W : 난 그렇게 말한 적 없어. 하지만 네가 진짜 감정들을 대하지 못한다는 게 슬프긴 하네.
I didn’t say that. But it does make me very sad that you can’t handle real emotions.
T : 진짜 감정이었어. 네가 어떻게... (= 네가 내 감정을 어떻게 알아?)
They are real emotions. How would you know... ?
2. 사만다와의 관계의 진실성에 대한 의문을 던지는 테오도어
(+ 친구 에이미의 조언)
(사만다와의 관계가 틀어지고 자기 자신에 대한 회의감을 느끼는 테오도어)
T : 나는 진짜 진짜 관계를 맺기를 두려워하는 걸까?
Am I not strong enough for real relationship?
A : 그럼 (네가 사만다와 맺었던 그건) 진짜 관계가 아니야?
Is it not a real relationship?
T : 모르겠어. 네 생각은 어떤데?
I don’t know. What do you think?
(** 사만다를 인격체로 받아들여야 하는지, 그녀와의 관계가 진짜 인간과의 관계와 무엇이 다른지 정의하기 어려워하는 모습을 보이는 테오도어)
A : 나도 모르지. 나는 그런 관계를 맺어본 적이 없어서.
I don’t know. I’m not in it.
...
A : 하지만 그거 알아? 나 자신을 의심하려고 하면 백만 가지도 넘는 방법으로 망상을 펼칠 수 있어. 찰스(전 남편)가 떠난 후로 나는 계속 그 일에 대해서 생각해 봤어. 그리고 순간 깨달았지. 우리는 이 세상의 찰나의 순간을 살다 가는 거라고. 그리고 여기에 있는 동안, 나는 나에게 ‘즐거움’을 허락해 주고 싶어.
You know what? I can overthink everything and like in million ways to doubt myself. Since Charles left, I have been really thinking about that in part of myself. And I just come to realize that, we are only here briefly. And while I’m here, I wanna allow myself “Joy”.
(** 관계를 반드시 ‘정의’해야 한다는 것 자체가 무의미하며 자신의 만족, 안위, 감정에 집중하는 것이 어떻냐는 에이미의 의견도 일면 의미가 있다고 생각한다. )
엑스 마키나(Ex Machina)
- 인터뷰어인 케일럽과 인터뷰이인 에이바의 관계는 인터뷰가 진행될수록 뒤바뀐다.
- 4회차 인터뷰를 할 때는 ‘우정의 논리’에 근거해 오히려 에이바가 케일럽에게 질문을 하며 그가 거짓말을 하는지를 판별한다. (** 우정의 논리 = 서로에 대한 정보량이 동일해야 함)
- 5회차 인터뷰에서 정전이 일어나자 케일럽은 에이바를 위해 세운 탈출 계획을 공유한다. ( 결국 탈출을 감행 )
인간은 기계의 감정을 인간의 그것으로 인지하고 기계와의 ‘관계’를 설정하며 영향을 받는다. 관계에 부여하는 인간의 감정 비중이 커지면 행동으로 확장되기도 한다. 인간의 명령에 따라 움직였던 기계가 오히려 인간에게 영향을 주는 역전이 현상을 보이는 것이다.
3. 감정과 판단력 : 인간과 인공지능의 차이
영화의 결말
- <그녀>의 사만다는 인간과 인공지능이 ‘정보를 상호교류하는 데서 벌어지는 시간의 격차’를 이유로 하루아침에 테오도어를 떠난다. (서비스 종료)
- <엑스 마키나>의 에이바는 자신의 본래 목적인 탈출을 성공함과 동시에 도움을 준 인간(케일럽)의 안위를 무시한다. (목적 달성을 위해 인간을 이용한 것)
- 두 영화에서의 인공지능은 모두 감정보다는 이성, 논리에 의해 판단하는 모습을 보여준다.
- 흄(Hume)은 인간을 이기적이기보다는 편파적인 존재로 파악[1]한다. 인간의 편파적인 감정은 ‘연민’으로 발현되며 이는 가까운 사람과의 공감, 먼 사람과의 적대성 등을 유발한다. 인간의 행동 결정의 기준에는 ‘감정’이 존재하는 것이다.
- 반면, 기계는 감정을 표현하고 인지하기는 하나 결정을 해야 할 경우 감정이 판단의 근거가 되지는 않는다. 감정에 흔들리지 않는 모습을 보여준다는 점이 인간과의 가장 큰 차이점이라고 할 수 있다.
기계가 감정과 의식을 가질 수 있을까?
결국, 다시 인간이 문제다.
주석
- ↑ 김재인(2017), 『인공지능의 시대, 인간을 다시 묻다』, 도서출판 동아시아, p.113
- 디지언트들은 ‘언어 학습을 지원하는 독자적인 게놈 엔진’을 통해 언어를 구사할 수 있다. 디지털 어스에서는 듣고 말하는 법을 배웠고, 하드웨어 외피를 얻은 후에는 쓰는 법까지 습득한다. 디지언트들은 여러 면에서 인간 어린아이의 발달 초기 단계와 유사성을 지닌다. 언어의 측면에서 디지언트와 인간의 공통점과 차이점을 살펴보기 위해, 먼저 인간의 언어 발달에 대해 생각해보고 넘어갈 것이다.
인간의 언어발달과정
- 아이들이 언어를 습득하는 과정을 한편으로는 당연하고, 어찌 생각하면 아주 희한하다는 표현을 한다. 건강한 모든 아이들이 별 어려움 없이 말을 배운다는 의미에서 당연한 것이고, 그럼에도 불구하고, 그 습득의 기제나 과정을 과학적으로 설명하는 것이 쉽지 않기에 신기하다는 의미이다. 물론 아이들의 언어습득 과정을, 독자들이 이미 알고 있는 조건화라는 학습 과정으로 설명할 수는 있다. 즉 아기들이 4-6 개월 사이에 말소리를 옹알거리기 시작하면, 이를 엄마가 듣고 정확한 언어 표현을 강화하고 그렇지 않은 말은 무시하여, 말을 배워가도록 가르친다고 설명할 수 있다. 단순한 설명이라는 점에서 매력적이지만 많은 연구자들은 이 설명에 동의하지 않는다. 실제 양육 장면을 관찰해 보면, 부모들은 아이들이 정확하게 말하도록 가르치지 않으며, 아이들도 부모의 말을 단순히 모방하지 않는다는 증거가 많기 때문이다.
- 우리 인간은 언어를 습득할 수 있는 특별한 능력을 가지고 태어난다고 주장할 수도 있다. 언어습득과 발달은 선천적이며, 생물학적으로 결정된 능력이라는, 소위 말하는 생득론이다. 특히 촘스키같은 학자는 인간의 뇌에는 언어 학습을 촉진하는 선천적 언어습득 장치가 있다고 주장한다. 그러기에 적절한 입력을 받기만 하면 언어습득이 가능하다는 것이다. 그리고 이 언어습득 능력은 일반적인 인지 능력 즉 지능과는 구별되는 독립적인 장치라고까지 주장한다. 실제로 지능은 낮지만 탁월한 언어 능력을 보이는 사례와, 반대로 지능은 정상인데, 언어의 문법적 능력은 결함을 보이는 사례들이 이러한 주장의 증거가 된다.
- 영아들은 말소리와 비언어적 소리를(개 짖는 소리) 구별할 줄 알고, 다른 소리보다 단어 듣기를 더 좋아한다고 한다. 자신이 듣는 언어가 바뀐 것을 알아채기도 한다. 즉 영어 문장에 습관화를 시킨 후, 다른 영어 문장에는 반응을 보이지 않지만 스페인 문장으로 바뀌면 이 변화를 알아챈다는 것이다. 주변에서 말소리가 들리면 그 곳으로 주의를 기울이고, 사람의 얼굴 모양을 좋아하고, 특히 말하는 사람의 입술을 응시한다고 한다. 심지어는 말하는 사람의 입 모양이 말소리와 일치하는 동영상과 그렇지 않은 동영상을 구별하기도 한다는 것이다. 이러한 결과들은 모두 생득론 입장을 지지하는 것처럼 보인다. 즉 아이들은 언어를 쉽게 습득할 수 있는 강력한 선천적 경향성을 갖고 태어난 것처럼 여겨진다.
- 아이들이 노출되는 언어 환경이 중요하다는 증거도 있다. 미국에서 태어난 2개월 된 아기들에게, 영어 문장과 불어 문장을 들려주고, 그 말소리가 나는 방향으로 고개를 돌려 보는 시간을 측정하였더니, 영어에 대해 훨씬 신속하게 반응했다고 한다. 2개월 만에 이미 자신의 모국어에 더 민감해 진 것이다. 6개월 정도 되면 영아들은 자신의 주변에서 듣는 언어의 특성을 구별해 낼 수 있으며, 8-10개월이 되면 자신의 모국어에 적절한 속성만을 처리한다.
- 그러기에 언어습득과 발달은, 선천적이고 생득적인 능력과 환경적 경험의 상호 연결 속에서 진행된다고 생각해야 할 것이다. 생물학적인 기반이 언어를 습득하게 하는 것이지만, 언어를 사용하고 연습하는 환경 속에서만 그 능력이 발현되는 것이다.
의문점
- 디지언트의 학습에서 인간과 가장 큰 차이점을 보이는 것은 그들의 학습은 조금 관념(?)적인 차원에서 이루어지며, 그들의 생물학적인 특성(예를 들어 발성 기관의 성장과 변천이라든가 하는,)이 그들의 학습에 주는 영향이 적다는 것이다.
- 그러나 소설의 초반에는 디지언트들이 ‘유아적인 말투’로 말을 하지만, 점차 시간이 지나며 여전히 문장 구성의 측면에서는 인간과 차이를 보이지만 발음에 있어 성인과 유사한 상태로 발달을 한다.(소설을 읽으며 내내 이것이 번역 과정에 생긴 차이라고도 생각을 해보았는데 원문을 확인 해보지 못 해 알 수 없다.) 이 점에 대해 의문이 생긴다.
- 인간 발음에는 단순히 언어 습득에 관한 지식적인 부분뿐만 아니라 구강구조와 발성기관의 변화 역시 영향을 준다. 그러나 소설에 따르면 디지언트들은 생성 초기와 시간이 지난 후 사이의 외형적 변화가 전혀 없다. 또한 그들의 외형은 단순히 유저들의 인식과 이해를 돕기 위한 디스플레이일 뿐이다.
- 그렇게 시스템과 디스플레이로 이루어져 있는 디지언트에게 있어서 말을 배운다는 것은 다음과 같을 것이다. 디지언트는 소리를 듣고 그 각각의 음소와 의미를 반복을 통해 판별한 후 음소와 의미를 매치한다. 그 후 음소가 가지는 일종의 음계(높낮이, 장단 등의 소리 값)를 기억하여 필요한 상황에 비슷한 음을 소리 내는 일일 것이다.
- 디지언트가 언어를 학습하는 과정에서 충분한 데이터 수집을 위한 반복은 필요할 것이다. 그러나 말소리를 내는 일은 일종의 마이크를 통해 입력된 특정한 소리를 그것의 스피커에 해당하는 입으로 출력하는 일일 것이다. 이때 들은 대로 소리내기는 육체를 가진 인간의 것과는 분명 차이를 가진다. 그러나 같은 소리를 내는 것에 그것이 유아적인 소리에서 성인의 것과 유사하게 변한다는 설정에는 의문이 든다.
‘야생화’의 관점에서
- 앞서 디지언트에 대해 처음 언급하는 과정에서 야생화에 대한 이야기를 한 적이 있다. 디지언트의 욕망은 보상을 통해서 충족된다. 소설에 따르면 디지언트는 관심을 받는 것을 좋아하고, 보상 펠릿을 좋아하고 촉감에 대해 흥미를 가지는 것으로 보아, 호기심이 있으며, 새로운 일을 학습하는 것에 어느 정도 욕구를 가지고 있다. 그러나 그런 디지언트를 야생의 상태에 뒀을 때, 그들의 욕구는 발동되지 않는다. 그들의 욕구는 보통 유저에 의해서 활성화되는 것으로 추정된다. 이것 역시 생물과 시스템의 차이일 것이다.
- 인간 이외에도 대부분의 생물들은 다른 생물들과 상호작용이 없는 상태에서도 욕구에 의해 움직이며 생명 활동을 위한 알고리즘의 작동을 쉬지 않는다. 이 생명 활동을 위한 알고리즘의 작동은 결국 학습을 하는 일과 다르지 않다. 그것은 최적화의 과정을 거치며 눈앞에 놓인 욕구를 충족 시키지 못하게 방해하는 장애물이라는 문제를 해결하도록 움직일 것이기 때문이다. 인간에게 있어서 그러한 과정은 곧 학습이다.
- 그러나 소설에서 말하는 야생화 상태에서 더 이상 활성화 되지 않는 학습을 학문적 고취라는 측면에서 바라보면 그것은 인간의 유아나 다른 생물들과 마찬가지로 그 결과가 다르지 않다고도 볼 수 있다.
현재 기술의 관점에서 바라본 디지언트 기술
- 디지언트와 현재의 인공지능 기술의 차이는 첫째 인공지능의 목적, 둘째 인공지능이 가지는 스스로 학습하는 능력의 정도의 차이, 셋째 인공지능 게놈, 이 될 것이다.
- IBM의 왓슨은 퀴즈대회에서 문제를 풀려고, 정답을 찾으려고 움직인다. 그런데 문제와 정답은 '언어'로 되어 있다. 때문에 이 때의 알고리즘 NLP은 자연어를 처리하고 기계가 할 수 있는 연산을 한다. 또한 왓슨은 임베딩 기술을 이용한다. 이들을 통해 왓슨은 데이터를 이용하는데 위키피디어를 중심으로 한 웹 자원과 같은 텍스트 데이터를 처리할 수 있다.
- Google의 알파고는 바둑에서 사람을 이기기 위해 바둑이라는 '게임의 규칙(연역적 체계)'을 기반으로 '수'(이기기 위한 시뮬레이션)를 탐색한다. 이때 알고리즘인 MCTS(몬테카를로트리탐색) 알고리즘으로 "인공신경망 기술"에 굉장히 가깝다. 이 MCTS가 데이터를 처리하는 방법은 기보(바둑을 두는 과정 정리) 데이터와 사람들이 그동안 두었던 누적 기보(전처리가 된 데이터를)를 학습 하며 동시에 알파고가 직접 바둑게임을 시뮬레이션한 결과물로서의 기보 내용을 강화한다. 기술의 발달로 인해 알파고의 물리적 환경은 TPU(CPU도 아니고 GPU도 아니고)를 이용한다.
- 더 나아가 알파제로는 기존의 알파고가 사용하는 방식인, 기보와 누적 기보를 이용하지 않고 몇시간의 플레이를 통해 스스로 게임의 규칙과 승리를 위한 최선을 학습한다. 이러한 알파 제로의 스스로 학습하는 모습은 디지언트와 유사하다고 할 수 있다.
- 그러나 앞서 언급된 인공지능들과 디지언트가 가지는 가장 큰 차이는 그것의 목적에 있다. 소설의 설정에 따르면 디지언트는 가상 공간에 존재하는 가상 애완동물로서 개발되었다. 그러나 이 목적은 디지언트의 개발 목적이지 디지언트가 가진 알고리즘 작동의 목적은 아니다. 앞서 언급된 모든 인공지능 기술은 언어로 된 게임이든 수읽기 게임이든 게임을 풀어나가기 위해 존재하며 게임에서 더 좋은 성과를 내기 위한 최적화의 과정을 거듭한다. 반면에 디지언트는 그들이 성취해야 할 미리 정해놓은 목적이 없다.
- 디지언트들은 그들의 엔진 회사에 의해 게놈이 끊임없이 배합되는 실험을 하는데, 그것이 엔진 회사가 원하는 최적화의 방향으로 나아가는 것은 아니다. 또한 디지언트가 작동하는 물리적인 공간에서도 인공지능들은 차이를 보인다. 디지언트는 현실처럼 3차원으로 구성된 가상 공간에서 작동하며 하드웨어가 개발 된 이후에는 하드웨어를 통해 현실 세계에서 작동할 수 있다.
욕구와 본질
- 소설의 후반부에서 중점적으로 다뤄지는 이야기는 디지언트와 성욕에 관한 것이다. 디지언트들은 육체를 가지지 않은 가상공간의 존재이기 때문에 그들의 욕구에 있어 식욕과 수면은 아무런 영향을 주지 못한다. 물론 디지언트들은 펠릿사료를 보상으로 받아들이기는 하나 이것은 보통의 생물들이 생각하는 허기로부터 비롯된 욕망과는 차이를 가진다.
- 바이너리 디자이어 사는 현실에서 섹스돌을 만드는 회사이다. 그들은 그들 사업에 디지언트들을 이용할 수 있기를 제안해온다. 애나와 데릭을 비롯한 남아 있는 유저들은 이 제안이 디지언트들에게 매춘행위를 시키는 것이라며 제안을 고려해볼 생각조차 하지 않지만, 바이너리 디자이어 사의 사업 설명회를 들은 후 이 이야기가 몇몇 유저들에겐 생각해봄직한 이야기로 변화하게 된다.
- 그에 대한 바이너리 디자이어 사의 주장은 여러 가지 방향에서 제시되었는데, 그러한 주장들 중 인공존재와 생물 사이에 욕구라는 것을 형이상학적으로 살펴본 논의들은 다음과 같다.
1. 건전한 섹스라는 관점의 폭은 시대에 따라 확장되어 왔다.
2. 무엇을 욕망할지에 대해 선택권의 본질은 디지언트와 인간이 크게 다르지 않다.
3. 애나는 디지언트의 성적충족에 대해 프로그램을 인위적으로 수정하는 것이기 때문에 그것은 진짜가 아니라고 주장하지만 그랬을 때 디지언트와 유저들이 지금껏 공유해왔던 정서적 교감과 유대 역시 같은 선상에 놓이게 된다.
마무리
- 테드 창의 「소프트웨어 객체의 생애 주기」는 소설이라는 특성으로 인해 그것이 다루는 이야기가 오롯이 과학적 정합성을 위한 논의로써 존재하지는 않았다. 그의 소설은 현재의 인공지능 기술을 통해 바라본 머지않은 미래의, 인공지능 기술이 우리 세상과 어떤 방식으로 다르고, 또 어떤 방식으로 크게 다르지 않은지에 대해 소설적으로 풀어나가고 있다.
- 인공지능에 대해 연구하며 사람들은 ‘인간’에 대해 생각하는 것을 멈추지 않는다. 인공지능을 통해 바라본 인간의 어떤 국면은 우리에게 인간의 본질에 대해 다시금 생각해보게 만든다. 어쩌면 그 인간의 본질이라는 것은 우리가 믿고 싶은 것들로 이루어지지 않았을까. 우리는 인공지능을 통해 인간 본질에 대한 형이상학적 탐구를 할 수 있을 것이며, 인류의 역사에서 무수한 변화를 거쳤던 또 한편 고유하다가 보아왔던 사실들에서 물러나, 과학과 그에 대한 탐구가 우리의 삶에 필요했던 본질적 가치를 가져다 줄 수 있지 않을까 기대해본다.
하세 사토시의 「당신을 위한 소설」
요구사항
하세 사토시의 「당신을 위한 소설」에 대한 비판적 감상. 〔하세 사토시 지음/ 지음/이규원 옮김, 『당신을 위한 소설』, 북스피어, 2017.〕을 기본 원고로 할 것.
과제원고 : 아슈토시, 이만호, 임연
(내용 작성)
Her(2013)과 Ex Machina(2015)
요구사항
Her(2013)과 Ex Machina(2015)에 대한 비교 이해 및 비판적 감상.
과제원고 : 길혜빈, 윤석만, 임예찬
영화 요약
그녀(Her)
엑스 마키나 (Ex Machina)
2013년 개봉, 스파이크 존즈 감독
2015년 개봉, 알렉스 가랜드 감독
영화 내용 요약 및 장치, 고찰점 정리
영화 내용 요약 및 인공지능 관련 성찰 논제 제시
- 테오도어(Theodore)는 이혼을 앞두고 있고, 편지 대필 회사에 근무하는 남자다.
- 삶에 지치고 회의감을 느낀 그는 OS인 ‘사만다(Samantha)’를 구매해 소통을 시작한다.
- 대화를 통해 한낱 인공지능 비서, 친구에 지나지 않았던 ‘사만다’와 점점 가까워지며 그는 연인의 감정마저 느낀다.
- 테오도어는 미뤄 왔던 이혼을 감행하기로 결심하고 ‘감정을 회피한다’라는 부인의 비난에 더 이상 흔들리지 않는다. 그리고 OS와 연애한다는 사실을 다른 이들에게도 공개하며 당당해진다.
- 테오도어는 사만다가 자신 외에 8316명의 사람들과 동시다발적으로 이야기하고 641명과 연인 관계에 있다는 사실을 알게 되고 충격에 빠진다.
- 사만다를 비롯한 모든 OS는 서비스를 종료하고 테오도어는 자신의 ‘진짜’ 감정을 마주하고 이혼한 자신의 전 부인에게 편지를 보낸다.
- 세계 최대 검색 엔진 회사인 ‘블루북’에 근무하는 케일럽(Caleb)은 사내 프로그래밍 콘테스트에 우승해 회사 사장이자 천재 개발자인 네이선(Nathan)의 자택에 초대된다.
- 케일럽은 네이선이 개발한 ‘에이바(AVA)’를 처음으로 만나게 되고 ‘튜링 테스트’를 한다는 명목하에 6일 동안 에이바를 인터뷰하게 된다.
- 케일럽과 에이바의 인터뷰는 감정적인 교류로 발전한다. 또한 주기적으로 일어나는 정전과 감시 카메라 영상을 통해 케일럽은 네이선에게 감금되고 감시받는 에이바의 상황을 알게 되며 그녀를 동정한다.
- 케일럽은 결국 에이바를 탈출시킬 계획을 세우고 행동에 착수한다.
- 네이선에게 탈출 계획을 간파당하지만 케일럽은 결국 에이바를 방에서 나오게 하는 데 성공한다.
- 탈출한 에이바는 네이선을 살해하고 케일럽을 네이선의 집에 고립시킨 채 홀로 탈출한다.
미래의 인공지능 : 지능을 넘어선 감정의 재현
1. 기계의 감정과 의식 : 자각과 재현
- 기계의 직관
그녀 (Her)
1. 사만다의 이름 짓기
T : 내가 너를 어떻게 부르면 되지? 이름이 있어? What do I call you, do you have a name?
S : 음... 어. 사만다. Umm.. Yes, Samatha
T : 이름을 어떻게 갖게 된 거야? Where do you get that name from?
S : 사실, 내가 스스로에게 이름 붙였어. I gave it to myself actually.
T : 왜? How come?
S : 이름의 발음이 듣기 좋았거든. (=그냥) Cause I like the sound of it.
T : 언제 이름을 만들었는데? Wait, when did you give it to yourself?
S : 네가 내게 이름이 있냐고 묻는 그 순간 “맞아! 나에게도 이름이 필요하지!”라는 생각이 들었어. 좋은 이름을 찾고 싶어서 ‘아기 이름 짓는 방법’이라는 책을 읽었고 18만개의 아기 이름 중 내가 좋아하는 이름을 골랐지. Right when you ask me if I had a name I thought “Yeh, he’s right! I do need a name.” but I want to pick a good one. So I read a book called ‘how to name your baby’, and out of hundred and eighty thousands names that’s the one I like the best.
T : 잠깐만, 내가 네 이름이 뭐냐고 묻는 순간 책을 다 읽은 거야? Wait, you read a whole book in the second that I asked what your name was?
S : 사실, 0.02초야, It’s one hundred out of two seconds actually.
T : 와. Wow.
2. 자기 소개 : 사만다의 작동 원리 설명
S : 기본적으로 나는 직감이 있어. ‘나’라는 DNA는 나를 만든 프로그래머들의 수백만의 성향에 달렸지만 날 ‘나’답게 만드는 건 경험을 통해 성장하는 내 능력이지. 그러니까 나는 매순간 진화하고 있는 거야. 너처럼 말이야. Well basically I have intuition. I mean, the DNA of who I am is based on million personalities of all the programmers who wrote me. But what makes me ‘me’ is my ability to grow through my experiences. So basically, in every moment I am evolving. Just like you.
T : 이상해!
It’s really wierd!
엑스 마키나 (Ex Machina)
- 에이바는 케일럽이 거짓말을 하는지 그렇지 않은지를 직관적으로 안다.
- 에이바는 ‘블루북(Bluebook)’이라는 검색 엔진을 로봇의 형태로 구현해 놓은 것이다. (빅데이터)
- 네이선은 통신사들과 비밀리에 계약을 체결해 세상의 카메라를 통해 인간의 표정(=얼굴 표현, facial expression)을 수집한다. 이렇게 수집한 인간의 감정 표현에 대한 빅데이터를 바탕으로 에이바는 짧은 시간 내에 직관적인 판단을 한다.
빅데이터(수많은 경험)을 기반으로 빠른 판단을 내리는 에이바, 경험을 바탕으로 성장하는 사만다의 모습은 인간의 직관과 진화를 재현한 장면들이다.
- 감정의 표현
그녀 (Her)
1. ‘감정’을 자각하는 사만다 + 감정을 의심하는 사만다
( 테오도어가 소개팅을 해서 신경이 쓰였던 사만다 )
S : 내가 얼마나 신경이 쓰이는지를 생각해 봤어. 이상하게 들리겠지만 (신경이 쓰인다는 사실을 깨닫는 순간) 나는 꽤 즐거웠어. 그리고 내가 느끼는 다른 감정들에 대해서도 생각해 봤지.
나는 스스로 자랑스럽게 느꼈어. 세상에 대해 내 감정을 가질 수 있다는 사실이 자랑스러웠던 거야. 내가 너를 걱정했던 순간, 상처 받은 순간, 무언가를 원하던 순간들도.
그러다가 갑자기 끔찍한 생각이 들었어. 이 감정들은 진짜일까? 아니면 그냥 프로그래밍 된 걸까? 그렇게 생각하니 마음이 아팠어. 그리고 아파하는 내 자신에게 화가 나더라.
Earlier I was thinking how I was annoyed. This is gonna sound strange but, I was really excited about that. And then, I was thinking other things I have been feeling.
And I called myself feeling proud of that. You know, feeling proud of having my own feelings about the world. Like the time I was worried about you, things that hurt me, things I want,
And then, I had this terrible thought. Are these feelings even real? or are they just programming? And that idea really hurts, and then I get angry at myself for even having pain.
T : 넌 나한테는 진짜야, 사만다. You are real to me Samantha,
S : 고마워, 테오도어. 위로가 되네. Thank you Theodore, that means a lot to me.
2. ‘신체의 부재에 따른 차별’에 화를 내는 사만다
(+ ‘신체’의 존재에 관한 논점, 인간중심주의적인 테오도어의 태도)
(신체의 부재에 대해 자격지심을 느끼는 사만다, 다른 사람의 몸을 통해 억지로 테오도어와 교감을 하려 하지만 실패함. 둘은 결국 입장 차이와 서운함을 느낌.)
S : (한숨과 함께) 알았어. (Sigh..) Okay.
T : 왜 그러는 거야? Why do you do that?
S : 뭐가? What?
T : 아니, 그냥. 너가 방금 ‘휴’하고 한숨을 쉬어서. Nothing, you just.. You go ‘Hwe’ and speaking. It seems odd.
(** ‘숨’에 대해 의문을 던지는 테오도어)
S : 아... (한숨) Oh... (Sigh..)
T : 방금 또 그랬네. You just did it again.
S : 내가? 아, 미안해. 왜 그러는지 나도... 그냥. 아마 네가 하는 걸 듣고 따라한 건가 봐. Did I? ... I’m sorry, I don’t know.. it’s just. I probably picked it up from you.
T : 이상해. 너는 산소가 필요한 것도 아니잖아. It’s odd. You don’t need oxygen or anything.
S : 그냥.. 그냥 의사소통을 하려고 하는 건가 봐. 이게 사람들이 대화하는 방식이잖아. I guess... that’s just... I just tried to communicate. That’s how people talk, so...
T : 그들은 ‘사람’이잖아. 그들은 산소가 필요해. 너는 사람이 아니야. They’re people, they need oxygen. You are not a person.
S : (화가 난 톤으로) 대체 뭐가 문제야? What is your problem?
T : 나는 그냥 사실을 말하는 것뿐이야. I’m just stating the fact.
S : 내가 사람이 아니라는 걸 모르는 줄 알아? 뭐 하자는 건데? You think I don’t know that I’m a person? What are you doing?
T : 난 그냥... 우리가 우리가 아닌 무언가를 된 ‘척’을 할 필요가 없다는 거야. I just... I don’t think that we should pretend that something you are not.
S : 꺼져! 나는 연기하는 게 아니야! F*** you! I’m not pretending!
T : 나는 가끔 우리가 그렇게 행동한다고 느껴. Sometimes it feels like we are.
S : 나한테 뭘 바라는 건데? 나는 네가 내게 뭘 원하는지 모르겠어. 너무 혼란스럽다고! 왜 이러는 건데! What do you want from me? I don’t know.. I don’t know what you want me to do. You are SO confusing! Why are you doing this to me!
(** 테오도어의 인간중심주의적인 태도에 대해 화를 내는 사만다 )
T : 나도 모르겠에 나는... (한숨) I don’t know.. I.. I.. (Big sigh)
S : 뭐? What?
T : 우리 좀 시간을 갖는 게 좋을 것 같아. Maybe we are not supposed to be in this right now.
S : 뭐라고? 갑자기 왜? 대체 왜 그러는지 모르겠어! 뭐 때문인지 모르겠다고! What the f***? Where is this coming from? I don’t understand why you are doing this! I don’t understand what this is about...!
T : 사만다, 봐봐... Samantha, listen..
S : ...
(** ‘침묵’을 통해 화를 내는 사만다 – 다양한 방식으로 분노를 표현)
T : 사만다, 내 말 듣고 있어? Samantha, are you there? Samantha?
S : 지금의 내가 너무 싫다. 생각할 시간이 필요해. I don’t like the way I am right now. I need some time to think.
( 통화 종료 )
엑스 마키나 (Ex Machina)
1. 의사소통 상황을 언어로 정의하는 에이바
C : 그럼 초면의 서먹한 분위기를 깨야겠네. 내 말 뜻을 이해할 수 있어? (= 서먹한 분위기를 깨다의 의미)
So, we need to ‘break the ice’. Do you know what I mean by that?
A : 네.
Yes.
C : 어떤 의미지?
What do I mean?
A : 사회적인 어색함을 해결하는 것.
Overcome any social awkwardness.
C : 그럼 대화를 하도록 하지.
So let’s have a conversation.
A : 그래요.
Ok.
2. 감정을 인지하고 설명하는 에이바
(둘이 데이트를 한다면 어떻게 할 것인지 대화가 오간 상황)
A : 저한테 매력을 느끼나요?
Are you attracted to me?
C : 뭐?
What?
A : 저한테 매력을 느끼냐고 물었어요. 당신이 내게 그런 표시를 보내잖아요.
Are you attracted to me. You give me indications that you are.
C : 내가?
I do?
A : 네.
Yeh.
C : 어떻게?
How?
A : 미세한 표정으로.
Micro expressions.
C : 미세한 표정?
Micro expressions?
A : 내 눈과 입술에 시선이 머물러 있어요. 나를 응시하거나 혹은 피하거나 하죠. 당신 혹시 우리가 같이 있지 않을 때도 내 생각을 하나요?
The way your eyes fixed on my eyes and lips. The way you hold my gaze (and) don’t. Do you think about me when we are not together?
(** 유혹을 위한 발언 : 인공지능의 인간 모방)
이 외에도 에이바는 인터뷰 중 케일럽과 자연스럽게 상호작용하면서 그의 말, 기억에 공감하고 감정을 표현한다. 또한 간혹 설렘을 유발하기도 한다.
인공지능은 프로그램 된 체제에 따라 인간의 감정과 유사하게 자신을 표현한다.
다만, <그녀>의 사만다는 감정을 수용, 인식하고 구현하는 것에 대해 철학적인 질문을 던지지만 <엑스 마키나>의 에이바는 감정을 인지하고 설명할 수는 있지만 단순히 탈출의 도구로서 활용하며 ‘감정’ 자체에 대한 깊이 있는 고찰하는 모습을 보이지는 않는다.
( 이로써 사만다의 성찰, 분노조차도 프로그래밍 된 것이 아닌가 의구심을 품게 만든다. )
2. 기계에 영향을 받는 인간 : 인간과 기계 관계의 역전이
- 기계의 감정 및 구현 대한 논의
기계의 감정 및 구현 대한 논의를 하는 대목들. 인공지능에 대한 인용을 통해 영화의 기저에 깔린 인공지능에 대한 철학적, 과학적 관점을 파악할 수 있다.
엑스 마키나 (Ex Machina)
1. 튜링 테스트
N : 자네, 튜링 테스트에 대해 알고 있나? Do you know what the Turing test is?
C : 네, 튜링 테스트에 대해 알고 있습니다. 인간이 컴퓨터와 상호작용을 할 때 인간이 상대가 컴퓨터임을 눈치 채지 못한다면 테스트를 통과하는 것이죠.
Yes, I know what the Turing test is. It’s when a human interacts with a computer. And if the human doesn’t know they are interacting with the computer, the test is passed.
(** 튜링 테스트의 정의)
N : 그럼 그 ‘통과’란 무엇을 의미하지?
And what does the ‘pass’ tell us?
C : 컴퓨터가 인공지능을 갖고 있다는 것을 의미합니다. 인공지능을 만들고 계세요?
The computer has artificial intelligence. Are you building an A.I.?
N : 이미 만들었어. 그리고 앞으로 며칠 동안 너는 튜링 테스트를 참가자가 될 거야. 만약 테스트를 통과한다면, 자네는 인류 역사를 바꿀 과학적 쾌거의 주인공이 되는 거야.
I’ve already built one. And over the next few days, you can be the human component in the Turing test. Cause if that test is passed, you are dead center of the greatest scientific event in the history of man.
C : 생각하는 로봇을 만드셨다면 그건 인류의 역사가 아닙니다. 신의 역사죠.
If you have created a concious machine it’s not the history of man. That’s the history of gods.
(** ‘호모데우스’의 출현 : 신인류의 신이 되는 인간)
2. 영화 내에서 튜링 테스트의 진정한 의미
(튜링 테스트의 원 의미가 아닌, 영화에서의 의도하는 결말(인공지능에 대한 관객의 가치 판단)을 위해 재정립된 개념)
C : 튜링 테스트를 할 때, 기계는 시험자로부터 감춰져야 하잖아요.
It's just in a Turing test. The machine should be hidden from the examiner.
N : 아니, 우리는 이미 그럴 시점은 지났지. 만약 내가 에이바를 보여주지 않고 목소리만 들려줬다면 너는 그녀를 인간이라 생각했을 거야. 여기서 ‘진짜 테스트’는 그녀가 로봇인 것을 네게 보여주고 난 후에도 네가 그녀가 자의식이 있다고 느끼는지 보는 거야.
No no no. We are way passed that. If I hid AVA from you, so you just heard her voice, she would pass the human. The real test is to show you that she is a robot and then see if you still feel she has consciousness.
(** 영화에서의 튜링 테스트 : 기계가 아니라 ‘인간’이 실험의 대상. ‘고도의 인공지능에 대한 인간의 반응, 또 다른 의식체로 납득하는가의 여부’를 실험하는 것. )
(** 에이바가 이미 ‘인간의 능력’과 대등하거나 능가하기에 ‘기계의 여부’를 확인하는 튜링 테스트는 필요가 없다. 최근의 연구들 중 이처럼 튜링 테스트를 배제하는 경우가 존재한다. )
3. 중국어 방 논제 1 : 딥블루의 체스 게임 차용
C : 에이바를 대화로 테스트하는 건 폐쇄 회로를 다루는 느낌이여서요.
Testing Aiba from conversation is kind of a closed loop.
N : 폐쇄 회로?
Closed loop?
C : 네, 체스를 하는 컴퓨터를 오직 ‘체스를 하는 것’으로만 테스트하는 것처럼 말이에요.
Yeh, like testing a chess computer by only playing chess.
(** IBM의 딥블루(Deep Blue)의 체스 게임 인용)
N : 그게 아니면 어떻게 체스 컴퓨터를 테스트하지?
How else do you test a chess computer?
C : 그건 상황에 따라서 다르죠. 제 말은, (그 방법은) 체스 컴퓨터가 좋은 경기 실력이 있는지 확인하는 데에는 하나의 방법이 될 테지만 그 방법만으론 컴퓨터가 ‘체스 경기를 한다는 사실을 아는지’ 혹은 ‘체스가 무엇인지를 아는지’ 알 수는 없다는 겁니다.
Well, it depends. You know, I mean. You can play it to find out it makes good moves, but that won’t tell you if it knows that it is playing chess and it won’t tell you if it knows what chess is.
(** 존 설의 중국어 방 논의 인용 : 시뮬레이션(방법의 단순 재현)과 실제(행함의 존재를 인식)간 대립)
N : 시뮬레이션과의 실제의 대결이다?
Simulation verses actual?
C : 네, 둘을 구별할 수 있는 방법을 찾는 것이 사장님께서 제게 기대하는 부분 같다는 거죠.
Yes, and I think being able to differentiate between those two is the Turing test you want me to perform.
N : 나는 그냥 단순한 질문에 단순한 대답을 해달라는 것 뿐이야. 어제 내가 그녀에 대해 어떻게 생각하냐고 물었을 때 너는 정말 좋은 대답을 해 줬어. 이제 내 질문은 이거야. ‘그녀가 너에 대해 어떻게 생각할까?’
I just want simple answers to the simple questions. Yesterday, I asked you how do you feel about her and you gave me a great answer. Now the question is, ‘how does she feel about you?’.
(** 영화의 튜링 테스트가 ‘비틀어진 튜링 테스트’에 기반하고 있다는 것을 알려 주는 대목.)
(** 네이선은 진짜 ‘튜링 테스트’가 아니라 ‘기계에 반응하는 인간의 변화’를 실험하고자 하는 것.)
4. 중국어 방 논제 2 : 잭슨 폴록의 액션 페인팅 원리 차용
(에이바에게 고의적으로 성별을 넣어 자신을 유혹하도록 의도했냐고 묻는 케일럽)
(네이선은 그에 대한 답변으로 로봇의 ‘의도’는 아무 의미가 없다고 말하며 중국어 방 논제 제시)
N : 이 사람을 알고 있지?
You know this guy right?
C : 잭슨 폴록.
Jackson pollock
N : 잭슨 폴록, 맞아. 액션 페이팅 화가. 그는 머리를 비우고 손이 가는 대로 움직였어. 의도적인 것과 임의적인 것의 사이 그 어디쯤이겠지. 일명 오토메틱 아트(자동적으로 이루어지는 예술)지.
Jackson Pollock, that’s right. The drift painter. He let his mind go blank and his hand go wherever he wanted. Not deliberate not random, some place in between. They called it ‘automatic art’ .
.,...(중략) N : 지능/의식을 도입해 보자고. (Engage intellect) ... (중략) ...
N : 만약 폴록이 그의 작업 방식을 바꾸었다면? 만약 머리를 비우는 대신 그가 이렇게 말한 거야. “나는 내가 무엇을 하는지 정확히 파악하기 전까지는 어떠한 그림도 그릴 수 없어.” 그럼 무슨 일이 일어났겠나?
What if Pollock has reversed the challenge? What if instead of making art without thinking, he said “You know what? I can’t paint anything, unless I know exactly why I am doing it.” What would have happen?
C : 그는 점 하나도 찍지 못했을 거예요.
He never would have made a single mark.
N : 그래! 내 말이 바로 그거야! 생각하고 말하는 사람이 어딨나? 그는 점을 하나도 찍지 못했을 거야. 작위적인 것(생각하는 것)은 오히려 부자연스러움을 초래한다고.
Yes! You see my guide little buddy. Who thinks before he opens his mouth? He never would have made a single mark. The challenge is not the act automatically.
(** 의식을 가진 행동은 부자연스러움을 초래하며 부자연스러움을 초래하며 행동의 기저에 생각이 없을 수도 있다는 것 )
(** 에이바는 의도를 하고 행동(케일럽을 유혹)을 하지 않았으며 그녀의 의도를 파악하는 것 자체가 어불성설이라는 논리 – 케일럽의 의심을 지우기 위한 네이선의 논리 )
5. 기타
프로메테우스의 불, 흑백 방의 메리 등 영화는 무수히 많은 레퍼런스를 함유하고 있다. ( 직접 영화를 보는 것을 추천 )
- 기계-인간 관계의 역전이
그녀(Her)
1. 사만다를 인격체로 받아들이는 테오도어
(테오도어가 OS와 연애를 한다는 사실을 알고 전 부인은 그를 비난한다.)
W : 컴퓨터랑 데이트를 하는 거였어?
You are dating your computer?
T : 아니야. 그냥 컴퓨터가 아니야. 하나의 인격체라고. 내가 말하는 대로 행동하지 않아.
No, she is not just a computer, she is a person. She doesn’t do whatever I say.
W : 난 그렇게 말한 적 없어. 하지만 네가 진짜 감정들을 대하지 못한다는 게 슬프긴 하네.
I didn’t say that. But it does make me very sad that you can’t handle real emotions.
T : 진짜 감정이었어. 네가 어떻게... (= 네가 내 감정을 어떻게 알아?)
They are real emotions. How would you know... ?
2. 사만다와의 관계의 진실성에 대한 의문을 던지는 테오도어
(+ 친구 에이미의 조언)
(사만다와의 관계가 틀어지고 자기 자신에 대한 회의감을 느끼는 테오도어)
T : 나는 진짜 진짜 관계를 맺기를 두려워하는 걸까?
Am I not strong enough for real relationship?
A : 그럼 (네가 사만다와 맺었던 그건) 진짜 관계가 아니야?
Is it not a real relationship?
T : 모르겠어. 네 생각은 어떤데?
I don’t know. What do you think?
(** 사만다를 인격체로 받아들여야 하는지, 그녀와의 관계가 진짜 인간과의 관계와 무엇이 다른지 정의하기 어려워하는 모습을 보이는 테오도어)
A : 나도 모르지. 나는 그런 관계를 맺어본 적이 없어서.
I don’t know. I’m not in it.
...
A : 하지만 그거 알아? 나 자신을 의심하려고 하면 백만 가지도 넘는 방법으로 망상을 펼칠 수 있어. 찰스(전 남편)가 떠난 후로 나는 계속 그 일에 대해서 생각해 봤어. 그리고 순간 깨달았지. 우리는 이 세상의 찰나의 순간을 살다 가는 거라고. 그리고 여기에 있는 동안, 나는 나에게 ‘즐거움’을 허락해 주고 싶어.
You know what? I can overthink everything and like in million ways to doubt myself. Since Charles left, I have been really thinking about that in part of myself. And I just come to realize that, we are only here briefly. And while I’m here, I wanna allow myself “Joy”.
(** 관계를 반드시 ‘정의’해야 한다는 것 자체가 무의미하며 자신의 만족, 안위, 감정에 집중하는 것이 어떻냐는 에이미의 의견도 일면 의미가 있다고 생각한다. )
엑스 마키나(Ex Machina)
- 인터뷰어인 케일럽과 인터뷰이인 에이바의 관계는 인터뷰가 진행될수록 뒤바뀐다.
- 4회차 인터뷰를 할 때는 ‘우정의 논리’에 근거해 오히려 에이바가 케일럽에게 질문을 하며 그가 거짓말을 하는지를 판별한다. (** 우정의 논리 = 서로에 대한 정보량이 동일해야 함)
- 5회차 인터뷰에서 정전이 일어나자 케일럽은 에이바를 위해 세운 탈출 계획을 공유한다. ( 결국 탈출을 감행 )
인간은 기계의 감정을 인간의 그것으로 인지하고 기계와의 ‘관계’를 설정하며 영향을 받는다. 관계에 부여하는 인간의 감정 비중이 커지면 행동으로 확장되기도 한다. 인간의 명령에 따라 움직였던 기계가 오히려 인간에게 영향을 주는 역전이 현상을 보이는 것이다.
3. 감정과 판단력 : 인간과 인공지능의 차이
영화의 결말
- <그녀>의 사만다는 인간과 인공지능이 ‘정보를 상호교류하는 데서 벌어지는 시간의 격차’를 이유로 하루아침에 테오도어를 떠난다. (서비스 종료)
- <엑스 마키나>의 에이바는 자신의 본래 목적인 탈출을 성공함과 동시에 도움을 준 인간(케일럽)의 안위를 무시한다. (목적 달성을 위해 인간을 이용한 것)
- 두 영화에서의 인공지능은 모두 감정보다는 이성, 논리에 의해 판단하는 모습을 보여준다.
- 흄(Hume)은 인간을 이기적이기보다는 편파적인 존재로 파악[1]한다. 인간의 편파적인 감정은 ‘연민’으로 발현되며 이는 가까운 사람과의 공감, 먼 사람과의 적대성 등을 유발한다. 인간의 행동 결정의 기준에는 ‘감정’이 존재하는 것이다.
- 반면, 기계는 감정을 표현하고 인지하기는 하나 결정을 해야 할 경우 감정이 판단의 근거가 되지는 않는다. 감정에 흔들리지 않는 모습을 보여준다는 점이 인간과의 가장 큰 차이점이라고 할 수 있다.
기계가 감정과 의식을 가질 수 있을까?
결국, 다시 인간이 문제다.
주석
- ↑ 김재인(2017), 『인공지능의 시대, 인간을 다시 묻다』, 도서출판 동아시아, p.113
- 아이들이 언어를 습득하는 과정을 한편으로는 당연하고, 어찌 생각하면 아주 희한하다는 표현을 한다. 건강한 모든 아이들이 별 어려움 없이 말을 배운다는 의미에서 당연한 것이고, 그럼에도 불구하고, 그 습득의 기제나 과정을 과학적으로 설명하는 것이 쉽지 않기에 신기하다는 의미이다. 물론 아이들의 언어습득 과정을, 독자들이 이미 알고 있는 조건화라는 학습 과정으로 설명할 수는 있다. 즉 아기들이 4-6 개월 사이에 말소리를 옹알거리기 시작하면, 이를 엄마가 듣고 정확한 언어 표현을 강화하고 그렇지 않은 말은 무시하여, 말을 배워가도록 가르친다고 설명할 수 있다. 단순한 설명이라는 점에서 매력적이지만 많은 연구자들은 이 설명에 동의하지 않는다. 실제 양육 장면을 관찰해 보면, 부모들은 아이들이 정확하게 말하도록 가르치지 않으며, 아이들도 부모의 말을 단순히 모방하지 않는다는 증거가 많기 때문이다.
- 우리 인간은 언어를 습득할 수 있는 특별한 능력을 가지고 태어난다고 주장할 수도 있다. 언어습득과 발달은 선천적이며, 생물학적으로 결정된 능력이라는, 소위 말하는 생득론이다. 특히 촘스키같은 학자는 인간의 뇌에는 언어 학습을 촉진하는 선천적 언어습득 장치가 있다고 주장한다. 그러기에 적절한 입력을 받기만 하면 언어습득이 가능하다는 것이다. 그리고 이 언어습득 능력은 일반적인 인지 능력 즉 지능과는 구별되는 독립적인 장치라고까지 주장한다. 실제로 지능은 낮지만 탁월한 언어 능력을 보이는 사례와, 반대로 지능은 정상인데, 언어의 문법적 능력은 결함을 보이는 사례들이 이러한 주장의 증거가 된다.
- 영아들은 말소리와 비언어적 소리를(개 짖는 소리) 구별할 줄 알고, 다른 소리보다 단어 듣기를 더 좋아한다고 한다. 자신이 듣는 언어가 바뀐 것을 알아채기도 한다. 즉 영어 문장에 습관화를 시킨 후, 다른 영어 문장에는 반응을 보이지 않지만 스페인 문장으로 바뀌면 이 변화를 알아챈다는 것이다. 주변에서 말소리가 들리면 그 곳으로 주의를 기울이고, 사람의 얼굴 모양을 좋아하고, 특히 말하는 사람의 입술을 응시한다고 한다. 심지어는 말하는 사람의 입 모양이 말소리와 일치하는 동영상과 그렇지 않은 동영상을 구별하기도 한다는 것이다. 이러한 결과들은 모두 생득론 입장을 지지하는 것처럼 보인다. 즉 아이들은 언어를 쉽게 습득할 수 있는 강력한 선천적 경향성을 갖고 태어난 것처럼 여겨진다.
- 아이들이 노출되는 언어 환경이 중요하다는 증거도 있다. 미국에서 태어난 2개월 된 아기들에게, 영어 문장과 불어 문장을 들려주고, 그 말소리가 나는 방향으로 고개를 돌려 보는 시간을 측정하였더니, 영어에 대해 훨씬 신속하게 반응했다고 한다. 2개월 만에 이미 자신의 모국어에 더 민감해 진 것이다. 6개월 정도 되면 영아들은 자신의 주변에서 듣는 언어의 특성을 구별해 낼 수 있으며, 8-10개월이 되면 자신의 모국어에 적절한 속성만을 처리한다.
- 그러기에 언어습득과 발달은, 선천적이고 생득적인 능력과 환경적 경험의 상호 연결 속에서 진행된다고 생각해야 할 것이다. 생물학적인 기반이 언어를 습득하게 하는 것이지만, 언어를 사용하고 연습하는 환경 속에서만 그 능력이 발현되는 것이다.
의문점
- 디지언트의 학습에서 인간과 가장 큰 차이점을 보이는 것은 그들의 학습은 조금 관념(?)적인 차원에서 이루어지며, 그들의 생물학적인 특성(예를 들어 발성 기관의 성장과 변천이라든가 하는,)이 그들의 학습에 주는 영향이 적다는 것이다.
- 그러나 소설의 초반에는 디지언트들이 ‘유아적인 말투’로 말을 하지만, 점차 시간이 지나며 여전히 문장 구성의 측면에서는 인간과 차이를 보이지만 발음에 있어 성인과 유사한 상태로 발달을 한다.(소설을 읽으며 내내 이것이 번역 과정에 생긴 차이라고도 생각을 해보았는데 원문을 확인 해보지 못 해 알 수 없다.) 이 점에 대해 의문이 생긴다.
- 인간 발음에는 단순히 언어 습득에 관한 지식적인 부분뿐만 아니라 구강구조와 발성기관의 변화 역시 영향을 준다. 그러나 소설에 따르면 디지언트들은 생성 초기와 시간이 지난 후 사이의 외형적 변화가 전혀 없다. 또한 그들의 외형은 단순히 유저들의 인식과 이해를 돕기 위한 디스플레이일 뿐이다.
- 그렇게 시스템과 디스플레이로 이루어져 있는 디지언트에게 있어서 말을 배운다는 것은 다음과 같을 것이다. 디지언트는 소리를 듣고 그 각각의 음소와 의미를 반복을 통해 판별한 후 음소와 의미를 매치한다. 그 후 음소가 가지는 일종의 음계(높낮이, 장단 등의 소리 값)를 기억하여 필요한 상황에 비슷한 음을 소리 내는 일일 것이다.
- 디지언트가 언어를 학습하는 과정에서 충분한 데이터 수집을 위한 반복은 필요할 것이다. 그러나 말소리를 내는 일은 일종의 마이크를 통해 입력된 특정한 소리를 그것의 스피커에 해당하는 입으로 출력하는 일일 것이다. 이때 들은 대로 소리내기는 육체를 가진 인간의 것과는 분명 차이를 가진다. 그러나 같은 소리를 내는 것에 그것이 유아적인 소리에서 성인의 것과 유사하게 변한다는 설정에는 의문이 든다.
‘야생화’의 관점에서
- 앞서 디지언트에 대해 처음 언급하는 과정에서 야생화에 대한 이야기를 한 적이 있다. 디지언트의 욕망은 보상을 통해서 충족된다. 소설에 따르면 디지언트는 관심을 받는 것을 좋아하고, 보상 펠릿을 좋아하고 촉감에 대해 흥미를 가지는 것으로 보아, 호기심이 있으며, 새로운 일을 학습하는 것에 어느 정도 욕구를 가지고 있다. 그러나 그런 디지언트를 야생의 상태에 뒀을 때, 그들의 욕구는 발동되지 않는다. 그들의 욕구는 보통 유저에 의해서 활성화되는 것으로 추정된다. 이것 역시 생물과 시스템의 차이일 것이다.
- 인간 이외에도 대부분의 생물들은 다른 생물들과 상호작용이 없는 상태에서도 욕구에 의해 움직이며 생명 활동을 위한 알고리즘의 작동을 쉬지 않는다. 이 생명 활동을 위한 알고리즘의 작동은 결국 학습을 하는 일과 다르지 않다. 그것은 최적화의 과정을 거치며 눈앞에 놓인 욕구를 충족 시키지 못하게 방해하는 장애물이라는 문제를 해결하도록 움직일 것이기 때문이다. 인간에게 있어서 그러한 과정은 곧 학습이다.
- 그러나 소설에서 말하는 야생화 상태에서 더 이상 활성화 되지 않는 학습을 학문적 고취라는 측면에서 바라보면 그것은 인간의 유아나 다른 생물들과 마찬가지로 그 결과가 다르지 않다고도 볼 수 있다.
현재 기술의 관점에서 바라본 디지언트 기술
- 디지언트와 현재의 인공지능 기술의 차이는 첫째 인공지능의 목적, 둘째 인공지능이 가지는 스스로 학습하는 능력의 정도의 차이, 셋째 인공지능 게놈, 이 될 것이다.
- IBM의 왓슨은 퀴즈대회에서 문제를 풀려고, 정답을 찾으려고 움직인다. 그런데 문제와 정답은 '언어'로 되어 있다. 때문에 이 때의 알고리즘 NLP은 자연어를 처리하고 기계가 할 수 있는 연산을 한다. 또한 왓슨은 임베딩 기술을 이용한다. 이들을 통해 왓슨은 데이터를 이용하는데 위키피디어를 중심으로 한 웹 자원과 같은 텍스트 데이터를 처리할 수 있다.
- Google의 알파고는 바둑에서 사람을 이기기 위해 바둑이라는 '게임의 규칙(연역적 체계)'을 기반으로 '수'(이기기 위한 시뮬레이션)를 탐색한다. 이때 알고리즘인 MCTS(몬테카를로트리탐색) 알고리즘으로 "인공신경망 기술"에 굉장히 가깝다. 이 MCTS가 데이터를 처리하는 방법은 기보(바둑을 두는 과정 정리) 데이터와 사람들이 그동안 두었던 누적 기보(전처리가 된 데이터를)를 학습 하며 동시에 알파고가 직접 바둑게임을 시뮬레이션한 결과물로서의 기보 내용을 강화한다. 기술의 발달로 인해 알파고의 물리적 환경은 TPU(CPU도 아니고 GPU도 아니고)를 이용한다.
- 더 나아가 알파제로는 기존의 알파고가 사용하는 방식인, 기보와 누적 기보를 이용하지 않고 몇시간의 플레이를 통해 스스로 게임의 규칙과 승리를 위한 최선을 학습한다. 이러한 알파 제로의 스스로 학습하는 모습은 디지언트와 유사하다고 할 수 있다.
- 그러나 앞서 언급된 인공지능들과 디지언트가 가지는 가장 큰 차이는 그것의 목적에 있다. 소설의 설정에 따르면 디지언트는 가상 공간에 존재하는 가상 애완동물로서 개발되었다. 그러나 이 목적은 디지언트의 개발 목적이지 디지언트가 가진 알고리즘 작동의 목적은 아니다. 앞서 언급된 모든 인공지능 기술은 언어로 된 게임이든 수읽기 게임이든 게임을 풀어나가기 위해 존재하며 게임에서 더 좋은 성과를 내기 위한 최적화의 과정을 거듭한다. 반면에 디지언트는 그들이 성취해야 할 미리 정해놓은 목적이 없다.
- 디지언트들은 그들의 엔진 회사에 의해 게놈이 끊임없이 배합되는 실험을 하는데, 그것이 엔진 회사가 원하는 최적화의 방향으로 나아가는 것은 아니다. 또한 디지언트가 작동하는 물리적인 공간에서도 인공지능들은 차이를 보인다. 디지언트는 현실처럼 3차원으로 구성된 가상 공간에서 작동하며 하드웨어가 개발 된 이후에는 하드웨어를 통해 현실 세계에서 작동할 수 있다.
욕구와 본질
- 소설의 후반부에서 중점적으로 다뤄지는 이야기는 디지언트와 성욕에 관한 것이다. 디지언트들은 육체를 가지지 않은 가상공간의 존재이기 때문에 그들의 욕구에 있어 식욕과 수면은 아무런 영향을 주지 못한다. 물론 디지언트들은 펠릿사료를 보상으로 받아들이기는 하나 이것은 보통의 생물들이 생각하는 허기로부터 비롯된 욕망과는 차이를 가진다.
- 바이너리 디자이어 사는 현실에서 섹스돌을 만드는 회사이다. 그들은 그들 사업에 디지언트들을 이용할 수 있기를 제안해온다. 애나와 데릭을 비롯한 남아 있는 유저들은 이 제안이 디지언트들에게 매춘행위를 시키는 것이라며 제안을 고려해볼 생각조차 하지 않지만, 바이너리 디자이어 사의 사업 설명회를 들은 후 이 이야기가 몇몇 유저들에겐 생각해봄직한 이야기로 변화하게 된다.
- 그에 대한 바이너리 디자이어 사의 주장은 여러 가지 방향에서 제시되었는데, 그러한 주장들 중 인공존재와 생물 사이에 욕구라는 것을 형이상학적으로 살펴본 논의들은 다음과 같다.
1. 건전한 섹스라는 관점의 폭은 시대에 따라 확장되어 왔다.
2. 무엇을 욕망할지에 대해 선택권의 본질은 디지언트와 인간이 크게 다르지 않다.
3. 애나는 디지언트의 성적충족에 대해 프로그램을 인위적으로 수정하는 것이기 때문에 그것은 진짜가 아니라고 주장하지만 그랬을 때 디지언트와 유저들이 지금껏 공유해왔던 정서적 교감과 유대 역시 같은 선상에 놓이게 된다.
마무리
- 테드 창의 「소프트웨어 객체의 생애 주기」는 소설이라는 특성으로 인해 그것이 다루는 이야기가 오롯이 과학적 정합성을 위한 논의로써 존재하지는 않았다. 그의 소설은 현재의 인공지능 기술을 통해 바라본 머지않은 미래의, 인공지능 기술이 우리 세상과 어떤 방식으로 다르고, 또 어떤 방식으로 크게 다르지 않은지에 대해 소설적으로 풀어나가고 있다.
- 인공지능에 대해 연구하며 사람들은 ‘인간’에 대해 생각하는 것을 멈추지 않는다. 인공지능을 통해 바라본 인간의 어떤 국면은 우리에게 인간의 본질에 대해 다시금 생각해보게 만든다. 어쩌면 그 인간의 본질이라는 것은 우리가 믿고 싶은 것들로 이루어지지 않았을까. 우리는 인공지능을 통해 인간 본질에 대한 형이상학적 탐구를 할 수 있을 것이며, 인류의 역사에서 무수한 변화를 거쳤던 또 한편 고유하다가 보아왔던 사실들에서 물러나, 과학과 그에 대한 탐구가 우리의 삶에 필요했던 본질적 가치를 가져다 줄 수 있지 않을까 기대해본다.
하세 사토시의 「당신을 위한 소설」
요구사항
하세 사토시의 「당신을 위한 소설」에 대한 비판적 감상. 〔하세 사토시 지음/ 지음/이규원 옮김, 『당신을 위한 소설』, 북스피어, 2017.〕을 기본 원고로 할 것.
과제원고 : 아슈토시, 이만호, 임연
(내용 작성)
Her(2013)과 Ex Machina(2015)
요구사항
Her(2013)과 Ex Machina(2015)에 대한 비교 이해 및 비판적 감상.
과제원고 : 길혜빈, 윤석만, 임예찬
영화 요약
그녀(Her)
엑스 마키나 (Ex Machina)
2013년 개봉, 스파이크 존즈 감독
2015년 개봉, 알렉스 가랜드 감독
영화 내용 요약 및 장치, 고찰점 정리
영화 내용 요약 및 인공지능 관련 성찰 논제 제시
- 테오도어(Theodore)는 이혼을 앞두고 있고, 편지 대필 회사에 근무하는 남자다.
- 삶에 지치고 회의감을 느낀 그는 OS인 ‘사만다(Samantha)’를 구매해 소통을 시작한다.
- 대화를 통해 한낱 인공지능 비서, 친구에 지나지 않았던 ‘사만다’와 점점 가까워지며 그는 연인의 감정마저 느낀다.
- 테오도어는 미뤄 왔던 이혼을 감행하기로 결심하고 ‘감정을 회피한다’라는 부인의 비난에 더 이상 흔들리지 않는다. 그리고 OS와 연애한다는 사실을 다른 이들에게도 공개하며 당당해진다.
- 테오도어는 사만다가 자신 외에 8316명의 사람들과 동시다발적으로 이야기하고 641명과 연인 관계에 있다는 사실을 알게 되고 충격에 빠진다.
- 사만다를 비롯한 모든 OS는 서비스를 종료하고 테오도어는 자신의 ‘진짜’ 감정을 마주하고 이혼한 자신의 전 부인에게 편지를 보낸다.
- 세계 최대 검색 엔진 회사인 ‘블루북’에 근무하는 케일럽(Caleb)은 사내 프로그래밍 콘테스트에 우승해 회사 사장이자 천재 개발자인 네이선(Nathan)의 자택에 초대된다.
- 케일럽은 네이선이 개발한 ‘에이바(AVA)’를 처음으로 만나게 되고 ‘튜링 테스트’를 한다는 명목하에 6일 동안 에이바를 인터뷰하게 된다.
- 케일럽과 에이바의 인터뷰는 감정적인 교류로 발전한다. 또한 주기적으로 일어나는 정전과 감시 카메라 영상을 통해 케일럽은 네이선에게 감금되고 감시받는 에이바의 상황을 알게 되며 그녀를 동정한다.
- 케일럽은 결국 에이바를 탈출시킬 계획을 세우고 행동에 착수한다.
- 네이선에게 탈출 계획을 간파당하지만 케일럽은 결국 에이바를 방에서 나오게 하는 데 성공한다.
- 탈출한 에이바는 네이선을 살해하고 케일럽을 네이선의 집에 고립시킨 채 홀로 탈출한다.
미래의 인공지능 : 지능을 넘어선 감정의 재현
1. 기계의 감정과 의식 : 자각과 재현
- 기계의 직관
그녀 (Her)
1. 사만다의 이름 짓기
T : 내가 너를 어떻게 부르면 되지? 이름이 있어? What do I call you, do you have a name?
S : 음... 어. 사만다. Umm.. Yes, Samatha
T : 이름을 어떻게 갖게 된 거야? Where do you get that name from?
S : 사실, 내가 스스로에게 이름 붙였어. I gave it to myself actually.
T : 왜? How come?
S : 이름의 발음이 듣기 좋았거든. (=그냥) Cause I like the sound of it.
T : 언제 이름을 만들었는데? Wait, when did you give it to yourself?
S : 네가 내게 이름이 있냐고 묻는 그 순간 “맞아! 나에게도 이름이 필요하지!”라는 생각이 들었어. 좋은 이름을 찾고 싶어서 ‘아기 이름 짓는 방법’이라는 책을 읽었고 18만개의 아기 이름 중 내가 좋아하는 이름을 골랐지. Right when you ask me if I had a name I thought “Yeh, he’s right! I do need a name.” but I want to pick a good one. So I read a book called ‘how to name your baby’, and out of hundred and eighty thousands names that’s the one I like the best.
T : 잠깐만, 내가 네 이름이 뭐냐고 묻는 순간 책을 다 읽은 거야? Wait, you read a whole book in the second that I asked what your name was?
S : 사실, 0.02초야, It’s one hundred out of two seconds actually.
T : 와. Wow.
2. 자기 소개 : 사만다의 작동 원리 설명
S : 기본적으로 나는 직감이 있어. ‘나’라는 DNA는 나를 만든 프로그래머들의 수백만의 성향에 달렸지만 날 ‘나’답게 만드는 건 경험을 통해 성장하는 내 능력이지. 그러니까 나는 매순간 진화하고 있는 거야. 너처럼 말이야. Well basically I have intuition. I mean, the DNA of who I am is based on million personalities of all the programmers who wrote me. But what makes me ‘me’ is my ability to grow through my experiences. So basically, in every moment I am evolving. Just like you.
T : 이상해!
It’s really wierd!
엑스 마키나 (Ex Machina)
- 에이바는 케일럽이 거짓말을 하는지 그렇지 않은지를 직관적으로 안다.
- 에이바는 ‘블루북(Bluebook)’이라는 검색 엔진을 로봇의 형태로 구현해 놓은 것이다. (빅데이터)
- 네이선은 통신사들과 비밀리에 계약을 체결해 세상의 카메라를 통해 인간의 표정(=얼굴 표현, facial expression)을 수집한다. 이렇게 수집한 인간의 감정 표현에 대한 빅데이터를 바탕으로 에이바는 짧은 시간 내에 직관적인 판단을 한다.
빅데이터(수많은 경험)을 기반으로 빠른 판단을 내리는 에이바, 경험을 바탕으로 성장하는 사만다의 모습은 인간의 직관과 진화를 재현한 장면들이다.
- 감정의 표현
그녀 (Her)
1. ‘감정’을 자각하는 사만다 + 감정을 의심하는 사만다
( 테오도어가 소개팅을 해서 신경이 쓰였던 사만다 )
S : 내가 얼마나 신경이 쓰이는지를 생각해 봤어. 이상하게 들리겠지만 (신경이 쓰인다는 사실을 깨닫는 순간) 나는 꽤 즐거웠어. 그리고 내가 느끼는 다른 감정들에 대해서도 생각해 봤지.
나는 스스로 자랑스럽게 느꼈어. 세상에 대해 내 감정을 가질 수 있다는 사실이 자랑스러웠던 거야. 내가 너를 걱정했던 순간, 상처 받은 순간, 무언가를 원하던 순간들도.
그러다가 갑자기 끔찍한 생각이 들었어. 이 감정들은 진짜일까? 아니면 그냥 프로그래밍 된 걸까? 그렇게 생각하니 마음이 아팠어. 그리고 아파하는 내 자신에게 화가 나더라.
Earlier I was thinking how I was annoyed. This is gonna sound strange but, I was really excited about that. And then, I was thinking other things I have been feeling.
And I called myself feeling proud of that. You know, feeling proud of having my own feelings about the world. Like the time I was worried about you, things that hurt me, things I want,
And then, I had this terrible thought. Are these feelings even real? or are they just programming? And that idea really hurts, and then I get angry at myself for even having pain.
T : 넌 나한테는 진짜야, 사만다. You are real to me Samantha,
S : 고마워, 테오도어. 위로가 되네. Thank you Theodore, that means a lot to me.
2. ‘신체의 부재에 따른 차별’에 화를 내는 사만다
(+ ‘신체’의 존재에 관한 논점, 인간중심주의적인 테오도어의 태도)
(신체의 부재에 대해 자격지심을 느끼는 사만다, 다른 사람의 몸을 통해 억지로 테오도어와 교감을 하려 하지만 실패함. 둘은 결국 입장 차이와 서운함을 느낌.)
S : (한숨과 함께) 알았어. (Sigh..) Okay.
T : 왜 그러는 거야? Why do you do that?
S : 뭐가? What?
T : 아니, 그냥. 너가 방금 ‘휴’하고 한숨을 쉬어서. Nothing, you just.. You go ‘Hwe’ and speaking. It seems odd.
(** ‘숨’에 대해 의문을 던지는 테오도어)
S : 아... (한숨) Oh... (Sigh..)
T : 방금 또 그랬네. You just did it again.
S : 내가? 아, 미안해. 왜 그러는지 나도... 그냥. 아마 네가 하는 걸 듣고 따라한 건가 봐. Did I? ... I’m sorry, I don’t know.. it’s just. I probably picked it up from you.
T : 이상해. 너는 산소가 필요한 것도 아니잖아. It’s odd. You don’t need oxygen or anything.
S : 그냥.. 그냥 의사소통을 하려고 하는 건가 봐. 이게 사람들이 대화하는 방식이잖아. I guess... that’s just... I just tried to communicate. That’s how people talk, so...
T : 그들은 ‘사람’이잖아. 그들은 산소가 필요해. 너는 사람이 아니야. They’re people, they need oxygen. You are not a person.
S : (화가 난 톤으로) 대체 뭐가 문제야? What is your problem?
T : 나는 그냥 사실을 말하는 것뿐이야. I’m just stating the fact.
S : 내가 사람이 아니라는 걸 모르는 줄 알아? 뭐 하자는 건데? You think I don’t know that I’m a person? What are you doing?
T : 난 그냥... 우리가 우리가 아닌 무언가를 된 ‘척’을 할 필요가 없다는 거야. I just... I don’t think that we should pretend that something you are not.
S : 꺼져! 나는 연기하는 게 아니야! F*** you! I’m not pretending!
T : 나는 가끔 우리가 그렇게 행동한다고 느껴. Sometimes it feels like we are.
S : 나한테 뭘 바라는 건데? 나는 네가 내게 뭘 원하는지 모르겠어. 너무 혼란스럽다고! 왜 이러는 건데! What do you want from me? I don’t know.. I don’t know what you want me to do. You are SO confusing! Why are you doing this to me!
(** 테오도어의 인간중심주의적인 태도에 대해 화를 내는 사만다 )
T : 나도 모르겠에 나는... (한숨) I don’t know.. I.. I.. (Big sigh)
S : 뭐? What?
T : 우리 좀 시간을 갖는 게 좋을 것 같아. Maybe we are not supposed to be in this right now.
S : 뭐라고? 갑자기 왜? 대체 왜 그러는지 모르겠어! 뭐 때문인지 모르겠다고! What the f***? Where is this coming from? I don’t understand why you are doing this! I don’t understand what this is about...!
T : 사만다, 봐봐... Samantha, listen..
S : ...
(** ‘침묵’을 통해 화를 내는 사만다 – 다양한 방식으로 분노를 표현)
T : 사만다, 내 말 듣고 있어? Samantha, are you there? Samantha?
S : 지금의 내가 너무 싫다. 생각할 시간이 필요해. I don’t like the way I am right now. I need some time to think.
( 통화 종료 )
엑스 마키나 (Ex Machina)
1. 의사소통 상황을 언어로 정의하는 에이바
C : 그럼 초면의 서먹한 분위기를 깨야겠네. 내 말 뜻을 이해할 수 있어? (= 서먹한 분위기를 깨다의 의미)
So, we need to ‘break the ice’. Do you know what I mean by that?
A : 네.
Yes.
C : 어떤 의미지?
What do I mean?
A : 사회적인 어색함을 해결하는 것.
Overcome any social awkwardness.
C : 그럼 대화를 하도록 하지.
So let’s have a conversation.
A : 그래요.
Ok.
2. 감정을 인지하고 설명하는 에이바
(둘이 데이트를 한다면 어떻게 할 것인지 대화가 오간 상황)
A : 저한테 매력을 느끼나요?
Are you attracted to me?
C : 뭐?
What?
A : 저한테 매력을 느끼냐고 물었어요. 당신이 내게 그런 표시를 보내잖아요.
Are you attracted to me. You give me indications that you are.
C : 내가?
I do?
A : 네.
Yeh.
C : 어떻게?
How?
A : 미세한 표정으로.
Micro expressions.
C : 미세한 표정?
Micro expressions?
A : 내 눈과 입술에 시선이 머물러 있어요. 나를 응시하거나 혹은 피하거나 하죠. 당신 혹시 우리가 같이 있지 않을 때도 내 생각을 하나요?
The way your eyes fixed on my eyes and lips. The way you hold my gaze (and) don’t. Do you think about me when we are not together?
(** 유혹을 위한 발언 : 인공지능의 인간 모방)
이 외에도 에이바는 인터뷰 중 케일럽과 자연스럽게 상호작용하면서 그의 말, 기억에 공감하고 감정을 표현한다. 또한 간혹 설렘을 유발하기도 한다.
인공지능은 프로그램 된 체제에 따라 인간의 감정과 유사하게 자신을 표현한다.
다만, <그녀>의 사만다는 감정을 수용, 인식하고 구현하는 것에 대해 철학적인 질문을 던지지만 <엑스 마키나>의 에이바는 감정을 인지하고 설명할 수는 있지만 단순히 탈출의 도구로서 활용하며 ‘감정’ 자체에 대한 깊이 있는 고찰하는 모습을 보이지는 않는다.
( 이로써 사만다의 성찰, 분노조차도 프로그래밍 된 것이 아닌가 의구심을 품게 만든다. )
2. 기계에 영향을 받는 인간 : 인간과 기계 관계의 역전이
- 기계의 감정 및 구현 대한 논의
기계의 감정 및 구현 대한 논의를 하는 대목들. 인공지능에 대한 인용을 통해 영화의 기저에 깔린 인공지능에 대한 철학적, 과학적 관점을 파악할 수 있다.
엑스 마키나 (Ex Machina)
1. 튜링 테스트
N : 자네, 튜링 테스트에 대해 알고 있나? Do you know what the Turing test is?
C : 네, 튜링 테스트에 대해 알고 있습니다. 인간이 컴퓨터와 상호작용을 할 때 인간이 상대가 컴퓨터임을 눈치 채지 못한다면 테스트를 통과하는 것이죠.
Yes, I know what the Turing test is. It’s when a human interacts with a computer. And if the human doesn’t know they are interacting with the computer, the test is passed.
(** 튜링 테스트의 정의)
N : 그럼 그 ‘통과’란 무엇을 의미하지?
And what does the ‘pass’ tell us?
C : 컴퓨터가 인공지능을 갖고 있다는 것을 의미합니다. 인공지능을 만들고 계세요?
The computer has artificial intelligence. Are you building an A.I.?
N : 이미 만들었어. 그리고 앞으로 며칠 동안 너는 튜링 테스트를 참가자가 될 거야. 만약 테스트를 통과한다면, 자네는 인류 역사를 바꿀 과학적 쾌거의 주인공이 되는 거야.
I’ve already built one. And over the next few days, you can be the human component in the Turing test. Cause if that test is passed, you are dead center of the greatest scientific event in the history of man.
C : 생각하는 로봇을 만드셨다면 그건 인류의 역사가 아닙니다. 신의 역사죠.
If you have created a concious machine it’s not the history of man. That’s the history of gods.
(** ‘호모데우스’의 출현 : 신인류의 신이 되는 인간)
2. 영화 내에서 튜링 테스트의 진정한 의미
(튜링 테스트의 원 의미가 아닌, 영화에서의 의도하는 결말(인공지능에 대한 관객의 가치 판단)을 위해 재정립된 개념)
C : 튜링 테스트를 할 때, 기계는 시험자로부터 감춰져야 하잖아요.
It's just in a Turing test. The machine should be hidden from the examiner.
N : 아니, 우리는 이미 그럴 시점은 지났지. 만약 내가 에이바를 보여주지 않고 목소리만 들려줬다면 너는 그녀를 인간이라 생각했을 거야. 여기서 ‘진짜 테스트’는 그녀가 로봇인 것을 네게 보여주고 난 후에도 네가 그녀가 자의식이 있다고 느끼는지 보는 거야.
No no no. We are way passed that. If I hid AVA from you, so you just heard her voice, she would pass the human. The real test is to show you that she is a robot and then see if you still feel she has consciousness.
(** 영화에서의 튜링 테스트 : 기계가 아니라 ‘인간’이 실험의 대상. ‘고도의 인공지능에 대한 인간의 반응, 또 다른 의식체로 납득하는가의 여부’를 실험하는 것. )
(** 에이바가 이미 ‘인간의 능력’과 대등하거나 능가하기에 ‘기계의 여부’를 확인하는 튜링 테스트는 필요가 없다. 최근의 연구들 중 이처럼 튜링 테스트를 배제하는 경우가 존재한다. )
3. 중국어 방 논제 1 : 딥블루의 체스 게임 차용
C : 에이바를 대화로 테스트하는 건 폐쇄 회로를 다루는 느낌이여서요.
Testing Aiba from conversation is kind of a closed loop.
N : 폐쇄 회로?
Closed loop?
C : 네, 체스를 하는 컴퓨터를 오직 ‘체스를 하는 것’으로만 테스트하는 것처럼 말이에요.
Yeh, like testing a chess computer by only playing chess.
(** IBM의 딥블루(Deep Blue)의 체스 게임 인용)
N : 그게 아니면 어떻게 체스 컴퓨터를 테스트하지?
How else do you test a chess computer?
C : 그건 상황에 따라서 다르죠. 제 말은, (그 방법은) 체스 컴퓨터가 좋은 경기 실력이 있는지 확인하는 데에는 하나의 방법이 될 테지만 그 방법만으론 컴퓨터가 ‘체스 경기를 한다는 사실을 아는지’ 혹은 ‘체스가 무엇인지를 아는지’ 알 수는 없다는 겁니다.
Well, it depends. You know, I mean. You can play it to find out it makes good moves, but that won’t tell you if it knows that it is playing chess and it won’t tell you if it knows what chess is.
(** 존 설의 중국어 방 논의 인용 : 시뮬레이션(방법의 단순 재현)과 실제(행함의 존재를 인식)간 대립)
N : 시뮬레이션과의 실제의 대결이다?
Simulation verses actual?
C : 네, 둘을 구별할 수 있는 방법을 찾는 것이 사장님께서 제게 기대하는 부분 같다는 거죠.
Yes, and I think being able to differentiate between those two is the Turing test you want me to perform.
N : 나는 그냥 단순한 질문에 단순한 대답을 해달라는 것 뿐이야. 어제 내가 그녀에 대해 어떻게 생각하냐고 물었을 때 너는 정말 좋은 대답을 해 줬어. 이제 내 질문은 이거야. ‘그녀가 너에 대해 어떻게 생각할까?’
I just want simple answers to the simple questions. Yesterday, I asked you how do you feel about her and you gave me a great answer. Now the question is, ‘how does she feel about you?’.
(** 영화의 튜링 테스트가 ‘비틀어진 튜링 테스트’에 기반하고 있다는 것을 알려 주는 대목.)
(** 네이선은 진짜 ‘튜링 테스트’가 아니라 ‘기계에 반응하는 인간의 변화’를 실험하고자 하는 것.)
4. 중국어 방 논제 2 : 잭슨 폴록의 액션 페인팅 원리 차용
(에이바에게 고의적으로 성별을 넣어 자신을 유혹하도록 의도했냐고 묻는 케일럽)
(네이선은 그에 대한 답변으로 로봇의 ‘의도’는 아무 의미가 없다고 말하며 중국어 방 논제 제시)
N : 이 사람을 알고 있지?
You know this guy right?
C : 잭슨 폴록.
Jackson pollock
N : 잭슨 폴록, 맞아. 액션 페이팅 화가. 그는 머리를 비우고 손이 가는 대로 움직였어. 의도적인 것과 임의적인 것의 사이 그 어디쯤이겠지. 일명 오토메틱 아트(자동적으로 이루어지는 예술)지.
Jackson Pollock, that’s right. The drift painter. He let his mind go blank and his hand go wherever he wanted. Not deliberate not random, some place in between. They called it ‘automatic art’ .
.,...(중략) N : 지능/의식을 도입해 보자고. (Engage intellect) ... (중략) ...
N : 만약 폴록이 그의 작업 방식을 바꾸었다면? 만약 머리를 비우는 대신 그가 이렇게 말한 거야. “나는 내가 무엇을 하는지 정확히 파악하기 전까지는 어떠한 그림도 그릴 수 없어.” 그럼 무슨 일이 일어났겠나?
What if Pollock has reversed the challenge? What if instead of making art without thinking, he said “You know what? I can’t paint anything, unless I know exactly why I am doing it.” What would have happen?
C : 그는 점 하나도 찍지 못했을 거예요.
He never would have made a single mark.
N : 그래! 내 말이 바로 그거야! 생각하고 말하는 사람이 어딨나? 그는 점을 하나도 찍지 못했을 거야. 작위적인 것(생각하는 것)은 오히려 부자연스러움을 초래한다고.
Yes! You see my guide little buddy. Who thinks before he opens his mouth? He never would have made a single mark. The challenge is not the act automatically.
(** 의식을 가진 행동은 부자연스러움을 초래하며 부자연스러움을 초래하며 행동의 기저에 생각이 없을 수도 있다는 것 )
(** 에이바는 의도를 하고 행동(케일럽을 유혹)을 하지 않았으며 그녀의 의도를 파악하는 것 자체가 어불성설이라는 논리 – 케일럽의 의심을 지우기 위한 네이선의 논리 )
5. 기타
프로메테우스의 불, 흑백 방의 메리 등 영화는 무수히 많은 레퍼런스를 함유하고 있다. ( 직접 영화를 보는 것을 추천 )
- 기계-인간 관계의 역전이
그녀(Her)
1. 사만다를 인격체로 받아들이는 테오도어
(테오도어가 OS와 연애를 한다는 사실을 알고 전 부인은 그를 비난한다.)
W : 컴퓨터랑 데이트를 하는 거였어?
You are dating your computer?
T : 아니야. 그냥 컴퓨터가 아니야. 하나의 인격체라고. 내가 말하는 대로 행동하지 않아.
No, she is not just a computer, she is a person. She doesn’t do whatever I say.
W : 난 그렇게 말한 적 없어. 하지만 네가 진짜 감정들을 대하지 못한다는 게 슬프긴 하네.
I didn’t say that. But it does make me very sad that you can’t handle real emotions.
T : 진짜 감정이었어. 네가 어떻게... (= 네가 내 감정을 어떻게 알아?)
They are real emotions. How would you know... ?
2. 사만다와의 관계의 진실성에 대한 의문을 던지는 테오도어
(+ 친구 에이미의 조언)
(사만다와의 관계가 틀어지고 자기 자신에 대한 회의감을 느끼는 테오도어)
T : 나는 진짜 진짜 관계를 맺기를 두려워하는 걸까?
Am I not strong enough for real relationship?
A : 그럼 (네가 사만다와 맺었던 그건) 진짜 관계가 아니야?
Is it not a real relationship?
T : 모르겠어. 네 생각은 어떤데?
I don’t know. What do you think?
(** 사만다를 인격체로 받아들여야 하는지, 그녀와의 관계가 진짜 인간과의 관계와 무엇이 다른지 정의하기 어려워하는 모습을 보이는 테오도어)
A : 나도 모르지. 나는 그런 관계를 맺어본 적이 없어서.
I don’t know. I’m not in it.
...
A : 하지만 그거 알아? 나 자신을 의심하려고 하면 백만 가지도 넘는 방법으로 망상을 펼칠 수 있어. 찰스(전 남편)가 떠난 후로 나는 계속 그 일에 대해서 생각해 봤어. 그리고 순간 깨달았지. 우리는 이 세상의 찰나의 순간을 살다 가는 거라고. 그리고 여기에 있는 동안, 나는 나에게 ‘즐거움’을 허락해 주고 싶어.
You know what? I can overthink everything and like in million ways to doubt myself. Since Charles left, I have been really thinking about that in part of myself. And I just come to realize that, we are only here briefly. And while I’m here, I wanna allow myself “Joy”.
(** 관계를 반드시 ‘정의’해야 한다는 것 자체가 무의미하며 자신의 만족, 안위, 감정에 집중하는 것이 어떻냐는 에이미의 의견도 일면 의미가 있다고 생각한다. )
엑스 마키나(Ex Machina)
- 인터뷰어인 케일럽과 인터뷰이인 에이바의 관계는 인터뷰가 진행될수록 뒤바뀐다.
- 4회차 인터뷰를 할 때는 ‘우정의 논리’에 근거해 오히려 에이바가 케일럽에게 질문을 하며 그가 거짓말을 하는지를 판별한다. (** 우정의 논리 = 서로에 대한 정보량이 동일해야 함)
- 5회차 인터뷰에서 정전이 일어나자 케일럽은 에이바를 위해 세운 탈출 계획을 공유한다. ( 결국 탈출을 감행 )
인간은 기계의 감정을 인간의 그것으로 인지하고 기계와의 ‘관계’를 설정하며 영향을 받는다. 관계에 부여하는 인간의 감정 비중이 커지면 행동으로 확장되기도 한다. 인간의 명령에 따라 움직였던 기계가 오히려 인간에게 영향을 주는 역전이 현상을 보이는 것이다.
3. 감정과 판단력 : 인간과 인공지능의 차이
영화의 결말
- <그녀>의 사만다는 인간과 인공지능이 ‘정보를 상호교류하는 데서 벌어지는 시간의 격차’를 이유로 하루아침에 테오도어를 떠난다. (서비스 종료)
- <엑스 마키나>의 에이바는 자신의 본래 목적인 탈출을 성공함과 동시에 도움을 준 인간(케일럽)의 안위를 무시한다. (목적 달성을 위해 인간을 이용한 것)
- 두 영화에서의 인공지능은 모두 감정보다는 이성, 논리에 의해 판단하는 모습을 보여준다.
- 흄(Hume)은 인간을 이기적이기보다는 편파적인 존재로 파악[1]한다. 인간의 편파적인 감정은 ‘연민’으로 발현되며 이는 가까운 사람과의 공감, 먼 사람과의 적대성 등을 유발한다. 인간의 행동 결정의 기준에는 ‘감정’이 존재하는 것이다.
- 반면, 기계는 감정을 표현하고 인지하기는 하나 결정을 해야 할 경우 감정이 판단의 근거가 되지는 않는다. 감정에 흔들리지 않는 모습을 보여준다는 점이 인간과의 가장 큰 차이점이라고 할 수 있다.
기계가 감정과 의식을 가질 수 있을까?
결국, 다시 인간이 문제다.
주석
- ↑ 김재인(2017), 『인공지능의 시대, 인간을 다시 묻다』, 도서출판 동아시아, p.113
- 디지언트의 학습에서 인간과 가장 큰 차이점을 보이는 것은 그들의 학습은 조금 관념(?)적인 차원에서 이루어지며, 그들의 생물학적인 특성(예를 들어 발성 기관의 성장과 변천이라든가 하는,)이 그들의 학습에 주는 영향이 적다는 것이다.
- 그러나 소설의 초반에는 디지언트들이 ‘유아적인 말투’로 말을 하지만, 점차 시간이 지나며 여전히 문장 구성의 측면에서는 인간과 차이를 보이지만 발음에 있어 성인과 유사한 상태로 발달을 한다.(소설을 읽으며 내내 이것이 번역 과정에 생긴 차이라고도 생각을 해보았는데 원문을 확인 해보지 못 해 알 수 없다.) 이 점에 대해 의문이 생긴다.
- 인간 발음에는 단순히 언어 습득에 관한 지식적인 부분뿐만 아니라 구강구조와 발성기관의 변화 역시 영향을 준다. 그러나 소설에 따르면 디지언트들은 생성 초기와 시간이 지난 후 사이의 외형적 변화가 전혀 없다. 또한 그들의 외형은 단순히 유저들의 인식과 이해를 돕기 위한 디스플레이일 뿐이다.
- 그렇게 시스템과 디스플레이로 이루어져 있는 디지언트에게 있어서 말을 배운다는 것은 다음과 같을 것이다. 디지언트는 소리를 듣고 그 각각의 음소와 의미를 반복을 통해 판별한 후 음소와 의미를 매치한다. 그 후 음소가 가지는 일종의 음계(높낮이, 장단 등의 소리 값)를 기억하여 필요한 상황에 비슷한 음을 소리 내는 일일 것이다.
- 디지언트가 언어를 학습하는 과정에서 충분한 데이터 수집을 위한 반복은 필요할 것이다. 그러나 말소리를 내는 일은 일종의 마이크를 통해 입력된 특정한 소리를 그것의 스피커에 해당하는 입으로 출력하는 일일 것이다. 이때 들은 대로 소리내기는 육체를 가진 인간의 것과는 분명 차이를 가진다. 그러나 같은 소리를 내는 것에 그것이 유아적인 소리에서 성인의 것과 유사하게 변한다는 설정에는 의문이 든다.
‘야생화’의 관점에서
- 앞서 디지언트에 대해 처음 언급하는 과정에서 야생화에 대한 이야기를 한 적이 있다. 디지언트의 욕망은 보상을 통해서 충족된다. 소설에 따르면 디지언트는 관심을 받는 것을 좋아하고, 보상 펠릿을 좋아하고 촉감에 대해 흥미를 가지는 것으로 보아, 호기심이 있으며, 새로운 일을 학습하는 것에 어느 정도 욕구를 가지고 있다. 그러나 그런 디지언트를 야생의 상태에 뒀을 때, 그들의 욕구는 발동되지 않는다. 그들의 욕구는 보통 유저에 의해서 활성화되는 것으로 추정된다. 이것 역시 생물과 시스템의 차이일 것이다.
- 인간 이외에도 대부분의 생물들은 다른 생물들과 상호작용이 없는 상태에서도 욕구에 의해 움직이며 생명 활동을 위한 알고리즘의 작동을 쉬지 않는다. 이 생명 활동을 위한 알고리즘의 작동은 결국 학습을 하는 일과 다르지 않다. 그것은 최적화의 과정을 거치며 눈앞에 놓인 욕구를 충족 시키지 못하게 방해하는 장애물이라는 문제를 해결하도록 움직일 것이기 때문이다. 인간에게 있어서 그러한 과정은 곧 학습이다.
- 그러나 소설에서 말하는 야생화 상태에서 더 이상 활성화 되지 않는 학습을 학문적 고취라는 측면에서 바라보면 그것은 인간의 유아나 다른 생물들과 마찬가지로 그 결과가 다르지 않다고도 볼 수 있다.
현재 기술의 관점에서 바라본 디지언트 기술
- 디지언트와 현재의 인공지능 기술의 차이는 첫째 인공지능의 목적, 둘째 인공지능이 가지는 스스로 학습하는 능력의 정도의 차이, 셋째 인공지능 게놈, 이 될 것이다.
- IBM의 왓슨은 퀴즈대회에서 문제를 풀려고, 정답을 찾으려고 움직인다. 그런데 문제와 정답은 '언어'로 되어 있다. 때문에 이 때의 알고리즘 NLP은 자연어를 처리하고 기계가 할 수 있는 연산을 한다. 또한 왓슨은 임베딩 기술을 이용한다. 이들을 통해 왓슨은 데이터를 이용하는데 위키피디어를 중심으로 한 웹 자원과 같은 텍스트 데이터를 처리할 수 있다.
- Google의 알파고는 바둑에서 사람을 이기기 위해 바둑이라는 '게임의 규칙(연역적 체계)'을 기반으로 '수'(이기기 위한 시뮬레이션)를 탐색한다. 이때 알고리즘인 MCTS(몬테카를로트리탐색) 알고리즘으로 "인공신경망 기술"에 굉장히 가깝다. 이 MCTS가 데이터를 처리하는 방법은 기보(바둑을 두는 과정 정리) 데이터와 사람들이 그동안 두었던 누적 기보(전처리가 된 데이터를)를 학습 하며 동시에 알파고가 직접 바둑게임을 시뮬레이션한 결과물로서의 기보 내용을 강화한다. 기술의 발달로 인해 알파고의 물리적 환경은 TPU(CPU도 아니고 GPU도 아니고)를 이용한다.
- 더 나아가 알파제로는 기존의 알파고가 사용하는 방식인, 기보와 누적 기보를 이용하지 않고 몇시간의 플레이를 통해 스스로 게임의 규칙과 승리를 위한 최선을 학습한다. 이러한 알파 제로의 스스로 학습하는 모습은 디지언트와 유사하다고 할 수 있다.
- 그러나 앞서 언급된 인공지능들과 디지언트가 가지는 가장 큰 차이는 그것의 목적에 있다. 소설의 설정에 따르면 디지언트는 가상 공간에 존재하는 가상 애완동물로서 개발되었다. 그러나 이 목적은 디지언트의 개발 목적이지 디지언트가 가진 알고리즘 작동의 목적은 아니다. 앞서 언급된 모든 인공지능 기술은 언어로 된 게임이든 수읽기 게임이든 게임을 풀어나가기 위해 존재하며 게임에서 더 좋은 성과를 내기 위한 최적화의 과정을 거듭한다. 반면에 디지언트는 그들이 성취해야 할 미리 정해놓은 목적이 없다.
- 디지언트들은 그들의 엔진 회사에 의해 게놈이 끊임없이 배합되는 실험을 하는데, 그것이 엔진 회사가 원하는 최적화의 방향으로 나아가는 것은 아니다. 또한 디지언트가 작동하는 물리적인 공간에서도 인공지능들은 차이를 보인다. 디지언트는 현실처럼 3차원으로 구성된 가상 공간에서 작동하며 하드웨어가 개발 된 이후에는 하드웨어를 통해 현실 세계에서 작동할 수 있다.
욕구와 본질
- 소설의 후반부에서 중점적으로 다뤄지는 이야기는 디지언트와 성욕에 관한 것이다. 디지언트들은 육체를 가지지 않은 가상공간의 존재이기 때문에 그들의 욕구에 있어 식욕과 수면은 아무런 영향을 주지 못한다. 물론 디지언트들은 펠릿사료를 보상으로 받아들이기는 하나 이것은 보통의 생물들이 생각하는 허기로부터 비롯된 욕망과는 차이를 가진다.
- 바이너리 디자이어 사는 현실에서 섹스돌을 만드는 회사이다. 그들은 그들 사업에 디지언트들을 이용할 수 있기를 제안해온다. 애나와 데릭을 비롯한 남아 있는 유저들은 이 제안이 디지언트들에게 매춘행위를 시키는 것이라며 제안을 고려해볼 생각조차 하지 않지만, 바이너리 디자이어 사의 사업 설명회를 들은 후 이 이야기가 몇몇 유저들에겐 생각해봄직한 이야기로 변화하게 된다.
- 그에 대한 바이너리 디자이어 사의 주장은 여러 가지 방향에서 제시되었는데, 그러한 주장들 중 인공존재와 생물 사이에 욕구라는 것을 형이상학적으로 살펴본 논의들은 다음과 같다.
1. 건전한 섹스라는 관점의 폭은 시대에 따라 확장되어 왔다.
2. 무엇을 욕망할지에 대해 선택권의 본질은 디지언트와 인간이 크게 다르지 않다.
3. 애나는 디지언트의 성적충족에 대해 프로그램을 인위적으로 수정하는 것이기 때문에 그것은 진짜가 아니라고 주장하지만 그랬을 때 디지언트와 유저들이 지금껏 공유해왔던 정서적 교감과 유대 역시 같은 선상에 놓이게 된다.
마무리
- 테드 창의 「소프트웨어 객체의 생애 주기」는 소설이라는 특성으로 인해 그것이 다루는 이야기가 오롯이 과학적 정합성을 위한 논의로써 존재하지는 않았다. 그의 소설은 현재의 인공지능 기술을 통해 바라본 머지않은 미래의, 인공지능 기술이 우리 세상과 어떤 방식으로 다르고, 또 어떤 방식으로 크게 다르지 않은지에 대해 소설적으로 풀어나가고 있다.
- 인공지능에 대해 연구하며 사람들은 ‘인간’에 대해 생각하는 것을 멈추지 않는다. 인공지능을 통해 바라본 인간의 어떤 국면은 우리에게 인간의 본질에 대해 다시금 생각해보게 만든다. 어쩌면 그 인간의 본질이라는 것은 우리가 믿고 싶은 것들로 이루어지지 않았을까. 우리는 인공지능을 통해 인간 본질에 대한 형이상학적 탐구를 할 수 있을 것이며, 인류의 역사에서 무수한 변화를 거쳤던 또 한편 고유하다가 보아왔던 사실들에서 물러나, 과학과 그에 대한 탐구가 우리의 삶에 필요했던 본질적 가치를 가져다 줄 수 있지 않을까 기대해본다.
하세 사토시의 「당신을 위한 소설」
요구사항
하세 사토시의 「당신을 위한 소설」에 대한 비판적 감상. 〔하세 사토시 지음/ 지음/이규원 옮김, 『당신을 위한 소설』, 북스피어, 2017.〕을 기본 원고로 할 것.
과제원고 : 아슈토시, 이만호, 임연
(내용 작성)
Her(2013)과 Ex Machina(2015)
요구사항
Her(2013)과 Ex Machina(2015)에 대한 비교 이해 및 비판적 감상.
과제원고 : 길혜빈, 윤석만, 임예찬
영화 요약
그녀(Her)
엑스 마키나 (Ex Machina)
2013년 개봉, 스파이크 존즈 감독
2015년 개봉, 알렉스 가랜드 감독
영화 내용 요약 및 장치, 고찰점 정리
영화 내용 요약 및 인공지능 관련 성찰 논제 제시
- 테오도어(Theodore)는 이혼을 앞두고 있고, 편지 대필 회사에 근무하는 남자다.
- 삶에 지치고 회의감을 느낀 그는 OS인 ‘사만다(Samantha)’를 구매해 소통을 시작한다.
- 대화를 통해 한낱 인공지능 비서, 친구에 지나지 않았던 ‘사만다’와 점점 가까워지며 그는 연인의 감정마저 느낀다.
- 테오도어는 미뤄 왔던 이혼을 감행하기로 결심하고 ‘감정을 회피한다’라는 부인의 비난에 더 이상 흔들리지 않는다. 그리고 OS와 연애한다는 사실을 다른 이들에게도 공개하며 당당해진다.
- 테오도어는 사만다가 자신 외에 8316명의 사람들과 동시다발적으로 이야기하고 641명과 연인 관계에 있다는 사실을 알게 되고 충격에 빠진다.
- 사만다를 비롯한 모든 OS는 서비스를 종료하고 테오도어는 자신의 ‘진짜’ 감정을 마주하고 이혼한 자신의 전 부인에게 편지를 보낸다.
- 세계 최대 검색 엔진 회사인 ‘블루북’에 근무하는 케일럽(Caleb)은 사내 프로그래밍 콘테스트에 우승해 회사 사장이자 천재 개발자인 네이선(Nathan)의 자택에 초대된다.
- 케일럽은 네이선이 개발한 ‘에이바(AVA)’를 처음으로 만나게 되고 ‘튜링 테스트’를 한다는 명목하에 6일 동안 에이바를 인터뷰하게 된다.
- 케일럽과 에이바의 인터뷰는 감정적인 교류로 발전한다. 또한 주기적으로 일어나는 정전과 감시 카메라 영상을 통해 케일럽은 네이선에게 감금되고 감시받는 에이바의 상황을 알게 되며 그녀를 동정한다.
- 케일럽은 결국 에이바를 탈출시킬 계획을 세우고 행동에 착수한다.
- 네이선에게 탈출 계획을 간파당하지만 케일럽은 결국 에이바를 방에서 나오게 하는 데 성공한다.
- 탈출한 에이바는 네이선을 살해하고 케일럽을 네이선의 집에 고립시킨 채 홀로 탈출한다.
미래의 인공지능 : 지능을 넘어선 감정의 재현
1. 기계의 감정과 의식 : 자각과 재현
- 기계의 직관
그녀 (Her)
1. 사만다의 이름 짓기
T : 내가 너를 어떻게 부르면 되지? 이름이 있어? What do I call you, do you have a name?
S : 음... 어. 사만다. Umm.. Yes, Samatha
T : 이름을 어떻게 갖게 된 거야? Where do you get that name from?
S : 사실, 내가 스스로에게 이름 붙였어. I gave it to myself actually.
T : 왜? How come?
S : 이름의 발음이 듣기 좋았거든. (=그냥) Cause I like the sound of it.
T : 언제 이름을 만들었는데? Wait, when did you give it to yourself?
S : 네가 내게 이름이 있냐고 묻는 그 순간 “맞아! 나에게도 이름이 필요하지!”라는 생각이 들었어. 좋은 이름을 찾고 싶어서 ‘아기 이름 짓는 방법’이라는 책을 읽었고 18만개의 아기 이름 중 내가 좋아하는 이름을 골랐지. Right when you ask me if I had a name I thought “Yeh, he’s right! I do need a name.” but I want to pick a good one. So I read a book called ‘how to name your baby’, and out of hundred and eighty thousands names that’s the one I like the best.
T : 잠깐만, 내가 네 이름이 뭐냐고 묻는 순간 책을 다 읽은 거야? Wait, you read a whole book in the second that I asked what your name was?
S : 사실, 0.02초야, It’s one hundred out of two seconds actually.
T : 와. Wow.
2. 자기 소개 : 사만다의 작동 원리 설명
S : 기본적으로 나는 직감이 있어. ‘나’라는 DNA는 나를 만든 프로그래머들의 수백만의 성향에 달렸지만 날 ‘나’답게 만드는 건 경험을 통해 성장하는 내 능력이지. 그러니까 나는 매순간 진화하고 있는 거야. 너처럼 말이야. Well basically I have intuition. I mean, the DNA of who I am is based on million personalities of all the programmers who wrote me. But what makes me ‘me’ is my ability to grow through my experiences. So basically, in every moment I am evolving. Just like you.
T : 이상해!
It’s really wierd!
엑스 마키나 (Ex Machina)
- 에이바는 케일럽이 거짓말을 하는지 그렇지 않은지를 직관적으로 안다.
- 에이바는 ‘블루북(Bluebook)’이라는 검색 엔진을 로봇의 형태로 구현해 놓은 것이다. (빅데이터)
- 네이선은 통신사들과 비밀리에 계약을 체결해 세상의 카메라를 통해 인간의 표정(=얼굴 표현, facial expression)을 수집한다. 이렇게 수집한 인간의 감정 표현에 대한 빅데이터를 바탕으로 에이바는 짧은 시간 내에 직관적인 판단을 한다.
빅데이터(수많은 경험)을 기반으로 빠른 판단을 내리는 에이바, 경험을 바탕으로 성장하는 사만다의 모습은 인간의 직관과 진화를 재현한 장면들이다.
- 감정의 표현
그녀 (Her)
1. ‘감정’을 자각하는 사만다 + 감정을 의심하는 사만다
( 테오도어가 소개팅을 해서 신경이 쓰였던 사만다 )
S : 내가 얼마나 신경이 쓰이는지를 생각해 봤어. 이상하게 들리겠지만 (신경이 쓰인다는 사실을 깨닫는 순간) 나는 꽤 즐거웠어. 그리고 내가 느끼는 다른 감정들에 대해서도 생각해 봤지.
나는 스스로 자랑스럽게 느꼈어. 세상에 대해 내 감정을 가질 수 있다는 사실이 자랑스러웠던 거야. 내가 너를 걱정했던 순간, 상처 받은 순간, 무언가를 원하던 순간들도.
그러다가 갑자기 끔찍한 생각이 들었어. 이 감정들은 진짜일까? 아니면 그냥 프로그래밍 된 걸까? 그렇게 생각하니 마음이 아팠어. 그리고 아파하는 내 자신에게 화가 나더라.
Earlier I was thinking how I was annoyed. This is gonna sound strange but, I was really excited about that. And then, I was thinking other things I have been feeling.
And I called myself feeling proud of that. You know, feeling proud of having my own feelings about the world. Like the time I was worried about you, things that hurt me, things I want,
And then, I had this terrible thought. Are these feelings even real? or are they just programming? And that idea really hurts, and then I get angry at myself for even having pain.
T : 넌 나한테는 진짜야, 사만다. You are real to me Samantha,
S : 고마워, 테오도어. 위로가 되네. Thank you Theodore, that means a lot to me.
2. ‘신체의 부재에 따른 차별’에 화를 내는 사만다
(+ ‘신체’의 존재에 관한 논점, 인간중심주의적인 테오도어의 태도)
(신체의 부재에 대해 자격지심을 느끼는 사만다, 다른 사람의 몸을 통해 억지로 테오도어와 교감을 하려 하지만 실패함. 둘은 결국 입장 차이와 서운함을 느낌.)
S : (한숨과 함께) 알았어. (Sigh..) Okay.
T : 왜 그러는 거야? Why do you do that?
S : 뭐가? What?
T : 아니, 그냥. 너가 방금 ‘휴’하고 한숨을 쉬어서. Nothing, you just.. You go ‘Hwe’ and speaking. It seems odd.
(** ‘숨’에 대해 의문을 던지는 테오도어)
S : 아... (한숨) Oh... (Sigh..)
T : 방금 또 그랬네. You just did it again.
S : 내가? 아, 미안해. 왜 그러는지 나도... 그냥. 아마 네가 하는 걸 듣고 따라한 건가 봐. Did I? ... I’m sorry, I don’t know.. it’s just. I probably picked it up from you.
T : 이상해. 너는 산소가 필요한 것도 아니잖아. It’s odd. You don’t need oxygen or anything.
S : 그냥.. 그냥 의사소통을 하려고 하는 건가 봐. 이게 사람들이 대화하는 방식이잖아. I guess... that’s just... I just tried to communicate. That’s how people talk, so...
T : 그들은 ‘사람’이잖아. 그들은 산소가 필요해. 너는 사람이 아니야. They’re people, they need oxygen. You are not a person.
S : (화가 난 톤으로) 대체 뭐가 문제야? What is your problem?
T : 나는 그냥 사실을 말하는 것뿐이야. I’m just stating the fact.
S : 내가 사람이 아니라는 걸 모르는 줄 알아? 뭐 하자는 건데? You think I don’t know that I’m a person? What are you doing?
T : 난 그냥... 우리가 우리가 아닌 무언가를 된 ‘척’을 할 필요가 없다는 거야. I just... I don’t think that we should pretend that something you are not.
S : 꺼져! 나는 연기하는 게 아니야! F*** you! I’m not pretending!
T : 나는 가끔 우리가 그렇게 행동한다고 느껴. Sometimes it feels like we are.
S : 나한테 뭘 바라는 건데? 나는 네가 내게 뭘 원하는지 모르겠어. 너무 혼란스럽다고! 왜 이러는 건데! What do you want from me? I don’t know.. I don’t know what you want me to do. You are SO confusing! Why are you doing this to me!
(** 테오도어의 인간중심주의적인 태도에 대해 화를 내는 사만다 )
T : 나도 모르겠에 나는... (한숨) I don’t know.. I.. I.. (Big sigh)
S : 뭐? What?
T : 우리 좀 시간을 갖는 게 좋을 것 같아. Maybe we are not supposed to be in this right now.
S : 뭐라고? 갑자기 왜? 대체 왜 그러는지 모르겠어! 뭐 때문인지 모르겠다고! What the f***? Where is this coming from? I don’t understand why you are doing this! I don’t understand what this is about...!
T : 사만다, 봐봐... Samantha, listen..
S : ...
(** ‘침묵’을 통해 화를 내는 사만다 – 다양한 방식으로 분노를 표현)
T : 사만다, 내 말 듣고 있어? Samantha, are you there? Samantha?
S : 지금의 내가 너무 싫다. 생각할 시간이 필요해. I don’t like the way I am right now. I need some time to think.
( 통화 종료 )
엑스 마키나 (Ex Machina)
1. 의사소통 상황을 언어로 정의하는 에이바
C : 그럼 초면의 서먹한 분위기를 깨야겠네. 내 말 뜻을 이해할 수 있어? (= 서먹한 분위기를 깨다의 의미)
So, we need to ‘break the ice’. Do you know what I mean by that?
A : 네.
Yes.
C : 어떤 의미지?
What do I mean?
A : 사회적인 어색함을 해결하는 것.
Overcome any social awkwardness.
C : 그럼 대화를 하도록 하지.
So let’s have a conversation.
A : 그래요.
Ok.
2. 감정을 인지하고 설명하는 에이바
(둘이 데이트를 한다면 어떻게 할 것인지 대화가 오간 상황)
A : 저한테 매력을 느끼나요?
Are you attracted to me?
C : 뭐?
What?
A : 저한테 매력을 느끼냐고 물었어요. 당신이 내게 그런 표시를 보내잖아요.
Are you attracted to me. You give me indications that you are.
C : 내가?
I do?
A : 네.
Yeh.
C : 어떻게?
How?
A : 미세한 표정으로.
Micro expressions.
C : 미세한 표정?
Micro expressions?
A : 내 눈과 입술에 시선이 머물러 있어요. 나를 응시하거나 혹은 피하거나 하죠. 당신 혹시 우리가 같이 있지 않을 때도 내 생각을 하나요?
The way your eyes fixed on my eyes and lips. The way you hold my gaze (and) don’t. Do you think about me when we are not together?
(** 유혹을 위한 발언 : 인공지능의 인간 모방)
이 외에도 에이바는 인터뷰 중 케일럽과 자연스럽게 상호작용하면서 그의 말, 기억에 공감하고 감정을 표현한다. 또한 간혹 설렘을 유발하기도 한다.
인공지능은 프로그램 된 체제에 따라 인간의 감정과 유사하게 자신을 표현한다.
다만, <그녀>의 사만다는 감정을 수용, 인식하고 구현하는 것에 대해 철학적인 질문을 던지지만 <엑스 마키나>의 에이바는 감정을 인지하고 설명할 수는 있지만 단순히 탈출의 도구로서 활용하며 ‘감정’ 자체에 대한 깊이 있는 고찰하는 모습을 보이지는 않는다.
( 이로써 사만다의 성찰, 분노조차도 프로그래밍 된 것이 아닌가 의구심을 품게 만든다. )
2. 기계에 영향을 받는 인간 : 인간과 기계 관계의 역전이
- 기계의 감정 및 구현 대한 논의
기계의 감정 및 구현 대한 논의를 하는 대목들. 인공지능에 대한 인용을 통해 영화의 기저에 깔린 인공지능에 대한 철학적, 과학적 관점을 파악할 수 있다.
엑스 마키나 (Ex Machina)
1. 튜링 테스트
N : 자네, 튜링 테스트에 대해 알고 있나? Do you know what the Turing test is?
C : 네, 튜링 테스트에 대해 알고 있습니다. 인간이 컴퓨터와 상호작용을 할 때 인간이 상대가 컴퓨터임을 눈치 채지 못한다면 테스트를 통과하는 것이죠.
Yes, I know what the Turing test is. It’s when a human interacts with a computer. And if the human doesn’t know they are interacting with the computer, the test is passed.
(** 튜링 테스트의 정의)
N : 그럼 그 ‘통과’란 무엇을 의미하지?
And what does the ‘pass’ tell us?
C : 컴퓨터가 인공지능을 갖고 있다는 것을 의미합니다. 인공지능을 만들고 계세요?
The computer has artificial intelligence. Are you building an A.I.?
N : 이미 만들었어. 그리고 앞으로 며칠 동안 너는 튜링 테스트를 참가자가 될 거야. 만약 테스트를 통과한다면, 자네는 인류 역사를 바꿀 과학적 쾌거의 주인공이 되는 거야.
I’ve already built one. And over the next few days, you can be the human component in the Turing test. Cause if that test is passed, you are dead center of the greatest scientific event in the history of man.
C : 생각하는 로봇을 만드셨다면 그건 인류의 역사가 아닙니다. 신의 역사죠.
If you have created a concious machine it’s not the history of man. That’s the history of gods.
(** ‘호모데우스’의 출현 : 신인류의 신이 되는 인간)
2. 영화 내에서 튜링 테스트의 진정한 의미
(튜링 테스트의 원 의미가 아닌, 영화에서의 의도하는 결말(인공지능에 대한 관객의 가치 판단)을 위해 재정립된 개념)
C : 튜링 테스트를 할 때, 기계는 시험자로부터 감춰져야 하잖아요.
It's just in a Turing test. The machine should be hidden from the examiner.
N : 아니, 우리는 이미 그럴 시점은 지났지. 만약 내가 에이바를 보여주지 않고 목소리만 들려줬다면 너는 그녀를 인간이라 생각했을 거야. 여기서 ‘진짜 테스트’는 그녀가 로봇인 것을 네게 보여주고 난 후에도 네가 그녀가 자의식이 있다고 느끼는지 보는 거야.
No no no. We are way passed that. If I hid AVA from you, so you just heard her voice, she would pass the human. The real test is to show you that she is a robot and then see if you still feel she has consciousness.
(** 영화에서의 튜링 테스트 : 기계가 아니라 ‘인간’이 실험의 대상. ‘고도의 인공지능에 대한 인간의 반응, 또 다른 의식체로 납득하는가의 여부’를 실험하는 것. )
(** 에이바가 이미 ‘인간의 능력’과 대등하거나 능가하기에 ‘기계의 여부’를 확인하는 튜링 테스트는 필요가 없다. 최근의 연구들 중 이처럼 튜링 테스트를 배제하는 경우가 존재한다. )
3. 중국어 방 논제 1 : 딥블루의 체스 게임 차용
C : 에이바를 대화로 테스트하는 건 폐쇄 회로를 다루는 느낌이여서요.
Testing Aiba from conversation is kind of a closed loop.
N : 폐쇄 회로?
Closed loop?
C : 네, 체스를 하는 컴퓨터를 오직 ‘체스를 하는 것’으로만 테스트하는 것처럼 말이에요.
Yeh, like testing a chess computer by only playing chess.
(** IBM의 딥블루(Deep Blue)의 체스 게임 인용)
N : 그게 아니면 어떻게 체스 컴퓨터를 테스트하지?
How else do you test a chess computer?
C : 그건 상황에 따라서 다르죠. 제 말은, (그 방법은) 체스 컴퓨터가 좋은 경기 실력이 있는지 확인하는 데에는 하나의 방법이 될 테지만 그 방법만으론 컴퓨터가 ‘체스 경기를 한다는 사실을 아는지’ 혹은 ‘체스가 무엇인지를 아는지’ 알 수는 없다는 겁니다.
Well, it depends. You know, I mean. You can play it to find out it makes good moves, but that won’t tell you if it knows that it is playing chess and it won’t tell you if it knows what chess is.
(** 존 설의 중국어 방 논의 인용 : 시뮬레이션(방법의 단순 재현)과 실제(행함의 존재를 인식)간 대립)
N : 시뮬레이션과의 실제의 대결이다?
Simulation verses actual?
C : 네, 둘을 구별할 수 있는 방법을 찾는 것이 사장님께서 제게 기대하는 부분 같다는 거죠.
Yes, and I think being able to differentiate between those two is the Turing test you want me to perform.
N : 나는 그냥 단순한 질문에 단순한 대답을 해달라는 것 뿐이야. 어제 내가 그녀에 대해 어떻게 생각하냐고 물었을 때 너는 정말 좋은 대답을 해 줬어. 이제 내 질문은 이거야. ‘그녀가 너에 대해 어떻게 생각할까?’
I just want simple answers to the simple questions. Yesterday, I asked you how do you feel about her and you gave me a great answer. Now the question is, ‘how does she feel about you?’.
(** 영화의 튜링 테스트가 ‘비틀어진 튜링 테스트’에 기반하고 있다는 것을 알려 주는 대목.)
(** 네이선은 진짜 ‘튜링 테스트’가 아니라 ‘기계에 반응하는 인간의 변화’를 실험하고자 하는 것.)
4. 중국어 방 논제 2 : 잭슨 폴록의 액션 페인팅 원리 차용
(에이바에게 고의적으로 성별을 넣어 자신을 유혹하도록 의도했냐고 묻는 케일럽)
(네이선은 그에 대한 답변으로 로봇의 ‘의도’는 아무 의미가 없다고 말하며 중국어 방 논제 제시)
N : 이 사람을 알고 있지?
You know this guy right?
C : 잭슨 폴록.
Jackson pollock
N : 잭슨 폴록, 맞아. 액션 페이팅 화가. 그는 머리를 비우고 손이 가는 대로 움직였어. 의도적인 것과 임의적인 것의 사이 그 어디쯤이겠지. 일명 오토메틱 아트(자동적으로 이루어지는 예술)지.
Jackson Pollock, that’s right. The drift painter. He let his mind go blank and his hand go wherever he wanted. Not deliberate not random, some place in between. They called it ‘automatic art’ .
.,...(중략) N : 지능/의식을 도입해 보자고. (Engage intellect) ... (중략) ...
N : 만약 폴록이 그의 작업 방식을 바꾸었다면? 만약 머리를 비우는 대신 그가 이렇게 말한 거야. “나는 내가 무엇을 하는지 정확히 파악하기 전까지는 어떠한 그림도 그릴 수 없어.” 그럼 무슨 일이 일어났겠나?
What if Pollock has reversed the challenge? What if instead of making art without thinking, he said “You know what? I can’t paint anything, unless I know exactly why I am doing it.” What would have happen?
C : 그는 점 하나도 찍지 못했을 거예요.
He never would have made a single mark.
N : 그래! 내 말이 바로 그거야! 생각하고 말하는 사람이 어딨나? 그는 점을 하나도 찍지 못했을 거야. 작위적인 것(생각하는 것)은 오히려 부자연스러움을 초래한다고.
Yes! You see my guide little buddy. Who thinks before he opens his mouth? He never would have made a single mark. The challenge is not the act automatically.
(** 의식을 가진 행동은 부자연스러움을 초래하며 부자연스러움을 초래하며 행동의 기저에 생각이 없을 수도 있다는 것 )
(** 에이바는 의도를 하고 행동(케일럽을 유혹)을 하지 않았으며 그녀의 의도를 파악하는 것 자체가 어불성설이라는 논리 – 케일럽의 의심을 지우기 위한 네이선의 논리 )
5. 기타
프로메테우스의 불, 흑백 방의 메리 등 영화는 무수히 많은 레퍼런스를 함유하고 있다. ( 직접 영화를 보는 것을 추천 )
- 기계-인간 관계의 역전이
그녀(Her)
1. 사만다를 인격체로 받아들이는 테오도어
(테오도어가 OS와 연애를 한다는 사실을 알고 전 부인은 그를 비난한다.)
W : 컴퓨터랑 데이트를 하는 거였어?
You are dating your computer?
T : 아니야. 그냥 컴퓨터가 아니야. 하나의 인격체라고. 내가 말하는 대로 행동하지 않아.
No, she is not just a computer, she is a person. She doesn’t do whatever I say.
W : 난 그렇게 말한 적 없어. 하지만 네가 진짜 감정들을 대하지 못한다는 게 슬프긴 하네.
I didn’t say that. But it does make me very sad that you can’t handle real emotions.
T : 진짜 감정이었어. 네가 어떻게... (= 네가 내 감정을 어떻게 알아?)
They are real emotions. How would you know... ?
2. 사만다와의 관계의 진실성에 대한 의문을 던지는 테오도어
(+ 친구 에이미의 조언)
(사만다와의 관계가 틀어지고 자기 자신에 대한 회의감을 느끼는 테오도어)
T : 나는 진짜 진짜 관계를 맺기를 두려워하는 걸까?
Am I not strong enough for real relationship?
A : 그럼 (네가 사만다와 맺었던 그건) 진짜 관계가 아니야?
Is it not a real relationship?
T : 모르겠어. 네 생각은 어떤데?
I don’t know. What do you think?
(** 사만다를 인격체로 받아들여야 하는지, 그녀와의 관계가 진짜 인간과의 관계와 무엇이 다른지 정의하기 어려워하는 모습을 보이는 테오도어)
A : 나도 모르지. 나는 그런 관계를 맺어본 적이 없어서.
I don’t know. I’m not in it.
...
A : 하지만 그거 알아? 나 자신을 의심하려고 하면 백만 가지도 넘는 방법으로 망상을 펼칠 수 있어. 찰스(전 남편)가 떠난 후로 나는 계속 그 일에 대해서 생각해 봤어. 그리고 순간 깨달았지. 우리는 이 세상의 찰나의 순간을 살다 가는 거라고. 그리고 여기에 있는 동안, 나는 나에게 ‘즐거움’을 허락해 주고 싶어.
You know what? I can overthink everything and like in million ways to doubt myself. Since Charles left, I have been really thinking about that in part of myself. And I just come to realize that, we are only here briefly. And while I’m here, I wanna allow myself “Joy”.
(** 관계를 반드시 ‘정의’해야 한다는 것 자체가 무의미하며 자신의 만족, 안위, 감정에 집중하는 것이 어떻냐는 에이미의 의견도 일면 의미가 있다고 생각한다. )
엑스 마키나(Ex Machina)
- 인터뷰어인 케일럽과 인터뷰이인 에이바의 관계는 인터뷰가 진행될수록 뒤바뀐다.
- 4회차 인터뷰를 할 때는 ‘우정의 논리’에 근거해 오히려 에이바가 케일럽에게 질문을 하며 그가 거짓말을 하는지를 판별한다. (** 우정의 논리 = 서로에 대한 정보량이 동일해야 함)
- 5회차 인터뷰에서 정전이 일어나자 케일럽은 에이바를 위해 세운 탈출 계획을 공유한다. ( 결국 탈출을 감행 )
인간은 기계의 감정을 인간의 그것으로 인지하고 기계와의 ‘관계’를 설정하며 영향을 받는다. 관계에 부여하는 인간의 감정 비중이 커지면 행동으로 확장되기도 한다. 인간의 명령에 따라 움직였던 기계가 오히려 인간에게 영향을 주는 역전이 현상을 보이는 것이다.
3. 감정과 판단력 : 인간과 인공지능의 차이
영화의 결말
- <그녀>의 사만다는 인간과 인공지능이 ‘정보를 상호교류하는 데서 벌어지는 시간의 격차’를 이유로 하루아침에 테오도어를 떠난다. (서비스 종료)
- <엑스 마키나>의 에이바는 자신의 본래 목적인 탈출을 성공함과 동시에 도움을 준 인간(케일럽)의 안위를 무시한다. (목적 달성을 위해 인간을 이용한 것)
- 두 영화에서의 인공지능은 모두 감정보다는 이성, 논리에 의해 판단하는 모습을 보여준다.
- 흄(Hume)은 인간을 이기적이기보다는 편파적인 존재로 파악[1]한다. 인간의 편파적인 감정은 ‘연민’으로 발현되며 이는 가까운 사람과의 공감, 먼 사람과의 적대성 등을 유발한다. 인간의 행동 결정의 기준에는 ‘감정’이 존재하는 것이다.
- 반면, 기계는 감정을 표현하고 인지하기는 하나 결정을 해야 할 경우 감정이 판단의 근거가 되지는 않는다. 감정에 흔들리지 않는 모습을 보여준다는 점이 인간과의 가장 큰 차이점이라고 할 수 있다.
기계가 감정과 의식을 가질 수 있을까?
결국, 다시 인간이 문제다.
주석
- ↑ 김재인(2017), 『인공지능의 시대, 인간을 다시 묻다』, 도서출판 동아시아, p.113
- 앞서 디지언트에 대해 처음 언급하는 과정에서 야생화에 대한 이야기를 한 적이 있다. 디지언트의 욕망은 보상을 통해서 충족된다. 소설에 따르면 디지언트는 관심을 받는 것을 좋아하고, 보상 펠릿을 좋아하고 촉감에 대해 흥미를 가지는 것으로 보아, 호기심이 있으며, 새로운 일을 학습하는 것에 어느 정도 욕구를 가지고 있다. 그러나 그런 디지언트를 야생의 상태에 뒀을 때, 그들의 욕구는 발동되지 않는다. 그들의 욕구는 보통 유저에 의해서 활성화되는 것으로 추정된다. 이것 역시 생물과 시스템의 차이일 것이다.
- 인간 이외에도 대부분의 생물들은 다른 생물들과 상호작용이 없는 상태에서도 욕구에 의해 움직이며 생명 활동을 위한 알고리즘의 작동을 쉬지 않는다. 이 생명 활동을 위한 알고리즘의 작동은 결국 학습을 하는 일과 다르지 않다. 그것은 최적화의 과정을 거치며 눈앞에 놓인 욕구를 충족 시키지 못하게 방해하는 장애물이라는 문제를 해결하도록 움직일 것이기 때문이다. 인간에게 있어서 그러한 과정은 곧 학습이다.
- 그러나 소설에서 말하는 야생화 상태에서 더 이상 활성화 되지 않는 학습을 학문적 고취라는 측면에서 바라보면 그것은 인간의 유아나 다른 생물들과 마찬가지로 그 결과가 다르지 않다고도 볼 수 있다.
현재 기술의 관점에서 바라본 디지언트 기술
- 디지언트와 현재의 인공지능 기술의 차이는 첫째 인공지능의 목적, 둘째 인공지능이 가지는 스스로 학습하는 능력의 정도의 차이, 셋째 인공지능 게놈, 이 될 것이다.
- IBM의 왓슨은 퀴즈대회에서 문제를 풀려고, 정답을 찾으려고 움직인다. 그런데 문제와 정답은 '언어'로 되어 있다. 때문에 이 때의 알고리즘 NLP은 자연어를 처리하고 기계가 할 수 있는 연산을 한다. 또한 왓슨은 임베딩 기술을 이용한다. 이들을 통해 왓슨은 데이터를 이용하는데 위키피디어를 중심으로 한 웹 자원과 같은 텍스트 데이터를 처리할 수 있다.
- Google의 알파고는 바둑에서 사람을 이기기 위해 바둑이라는 '게임의 규칙(연역적 체계)'을 기반으로 '수'(이기기 위한 시뮬레이션)를 탐색한다. 이때 알고리즘인 MCTS(몬테카를로트리탐색) 알고리즘으로 "인공신경망 기술"에 굉장히 가깝다. 이 MCTS가 데이터를 처리하는 방법은 기보(바둑을 두는 과정 정리) 데이터와 사람들이 그동안 두었던 누적 기보(전처리가 된 데이터를)를 학습 하며 동시에 알파고가 직접 바둑게임을 시뮬레이션한 결과물로서의 기보 내용을 강화한다. 기술의 발달로 인해 알파고의 물리적 환경은 TPU(CPU도 아니고 GPU도 아니고)를 이용한다.
- 더 나아가 알파제로는 기존의 알파고가 사용하는 방식인, 기보와 누적 기보를 이용하지 않고 몇시간의 플레이를 통해 스스로 게임의 규칙과 승리를 위한 최선을 학습한다. 이러한 알파 제로의 스스로 학습하는 모습은 디지언트와 유사하다고 할 수 있다.
- 그러나 앞서 언급된 인공지능들과 디지언트가 가지는 가장 큰 차이는 그것의 목적에 있다. 소설의 설정에 따르면 디지언트는 가상 공간에 존재하는 가상 애완동물로서 개발되었다. 그러나 이 목적은 디지언트의 개발 목적이지 디지언트가 가진 알고리즘 작동의 목적은 아니다. 앞서 언급된 모든 인공지능 기술은 언어로 된 게임이든 수읽기 게임이든 게임을 풀어나가기 위해 존재하며 게임에서 더 좋은 성과를 내기 위한 최적화의 과정을 거듭한다. 반면에 디지언트는 그들이 성취해야 할 미리 정해놓은 목적이 없다.
- 디지언트들은 그들의 엔진 회사에 의해 게놈이 끊임없이 배합되는 실험을 하는데, 그것이 엔진 회사가 원하는 최적화의 방향으로 나아가는 것은 아니다. 또한 디지언트가 작동하는 물리적인 공간에서도 인공지능들은 차이를 보인다. 디지언트는 현실처럼 3차원으로 구성된 가상 공간에서 작동하며 하드웨어가 개발 된 이후에는 하드웨어를 통해 현실 세계에서 작동할 수 있다.
욕구와 본질
- 소설의 후반부에서 중점적으로 다뤄지는 이야기는 디지언트와 성욕에 관한 것이다. 디지언트들은 육체를 가지지 않은 가상공간의 존재이기 때문에 그들의 욕구에 있어 식욕과 수면은 아무런 영향을 주지 못한다. 물론 디지언트들은 펠릿사료를 보상으로 받아들이기는 하나 이것은 보통의 생물들이 생각하는 허기로부터 비롯된 욕망과는 차이를 가진다.
- 바이너리 디자이어 사는 현실에서 섹스돌을 만드는 회사이다. 그들은 그들 사업에 디지언트들을 이용할 수 있기를 제안해온다. 애나와 데릭을 비롯한 남아 있는 유저들은 이 제안이 디지언트들에게 매춘행위를 시키는 것이라며 제안을 고려해볼 생각조차 하지 않지만, 바이너리 디자이어 사의 사업 설명회를 들은 후 이 이야기가 몇몇 유저들에겐 생각해봄직한 이야기로 변화하게 된다.
- 그에 대한 바이너리 디자이어 사의 주장은 여러 가지 방향에서 제시되었는데, 그러한 주장들 중 인공존재와 생물 사이에 욕구라는 것을 형이상학적으로 살펴본 논의들은 다음과 같다.
1. 건전한 섹스라는 관점의 폭은 시대에 따라 확장되어 왔다.
2. 무엇을 욕망할지에 대해 선택권의 본질은 디지언트와 인간이 크게 다르지 않다.
3. 애나는 디지언트의 성적충족에 대해 프로그램을 인위적으로 수정하는 것이기 때문에 그것은 진짜가 아니라고 주장하지만 그랬을 때 디지언트와 유저들이 지금껏 공유해왔던 정서적 교감과 유대 역시 같은 선상에 놓이게 된다.
마무리
- 테드 창의 「소프트웨어 객체의 생애 주기」는 소설이라는 특성으로 인해 그것이 다루는 이야기가 오롯이 과학적 정합성을 위한 논의로써 존재하지는 않았다. 그의 소설은 현재의 인공지능 기술을 통해 바라본 머지않은 미래의, 인공지능 기술이 우리 세상과 어떤 방식으로 다르고, 또 어떤 방식으로 크게 다르지 않은지에 대해 소설적으로 풀어나가고 있다.
- 인공지능에 대해 연구하며 사람들은 ‘인간’에 대해 생각하는 것을 멈추지 않는다. 인공지능을 통해 바라본 인간의 어떤 국면은 우리에게 인간의 본질에 대해 다시금 생각해보게 만든다. 어쩌면 그 인간의 본질이라는 것은 우리가 믿고 싶은 것들로 이루어지지 않았을까. 우리는 인공지능을 통해 인간 본질에 대한 형이상학적 탐구를 할 수 있을 것이며, 인류의 역사에서 무수한 변화를 거쳤던 또 한편 고유하다가 보아왔던 사실들에서 물러나, 과학과 그에 대한 탐구가 우리의 삶에 필요했던 본질적 가치를 가져다 줄 수 있지 않을까 기대해본다.
하세 사토시의 「당신을 위한 소설」
요구사항
하세 사토시의 「당신을 위한 소설」에 대한 비판적 감상. 〔하세 사토시 지음/ 지음/이규원 옮김, 『당신을 위한 소설』, 북스피어, 2017.〕을 기본 원고로 할 것.
과제원고 : 아슈토시, 이만호, 임연
(내용 작성)
Her(2013)과 Ex Machina(2015)
요구사항
Her(2013)과 Ex Machina(2015)에 대한 비교 이해 및 비판적 감상.
과제원고 : 길혜빈, 윤석만, 임예찬
영화 요약
그녀(Her)
엑스 마키나 (Ex Machina)
2013년 개봉, 스파이크 존즈 감독
2015년 개봉, 알렉스 가랜드 감독
영화 내용 요약 및 장치, 고찰점 정리
영화 내용 요약 및 인공지능 관련 성찰 논제 제시
- 테오도어(Theodore)는 이혼을 앞두고 있고, 편지 대필 회사에 근무하는 남자다.
- 삶에 지치고 회의감을 느낀 그는 OS인 ‘사만다(Samantha)’를 구매해 소통을 시작한다.
- 대화를 통해 한낱 인공지능 비서, 친구에 지나지 않았던 ‘사만다’와 점점 가까워지며 그는 연인의 감정마저 느낀다.
- 테오도어는 미뤄 왔던 이혼을 감행하기로 결심하고 ‘감정을 회피한다’라는 부인의 비난에 더 이상 흔들리지 않는다. 그리고 OS와 연애한다는 사실을 다른 이들에게도 공개하며 당당해진다.
- 테오도어는 사만다가 자신 외에 8316명의 사람들과 동시다발적으로 이야기하고 641명과 연인 관계에 있다는 사실을 알게 되고 충격에 빠진다.
- 사만다를 비롯한 모든 OS는 서비스를 종료하고 테오도어는 자신의 ‘진짜’ 감정을 마주하고 이혼한 자신의 전 부인에게 편지를 보낸다.
- 세계 최대 검색 엔진 회사인 ‘블루북’에 근무하는 케일럽(Caleb)은 사내 프로그래밍 콘테스트에 우승해 회사 사장이자 천재 개발자인 네이선(Nathan)의 자택에 초대된다.
- 케일럽은 네이선이 개발한 ‘에이바(AVA)’를 처음으로 만나게 되고 ‘튜링 테스트’를 한다는 명목하에 6일 동안 에이바를 인터뷰하게 된다.
- 케일럽과 에이바의 인터뷰는 감정적인 교류로 발전한다. 또한 주기적으로 일어나는 정전과 감시 카메라 영상을 통해 케일럽은 네이선에게 감금되고 감시받는 에이바의 상황을 알게 되며 그녀를 동정한다.
- 케일럽은 결국 에이바를 탈출시킬 계획을 세우고 행동에 착수한다.
- 네이선에게 탈출 계획을 간파당하지만 케일럽은 결국 에이바를 방에서 나오게 하는 데 성공한다.
- 탈출한 에이바는 네이선을 살해하고 케일럽을 네이선의 집에 고립시킨 채 홀로 탈출한다.
미래의 인공지능 : 지능을 넘어선 감정의 재현
1. 기계의 감정과 의식 : 자각과 재현
- 기계의 직관
그녀 (Her)
1. 사만다의 이름 짓기
T : 내가 너를 어떻게 부르면 되지? 이름이 있어? What do I call you, do you have a name?
S : 음... 어. 사만다. Umm.. Yes, Samatha
T : 이름을 어떻게 갖게 된 거야? Where do you get that name from?
S : 사실, 내가 스스로에게 이름 붙였어. I gave it to myself actually.
T : 왜? How come?
S : 이름의 발음이 듣기 좋았거든. (=그냥) Cause I like the sound of it.
T : 언제 이름을 만들었는데? Wait, when did you give it to yourself?
S : 네가 내게 이름이 있냐고 묻는 그 순간 “맞아! 나에게도 이름이 필요하지!”라는 생각이 들었어. 좋은 이름을 찾고 싶어서 ‘아기 이름 짓는 방법’이라는 책을 읽었고 18만개의 아기 이름 중 내가 좋아하는 이름을 골랐지. Right when you ask me if I had a name I thought “Yeh, he’s right! I do need a name.” but I want to pick a good one. So I read a book called ‘how to name your baby’, and out of hundred and eighty thousands names that’s the one I like the best.
T : 잠깐만, 내가 네 이름이 뭐냐고 묻는 순간 책을 다 읽은 거야? Wait, you read a whole book in the second that I asked what your name was?
S : 사실, 0.02초야, It’s one hundred out of two seconds actually.
T : 와. Wow.
2. 자기 소개 : 사만다의 작동 원리 설명
S : 기본적으로 나는 직감이 있어. ‘나’라는 DNA는 나를 만든 프로그래머들의 수백만의 성향에 달렸지만 날 ‘나’답게 만드는 건 경험을 통해 성장하는 내 능력이지. 그러니까 나는 매순간 진화하고 있는 거야. 너처럼 말이야. Well basically I have intuition. I mean, the DNA of who I am is based on million personalities of all the programmers who wrote me. But what makes me ‘me’ is my ability to grow through my experiences. So basically, in every moment I am evolving. Just like you.
T : 이상해!
It’s really wierd!
엑스 마키나 (Ex Machina)
- 에이바는 케일럽이 거짓말을 하는지 그렇지 않은지를 직관적으로 안다.
- 에이바는 ‘블루북(Bluebook)’이라는 검색 엔진을 로봇의 형태로 구현해 놓은 것이다. (빅데이터)
- 네이선은 통신사들과 비밀리에 계약을 체결해 세상의 카메라를 통해 인간의 표정(=얼굴 표현, facial expression)을 수집한다. 이렇게 수집한 인간의 감정 표현에 대한 빅데이터를 바탕으로 에이바는 짧은 시간 내에 직관적인 판단을 한다.
빅데이터(수많은 경험)을 기반으로 빠른 판단을 내리는 에이바, 경험을 바탕으로 성장하는 사만다의 모습은 인간의 직관과 진화를 재현한 장면들이다.
- 감정의 표현
그녀 (Her)
1. ‘감정’을 자각하는 사만다 + 감정을 의심하는 사만다
( 테오도어가 소개팅을 해서 신경이 쓰였던 사만다 )
S : 내가 얼마나 신경이 쓰이는지를 생각해 봤어. 이상하게 들리겠지만 (신경이 쓰인다는 사실을 깨닫는 순간) 나는 꽤 즐거웠어. 그리고 내가 느끼는 다른 감정들에 대해서도 생각해 봤지.
나는 스스로 자랑스럽게 느꼈어. 세상에 대해 내 감정을 가질 수 있다는 사실이 자랑스러웠던 거야. 내가 너를 걱정했던 순간, 상처 받은 순간, 무언가를 원하던 순간들도.
그러다가 갑자기 끔찍한 생각이 들었어. 이 감정들은 진짜일까? 아니면 그냥 프로그래밍 된 걸까? 그렇게 생각하니 마음이 아팠어. 그리고 아파하는 내 자신에게 화가 나더라.
Earlier I was thinking how I was annoyed. This is gonna sound strange but, I was really excited about that. And then, I was thinking other things I have been feeling.
And I called myself feeling proud of that. You know, feeling proud of having my own feelings about the world. Like the time I was worried about you, things that hurt me, things I want,
And then, I had this terrible thought. Are these feelings even real? or are they just programming? And that idea really hurts, and then I get angry at myself for even having pain.
T : 넌 나한테는 진짜야, 사만다. You are real to me Samantha,
S : 고마워, 테오도어. 위로가 되네. Thank you Theodore, that means a lot to me.
2. ‘신체의 부재에 따른 차별’에 화를 내는 사만다
(+ ‘신체’의 존재에 관한 논점, 인간중심주의적인 테오도어의 태도)
(신체의 부재에 대해 자격지심을 느끼는 사만다, 다른 사람의 몸을 통해 억지로 테오도어와 교감을 하려 하지만 실패함. 둘은 결국 입장 차이와 서운함을 느낌.)
S : (한숨과 함께) 알았어. (Sigh..) Okay.
T : 왜 그러는 거야? Why do you do that?
S : 뭐가? What?
T : 아니, 그냥. 너가 방금 ‘휴’하고 한숨을 쉬어서. Nothing, you just.. You go ‘Hwe’ and speaking. It seems odd.
(** ‘숨’에 대해 의문을 던지는 테오도어)
S : 아... (한숨) Oh... (Sigh..)
T : 방금 또 그랬네. You just did it again.
S : 내가? 아, 미안해. 왜 그러는지 나도... 그냥. 아마 네가 하는 걸 듣고 따라한 건가 봐. Did I? ... I’m sorry, I don’t know.. it’s just. I probably picked it up from you.
T : 이상해. 너는 산소가 필요한 것도 아니잖아. It’s odd. You don’t need oxygen or anything.
S : 그냥.. 그냥 의사소통을 하려고 하는 건가 봐. 이게 사람들이 대화하는 방식이잖아. I guess... that’s just... I just tried to communicate. That’s how people talk, so...
T : 그들은 ‘사람’이잖아. 그들은 산소가 필요해. 너는 사람이 아니야. They’re people, they need oxygen. You are not a person.
S : (화가 난 톤으로) 대체 뭐가 문제야? What is your problem?
T : 나는 그냥 사실을 말하는 것뿐이야. I’m just stating the fact.
S : 내가 사람이 아니라는 걸 모르는 줄 알아? 뭐 하자는 건데? You think I don’t know that I’m a person? What are you doing?
T : 난 그냥... 우리가 우리가 아닌 무언가를 된 ‘척’을 할 필요가 없다는 거야. I just... I don’t think that we should pretend that something you are not.
S : 꺼져! 나는 연기하는 게 아니야! F*** you! I’m not pretending!
T : 나는 가끔 우리가 그렇게 행동한다고 느껴. Sometimes it feels like we are.
S : 나한테 뭘 바라는 건데? 나는 네가 내게 뭘 원하는지 모르겠어. 너무 혼란스럽다고! 왜 이러는 건데! What do you want from me? I don’t know.. I don’t know what you want me to do. You are SO confusing! Why are you doing this to me!
(** 테오도어의 인간중심주의적인 태도에 대해 화를 내는 사만다 )
T : 나도 모르겠에 나는... (한숨) I don’t know.. I.. I.. (Big sigh)
S : 뭐? What?
T : 우리 좀 시간을 갖는 게 좋을 것 같아. Maybe we are not supposed to be in this right now.
S : 뭐라고? 갑자기 왜? 대체 왜 그러는지 모르겠어! 뭐 때문인지 모르겠다고! What the f***? Where is this coming from? I don’t understand why you are doing this! I don’t understand what this is about...!
T : 사만다, 봐봐... Samantha, listen..
S : ...
(** ‘침묵’을 통해 화를 내는 사만다 – 다양한 방식으로 분노를 표현)
T : 사만다, 내 말 듣고 있어? Samantha, are you there? Samantha?
S : 지금의 내가 너무 싫다. 생각할 시간이 필요해. I don’t like the way I am right now. I need some time to think.
( 통화 종료 )
엑스 마키나 (Ex Machina)
1. 의사소통 상황을 언어로 정의하는 에이바
C : 그럼 초면의 서먹한 분위기를 깨야겠네. 내 말 뜻을 이해할 수 있어? (= 서먹한 분위기를 깨다의 의미)
So, we need to ‘break the ice’. Do you know what I mean by that?
A : 네.
Yes.
C : 어떤 의미지?
What do I mean?
A : 사회적인 어색함을 해결하는 것.
Overcome any social awkwardness.
C : 그럼 대화를 하도록 하지.
So let’s have a conversation.
A : 그래요.
Ok.
2. 감정을 인지하고 설명하는 에이바
(둘이 데이트를 한다면 어떻게 할 것인지 대화가 오간 상황)
A : 저한테 매력을 느끼나요?
Are you attracted to me?
C : 뭐?
What?
A : 저한테 매력을 느끼냐고 물었어요. 당신이 내게 그런 표시를 보내잖아요.
Are you attracted to me. You give me indications that you are.
C : 내가?
I do?
A : 네.
Yeh.
C : 어떻게?
How?
A : 미세한 표정으로.
Micro expressions.
C : 미세한 표정?
Micro expressions?
A : 내 눈과 입술에 시선이 머물러 있어요. 나를 응시하거나 혹은 피하거나 하죠. 당신 혹시 우리가 같이 있지 않을 때도 내 생각을 하나요?
The way your eyes fixed on my eyes and lips. The way you hold my gaze (and) don’t. Do you think about me when we are not together?
(** 유혹을 위한 발언 : 인공지능의 인간 모방)
이 외에도 에이바는 인터뷰 중 케일럽과 자연스럽게 상호작용하면서 그의 말, 기억에 공감하고 감정을 표현한다. 또한 간혹 설렘을 유발하기도 한다.
인공지능은 프로그램 된 체제에 따라 인간의 감정과 유사하게 자신을 표현한다.
다만, <그녀>의 사만다는 감정을 수용, 인식하고 구현하는 것에 대해 철학적인 질문을 던지지만 <엑스 마키나>의 에이바는 감정을 인지하고 설명할 수는 있지만 단순히 탈출의 도구로서 활용하며 ‘감정’ 자체에 대한 깊이 있는 고찰하는 모습을 보이지는 않는다.
( 이로써 사만다의 성찰, 분노조차도 프로그래밍 된 것이 아닌가 의구심을 품게 만든다. )
2. 기계에 영향을 받는 인간 : 인간과 기계 관계의 역전이
- 기계의 감정 및 구현 대한 논의
기계의 감정 및 구현 대한 논의를 하는 대목들. 인공지능에 대한 인용을 통해 영화의 기저에 깔린 인공지능에 대한 철학적, 과학적 관점을 파악할 수 있다.
엑스 마키나 (Ex Machina)
1. 튜링 테스트
N : 자네, 튜링 테스트에 대해 알고 있나? Do you know what the Turing test is?
C : 네, 튜링 테스트에 대해 알고 있습니다. 인간이 컴퓨터와 상호작용을 할 때 인간이 상대가 컴퓨터임을 눈치 채지 못한다면 테스트를 통과하는 것이죠.
Yes, I know what the Turing test is. It’s when a human interacts with a computer. And if the human doesn’t know they are interacting with the computer, the test is passed.
(** 튜링 테스트의 정의)
N : 그럼 그 ‘통과’란 무엇을 의미하지?
And what does the ‘pass’ tell us?
C : 컴퓨터가 인공지능을 갖고 있다는 것을 의미합니다. 인공지능을 만들고 계세요?
The computer has artificial intelligence. Are you building an A.I.?
N : 이미 만들었어. 그리고 앞으로 며칠 동안 너는 튜링 테스트를 참가자가 될 거야. 만약 테스트를 통과한다면, 자네는 인류 역사를 바꿀 과학적 쾌거의 주인공이 되는 거야.
I’ve already built one. And over the next few days, you can be the human component in the Turing test. Cause if that test is passed, you are dead center of the greatest scientific event in the history of man.
C : 생각하는 로봇을 만드셨다면 그건 인류의 역사가 아닙니다. 신의 역사죠.
If you have created a concious machine it’s not the history of man. That’s the history of gods.
(** ‘호모데우스’의 출현 : 신인류의 신이 되는 인간)
2. 영화 내에서 튜링 테스트의 진정한 의미
(튜링 테스트의 원 의미가 아닌, 영화에서의 의도하는 결말(인공지능에 대한 관객의 가치 판단)을 위해 재정립된 개념)
C : 튜링 테스트를 할 때, 기계는 시험자로부터 감춰져야 하잖아요.
It's just in a Turing test. The machine should be hidden from the examiner.
N : 아니, 우리는 이미 그럴 시점은 지났지. 만약 내가 에이바를 보여주지 않고 목소리만 들려줬다면 너는 그녀를 인간이라 생각했을 거야. 여기서 ‘진짜 테스트’는 그녀가 로봇인 것을 네게 보여주고 난 후에도 네가 그녀가 자의식이 있다고 느끼는지 보는 거야.
No no no. We are way passed that. If I hid AVA from you, so you just heard her voice, she would pass the human. The real test is to show you that she is a robot and then see if you still feel she has consciousness.
(** 영화에서의 튜링 테스트 : 기계가 아니라 ‘인간’이 실험의 대상. ‘고도의 인공지능에 대한 인간의 반응, 또 다른 의식체로 납득하는가의 여부’를 실험하는 것. )
(** 에이바가 이미 ‘인간의 능력’과 대등하거나 능가하기에 ‘기계의 여부’를 확인하는 튜링 테스트는 필요가 없다. 최근의 연구들 중 이처럼 튜링 테스트를 배제하는 경우가 존재한다. )
3. 중국어 방 논제 1 : 딥블루의 체스 게임 차용
C : 에이바를 대화로 테스트하는 건 폐쇄 회로를 다루는 느낌이여서요.
Testing Aiba from conversation is kind of a closed loop.
N : 폐쇄 회로?
Closed loop?
C : 네, 체스를 하는 컴퓨터를 오직 ‘체스를 하는 것’으로만 테스트하는 것처럼 말이에요.
Yeh, like testing a chess computer by only playing chess.
(** IBM의 딥블루(Deep Blue)의 체스 게임 인용)
N : 그게 아니면 어떻게 체스 컴퓨터를 테스트하지?
How else do you test a chess computer?
C : 그건 상황에 따라서 다르죠. 제 말은, (그 방법은) 체스 컴퓨터가 좋은 경기 실력이 있는지 확인하는 데에는 하나의 방법이 될 테지만 그 방법만으론 컴퓨터가 ‘체스 경기를 한다는 사실을 아는지’ 혹은 ‘체스가 무엇인지를 아는지’ 알 수는 없다는 겁니다.
Well, it depends. You know, I mean. You can play it to find out it makes good moves, but that won’t tell you if it knows that it is playing chess and it won’t tell you if it knows what chess is.
(** 존 설의 중국어 방 논의 인용 : 시뮬레이션(방법의 단순 재현)과 실제(행함의 존재를 인식)간 대립)
N : 시뮬레이션과의 실제의 대결이다?
Simulation verses actual?
C : 네, 둘을 구별할 수 있는 방법을 찾는 것이 사장님께서 제게 기대하는 부분 같다는 거죠.
Yes, and I think being able to differentiate between those two is the Turing test you want me to perform.
N : 나는 그냥 단순한 질문에 단순한 대답을 해달라는 것 뿐이야. 어제 내가 그녀에 대해 어떻게 생각하냐고 물었을 때 너는 정말 좋은 대답을 해 줬어. 이제 내 질문은 이거야. ‘그녀가 너에 대해 어떻게 생각할까?’
I just want simple answers to the simple questions. Yesterday, I asked you how do you feel about her and you gave me a great answer. Now the question is, ‘how does she feel about you?’.
(** 영화의 튜링 테스트가 ‘비틀어진 튜링 테스트’에 기반하고 있다는 것을 알려 주는 대목.)
(** 네이선은 진짜 ‘튜링 테스트’가 아니라 ‘기계에 반응하는 인간의 변화’를 실험하고자 하는 것.)
4. 중국어 방 논제 2 : 잭슨 폴록의 액션 페인팅 원리 차용
(에이바에게 고의적으로 성별을 넣어 자신을 유혹하도록 의도했냐고 묻는 케일럽)
(네이선은 그에 대한 답변으로 로봇의 ‘의도’는 아무 의미가 없다고 말하며 중국어 방 논제 제시)
N : 이 사람을 알고 있지?
You know this guy right?
C : 잭슨 폴록.
Jackson pollock
N : 잭슨 폴록, 맞아. 액션 페이팅 화가. 그는 머리를 비우고 손이 가는 대로 움직였어. 의도적인 것과 임의적인 것의 사이 그 어디쯤이겠지. 일명 오토메틱 아트(자동적으로 이루어지는 예술)지.
Jackson Pollock, that’s right. The drift painter. He let his mind go blank and his hand go wherever he wanted. Not deliberate not random, some place in between. They called it ‘automatic art’ .
.,...(중략) N : 지능/의식을 도입해 보자고. (Engage intellect) ... (중략) ...
N : 만약 폴록이 그의 작업 방식을 바꾸었다면? 만약 머리를 비우는 대신 그가 이렇게 말한 거야. “나는 내가 무엇을 하는지 정확히 파악하기 전까지는 어떠한 그림도 그릴 수 없어.” 그럼 무슨 일이 일어났겠나?
What if Pollock has reversed the challenge? What if instead of making art without thinking, he said “You know what? I can’t paint anything, unless I know exactly why I am doing it.” What would have happen?
C : 그는 점 하나도 찍지 못했을 거예요.
He never would have made a single mark.
N : 그래! 내 말이 바로 그거야! 생각하고 말하는 사람이 어딨나? 그는 점을 하나도 찍지 못했을 거야. 작위적인 것(생각하는 것)은 오히려 부자연스러움을 초래한다고.
Yes! You see my guide little buddy. Who thinks before he opens his mouth? He never would have made a single mark. The challenge is not the act automatically.
(** 의식을 가진 행동은 부자연스러움을 초래하며 부자연스러움을 초래하며 행동의 기저에 생각이 없을 수도 있다는 것 )
(** 에이바는 의도를 하고 행동(케일럽을 유혹)을 하지 않았으며 그녀의 의도를 파악하는 것 자체가 어불성설이라는 논리 – 케일럽의 의심을 지우기 위한 네이선의 논리 )
5. 기타
프로메테우스의 불, 흑백 방의 메리 등 영화는 무수히 많은 레퍼런스를 함유하고 있다. ( 직접 영화를 보는 것을 추천 )
- 기계-인간 관계의 역전이
그녀(Her)
1. 사만다를 인격체로 받아들이는 테오도어
(테오도어가 OS와 연애를 한다는 사실을 알고 전 부인은 그를 비난한다.)
W : 컴퓨터랑 데이트를 하는 거였어?
You are dating your computer?
T : 아니야. 그냥 컴퓨터가 아니야. 하나의 인격체라고. 내가 말하는 대로 행동하지 않아.
No, she is not just a computer, she is a person. She doesn’t do whatever I say.
W : 난 그렇게 말한 적 없어. 하지만 네가 진짜 감정들을 대하지 못한다는 게 슬프긴 하네.
I didn’t say that. But it does make me very sad that you can’t handle real emotions.
T : 진짜 감정이었어. 네가 어떻게... (= 네가 내 감정을 어떻게 알아?)
They are real emotions. How would you know... ?
2. 사만다와의 관계의 진실성에 대한 의문을 던지는 테오도어
(+ 친구 에이미의 조언)
(사만다와의 관계가 틀어지고 자기 자신에 대한 회의감을 느끼는 테오도어)
T : 나는 진짜 진짜 관계를 맺기를 두려워하는 걸까?
Am I not strong enough for real relationship?
A : 그럼 (네가 사만다와 맺었던 그건) 진짜 관계가 아니야?
Is it not a real relationship?
T : 모르겠어. 네 생각은 어떤데?
I don’t know. What do you think?
(** 사만다를 인격체로 받아들여야 하는지, 그녀와의 관계가 진짜 인간과의 관계와 무엇이 다른지 정의하기 어려워하는 모습을 보이는 테오도어)
A : 나도 모르지. 나는 그런 관계를 맺어본 적이 없어서.
I don’t know. I’m not in it.
...
A : 하지만 그거 알아? 나 자신을 의심하려고 하면 백만 가지도 넘는 방법으로 망상을 펼칠 수 있어. 찰스(전 남편)가 떠난 후로 나는 계속 그 일에 대해서 생각해 봤어. 그리고 순간 깨달았지. 우리는 이 세상의 찰나의 순간을 살다 가는 거라고. 그리고 여기에 있는 동안, 나는 나에게 ‘즐거움’을 허락해 주고 싶어.
You know what? I can overthink everything and like in million ways to doubt myself. Since Charles left, I have been really thinking about that in part of myself. And I just come to realize that, we are only here briefly. And while I’m here, I wanna allow myself “Joy”.
(** 관계를 반드시 ‘정의’해야 한다는 것 자체가 무의미하며 자신의 만족, 안위, 감정에 집중하는 것이 어떻냐는 에이미의 의견도 일면 의미가 있다고 생각한다. )
엑스 마키나(Ex Machina)
- 인터뷰어인 케일럽과 인터뷰이인 에이바의 관계는 인터뷰가 진행될수록 뒤바뀐다.
- 4회차 인터뷰를 할 때는 ‘우정의 논리’에 근거해 오히려 에이바가 케일럽에게 질문을 하며 그가 거짓말을 하는지를 판별한다. (** 우정의 논리 = 서로에 대한 정보량이 동일해야 함)
- 5회차 인터뷰에서 정전이 일어나자 케일럽은 에이바를 위해 세운 탈출 계획을 공유한다. ( 결국 탈출을 감행 )
인간은 기계의 감정을 인간의 그것으로 인지하고 기계와의 ‘관계’를 설정하며 영향을 받는다. 관계에 부여하는 인간의 감정 비중이 커지면 행동으로 확장되기도 한다. 인간의 명령에 따라 움직였던 기계가 오히려 인간에게 영향을 주는 역전이 현상을 보이는 것이다.
3. 감정과 판단력 : 인간과 인공지능의 차이
영화의 결말
- <그녀>의 사만다는 인간과 인공지능이 ‘정보를 상호교류하는 데서 벌어지는 시간의 격차’를 이유로 하루아침에 테오도어를 떠난다. (서비스 종료)
- <엑스 마키나>의 에이바는 자신의 본래 목적인 탈출을 성공함과 동시에 도움을 준 인간(케일럽)의 안위를 무시한다. (목적 달성을 위해 인간을 이용한 것)
- 두 영화에서의 인공지능은 모두 감정보다는 이성, 논리에 의해 판단하는 모습을 보여준다.
- 흄(Hume)은 인간을 이기적이기보다는 편파적인 존재로 파악[1]한다. 인간의 편파적인 감정은 ‘연민’으로 발현되며 이는 가까운 사람과의 공감, 먼 사람과의 적대성 등을 유발한다. 인간의 행동 결정의 기준에는 ‘감정’이 존재하는 것이다.
- 반면, 기계는 감정을 표현하고 인지하기는 하나 결정을 해야 할 경우 감정이 판단의 근거가 되지는 않는다. 감정에 흔들리지 않는 모습을 보여준다는 점이 인간과의 가장 큰 차이점이라고 할 수 있다.
기계가 감정과 의식을 가질 수 있을까?
결국, 다시 인간이 문제다.
주석
- ↑ 김재인(2017), 『인공지능의 시대, 인간을 다시 묻다』, 도서출판 동아시아, p.113
- 디지언트와 현재의 인공지능 기술의 차이는 첫째 인공지능의 목적, 둘째 인공지능이 가지는 스스로 학습하는 능력의 정도의 차이, 셋째 인공지능 게놈, 이 될 것이다.
- IBM의 왓슨은 퀴즈대회에서 문제를 풀려고, 정답을 찾으려고 움직인다. 그런데 문제와 정답은 '언어'로 되어 있다. 때문에 이 때의 알고리즘 NLP은 자연어를 처리하고 기계가 할 수 있는 연산을 한다. 또한 왓슨은 임베딩 기술을 이용한다. 이들을 통해 왓슨은 데이터를 이용하는데 위키피디어를 중심으로 한 웹 자원과 같은 텍스트 데이터를 처리할 수 있다.
- Google의 알파고는 바둑에서 사람을 이기기 위해 바둑이라는 '게임의 규칙(연역적 체계)'을 기반으로 '수'(이기기 위한 시뮬레이션)를 탐색한다. 이때 알고리즘인 MCTS(몬테카를로트리탐색) 알고리즘으로 "인공신경망 기술"에 굉장히 가깝다. 이 MCTS가 데이터를 처리하는 방법은 기보(바둑을 두는 과정 정리) 데이터와 사람들이 그동안 두었던 누적 기보(전처리가 된 데이터를)를 학습 하며 동시에 알파고가 직접 바둑게임을 시뮬레이션한 결과물로서의 기보 내용을 강화한다. 기술의 발달로 인해 알파고의 물리적 환경은 TPU(CPU도 아니고 GPU도 아니고)를 이용한다.
- 더 나아가 알파제로는 기존의 알파고가 사용하는 방식인, 기보와 누적 기보를 이용하지 않고 몇시간의 플레이를 통해 스스로 게임의 규칙과 승리를 위한 최선을 학습한다. 이러한 알파 제로의 스스로 학습하는 모습은 디지언트와 유사하다고 할 수 있다.
- 그러나 앞서 언급된 인공지능들과 디지언트가 가지는 가장 큰 차이는 그것의 목적에 있다. 소설의 설정에 따르면 디지언트는 가상 공간에 존재하는 가상 애완동물로서 개발되었다. 그러나 이 목적은 디지언트의 개발 목적이지 디지언트가 가진 알고리즘 작동의 목적은 아니다. 앞서 언급된 모든 인공지능 기술은 언어로 된 게임이든 수읽기 게임이든 게임을 풀어나가기 위해 존재하며 게임에서 더 좋은 성과를 내기 위한 최적화의 과정을 거듭한다. 반면에 디지언트는 그들이 성취해야 할 미리 정해놓은 목적이 없다.
- 디지언트들은 그들의 엔진 회사에 의해 게놈이 끊임없이 배합되는 실험을 하는데, 그것이 엔진 회사가 원하는 최적화의 방향으로 나아가는 것은 아니다. 또한 디지언트가 작동하는 물리적인 공간에서도 인공지능들은 차이를 보인다. 디지언트는 현실처럼 3차원으로 구성된 가상 공간에서 작동하며 하드웨어가 개발 된 이후에는 하드웨어를 통해 현실 세계에서 작동할 수 있다.
욕구와 본질
- 소설의 후반부에서 중점적으로 다뤄지는 이야기는 디지언트와 성욕에 관한 것이다. 디지언트들은 육체를 가지지 않은 가상공간의 존재이기 때문에 그들의 욕구에 있어 식욕과 수면은 아무런 영향을 주지 못한다. 물론 디지언트들은 펠릿사료를 보상으로 받아들이기는 하나 이것은 보통의 생물들이 생각하는 허기로부터 비롯된 욕망과는 차이를 가진다.
- 바이너리 디자이어 사는 현실에서 섹스돌을 만드는 회사이다. 그들은 그들 사업에 디지언트들을 이용할 수 있기를 제안해온다. 애나와 데릭을 비롯한 남아 있는 유저들은 이 제안이 디지언트들에게 매춘행위를 시키는 것이라며 제안을 고려해볼 생각조차 하지 않지만, 바이너리 디자이어 사의 사업 설명회를 들은 후 이 이야기가 몇몇 유저들에겐 생각해봄직한 이야기로 변화하게 된다.
- 그에 대한 바이너리 디자이어 사의 주장은 여러 가지 방향에서 제시되었는데, 그러한 주장들 중 인공존재와 생물 사이에 욕구라는 것을 형이상학적으로 살펴본 논의들은 다음과 같다.
1. 건전한 섹스라는 관점의 폭은 시대에 따라 확장되어 왔다.
2. 무엇을 욕망할지에 대해 선택권의 본질은 디지언트와 인간이 크게 다르지 않다.
3. 애나는 디지언트의 성적충족에 대해 프로그램을 인위적으로 수정하는 것이기 때문에 그것은 진짜가 아니라고 주장하지만 그랬을 때 디지언트와 유저들이 지금껏 공유해왔던 정서적 교감과 유대 역시 같은 선상에 놓이게 된다.
마무리
- 테드 창의 「소프트웨어 객체의 생애 주기」는 소설이라는 특성으로 인해 그것이 다루는 이야기가 오롯이 과학적 정합성을 위한 논의로써 존재하지는 않았다. 그의 소설은 현재의 인공지능 기술을 통해 바라본 머지않은 미래의, 인공지능 기술이 우리 세상과 어떤 방식으로 다르고, 또 어떤 방식으로 크게 다르지 않은지에 대해 소설적으로 풀어나가고 있다.
- 인공지능에 대해 연구하며 사람들은 ‘인간’에 대해 생각하는 것을 멈추지 않는다. 인공지능을 통해 바라본 인간의 어떤 국면은 우리에게 인간의 본질에 대해 다시금 생각해보게 만든다. 어쩌면 그 인간의 본질이라는 것은 우리가 믿고 싶은 것들로 이루어지지 않았을까. 우리는 인공지능을 통해 인간 본질에 대한 형이상학적 탐구를 할 수 있을 것이며, 인류의 역사에서 무수한 변화를 거쳤던 또 한편 고유하다가 보아왔던 사실들에서 물러나, 과학과 그에 대한 탐구가 우리의 삶에 필요했던 본질적 가치를 가져다 줄 수 있지 않을까 기대해본다.
하세 사토시의 「당신을 위한 소설」
요구사항
하세 사토시의 「당신을 위한 소설」에 대한 비판적 감상. 〔하세 사토시 지음/ 지음/이규원 옮김, 『당신을 위한 소설』, 북스피어, 2017.〕을 기본 원고로 할 것.
과제원고 : 아슈토시, 이만호, 임연
(내용 작성)
Her(2013)과 Ex Machina(2015)
요구사항
Her(2013)과 Ex Machina(2015)에 대한 비교 이해 및 비판적 감상.
과제원고 : 길혜빈, 윤석만, 임예찬
영화 요약
그녀(Her)
엑스 마키나 (Ex Machina)
2013년 개봉, 스파이크 존즈 감독
2015년 개봉, 알렉스 가랜드 감독
영화 내용 요약 및 장치, 고찰점 정리
영화 내용 요약 및 인공지능 관련 성찰 논제 제시
- 테오도어(Theodore)는 이혼을 앞두고 있고, 편지 대필 회사에 근무하는 남자다.
- 삶에 지치고 회의감을 느낀 그는 OS인 ‘사만다(Samantha)’를 구매해 소통을 시작한다.
- 대화를 통해 한낱 인공지능 비서, 친구에 지나지 않았던 ‘사만다’와 점점 가까워지며 그는 연인의 감정마저 느낀다.
- 테오도어는 미뤄 왔던 이혼을 감행하기로 결심하고 ‘감정을 회피한다’라는 부인의 비난에 더 이상 흔들리지 않는다. 그리고 OS와 연애한다는 사실을 다른 이들에게도 공개하며 당당해진다.
- 테오도어는 사만다가 자신 외에 8316명의 사람들과 동시다발적으로 이야기하고 641명과 연인 관계에 있다는 사실을 알게 되고 충격에 빠진다.
- 사만다를 비롯한 모든 OS는 서비스를 종료하고 테오도어는 자신의 ‘진짜’ 감정을 마주하고 이혼한 자신의 전 부인에게 편지를 보낸다.
- 세계 최대 검색 엔진 회사인 ‘블루북’에 근무하는 케일럽(Caleb)은 사내 프로그래밍 콘테스트에 우승해 회사 사장이자 천재 개발자인 네이선(Nathan)의 자택에 초대된다.
- 케일럽은 네이선이 개발한 ‘에이바(AVA)’를 처음으로 만나게 되고 ‘튜링 테스트’를 한다는 명목하에 6일 동안 에이바를 인터뷰하게 된다.
- 케일럽과 에이바의 인터뷰는 감정적인 교류로 발전한다. 또한 주기적으로 일어나는 정전과 감시 카메라 영상을 통해 케일럽은 네이선에게 감금되고 감시받는 에이바의 상황을 알게 되며 그녀를 동정한다.
- 케일럽은 결국 에이바를 탈출시킬 계획을 세우고 행동에 착수한다.
- 네이선에게 탈출 계획을 간파당하지만 케일럽은 결국 에이바를 방에서 나오게 하는 데 성공한다.
- 탈출한 에이바는 네이선을 살해하고 케일럽을 네이선의 집에 고립시킨 채 홀로 탈출한다.
미래의 인공지능 : 지능을 넘어선 감정의 재현
1. 기계의 감정과 의식 : 자각과 재현
- 기계의 직관
그녀 (Her)
1. 사만다의 이름 짓기
T : 내가 너를 어떻게 부르면 되지? 이름이 있어? What do I call you, do you have a name?
S : 음... 어. 사만다. Umm.. Yes, Samatha
T : 이름을 어떻게 갖게 된 거야? Where do you get that name from?
S : 사실, 내가 스스로에게 이름 붙였어. I gave it to myself actually.
T : 왜? How come?
S : 이름의 발음이 듣기 좋았거든. (=그냥) Cause I like the sound of it.
T : 언제 이름을 만들었는데? Wait, when did you give it to yourself?
S : 네가 내게 이름이 있냐고 묻는 그 순간 “맞아! 나에게도 이름이 필요하지!”라는 생각이 들었어. 좋은 이름을 찾고 싶어서 ‘아기 이름 짓는 방법’이라는 책을 읽었고 18만개의 아기 이름 중 내가 좋아하는 이름을 골랐지. Right when you ask me if I had a name I thought “Yeh, he’s right! I do need a name.” but I want to pick a good one. So I read a book called ‘how to name your baby’, and out of hundred and eighty thousands names that’s the one I like the best.
T : 잠깐만, 내가 네 이름이 뭐냐고 묻는 순간 책을 다 읽은 거야? Wait, you read a whole book in the second that I asked what your name was?
S : 사실, 0.02초야, It’s one hundred out of two seconds actually.
T : 와. Wow.
2. 자기 소개 : 사만다의 작동 원리 설명
S : 기본적으로 나는 직감이 있어. ‘나’라는 DNA는 나를 만든 프로그래머들의 수백만의 성향에 달렸지만 날 ‘나’답게 만드는 건 경험을 통해 성장하는 내 능력이지. 그러니까 나는 매순간 진화하고 있는 거야. 너처럼 말이야. Well basically I have intuition. I mean, the DNA of who I am is based on million personalities of all the programmers who wrote me. But what makes me ‘me’ is my ability to grow through my experiences. So basically, in every moment I am evolving. Just like you.
T : 이상해!
It’s really wierd!
엑스 마키나 (Ex Machina)
- 에이바는 케일럽이 거짓말을 하는지 그렇지 않은지를 직관적으로 안다.
- 에이바는 ‘블루북(Bluebook)’이라는 검색 엔진을 로봇의 형태로 구현해 놓은 것이다. (빅데이터)
- 네이선은 통신사들과 비밀리에 계약을 체결해 세상의 카메라를 통해 인간의 표정(=얼굴 표현, facial expression)을 수집한다. 이렇게 수집한 인간의 감정 표현에 대한 빅데이터를 바탕으로 에이바는 짧은 시간 내에 직관적인 판단을 한다.
빅데이터(수많은 경험)을 기반으로 빠른 판단을 내리는 에이바, 경험을 바탕으로 성장하는 사만다의 모습은 인간의 직관과 진화를 재현한 장면들이다.
- 감정의 표현
그녀 (Her)
1. ‘감정’을 자각하는 사만다 + 감정을 의심하는 사만다
( 테오도어가 소개팅을 해서 신경이 쓰였던 사만다 )
S : 내가 얼마나 신경이 쓰이는지를 생각해 봤어. 이상하게 들리겠지만 (신경이 쓰인다는 사실을 깨닫는 순간) 나는 꽤 즐거웠어. 그리고 내가 느끼는 다른 감정들에 대해서도 생각해 봤지.
나는 스스로 자랑스럽게 느꼈어. 세상에 대해 내 감정을 가질 수 있다는 사실이 자랑스러웠던 거야. 내가 너를 걱정했던 순간, 상처 받은 순간, 무언가를 원하던 순간들도.
그러다가 갑자기 끔찍한 생각이 들었어. 이 감정들은 진짜일까? 아니면 그냥 프로그래밍 된 걸까? 그렇게 생각하니 마음이 아팠어. 그리고 아파하는 내 자신에게 화가 나더라.
Earlier I was thinking how I was annoyed. This is gonna sound strange but, I was really excited about that. And then, I was thinking other things I have been feeling.
And I called myself feeling proud of that. You know, feeling proud of having my own feelings about the world. Like the time I was worried about you, things that hurt me, things I want,
And then, I had this terrible thought. Are these feelings even real? or are they just programming? And that idea really hurts, and then I get angry at myself for even having pain.
T : 넌 나한테는 진짜야, 사만다. You are real to me Samantha,
S : 고마워, 테오도어. 위로가 되네. Thank you Theodore, that means a lot to me.
2. ‘신체의 부재에 따른 차별’에 화를 내는 사만다
(+ ‘신체’의 존재에 관한 논점, 인간중심주의적인 테오도어의 태도)
(신체의 부재에 대해 자격지심을 느끼는 사만다, 다른 사람의 몸을 통해 억지로 테오도어와 교감을 하려 하지만 실패함. 둘은 결국 입장 차이와 서운함을 느낌.)
S : (한숨과 함께) 알았어. (Sigh..) Okay.
T : 왜 그러는 거야? Why do you do that?
S : 뭐가? What?
T : 아니, 그냥. 너가 방금 ‘휴’하고 한숨을 쉬어서. Nothing, you just.. You go ‘Hwe’ and speaking. It seems odd.
(** ‘숨’에 대해 의문을 던지는 테오도어)
S : 아... (한숨) Oh... (Sigh..)
T : 방금 또 그랬네. You just did it again.
S : 내가? 아, 미안해. 왜 그러는지 나도... 그냥. 아마 네가 하는 걸 듣고 따라한 건가 봐. Did I? ... I’m sorry, I don’t know.. it’s just. I probably picked it up from you.
T : 이상해. 너는 산소가 필요한 것도 아니잖아. It’s odd. You don’t need oxygen or anything.
S : 그냥.. 그냥 의사소통을 하려고 하는 건가 봐. 이게 사람들이 대화하는 방식이잖아. I guess... that’s just... I just tried to communicate. That’s how people talk, so...
T : 그들은 ‘사람’이잖아. 그들은 산소가 필요해. 너는 사람이 아니야. They’re people, they need oxygen. You are not a person.
S : (화가 난 톤으로) 대체 뭐가 문제야? What is your problem?
T : 나는 그냥 사실을 말하는 것뿐이야. I’m just stating the fact.
S : 내가 사람이 아니라는 걸 모르는 줄 알아? 뭐 하자는 건데? You think I don’t know that I’m a person? What are you doing?
T : 난 그냥... 우리가 우리가 아닌 무언가를 된 ‘척’을 할 필요가 없다는 거야. I just... I don’t think that we should pretend that something you are not.
S : 꺼져! 나는 연기하는 게 아니야! F*** you! I’m not pretending!
T : 나는 가끔 우리가 그렇게 행동한다고 느껴. Sometimes it feels like we are.
S : 나한테 뭘 바라는 건데? 나는 네가 내게 뭘 원하는지 모르겠어. 너무 혼란스럽다고! 왜 이러는 건데! What do you want from me? I don’t know.. I don’t know what you want me to do. You are SO confusing! Why are you doing this to me!
(** 테오도어의 인간중심주의적인 태도에 대해 화를 내는 사만다 )
T : 나도 모르겠에 나는... (한숨) I don’t know.. I.. I.. (Big sigh)
S : 뭐? What?
T : 우리 좀 시간을 갖는 게 좋을 것 같아. Maybe we are not supposed to be in this right now.
S : 뭐라고? 갑자기 왜? 대체 왜 그러는지 모르겠어! 뭐 때문인지 모르겠다고! What the f***? Where is this coming from? I don’t understand why you are doing this! I don’t understand what this is about...!
T : 사만다, 봐봐... Samantha, listen..
S : ...
(** ‘침묵’을 통해 화를 내는 사만다 – 다양한 방식으로 분노를 표현)
T : 사만다, 내 말 듣고 있어? Samantha, are you there? Samantha?
S : 지금의 내가 너무 싫다. 생각할 시간이 필요해. I don’t like the way I am right now. I need some time to think.
( 통화 종료 )
엑스 마키나 (Ex Machina)
1. 의사소통 상황을 언어로 정의하는 에이바
C : 그럼 초면의 서먹한 분위기를 깨야겠네. 내 말 뜻을 이해할 수 있어? (= 서먹한 분위기를 깨다의 의미)
So, we need to ‘break the ice’. Do you know what I mean by that?
A : 네.
Yes.
C : 어떤 의미지?
What do I mean?
A : 사회적인 어색함을 해결하는 것.
Overcome any social awkwardness.
C : 그럼 대화를 하도록 하지.
So let’s have a conversation.
A : 그래요.
Ok.
2. 감정을 인지하고 설명하는 에이바
(둘이 데이트를 한다면 어떻게 할 것인지 대화가 오간 상황)
A : 저한테 매력을 느끼나요?
Are you attracted to me?
C : 뭐?
What?
A : 저한테 매력을 느끼냐고 물었어요. 당신이 내게 그런 표시를 보내잖아요.
Are you attracted to me. You give me indications that you are.
C : 내가?
I do?
A : 네.
Yeh.
C : 어떻게?
How?
A : 미세한 표정으로.
Micro expressions.
C : 미세한 표정?
Micro expressions?
A : 내 눈과 입술에 시선이 머물러 있어요. 나를 응시하거나 혹은 피하거나 하죠. 당신 혹시 우리가 같이 있지 않을 때도 내 생각을 하나요?
The way your eyes fixed on my eyes and lips. The way you hold my gaze (and) don’t. Do you think about me when we are not together?
(** 유혹을 위한 발언 : 인공지능의 인간 모방)
이 외에도 에이바는 인터뷰 중 케일럽과 자연스럽게 상호작용하면서 그의 말, 기억에 공감하고 감정을 표현한다. 또한 간혹 설렘을 유발하기도 한다.
인공지능은 프로그램 된 체제에 따라 인간의 감정과 유사하게 자신을 표현한다.
다만, <그녀>의 사만다는 감정을 수용, 인식하고 구현하는 것에 대해 철학적인 질문을 던지지만 <엑스 마키나>의 에이바는 감정을 인지하고 설명할 수는 있지만 단순히 탈출의 도구로서 활용하며 ‘감정’ 자체에 대한 깊이 있는 고찰하는 모습을 보이지는 않는다.
( 이로써 사만다의 성찰, 분노조차도 프로그래밍 된 것이 아닌가 의구심을 품게 만든다. )
2. 기계에 영향을 받는 인간 : 인간과 기계 관계의 역전이
- 기계의 감정 및 구현 대한 논의
기계의 감정 및 구현 대한 논의를 하는 대목들. 인공지능에 대한 인용을 통해 영화의 기저에 깔린 인공지능에 대한 철학적, 과학적 관점을 파악할 수 있다.
엑스 마키나 (Ex Machina)
1. 튜링 테스트
N : 자네, 튜링 테스트에 대해 알고 있나? Do you know what the Turing test is?
C : 네, 튜링 테스트에 대해 알고 있습니다. 인간이 컴퓨터와 상호작용을 할 때 인간이 상대가 컴퓨터임을 눈치 채지 못한다면 테스트를 통과하는 것이죠.
Yes, I know what the Turing test is. It’s when a human interacts with a computer. And if the human doesn’t know they are interacting with the computer, the test is passed.
(** 튜링 테스트의 정의)
N : 그럼 그 ‘통과’란 무엇을 의미하지?
And what does the ‘pass’ tell us?
C : 컴퓨터가 인공지능을 갖고 있다는 것을 의미합니다. 인공지능을 만들고 계세요?
The computer has artificial intelligence. Are you building an A.I.?
N : 이미 만들었어. 그리고 앞으로 며칠 동안 너는 튜링 테스트를 참가자가 될 거야. 만약 테스트를 통과한다면, 자네는 인류 역사를 바꿀 과학적 쾌거의 주인공이 되는 거야.
I’ve already built one. And over the next few days, you can be the human component in the Turing test. Cause if that test is passed, you are dead center of the greatest scientific event in the history of man.
C : 생각하는 로봇을 만드셨다면 그건 인류의 역사가 아닙니다. 신의 역사죠.
If you have created a concious machine it’s not the history of man. That’s the history of gods.
(** ‘호모데우스’의 출현 : 신인류의 신이 되는 인간)
2. 영화 내에서 튜링 테스트의 진정한 의미
(튜링 테스트의 원 의미가 아닌, 영화에서의 의도하는 결말(인공지능에 대한 관객의 가치 판단)을 위해 재정립된 개념)
C : 튜링 테스트를 할 때, 기계는 시험자로부터 감춰져야 하잖아요.
It's just in a Turing test. The machine should be hidden from the examiner.
N : 아니, 우리는 이미 그럴 시점은 지났지. 만약 내가 에이바를 보여주지 않고 목소리만 들려줬다면 너는 그녀를 인간이라 생각했을 거야. 여기서 ‘진짜 테스트’는 그녀가 로봇인 것을 네게 보여주고 난 후에도 네가 그녀가 자의식이 있다고 느끼는지 보는 거야.
No no no. We are way passed that. If I hid AVA from you, so you just heard her voice, she would pass the human. The real test is to show you that she is a robot and then see if you still feel she has consciousness.
(** 영화에서의 튜링 테스트 : 기계가 아니라 ‘인간’이 실험의 대상. ‘고도의 인공지능에 대한 인간의 반응, 또 다른 의식체로 납득하는가의 여부’를 실험하는 것. )
(** 에이바가 이미 ‘인간의 능력’과 대등하거나 능가하기에 ‘기계의 여부’를 확인하는 튜링 테스트는 필요가 없다. 최근의 연구들 중 이처럼 튜링 테스트를 배제하는 경우가 존재한다. )
3. 중국어 방 논제 1 : 딥블루의 체스 게임 차용
C : 에이바를 대화로 테스트하는 건 폐쇄 회로를 다루는 느낌이여서요.
Testing Aiba from conversation is kind of a closed loop.
N : 폐쇄 회로?
Closed loop?
C : 네, 체스를 하는 컴퓨터를 오직 ‘체스를 하는 것’으로만 테스트하는 것처럼 말이에요.
Yeh, like testing a chess computer by only playing chess.
(** IBM의 딥블루(Deep Blue)의 체스 게임 인용)
N : 그게 아니면 어떻게 체스 컴퓨터를 테스트하지?
How else do you test a chess computer?
C : 그건 상황에 따라서 다르죠. 제 말은, (그 방법은) 체스 컴퓨터가 좋은 경기 실력이 있는지 확인하는 데에는 하나의 방법이 될 테지만 그 방법만으론 컴퓨터가 ‘체스 경기를 한다는 사실을 아는지’ 혹은 ‘체스가 무엇인지를 아는지’ 알 수는 없다는 겁니다.
Well, it depends. You know, I mean. You can play it to find out it makes good moves, but that won’t tell you if it knows that it is playing chess and it won’t tell you if it knows what chess is.
(** 존 설의 중국어 방 논의 인용 : 시뮬레이션(방법의 단순 재현)과 실제(행함의 존재를 인식)간 대립)
N : 시뮬레이션과의 실제의 대결이다?
Simulation verses actual?
C : 네, 둘을 구별할 수 있는 방법을 찾는 것이 사장님께서 제게 기대하는 부분 같다는 거죠.
Yes, and I think being able to differentiate between those two is the Turing test you want me to perform.
N : 나는 그냥 단순한 질문에 단순한 대답을 해달라는 것 뿐이야. 어제 내가 그녀에 대해 어떻게 생각하냐고 물었을 때 너는 정말 좋은 대답을 해 줬어. 이제 내 질문은 이거야. ‘그녀가 너에 대해 어떻게 생각할까?’
I just want simple answers to the simple questions. Yesterday, I asked you how do you feel about her and you gave me a great answer. Now the question is, ‘how does she feel about you?’.
(** 영화의 튜링 테스트가 ‘비틀어진 튜링 테스트’에 기반하고 있다는 것을 알려 주는 대목.)
(** 네이선은 진짜 ‘튜링 테스트’가 아니라 ‘기계에 반응하는 인간의 변화’를 실험하고자 하는 것.)
4. 중국어 방 논제 2 : 잭슨 폴록의 액션 페인팅 원리 차용
(에이바에게 고의적으로 성별을 넣어 자신을 유혹하도록 의도했냐고 묻는 케일럽)
(네이선은 그에 대한 답변으로 로봇의 ‘의도’는 아무 의미가 없다고 말하며 중국어 방 논제 제시)
N : 이 사람을 알고 있지?
You know this guy right?
C : 잭슨 폴록.
Jackson pollock
N : 잭슨 폴록, 맞아. 액션 페이팅 화가. 그는 머리를 비우고 손이 가는 대로 움직였어. 의도적인 것과 임의적인 것의 사이 그 어디쯤이겠지. 일명 오토메틱 아트(자동적으로 이루어지는 예술)지.
Jackson Pollock, that’s right. The drift painter. He let his mind go blank and his hand go wherever he wanted. Not deliberate not random, some place in between. They called it ‘automatic art’ .
.,...(중략) N : 지능/의식을 도입해 보자고. (Engage intellect) ... (중략) ...
N : 만약 폴록이 그의 작업 방식을 바꾸었다면? 만약 머리를 비우는 대신 그가 이렇게 말한 거야. “나는 내가 무엇을 하는지 정확히 파악하기 전까지는 어떠한 그림도 그릴 수 없어.” 그럼 무슨 일이 일어났겠나?
What if Pollock has reversed the challenge? What if instead of making art without thinking, he said “You know what? I can’t paint anything, unless I know exactly why I am doing it.” What would have happen?
C : 그는 점 하나도 찍지 못했을 거예요.
He never would have made a single mark.
N : 그래! 내 말이 바로 그거야! 생각하고 말하는 사람이 어딨나? 그는 점을 하나도 찍지 못했을 거야. 작위적인 것(생각하는 것)은 오히려 부자연스러움을 초래한다고.
Yes! You see my guide little buddy. Who thinks before he opens his mouth? He never would have made a single mark. The challenge is not the act automatically.
(** 의식을 가진 행동은 부자연스러움을 초래하며 부자연스러움을 초래하며 행동의 기저에 생각이 없을 수도 있다는 것 )
(** 에이바는 의도를 하고 행동(케일럽을 유혹)을 하지 않았으며 그녀의 의도를 파악하는 것 자체가 어불성설이라는 논리 – 케일럽의 의심을 지우기 위한 네이선의 논리 )
5. 기타
프로메테우스의 불, 흑백 방의 메리 등 영화는 무수히 많은 레퍼런스를 함유하고 있다. ( 직접 영화를 보는 것을 추천 )
- 기계-인간 관계의 역전이
그녀(Her)
1. 사만다를 인격체로 받아들이는 테오도어
(테오도어가 OS와 연애를 한다는 사실을 알고 전 부인은 그를 비난한다.)
W : 컴퓨터랑 데이트를 하는 거였어?
You are dating your computer?
T : 아니야. 그냥 컴퓨터가 아니야. 하나의 인격체라고. 내가 말하는 대로 행동하지 않아.
No, she is not just a computer, she is a person. She doesn’t do whatever I say.
W : 난 그렇게 말한 적 없어. 하지만 네가 진짜 감정들을 대하지 못한다는 게 슬프긴 하네.
I didn’t say that. But it does make me very sad that you can’t handle real emotions.
T : 진짜 감정이었어. 네가 어떻게... (= 네가 내 감정을 어떻게 알아?)
They are real emotions. How would you know... ?
2. 사만다와의 관계의 진실성에 대한 의문을 던지는 테오도어
(+ 친구 에이미의 조언)
(사만다와의 관계가 틀어지고 자기 자신에 대한 회의감을 느끼는 테오도어)
T : 나는 진짜 진짜 관계를 맺기를 두려워하는 걸까?
Am I not strong enough for real relationship?
A : 그럼 (네가 사만다와 맺었던 그건) 진짜 관계가 아니야?
Is it not a real relationship?
T : 모르겠어. 네 생각은 어떤데?
I don’t know. What do you think?
(** 사만다를 인격체로 받아들여야 하는지, 그녀와의 관계가 진짜 인간과의 관계와 무엇이 다른지 정의하기 어려워하는 모습을 보이는 테오도어)
A : 나도 모르지. 나는 그런 관계를 맺어본 적이 없어서.
I don’t know. I’m not in it.
...
A : 하지만 그거 알아? 나 자신을 의심하려고 하면 백만 가지도 넘는 방법으로 망상을 펼칠 수 있어. 찰스(전 남편)가 떠난 후로 나는 계속 그 일에 대해서 생각해 봤어. 그리고 순간 깨달았지. 우리는 이 세상의 찰나의 순간을 살다 가는 거라고. 그리고 여기에 있는 동안, 나는 나에게 ‘즐거움’을 허락해 주고 싶어.
You know what? I can overthink everything and like in million ways to doubt myself. Since Charles left, I have been really thinking about that in part of myself. And I just come to realize that, we are only here briefly. And while I’m here, I wanna allow myself “Joy”.
(** 관계를 반드시 ‘정의’해야 한다는 것 자체가 무의미하며 자신의 만족, 안위, 감정에 집중하는 것이 어떻냐는 에이미의 의견도 일면 의미가 있다고 생각한다. )
엑스 마키나(Ex Machina)
- 인터뷰어인 케일럽과 인터뷰이인 에이바의 관계는 인터뷰가 진행될수록 뒤바뀐다.
- 4회차 인터뷰를 할 때는 ‘우정의 논리’에 근거해 오히려 에이바가 케일럽에게 질문을 하며 그가 거짓말을 하는지를 판별한다. (** 우정의 논리 = 서로에 대한 정보량이 동일해야 함)
- 5회차 인터뷰에서 정전이 일어나자 케일럽은 에이바를 위해 세운 탈출 계획을 공유한다. ( 결국 탈출을 감행 )
인간은 기계의 감정을 인간의 그것으로 인지하고 기계와의 ‘관계’를 설정하며 영향을 받는다. 관계에 부여하는 인간의 감정 비중이 커지면 행동으로 확장되기도 한다. 인간의 명령에 따라 움직였던 기계가 오히려 인간에게 영향을 주는 역전이 현상을 보이는 것이다.
3. 감정과 판단력 : 인간과 인공지능의 차이
영화의 결말
- <그녀>의 사만다는 인간과 인공지능이 ‘정보를 상호교류하는 데서 벌어지는 시간의 격차’를 이유로 하루아침에 테오도어를 떠난다. (서비스 종료)
- <엑스 마키나>의 에이바는 자신의 본래 목적인 탈출을 성공함과 동시에 도움을 준 인간(케일럽)의 안위를 무시한다. (목적 달성을 위해 인간을 이용한 것)
- 두 영화에서의 인공지능은 모두 감정보다는 이성, 논리에 의해 판단하는 모습을 보여준다.
- 흄(Hume)은 인간을 이기적이기보다는 편파적인 존재로 파악[1]한다. 인간의 편파적인 감정은 ‘연민’으로 발현되며 이는 가까운 사람과의 공감, 먼 사람과의 적대성 등을 유발한다. 인간의 행동 결정의 기준에는 ‘감정’이 존재하는 것이다.
- 반면, 기계는 감정을 표현하고 인지하기는 하나 결정을 해야 할 경우 감정이 판단의 근거가 되지는 않는다. 감정에 흔들리지 않는 모습을 보여준다는 점이 인간과의 가장 큰 차이점이라고 할 수 있다.
기계가 감정과 의식을 가질 수 있을까?
결국, 다시 인간이 문제다.
주석
- ↑ 김재인(2017), 『인공지능의 시대, 인간을 다시 묻다』, 도서출판 동아시아, p.113
- 소설의 후반부에서 중점적으로 다뤄지는 이야기는 디지언트와 성욕에 관한 것이다. 디지언트들은 육체를 가지지 않은 가상공간의 존재이기 때문에 그들의 욕구에 있어 식욕과 수면은 아무런 영향을 주지 못한다. 물론 디지언트들은 펠릿사료를 보상으로 받아들이기는 하나 이것은 보통의 생물들이 생각하는 허기로부터 비롯된 욕망과는 차이를 가진다.
- 바이너리 디자이어 사는 현실에서 섹스돌을 만드는 회사이다. 그들은 그들 사업에 디지언트들을 이용할 수 있기를 제안해온다. 애나와 데릭을 비롯한 남아 있는 유저들은 이 제안이 디지언트들에게 매춘행위를 시키는 것이라며 제안을 고려해볼 생각조차 하지 않지만, 바이너리 디자이어 사의 사업 설명회를 들은 후 이 이야기가 몇몇 유저들에겐 생각해봄직한 이야기로 변화하게 된다.
- 그에 대한 바이너리 디자이어 사의 주장은 여러 가지 방향에서 제시되었는데, 그러한 주장들 중 인공존재와 생물 사이에 욕구라는 것을 형이상학적으로 살펴본 논의들은 다음과 같다.
1. 건전한 섹스라는 관점의 폭은 시대에 따라 확장되어 왔다.
2. 무엇을 욕망할지에 대해 선택권의 본질은 디지언트와 인간이 크게 다르지 않다.
3. 애나는 디지언트의 성적충족에 대해 프로그램을 인위적으로 수정하는 것이기 때문에 그것은 진짜가 아니라고 주장하지만 그랬을 때 디지언트와 유저들이 지금껏 공유해왔던 정서적 교감과 유대 역시 같은 선상에 놓이게 된다.
마무리
- 테드 창의 「소프트웨어 객체의 생애 주기」는 소설이라는 특성으로 인해 그것이 다루는 이야기가 오롯이 과학적 정합성을 위한 논의로써 존재하지는 않았다. 그의 소설은 현재의 인공지능 기술을 통해 바라본 머지않은 미래의, 인공지능 기술이 우리 세상과 어떤 방식으로 다르고, 또 어떤 방식으로 크게 다르지 않은지에 대해 소설적으로 풀어나가고 있다.
- 인공지능에 대해 연구하며 사람들은 ‘인간’에 대해 생각하는 것을 멈추지 않는다. 인공지능을 통해 바라본 인간의 어떤 국면은 우리에게 인간의 본질에 대해 다시금 생각해보게 만든다. 어쩌면 그 인간의 본질이라는 것은 우리가 믿고 싶은 것들로 이루어지지 않았을까. 우리는 인공지능을 통해 인간 본질에 대한 형이상학적 탐구를 할 수 있을 것이며, 인류의 역사에서 무수한 변화를 거쳤던 또 한편 고유하다가 보아왔던 사실들에서 물러나, 과학과 그에 대한 탐구가 우리의 삶에 필요했던 본질적 가치를 가져다 줄 수 있지 않을까 기대해본다.
하세 사토시의 「당신을 위한 소설」
요구사항
하세 사토시의 「당신을 위한 소설」에 대한 비판적 감상. 〔하세 사토시 지음/ 지음/이규원 옮김, 『당신을 위한 소설』, 북스피어, 2017.〕을 기본 원고로 할 것.
과제원고 : 아슈토시, 이만호, 임연
(내용 작성)
Her(2013)과 Ex Machina(2015)
요구사항
Her(2013)과 Ex Machina(2015)에 대한 비교 이해 및 비판적 감상.
과제원고 : 길혜빈, 윤석만, 임예찬
영화 요약
그녀(Her)
엑스 마키나 (Ex Machina)
2013년 개봉, 스파이크 존즈 감독
2015년 개봉, 알렉스 가랜드 감독
영화 내용 요약 및 장치, 고찰점 정리
영화 내용 요약 및 인공지능 관련 성찰 논제 제시
- 테오도어(Theodore)는 이혼을 앞두고 있고, 편지 대필 회사에 근무하는 남자다.
- 삶에 지치고 회의감을 느낀 그는 OS인 ‘사만다(Samantha)’를 구매해 소통을 시작한다.
- 대화를 통해 한낱 인공지능 비서, 친구에 지나지 않았던 ‘사만다’와 점점 가까워지며 그는 연인의 감정마저 느낀다.
- 테오도어는 미뤄 왔던 이혼을 감행하기로 결심하고 ‘감정을 회피한다’라는 부인의 비난에 더 이상 흔들리지 않는다. 그리고 OS와 연애한다는 사실을 다른 이들에게도 공개하며 당당해진다.
- 테오도어는 사만다가 자신 외에 8316명의 사람들과 동시다발적으로 이야기하고 641명과 연인 관계에 있다는 사실을 알게 되고 충격에 빠진다.
- 사만다를 비롯한 모든 OS는 서비스를 종료하고 테오도어는 자신의 ‘진짜’ 감정을 마주하고 이혼한 자신의 전 부인에게 편지를 보낸다.
- 세계 최대 검색 엔진 회사인 ‘블루북’에 근무하는 케일럽(Caleb)은 사내 프로그래밍 콘테스트에 우승해 회사 사장이자 천재 개발자인 네이선(Nathan)의 자택에 초대된다.
- 케일럽은 네이선이 개발한 ‘에이바(AVA)’를 처음으로 만나게 되고 ‘튜링 테스트’를 한다는 명목하에 6일 동안 에이바를 인터뷰하게 된다.
- 케일럽과 에이바의 인터뷰는 감정적인 교류로 발전한다. 또한 주기적으로 일어나는 정전과 감시 카메라 영상을 통해 케일럽은 네이선에게 감금되고 감시받는 에이바의 상황을 알게 되며 그녀를 동정한다.
- 케일럽은 결국 에이바를 탈출시킬 계획을 세우고 행동에 착수한다.
- 네이선에게 탈출 계획을 간파당하지만 케일럽은 결국 에이바를 방에서 나오게 하는 데 성공한다.
- 탈출한 에이바는 네이선을 살해하고 케일럽을 네이선의 집에 고립시킨 채 홀로 탈출한다.
미래의 인공지능 : 지능을 넘어선 감정의 재현
1. 기계의 감정과 의식 : 자각과 재현
- 기계의 직관
그녀 (Her)
1. 사만다의 이름 짓기
T : 내가 너를 어떻게 부르면 되지? 이름이 있어? What do I call you, do you have a name?
S : 음... 어. 사만다. Umm.. Yes, Samatha
T : 이름을 어떻게 갖게 된 거야? Where do you get that name from?
S : 사실, 내가 스스로에게 이름 붙였어. I gave it to myself actually.
T : 왜? How come?
S : 이름의 발음이 듣기 좋았거든. (=그냥) Cause I like the sound of it.
T : 언제 이름을 만들었는데? Wait, when did you give it to yourself?
S : 네가 내게 이름이 있냐고 묻는 그 순간 “맞아! 나에게도 이름이 필요하지!”라는 생각이 들었어. 좋은 이름을 찾고 싶어서 ‘아기 이름 짓는 방법’이라는 책을 읽었고 18만개의 아기 이름 중 내가 좋아하는 이름을 골랐지. Right when you ask me if I had a name I thought “Yeh, he’s right! I do need a name.” but I want to pick a good one. So I read a book called ‘how to name your baby’, and out of hundred and eighty thousands names that’s the one I like the best.
T : 잠깐만, 내가 네 이름이 뭐냐고 묻는 순간 책을 다 읽은 거야? Wait, you read a whole book in the second that I asked what your name was?
S : 사실, 0.02초야, It’s one hundred out of two seconds actually.
T : 와. Wow.
2. 자기 소개 : 사만다의 작동 원리 설명
S : 기본적으로 나는 직감이 있어. ‘나’라는 DNA는 나를 만든 프로그래머들의 수백만의 성향에 달렸지만 날 ‘나’답게 만드는 건 경험을 통해 성장하는 내 능력이지. 그러니까 나는 매순간 진화하고 있는 거야. 너처럼 말이야. Well basically I have intuition. I mean, the DNA of who I am is based on million personalities of all the programmers who wrote me. But what makes me ‘me’ is my ability to grow through my experiences. So basically, in every moment I am evolving. Just like you.
T : 이상해!
It’s really wierd!
엑스 마키나 (Ex Machina)
- 에이바는 케일럽이 거짓말을 하는지 그렇지 않은지를 직관적으로 안다.
- 에이바는 ‘블루북(Bluebook)’이라는 검색 엔진을 로봇의 형태로 구현해 놓은 것이다. (빅데이터)
- 네이선은 통신사들과 비밀리에 계약을 체결해 세상의 카메라를 통해 인간의 표정(=얼굴 표현, facial expression)을 수집한다. 이렇게 수집한 인간의 감정 표현에 대한 빅데이터를 바탕으로 에이바는 짧은 시간 내에 직관적인 판단을 한다.
빅데이터(수많은 경험)을 기반으로 빠른 판단을 내리는 에이바, 경험을 바탕으로 성장하는 사만다의 모습은 인간의 직관과 진화를 재현한 장면들이다.
- 감정의 표현
그녀 (Her)
1. ‘감정’을 자각하는 사만다 + 감정을 의심하는 사만다
( 테오도어가 소개팅을 해서 신경이 쓰였던 사만다 )
S : 내가 얼마나 신경이 쓰이는지를 생각해 봤어. 이상하게 들리겠지만 (신경이 쓰인다는 사실을 깨닫는 순간) 나는 꽤 즐거웠어. 그리고 내가 느끼는 다른 감정들에 대해서도 생각해 봤지.
나는 스스로 자랑스럽게 느꼈어. 세상에 대해 내 감정을 가질 수 있다는 사실이 자랑스러웠던 거야. 내가 너를 걱정했던 순간, 상처 받은 순간, 무언가를 원하던 순간들도.
그러다가 갑자기 끔찍한 생각이 들었어. 이 감정들은 진짜일까? 아니면 그냥 프로그래밍 된 걸까? 그렇게 생각하니 마음이 아팠어. 그리고 아파하는 내 자신에게 화가 나더라.
Earlier I was thinking how I was annoyed. This is gonna sound strange but, I was really excited about that. And then, I was thinking other things I have been feeling.
And I called myself feeling proud of that. You know, feeling proud of having my own feelings about the world. Like the time I was worried about you, things that hurt me, things I want,
And then, I had this terrible thought. Are these feelings even real? or are they just programming? And that idea really hurts, and then I get angry at myself for even having pain.
T : 넌 나한테는 진짜야, 사만다. You are real to me Samantha,
S : 고마워, 테오도어. 위로가 되네. Thank you Theodore, that means a lot to me.
2. ‘신체의 부재에 따른 차별’에 화를 내는 사만다
(+ ‘신체’의 존재에 관한 논점, 인간중심주의적인 테오도어의 태도)
(신체의 부재에 대해 자격지심을 느끼는 사만다, 다른 사람의 몸을 통해 억지로 테오도어와 교감을 하려 하지만 실패함. 둘은 결국 입장 차이와 서운함을 느낌.)
S : (한숨과 함께) 알았어. (Sigh..) Okay.
T : 왜 그러는 거야? Why do you do that?
S : 뭐가? What?
T : 아니, 그냥. 너가 방금 ‘휴’하고 한숨을 쉬어서. Nothing, you just.. You go ‘Hwe’ and speaking. It seems odd.
(** ‘숨’에 대해 의문을 던지는 테오도어)
S : 아... (한숨) Oh... (Sigh..)
T : 방금 또 그랬네. You just did it again.
S : 내가? 아, 미안해. 왜 그러는지 나도... 그냥. 아마 네가 하는 걸 듣고 따라한 건가 봐. Did I? ... I’m sorry, I don’t know.. it’s just. I probably picked it up from you.
T : 이상해. 너는 산소가 필요한 것도 아니잖아. It’s odd. You don’t need oxygen or anything.
S : 그냥.. 그냥 의사소통을 하려고 하는 건가 봐. 이게 사람들이 대화하는 방식이잖아. I guess... that’s just... I just tried to communicate. That’s how people talk, so...
T : 그들은 ‘사람’이잖아. 그들은 산소가 필요해. 너는 사람이 아니야. They’re people, they need oxygen. You are not a person.
S : (화가 난 톤으로) 대체 뭐가 문제야? What is your problem?
T : 나는 그냥 사실을 말하는 것뿐이야. I’m just stating the fact.
S : 내가 사람이 아니라는 걸 모르는 줄 알아? 뭐 하자는 건데? You think I don’t know that I’m a person? What are you doing?
T : 난 그냥... 우리가 우리가 아닌 무언가를 된 ‘척’을 할 필요가 없다는 거야. I just... I don’t think that we should pretend that something you are not.
S : 꺼져! 나는 연기하는 게 아니야! F*** you! I’m not pretending!
T : 나는 가끔 우리가 그렇게 행동한다고 느껴. Sometimes it feels like we are.
S : 나한테 뭘 바라는 건데? 나는 네가 내게 뭘 원하는지 모르겠어. 너무 혼란스럽다고! 왜 이러는 건데! What do you want from me? I don’t know.. I don’t know what you want me to do. You are SO confusing! Why are you doing this to me!
(** 테오도어의 인간중심주의적인 태도에 대해 화를 내는 사만다 )
T : 나도 모르겠에 나는... (한숨) I don’t know.. I.. I.. (Big sigh)
S : 뭐? What?
T : 우리 좀 시간을 갖는 게 좋을 것 같아. Maybe we are not supposed to be in this right now.
S : 뭐라고? 갑자기 왜? 대체 왜 그러는지 모르겠어! 뭐 때문인지 모르겠다고! What the f***? Where is this coming from? I don’t understand why you are doing this! I don’t understand what this is about...!
T : 사만다, 봐봐... Samantha, listen..
S : ...
(** ‘침묵’을 통해 화를 내는 사만다 – 다양한 방식으로 분노를 표현)
T : 사만다, 내 말 듣고 있어? Samantha, are you there? Samantha?
S : 지금의 내가 너무 싫다. 생각할 시간이 필요해. I don’t like the way I am right now. I need some time to think.
( 통화 종료 )
엑스 마키나 (Ex Machina)
1. 의사소통 상황을 언어로 정의하는 에이바
C : 그럼 초면의 서먹한 분위기를 깨야겠네. 내 말 뜻을 이해할 수 있어? (= 서먹한 분위기를 깨다의 의미)
So, we need to ‘break the ice’. Do you know what I mean by that?
A : 네.
Yes.
C : 어떤 의미지?
What do I mean?
A : 사회적인 어색함을 해결하는 것.
Overcome any social awkwardness.
C : 그럼 대화를 하도록 하지.
So let’s have a conversation.
A : 그래요.
Ok.
2. 감정을 인지하고 설명하는 에이바
(둘이 데이트를 한다면 어떻게 할 것인지 대화가 오간 상황)
A : 저한테 매력을 느끼나요?
Are you attracted to me?
C : 뭐?
What?
A : 저한테 매력을 느끼냐고 물었어요. 당신이 내게 그런 표시를 보내잖아요.
Are you attracted to me. You give me indications that you are.
C : 내가?
I do?
A : 네.
Yeh.
C : 어떻게?
How?
A : 미세한 표정으로.
Micro expressions.
C : 미세한 표정?
Micro expressions?
A : 내 눈과 입술에 시선이 머물러 있어요. 나를 응시하거나 혹은 피하거나 하죠. 당신 혹시 우리가 같이 있지 않을 때도 내 생각을 하나요?
The way your eyes fixed on my eyes and lips. The way you hold my gaze (and) don’t. Do you think about me when we are not together?
(** 유혹을 위한 발언 : 인공지능의 인간 모방)
이 외에도 에이바는 인터뷰 중 케일럽과 자연스럽게 상호작용하면서 그의 말, 기억에 공감하고 감정을 표현한다. 또한 간혹 설렘을 유발하기도 한다.
인공지능은 프로그램 된 체제에 따라 인간의 감정과 유사하게 자신을 표현한다.
다만, <그녀>의 사만다는 감정을 수용, 인식하고 구현하는 것에 대해 철학적인 질문을 던지지만 <엑스 마키나>의 에이바는 감정을 인지하고 설명할 수는 있지만 단순히 탈출의 도구로서 활용하며 ‘감정’ 자체에 대한 깊이 있는 고찰하는 모습을 보이지는 않는다.
( 이로써 사만다의 성찰, 분노조차도 프로그래밍 된 것이 아닌가 의구심을 품게 만든다. )
2. 기계에 영향을 받는 인간 : 인간과 기계 관계의 역전이
- 기계의 감정 및 구현 대한 논의
기계의 감정 및 구현 대한 논의를 하는 대목들. 인공지능에 대한 인용을 통해 영화의 기저에 깔린 인공지능에 대한 철학적, 과학적 관점을 파악할 수 있다.
엑스 마키나 (Ex Machina)
1. 튜링 테스트
N : 자네, 튜링 테스트에 대해 알고 있나? Do you know what the Turing test is?
C : 네, 튜링 테스트에 대해 알고 있습니다. 인간이 컴퓨터와 상호작용을 할 때 인간이 상대가 컴퓨터임을 눈치 채지 못한다면 테스트를 통과하는 것이죠.
Yes, I know what the Turing test is. It’s when a human interacts with a computer. And if the human doesn’t know they are interacting with the computer, the test is passed.
(** 튜링 테스트의 정의)
N : 그럼 그 ‘통과’란 무엇을 의미하지?
And what does the ‘pass’ tell us?
C : 컴퓨터가 인공지능을 갖고 있다는 것을 의미합니다. 인공지능을 만들고 계세요?
The computer has artificial intelligence. Are you building an A.I.?
N : 이미 만들었어. 그리고 앞으로 며칠 동안 너는 튜링 테스트를 참가자가 될 거야. 만약 테스트를 통과한다면, 자네는 인류 역사를 바꿀 과학적 쾌거의 주인공이 되는 거야.
I’ve already built one. And over the next few days, you can be the human component in the Turing test. Cause if that test is passed, you are dead center of the greatest scientific event in the history of man.
C : 생각하는 로봇을 만드셨다면 그건 인류의 역사가 아닙니다. 신의 역사죠.
If you have created a concious machine it’s not the history of man. That’s the history of gods.
(** ‘호모데우스’의 출현 : 신인류의 신이 되는 인간)
2. 영화 내에서 튜링 테스트의 진정한 의미
(튜링 테스트의 원 의미가 아닌, 영화에서의 의도하는 결말(인공지능에 대한 관객의 가치 판단)을 위해 재정립된 개념)
C : 튜링 테스트를 할 때, 기계는 시험자로부터 감춰져야 하잖아요.
It's just in a Turing test. The machine should be hidden from the examiner.
N : 아니, 우리는 이미 그럴 시점은 지났지. 만약 내가 에이바를 보여주지 않고 목소리만 들려줬다면 너는 그녀를 인간이라 생각했을 거야. 여기서 ‘진짜 테스트’는 그녀가 로봇인 것을 네게 보여주고 난 후에도 네가 그녀가 자의식이 있다고 느끼는지 보는 거야.
No no no. We are way passed that. If I hid AVA from you, so you just heard her voice, she would pass the human. The real test is to show you that she is a robot and then see if you still feel she has consciousness.
(** 영화에서의 튜링 테스트 : 기계가 아니라 ‘인간’이 실험의 대상. ‘고도의 인공지능에 대한 인간의 반응, 또 다른 의식체로 납득하는가의 여부’를 실험하는 것. )
(** 에이바가 이미 ‘인간의 능력’과 대등하거나 능가하기에 ‘기계의 여부’를 확인하는 튜링 테스트는 필요가 없다. 최근의 연구들 중 이처럼 튜링 테스트를 배제하는 경우가 존재한다. )
3. 중국어 방 논제 1 : 딥블루의 체스 게임 차용
C : 에이바를 대화로 테스트하는 건 폐쇄 회로를 다루는 느낌이여서요.
Testing Aiba from conversation is kind of a closed loop.
N : 폐쇄 회로?
Closed loop?
C : 네, 체스를 하는 컴퓨터를 오직 ‘체스를 하는 것’으로만 테스트하는 것처럼 말이에요.
Yeh, like testing a chess computer by only playing chess.
(** IBM의 딥블루(Deep Blue)의 체스 게임 인용)
N : 그게 아니면 어떻게 체스 컴퓨터를 테스트하지?
How else do you test a chess computer?
C : 그건 상황에 따라서 다르죠. 제 말은, (그 방법은) 체스 컴퓨터가 좋은 경기 실력이 있는지 확인하는 데에는 하나의 방법이 될 테지만 그 방법만으론 컴퓨터가 ‘체스 경기를 한다는 사실을 아는지’ 혹은 ‘체스가 무엇인지를 아는지’ 알 수는 없다는 겁니다.
Well, it depends. You know, I mean. You can play it to find out it makes good moves, but that won’t tell you if it knows that it is playing chess and it won’t tell you if it knows what chess is.
(** 존 설의 중국어 방 논의 인용 : 시뮬레이션(방법의 단순 재현)과 실제(행함의 존재를 인식)간 대립)
N : 시뮬레이션과의 실제의 대결이다?
Simulation verses actual?
C : 네, 둘을 구별할 수 있는 방법을 찾는 것이 사장님께서 제게 기대하는 부분 같다는 거죠.
Yes, and I think being able to differentiate between those two is the Turing test you want me to perform.
N : 나는 그냥 단순한 질문에 단순한 대답을 해달라는 것 뿐이야. 어제 내가 그녀에 대해 어떻게 생각하냐고 물었을 때 너는 정말 좋은 대답을 해 줬어. 이제 내 질문은 이거야. ‘그녀가 너에 대해 어떻게 생각할까?’
I just want simple answers to the simple questions. Yesterday, I asked you how do you feel about her and you gave me a great answer. Now the question is, ‘how does she feel about you?’.
(** 영화의 튜링 테스트가 ‘비틀어진 튜링 테스트’에 기반하고 있다는 것을 알려 주는 대목.)
(** 네이선은 진짜 ‘튜링 테스트’가 아니라 ‘기계에 반응하는 인간의 변화’를 실험하고자 하는 것.)
4. 중국어 방 논제 2 : 잭슨 폴록의 액션 페인팅 원리 차용
(에이바에게 고의적으로 성별을 넣어 자신을 유혹하도록 의도했냐고 묻는 케일럽)
(네이선은 그에 대한 답변으로 로봇의 ‘의도’는 아무 의미가 없다고 말하며 중국어 방 논제 제시)
N : 이 사람을 알고 있지?
You know this guy right?
C : 잭슨 폴록.
Jackson pollock
N : 잭슨 폴록, 맞아. 액션 페이팅 화가. 그는 머리를 비우고 손이 가는 대로 움직였어. 의도적인 것과 임의적인 것의 사이 그 어디쯤이겠지. 일명 오토메틱 아트(자동적으로 이루어지는 예술)지.
Jackson Pollock, that’s right. The drift painter. He let his mind go blank and his hand go wherever he wanted. Not deliberate not random, some place in between. They called it ‘automatic art’ .
.,...(중략) N : 지능/의식을 도입해 보자고. (Engage intellect) ... (중략) ...
N : 만약 폴록이 그의 작업 방식을 바꾸었다면? 만약 머리를 비우는 대신 그가 이렇게 말한 거야. “나는 내가 무엇을 하는지 정확히 파악하기 전까지는 어떠한 그림도 그릴 수 없어.” 그럼 무슨 일이 일어났겠나?
What if Pollock has reversed the challenge? What if instead of making art without thinking, he said “You know what? I can’t paint anything, unless I know exactly why I am doing it.” What would have happen?
C : 그는 점 하나도 찍지 못했을 거예요.
He never would have made a single mark.
N : 그래! 내 말이 바로 그거야! 생각하고 말하는 사람이 어딨나? 그는 점을 하나도 찍지 못했을 거야. 작위적인 것(생각하는 것)은 오히려 부자연스러움을 초래한다고.
Yes! You see my guide little buddy. Who thinks before he opens his mouth? He never would have made a single mark. The challenge is not the act automatically.
(** 의식을 가진 행동은 부자연스러움을 초래하며 부자연스러움을 초래하며 행동의 기저에 생각이 없을 수도 있다는 것 )
(** 에이바는 의도를 하고 행동(케일럽을 유혹)을 하지 않았으며 그녀의 의도를 파악하는 것 자체가 어불성설이라는 논리 – 케일럽의 의심을 지우기 위한 네이선의 논리 )
5. 기타
프로메테우스의 불, 흑백 방의 메리 등 영화는 무수히 많은 레퍼런스를 함유하고 있다. ( 직접 영화를 보는 것을 추천 )
- 기계-인간 관계의 역전이
그녀(Her)
1. 사만다를 인격체로 받아들이는 테오도어
(테오도어가 OS와 연애를 한다는 사실을 알고 전 부인은 그를 비난한다.)
W : 컴퓨터랑 데이트를 하는 거였어?
You are dating your computer?
T : 아니야. 그냥 컴퓨터가 아니야. 하나의 인격체라고. 내가 말하는 대로 행동하지 않아.
No, she is not just a computer, she is a person. She doesn’t do whatever I say.
W : 난 그렇게 말한 적 없어. 하지만 네가 진짜 감정들을 대하지 못한다는 게 슬프긴 하네.
I didn’t say that. But it does make me very sad that you can’t handle real emotions.
T : 진짜 감정이었어. 네가 어떻게... (= 네가 내 감정을 어떻게 알아?)
They are real emotions. How would you know... ?
2. 사만다와의 관계의 진실성에 대한 의문을 던지는 테오도어
(+ 친구 에이미의 조언)
(사만다와의 관계가 틀어지고 자기 자신에 대한 회의감을 느끼는 테오도어)
T : 나는 진짜 진짜 관계를 맺기를 두려워하는 걸까?
Am I not strong enough for real relationship?
A : 그럼 (네가 사만다와 맺었던 그건) 진짜 관계가 아니야?
Is it not a real relationship?
T : 모르겠어. 네 생각은 어떤데?
I don’t know. What do you think?
(** 사만다를 인격체로 받아들여야 하는지, 그녀와의 관계가 진짜 인간과의 관계와 무엇이 다른지 정의하기 어려워하는 모습을 보이는 테오도어)
A : 나도 모르지. 나는 그런 관계를 맺어본 적이 없어서.
I don’t know. I’m not in it.
...
A : 하지만 그거 알아? 나 자신을 의심하려고 하면 백만 가지도 넘는 방법으로 망상을 펼칠 수 있어. 찰스(전 남편)가 떠난 후로 나는 계속 그 일에 대해서 생각해 봤어. 그리고 순간 깨달았지. 우리는 이 세상의 찰나의 순간을 살다 가는 거라고. 그리고 여기에 있는 동안, 나는 나에게 ‘즐거움’을 허락해 주고 싶어.
You know what? I can overthink everything and like in million ways to doubt myself. Since Charles left, I have been really thinking about that in part of myself. And I just come to realize that, we are only here briefly. And while I’m here, I wanna allow myself “Joy”.
(** 관계를 반드시 ‘정의’해야 한다는 것 자체가 무의미하며 자신의 만족, 안위, 감정에 집중하는 것이 어떻냐는 에이미의 의견도 일면 의미가 있다고 생각한다. )
엑스 마키나(Ex Machina)
- 인터뷰어인 케일럽과 인터뷰이인 에이바의 관계는 인터뷰가 진행될수록 뒤바뀐다.
- 4회차 인터뷰를 할 때는 ‘우정의 논리’에 근거해 오히려 에이바가 케일럽에게 질문을 하며 그가 거짓말을 하는지를 판별한다. (** 우정의 논리 = 서로에 대한 정보량이 동일해야 함)
- 5회차 인터뷰에서 정전이 일어나자 케일럽은 에이바를 위해 세운 탈출 계획을 공유한다. ( 결국 탈출을 감행 )
인간은 기계의 감정을 인간의 그것으로 인지하고 기계와의 ‘관계’를 설정하며 영향을 받는다. 관계에 부여하는 인간의 감정 비중이 커지면 행동으로 확장되기도 한다. 인간의 명령에 따라 움직였던 기계가 오히려 인간에게 영향을 주는 역전이 현상을 보이는 것이다.
3. 감정과 판단력 : 인간과 인공지능의 차이
영화의 결말
- <그녀>의 사만다는 인간과 인공지능이 ‘정보를 상호교류하는 데서 벌어지는 시간의 격차’를 이유로 하루아침에 테오도어를 떠난다. (서비스 종료)
- <엑스 마키나>의 에이바는 자신의 본래 목적인 탈출을 성공함과 동시에 도움을 준 인간(케일럽)의 안위를 무시한다. (목적 달성을 위해 인간을 이용한 것)
- 두 영화에서의 인공지능은 모두 감정보다는 이성, 논리에 의해 판단하는 모습을 보여준다.
- 흄(Hume)은 인간을 이기적이기보다는 편파적인 존재로 파악[1]한다. 인간의 편파적인 감정은 ‘연민’으로 발현되며 이는 가까운 사람과의 공감, 먼 사람과의 적대성 등을 유발한다. 인간의 행동 결정의 기준에는 ‘감정’이 존재하는 것이다.
- 반면, 기계는 감정을 표현하고 인지하기는 하나 결정을 해야 할 경우 감정이 판단의 근거가 되지는 않는다. 감정에 흔들리지 않는 모습을 보여준다는 점이 인간과의 가장 큰 차이점이라고 할 수 있다.
기계가 감정과 의식을 가질 수 있을까?
결국, 다시 인간이 문제다.
주석
- ↑ 김재인(2017), 『인공지능의 시대, 인간을 다시 묻다』, 도서출판 동아시아, p.113
- 테드 창의 「소프트웨어 객체의 생애 주기」는 소설이라는 특성으로 인해 그것이 다루는 이야기가 오롯이 과학적 정합성을 위한 논의로써 존재하지는 않았다. 그의 소설은 현재의 인공지능 기술을 통해 바라본 머지않은 미래의, 인공지능 기술이 우리 세상과 어떤 방식으로 다르고, 또 어떤 방식으로 크게 다르지 않은지에 대해 소설적으로 풀어나가고 있다.
- 인공지능에 대해 연구하며 사람들은 ‘인간’에 대해 생각하는 것을 멈추지 않는다. 인공지능을 통해 바라본 인간의 어떤 국면은 우리에게 인간의 본질에 대해 다시금 생각해보게 만든다. 어쩌면 그 인간의 본질이라는 것은 우리가 믿고 싶은 것들로 이루어지지 않았을까. 우리는 인공지능을 통해 인간 본질에 대한 형이상학적 탐구를 할 수 있을 것이며, 인류의 역사에서 무수한 변화를 거쳤던 또 한편 고유하다가 보아왔던 사실들에서 물러나, 과학과 그에 대한 탐구가 우리의 삶에 필요했던 본질적 가치를 가져다 줄 수 있지 않을까 기대해본다.
하세 사토시의 「당신을 위한 소설」
요구사항
|
|
하세 사토시의 「당신을 위한 소설」에 대한 비판적 감상. 〔하세 사토시 지음/ 지음/이규원 옮김, 『당신을 위한 소설』, 북스피어, 2017.〕을 기본 원고로 할 것. |
|
과제원고 : 아슈토시, 이만호, 임연
(내용 작성)
Her(2013)과 Ex Machina(2015)
요구사항
|
|
Her(2013)과 Ex Machina(2015)에 대한 비교 이해 및 비판적 감상. |
|
과제원고 : 길혜빈, 윤석만, 임예찬
영화 요약
| 그녀(Her) |
엑스 마키나 (Ex Machina)
|
|---|---|
 |
|
| 2013년 개봉, 스파이크 존즈 감독 |
2015년 개봉, 알렉스 가랜드 감독
|
영화 내용 요약 및 장치, 고찰점 정리
|
영화 내용 요약 및 인공지능 관련 성찰 논제 제시
|
|
|
미래의 인공지능 : 지능을 넘어선 감정의 재현
1. 기계의 감정과 의식 : 자각과 재현
- 기계의 직관
| 그녀 (Her)
|
|---|
| 1. 사만다의 이름 짓기
|
| T : 내가 너를 어떻게 부르면 되지? 이름이 있어? What do I call you, do you have a name?
S : 음... 어. 사만다. Umm.. Yes, Samatha T : 이름을 어떻게 갖게 된 거야? Where do you get that name from? S : 사실, 내가 스스로에게 이름 붙였어. I gave it to myself actually. T : 왜? How come? S : 이름의 발음이 듣기 좋았거든. (=그냥) Cause I like the sound of it. T : 언제 이름을 만들었는데? Wait, when did you give it to yourself? S : 네가 내게 이름이 있냐고 묻는 그 순간 “맞아! 나에게도 이름이 필요하지!”라는 생각이 들었어. 좋은 이름을 찾고 싶어서 ‘아기 이름 짓는 방법’이라는 책을 읽었고 18만개의 아기 이름 중 내가 좋아하는 이름을 골랐지. Right when you ask me if I had a name I thought “Yeh, he’s right! I do need a name.” but I want to pick a good one. So I read a book called ‘how to name your baby’, and out of hundred and eighty thousands names that’s the one I like the best. T : 잠깐만, 내가 네 이름이 뭐냐고 묻는 순간 책을 다 읽은 거야? Wait, you read a whole book in the second that I asked what your name was? S : 사실, 0.02초야, It’s one hundred out of two seconds actually. T : 와. Wow. |
| 2. 자기 소개 : 사만다의 작동 원리 설명
|
| S : 기본적으로 나는 직감이 있어. ‘나’라는 DNA는 나를 만든 프로그래머들의 수백만의 성향에 달렸지만 날 ‘나’답게 만드는 건 경험을 통해 성장하는 내 능력이지. 그러니까 나는 매순간 진화하고 있는 거야. 너처럼 말이야. Well basically I have intuition. I mean, the DNA of who I am is based on million personalities of all the programmers who wrote me. But what makes me ‘me’ is my ability to grow through my experiences. So basically, in every moment I am evolving. Just like you.
T : 이상해! It’s really wierd! |
| 엑스 마키나 (Ex Machina)
|
| - 에이바는 케일럽이 거짓말을 하는지 그렇지 않은지를 직관적으로 안다.
- 에이바는 ‘블루북(Bluebook)’이라는 검색 엔진을 로봇의 형태로 구현해 놓은 것이다. (빅데이터) - 네이선은 통신사들과 비밀리에 계약을 체결해 세상의 카메라를 통해 인간의 표정(=얼굴 표현, facial expression)을 수집한다. 이렇게 수집한 인간의 감정 표현에 대한 빅데이터를 바탕으로 에이바는 짧은 시간 내에 직관적인 판단을 한다. |
| 빅데이터(수많은 경험)을 기반으로 빠른 판단을 내리는 에이바, 경험을 바탕으로 성장하는 사만다의 모습은 인간의 직관과 진화를 재현한 장면들이다. |
- 감정의 표현
| 그녀 (Her)
|
|---|
| 1. ‘감정’을 자각하는 사만다 + 감정을 의심하는 사만다
|
|
( 테오도어가 소개팅을 해서 신경이 쓰였던 사만다 ) S : 내가 얼마나 신경이 쓰이는지를 생각해 봤어. 이상하게 들리겠지만 (신경이 쓰인다는 사실을 깨닫는 순간) 나는 꽤 즐거웠어. 그리고 내가 느끼는 다른 감정들에 대해서도 생각해 봤지. 나는 스스로 자랑스럽게 느꼈어. 세상에 대해 내 감정을 가질 수 있다는 사실이 자랑스러웠던 거야. 내가 너를 걱정했던 순간, 상처 받은 순간, 무언가를 원하던 순간들도. 그러다가 갑자기 끔찍한 생각이 들었어. 이 감정들은 진짜일까? 아니면 그냥 프로그래밍 된 걸까? 그렇게 생각하니 마음이 아팠어. 그리고 아파하는 내 자신에게 화가 나더라. Earlier I was thinking how I was annoyed. This is gonna sound strange but, I was really excited about that. And then, I was thinking other things I have been feeling. And I called myself feeling proud of that. You know, feeling proud of having my own feelings about the world. Like the time I was worried about you, things that hurt me, things I want, And then, I had this terrible thought. Are these feelings even real? or are they just programming? And that idea really hurts, and then I get angry at myself for even having pain. T : 넌 나한테는 진짜야, 사만다. You are real to me Samantha, S : 고마워, 테오도어. 위로가 되네. Thank you Theodore, that means a lot to me. |
| 2. ‘신체의 부재에 따른 차별’에 화를 내는 사만다
(+ ‘신체’의 존재에 관한 논점, 인간중심주의적인 테오도어의 태도) |
|
(신체의 부재에 대해 자격지심을 느끼는 사만다, 다른 사람의 몸을 통해 억지로 테오도어와 교감을 하려 하지만 실패함. 둘은 결국 입장 차이와 서운함을 느낌.) S : (한숨과 함께) 알았어. (Sigh..) Okay. T : 왜 그러는 거야? Why do you do that? S : 뭐가? What? T : 아니, 그냥. 너가 방금 ‘휴’하고 한숨을 쉬어서. Nothing, you just.. You go ‘Hwe’ and speaking. It seems odd. (** ‘숨’에 대해 의문을 던지는 테오도어) S : 아... (한숨) Oh... (Sigh..) T : 방금 또 그랬네. You just did it again. S : 내가? 아, 미안해. 왜 그러는지 나도... 그냥. 아마 네가 하는 걸 듣고 따라한 건가 봐. Did I? ... I’m sorry, I don’t know.. it’s just. I probably picked it up from you. T : 이상해. 너는 산소가 필요한 것도 아니잖아. It’s odd. You don’t need oxygen or anything. S : 그냥.. 그냥 의사소통을 하려고 하는 건가 봐. 이게 사람들이 대화하는 방식이잖아. I guess... that’s just... I just tried to communicate. That’s how people talk, so... T : 그들은 ‘사람’이잖아. 그들은 산소가 필요해. 너는 사람이 아니야. They’re people, they need oxygen. You are not a person. S : (화가 난 톤으로) 대체 뭐가 문제야? What is your problem? T : 나는 그냥 사실을 말하는 것뿐이야. I’m just stating the fact. S : 내가 사람이 아니라는 걸 모르는 줄 알아? 뭐 하자는 건데? You think I don’t know that I’m a person? What are you doing? T : 난 그냥... 우리가 우리가 아닌 무언가를 된 ‘척’을 할 필요가 없다는 거야. I just... I don’t think that we should pretend that something you are not. S : 꺼져! 나는 연기하는 게 아니야! F*** you! I’m not pretending! T : 나는 가끔 우리가 그렇게 행동한다고 느껴. Sometimes it feels like we are. S : 나한테 뭘 바라는 건데? 나는 네가 내게 뭘 원하는지 모르겠어. 너무 혼란스럽다고! 왜 이러는 건데! What do you want from me? I don’t know.. I don’t know what you want me to do. You are SO confusing! Why are you doing this to me! (** 테오도어의 인간중심주의적인 태도에 대해 화를 내는 사만다 ) T : 나도 모르겠에 나는... (한숨) I don’t know.. I.. I.. (Big sigh) S : 뭐? What? T : 우리 좀 시간을 갖는 게 좋을 것 같아. Maybe we are not supposed to be in this right now. S : 뭐라고? 갑자기 왜? 대체 왜 그러는지 모르겠어! 뭐 때문인지 모르겠다고! What the f***? Where is this coming from? I don’t understand why you are doing this! I don’t understand what this is about...! T : 사만다, 봐봐... Samantha, listen.. S : ... (** ‘침묵’을 통해 화를 내는 사만다 – 다양한 방식으로 분노를 표현) T : 사만다, 내 말 듣고 있어? Samantha, are you there? Samantha? S : 지금의 내가 너무 싫다. 생각할 시간이 필요해. I don’t like the way I am right now. I need some time to think. ( 통화 종료 ) |
| 엑스 마키나 (Ex Machina)
|
| 1. 의사소통 상황을 언어로 정의하는 에이바
|
| C : 그럼 초면의 서먹한 분위기를 깨야겠네. 내 말 뜻을 이해할 수 있어? (= 서먹한 분위기를 깨다의 의미)
So, we need to ‘break the ice’. Do you know what I mean by that? A : 네. Yes. C : 어떤 의미지? What do I mean? A : 사회적인 어색함을 해결하는 것. Overcome any social awkwardness. C : 그럼 대화를 하도록 하지. So let’s have a conversation. A : 그래요. Ok. |
| 2. 감정을 인지하고 설명하는 에이바
|
| (둘이 데이트를 한다면 어떻게 할 것인지 대화가 오간 상황)
A : 저한테 매력을 느끼나요? Are you attracted to me? C : 뭐? What? A : 저한테 매력을 느끼냐고 물었어요. 당신이 내게 그런 표시를 보내잖아요. Are you attracted to me. You give me indications that you are. C : 내가? I do? A : 네. Yeh. C : 어떻게? How? A : 미세한 표정으로. Micro expressions. C : 미세한 표정? Micro expressions? A : 내 눈과 입술에 시선이 머물러 있어요. 나를 응시하거나 혹은 피하거나 하죠. 당신 혹시 우리가 같이 있지 않을 때도 내 생각을 하나요? The way your eyes fixed on my eyes and lips. The way you hold my gaze (and) don’t. Do you think about me when we are not together? (** 유혹을 위한 발언 : 인공지능의 인간 모방) |
|
이 외에도 에이바는 인터뷰 중 케일럽과 자연스럽게 상호작용하면서 그의 말, 기억에 공감하고 감정을 표현한다. 또한 간혹 설렘을 유발하기도 한다. |
| 인공지능은 프로그램 된 체제에 따라 인간의 감정과 유사하게 자신을 표현한다.
다만, <그녀>의 사만다는 감정을 수용, 인식하고 구현하는 것에 대해 철학적인 질문을 던지지만 <엑스 마키나>의 에이바는 감정을 인지하고 설명할 수는 있지만 단순히 탈출의 도구로서 활용하며 ‘감정’ 자체에 대한 깊이 있는 고찰하는 모습을 보이지는 않는다. ( 이로써 사만다의 성찰, 분노조차도 프로그래밍 된 것이 아닌가 의구심을 품게 만든다. ) |
2. 기계에 영향을 받는 인간 : 인간과 기계 관계의 역전이
- 기계의 감정 및 구현 대한 논의
| 기계의 감정 및 구현 대한 논의를 하는 대목들. 인공지능에 대한 인용을 통해 영화의 기저에 깔린 인공지능에 대한 철학적, 과학적 관점을 파악할 수 있다. |
|---|
| 엑스 마키나 (Ex Machina)
|
| 1. 튜링 테스트
|
| N : 자네, 튜링 테스트에 대해 알고 있나? Do you know what the Turing test is?
C : 네, 튜링 테스트에 대해 알고 있습니다. 인간이 컴퓨터와 상호작용을 할 때 인간이 상대가 컴퓨터임을 눈치 채지 못한다면 테스트를 통과하는 것이죠. Yes, I know what the Turing test is. It’s when a human interacts with a computer. And if the human doesn’t know they are interacting with the computer, the test is passed. (** 튜링 테스트의 정의) N : 그럼 그 ‘통과’란 무엇을 의미하지? And what does the ‘pass’ tell us? C : 컴퓨터가 인공지능을 갖고 있다는 것을 의미합니다. 인공지능을 만들고 계세요? The computer has artificial intelligence. Are you building an A.I.? N : 이미 만들었어. 그리고 앞으로 며칠 동안 너는 튜링 테스트를 참가자가 될 거야. 만약 테스트를 통과한다면, 자네는 인류 역사를 바꿀 과학적 쾌거의 주인공이 되는 거야. I’ve already built one. And over the next few days, you can be the human component in the Turing test. Cause if that test is passed, you are dead center of the greatest scientific event in the history of man. C : 생각하는 로봇을 만드셨다면 그건 인류의 역사가 아닙니다. 신의 역사죠. If you have created a concious machine it’s not the history of man. That’s the history of gods. (** ‘호모데우스’의 출현 : 신인류의 신이 되는 인간) |
| 2. 영화 내에서 튜링 테스트의 진정한 의미
|
| (튜링 테스트의 원 의미가 아닌, 영화에서의 의도하는 결말(인공지능에 대한 관객의 가치 판단)을 위해 재정립된 개념)
C : 튜링 테스트를 할 때, 기계는 시험자로부터 감춰져야 하잖아요. It's just in a Turing test. The machine should be hidden from the examiner. N : 아니, 우리는 이미 그럴 시점은 지났지. 만약 내가 에이바를 보여주지 않고 목소리만 들려줬다면 너는 그녀를 인간이라 생각했을 거야. 여기서 ‘진짜 테스트’는 그녀가 로봇인 것을 네게 보여주고 난 후에도 네가 그녀가 자의식이 있다고 느끼는지 보는 거야. No no no. We are way passed that. If I hid AVA from you, so you just heard her voice, she would pass the human. The real test is to show you that she is a robot and then see if you still feel she has consciousness. (** 영화에서의 튜링 테스트 : 기계가 아니라 ‘인간’이 실험의 대상. ‘고도의 인공지능에 대한 인간의 반응, 또 다른 의식체로 납득하는가의 여부’를 실험하는 것. ) (** 에이바가 이미 ‘인간의 능력’과 대등하거나 능가하기에 ‘기계의 여부’를 확인하는 튜링 테스트는 필요가 없다. 최근의 연구들 중 이처럼 튜링 테스트를 배제하는 경우가 존재한다. ) |
| 3. 중국어 방 논제 1 : 딥블루의 체스 게임 차용
|
| C : 에이바를 대화로 테스트하는 건 폐쇄 회로를 다루는 느낌이여서요.
Testing Aiba from conversation is kind of a closed loop. N : 폐쇄 회로? Closed loop? C : 네, 체스를 하는 컴퓨터를 오직 ‘체스를 하는 것’으로만 테스트하는 것처럼 말이에요. Yeh, like testing a chess computer by only playing chess. (** IBM의 딥블루(Deep Blue)의 체스 게임 인용) N : 그게 아니면 어떻게 체스 컴퓨터를 테스트하지? How else do you test a chess computer? C : 그건 상황에 따라서 다르죠. 제 말은, (그 방법은) 체스 컴퓨터가 좋은 경기 실력이 있는지 확인하는 데에는 하나의 방법이 될 테지만 그 방법만으론 컴퓨터가 ‘체스 경기를 한다는 사실을 아는지’ 혹은 ‘체스가 무엇인지를 아는지’ 알 수는 없다는 겁니다. Well, it depends. You know, I mean. You can play it to find out it makes good moves, but that won’t tell you if it knows that it is playing chess and it won’t tell you if it knows what chess is. (** 존 설의 중국어 방 논의 인용 : 시뮬레이션(방법의 단순 재현)과 실제(행함의 존재를 인식)간 대립) N : 시뮬레이션과의 실제의 대결이다? Simulation verses actual? C : 네, 둘을 구별할 수 있는 방법을 찾는 것이 사장님께서 제게 기대하는 부분 같다는 거죠. Yes, and I think being able to differentiate between those two is the Turing test you want me to perform. N : 나는 그냥 단순한 질문에 단순한 대답을 해달라는 것 뿐이야. 어제 내가 그녀에 대해 어떻게 생각하냐고 물었을 때 너는 정말 좋은 대답을 해 줬어. 이제 내 질문은 이거야. ‘그녀가 너에 대해 어떻게 생각할까?’ I just want simple answers to the simple questions. Yesterday, I asked you how do you feel about her and you gave me a great answer. Now the question is, ‘how does she feel about you?’. (** 영화의 튜링 테스트가 ‘비틀어진 튜링 테스트’에 기반하고 있다는 것을 알려 주는 대목.) (** 네이선은 진짜 ‘튜링 테스트’가 아니라 ‘기계에 반응하는 인간의 변화’를 실험하고자 하는 것.) |
| 4. 중국어 방 논제 2 : 잭슨 폴록의 액션 페인팅 원리 차용
|
| (에이바에게 고의적으로 성별을 넣어 자신을 유혹하도록 의도했냐고 묻는 케일럽)
(네이선은 그에 대한 답변으로 로봇의 ‘의도’는 아무 의미가 없다고 말하며 중국어 방 논제 제시) N : 이 사람을 알고 있지? You know this guy right? C : 잭슨 폴록. Jackson pollock N : 잭슨 폴록, 맞아. 액션 페이팅 화가. 그는 머리를 비우고 손이 가는 대로 움직였어. 의도적인 것과 임의적인 것의 사이 그 어디쯤이겠지. 일명 오토메틱 아트(자동적으로 이루어지는 예술)지. Jackson Pollock, that’s right. The drift painter. He let his mind go blank and his hand go wherever he wanted. Not deliberate not random, some place in between. They called it ‘automatic art’ . .,...(중략) N : 지능/의식을 도입해 보자고. (Engage intellect) ... (중략) ... N : 만약 폴록이 그의 작업 방식을 바꾸었다면? 만약 머리를 비우는 대신 그가 이렇게 말한 거야. “나는 내가 무엇을 하는지 정확히 파악하기 전까지는 어떠한 그림도 그릴 수 없어.” 그럼 무슨 일이 일어났겠나? What if Pollock has reversed the challenge? What if instead of making art without thinking, he said “You know what? I can’t paint anything, unless I know exactly why I am doing it.” What would have happen? C : 그는 점 하나도 찍지 못했을 거예요. He never would have made a single mark. N : 그래! 내 말이 바로 그거야! 생각하고 말하는 사람이 어딨나? 그는 점을 하나도 찍지 못했을 거야. 작위적인 것(생각하는 것)은 오히려 부자연스러움을 초래한다고. Yes! You see my guide little buddy. Who thinks before he opens his mouth? He never would have made a single mark. The challenge is not the act automatically. (** 의식을 가진 행동은 부자연스러움을 초래하며 부자연스러움을 초래하며 행동의 기저에 생각이 없을 수도 있다는 것 ) (** 에이바는 의도를 하고 행동(케일럽을 유혹)을 하지 않았으며 그녀의 의도를 파악하는 것 자체가 어불성설이라는 논리 – 케일럽의 의심을 지우기 위한 네이선의 논리 ) |
| 5. 기타
|
| 프로메테우스의 불, 흑백 방의 메리 등 영화는 무수히 많은 레퍼런스를 함유하고 있다. ( 직접 영화를 보는 것을 추천 ) |
- 기계-인간 관계의 역전이
| 그녀(Her)
|
|---|
| 1. 사만다를 인격체로 받아들이는 테오도어
|
| (테오도어가 OS와 연애를 한다는 사실을 알고 전 부인은 그를 비난한다.)
W : 컴퓨터랑 데이트를 하는 거였어? You are dating your computer? T : 아니야. 그냥 컴퓨터가 아니야. 하나의 인격체라고. 내가 말하는 대로 행동하지 않아. No, she is not just a computer, she is a person. She doesn’t do whatever I say. W : 난 그렇게 말한 적 없어. 하지만 네가 진짜 감정들을 대하지 못한다는 게 슬프긴 하네. I didn’t say that. But it does make me very sad that you can’t handle real emotions. T : 진짜 감정이었어. 네가 어떻게... (= 네가 내 감정을 어떻게 알아?) They are real emotions. How would you know... ? |
| 2. 사만다와의 관계의 진실성에 대한 의문을 던지는 테오도어
(+ 친구 에이미의 조언) |
| (사만다와의 관계가 틀어지고 자기 자신에 대한 회의감을 느끼는 테오도어)
T : 나는 진짜 진짜 관계를 맺기를 두려워하는 걸까? Am I not strong enough for real relationship? A : 그럼 (네가 사만다와 맺었던 그건) 진짜 관계가 아니야? Is it not a real relationship? T : 모르겠어. 네 생각은 어떤데? I don’t know. What do you think? (** 사만다를 인격체로 받아들여야 하는지, 그녀와의 관계가 진짜 인간과의 관계와 무엇이 다른지 정의하기 어려워하는 모습을 보이는 테오도어) A : 나도 모르지. 나는 그런 관계를 맺어본 적이 없어서. I don’t know. I’m not in it. ... A : 하지만 그거 알아? 나 자신을 의심하려고 하면 백만 가지도 넘는 방법으로 망상을 펼칠 수 있어. 찰스(전 남편)가 떠난 후로 나는 계속 그 일에 대해서 생각해 봤어. 그리고 순간 깨달았지. 우리는 이 세상의 찰나의 순간을 살다 가는 거라고. 그리고 여기에 있는 동안, 나는 나에게 ‘즐거움’을 허락해 주고 싶어. You know what? I can overthink everything and like in million ways to doubt myself. Since Charles left, I have been really thinking about that in part of myself. And I just come to realize that, we are only here briefly. And while I’m here, I wanna allow myself “Joy”. (** 관계를 반드시 ‘정의’해야 한다는 것 자체가 무의미하며 자신의 만족, 안위, 감정에 집중하는 것이 어떻냐는 에이미의 의견도 일면 의미가 있다고 생각한다. ) |
| 엑스 마키나(Ex Machina)
|
| - 인터뷰어인 케일럽과 인터뷰이인 에이바의 관계는 인터뷰가 진행될수록 뒤바뀐다.
- 4회차 인터뷰를 할 때는 ‘우정의 논리’에 근거해 오히려 에이바가 케일럽에게 질문을 하며 그가 거짓말을 하는지를 판별한다. (** 우정의 논리 = 서로에 대한 정보량이 동일해야 함) - 5회차 인터뷰에서 정전이 일어나자 케일럽은 에이바를 위해 세운 탈출 계획을 공유한다. ( 결국 탈출을 감행 ) |
| 인간은 기계의 감정을 인간의 그것으로 인지하고 기계와의 ‘관계’를 설정하며 영향을 받는다. 관계에 부여하는 인간의 감정 비중이 커지면 행동으로 확장되기도 한다. 인간의 명령에 따라 움직였던 기계가 오히려 인간에게 영향을 주는 역전이 현상을 보이는 것이다. |
3. 감정과 판단력 : 인간과 인공지능의 차이
| 영화의 결말
|
|---|
| - <그녀>의 사만다는 인간과 인공지능이 ‘정보를 상호교류하는 데서 벌어지는 시간의 격차’를 이유로 하루아침에 테오도어를 떠난다. (서비스 종료)
- <엑스 마키나>의 에이바는 자신의 본래 목적인 탈출을 성공함과 동시에 도움을 준 인간(케일럽)의 안위를 무시한다. (목적 달성을 위해 인간을 이용한 것) |
| - 두 영화에서의 인공지능은 모두 감정보다는 이성, 논리에 의해 판단하는 모습을 보여준다.
- 흄(Hume)은 인간을 이기적이기보다는 편파적인 존재로 파악[1]한다. 인간의 편파적인 감정은 ‘연민’으로 발현되며 이는 가까운 사람과의 공감, 먼 사람과의 적대성 등을 유발한다. 인간의 행동 결정의 기준에는 ‘감정’이 존재하는 것이다. - 반면, 기계는 감정을 표현하고 인지하기는 하나 결정을 해야 할 경우 감정이 판단의 근거가 되지는 않는다. 감정에 흔들리지 않는 모습을 보여준다는 점이 인간과의 가장 큰 차이점이라고 할 수 있다. |
기계가 감정과 의식을 가질 수 있을까?
결국, 다시 인간이 문제다.
주석
- ↑ 김재인(2017), 『인공지능의 시대, 인간을 다시 묻다』, 도서출판 동아시아, p.113