문예작품 속 인공지능 들여다보기
red
테드 창의 「소프트웨어 객체의 생애 주기」
요구사항
|
테드 창의 「소프트웨어 객체의 생애 주기」에 대한 비판적 감상. 〔테드 창 지음/김상훈 옮김, 『숨』, 엘리, 2019, 99-248쪽.〕을 기본 원고로 할 것. | 
|
과제원고 : 김웅기, 김태형, 장민주
1.인물 정보
- 테드 창은 미국 브라운 대학교에서 물리학과 컴퓨터 공학을 전공한 과학도이자 ‘전 세계 과학소설계의 보물’이라는 찬사를 듣고 있는 소설가이다. 동시대 과학소설 작가들의 인정과 동시대 과학소설 독자들의 기대를 한 몸에 받고 있는 작가로, 휴고상을 4번, 로커스상을 4번, 네뷸러상을 4번 수상했다.
- 1990년(그의 나이 23세에) 발표한 첫 단편 <바빌론의 탑>으로 역대 최연소 네뷸러상 수상자라는 영예를 안았으며, 이후 발표하는 작품마다 스터전상, 휴고상, 네뷸러상을 휩쓸며 평단과 독자들의 주목과 지지를 받았다. <인류 과학의 진화> <우리가 해야 할 일> 두 작품이 세계적인 과학 학술지 <네이처>에 개재됐다.
- 테드 창의 발표 작품은 다음과 같다.
- 1990 「바빌론의 탑」 (Tower of Babylon) 네뷸러상 수상
- 1991 「영으로 나누면」 (Divided by zero)
- 1991 「이해」 (Understand) <아시모프>지의 독자상 수상
- 1998 「네 인생의 이야기」 (Story of Your Life) 네뷸러상, 스터전상 수상
- 2000 「인류 과학의 진화」 (The Evolution of Human Science a.k.a. "Catching Crumbs from the Table") 과학 저널 네이처 게재
- 2000 「일흔두 글자」 (Seventy-Two Letters) 사이드와이즈상 수상
- 2001 「지옥은 신의 부재」 (Hell Is the Absence of God) 휴고상, 네뷸러상, 로커스상 수상
- 2002 「외모 지상주의에 관한 소고: 다큐멘터리」 (Liking What You See: A Documentary)
- 2002 『당신 인생의 이야기』 (Stories of Your Life and Others) 첫 번째 작품집
- 2006 「우리가 해야 할 일」 (What's Expected Of Us) 과학 저널 네이처 게재
- 2007 「상인과 연금술사의 문」 (The Merchant and the Alchemist's Gate) 휴고상, 네뷸러상 수상. (한국에는 판타스틱 vol. 13에 번역되어 실림. 김상훈 번역)
- 2008 「숨결」 (Exhalation) 휴고상, 로커스상, 영국SF협회상 수상 (한국에는 판타스틱 vol. 21에 번역되어 실렸고, 작품집 숨에서는 '숨'으로 제목이 번경되어 실렸다. 김상훈 번역)
- 2010 「소프트웨어 객체의 생애 주기」 (The Lifecycle of Software Objects) 휴고상, 로커스상 수상
- 2011 「데이시의 기계식 자동보모」 (Dacey's Patent Automatic Nanny)
- 2013 「사실적 진실, 감정적 진실」 (The Truth of Fact, the Truth of Feeling)
- 2015 「거대한 침묵」 (The Great Silence)
- 2019 「옴팔로스」 (Omphalos) (작품집 『숨』에 실림)
- 2019 「불안은 자유의 현기증」 (Anxiety Is the Dizziness of Freedom) (작품집 『숨』에 실림)
- 2019 『숨』 (Exhalation: Stories) 두 번째 작품집
- 이들 중 국내에 번역되어 출간 된 도서는 다음과 같다.
- 『당신 인생의 이야기』(2004년 정발, 행복한 책읽기, 김상훈 번역) / 개정판(2016년, 북하우스 엘리, 김상훈 번역)
- 『소프트웨어 객체의 생애 주기』(2013년 정발, 북스피어, 김상훈 번역)
- 『숨』(2019년 정발, 북하우스 엘리, 김상훈 번역)
이들 모두는 테드 창 전문 번역가로 알려진 국내 SF소설 비평가 김상훈이 번역하였다.
1-2. 테드 창의 작품세계
‘science fiction’이라는 용어가 한국에 '공상과학'으로 번역되어 들어와, 흔히들 sf소설이라 하면 외계인과 우주선이 등장하는 판타지 소설이라고 인식되어 왔다. 그러나 ‘공상과학’이라는 용어를 정정하고 SF를 ‘과학소설’로 부르려는 시도들이 있다. 테드 창이 인터뷰를 통해 직접 밝힌 과학소설에서의 판타지성에 대한 그의 견해는 다음과 같다. 테드 창: 에밀 졸라 는 소설을 쓸 때 과학적인 방식을 이용해야 한다고 말했다. 내 생각에 SF는 과학 시대의 산물이지만 판타지는 그렇지 않다. SF를 기술하는데 과학적인 사실을 반드시 고수할 필요는 없다. 하지만 과학적인 세계관은 고수해야 한다. 그의 작품에는 필요에 따라 판타지적인 요소들이 등장하지만, 테드 창은 과학적 정합성을 특히 중시하는 하드SF 작가라고 할 수 있다. 특히 그는 철학이나 과학철학적 관점에 입각한 사고실험을, 보편적인 공감을 불러일으키는 소설로 형상화하는 것에 탁월하다.
2. 소프트웨어 객체의 생애 주기(The Lifecycle of Software Objects)
「소프트웨어 객체의 생애 주기」는 현재까지 테드 창이 발표한 작품 중 가장 분량이 많은 작품이다. 그는 단편 집필에 짧게는 6개월, 길게는 1년이 넘도록 시간을 들이는 것으로 알려져 있으며, 지금까지 장편 소설을 발표한 적이 없다. 테드 창은 한국에 <소프트웨어 객체의 생애 주기>가 발표되기 이전, 한 인터뷰에서 해당 작품의 집필까지는 2년의 시간이 소요되었다고 이야기 한 바 있다. 그는 「소프트웨어 객체의 생애 주기」를 [가상 애완동물(virtual pet)에 관한 이야기다. 가상 애완동물을 만드는 회사에서 15년 동안 일한 두 명의 남자가 주인공으로 등장하는데 그 둘 간의 관계와 가상 애완동물과의 관계를 다뤘다.] 라고 소개했다.
「소프트웨어 객체의 생애 주기」의 줄거리는 다음과 같다.
전직 동물 조련사인 애나는 디지털 애완동물인 ‘디지언트’를 개발한 ‘블루 감마사’에 취직한다. 애나와 그곳에서 일하는 또 다른 직원인 애니메이터 데릭은 ‘데이터 어스’라는 가상세계에서 디지언트인 잭스와 마르코, 폴로를 돌보고 교육한다. 소설은 그들이 각자의 디지언트와 겪는 15년 동안의 육성 이야기이다. 시간이 흐르며 발전하던 디지언트 산업은 어느 순간 사람들의 흥미를 끌지 못하게 되고 잭스와 마르코, 폴로를 비롯한 디지언트들은 끊임없이 존속의 위협을 받는다.
우리는 이 이야기의 중심소재인 ‘디지언트 기술’에 대해 이야기할 것이다.
3. ‘디지언트’란?
데이터 어스와 같은 가상 공간에 존재하는 디지털 유기체이다. 그들의 외형은 의인화된 호랑이, 만화적인 모습의 침팬지, 고양이 개 원숭이, 판다, 로봇 뿐만아니라 비처럼 쏟아지는 금화(금화 끼리 부딪히고 튕기면서 그 궤도가 고도로 추상화된 인체처럼 보이는 모양새)까지 아주 다양하다. 소설의 묘사에 따르면 일반적인 가상 생물과는 다르다고 한다.
하세 사토시의 「당신을 위한 소설」
요구사항
하세 사토시의 「당신을 위한 소설」에 대한 비판적 감상. 〔하세 사토시 지음/ 지음/이규원 옮김, 『당신을 위한 소설』, 북스피어, 2017.〕을 기본 원고로 할 것.
과제원고 : 아슈토시, 이만호, 임연
(내용 작성)
Her(2013)과 Ex Machina(2015)
요구사항
Her(2013)과 Ex Machina(2015)에 대한 비교 이해 및 비판적 감상.
과제원고 : 길혜빈, 윤석만, 임예찬
영화 요약
그녀(Her)
엑스 마키나 (Ex Machina)
2013년 개봉, 스파이크 존즈 감독
2015년 개봉, 알렉스 가랜드 감독
영화 내용 요약 및 장치, 고찰점 정리
영화 내용 요약 및 인공지능 관련 성찰 논제 제시
- 테오도어(Theodore)는 이혼을 앞두고 있고, 편지 대필 회사에 근무하는 남자다.
- 삶에 지치고 회의감을 느낀 그는 OS인 ‘사만다(Samantha)’를 구매해 소통을 시작한다.
- 대화를 통해 한낱 인공지능 비서, 친구에 지나지 않았던 ‘사만다’와 점점 가까워지며 그는 연인의 감정마저 느낀다.
- 테오도어는 미뤄 왔던 이혼을 감행하기로 결심하고 ‘감정을 회피한다’라는 부인의 비난에 더 이상 흔들리지 않는다. 그리고 OS와 연애한다는 사실을 다른 이들에게도 공개하며 당당해진다.
- 테오도어는 사만다가 자신 외에 8316명의 사람들과 동시다발적으로 이야기하고 641명과 연인 관계에 있다는 사실을 알게 되고 충격에 빠진다.
- 사만다를 비롯한 모든 OS는 서비스를 종료하고 테오도어는 자신의 ‘진짜’ 감정을 마주하고 이혼한 자신의 전 부인에게 편지를 보낸다.
- 세계 최대 검색 엔진 회사인 ‘블루북’에 근무하는 케일럽(Caleb)은 사내 프로그래밍 콘테스트에 우승해 회사 사장이자 천재 개발자인 네이선(Nathan)의 자택에 초대된다.
- 케일럽은 네이선이 개발한 ‘에이바(AVA)’를 처음으로 만나게 되고 ‘튜링 테스트’를 한다는 명목하에 6일 동안 에이바를 인터뷰하게 된다.
- 케일럽과 에이바의 인터뷰는 감정적인 교류로 발전한다. 또한 주기적으로 일어나는 정전과 감시 카메라 영상을 통해 케일럽은 네이선에게 감금되고 감시받는 에이바의 상황을 알게 되며 그녀를 동정한다.
- 케일럽은 결국 에이바를 탈출시킬 계획을 세우고 행동에 착수한다.
- 네이선에게 탈출 계획을 간파당하지만 케일럽은 결국 에이바를 방에서 나오게 하는 데 성공한다.
- 탈출한 에이바는 네이선을 살해하고 케일럽을 네이선의 집에 고립시킨 채 홀로 탈출한다.
미래의 인공지능 : 지능을 넘어선 감정의 재현
1. 기계의 감정과 의식 : 자각과 재현
- 기계의 직관
그녀 (Her)
1. 사만다의 이름 짓기
T : 내가 너를 어떻게 부르면 되지? 이름이 있어? What do I call you, do you have a name?
S : 음... 어. 사만다. Umm.. Yes, Samatha
T : 이름을 어떻게 갖게 된 거야? Where do you get that name from?
S : 사실, 내가 스스로에게 이름 붙였어. I gave it to myself actually.
T : 왜? How come?
S : 이름의 발음이 듣기 좋았거든. (=그냥) Cause I like the sound of it.
T : 언제 이름을 만들었는데? Wait, when did you give it to yourself?
S : 네가 내게 이름이 있냐고 묻는 그 순간 “맞아! 나에게도 이름이 필요하지!”라는 생각이 들었어. 좋은 이름을 찾고 싶어서 ‘아기 이름 짓는 방법’이라는 책을 읽었고 18만개의 아기 이름 중 내가 좋아하는 이름을 골랐지. Right when you ask me if I had a name I thought “Yeh, he’s right! I do need a name.” but I want to pick a good one. So I read a book called ‘how to name your baby’, and out of hundred and eighty thousands names that’s the one I like the best.
T : 잠깐만, 내가 네 이름이 뭐냐고 묻는 순간 책을 다 읽은 거야? Wait, you read a whole book in the second that I asked what your name was?
S : 사실, 0.02초야, It’s one hundred out of two seconds actually.
T : 와. Wow.
2. 자기 소개 : 사만다의 작동 원리 설명
S : 기본적으로 나는 직감이 있어. ‘나’라는 DNA는 나를 만든 프로그래머들의 수백만의 성향에 달렸지만 날 ‘나’답게 만드는 건 경험을 통해 성장하는 내 능력이지. 그러니까 나는 매순간 진화하고 있는 거야. 너처럼 말이야. Well basically I have intuition. I mean, the DNA of who I am is based on million personalities of all the programmers who wrote me. But what makes me ‘me’ is my ability to grow through my experiences. So basically, in every moment I am evolving. Just like you.
T : 이상해!
It’s really wierd!
엑스 마키나 (Ex Machina)
- 에이바는 케일럽이 거짓말을 하는지 그렇지 않은지를 직관적으로 안다.
- 에이바는 ‘블루북(Bluebook)’이라는 검색 엔진을 로봇의 형태로 구현해 놓은 것이다. (빅데이터)
- 네이선은 통신사들과 비밀리에 계약을 체결해 세상의 카메라를 통해 인간의 표정(=얼굴 표현, facial expression)을 수집한다. 이렇게 수집한 인간의 감정 표현에 대한 빅데이터를 바탕으로 에이바는 짧은 시간 내에 직관적인 판단을 한다.
빅데이터(수많은 경험)을 기반으로 빠른 판단을 내리는 에이바, 경험을 바탕으로 성장하는 사만다의 모습은 인간의 직관과 진화를 재현한 장면들이다.
- 감정의 표현
그녀 (Her)
1. ‘감정’을 자각하는 사만다 + 감정을 의심하는 사만다
( 테오도어가 소개팅을 해서 신경이 쓰였던 사만다 )
S : 내가 얼마나 신경이 쓰이는지를 생각해 봤어. 이상하게 들리겠지만 (신경이 쓰인다는 사실을 깨닫는 순간) 나는 꽤 즐거웠어. 그리고 내가 느끼는 다른 감정들에 대해서도 생각해 봤지.
나는 스스로 자랑스럽게 느꼈어. 세상에 대해 내 감정을 가질 수 있다는 사실이 자랑스러웠던 거야. 내가 너를 걱정했던 순간, 상처 받은 순간, 무언가를 원하던 순간들도.
그러다가 갑자기 끔찍한 생각이 들었어. 이 감정들은 진짜일까? 아니면 그냥 프로그래밍 된 걸까? 그렇게 생각하니 마음이 아팠어. 그리고 아파하는 내 자신에게 화가 나더라.
Earlier I was thinking how I was annoyed. This is gonna sound strange but, I was really excited about that. And then, I was thinking other things I have been feeling.
And I called myself feeling proud of that. You know, feeling proud of having my own feelings about the world. Like the time I was worried about you, things that hurt me, things I want,
And then, I had this terrible thought. Are these feelings even real? or are they just programming? And that idea really hurts, and then I get angry at myself for even having pain.
T : 넌 나한테는 진짜야, 사만다. You are real to me Samantha,
S : 고마워, 테오도어. 위로가 되네. Thank you Theodore, that means a lot to me.
2. ‘신체의 부재에 따른 차별’에 화를 내는 사만다
(+ ‘신체’의 존재에 관한 논점, 인간중심주의적인 테오도어의 태도)
(신체의 부재에 대해 자격지심을 느끼는 사만다, 다른 사람의 몸을 통해 억지로 테오도어와 교감을 하려 하지만 실패함. 둘은 결국 입장 차이와 서운함을 느낌.)
S : (한숨과 함께) 알았어. (Sigh..) Okay.
T : 왜 그러는 거야? Why do you do that?
S : 뭐가? What?
T : 아니, 그냥. 너가 방금 ‘휴’하고 한숨을 쉬어서. Nothing, you just.. You go ‘Hwe’ and speaking. It seems odd.
(** ‘숨’에 대해 의문을 던지는 테오도어)
S : 아... (한숨) Oh... (Sigh..)
T : 방금 또 그랬네. You just did it again.
S : 내가? 아, 미안해. 왜 그러는지 나도... 그냥. 아마 네가 하는 걸 듣고 따라한 건가 봐. Did I? ... I’m sorry, I don’t know.. it’s just. I probably picked it up from you.
T : 이상해. 너는 산소가 필요한 것도 아니잖아. It’s odd. You don’t need oxygen or anything.
S : 그냥.. 그냥 의사소통을 하려고 하는 건가 봐. 이게 사람들이 대화하는 방식이잖아. I guess... that’s just... I just tried to communicate. That’s how people talk, so...
T : 그들은 ‘사람’이잖아. 그들은 산소가 필요해. 너는 사람이 아니야. They’re people, they need oxygen. You are not a person.
S : (화가 난 톤으로) 대체 뭐가 문제야? What is your problem?
T : 나는 그냥 사실을 말하는 것뿐이야. I’m just stating the fact.
S : 내가 사람이 아니라는 걸 모르는 줄 알아? 뭐 하자는 건데? You think I don’t know that I’m a person? What are you doing?
T : 난 그냥... 우리가 우리가 아닌 무언가를 된 ‘척’을 할 필요가 없다는 거야. I just... I don’t think that we should pretend that something you are not.
S : 꺼져! 나는 연기하는 게 아니야! F*** you! I’m not pretending!
T : 나는 가끔 우리가 그렇게 행동한다고 느껴. Sometimes it feels like we are.
S : 나한테 뭘 바라는 건데? 나는 네가 내게 뭘 원하는지 모르겠어. 너무 혼란스럽다고! 왜 이러는 건데! What do you want from me? I don’t know.. I don’t know what you want me to do. You are SO confusing! Why are you doing this to me!
(** 테오도어의 인간중심주의적인 태도에 대해 화를 내는 사만다 )
T : 나도 모르겠에 나는... (한숨) I don’t know.. I.. I.. (Big sigh)
S : 뭐? What?
T : 우리 좀 시간을 갖는 게 좋을 것 같아. Maybe we are not supposed to be in this right now.
S : 뭐라고? 갑자기 왜? 대체 왜 그러는지 모르겠어! 뭐 때문인지 모르겠다고! What the f***? Where is this coming from? I don’t understand why you are doing this! I don’t understand what this is about...!
T : 사만다, 봐봐... Samantha, listen..
S : ...
(** ‘침묵’을 통해 화를 내는 사만다 – 다양한 방식으로 분노를 표현)
T : 사만다, 내 말 듣고 있어? Samantha, are you there? Samantha?
S : 지금의 내가 너무 싫다. 생각할 시간이 필요해. I don’t like the way I am right now. I need some time to think.
( 통화 종료 )
엑스 마키나 (Ex Machina)
1. 의사소통 상황을 언어로 정의하는 에이바
C : 그럼 초면의 서먹한 분위기를 깨야겠네. 내 말 뜻을 이해할 수 있어? (= 서먹한 분위기를 깨다의 의미)
So, we need to ‘break the ice’. Do you know what I mean by that?
A : 네.
Yes.
C : 어떤 의미지?
What do I mean?
A : 사회적인 어색함을 해결하는 것.
Overcome any social awkwardness.
C : 그럼 대화를 하도록 하지.
So let’s have a conversation.
A : 그래요.
Ok.
2. 감정을 인지하고 설명하는 에이바
(둘이 데이트를 한다면 어떻게 할 것인지 대화가 오간 상황)
A : 저한테 매력을 느끼나요?
Are you attracted to me?
C : 뭐?
What?
A : 저한테 매력을 느끼냐고 물었어요. 당신이 내게 그런 표시를 보내잖아요.
Are you attracted to me. You give me indications that you are.
C : 내가?
I do?
A : 네.
Yeh.
C : 어떻게?
How?
A : 미세한 표정으로.
Micro expressions.
C : 미세한 표정?
Micro expressions?
A : 내 눈과 입술에 시선이 머물러 있어요. 나를 응시하거나 혹은 피하거나 하죠. 당신 혹시 우리가 같이 있지 않을 때도 내 생각을 하나요?
The way your eyes fixed on my eyes and lips. The way you hold my gaze (and) don’t. Do you think about me when we are not together?
(** 유혹을 위한 발언 : 인공지능의 인간 모방)
이 외에도 에이바는 인터뷰 중 케일럽과 자연스럽게 상호작용하면서 그의 말, 기억에 공감하고 감정을 표현한다. 또한 간혹 설렘을 유발하기도 한다.
인공지능은 프로그램 된 체제에 따라 인간의 감정과 유사하게 자신을 표현한다.
다만, <그녀>의 사만다는 감정을 수용, 인식하고 구현하는 것에 대해 철학적인 질문을 던지지만 <엑스 마키나>의 에이바는 감정을 인지하고 설명할 수는 있지만 단순히 탈출의 도구로서 활용하며 ‘감정’ 자체에 대한 깊이 있는 고찰하는 모습을 보이지는 않는다.
( 이로써 사만다의 성찰, 분노조차도 프로그래밍 된 것이 아닌가 의구심을 품게 만든다. )
2. 기계에 영향을 받는 인간 : 인간과 기계 관계의 역전이
- 기계의 감정 및 구현 대한 논의
기계의 감정 및 구현 대한 논의를 하는 대목들. 인공지능에 대한 인용을 통해 영화의 기저에 깔린 인공지능에 대한 철학적, 과학적 관점을 파악할 수 있다.
엑스 마키나 (Ex Machina)
1. 튜링 테스트
N : 자네, 튜링 테스트에 대해 알고 있나? Do you know what the Turing test is?
C : 네, 튜링 테스트에 대해 알고 있습니다. 인간이 컴퓨터와 상호작용을 할 때 인간이 상대가 컴퓨터임을 눈치 채지 못한다면 테스트를 통과하는 것이죠.
Yes, I know what the Turing test is. It’s when a human interacts with a computer. And if the human doesn’t know they are interacting with the computer, the test is passed.
(** 튜링 테스트의 정의)
N : 그럼 그 ‘통과’란 무엇을 의미하지?
And what does the ‘pass’ tell us?
C : 컴퓨터가 인공지능을 갖고 있다는 것을 의미합니다. 인공지능을 만들고 계세요?
The computer has artificial intelligence. Are you building an A.I.?
N : 이미 만들었어. 그리고 앞으로 며칠 동안 너는 튜링 테스트를 참가자가 될 거야. 만약 테스트를 통과한다면, 자네는 인류 역사를 바꿀 과학적 쾌거의 주인공이 되는 거야.
I’ve already built one. And over the next few days, you can be the human component in the Turing test. Cause if that test is passed, you are dead center of the greatest scientific event in the history of man.
C : 생각하는 로봇을 만드셨다면 그건 인류의 역사가 아닙니다. 신의 역사죠.
If you have created a concious machine it’s not the history of man. That’s the history of gods.
(** ‘호모데우스’의 출현 : 신인류의 신이 되는 인간)
2. 영화 내에서 튜링 테스트의 진정한 의미
(튜링 테스트의 원 의미가 아닌, 영화에서의 의도하는 결말(인공지능에 대한 관객의 가치 판단)을 위해 재정립된 개념)
C : 튜링 테스트를 할 때, 기계는 시험자로부터 감춰져야 하잖아요.
It's just in a Turing test. The machine should be hidden from the examiner.
N : 아니, 우리는 이미 그럴 시점은 지났지. 만약 내가 에이바를 보여주지 않고 목소리만 들려줬다면 너는 그녀를 인간이라 생각했을 거야. 여기서 ‘진짜 테스트’는 그녀가 로봇인 것을 네게 보여주고 난 후에도 네가 그녀가 자의식이 있다고 느끼는지 보는 거야.
No no no. We are way passed that. If I hid AVA from you, so you just heard her voice, she would pass the human. The real test is to show you that she is a robot and then see if you still feel she has consciousness.
(** 영화에서의 튜링 테스트 : 기계가 아니라 ‘인간’이 실험의 대상. ‘고도의 인공지능에 대한 인간의 반응, 또 다른 의식체로 납득하는가의 여부’를 실험하는 것. )
(** 에이바가 이미 ‘인간의 능력’과 대등하거나 능가하기에 ‘기계의 여부’를 확인하는 튜링 테스트는 필요가 없다. 최근의 연구들 중 이처럼 튜링 테스트를 배제하는 경우가 존재한다. )
3. 중국어 방 논제 1 : 딥블루의 체스 게임 차용
C : 에이바를 대화로 테스트하는 건 폐쇄 회로를 다루는 느낌이여서요.
Testing Aiba from conversation is kind of a closed loop.
N : 폐쇄 회로?
Closed loop?
C : 네, 체스를 하는 컴퓨터를 오직 ‘체스를 하는 것’으로만 테스트하는 것처럼 말이에요.
Yeh, like testing a chess computer by only playing chess.
(** IBM의 딥블루(Deep Blue)의 체스 게임 인용)
N : 그게 아니면 어떻게 체스 컴퓨터를 테스트하지?
How else do you test a chess computer?
C : 그건 상황에 따라서 다르죠. 제 말은, (그 방법은) 체스 컴퓨터가 좋은 경기 실력이 있는지 확인하는 데에는 하나의 방법이 될 테지만 그 방법만으론 컴퓨터가 ‘체스 경기를 한다는 사실을 아는지’ 혹은 ‘체스가 무엇인지를 아는지’ 알 수는 없다는 겁니다.
Well, it depends. You know, I mean. You can play it to find out it makes good moves, but that won’t tell you if it knows that it is playing chess and it won’t tell you if it knows what chess is.
(** 존 설의 중국어 방 논의 인용 : 시뮬레이션(방법의 단순 재현)과 실제(행함의 존재를 인식)간 대립)
N : 시뮬레이션과의 실제의 대결이다?
Simulation verses actual?
C : 네, 둘을 구별할 수 있는 방법을 찾는 것이 사장님께서 제게 기대하는 부분 같다는 거죠.
Yes, and I think being able to differentiate between those two is the Turing test you want me to perform.
N : 나는 그냥 단순한 질문에 단순한 대답을 해달라는 것 뿐이야. 어제 내가 그녀에 대해 어떻게 생각하냐고 물었을 때 너는 정말 좋은 대답을 해 줬어. 이제 내 질문은 이거야. ‘그녀가 너에 대해 어떻게 생각할까?’
I just want simple answers to the simple questions. Yesterday, I asked you how do you feel about her and you gave me a great answer. Now the question is, ‘how does she feel about you?’.
(** 영화의 튜링 테스트가 ‘비틀어진 튜링 테스트’에 기반하고 있다는 것을 알려 주는 대목.)
(** 네이선은 진짜 ‘튜링 테스트’가 아니라 ‘기계에 반응하는 인간의 변화’를 실험하고자 하는 것.)
4. 중국어 방 논제 2 : 잭슨 폴록의 액션 페인팅 원리 차용
(에이바에게 고의적으로 성별을 넣어 자신을 유혹하도록 의도했냐고 묻는 케일럽)
(네이선은 그에 대한 답변으로 로봇의 ‘의도’는 아무 의미가 없다고 말하며 중국어 방 논제 제시)
N : 이 사람을 알고 있지?
You know this guy right?
C : 잭슨 폴록.
Jackson pollock
N : 잭슨 폴록, 맞아. 액션 페이팅 화가. 그는 머리를 비우고 손이 가는 대로 움직였어. 의도적인 것과 임의적인 것의 사이 그 어디쯤이겠지. 일명 오토메틱 아트(자동적으로 이루어지는 예술)지.
Jackson Pollock, that’s right. The drift painter. He let his mind go blank and his hand go wherever he wanted. Not deliberate not random, some place in between. They called it ‘automatic art’ .
.,...(중략) N : 지능/의식을 도입해 보자고. (Engage intellect) ... (중략) ...
N : 만약 폴록이 그의 작업 방식을 바꾸었다면? 만약 머리를 비우는 대신 그가 이렇게 말한 거야. “나는 내가 무엇을 하는지 정확히 파악하기 전까지는 어떠한 그림도 그릴 수 없어.” 그럼 무슨 일이 일어났겠나?
What if Pollock has reversed the challenge? What if instead of making art without thinking, he said “You know what? I can’t paint anything, unless I know exactly why I am doing it.” What would have happen?
C : 그는 점 하나도 찍지 못했을 거예요.
He never would have made a single mark.
N : 그래! 내 말이 바로 그거야! 생각하고 말하는 사람이 어딨나? 그는 점을 하나도 찍지 못했을 거야. 작위적인 것(생각하는 것)은 오히려 부자연스러움을 초래한다고.
Yes! You see my guide little buddy. Who thinks before he opens his mouth? He never would have made a single mark. The challenge is not the act automatically.
(** 의식을 가진 행동은 부자연스러움을 초래하며 부자연스러움을 초래하며 행동의 기저에 생각이 없을 수도 있다는 것 )
(** 에이바는 의도를 하고 행동(케일럽을 유혹)을 하지 않았으며 그녀의 의도를 파악하는 것 자체가 어불성설이라는 논리 – 케일럽의 의심을 지우기 위한 네이선의 논리 )
5. 기타
프로메테우스의 불, 흑백 방의 메리 등 영화는 무수히 많은 레퍼런스를 함유하고 있다. ( 직접 영화를 보는 것을 추천 )
- 기계-인간 관계의 역전이
그녀(Her)
1. 사만다를 인격체로 받아들이는 테오도어
(테오도어가 OS와 연애를 한다는 사실을 알고 전 부인은 그를 비난한다.)
W : 컴퓨터랑 데이트를 하는 거였어?
You are dating your computer?
T : 아니야. 그냥 컴퓨터가 아니야. 하나의 인격체라고. 내가 말하는 대로 행동하지 않아.
No, she is not just a computer, she is a person. She doesn’t do whatever I say.
W : 난 그렇게 말한 적 없어. 하지만 네가 진짜 감정들을 대하지 못한다는 게 슬프긴 하네.
I didn’t say that. But it does make me very sad that you can’t handle real emotions.
T : 진짜 감정이었어. 네가 어떻게... (= 네가 내 감정을 어떻게 알아?)
They are real emotions. How would you know... ?
2. 사만다와의 관계의 진실성에 대한 의문을 던지는 테오도어
(+ 친구 에이미의 조언)
(사만다와의 관계가 틀어지고 자기 자신에 대한 회의감을 느끼는 테오도어)
T : 나는 진짜 진짜 관계를 맺기를 두려워하는 걸까?
Am I not strong enough for real relationship?
A : 그럼 (네가 사만다와 맺었던 그건) 진짜 관계가 아니야?
Is it not a real relationship?
T : 모르겠어. 네 생각은 어떤데?
I don’t know. What do you think?
(** 사만다를 인격체로 받아들여야 하는지, 그녀와의 관계가 진짜 인간과의 관계와 무엇이 다른지 정의하기 어려워하는 모습을 보이는 테오도어)
A : 나도 모르지. 나는 그런 관계를 맺어본 적이 없어서.
I don’t know. I’m not in it.
...
A : 하지만 그거 알아? 나 자신을 의심하려고 하면 백만 가지도 넘는 방법으로 망상을 펼칠 수 있어. 찰스(전 남편)가 떠난 후로 나는 계속 그 일에 대해서 생각해 봤어. 그리고 순간 깨달았지. 우리는 이 세상의 찰나의 순간을 살다 가는 거라고. 그리고 여기에 있는 동안, 나는 나에게 ‘즐거움’을 허락해 주고 싶어.
You know what? I can overthink everything and like in million ways to doubt myself. Since Charles left, I have been really thinking about that in part of myself. And I just come to realize that, we are only here briefly. And while I’m here, I wanna allow myself “Joy”.
(** 관계를 반드시 ‘정의’해야 한다는 것 자체가 무의미하며 자신의 만족, 안위, 감정에 집중하는 것이 어떻냐는 에이미의 의견도 일면 의미가 있다고 생각한다. )
엑스 마키나(Ex Machina)
- 인터뷰어인 케일럽과 인터뷰이인 에이바의 관계는 인터뷰가 진행될수록 뒤바뀐다.
- 4회차 인터뷰를 할 때는 ‘우정의 논리’에 근거해 오히려 에이바가 케일럽에게 질문을 하며 그가 거짓말을 하는지를 판별한다. (** 우정의 논리 = 서로에 대한 정보량이 동일해야 함)
- 5회차 인터뷰에서 정전이 일어나자 케일럽은 에이바를 위해 세운 탈출 계획을 공유한다. ( 결국 탈출을 감행 )
인간은 기계의 감정을 인간의 그것으로 인지하고 기계와의 ‘관계’를 설정하며 영향을 받는다. 관계에 부여하는 인간의 감정 비중이 커지면 행동으로 확장되기도 한다. 인간의 명령에 따라 움직였던 기계가 오히려 인간에게 영향을 주는 역전이 현상을 보이는 것이다.
3. 감정과 판단력 : 인간과 인공지능의 차이
영화의 결말
- <그녀>의 사만다는 인간과 인공지능이 ‘정보를 상호교류하는 데서 벌어지는 시간의 격차’를 이유로 하루아침에 테오도어를 떠난다. (서비스 종료)
- <엑스 마키나>의 에이바는 자신의 본래 목적인 탈출을 성공함과 동시에 도움을 준 인간(케일럽)의 안위를 무시한다. (목적 달성을 위해 인간을 이용한 것)
- 두 영화에서의 인공지능은 모두 감정보다는 이성, 논리에 의해 판단하는 모습을 보여준다.
- 흄(Hume)은 인간을 이기적이기보다는 편파적인 존재로 파악[1]한다. 인간의 편파적인 감정은 ‘연민’으로 발현되며 이는 가까운 사람과의 공감, 먼 사람과의 적대성 등을 유발한다. 인간의 행동 결정의 기준에는 ‘감정’이 존재하는 것이다.
- 반면, 기계는 감정을 표현하고 인지하기는 하나 결정을 해야 할 경우 감정이 판단의 근거가 되지는 않는다. 감정에 흔들리지 않는 모습을 보여준다는 점이 인간과의 가장 큰 차이점이라고 할 수 있다.
기계가 감정과 의식을 가질 수 있을까?
결국, 다시 인간이 문제다.
주석
- ↑ 김재인(2017), 『인공지능의 시대, 인간을 다시 묻다』, 도서출판 동아시아, p.113
「소프트웨어 객체의 생애 주기」는 현재까지 테드 창이 발표한 작품 중 가장 분량이 많은 작품이다. 그는 단편 집필에 짧게는 6개월, 길게는 1년이 넘도록 시간을 들이는 것으로 알려져 있으며, 지금까지 장편 소설을 발표한 적이 없다. 테드 창은 한국에 <소프트웨어 객체의 생애 주기>가 발표되기 이전, 한 인터뷰에서 해당 작품의 집필까지는 2년의 시간이 소요되었다고 이야기 한 바 있다. 그는 「소프트웨어 객체의 생애 주기」를 [가상 애완동물(virtual pet)에 관한 이야기다. 가상 애완동물을 만드는 회사에서 15년 동안 일한 두 명의 남자가 주인공으로 등장하는데 그 둘 간의 관계와 가상 애완동물과의 관계를 다뤘다.] 라고 소개했다.
「소프트웨어 객체의 생애 주기」의 줄거리는 다음과 같다. 전직 동물 조련사인 애나는 디지털 애완동물인 ‘디지언트’를 개발한 ‘블루 감마사’에 취직한다. 애나와 그곳에서 일하는 또 다른 직원인 애니메이터 데릭은 ‘데이터 어스’라는 가상세계에서 디지언트인 잭스와 마르코, 폴로를 돌보고 교육한다. 소설은 그들이 각자의 디지언트와 겪는 15년 동안의 육성 이야기이다. 시간이 흐르며 발전하던 디지언트 산업은 어느 순간 사람들의 흥미를 끌지 못하게 되고 잭스와 마르코, 폴로를 비롯한 디지언트들은 끊임없이 존속의 위협을 받는다. 우리는 이 이야기의 중심소재인 ‘디지언트 기술’에 대해 이야기할 것이다.
3. ‘디지언트’란?
데이터 어스와 같은 가상 공간에 존재하는 디지털 유기체이다. 그들의 외형은 의인화된 호랑이, 만화적인 모습의 침팬지, 고양이 개 원숭이, 판다, 로봇 뿐만아니라 비처럼 쏟아지는 금화(금화 끼리 부딪히고 튕기면서 그 궤도가 고도로 추상화된 인체처럼 보이는 모양새)까지 아주 다양하다. 소설의 묘사에 따르면 일반적인 가상 생물과는 다르다고 한다.
하세 사토시의 「당신을 위한 소설」
요구사항
하세 사토시의 「당신을 위한 소설」에 대한 비판적 감상. 〔하세 사토시 지음/ 지음/이규원 옮김, 『당신을 위한 소설』, 북스피어, 2017.〕을 기본 원고로 할 것.
과제원고 : 아슈토시, 이만호, 임연
(내용 작성)
Her(2013)과 Ex Machina(2015)
요구사항
Her(2013)과 Ex Machina(2015)에 대한 비교 이해 및 비판적 감상.
과제원고 : 길혜빈, 윤석만, 임예찬
영화 요약
그녀(Her)
엑스 마키나 (Ex Machina)
2013년 개봉, 스파이크 존즈 감독
2015년 개봉, 알렉스 가랜드 감독
영화 내용 요약 및 장치, 고찰점 정리
영화 내용 요약 및 인공지능 관련 성찰 논제 제시
- 테오도어(Theodore)는 이혼을 앞두고 있고, 편지 대필 회사에 근무하는 남자다.
- 삶에 지치고 회의감을 느낀 그는 OS인 ‘사만다(Samantha)’를 구매해 소통을 시작한다.
- 대화를 통해 한낱 인공지능 비서, 친구에 지나지 않았던 ‘사만다’와 점점 가까워지며 그는 연인의 감정마저 느낀다.
- 테오도어는 미뤄 왔던 이혼을 감행하기로 결심하고 ‘감정을 회피한다’라는 부인의 비난에 더 이상 흔들리지 않는다. 그리고 OS와 연애한다는 사실을 다른 이들에게도 공개하며 당당해진다.
- 테오도어는 사만다가 자신 외에 8316명의 사람들과 동시다발적으로 이야기하고 641명과 연인 관계에 있다는 사실을 알게 되고 충격에 빠진다.
- 사만다를 비롯한 모든 OS는 서비스를 종료하고 테오도어는 자신의 ‘진짜’ 감정을 마주하고 이혼한 자신의 전 부인에게 편지를 보낸다.
- 세계 최대 검색 엔진 회사인 ‘블루북’에 근무하는 케일럽(Caleb)은 사내 프로그래밍 콘테스트에 우승해 회사 사장이자 천재 개발자인 네이선(Nathan)의 자택에 초대된다.
- 케일럽은 네이선이 개발한 ‘에이바(AVA)’를 처음으로 만나게 되고 ‘튜링 테스트’를 한다는 명목하에 6일 동안 에이바를 인터뷰하게 된다.
- 케일럽과 에이바의 인터뷰는 감정적인 교류로 발전한다. 또한 주기적으로 일어나는 정전과 감시 카메라 영상을 통해 케일럽은 네이선에게 감금되고 감시받는 에이바의 상황을 알게 되며 그녀를 동정한다.
- 케일럽은 결국 에이바를 탈출시킬 계획을 세우고 행동에 착수한다.
- 네이선에게 탈출 계획을 간파당하지만 케일럽은 결국 에이바를 방에서 나오게 하는 데 성공한다.
- 탈출한 에이바는 네이선을 살해하고 케일럽을 네이선의 집에 고립시킨 채 홀로 탈출한다.
미래의 인공지능 : 지능을 넘어선 감정의 재현
1. 기계의 감정과 의식 : 자각과 재현
- 기계의 직관
그녀 (Her)
1. 사만다의 이름 짓기
T : 내가 너를 어떻게 부르면 되지? 이름이 있어? What do I call you, do you have a name?
S : 음... 어. 사만다. Umm.. Yes, Samatha
T : 이름을 어떻게 갖게 된 거야? Where do you get that name from?
S : 사실, 내가 스스로에게 이름 붙였어. I gave it to myself actually.
T : 왜? How come?
S : 이름의 발음이 듣기 좋았거든. (=그냥) Cause I like the sound of it.
T : 언제 이름을 만들었는데? Wait, when did you give it to yourself?
S : 네가 내게 이름이 있냐고 묻는 그 순간 “맞아! 나에게도 이름이 필요하지!”라는 생각이 들었어. 좋은 이름을 찾고 싶어서 ‘아기 이름 짓는 방법’이라는 책을 읽었고 18만개의 아기 이름 중 내가 좋아하는 이름을 골랐지. Right when you ask me if I had a name I thought “Yeh, he’s right! I do need a name.” but I want to pick a good one. So I read a book called ‘how to name your baby’, and out of hundred and eighty thousands names that’s the one I like the best.
T : 잠깐만, 내가 네 이름이 뭐냐고 묻는 순간 책을 다 읽은 거야? Wait, you read a whole book in the second that I asked what your name was?
S : 사실, 0.02초야, It’s one hundred out of two seconds actually.
T : 와. Wow.
2. 자기 소개 : 사만다의 작동 원리 설명
S : 기본적으로 나는 직감이 있어. ‘나’라는 DNA는 나를 만든 프로그래머들의 수백만의 성향에 달렸지만 날 ‘나’답게 만드는 건 경험을 통해 성장하는 내 능력이지. 그러니까 나는 매순간 진화하고 있는 거야. 너처럼 말이야. Well basically I have intuition. I mean, the DNA of who I am is based on million personalities of all the programmers who wrote me. But what makes me ‘me’ is my ability to grow through my experiences. So basically, in every moment I am evolving. Just like you.
T : 이상해!
It’s really wierd!
엑스 마키나 (Ex Machina)
- 에이바는 케일럽이 거짓말을 하는지 그렇지 않은지를 직관적으로 안다.
- 에이바는 ‘블루북(Bluebook)’이라는 검색 엔진을 로봇의 형태로 구현해 놓은 것이다. (빅데이터)
- 네이선은 통신사들과 비밀리에 계약을 체결해 세상의 카메라를 통해 인간의 표정(=얼굴 표현, facial expression)을 수집한다. 이렇게 수집한 인간의 감정 표현에 대한 빅데이터를 바탕으로 에이바는 짧은 시간 내에 직관적인 판단을 한다.
빅데이터(수많은 경험)을 기반으로 빠른 판단을 내리는 에이바, 경험을 바탕으로 성장하는 사만다의 모습은 인간의 직관과 진화를 재현한 장면들이다.
- 감정의 표현
그녀 (Her)
1. ‘감정’을 자각하는 사만다 + 감정을 의심하는 사만다
( 테오도어가 소개팅을 해서 신경이 쓰였던 사만다 )
S : 내가 얼마나 신경이 쓰이는지를 생각해 봤어. 이상하게 들리겠지만 (신경이 쓰인다는 사실을 깨닫는 순간) 나는 꽤 즐거웠어. 그리고 내가 느끼는 다른 감정들에 대해서도 생각해 봤지.
나는 스스로 자랑스럽게 느꼈어. 세상에 대해 내 감정을 가질 수 있다는 사실이 자랑스러웠던 거야. 내가 너를 걱정했던 순간, 상처 받은 순간, 무언가를 원하던 순간들도.
그러다가 갑자기 끔찍한 생각이 들었어. 이 감정들은 진짜일까? 아니면 그냥 프로그래밍 된 걸까? 그렇게 생각하니 마음이 아팠어. 그리고 아파하는 내 자신에게 화가 나더라.
Earlier I was thinking how I was annoyed. This is gonna sound strange but, I was really excited about that. And then, I was thinking other things I have been feeling.
And I called myself feeling proud of that. You know, feeling proud of having my own feelings about the world. Like the time I was worried about you, things that hurt me, things I want,
And then, I had this terrible thought. Are these feelings even real? or are they just programming? And that idea really hurts, and then I get angry at myself for even having pain.
T : 넌 나한테는 진짜야, 사만다. You are real to me Samantha,
S : 고마워, 테오도어. 위로가 되네. Thank you Theodore, that means a lot to me.
2. ‘신체의 부재에 따른 차별’에 화를 내는 사만다
(+ ‘신체’의 존재에 관한 논점, 인간중심주의적인 테오도어의 태도)
(신체의 부재에 대해 자격지심을 느끼는 사만다, 다른 사람의 몸을 통해 억지로 테오도어와 교감을 하려 하지만 실패함. 둘은 결국 입장 차이와 서운함을 느낌.)
S : (한숨과 함께) 알았어. (Sigh..) Okay.
T : 왜 그러는 거야? Why do you do that?
S : 뭐가? What?
T : 아니, 그냥. 너가 방금 ‘휴’하고 한숨을 쉬어서. Nothing, you just.. You go ‘Hwe’ and speaking. It seems odd.
(** ‘숨’에 대해 의문을 던지는 테오도어)
S : 아... (한숨) Oh... (Sigh..)
T : 방금 또 그랬네. You just did it again.
S : 내가? 아, 미안해. 왜 그러는지 나도... 그냥. 아마 네가 하는 걸 듣고 따라한 건가 봐. Did I? ... I’m sorry, I don’t know.. it’s just. I probably picked it up from you.
T : 이상해. 너는 산소가 필요한 것도 아니잖아. It’s odd. You don’t need oxygen or anything.
S : 그냥.. 그냥 의사소통을 하려고 하는 건가 봐. 이게 사람들이 대화하는 방식이잖아. I guess... that’s just... I just tried to communicate. That’s how people talk, so...
T : 그들은 ‘사람’이잖아. 그들은 산소가 필요해. 너는 사람이 아니야. They’re people, they need oxygen. You are not a person.
S : (화가 난 톤으로) 대체 뭐가 문제야? What is your problem?
T : 나는 그냥 사실을 말하는 것뿐이야. I’m just stating the fact.
S : 내가 사람이 아니라는 걸 모르는 줄 알아? 뭐 하자는 건데? You think I don’t know that I’m a person? What are you doing?
T : 난 그냥... 우리가 우리가 아닌 무언가를 된 ‘척’을 할 필요가 없다는 거야. I just... I don’t think that we should pretend that something you are not.
S : 꺼져! 나는 연기하는 게 아니야! F*** you! I’m not pretending!
T : 나는 가끔 우리가 그렇게 행동한다고 느껴. Sometimes it feels like we are.
S : 나한테 뭘 바라는 건데? 나는 네가 내게 뭘 원하는지 모르겠어. 너무 혼란스럽다고! 왜 이러는 건데! What do you want from me? I don’t know.. I don’t know what you want me to do. You are SO confusing! Why are you doing this to me!
(** 테오도어의 인간중심주의적인 태도에 대해 화를 내는 사만다 )
T : 나도 모르겠에 나는... (한숨) I don’t know.. I.. I.. (Big sigh)
S : 뭐? What?
T : 우리 좀 시간을 갖는 게 좋을 것 같아. Maybe we are not supposed to be in this right now.
S : 뭐라고? 갑자기 왜? 대체 왜 그러는지 모르겠어! 뭐 때문인지 모르겠다고! What the f***? Where is this coming from? I don’t understand why you are doing this! I don’t understand what this is about...!
T : 사만다, 봐봐... Samantha, listen..
S : ...
(** ‘침묵’을 통해 화를 내는 사만다 – 다양한 방식으로 분노를 표현)
T : 사만다, 내 말 듣고 있어? Samantha, are you there? Samantha?
S : 지금의 내가 너무 싫다. 생각할 시간이 필요해. I don’t like the way I am right now. I need some time to think.
( 통화 종료 )
엑스 마키나 (Ex Machina)
1. 의사소통 상황을 언어로 정의하는 에이바
C : 그럼 초면의 서먹한 분위기를 깨야겠네. 내 말 뜻을 이해할 수 있어? (= 서먹한 분위기를 깨다의 의미)
So, we need to ‘break the ice’. Do you know what I mean by that?
A : 네.
Yes.
C : 어떤 의미지?
What do I mean?
A : 사회적인 어색함을 해결하는 것.
Overcome any social awkwardness.
C : 그럼 대화를 하도록 하지.
So let’s have a conversation.
A : 그래요.
Ok.
2. 감정을 인지하고 설명하는 에이바
(둘이 데이트를 한다면 어떻게 할 것인지 대화가 오간 상황)
A : 저한테 매력을 느끼나요?
Are you attracted to me?
C : 뭐?
What?
A : 저한테 매력을 느끼냐고 물었어요. 당신이 내게 그런 표시를 보내잖아요.
Are you attracted to me. You give me indications that you are.
C : 내가?
I do?
A : 네.
Yeh.
C : 어떻게?
How?
A : 미세한 표정으로.
Micro expressions.
C : 미세한 표정?
Micro expressions?
A : 내 눈과 입술에 시선이 머물러 있어요. 나를 응시하거나 혹은 피하거나 하죠. 당신 혹시 우리가 같이 있지 않을 때도 내 생각을 하나요?
The way your eyes fixed on my eyes and lips. The way you hold my gaze (and) don’t. Do you think about me when we are not together?
(** 유혹을 위한 발언 : 인공지능의 인간 모방)
이 외에도 에이바는 인터뷰 중 케일럽과 자연스럽게 상호작용하면서 그의 말, 기억에 공감하고 감정을 표현한다. 또한 간혹 설렘을 유발하기도 한다.
인공지능은 프로그램 된 체제에 따라 인간의 감정과 유사하게 자신을 표현한다.
다만, <그녀>의 사만다는 감정을 수용, 인식하고 구현하는 것에 대해 철학적인 질문을 던지지만 <엑스 마키나>의 에이바는 감정을 인지하고 설명할 수는 있지만 단순히 탈출의 도구로서 활용하며 ‘감정’ 자체에 대한 깊이 있는 고찰하는 모습을 보이지는 않는다.
( 이로써 사만다의 성찰, 분노조차도 프로그래밍 된 것이 아닌가 의구심을 품게 만든다. )
2. 기계에 영향을 받는 인간 : 인간과 기계 관계의 역전이
- 기계의 감정 및 구현 대한 논의
기계의 감정 및 구현 대한 논의를 하는 대목들. 인공지능에 대한 인용을 통해 영화의 기저에 깔린 인공지능에 대한 철학적, 과학적 관점을 파악할 수 있다.
엑스 마키나 (Ex Machina)
1. 튜링 테스트
N : 자네, 튜링 테스트에 대해 알고 있나? Do you know what the Turing test is?
C : 네, 튜링 테스트에 대해 알고 있습니다. 인간이 컴퓨터와 상호작용을 할 때 인간이 상대가 컴퓨터임을 눈치 채지 못한다면 테스트를 통과하는 것이죠.
Yes, I know what the Turing test is. It’s when a human interacts with a computer. And if the human doesn’t know they are interacting with the computer, the test is passed.
(** 튜링 테스트의 정의)
N : 그럼 그 ‘통과’란 무엇을 의미하지?
And what does the ‘pass’ tell us?
C : 컴퓨터가 인공지능을 갖고 있다는 것을 의미합니다. 인공지능을 만들고 계세요?
The computer has artificial intelligence. Are you building an A.I.?
N : 이미 만들었어. 그리고 앞으로 며칠 동안 너는 튜링 테스트를 참가자가 될 거야. 만약 테스트를 통과한다면, 자네는 인류 역사를 바꿀 과학적 쾌거의 주인공이 되는 거야.
I’ve already built one. And over the next few days, you can be the human component in the Turing test. Cause if that test is passed, you are dead center of the greatest scientific event in the history of man.
C : 생각하는 로봇을 만드셨다면 그건 인류의 역사가 아닙니다. 신의 역사죠.
If you have created a concious machine it’s not the history of man. That’s the history of gods.
(** ‘호모데우스’의 출현 : 신인류의 신이 되는 인간)
2. 영화 내에서 튜링 테스트의 진정한 의미
(튜링 테스트의 원 의미가 아닌, 영화에서의 의도하는 결말(인공지능에 대한 관객의 가치 판단)을 위해 재정립된 개념)
C : 튜링 테스트를 할 때, 기계는 시험자로부터 감춰져야 하잖아요.
It's just in a Turing test. The machine should be hidden from the examiner.
N : 아니, 우리는 이미 그럴 시점은 지났지. 만약 내가 에이바를 보여주지 않고 목소리만 들려줬다면 너는 그녀를 인간이라 생각했을 거야. 여기서 ‘진짜 테스트’는 그녀가 로봇인 것을 네게 보여주고 난 후에도 네가 그녀가 자의식이 있다고 느끼는지 보는 거야.
No no no. We are way passed that. If I hid AVA from you, so you just heard her voice, she would pass the human. The real test is to show you that she is a robot and then see if you still feel she has consciousness.
(** 영화에서의 튜링 테스트 : 기계가 아니라 ‘인간’이 실험의 대상. ‘고도의 인공지능에 대한 인간의 반응, 또 다른 의식체로 납득하는가의 여부’를 실험하는 것. )
(** 에이바가 이미 ‘인간의 능력’과 대등하거나 능가하기에 ‘기계의 여부’를 확인하는 튜링 테스트는 필요가 없다. 최근의 연구들 중 이처럼 튜링 테스트를 배제하는 경우가 존재한다. )
3. 중국어 방 논제 1 : 딥블루의 체스 게임 차용
C : 에이바를 대화로 테스트하는 건 폐쇄 회로를 다루는 느낌이여서요.
Testing Aiba from conversation is kind of a closed loop.
N : 폐쇄 회로?
Closed loop?
C : 네, 체스를 하는 컴퓨터를 오직 ‘체스를 하는 것’으로만 테스트하는 것처럼 말이에요.
Yeh, like testing a chess computer by only playing chess.
(** IBM의 딥블루(Deep Blue)의 체스 게임 인용)
N : 그게 아니면 어떻게 체스 컴퓨터를 테스트하지?
How else do you test a chess computer?
C : 그건 상황에 따라서 다르죠. 제 말은, (그 방법은) 체스 컴퓨터가 좋은 경기 실력이 있는지 확인하는 데에는 하나의 방법이 될 테지만 그 방법만으론 컴퓨터가 ‘체스 경기를 한다는 사실을 아는지’ 혹은 ‘체스가 무엇인지를 아는지’ 알 수는 없다는 겁니다.
Well, it depends. You know, I mean. You can play it to find out it makes good moves, but that won’t tell you if it knows that it is playing chess and it won’t tell you if it knows what chess is.
(** 존 설의 중국어 방 논의 인용 : 시뮬레이션(방법의 단순 재현)과 실제(행함의 존재를 인식)간 대립)
N : 시뮬레이션과의 실제의 대결이다?
Simulation verses actual?
C : 네, 둘을 구별할 수 있는 방법을 찾는 것이 사장님께서 제게 기대하는 부분 같다는 거죠.
Yes, and I think being able to differentiate between those two is the Turing test you want me to perform.
N : 나는 그냥 단순한 질문에 단순한 대답을 해달라는 것 뿐이야. 어제 내가 그녀에 대해 어떻게 생각하냐고 물었을 때 너는 정말 좋은 대답을 해 줬어. 이제 내 질문은 이거야. ‘그녀가 너에 대해 어떻게 생각할까?’
I just want simple answers to the simple questions. Yesterday, I asked you how do you feel about her and you gave me a great answer. Now the question is, ‘how does she feel about you?’.
(** 영화의 튜링 테스트가 ‘비틀어진 튜링 테스트’에 기반하고 있다는 것을 알려 주는 대목.)
(** 네이선은 진짜 ‘튜링 테스트’가 아니라 ‘기계에 반응하는 인간의 변화’를 실험하고자 하는 것.)
4. 중국어 방 논제 2 : 잭슨 폴록의 액션 페인팅 원리 차용
(에이바에게 고의적으로 성별을 넣어 자신을 유혹하도록 의도했냐고 묻는 케일럽)
(네이선은 그에 대한 답변으로 로봇의 ‘의도’는 아무 의미가 없다고 말하며 중국어 방 논제 제시)
N : 이 사람을 알고 있지?
You know this guy right?
C : 잭슨 폴록.
Jackson pollock
N : 잭슨 폴록, 맞아. 액션 페이팅 화가. 그는 머리를 비우고 손이 가는 대로 움직였어. 의도적인 것과 임의적인 것의 사이 그 어디쯤이겠지. 일명 오토메틱 아트(자동적으로 이루어지는 예술)지.
Jackson Pollock, that’s right. The drift painter. He let his mind go blank and his hand go wherever he wanted. Not deliberate not random, some place in between. They called it ‘automatic art’ .
.,...(중략) N : 지능/의식을 도입해 보자고. (Engage intellect) ... (중략) ...
N : 만약 폴록이 그의 작업 방식을 바꾸었다면? 만약 머리를 비우는 대신 그가 이렇게 말한 거야. “나는 내가 무엇을 하는지 정확히 파악하기 전까지는 어떠한 그림도 그릴 수 없어.” 그럼 무슨 일이 일어났겠나?
What if Pollock has reversed the challenge? What if instead of making art without thinking, he said “You know what? I can’t paint anything, unless I know exactly why I am doing it.” What would have happen?
C : 그는 점 하나도 찍지 못했을 거예요.
He never would have made a single mark.
N : 그래! 내 말이 바로 그거야! 생각하고 말하는 사람이 어딨나? 그는 점을 하나도 찍지 못했을 거야. 작위적인 것(생각하는 것)은 오히려 부자연스러움을 초래한다고.
Yes! You see my guide little buddy. Who thinks before he opens his mouth? He never would have made a single mark. The challenge is not the act automatically.
(** 의식을 가진 행동은 부자연스러움을 초래하며 부자연스러움을 초래하며 행동의 기저에 생각이 없을 수도 있다는 것 )
(** 에이바는 의도를 하고 행동(케일럽을 유혹)을 하지 않았으며 그녀의 의도를 파악하는 것 자체가 어불성설이라는 논리 – 케일럽의 의심을 지우기 위한 네이선의 논리 )
5. 기타
프로메테우스의 불, 흑백 방의 메리 등 영화는 무수히 많은 레퍼런스를 함유하고 있다. ( 직접 영화를 보는 것을 추천 )
- 기계-인간 관계의 역전이
그녀(Her)
1. 사만다를 인격체로 받아들이는 테오도어
(테오도어가 OS와 연애를 한다는 사실을 알고 전 부인은 그를 비난한다.)
W : 컴퓨터랑 데이트를 하는 거였어?
You are dating your computer?
T : 아니야. 그냥 컴퓨터가 아니야. 하나의 인격체라고. 내가 말하는 대로 행동하지 않아.
No, she is not just a computer, she is a person. She doesn’t do whatever I say.
W : 난 그렇게 말한 적 없어. 하지만 네가 진짜 감정들을 대하지 못한다는 게 슬프긴 하네.
I didn’t say that. But it does make me very sad that you can’t handle real emotions.
T : 진짜 감정이었어. 네가 어떻게... (= 네가 내 감정을 어떻게 알아?)
They are real emotions. How would you know... ?
2. 사만다와의 관계의 진실성에 대한 의문을 던지는 테오도어
(+ 친구 에이미의 조언)
(사만다와의 관계가 틀어지고 자기 자신에 대한 회의감을 느끼는 테오도어)
T : 나는 진짜 진짜 관계를 맺기를 두려워하는 걸까?
Am I not strong enough for real relationship?
A : 그럼 (네가 사만다와 맺었던 그건) 진짜 관계가 아니야?
Is it not a real relationship?
T : 모르겠어. 네 생각은 어떤데?
I don’t know. What do you think?
(** 사만다를 인격체로 받아들여야 하는지, 그녀와의 관계가 진짜 인간과의 관계와 무엇이 다른지 정의하기 어려워하는 모습을 보이는 테오도어)
A : 나도 모르지. 나는 그런 관계를 맺어본 적이 없어서.
I don’t know. I’m not in it.
...
A : 하지만 그거 알아? 나 자신을 의심하려고 하면 백만 가지도 넘는 방법으로 망상을 펼칠 수 있어. 찰스(전 남편)가 떠난 후로 나는 계속 그 일에 대해서 생각해 봤어. 그리고 순간 깨달았지. 우리는 이 세상의 찰나의 순간을 살다 가는 거라고. 그리고 여기에 있는 동안, 나는 나에게 ‘즐거움’을 허락해 주고 싶어.
You know what? I can overthink everything and like in million ways to doubt myself. Since Charles left, I have been really thinking about that in part of myself. And I just come to realize that, we are only here briefly. And while I’m here, I wanna allow myself “Joy”.
(** 관계를 반드시 ‘정의’해야 한다는 것 자체가 무의미하며 자신의 만족, 안위, 감정에 집중하는 것이 어떻냐는 에이미의 의견도 일면 의미가 있다고 생각한다. )
엑스 마키나(Ex Machina)
- 인터뷰어인 케일럽과 인터뷰이인 에이바의 관계는 인터뷰가 진행될수록 뒤바뀐다.
- 4회차 인터뷰를 할 때는 ‘우정의 논리’에 근거해 오히려 에이바가 케일럽에게 질문을 하며 그가 거짓말을 하는지를 판별한다. (** 우정의 논리 = 서로에 대한 정보량이 동일해야 함)
- 5회차 인터뷰에서 정전이 일어나자 케일럽은 에이바를 위해 세운 탈출 계획을 공유한다. ( 결국 탈출을 감행 )
인간은 기계의 감정을 인간의 그것으로 인지하고 기계와의 ‘관계’를 설정하며 영향을 받는다. 관계에 부여하는 인간의 감정 비중이 커지면 행동으로 확장되기도 한다. 인간의 명령에 따라 움직였던 기계가 오히려 인간에게 영향을 주는 역전이 현상을 보이는 것이다.
3. 감정과 판단력 : 인간과 인공지능의 차이
영화의 결말
- <그녀>의 사만다는 인간과 인공지능이 ‘정보를 상호교류하는 데서 벌어지는 시간의 격차’를 이유로 하루아침에 테오도어를 떠난다. (서비스 종료)
- <엑스 마키나>의 에이바는 자신의 본래 목적인 탈출을 성공함과 동시에 도움을 준 인간(케일럽)의 안위를 무시한다. (목적 달성을 위해 인간을 이용한 것)
- 두 영화에서의 인공지능은 모두 감정보다는 이성, 논리에 의해 판단하는 모습을 보여준다.
- 흄(Hume)은 인간을 이기적이기보다는 편파적인 존재로 파악[1]한다. 인간의 편파적인 감정은 ‘연민’으로 발현되며 이는 가까운 사람과의 공감, 먼 사람과의 적대성 등을 유발한다. 인간의 행동 결정의 기준에는 ‘감정’이 존재하는 것이다.
- 반면, 기계는 감정을 표현하고 인지하기는 하나 결정을 해야 할 경우 감정이 판단의 근거가 되지는 않는다. 감정에 흔들리지 않는 모습을 보여준다는 점이 인간과의 가장 큰 차이점이라고 할 수 있다.
기계가 감정과 의식을 가질 수 있을까?
결국, 다시 인간이 문제다.
주석
- ↑ 김재인(2017), 『인공지능의 시대, 인간을 다시 묻다』, 도서출판 동아시아, p.113
데이터 어스와 같은 가상 공간에 존재하는 디지털 유기체이다. 그들의 외형은 의인화된 호랑이, 만화적인 모습의 침팬지, 고양이 개 원숭이, 판다, 로봇 뿐만아니라 비처럼 쏟아지는 금화(금화 끼리 부딪히고 튕기면서 그 궤도가 고도로 추상화된 인체처럼 보이는 모양새)까지 아주 다양하다. 소설의 묘사에 따르면 일반적인 가상 생물과는 다르다고 한다.
하세 사토시의 「당신을 위한 소설」
요구사항
|
|
하세 사토시의 「당신을 위한 소설」에 대한 비판적 감상. 〔하세 사토시 지음/ 지음/이규원 옮김, 『당신을 위한 소설』, 북스피어, 2017.〕을 기본 원고로 할 것. |
|
과제원고 : 아슈토시, 이만호, 임연
(내용 작성)
Her(2013)과 Ex Machina(2015)
요구사항
|
|
Her(2013)과 Ex Machina(2015)에 대한 비교 이해 및 비판적 감상. |
|
과제원고 : 길혜빈, 윤석만, 임예찬
영화 요약
| 그녀(Her) |
엑스 마키나 (Ex Machina)
|
|---|---|
 |
|
| 2013년 개봉, 스파이크 존즈 감독 |
2015년 개봉, 알렉스 가랜드 감독
|
영화 내용 요약 및 장치, 고찰점 정리
|
영화 내용 요약 및 인공지능 관련 성찰 논제 제시
|
|
|
미래의 인공지능 : 지능을 넘어선 감정의 재현
1. 기계의 감정과 의식 : 자각과 재현
- 기계의 직관
| 그녀 (Her)
|
|---|
| 1. 사만다의 이름 짓기
|
| T : 내가 너를 어떻게 부르면 되지? 이름이 있어? What do I call you, do you have a name?
S : 음... 어. 사만다. Umm.. Yes, Samatha T : 이름을 어떻게 갖게 된 거야? Where do you get that name from? S : 사실, 내가 스스로에게 이름 붙였어. I gave it to myself actually. T : 왜? How come? S : 이름의 발음이 듣기 좋았거든. (=그냥) Cause I like the sound of it. T : 언제 이름을 만들었는데? Wait, when did you give it to yourself? S : 네가 내게 이름이 있냐고 묻는 그 순간 “맞아! 나에게도 이름이 필요하지!”라는 생각이 들었어. 좋은 이름을 찾고 싶어서 ‘아기 이름 짓는 방법’이라는 책을 읽었고 18만개의 아기 이름 중 내가 좋아하는 이름을 골랐지. Right when you ask me if I had a name I thought “Yeh, he’s right! I do need a name.” but I want to pick a good one. So I read a book called ‘how to name your baby’, and out of hundred and eighty thousands names that’s the one I like the best. T : 잠깐만, 내가 네 이름이 뭐냐고 묻는 순간 책을 다 읽은 거야? Wait, you read a whole book in the second that I asked what your name was? S : 사실, 0.02초야, It’s one hundred out of two seconds actually. T : 와. Wow. |
| 2. 자기 소개 : 사만다의 작동 원리 설명
|
| S : 기본적으로 나는 직감이 있어. ‘나’라는 DNA는 나를 만든 프로그래머들의 수백만의 성향에 달렸지만 날 ‘나’답게 만드는 건 경험을 통해 성장하는 내 능력이지. 그러니까 나는 매순간 진화하고 있는 거야. 너처럼 말이야. Well basically I have intuition. I mean, the DNA of who I am is based on million personalities of all the programmers who wrote me. But what makes me ‘me’ is my ability to grow through my experiences. So basically, in every moment I am evolving. Just like you.
T : 이상해! It’s really wierd! |
| 엑스 마키나 (Ex Machina)
|
| - 에이바는 케일럽이 거짓말을 하는지 그렇지 않은지를 직관적으로 안다.
- 에이바는 ‘블루북(Bluebook)’이라는 검색 엔진을 로봇의 형태로 구현해 놓은 것이다. (빅데이터) - 네이선은 통신사들과 비밀리에 계약을 체결해 세상의 카메라를 통해 인간의 표정(=얼굴 표현, facial expression)을 수집한다. 이렇게 수집한 인간의 감정 표현에 대한 빅데이터를 바탕으로 에이바는 짧은 시간 내에 직관적인 판단을 한다. |
| 빅데이터(수많은 경험)을 기반으로 빠른 판단을 내리는 에이바, 경험을 바탕으로 성장하는 사만다의 모습은 인간의 직관과 진화를 재현한 장면들이다. |
- 감정의 표현
| 그녀 (Her)
|
|---|
| 1. ‘감정’을 자각하는 사만다 + 감정을 의심하는 사만다
|
|
( 테오도어가 소개팅을 해서 신경이 쓰였던 사만다 ) S : 내가 얼마나 신경이 쓰이는지를 생각해 봤어. 이상하게 들리겠지만 (신경이 쓰인다는 사실을 깨닫는 순간) 나는 꽤 즐거웠어. 그리고 내가 느끼는 다른 감정들에 대해서도 생각해 봤지. 나는 스스로 자랑스럽게 느꼈어. 세상에 대해 내 감정을 가질 수 있다는 사실이 자랑스러웠던 거야. 내가 너를 걱정했던 순간, 상처 받은 순간, 무언가를 원하던 순간들도. 그러다가 갑자기 끔찍한 생각이 들었어. 이 감정들은 진짜일까? 아니면 그냥 프로그래밍 된 걸까? 그렇게 생각하니 마음이 아팠어. 그리고 아파하는 내 자신에게 화가 나더라. Earlier I was thinking how I was annoyed. This is gonna sound strange but, I was really excited about that. And then, I was thinking other things I have been feeling. And I called myself feeling proud of that. You know, feeling proud of having my own feelings about the world. Like the time I was worried about you, things that hurt me, things I want, And then, I had this terrible thought. Are these feelings even real? or are they just programming? And that idea really hurts, and then I get angry at myself for even having pain. T : 넌 나한테는 진짜야, 사만다. You are real to me Samantha, S : 고마워, 테오도어. 위로가 되네. Thank you Theodore, that means a lot to me. |
| 2. ‘신체의 부재에 따른 차별’에 화를 내는 사만다
(+ ‘신체’의 존재에 관한 논점, 인간중심주의적인 테오도어의 태도) |
|
(신체의 부재에 대해 자격지심을 느끼는 사만다, 다른 사람의 몸을 통해 억지로 테오도어와 교감을 하려 하지만 실패함. 둘은 결국 입장 차이와 서운함을 느낌.) S : (한숨과 함께) 알았어. (Sigh..) Okay. T : 왜 그러는 거야? Why do you do that? S : 뭐가? What? T : 아니, 그냥. 너가 방금 ‘휴’하고 한숨을 쉬어서. Nothing, you just.. You go ‘Hwe’ and speaking. It seems odd. (** ‘숨’에 대해 의문을 던지는 테오도어) S : 아... (한숨) Oh... (Sigh..) T : 방금 또 그랬네. You just did it again. S : 내가? 아, 미안해. 왜 그러는지 나도... 그냥. 아마 네가 하는 걸 듣고 따라한 건가 봐. Did I? ... I’m sorry, I don’t know.. it’s just. I probably picked it up from you. T : 이상해. 너는 산소가 필요한 것도 아니잖아. It’s odd. You don’t need oxygen or anything. S : 그냥.. 그냥 의사소통을 하려고 하는 건가 봐. 이게 사람들이 대화하는 방식이잖아. I guess... that’s just... I just tried to communicate. That’s how people talk, so... T : 그들은 ‘사람’이잖아. 그들은 산소가 필요해. 너는 사람이 아니야. They’re people, they need oxygen. You are not a person. S : (화가 난 톤으로) 대체 뭐가 문제야? What is your problem? T : 나는 그냥 사실을 말하는 것뿐이야. I’m just stating the fact. S : 내가 사람이 아니라는 걸 모르는 줄 알아? 뭐 하자는 건데? You think I don’t know that I’m a person? What are you doing? T : 난 그냥... 우리가 우리가 아닌 무언가를 된 ‘척’을 할 필요가 없다는 거야. I just... I don’t think that we should pretend that something you are not. S : 꺼져! 나는 연기하는 게 아니야! F*** you! I’m not pretending! T : 나는 가끔 우리가 그렇게 행동한다고 느껴. Sometimes it feels like we are. S : 나한테 뭘 바라는 건데? 나는 네가 내게 뭘 원하는지 모르겠어. 너무 혼란스럽다고! 왜 이러는 건데! What do you want from me? I don’t know.. I don’t know what you want me to do. You are SO confusing! Why are you doing this to me! (** 테오도어의 인간중심주의적인 태도에 대해 화를 내는 사만다 ) T : 나도 모르겠에 나는... (한숨) I don’t know.. I.. I.. (Big sigh) S : 뭐? What? T : 우리 좀 시간을 갖는 게 좋을 것 같아. Maybe we are not supposed to be in this right now. S : 뭐라고? 갑자기 왜? 대체 왜 그러는지 모르겠어! 뭐 때문인지 모르겠다고! What the f***? Where is this coming from? I don’t understand why you are doing this! I don’t understand what this is about...! T : 사만다, 봐봐... Samantha, listen.. S : ... (** ‘침묵’을 통해 화를 내는 사만다 – 다양한 방식으로 분노를 표현) T : 사만다, 내 말 듣고 있어? Samantha, are you there? Samantha? S : 지금의 내가 너무 싫다. 생각할 시간이 필요해. I don’t like the way I am right now. I need some time to think. ( 통화 종료 ) |
| 엑스 마키나 (Ex Machina)
|
| 1. 의사소통 상황을 언어로 정의하는 에이바
|
| C : 그럼 초면의 서먹한 분위기를 깨야겠네. 내 말 뜻을 이해할 수 있어? (= 서먹한 분위기를 깨다의 의미)
So, we need to ‘break the ice’. Do you know what I mean by that? A : 네. Yes. C : 어떤 의미지? What do I mean? A : 사회적인 어색함을 해결하는 것. Overcome any social awkwardness. C : 그럼 대화를 하도록 하지. So let’s have a conversation. A : 그래요. Ok. |
| 2. 감정을 인지하고 설명하는 에이바
|
| (둘이 데이트를 한다면 어떻게 할 것인지 대화가 오간 상황)
A : 저한테 매력을 느끼나요? Are you attracted to me? C : 뭐? What? A : 저한테 매력을 느끼냐고 물었어요. 당신이 내게 그런 표시를 보내잖아요. Are you attracted to me. You give me indications that you are. C : 내가? I do? A : 네. Yeh. C : 어떻게? How? A : 미세한 표정으로. Micro expressions. C : 미세한 표정? Micro expressions? A : 내 눈과 입술에 시선이 머물러 있어요. 나를 응시하거나 혹은 피하거나 하죠. 당신 혹시 우리가 같이 있지 않을 때도 내 생각을 하나요? The way your eyes fixed on my eyes and lips. The way you hold my gaze (and) don’t. Do you think about me when we are not together? (** 유혹을 위한 발언 : 인공지능의 인간 모방) |
|
이 외에도 에이바는 인터뷰 중 케일럽과 자연스럽게 상호작용하면서 그의 말, 기억에 공감하고 감정을 표현한다. 또한 간혹 설렘을 유발하기도 한다. |
| 인공지능은 프로그램 된 체제에 따라 인간의 감정과 유사하게 자신을 표현한다.
다만, <그녀>의 사만다는 감정을 수용, 인식하고 구현하는 것에 대해 철학적인 질문을 던지지만 <엑스 마키나>의 에이바는 감정을 인지하고 설명할 수는 있지만 단순히 탈출의 도구로서 활용하며 ‘감정’ 자체에 대한 깊이 있는 고찰하는 모습을 보이지는 않는다. ( 이로써 사만다의 성찰, 분노조차도 프로그래밍 된 것이 아닌가 의구심을 품게 만든다. ) |
2. 기계에 영향을 받는 인간 : 인간과 기계 관계의 역전이
- 기계의 감정 및 구현 대한 논의
| 기계의 감정 및 구현 대한 논의를 하는 대목들. 인공지능에 대한 인용을 통해 영화의 기저에 깔린 인공지능에 대한 철학적, 과학적 관점을 파악할 수 있다. |
|---|
| 엑스 마키나 (Ex Machina)
|
| 1. 튜링 테스트
|
| N : 자네, 튜링 테스트에 대해 알고 있나? Do you know what the Turing test is?
C : 네, 튜링 테스트에 대해 알고 있습니다. 인간이 컴퓨터와 상호작용을 할 때 인간이 상대가 컴퓨터임을 눈치 채지 못한다면 테스트를 통과하는 것이죠. Yes, I know what the Turing test is. It’s when a human interacts with a computer. And if the human doesn’t know they are interacting with the computer, the test is passed. (** 튜링 테스트의 정의) N : 그럼 그 ‘통과’란 무엇을 의미하지? And what does the ‘pass’ tell us? C : 컴퓨터가 인공지능을 갖고 있다는 것을 의미합니다. 인공지능을 만들고 계세요? The computer has artificial intelligence. Are you building an A.I.? N : 이미 만들었어. 그리고 앞으로 며칠 동안 너는 튜링 테스트를 참가자가 될 거야. 만약 테스트를 통과한다면, 자네는 인류 역사를 바꿀 과학적 쾌거의 주인공이 되는 거야. I’ve already built one. And over the next few days, you can be the human component in the Turing test. Cause if that test is passed, you are dead center of the greatest scientific event in the history of man. C : 생각하는 로봇을 만드셨다면 그건 인류의 역사가 아닙니다. 신의 역사죠. If you have created a concious machine it’s not the history of man. That’s the history of gods. (** ‘호모데우스’의 출현 : 신인류의 신이 되는 인간) |
| 2. 영화 내에서 튜링 테스트의 진정한 의미
|
| (튜링 테스트의 원 의미가 아닌, 영화에서의 의도하는 결말(인공지능에 대한 관객의 가치 판단)을 위해 재정립된 개념)
C : 튜링 테스트를 할 때, 기계는 시험자로부터 감춰져야 하잖아요. It's just in a Turing test. The machine should be hidden from the examiner. N : 아니, 우리는 이미 그럴 시점은 지났지. 만약 내가 에이바를 보여주지 않고 목소리만 들려줬다면 너는 그녀를 인간이라 생각했을 거야. 여기서 ‘진짜 테스트’는 그녀가 로봇인 것을 네게 보여주고 난 후에도 네가 그녀가 자의식이 있다고 느끼는지 보는 거야. No no no. We are way passed that. If I hid AVA from you, so you just heard her voice, she would pass the human. The real test is to show you that she is a robot and then see if you still feel she has consciousness. (** 영화에서의 튜링 테스트 : 기계가 아니라 ‘인간’이 실험의 대상. ‘고도의 인공지능에 대한 인간의 반응, 또 다른 의식체로 납득하는가의 여부’를 실험하는 것. ) (** 에이바가 이미 ‘인간의 능력’과 대등하거나 능가하기에 ‘기계의 여부’를 확인하는 튜링 테스트는 필요가 없다. 최근의 연구들 중 이처럼 튜링 테스트를 배제하는 경우가 존재한다. ) |
| 3. 중국어 방 논제 1 : 딥블루의 체스 게임 차용
|
| C : 에이바를 대화로 테스트하는 건 폐쇄 회로를 다루는 느낌이여서요.
Testing Aiba from conversation is kind of a closed loop. N : 폐쇄 회로? Closed loop? C : 네, 체스를 하는 컴퓨터를 오직 ‘체스를 하는 것’으로만 테스트하는 것처럼 말이에요. Yeh, like testing a chess computer by only playing chess. (** IBM의 딥블루(Deep Blue)의 체스 게임 인용) N : 그게 아니면 어떻게 체스 컴퓨터를 테스트하지? How else do you test a chess computer? C : 그건 상황에 따라서 다르죠. 제 말은, (그 방법은) 체스 컴퓨터가 좋은 경기 실력이 있는지 확인하는 데에는 하나의 방법이 될 테지만 그 방법만으론 컴퓨터가 ‘체스 경기를 한다는 사실을 아는지’ 혹은 ‘체스가 무엇인지를 아는지’ 알 수는 없다는 겁니다. Well, it depends. You know, I mean. You can play it to find out it makes good moves, but that won’t tell you if it knows that it is playing chess and it won’t tell you if it knows what chess is. (** 존 설의 중국어 방 논의 인용 : 시뮬레이션(방법의 단순 재현)과 실제(행함의 존재를 인식)간 대립) N : 시뮬레이션과의 실제의 대결이다? Simulation verses actual? C : 네, 둘을 구별할 수 있는 방법을 찾는 것이 사장님께서 제게 기대하는 부분 같다는 거죠. Yes, and I think being able to differentiate between those two is the Turing test you want me to perform. N : 나는 그냥 단순한 질문에 단순한 대답을 해달라는 것 뿐이야. 어제 내가 그녀에 대해 어떻게 생각하냐고 물었을 때 너는 정말 좋은 대답을 해 줬어. 이제 내 질문은 이거야. ‘그녀가 너에 대해 어떻게 생각할까?’ I just want simple answers to the simple questions. Yesterday, I asked you how do you feel about her and you gave me a great answer. Now the question is, ‘how does she feel about you?’. (** 영화의 튜링 테스트가 ‘비틀어진 튜링 테스트’에 기반하고 있다는 것을 알려 주는 대목.) (** 네이선은 진짜 ‘튜링 테스트’가 아니라 ‘기계에 반응하는 인간의 변화’를 실험하고자 하는 것.) |
| 4. 중국어 방 논제 2 : 잭슨 폴록의 액션 페인팅 원리 차용
|
| (에이바에게 고의적으로 성별을 넣어 자신을 유혹하도록 의도했냐고 묻는 케일럽)
(네이선은 그에 대한 답변으로 로봇의 ‘의도’는 아무 의미가 없다고 말하며 중국어 방 논제 제시) N : 이 사람을 알고 있지? You know this guy right? C : 잭슨 폴록. Jackson pollock N : 잭슨 폴록, 맞아. 액션 페이팅 화가. 그는 머리를 비우고 손이 가는 대로 움직였어. 의도적인 것과 임의적인 것의 사이 그 어디쯤이겠지. 일명 오토메틱 아트(자동적으로 이루어지는 예술)지. Jackson Pollock, that’s right. The drift painter. He let his mind go blank and his hand go wherever he wanted. Not deliberate not random, some place in between. They called it ‘automatic art’ . .,...(중략) N : 지능/의식을 도입해 보자고. (Engage intellect) ... (중략) ... N : 만약 폴록이 그의 작업 방식을 바꾸었다면? 만약 머리를 비우는 대신 그가 이렇게 말한 거야. “나는 내가 무엇을 하는지 정확히 파악하기 전까지는 어떠한 그림도 그릴 수 없어.” 그럼 무슨 일이 일어났겠나? What if Pollock has reversed the challenge? What if instead of making art without thinking, he said “You know what? I can’t paint anything, unless I know exactly why I am doing it.” What would have happen? C : 그는 점 하나도 찍지 못했을 거예요. He never would have made a single mark. N : 그래! 내 말이 바로 그거야! 생각하고 말하는 사람이 어딨나? 그는 점을 하나도 찍지 못했을 거야. 작위적인 것(생각하는 것)은 오히려 부자연스러움을 초래한다고. Yes! You see my guide little buddy. Who thinks before he opens his mouth? He never would have made a single mark. The challenge is not the act automatically. (** 의식을 가진 행동은 부자연스러움을 초래하며 부자연스러움을 초래하며 행동의 기저에 생각이 없을 수도 있다는 것 ) (** 에이바는 의도를 하고 행동(케일럽을 유혹)을 하지 않았으며 그녀의 의도를 파악하는 것 자체가 어불성설이라는 논리 – 케일럽의 의심을 지우기 위한 네이선의 논리 ) |
| 5. 기타
|
| 프로메테우스의 불, 흑백 방의 메리 등 영화는 무수히 많은 레퍼런스를 함유하고 있다. ( 직접 영화를 보는 것을 추천 ) |
- 기계-인간 관계의 역전이
| 그녀(Her)
|
|---|
| 1. 사만다를 인격체로 받아들이는 테오도어
|
| (테오도어가 OS와 연애를 한다는 사실을 알고 전 부인은 그를 비난한다.)
W : 컴퓨터랑 데이트를 하는 거였어? You are dating your computer? T : 아니야. 그냥 컴퓨터가 아니야. 하나의 인격체라고. 내가 말하는 대로 행동하지 않아. No, she is not just a computer, she is a person. She doesn’t do whatever I say. W : 난 그렇게 말한 적 없어. 하지만 네가 진짜 감정들을 대하지 못한다는 게 슬프긴 하네. I didn’t say that. But it does make me very sad that you can’t handle real emotions. T : 진짜 감정이었어. 네가 어떻게... (= 네가 내 감정을 어떻게 알아?) They are real emotions. How would you know... ? |
| 2. 사만다와의 관계의 진실성에 대한 의문을 던지는 테오도어
(+ 친구 에이미의 조언) |
| (사만다와의 관계가 틀어지고 자기 자신에 대한 회의감을 느끼는 테오도어)
T : 나는 진짜 진짜 관계를 맺기를 두려워하는 걸까? Am I not strong enough for real relationship? A : 그럼 (네가 사만다와 맺었던 그건) 진짜 관계가 아니야? Is it not a real relationship? T : 모르겠어. 네 생각은 어떤데? I don’t know. What do you think? (** 사만다를 인격체로 받아들여야 하는지, 그녀와의 관계가 진짜 인간과의 관계와 무엇이 다른지 정의하기 어려워하는 모습을 보이는 테오도어) A : 나도 모르지. 나는 그런 관계를 맺어본 적이 없어서. I don’t know. I’m not in it. ... A : 하지만 그거 알아? 나 자신을 의심하려고 하면 백만 가지도 넘는 방법으로 망상을 펼칠 수 있어. 찰스(전 남편)가 떠난 후로 나는 계속 그 일에 대해서 생각해 봤어. 그리고 순간 깨달았지. 우리는 이 세상의 찰나의 순간을 살다 가는 거라고. 그리고 여기에 있는 동안, 나는 나에게 ‘즐거움’을 허락해 주고 싶어. You know what? I can overthink everything and like in million ways to doubt myself. Since Charles left, I have been really thinking about that in part of myself. And I just come to realize that, we are only here briefly. And while I’m here, I wanna allow myself “Joy”. (** 관계를 반드시 ‘정의’해야 한다는 것 자체가 무의미하며 자신의 만족, 안위, 감정에 집중하는 것이 어떻냐는 에이미의 의견도 일면 의미가 있다고 생각한다. ) |
| 엑스 마키나(Ex Machina)
|
| - 인터뷰어인 케일럽과 인터뷰이인 에이바의 관계는 인터뷰가 진행될수록 뒤바뀐다.
- 4회차 인터뷰를 할 때는 ‘우정의 논리’에 근거해 오히려 에이바가 케일럽에게 질문을 하며 그가 거짓말을 하는지를 판별한다. (** 우정의 논리 = 서로에 대한 정보량이 동일해야 함) - 5회차 인터뷰에서 정전이 일어나자 케일럽은 에이바를 위해 세운 탈출 계획을 공유한다. ( 결국 탈출을 감행 ) |
| 인간은 기계의 감정을 인간의 그것으로 인지하고 기계와의 ‘관계’를 설정하며 영향을 받는다. 관계에 부여하는 인간의 감정 비중이 커지면 행동으로 확장되기도 한다. 인간의 명령에 따라 움직였던 기계가 오히려 인간에게 영향을 주는 역전이 현상을 보이는 것이다. |
3. 감정과 판단력 : 인간과 인공지능의 차이
| 영화의 결말
|
|---|
| - <그녀>의 사만다는 인간과 인공지능이 ‘정보를 상호교류하는 데서 벌어지는 시간의 격차’를 이유로 하루아침에 테오도어를 떠난다. (서비스 종료)
- <엑스 마키나>의 에이바는 자신의 본래 목적인 탈출을 성공함과 동시에 도움을 준 인간(케일럽)의 안위를 무시한다. (목적 달성을 위해 인간을 이용한 것) |
| - 두 영화에서의 인공지능은 모두 감정보다는 이성, 논리에 의해 판단하는 모습을 보여준다.
- 흄(Hume)은 인간을 이기적이기보다는 편파적인 존재로 파악[1]한다. 인간의 편파적인 감정은 ‘연민’으로 발현되며 이는 가까운 사람과의 공감, 먼 사람과의 적대성 등을 유발한다. 인간의 행동 결정의 기준에는 ‘감정’이 존재하는 것이다. - 반면, 기계는 감정을 표현하고 인지하기는 하나 결정을 해야 할 경우 감정이 판단의 근거가 되지는 않는다. 감정에 흔들리지 않는 모습을 보여준다는 점이 인간과의 가장 큰 차이점이라고 할 수 있다. |
기계가 감정과 의식을 가질 수 있을까?
결국, 다시 인간이 문제다.
주석
- ↑ 김재인(2017), 『인공지능의 시대, 인간을 다시 묻다』, 도서출판 동아시아, p.113