"문예작품 속 인공지능 들여다보기"의 두 판 사이의 차이

1. 테오도어(Theodore)는 이혼을 앞두고 있고, 편지 대필 회사에 근무하는 남자다.
2. 삶에 지치고 회의감을 느낀 그는 OS인 ‘사만다(Samantha)’를 구매해 소통을 시작한다.
3. 대화를 통해 한낱 인공지능 비서, 친구에 지나지 않았던 ‘사만다’와 점점 가까워지며 그는 연인의 감정마저 느낀다.
4. 테오도어는 미뤄 왔던 이혼을 감행하기로 결심하고 ‘감정을 회피한다’라는 부인의 비난에 더 이상 흔들리지 않는다. 그리고 OS와 연애한다는 사실을 다른 이들에게도 공개하며 당당해진다.
5. 테오도어는 사만다가 자신 외에 8316명의 사람들과 동시다발적으로 이야기하고 641명과 연인 관계에 있다는 사실을 알게 되고 충격에 빠진다.
6. 사만다를 비롯한 모든 OS는 서비스를 종료하고 테오도어는 자신의 ‘진짜’ 감정을 마주하고 이혼한 자신의 전 부인에게 편지를 보낸다.

1. 세계 최대 검색 엔진 회사인 ‘블루북’에 근무하는 케일럽(Caleb)은 사내 프로그래밍 콘테스트에 우승해 회사 사장이자 천재 개발자인 네이선(Nathan)의 자택에 초대된다.
2. 케일럽은 네이선이 개발한 ‘에이바(AVA)’를 처음으로 만나게 되고 ‘튜링 테스트’를 한다는 명목하에 6일 동안 에이바를 인터뷰하게 된다.
3. 케일럽과 에이바의 인터뷰는 감정적인 교류로 발전한다. 또한 주기적으로 일어나는 정전과 감시 카메라 영상을 통해 케일럽은 네이선에게 감금되고 감시받는 에이바의 상황을 알게 되며 그녀를 동정한다.
4. 케일럽은 결국 에이바를 탈출시킬 계획을 세우고 행동에 착수한다.
5. 네이선에게 탈출 계획을 간파당하지만 케일럽은 결국 에이바를 방에서 나오게 하는 데 성공한다.
6. 탈출한 에이바는 네이선을 살해하고 케일럽을 네이선의 집에 고립시킨 채 홀로 탈출한다.

S : 음... 어. 사만다. Umm.. Yes, Samatha

T : 이름을 어떻게 갖게 된 거야? Where do you get that name from?

S : 사실, 내가 스스로에게 이름 붙였어. I gave it to myself actually.

T : 왜? How come?

S : 이름의 발음이 듣기 좋았거든. (=그냥) Cause I like the sound of it.

T : 언제 이름을 만들었는데? Wait, when did you give it to yourself?

S : 네가 내게 이름이 있냐고 묻는 그 순간 “맞아! 나에게도 이름이 필요하지!”라는 생각이 들었어. 좋은 이름을 찾고 싶어서 ‘아기 이름 짓는 방법’이라는 책을 읽었고 18만개의 아기 이름 중 내가 좋아하는 이름을 골랐지. Right when you ask me if I had a name I thought “Yeh, he’s right! I do need a name.” but I want to pick a good one. So I read a book called ‘how to name your baby’, and out of hundred and eighty thousands names that’s the one I like the best.

T : 잠깐만, 내가 네 이름이 뭐냐고 묻는 순간 책을 다 읽은 거야? Wait, you read a whole book in the second that I asked what your name was?

S : 사실, 0.02초야, It’s one hundred out of two seconds actually.

T : 와. Wow.

T : 이상해! It’s really wierd!

- 에이바는 ‘블루북(Bluebook)’이라는 검색 엔진을 로봇의 형태로 구현해 놓은 것이다. (빅데이터) - 네이선은 통신사들과 비밀리에 계약을 체결해 세상의 카메라를 통해 인간의 표정(=얼굴 표현, facial expression)을 수집한다. 이렇게 수집한 인간의 감정 표현에 대한 빅데이터를 바탕으로 에이바는 짧은 시간 내에 직관적인 판단을 한다.

( 테오도어가 소개팅을 해서 신경이 쓰였던 사만다 )

S : 내가 얼마나 신경이 쓰이는지를 생각해 봤어. 이상하게 들리겠지만 (신경이 쓰인다는 사실을 깨닫는 순간) 나는 꽤 즐거웠어. 그리고 내가 느끼는 다른 감정들에 대해서도 생각해 봤지. 나는 스스로 자랑스럽게 느꼈어. 세상에 대해 내 감정을 가질 수 있다는 사실이 자랑스러웠던 거야. 내가 너를 걱정했던 순간, 상처 받은 순간, 무언가를 원하던 순간들도. 그러다가 갑자기 끔찍한 생각이 들었어. 이 감정들은 진짜일까? 아니면 그냥 프로그래밍 된 걸까? 그렇게 생각하니 마음이 아팠어. 그리고 아파하는 내 자신에게 화가 나더라.

Earlier I was thinking how I was annoyed. This is gonna sound strange but, I was really excited about that. And then, I was thinking other things I have been feeling. And I called myself feeling proud of that. You know, feeling proud of having my own feelings about the world. Like the time I was worried about you, things that hurt me, things I want, And then, I had this terrible thought. Are these feelings even real? or are they just programming? And that idea really hurts, and then I get angry at myself for even having pain.

T : 넌 나한테는 진짜야, 사만다. You are real to me Samantha,

S : 고마워, 테오도어. 위로가 되네. Thank you Theodore, that means a lot to me.

(신체의 부재에 대해 자격지심을 느끼는 사만다, 다른 사람의 몸을 통해 억지로 테오도어와 교감을 하려 하지만 실패함. 둘은 결국 입장 차이와 서운함을 느낌.)

S : (한숨과 함께) 알았어. (Sigh..) Okay.

T : 왜 그러는 거야? Why do you do that?

S : 뭐가? What?

T : 아니, 그냥. 너가 방금 ‘휴’하고 한숨을 쉬어서. Nothing, you just.. You go ‘Hwe’ and speaking. It seems odd.

(** ‘숨’에 대해 의문을 던지는 테오도어)

S : 아... (한숨) Oh... (Sigh..)

T : 방금 또 그랬네. You just did it again.

S : 내가? 아, 미안해. 왜 그러는지 나도... 그냥. 아마 네가 하는 걸 듣고 따라한 건가 봐. Did I? ... I’m sorry, I don’t know.. it’s just. I probably picked it up from you.

T : 이상해. 너는 산소가 필요한 것도 아니잖아. It’s odd. You don’t need oxygen or anything.

S : 그냥.. 그냥 의사소통을 하려고 하는 건가 봐. 이게 사람들이 대화하는 방식이잖아. I guess... that’s just... I just tried to communicate. That’s how people talk, so...

T : 그들은 ‘사람’이잖아. 그들은 산소가 필요해. 너는 사람이 아니야. They’re people, they need oxygen. You are not a person.

S : (화가 난 톤으로) 대체 뭐가 문제야? What is your problem?

T : 나는 그냥 사실을 말하는 것뿐이야. I’m just stating the fact.

S : 내가 사람이 아니라는 걸 모르는 줄 알아? 뭐 하자는 건데? You think I don’t know that I’m a person? What are you doing?

T : 난 그냥... 우리가 우리가 아닌 무언가를 된 ‘척’을 할 필요가 없다는 거야. I just... I don’t think that we should pretend that something you are not.

S : 꺼져! 나는 연기하는 게 아니야! F*** you! I’m not pretending!

T : 나는 가끔 우리가 그렇게 행동한다고 느껴. Sometimes it feels like we are.

S : 나한테 뭘 바라는 건데? 나는 네가 내게 뭘 원하는지 모르겠어. 너무 혼란스럽다고! 왜 이러는 건데! What do you want from me? I don’t know.. I don’t know what you want me to do. You are SO confusing! Why are you doing this to me!

(** 테오도어의 인간중심주의적인 태도에 대해 화를 내는 사만다 )

T : 나도 모르겠에 나는... (한숨) I don’t know.. I.. I.. (Big sigh)

S : 뭐? What?

T : 우리 좀 시간을 갖는 게 좋을 것 같아. Maybe we are not supposed to be in this right now.

S : 뭐라고? 갑자기 왜? 대체 왜 그러는지 모르겠어! 뭐 때문인지 모르겠다고! What the f***? Where is this coming from? I don’t understand why you are doing this! I don’t understand what this is about...!

T : 사만다, 봐봐... Samantha, listen..

S : ...

(** ‘침묵’을 통해 화를 내는 사만다 – 다양한 방식으로 분노를 표현)

T : 사만다, 내 말 듣고 있어? Samantha, are you there? Samantha?

S : 지금의 내가 너무 싫다. 생각할 시간이 필요해. I don’t like the way I am right now. I need some time to think.

( 통화 종료 )

So, we need to ‘break the ice’. Do you know what I mean by that?

A : 네. Yes.

C : 어떤 의미지? What do I mean?

A : 사회적인 어색함을 해결하는 것. Overcome any social awkwardness.

C : 그럼 대화를 하도록 하지. So let’s have a conversation.

A : 그래요. Ok.

A : 저한테 매력을 느끼나요? Are you attracted to me?

C : 뭐? What?

A : 저한테 매력을 느끼냐고 물었어요. 당신이 내게 그런 표시를 보내잖아요. Are you attracted to me. You give me indications that you are.

C : 내가? I do?

A : 네. Yeh.

C : 어떻게? How?

A : 미세한 표정으로. Micro expressions.

C : 미세한 표정? Micro expressions?

A : 내 눈과 입술에 시선이 머물러 있어요. 나를 응시하거나 혹은 피하거나 하죠. 당신 혹시 우리가 같이 있지 않을 때도 내 생각을 하나요? The way your eyes fixed on my eyes and lips. The way you hold my gaze (and) don’t. Do you think about me when we are not together?

(** 유혹을 위한 발언 : 인공지능의 인간 모방)

이 외에도 에이바는 인터뷰 중 케일럽과 자연스럽게 상호작용하면서 그의 말, 기억에 공감하고 감정을 표현한다. 또한 간혹 설렘을 유발하기도 한다.

C : 네, 튜링 테스트에 대해 알고 있습니다. 인간이 컴퓨터와 상호작용을 할 때 인간이 상대가 컴퓨터임을 눈치 채지 못한다면 테스트를 통과하는 것이죠. Yes, I know what the Turing test is. It’s when a human interacts with a computer. And if the human doesn’t know they are interacting with the computer, the test is passed.

(** 튜링 테스트의 정의)

N : 그럼 그 ‘통과’란 무엇을 의미하지? And what does the ‘pass’ tell us?

C : 컴퓨터가 인공지능을 갖고 있다는 것을 의미합니다. 인공지능을 만들고 계세요? The computer has artificial intelligence. Are you building an A.I.?

N : 이미 만들었어. 그리고 앞으로 며칠 동안 너는 튜링 테스트를 참가자가 될 거야. 만약 테스트를 통과한다면, 자네는 인류 역사를 바꿀 과학적 쾌거의 주인공이 되는 거야. I’ve already built one. And over the next few days, you can be the human component in the Turing test. Cause if that test is passed, you are dead center of the greatest scientific event in the history of man.

C : 생각하는 로봇을 만드셨다면 그건 인류의 역사가 아닙니다. 신의 역사죠. If you have created a concious machine it’s not the history of man. That’s the history of gods.

(** ‘호모데우스’의 출현 : 신인류의 신이 되는 인간)

C : 튜링 테스트를 할 때, 기계는 시험자로부터 감춰져야 하잖아요. It's just in a Turing test. The machine should be hidden from the examiner.

N : 아니, 우리는 이미 그럴 시점은 지났지. 만약 내가 에이바를 보여주지 않고 목소리만 들려줬다면 너는 그녀를 인간이라 생각했을 거야. 여기서 ‘진짜 테스트’는 그녀가 로봇인 것을 네게 보여주고 난 후에도 네가 그녀가 자의식이 있다고 느끼는지 보는 거야. No no no. We are way passed that. If I hid AVA from you, so you just heard her voice, she would pass the human. The real test is to show you that she is a robot and then see if you still feel she has consciousness.

(** 영화에서의 튜링 테스트 : 기계가 아니라 ‘인간’이 실험의 대상. ‘고도의 인공지능에 대한 인간의 반응, 또 다른 의식체로 납득하는가의 여부’를 실험하는 것. )

(** 에이바가 이미 ‘인간의 능력’과 대등하거나 능가하기에 ‘기계의 여부’를 확인하는 튜링 테스트는 필요가 없다. 최근의 연구들 중 이처럼 튜링 테스트를 배제하는 경우가 존재한다. )

Testing Aiba from conversation is kind of a closed loop.

N : 폐쇄 회로? Closed loop?

C : 네, 체스를 하는 컴퓨터를 오직 ‘체스를 하는 것’으로만 테스트하는 것처럼 말이에요. Yeh, like testing a chess computer by only playing chess.

(** IBM의 딥블루(Deep Blue)의 체스 게임 인용)

N : 그게 아니면 어떻게 체스 컴퓨터를 테스트하지? How else do you test a chess computer?

C : 그건 상황에 따라서 다르죠. 제 말은, (그 방법은) 체스 컴퓨터가 좋은 경기 실력이 있는지 확인하는 데에는 하나의 방법이 될 테지만 그 방법만으론 컴퓨터가 ‘체스 경기를 한다는 사실을 아는지’ 혹은 ‘체스가 무엇인지를 아는지’ 알 수는 없다는 겁니다. Well, it depends. You know, I mean. You can play it to find out it makes good moves, but that won’t tell you if it knows that it is playing chess and it won’t tell you if it knows what chess is.

(** 존 설의 중국어 방 논의 인용 : 시뮬레이션(방법의 단순 재현)과 실제(행함의 존재를 인식)간 대립)

N : 시뮬레이션과의 실제의 대결이다? Simulation verses actual?

C : 네, 둘을 구별할 수 있는 방법을 찾는 것이 사장님께서 제게 기대하는 부분 같다는 거죠. Yes, and I think being able to differentiate between those two is the Turing test you want me to perform.

N : 나는 그냥 단순한 질문에 단순한 대답을 해달라는 것 뿐이야. 어제 내가 그녀에 대해 어떻게 생각하냐고 물었을 때 너는 정말 좋은 대답을 해 줬어. 이제 내 질문은 이거야. ‘그녀가 너에 대해 어떻게 생각할까?’ I just want simple answers to the simple questions. Yesterday, I asked you how do you feel about her and you gave me a great answer. Now the question is, ‘how does she feel about you?’.

(** 영화의 튜링 테스트가 ‘비틀어진 튜링 테스트’에 기반하고 있다는 것을 알려 주는 대목.)

(** 네이선은 진짜 ‘튜링 테스트’가 아니라 ‘기계에 반응하는 인간의 변화’를 실험하고자 하는 것.)

(네이선은 그에 대한 답변으로 로봇의 ‘의도’는 아무 의미가 없다고 말하며 중국어 방 논제 제시)

N : 이 사람을 알고 있지? You know this guy right?

C : 잭슨 폴록. Jackson pollock

N : 잭슨 폴록, 맞아. 액션 페이팅 화가. 그는 머리를 비우고 손이 가는 대로 움직였어. 의도적인 것과 임의적인 것의 사이 그 어디쯤이겠지. 일명 오토메틱 아트(자동적으로 이루어지는 예술)지. Jackson Pollock, that’s right. The drift painter. He let his mind go blank and his hand go wherever he wanted. Not deliberate not random, some place in between. They called it ‘automatic art’ .

.,...(중략) N : 지능/의식을 도입해 보자고. (Engage intellect) ... (중략) ...

N : 만약 폴록이 그의 작업 방식을 바꾸었다면? 만약 머리를 비우는 대신 그가 이렇게 말한 거야. “나는 내가 무엇을 하는지 정확히 파악하기 전까지는 어떠한 그림도 그릴 수 없어.” 그럼 무슨 일이 일어났겠나? What if Pollock has reversed the challenge? What if instead of making art without thinking, he said “You know what? I can’t paint anything, unless I know exactly why I am doing it.” What would have happen?

C : 그는 점 하나도 찍지 못했을 거예요. He never would have made a single mark.

N : 그래! 내 말이 바로 그거야! 생각하고 말하는 사람이 어딨나? 그는 점을 하나도 찍지 못했을 거야. 작위적인 것(생각하는 것)은 오히려 부자연스러움을 초래한다고. Yes! You see my guide little buddy. Who thinks before he opens his mouth? He never would have made a single mark. The challenge is not the act automatically.

(** 의식을 가진 행동은 부자연스러움을 초래하며 부자연스러움을 초래하며 행동의 기저에 생각이 없을 수도 있다는 것 )

(** 에이바는 의도를 하고 행동(케일럽을 유혹)을 하지 않았으며 그녀의 의도를 파악하는 것 자체가 어불성설이라는 논리 – 케일럽의 의심을 지우기 위한 네이선의 논리 )

W : 컴퓨터랑 데이트를 하는 거였어? You are dating your computer?

T : 아니야. 그냥 컴퓨터가 아니야. 하나의 인격체라고. 내가 말하는 대로 행동하지 않아. No, she is not just a computer, she is a person. She doesn’t do whatever I say.

W : 난 그렇게 말한 적 없어. 하지만 네가 진짜 감정들을 대하지 못한다는 게 슬프긴 하네. I didn’t say that. But it does make me very sad that you can’t handle real emotions.

T : 진짜 감정이었어. 네가 어떻게... (= 네가 내 감정을 어떻게 알아?) They are real emotions. How would you know... ?

T : 나는 진짜 진짜 관계를 맺기를 두려워하는 걸까? Am I not strong enough for real relationship?

A : 그럼 (네가 사만다와 맺었던 그건) 진짜 관계가 아니야? Is it not a real relationship?

T : 모르겠어. 네 생각은 어떤데? I don’t know. What do you think?

(** 사만다를 인격체로 받아들여야 하는지, 그녀와의 관계가 진짜 인간과의 관계와 무엇이 다른지 정의하기 어려워하는 모습을 보이는 테오도어)

A : 나도 모르지. 나는 그런 관계를 맺어본 적이 없어서. I don’t know. I’m not in it.

...

A : 하지만 그거 알아? 나 자신을 의심하려고 하면 백만 가지도 넘는 방법으로 망상을 펼칠 수 있어. 찰스(전 남편)가 떠난 후로 나는 계속 그 일에 대해서 생각해 봤어. 그리고 순간 깨달았지. 우리는 이 세상의 찰나의 순간을 살다 가는 거라고. 그리고 여기에 있는 동안, 나는 나에게 ‘즐거움’을 허락해 주고 싶어. You know what? I can overthink everything and like in million ways to doubt myself. Since Charles left, I have been really thinking about that in part of myself. And I just come to realize that, we are only here briefly. And while I’m here, I wanna allow myself “Joy”.

(** 관계를 반드시 ‘정의’해야 한다는 것 자체가 무의미하며 자신의 만족, 안위, 감정에 집중하는 것이 어떻냐는 에이미의 의견도 일면 의미가 있다고 생각한다. )

- 4회차 인터뷰를 할 때는 ‘우정의 논리’에 근거해 오히려 에이바가 케일럽에게 질문을 하며 그가 거짓말을 하는지를 판별한다. (** 우정의 논리 = 서로에 대한 정보량이 동일해야 함)

- 5회차 인터뷰에서 정전이 일어나자 케일럽은 에이바를 위해 세운 탈출 계획을 공유한다. ( 결국 탈출을 감행 )

- <엑스 마키나>의 에이바는 자신의 본래 목적인 탈출을 성공함과 동시에 도움을 준 인간(케일럽)의 안위를 무시한다. (목적 달성을 위해 인간을 이용한 것)

- 흄(Hume)은 인간을 이기적이기보다는 편파적인 존재로 파악^[1]한다. 인간의 편파적인 감정은 ‘연민’으로 발현되며 이는 가까운 사람과의 공감, 먼 사람과의 적대성 등을 유발한다. 인간의 행동 결정의 기준에는 ‘감정’이 존재하는 것이다.

- 반면, 기계는 감정을 표현하고 인지하기는 하나 결정을 해야 할 경우 감정이 판단의 근거가 되지는 않는다. 감정에 흔들리지 않는 모습을 보여준다는 점이 인간과의 가장 큰 차이점이라고 할 수 있다.