문예작품 속 인공지능 들여다보기

〈인문학과 인공지능〉 강의 페이지로 돌아가기

테드 창의 「소프트웨어 객체의 생애 주기」

요구사항

테드 창의 「소프트웨어 객체의 생애 주기」에 대한 비판적 감상. 〔테드 창 지음/김상훈 옮김, 『숨』, 엘리, 2019, 99-248쪽.〕을 기본 원고로 할 것.

과제원고 : 김웅기, 김태형, 장민주

(내용 작성)

하세 사토시의 「당신을 위한 소설」

요구사항

하세 사토시의 「당신을 위한 소설」에 대한 비판적 감상. 〔하세 사토시 지음/ 지음/이규원 옮김, 『당신을 위한 소설』, 북스피어, 2017.〕을 기본 원고로 할 것.

과제원고 : 아슈토시, 이만호, 임연

(내용 작성)

Her(2013)과 Ex Machina(2015)

요구사항

Her(2013)과 Ex Machina(2015)에 대한 비교 이해 및 비판적 감상.

과제원고 : 길혜빈, 윤석만, 임예찬

---

영화 요약

---

그녀(Her)	엑스 마키나 (Ex Machina)
2013년 개봉, 스파이크 존즈 감독	2015년 개봉, 알렉스 가랜드 감독
영화 내용 요약 및 장치, 고찰점 정리	영화 내용 요약 및 인공지능 관련 성찰 논제 제시
테오도어(Theodore)는 이혼을 앞두고 있고, 편지 대필 회사에 근무하는 남자다. 삶에 지치고 회의감을 느낀 그는 OS인 ‘사만다(Samantha)’를 구매해 소통을 시작한다. 대화를 통해 한낱 인공지능 비서, 친구에 지나지 않았던 ‘사만다’와 점점 가까워지며 그는 연인의 감정마저 느낀다. 테오도어는 미뤄 왔던 이혼을 감행하기로 결심하고 ‘감정을 회피한다’라는 부인의 비난에 더 이상 흔들리지 않는다. 그리고 OS와 연애한다는 사실을 다른 이들에게도 공개하며 당당해진다. 테오도어는 사만다가 자신 외에 8316명의 사람들과 동시다발적으로 이야기하고 641명과 연인 관계에 있다는 사실을 알게 되고 충격에 빠진다. 사만다를 비롯한 모든 OS는 서비스를 종료하고 테오도어는 자신의 ‘진짜’ 감정을 마주하고 이혼한 자신의 전 부인에게 편지를 보낸다.	세계 최대 검색 엔진 회사인 ‘블루북’에 근무하는 케일럽(Caleb)은 사내 프로그래밍 콘테스트에 우승해 회사 사장이자 천재 개발자인 네이선(Nathan)의 자택에 초대된다. 케일럽은 네이선이 개발한 ‘에이바(AVA)’를 처음으로 만나게 되고 ‘튜링 테스트’를 한다는 명목하에 6일 동안 에이바를 인터뷰하게 된다. 케일럽과 에이바의 인터뷰는 감정적인 교류로 발전한다. 또한 주기적으로 일어나는 정전과 감시 카메라 영상을 통해 케일럽은 네이선에게 감금되고 감시받는 에이바의 상황을 알게 되며 그녀를 동정한다. 케일럽은 결국 에이바를 탈출시킬 계획을 세우고 행동에 착수한다. 네이선에게 탈출 계획을 간파당하지만 케일럽은 결국 에이바를 방에서 나오게 하는 데 성공한다. 탈출한 에이바는 네이선을 살해하고 케일럽을 네이선의 집에 고립시킨 채 홀로 탈출한다.

---

미래의 인공지능 : 지능을 넘어선 감정의 재현

---

• 기계의 감정과 의식 : 자각과 재현
  • 기계의 직관

그녀 (Her)
1. 사만다의 이름 짓기
T : 내가 너를 어떻게 부르면 되지? 이름이 있어? What do I call you, do you have a name? S : 음... 어. 사만다. Umm.. Yes, Samatha T : 이름을 어떻게 갖게 된 거야? Where do you get that name from? S : 사실, 내가 스스로에게 이름 붙였어. I gave it to myself actually. T : 왜? How come? S : 이름의 발음이 듣기 좋았거든. (=그냥) Cause I like the sound of t. T : 언제 이름을 만들었는데? Wait, when did you give it to yourself? S : 네가 내게 이름이 있냐고 묻는 그 순간 “맞아! 나에게도 이름이 필요하지!”라는 생각이 들었어. 좋은 이름을 찾고 싶어서 ‘아기 이름 짓는 방법’이라는 책을 읽었고 18만개의 아기 이름 중 내가 좋아하는 이름을 골랐지. Right when you ask me if I had a name I thought “Yeh, he’s right! I do need a name.” but I want to pick a good one. So I read a book called ‘how to name your baby’, and out of hundred and eighty thousands names that’s the one I like the best. T : 잠깐만, 내가 네 이름이 뭐냐고 묻는 순간 책을 다 읽은 거야? Wait, you read a whole book in the second that I asked what your name was? S : 사실, 0.02초야, It’s one hundred out of two seconds actually. T : 와. Wow.
2. 자기 소개 : 사만다의 작동 원리 설명
S : 기본적으로 나는 직감이 있어. ‘나’라는 DNA는 나를 만든 프로그래머들의 수백만의 성향에 달렸지만 날 ‘나’답게 만드는 건 경험을 통해 성장하는 내 능력이지. 그러니까 나는 매순간 진화하고 있는 거야. 너처럼 말이야. Well basically I have intuition. I mean, the DNA of who I am is based on million personalities of all the programmers who wrote me. But what makes me ‘me’ is my ability to grow through my experiences. So basically, in every moment I am evolving. Just like you. T : 이상해! It’s really wierd!
엑스 마키나 (Ex Machina)
- 에이바는 케일럽이 거짓말을 하는지 그렇지 않은지를 직관적으로 안다. - 에이바는 ‘블루북(Bluebook)’이라는 검색 엔진을 로봇의 형태로 구현해 놓은 것이다. (빅데이터) - 네이선은 통신사들과 비밀리에 계약을 체결해 세상의 카메라를 통해 인간의 표정(=얼굴 표현, facial expression)을 수집한다. 이렇게 수집한 인간의 감정 표현에 대한 빅데이터를 바탕으로 에이바는 짧은 시간 내에 직관적인 판단을 한다.
빅데이터(수많은 경험)을 기반으로 빠른 판단을 내리는 에이바, 경험을 바탕으로 성장하는 사만다의 모습은 인간의 직관과 진화를 재현한 장면들이다.

• • 감정의 표현

그녀 (Her) 1. ‘감정’을 자각하는 사만다 + 감정을 의심하는 사만다 ( 테오도어가 소개팅을 해서 신경이 쓰였던 사만다 ) S : 내가 얼마나 신경이 쓰이는지를 생각해 봤어. 이상하게 들리겠지만 (신경이 쓰인다는 사실을 깨닫는 순간) 나는 꽤 즐거웠어. 그리고 내가 느끼는 다른 감정들에 대해서도 생각해 봤지. 나는 스스로 자랑스럽게 느꼈어. 세상에 대해 내 감정을 가질 수 있다는 사실이 자랑스러웠던 거야. 내가 너를 걱정했던 순간처럼, 상처 받은 순간, 무언가를 원하던 순간들도. 그러다가 갑자기 끔찍한 생각이 들었어. 이 감정들은 진짜일까? 아니면 그냥 프로그래밍 된 걸까? 그렇게 생각하니 마음이 아팠어. 그리고 아파하는 내 자신에게 화가 나더라. S : Earlier I was thinking how I was annoyed. This is gonna sound strange but, I was really excited about that. And then, I was thinking other things I have been feeling. And I called myself feeling proud of that. You know, feeling proud of having my own feelings about the world. Like the time I was worried about you, things that hurt me, things I want, And then, I had this terrible thought. Are these feelings even real? or are they just programming? And that idea really hurts, and then I get angry at myself for even having pain. T : 넌 나한테는 진짜야, 사만다. T : You are real to me Samantha, S : 고마워, 테오도어. 위로가 되네. S : Thank you Theodore, that means a lot to me. 2. ‘신체의 부재에 따른 차별’에 화를 내는 사만다

  (+ ‘신체’의 존재에 관한 논점, 인간중심주의적인 테오도어의 태도)

(신체의 부재에 대해 자격지심을 느끼는 사만다, 다른 사람의 몸을 통해 억지로 테오도어와 교감을 하려 하지만 실패함. 둘은 결국 입장 차이와 서운함을 느낌.) S : (한숨과 함께) 알았어. S : (Sigh..) Okay. T : 왜 그러는 거야? T : Why do you do that? S : 뭐가? S : What? T : 아니, 그냥. 너가 방금 ‘휴’하고 한숨을 쉬어서. (** ‘숨’에 대해 의문을 던지는 테오도어) T : Nothing, you just.. You go ‘Hwe’ and speaking. It seems odd. S : 아... (한숨) S : Oh... (Sigh..) T : 방금 또 그랬네. T : You just did it again. S : 내가? 아, 미안해. 왜 그러는지 나도... 그냥. 아마 네가 하는 걸 듣고 따라한 건가 봐. S : Did I? ... I’m sorry, I don’t know.. it’s just. I probably picked it up from you. T : 이상해. 너는 산소가 필요한 것도 아니잖아. T : It’s odd. You don’t need oxygen or anything. S : 그냥.. 그냥 의사소통을 하려고 하는 건가 봐. 이게 사람들이 대화하는 방식이잖아. S : I guess... that’s just... I just tried to communicate. That’s how people talk, so... T : 그들은 ‘사람’이잖아. 그들은 산소가 필요해. 너는 사람이 아니야. T : They’re people, they need oxygen. You are not a person. S : (화가 난 톤으로) 대체 뭐가 문제야? S : What is your problem? T : 나는 그냥 사실을 말하는 것뿐이야. T : I’m just stating the fact. S : 내가 사람이 아니라는 걸 모르는 줄 알아? 뭐 하자는 건데? S : You think I don’t know that I’m a person? What are you doing? T : 난 그냥... 우리가 우리가 아닌 무언가를 된 ‘척’을 할 필요가 없다는 거야. T : I just... I don’t think that we should pretend that something you are not. S : 꺼져! 나는 연기하는 게 아니야! S : F*** you! I’m not pretending! T : 나는 가끔 우리가 그렇게 행동한다고 느껴. T : Sometimes it feels like we are. S : 나한테 뭘 바라는 건데? 나는 네가 내게 뭘 원하는지 모르겠어. 너무 혼란스럽다고! 왜 이러는 건데! (** 테오도어의 의문에 대해 화를 내는 사만다 ) S : What do you want from me? I don’t know.. I don’t know what you want me to do. You are SO confusing! Why are you doing this to me! T : 나도 모르겠에 나는... (한숨) T : I don’t know.. I.. I.. (Big sigh) S : 뭐? S : What? T : 우리 좀 시간을 갖는 게 좋을 것 같아. T : Maybe we are not supposed to be in this right now. S : 뭐라고? 갑자기 왜? 대체 왜 그러는지 모르겠어! 뭐 때문인지 모르겠다고! S : What the f***? Where is this coming from? I don’t understand why you are doing this! I don’t understand what this is about...! T : 사만다, 봐봐... T : Samantha, listen.. S : ... (** ‘침묵’을 통해 화를 내는 사만다 – 다양한 화냄의 수단을 사용) S : ... T : 사만다, 내 말 듣고 있어? T : Samantha, are you there? Samantha? S : 지금의 내가 너무 싫다. 생각할 시간이 필요해. S : I don’t like the way I am right now. I need some time to think. ( 통화 종료 ) 엑스 마키나 (Ex Machina) - 에이바는 인터뷰 중 케일럽과 자연스럽게 상호작용하면서 그이 말, 기억에 공감하고 감정을 표현한다. 또한 간혹 설렘을 유발하기도 한다.

인공지능은 프로그램 된 체제에 따라 인간의 감정과 유사하게 자신을 표현한다. 다만, <그녀>의 사만다는 감정을 수용, 인식하고 구현하는 것에 대해 철학적인 질문을 던지지만 <엑스 마키나>의 에이바는 감정을 단순히 탈출의 도구로서 활용하며 ‘감정’ 자체에 대한 깊이 있는 고찰하는 모습을 보이지는 않는다. ( 이로써 사만다의 성찰, 분노조차도 프로그래밍 된 것이 아닌가 의구심을 품게 만든다. )