문예작품 속 인공지능 들여다보기
red
목차
테드 창의 「소프트웨어 객체의 생애 주기」
요구사항
|
테드 창의 「소프트웨어 객체의 생애 주기」에 대한 비판적 감상. 〔테드 창 지음/김상훈 옮김, 『숨』, 엘리, 2019, 99-248쪽.〕을 기본 원고로 할 것. | 
|
과제원고 : 김웅기, 김태형, 장민주
(내용 작성)
하세 사토시의 「당신을 위한 소설」
요구사항
|
|
하세 사토시의 「당신을 위한 소설」에 대한 비판적 감상. 〔하세 사토시 지음/ 지음/이규원 옮김, 『당신을 위한 소설』, 북스피어, 2017.〕을 기본 원고로 할 것. |
|
과제원고 : 아슈토시, 이만호, 임연
(내용 작성)
Her(2013)과 Ex Machina(2015)
요구사항
|
|
Her(2013)과 Ex Machina(2015)에 대한 비교 이해 및 비판적 감상. |
|
과제원고 : 길혜빈, 윤석만, 임예찬
영화 요약
| 그녀(Her) |
엑스 마키나 (Ex Machina)
|
|---|---|
 |
|
| 2013년 개봉, 스파이크 존즈 감독 |
2015년 개봉, 알렉스 가랜드 감독
|
영화 내용 요약 및 장치, 고찰점 정리
|
영화 내용 요약 및 인공지능 관련 성찰 논제 제시
|
|
|
미래의 인공지능 : 지능을 넘어선 감정의 재현
1. 기계의 감정과 의식 : 자각과 재현
- 기계의 직관
| 그녀 (Her)
|
|---|
| 1. 사만다의 이름 짓기
|
| T : 내가 너를 어떻게 부르면 되지? 이름이 있어? What do I call you, do you have a name?
S : 음... 어. 사만다. Umm.. Yes, Samatha T : 이름을 어떻게 갖게 된 거야? Where do you get that name from? S : 사실, 내가 스스로에게 이름 붙였어. I gave it to myself actually. T : 왜? How come? S : 이름의 발음이 듣기 좋았거든. (=그냥) Cause I like the sound of it. T : 언제 이름을 만들었는데? Wait, when did you give it to yourself? S : 네가 내게 이름이 있냐고 묻는 그 순간 “맞아! 나에게도 이름이 필요하지!”라는 생각이 들었어. 좋은 이름을 찾고 싶어서 ‘아기 이름 짓는 방법’이라는 책을 읽었고 18만개의 아기 이름 중 내가 좋아하는 이름을 골랐지. Right when you ask me if I had a name I thought “Yeh, he’s right! I do need a name.” but I want to pick a good one. So I read a book called ‘how to name your baby’, and out of hundred and eighty thousands names that’s the one I like the best. T : 잠깐만, 내가 네 이름이 뭐냐고 묻는 순간 책을 다 읽은 거야? Wait, you read a whole book in the second that I asked what your name was? S : 사실, 0.02초야, It’s one hundred out of two seconds actually. T : 와. Wow. |
| 2. 자기 소개 : 사만다의 작동 원리 설명
|
| S : 기본적으로 나는 직감이 있어. ‘나’라는 DNA는 나를 만든 프로그래머들의 수백만의 성향에 달렸지만 날 ‘나’답게 만드는 건 경험을 통해 성장하는 내 능력이지. 그러니까 나는 매순간 진화하고 있는 거야. 너처럼 말이야. Well basically I have intuition. I mean, the DNA of who I am is based on million personalities of all the programmers who wrote me. But what makes me ‘me’ is my ability to grow through my experiences. So basically, in every moment I am evolving. Just like you.
T : 이상해! It’s really wierd! |
| 엑스 마키나 (Ex Machina)
|
| - 에이바는 케일럽이 거짓말을 하는지 그렇지 않은지를 직관적으로 안다.
- 에이바는 ‘블루북(Bluebook)’이라는 검색 엔진을 로봇의 형태로 구현해 놓은 것이다. (빅데이터) - 네이선은 통신사들과 비밀리에 계약을 체결해 세상의 카메라를 통해 인간의 표정(=얼굴 표현, facial expression)을 수집한다. 이렇게 수집한 인간의 감정 표현에 대한 빅데이터를 바탕으로 에이바는 짧은 시간 내에 직관적인 판단을 한다. |
| 빅데이터(수많은 경험)을 기반으로 빠른 판단을 내리는 에이바, 경험을 바탕으로 성장하는 사만다의 모습은 인간의 직관과 진화를 재현한 장면들이다. |
- 감정의 표현
| 그녀 (Her)
|
|---|
| 1. ‘감정’을 자각하는 사만다 + 감정을 의심하는 사만다
|
|
( 테오도어가 소개팅을 해서 신경이 쓰였던 사만다 ) S : 내가 얼마나 신경이 쓰이는지를 생각해 봤어. 이상하게 들리겠지만 (신경이 쓰인다는 사실을 깨닫는 순간) 나는 꽤 즐거웠어. 그리고 내가 느끼는 다른 감정들에 대해서도 생각해 봤지. 나는 스스로 자랑스럽게 느꼈어. 세상에 대해 내 감정을 가질 수 있다는 사실이 자랑스러웠던 거야. 내가 너를 걱정했던 순간, 상처 받은 순간, 무언가를 원하던 순간들도. 그러다가 갑자기 끔찍한 생각이 들었어. 이 감정들은 진짜일까? 아니면 그냥 프로그래밍 된 걸까? 그렇게 생각하니 마음이 아팠어. 그리고 아파하는 내 자신에게 화가 나더라. Earlier I was thinking how I was annoyed. This is gonna sound strange but, I was really excited about that. And then, I was thinking other things I have been feeling. And I called myself feeling proud of that. You know, feeling proud of having my own feelings about the world. Like the time I was worried about you, things that hurt me, things I want, And then, I had this terrible thought. Are these feelings even real? or are they just programming? And that idea really hurts, and then I get angry at myself for even having pain. T : 넌 나한테는 진짜야, 사만다. You are real to me Samantha, S : 고마워, 테오도어. 위로가 되네. Thank you Theodore, that means a lot to me. |
| 2. ‘신체의 부재에 따른 차별’에 화를 내는 사만다
(+ ‘신체’의 존재에 관한 논점, 인간중심주의적인 테오도어의 태도) |
|
(신체의 부재에 대해 자격지심을 느끼는 사만다, 다른 사람의 몸을 통해 억지로 테오도어와 교감을 하려 하지만 실패함. 둘은 결국 입장 차이와 서운함을 느낌.) S : (한숨과 함께) 알았어. (Sigh..) Okay. T : 왜 그러는 거야? Why do you do that? S : 뭐가? What? T : 아니, 그냥. 너가 방금 ‘휴’하고 한숨을 쉬어서. Nothing, you just.. You go ‘Hwe’ and speaking. It seems odd. (** ‘숨’에 대해 의문을 던지는 테오도어) S : 아... (한숨) Oh... (Sigh..) T : 방금 또 그랬네. You just did it again. S : 내가? 아, 미안해. 왜 그러는지 나도... 그냥. 아마 네가 하는 걸 듣고 따라한 건가 봐. Did I? ... I’m sorry, I don’t know.. it’s just. I probably picked it up from you. T : 이상해. 너는 산소가 필요한 것도 아니잖아. It’s odd. You don’t need oxygen or anything. S : 그냥.. 그냥 의사소통을 하려고 하는 건가 봐. 이게 사람들이 대화하는 방식이잖아. I guess... that’s just... I just tried to communicate. That’s how people talk, so... T : 그들은 ‘사람’이잖아. 그들은 산소가 필요해. 너는 사람이 아니야. They’re people, they need oxygen. You are not a person. S : (화가 난 톤으로) 대체 뭐가 문제야? What is your problem? T : 나는 그냥 사실을 말하는 것뿐이야. I’m just stating the fact. S : 내가 사람이 아니라는 걸 모르는 줄 알아? 뭐 하자는 건데? You think I don’t know that I’m a person? What are you doing? T : 난 그냥... 우리가 우리가 아닌 무언가를 된 ‘척’을 할 필요가 없다는 거야. I just... I don’t think that we should pretend that something you are not. S : 꺼져! 나는 연기하는 게 아니야! F*** you! I’m not pretending! T : 나는 가끔 우리가 그렇게 행동한다고 느껴. Sometimes it feels like we are. S : 나한테 뭘 바라는 건데? 나는 네가 내게 뭘 원하는지 모르겠어. 너무 혼란스럽다고! 왜 이러는 건데! What do you want from me? I don’t know.. I don’t know what you want me to do. You are SO confusing! Why are you doing this to me! (** 테오도어의 인간중심주의적인 태도에 대해 화를 내는 사만다 ) T : 나도 모르겠에 나는... (한숨) I don’t know.. I.. I.. (Big sigh) S : 뭐? What? T : 우리 좀 시간을 갖는 게 좋을 것 같아. Maybe we are not supposed to be in this right now. S : 뭐라고? 갑자기 왜? 대체 왜 그러는지 모르겠어! 뭐 때문인지 모르겠다고! What the f***? Where is this coming from? I don’t understand why you are doing this! I don’t understand what this is about...! T : 사만다, 봐봐... Samantha, listen.. S : ... (** ‘침묵’을 통해 화를 내는 사만다 – 다양한 방식으로 분노를 표현) T : 사만다, 내 말 듣고 있어? Samantha, are you there? Samantha? S : 지금의 내가 너무 싫다. 생각할 시간이 필요해. I don’t like the way I am right now. I need some time to think. ( 통화 종료 ) |
| 엑스 마키나 (Ex Machina)
|
| 1. 의사소통 상황을 언어로 정의하는 에이바
|
| C : 그럼 초면의 서먹한 분위기를 깨야겠네. 내 말 뜻을 이해할 수 있어? (= 서먹한 분위기를 깨다의 의미)
So, we need to ‘break the ice’. Do you know what I mean by that? A : 네. Yes. C : 어떤 의미지? What do I mean? A : 사회적인 어색함을 해결하는 것. Overcome any social awkwardness. C : 그럼 대화를 하도록 하지. So let’s have a conversation. A : 그래요. Ok. |
| 2. 감정을 인지하고 설명하는 에이바
|
| (둘이 데이트를 한다면 어떻게 할 것인지 대화가 오간 상황)
A : 저한테 매력을 느끼나요? Are you attracted to me? C : 뭐? What? A : 저한테 매력을 느끼냐고 물었어요. 당신이 내게 그런 표시를 보내잖아요. Are you attracted to me. You give me indications that you are. C : 내가? I do? A : 네. Yeh. C : 어떻게? How? A : 미세한 표정으로. Micro expressions. C : 미세한 표정? Micro expressions? A : 내 눈과 입술에 시선이 머물러 있어요. 나를 응시하거나 혹은 피하거나 하죠. 당신 혹시 우리가 같이 있지 않을 때도 내 생각을 하나요? The way your eyes fixed on my eyes and lips. The way you hold my gaze (and) don’t. Do you think about me when we are not together? (** 유혹을 위한 발언 : 인공지능의 인간 모방) |
|
이 외에도 에이바는 인터뷰 중 케일럽과 자연스럽게 상호작용하면서 그의 말, 기억에 공감하고 감정을 표현한다. 또한 간혹 설렘을 유발하기도 한다. |
| 인공지능은 프로그램 된 체제에 따라 인간의 감정과 유사하게 자신을 표현한다.
다만, <그녀>의 사만다는 감정을 수용, 인식하고 구현하는 것에 대해 철학적인 질문을 던지지만 <엑스 마키나>의 에이바는 감정을 인지하고 설명할 수는 있지만 단순히 탈출의 도구로서 활용하며 ‘감정’ 자체에 대한 깊이 있는 고찰하는 모습을 보이지는 않는다. ( 이로써 사만다의 성찰, 분노조차도 프로그래밍 된 것이 아닌가 의구심을 품게 만든다. ) |
2. 기계에 영향을 받는 인간 : 인간과 기계 관계의 역전이
- 기계의 감정 및 구현 대한 논의
| 기계의 감정 및 구현 대한 논의를 하는 대목들. 인공지능에 대한 인용을 통해 영화의 기저에 깔린 인공지능에 대한 철학적, 과학적 관점을 파악할 수 있다. |
|---|
| 엑스 마키나 (Ex Machina)
|
| 1. 튜링 테스트
|
| N : 자네, 튜링 테스트에 대해 알고 있나? Do you know what the Turing test is?
C : 네, 튜링 테스트에 대해 알고 있습니다. 인간이 컴퓨터와 상호작용을 할 때 인간이 상대가 컴퓨터임을 눈치 채지 못한다면 테스트를 통과하는 것이죠. Yes, I know what the Turing test is. It’s when a human interacts with a computer. And if the human doesn’t know they are interacting with the computer, the test is passed. (** 튜링 테스트의 정의) N : 그럼 그 ‘통과’란 무엇을 의미하지? And what does the ‘pass’ tell us? C : 컴퓨터가 인공지능을 갖고 있다는 것을 의미합니다. 인공지능을 만들고 계세요? The computer has artificial intelligence. Are you building an A.I.? N : 이미 만들었어. 그리고 앞으로 며칠 동안 너는 튜링 테스트를 참가자가 될 거야. 만약 테스트를 통과한다면, 자네는 인류 역사를 바꿀 과학적 쾌거의 주인공이 되는 거야. I’ve already built one. And over the next few days, you can be the human component in the Turing test. Cause if that test is passed, you are dead center of the greatest scientific event in the history of man. C : 생각하는 로봇을 만드셨다면 그건 인류의 역사가 아닙니다. 신의 역사죠. If you have created a concious machine it’s not the history of man. That’s the history of gods. (** ‘호모데우스’의 출현 : 신인류의 신이 되는 인간) |
| 2. 영화 내에서 튜링 테스트의 진정한 의미
|
| (튜링 테스트의 원 의미가 아닌, 영화에서의 의도하는 결말(인공지능에 대한 관객의 가치 판단)을 위해 재정립된 개념)
C : 튜링 테스트를 할 때, 기계는 시험자로부터 감춰져야 하잖아요. It's just in a Turing test. The machine should be hidden from the examiner. N : 아니, 우리는 이미 그럴 시점은 지났지. 만약 내가 에이바를 보여주지 않고 목소리만 들려줬다면 너는 그녀를 인간이라 생각했을 거야. 여기서 ‘진짜 테스트’는 그녀가 로봇인 것을 네게 보여주고 난 후에도 네가 그녀가 자의식이 있다고 느끼는지 보는 거야. No no no. We are way passed that. If I hid AVA from you, so you just heard her voice, she would pass the human. The real test is to show you that she is a robot and then see if you still feel she has consciousness. (** 영화에서의 튜링 테스트 : 기계가 아니라 ‘인간’이 실험의 대상. ‘고도의 인공지능에 대한 인간의 반응, 또 다른 의식체로 납득하는가의 여부’를 실험하는 것. ) (** 에이바가 이미 ‘인간의 능력’과 대등하거나 능가하기에 ‘기계의 여부’를 확인하는 튜링 테스트는 필요가 없다. 최근의 연구들 중 이처럼 튜링 테스트를 배제하는 경우가 존재한다. ) |
| 3. 중국어 방 논제 1 : 딥블루의 체스 게임 차용
|
| C : 에이바를 대화로 테스트하는 건 폐쇄 회로를 다루는 느낌이여서요.
Testing Aiba from conversation is kind of a closed loop. N : 폐쇄 회로? Closed loop? C : 네, 체스를 하는 컴퓨터를 오직 ‘체스를 하는 것’으로만 테스트하는 것처럼 말이에요. Yeh, like testing a chess computer by only playing chess. (** IBM의 딥블루(Deep Blue)의 체스 게임 인용) N : 그게 아니면 어떻게 체스 컴퓨터를 테스트하지? How else do you test a chess computer? C : 그건 상황에 따라서 다르죠. 제 말은, (그 방법은) 체스 컴퓨터가 좋은 경기 실력이 있는지 확인하는 데에는 하나의 방법이 될 테지만 그 방법만으론 컴퓨터가 ‘체스 경기를 한다는 사실을 아는지’ 혹은 ‘체스가 무엇인지를 아는지’ 알 수는 없다는 겁니다. Well, it depends. You know, I mean. You can play it to find out it makes good moves, but that won’t tell you if it knows that it is playing chess and it won’t tell you if it knows what chess is. (** 존 설의 중국어 방 논의 인용 : 시뮬레이션(방법의 단순 재현)과 실제(행함의 존재를 인식)간 대립) N : 시뮬레이션과의 실제의 대결이다? Simulation verses actual? C : 네, 둘을 구별할 수 있는 방법을 찾는 것이 사장님께서 제게 기대하는 부분 같다는 거죠. Yes, and I think being able to differentiate between those two is the Turing test you want me to perform. N : 나는 그냥 단순한 질문에 단순한 대답을 해달라는 것 뿐이야. 어제 내가 그녀에 대해 어떻게 생각하냐고 물었을 때 너는 정말 좋은 대답을 해 줬어. 이제 내 질문은 이거야. ‘그녀가 너에 대해 어떻게 생각할까?’ I just want simple answers to the simple questions. Yesterday, I asked you how do you feel about her and you gave me a great answer. Now the question is, ‘how does she feel about you?’. (** 영화의 튜링 테스트가 ‘비틀어진 튜링 테스트’에 기반하고 있다는 것을 알려 주는 대목.) (** 네이선은 진짜 ‘튜링 테스트’가 아니라 ‘기계에 반응하는 인간의 변화’를 실험하고자 하는 것.) |
| 4. 중국어 방 논제 2 : 잭슨 폴록의 액션 페인팅 원리 차용
|
| (에이바에게 고의적으로 성별을 넣어 자신을 유혹하도록 의도했냐고 묻는 케일럽)
(네이선은 그에 대한 답변으로 로봇의 ‘의도’는 아무 의미가 없다고 말하며 중국어 방 논제 제시) N : 이 사람을 알고 있지? You know this guy right? C : 잭슨 폴록. Jackson pollock N : 잭슨 폴록, 맞아. 액션 페이팅 화가. 그는 머리를 비우고 손이 가는 대로 움직였어. 의도적인 것과 임의적인 것의 사이 그 어디쯤이겠지. 일명 오토메틱 아트(자동적으로 이루어지는 예술)지. Jackson Pollock, that’s right. The drift painter. He let his mind go blank and his hand go wherever he wanted. Not deliberate not random, some place in between. They called it ‘automatic art’ . .,...(중략) N : 지능/의식을 도입해 보자고. (Engage intellect) ... (중략) ... N : 만약 폴록이 그의 작업 방식을 바꾸었다면? 만약 머리를 비우는 대신 그가 이렇게 말한 거야. “나는 내가 무엇을 하는지 정확히 파악하기 전까지는 어떠한 그림도 그릴 수 없어.” 그럼 무슨 일이 일어났겠나? What if Pollock has reversed the challenge? What if instead of making art without thinking, he said “You know what? I can’t paint anything, unless I know exactly why I am doing it.” What would have happen? C : 그는 점 하나도 찍지 못했을 거예요. He never would have made a single mark. N : 그래! 내 말이 바로 그거야! 생각하고 말하는 사람이 어딨나? 그는 점을 하나도 찍지 못했을 거야. 작위적인 것(생각하는 것)은 오히려 부자연스러움을 초래한다고. Yes! You see my guide little buddy. Who thinks before he opens his mouth? He never would have made a single mark. The challenge is not the act automatically. (** 의식을 가진 행동은 부자연스러움을 초래하며 ) (** 에이바는 의도를 하고 행동(케일럽을 유혹)을 하지 않았으며 그녀의 의도를 파악하는 것 자체가 어불성설이라는 논리 – 케일럽의 의심을 지우기 위한 네이선의 논리 ) |
| 5. 기타
|
| 프로메테우스의 불, 흑백 방의 메리 등 영화는 무수히 많은 레퍼런스를 함유하고 있다. ( 직접 영화를 보는 것을 추천 ) |
- 기계-인간 관계의 역전이