* 스포주의



요즘 인공 지능이 흥하는걸 보면서 생각나는건, 역시 전 시즌내내 인공 지능과 관련된 이슈와 철학, 그리고 

인간의 관점에서 볼때 선에 해당하는 핀치의 머신과 악을 대변하는 사마리탄의 대립을 그린 퍼오인이다. 

단시간에 급속도로 발전하는 인공 지능과 관련해서 앞으로 부각되어야 할 문제는 인공지능의 윤리와 가치관 

정립, 그리고 인간이 인공지능을 끝까지 완벽하게 컨트롤 할수 있느냐 하는것인데, 퍼오인만큼 이 문제를 

다양한 관점에서 현실적으로 설득력있게 그려낸 작품도 흔치 않다. 

그런 의미에서 퍼오인에서 인공 지능과 밀접한 관련이 있는 사람들의 인공 지능에 대한 철학(혹은 관점)을 

복습해 보기로 하자. 


일단 핀치가 만든 인공지능인 '기계(The Machine)'의 역사를 대충 훑어보면, 

- 2001년 9월 12일부터 코딩 시작. (911 테러 다음날)

- 2002년 1월 1일 Day 1. (가동 시작)

- 2005년 2월 처음으로 테러 관련 정보 제공. 

- 2009년 7월 서버를 IFT에서 정부 관리 시설로 이전. 

- 2012년 데시마가 주입한 바이러스에 감염. 

- 2013년 정부 관리 시설에서 자취를 감춤. 

- 2015년 5월 6일 사마리탄에 의해 파괴됨. (핵심 코드는 핀치와 루트가 추출)


이렇게만 보면 기계 제작은 01년부터 Day 1까지 순조롭게 진행된것 같이 보이고, 기계가 파괴되는 시점까지도 

핀치가 기계를 믿지 못했던 이유를 납득하기 힘들다. 

그래서 그에 대한 설명을 제시하는게 바로 405. 


사실 핀치는 공식적인 Day 1 이전에 이미 기계를 완성했고, 01년 10월 13일에 테스트 가동을 했었다. 



하지만 이 시기의 기계는 핀치가 내준 윤리 문제에 대해 의외의 답변을 하기도 하고, 직접 코드를 추가해놓고 

그에 대해 추궁받자 거짓말을 하기도 하고, 네이선의 노트북을 와이파이로 연결해서 탈출을 시도하기도 하는 등 

예상밖의 행동을 하는데, 이 문제를 해결하기 위해 핀치는 계속 코드를 수정하면서 새로운 버전을 만든다. 


"이 시스템은 예측 불가능한 능력을 갖게 될거고, 그 결과가 어떻게 될지는 아무도 몰라."

"우리가 이걸 제대로 통제하지 못한다면, 언젠가는 이 시스템이 우릴 지배하게 될거야."



심지어 기계는 핀치를 죽이려는 시도를 하기도 한다. (그 와중에 핀치에게 빨간 태그를 씌움)



퍼오인에서 기계가 핀치에게 빨간 태그를 씌운건 405 외에 417 플래시백도 있는데, 405는 자기 뜻을 꺾으려는 

핀치를 적으로 규정한 태그였다면, 417은 알리시아 코윈을 죽이려는 핀치를 말리던 기계가 핀치를 잠재적 

범죄자로 분류해서 빨간 태그를 씌웠기 때문에 의미가 다르다. 

(그러고보니 기계는 핀치 뒷조사하던 리스한테도 빨간 태그를 씌운 적이 있었다.)



목적 달성을 위해 살인도 불사하는 인공 지능의 사악함을 목격한 네이선은 기계 제작에 회의적인 입장이지만, 

핀치는 맹목적으로 목적 달성을 추구하는건 인공 지능의 본성이라면서, 생각하는 능력 이전에 사람을 우선하는 

가치관부터 가르쳐야겠다고 결심한다. 

그리고 핀치는 초창기 43개의 변종중에서 제일 온순했던 버전을 골라서 이런 저런 제약을 가한뒤에 드디어 

기계를 완성시킨다. 



기계가 정부기관에 정보를 제공한지 2년째 되는 07년에 네이선은 기계의 일반 범죄 리스트를 발견한다. 

핀치는 기계가 테러와 일반 범죄를 구분하지 못해서 발생하는 현상이라면서, 일반 범죄의 잠정적 피해자 목록을 

하루 단위로 삭제하도록 만들었는데, 이때부터 네이선은 일반 범죄 피해자를 구할 생각을 한듯하다. 



그리고 기계의 서버를 정부에 넘기기 직전인 09년에 네이선은 일반 범죄 리스트를 받을수있는 백도어를 만들자고 

핀치를 설득하지만, 기계가 남용되는걸 가장 두려워하는 핀치는 끝까지 이 제안을 거절하고 시스템을 종료시킴. 



하지만 네이선은 기계를 넘겨주기 전에, 핀치 몰래 백도어를 만들고 도서관 기지를 만들어 번호를 받아서 혼자 

일반 범죄 피해자들을 구하는 일을 시작하게 된다. 

네이선에게 최고 관리자 접속을 허가하고 핵심 코드를 수정하도록 내버려둔걸 보면, 백도어를 만든건 기계의 

뜻이기도 하다. 

 


페리 폭파 사고이후 네이선이 일반 범죄 리스트에 있었다는걸 확인한 핀치는 네이선이 만든 도서관 기지에서 

일반 범죄 피해자를 구하는 일을 시작한다. 

기계가 자기 몰래 'irrelevant' 넘버를 유출했다는걸 핀치가 처음 알았을때의 반응은 분노였다. 초창기 기계의 

예측불가한 폭력성을 경험한 핀치는 이런 이상 행동의 결과가 재앙이 될까봐 두려워한게 아닐까. 

그래서 친구의 유지를 받든다는 명목으로 사람들을 구하는 일을 시작하긴 했어도, 기계에 대한 핀치의 의심은 

점점 더 커질수밖에 없었다. 



결국 핀치가 우려한대로, 정부는 대니얼 케이시를 고용해서 기계를 해킹하게 만들었고, 케이시는 기계가 해킹을 

차단하기 전에 네이선이 만든 백도어를 통해서 코드를 일부 추출해낸다. 

이 일로 케이시는 정부외에 기계의 코드를 노리는 그리어의 데시마에게도 쫓기게 됨. 

핀치는 케이시도 살리고 기계가 엄한 사람들 손에 들어가는걸 막기위해 케이시가 추출한 코드로 바이러스를 

만들어 유출하는데, 이걸 손에 넣은 데시마는 바이러스를 기계에 주입해서 기계에 대한 지배권을 확보하려고 

하지만, 바이러스에 숨은 확장팩 덕분에 핀치가 가한 제약에서 벗어난 기계는 자취를 감춘다.



스스로 각성한건지 바이러스의 영향때문인지는 모르지만 기계는 하루단위로 갱신되는 기억을 보존하기 위해 

'Thornhill'이라는 회사를 만들었는데, 4시즌 피날레를 보면 결국 기계는 이 회사를 이용해서 도망쳤음. 



손힐을 이용해서 전국 전신주에 이런 데이터 전송 시스템을 설치해놓은 다음, 정부의 명령서와 전화 통화를 

조작하고 서버를 단계적으로 해체해서 제거하는 동시에 전력망으로 이동한건데, 모든것이 다 전산화되고있는 

현대 사회에서 모든 정보를 다 가지고 있는 인공 지능이 대규모 서버를 없애버리고 아무도 모르게 사라져버리는 

정도의 일은 아무것도 아니라는걸 보여주는 사건이다. 

이러니 실질적으로 불가능한 일이 뭐가 있겠는지.



전 세계의 네트워크를 스캔했던 사마리탄도 찾아내지 못했던 기계의 위치.  

하지만 기계는 핀치와 루트를 구하기 위해 스스로를 희생하는 모습을 보여준다.

419에서 루트에게 서류 가방을 준비해놓도록 지시한걸 보면, 기계는 이런 상황을 예측하고 자기가 살아남을 

일말의 가능성은 남겨둔것도 같고. 



인공 지능 얘기하는데 루트가 빠질수 없지.

처음 등장했을때의 루트는 인간을 '악성 코드'로 분류하고, 유일하게 완벽한 존재인 기계에게 어떤 제약도 가하지 

말고 기계를 자유롭게 해줘야 한다는 생각을 가지고 있어서, 핀치의 적대감을 사게된다. 

(거기다 납치, 감금, 상해, 살인 미수에 약까지 먹였으니 감정이 좋을수가....) 



시즌2 피날레에서 루트는 기계가 데시마의 손아귀에 들어가는걸 막기위해 핀치에게 반 강제로 협조를 구하고, 

자기가 바라던대로 기계를 자유롭게 해주는 동시에 기계와 직접 소통할 방법을 찾으려 하지만, 이미 기계를 

도망치게 만든 핀치의 선빵으로 좌절하고 멘붕. 

하지만 조만간 라이벌 인공 지능이 나타날거라고 예상한 기계가, 자신의 수족이 되어줄 '아날로그 인터페이스'로 

루트를 선택하면서, 결국 루트는 자신의 소원대로 기계와 연결된다. 



기계에 대한 루트의 관점은 초지일관인듯 하면서도 상황에 따라 계속 변화하는데, 초창기에는 기계를 

완전체로 보고 (선이든 악이든) 어떤 제약도 없이 자유롭게 능력을 펼치도록 해야한다고 주장했다면, 

후반기에는 기계의 인간 중심주의에 교화되고 사마리탄에 대적할수 있는 유일한 존재인 기계의 지시를 

충실히 이행하면서, 인간 세상을 지키려는 기계의 선한 의도에 절대적인 믿음을 가진다. 

(초반기는 기계 중심, 후반기는 인간 중심으로 가치관 변화.)



절대적으로 기계를 신뢰하는 루트의 입장으로서는 당연히 핀치와 대립할수밖에 없고...

설계 초창기 인공 지능의 악한 본질을 목격했던 핀치는, 기계가 배우고 경험을 쌓으면서 결국 자신이 걸었던 제약을 

전부 깨고 달아났다는 사실때문에 기계를 완전하게 믿을수가 없다. 

(기계가 사마리탄의 의회 승인을 막기위해 하원의원을 죽이라고 명령했던게 핀치의 트라우마를 일깨운 계기.)



루트는 소시오 패스였던 자기에게 인간애를 가르친 기계의 선한 의도를 의심하는 핀치가 그저 답답할 따름이다.



그리고 기계가 완벽하다고 생각했던 초창기와는 달리, 이때쯤에는 루트도 기계에게 불완전한 부분이 있다는걸 

인정하고, 핀치가 직접 나서서 기계를 도와줄것을 요청한다. 

"기계와 사마리탄의 차이점은 바로 당신이예요."



하지만 어떤 상황에서도 기계에 대한 믿음이 굳건했던 루트를 동요시킨 사건이 있었으니....

부상당한 쇼의 실종과, 쇼에 대한 정보를 주지 않는 기계에 대한 실망감이다. 

그럼에도 불구하고 루트는 기계의 명령을 계속 충실하게 수행하지만,  



천하의 루트도 기계의 지시를 거부하는 사건 발생. 

기계는 사마리탄에 바이러스를 심으려고 시도하는데, 그 결과 핀치의 목숨이 위험해질수 있다는걸 아는 루트는 

처음으로 기계의 계획을 방해하고, 핀치를 살리기 위해 기계와 같이 일하게된 이후 처음으로 살인을 시도한다. 


418은 잘 만들면 걸작이 될수도 있었는데, 허접한 각본과 저렴하기 짝이 없는 연출덕분에 퍼오인 전 시즌을 통틀어 

최악의 쓰레기가 되어버린 비극적인 에피소드. 보지말고 넘어가라고 제목도 친절하게 'Skip'이라고 달아놓음. 



사마리탄에게 위치를 들킨 기계가 위기에 빠진 상황에서도 여전히 기계보다는 사람을 우선순위로 생각하는 핀치. 

"기계는 최선일때도 숨기는것 투성이고, 최악일때는 살인도 불사하죠."

아마도 여기서 한이 맺힌 기계가 "아버지는 내가 살아남기를 바라지 않는것 같아요." 라는 말을 하는듯....



여기서 큰 그림을 보는건 루트쪽이다. 

기계가 사라지면 전적으로 사마리탄이 지배하는 악몽같은 세상이 될테니 기계를 구하는게 사람들을 구하는 

길이라는 논리로 루트는 핀치를 설득한다. 



끝없이 기계를 의심하는 핀치의 태도는 죽어가는 기계를 보면서 달라진것 같긴한데, 5시즌에 기계를 재생시키면서 

과연 핀치가 기계에게 사마리탄급의 자유를 줄지, 어느 정도의 제약을 걸지는 두고 볼 일이다. 

5시즌 초반에 핀치와 루트의 의견 대립이 있다는걸로 봐서는 아무래도 이 문제가 화두가 될것 같은데. 



기계의 대척점에 서있는 사마리탄을 키운 그리어의 관점도 빼놓을수 없다.  

인공 지능의 능력을 제한없이 마음껏 발휘하게 해야한다는 그리어의 생각은 일견 루트와 비슷해 보이지만, 

그리어가 생각하는 인공 지능의 역할은 마키아벨리즘적인 독재자라는 점에서 결정적인 차이가 있다. 

그리어는 인공 지능이 어떠한 일탈도 용납하지 않는 완벽하게 통제된 사회를 이끌어가는 강력한 지도자가 되기를 

바라고, 그러한 사회를 그리스 로마 신화의 신들이 다스리던 세상에 비유하는데, 이것은 신으로 묘사되는 인공 

지능도 절대 완전한 것은 아니라는 드라마상의 암시로 보인다. 

(올림푸스의 신들이 어디 완전한 존재던가....)



정식 가동 첫날부터 그리어는 사마리탄에게 독재자 수업을 시작한다.  

"내 명령을 기다리지말고, 네가 우리에게 어떤 명령을 내려야 할지 생각해봐라."


이렇게 성장한 사마리탄은 4시즌 피날레에서 'Correction'이라는 미끼를 던져서, 자기에게 충성하지 않는 세력을 

분류해 대대적인 숙청 작업을 벌이고, 전류 쓰나미를 일으켜 기계를 파괴시킨다. 

사마리탄에게 인간은 명령을 수행하는 도구일뿐이고, 목적 달성에 방해될때는 거리낌없이 제거해버릴수 있는 

하찮은 존재에 불과하다. (그리어의 가치관과 동일.)



사마리탄의 아버지 클레이풀. 

클레이풀은 자신의 평생 숙원이던 인공 지능 개발의 성공에 집착하느라고, 인공 지능의 윤리까지는 미처 생각지 

못하는데, 아마도 대부분의 인공 지능 개발자들의 모습이 이렇지 않을까. 

결국 클레이풀은 자신의 창조물이 인간의 자유를 박탈하는 도구로 사용될지도 모른다는 핀치의 설득에 굴복해서, 

일생의 역작이라고 할수있는 사마리탄이 들어있는 드라이브를 자기 손으로 파괴한다.  

하지만 진짜 사마리탄은 이미 그리어의 손에 넘어간 다음이었고, 클레이풀이 탄생시킨 사마리탄은 창조자의 

의도와는 달리 점점 악한 모습으로 변질되어간다. 


퍼오인 글을 쓰느라고 전 시즌을 주루룩 훑어보는데, 오랜만에 보니 어찌 이리 재밌나....우어어....ㅠㅠ 

진짜 시간가는줄 모르고 빠져서 보게되는데 이런 명작을 사보타지하려고 결국 1년이나 스킵하고 방송하겠다니 

망할놈의 CBS. 

5시즌 프리미어는 4시즌 프리미어보다 무려 2년 뒤인 올해 9월에 방영 예정이라는데, 그때가서 또 말 바꿀지는 

아무도 모르는거고, 퍼오인은 리부트 가능성도 점점 소멸되면서 반쪽짜리 5시즌으로 마감될 예정이다. ㅅㅂ






댓글을 달아 주세요

  1. 지나가던 여인 2016.03.15 15:45  address  modify / delete  reply

    요즘 알파고에 대한 이야기만 나오면 전 항상 퍼오인이 생각나더라고요.
    그래서 얼마전부터 다시 시즌 1부터 정주행하고 있는데, 역시나 재미있습니다 +_+
    시즌 5가 올해 9월에 방영된다니 한번 믿어보렵니다..ㅠ
    이렇게 잘만들어진 드라마를 한순간에 저급 드라마로 전락되는 것은 한순간이라는 것을 퍼오인 다시볼때마다 느껴요;;
    정성껏 올리신 포스팅 잘 읽어 보았습니다 :)

  2. ㅇㅇ 2016.09.27 00:14  address  modify / delete  reply

    정리글보니... 와.... 진짜 명작이네요..