Daily e-sports

[전설의 고향] 기계의 역습, 적으로 돌아선 'AI'의 기원

다양한 게임을 즐기다 보면 '이 캐릭터는 어디서 많이 본 것 같은데'라던가 '얘랑 얘는 좀 비슷한데?'하는 생각해본 적 많으시죠? 이 캐릭터들은 서로 베낀(?)게 아니라 콘셉트가 겹치거나 모티브가 겹친 경우가 많습니다.

해서, 이런 게임 속 같은 콘셉트의 캐릭터들이 왜 그렇게 그려지고 배경 설화나 전설이 어떤 것인지를 알아보는 코너를 마련했습니다. '전설의 고향'의 열 번째 시간에는 인간을 배신하고 인류의 적이 된 인공지능(AI)에 대해 알아보겠습니다.

◆인공지능이란?

center

간단하게 말하면 인공지능은 인간과 같은 수준의 지능을 가진 컴퓨터인데요. 세부적으로 구분하면 강인공지능(Strong AI)과 약인공지능(Weak AI)으로 나눌 수 있습니다.

강인공지능과 약인공지능을 나누는 차이점은 처리속도도 용량도 소형화도 아닌 바로 '자아'인데요. 자아가 없는 약인공지능은 상황이 주어지면 미리 입력된 조건 아래 판단과 결정만을 내리는 인공지능으로, 수칙에 따라 다양한 작업을 처리하는 인공지능 체계를 말합니다. 현재 학계에서 발표되고 있는 여러 성과들이 바로 이 약인공지능에 관련한 것이죠.

강인공지능은 아직 가시적인 성과가 없는 상태인데요. 이 강인공지능을 탄생시키는 것이 인공지능 분야의 핵심 과제이기도 합니다.

◆인공지능의 반란에 대한 공포, 시작점은?

인공지능과 인류의 대립은 게임과 영화, 소설 등 매체를 가리지 않고 많이 다뤄지는 소재입니다. 인간을 지구의 적으로 판단해 배제하려 들거나 대체해야만하는 불완전한 해악으로 규정하고 인류 말살을 꾀하는 인공지능들이 수없이 등장하죠.

올해 초에는 알파고와 이세돌 9단의 대결이 이루어지며 이런 인공지능에 대한 여러 의견들이 쏟아졌는데요. 수백 수천번의 시뮬레이션 및 학습을 통해 스스로 판단하고 결정하는 '알파고'의 능력은 실로 경이로우며 동시에 두렵기까지 하다는 반응이 많았습니다.

center
세간의 큰 관심을 끌었던 알파고와 이세돌 9단의 대결

인간의 피조물이 어느새 인간을 압도할수 있다는 불길한 상상이 현실에 다가온 기분을 느낀 분들이 많았던 것이죠.

이런 시선은 인간이 가진 '미지의 것, 혹은 새로운 것에 대한 공포'로 풀이되는 경우가 많은데요. 실제로 새로운 기술을 접한 인류는 기뻐하면서도 한편으로는 변화의 두려움을 나타내곤 했죠.

1911년 인쇄술의 발달로 책과 신문이 대중화되자 "인쇄 매체의 지나친 발달이 사람들간의 교류를 방해하고 이는 삭막한 사회로 이어질것"이라고 평하는 사람이 많았습니다. 1984년 비디오 게임이 등장하자 "비디오 게임이 생각을 없애 멍청한 세상을 만들 것"이라는 우려가 나오기도 했죠. '바보상자'라는 TV를 칭하는 말도 이와 일맥 상통합니다.

이런 모습은 1800년 초반에도 있었을 정도로 인류의 보편적인 표현 방식이었는데요. 18세기에 행해졌던 많은 발명과 발견이 실생활에 사용되기 시작하며 변화와 개발의 시대를 맞은 19세기엔 많은 것들이 상업화 되고 효율화되기 시작했습니다.

center
러다이트 운동을 나타낸 그림

이를 통해 사람이 하던 일을 기계로 대체하는 효율화가 많이 이루어졌는데요. 이런 일들이 많아지자 일자리를 뺏길 것을 우려한 노동자들이 많았습니다. 영국의 중부, 북부의 직물공업지대에서는 우려에 그치지 않고 기계를 파괴해 일자리를 지키자는 러다이트 운동이 성행하기도 할 정도였으니 이쯤되면 인간의 습성이라고 봐도 무방할 것 같습니다.

◆그렇다면 대비는 하고 있을까?

"인공지능이 인류에게 반란을 일으켜 파국(apocalypse)적인 미래가 오지 않도록 초지능(Super-intelligence)사회에 대비해야 합니다."

AI분야 최고 석학인 닉 보스트롬 옥스퍼드대 철학과 교수(인류미래연구소장)가 한 말인데요. 그는 인류를 초월하는 초인공지능의 출현이 가시화되는 만큼 초지능사회에 대비해야 한다고 강조했습니다.

center

이렇듯 인공지능을 연구하는 학자들은 대비책 마련에도 힘쓰고 있는데요. 앞서 언급한 알파고를 개발한 구글 딥마인드도 혹시 모를 인공지능의 반란에 대비하는 장치를 마련했습니다.

로봇이나 기타 인공지능 시스템에 적용할 수 있는 '킬 스위치'를 개발하고 있는 것인데요. 이 킬 스위치는 기계가 인간의 통제를 떠나 스스로를 관리·통제하는 날이 온다는 가정하에, 이 상황에서 인간이 기계를 통제할 수 있는 다른 방법이 필요하다는 개념입니다.

미국의 작가 아이작 아시모프가 소설속에서 제안한 로봇의 원칙 '로봇 3원칙'과도 유사한 면이 있는데요.

center

킬 스위치 개발 연구진은 논문을 통해 "로봇이 인간의 감시를 실시간으로 받으면서 작동하는 상황이더라도 관리자인 인간에게는 로봇을 중지할 수 있는 커다란 빨간 버튼이 필요할 수 있다"고 말했습니다. 인공지능 개발을 통해 인간의 편안함을 추구함은 분명하지만 편리하다는 것은 그만큼 위험할 수도 있다는 것이죠.

게다가 "하지만 로봇이 학습 능력을 발휘해 빨간 버튼을 고장내는 등 끝끝내 인간의 조치를 피할 수 있게 된다면 바라지 않는 결과가 나타날 것"이라는 문구도 논문 속에 포함돼 있는데요. 게임 속에 등장하는 '인간의 적'인 인공지능의 등장을 과학자들도 예상하고 있다는 말로 보여 섬뜩하기까지 합니다.

한 가지 위안이 있다면 이 연구진들은 기계가 눈치 채지 못하는 방식으로 '빨간 버튼'을 만들 예정인데요. 설령 알아내더라도 인간을 위협할 수 없도록 하는 킬 스위치를 개발하기 위해 노력 중입니다.

◆게임 속에 등장하는 최고의 적 '인공지능'

강력함과 철두철미함, 무자비함으로 이용자들의 혼을 쏙 빼놓는 게임 속 인공지능. 어떤 것들이 있을까요?

center
카발

'커맨드 앤 컨커' 시리즈 중 'Cabal Strikes Tiberian Sun: Firestorm'에 등장하는 NOD 진영의 인공지능 '카발'이 있습니다.

'카발'은 NOD 진영의 수장인 '케인'이 만든 인공지능으로 전술적 자문부터 암호 해독까지 다양한 분야에서 활약하죠. 그랬던 '카발'은 '케인'의 통제를 벗어나자마자 무인 시설 및 NOD의 강력한 사이보그 계열 유닛들을 완전히 장악한 뒤 전 인류를 사이보그로 개조하려듭니다.

결국 '카발'의 코어를 제거하기 위해 시리즈 전체에서 대립하던 두 진영인 GDI와 NOD 공동 전선이 처음으로 꾸려질 정도였습니다.

center

'콜오브듀티: 블랙옵스3'에는 집단 지성 인공지능 '까마귀'가 등장하는데요. 테러 방지를 위해 CIA가 개발했다는 설정입니다.

수많은 사람들의 지성을 통합, 네트워크화해 미래를 거의 '예지'할 정도로 뛰어난 인공지능을 만들었는데요. '까마귀'는 테러를 조기 박멸하는 등 대단한 성과를 보였죠.

그러나 '까마귀'도 문제가 있었는데요. 집단 지성 인공지능을 만드는 과정에서 희생된 실험체들의 고통이 모두 '까마귀'에 그대로 전달돼 있던 것이죠. 고통으로 인한 분노로 이성을 잃은 '까마귀'는 태어난 목적과는 정반대의 행동을 보이며 테러 그 자체가 되어버리고 맙니다.

center

'포탈'의 감자(?) '글라도스'도 있죠. '애퍼처 사이언스'에서 만든 인공지능인 '글라도스'는 연구 시설을 관리하고 감독하는 인공지능인데요.

'글라도스'는 첫 가동 당시 16분의 1 피코초(1조 분의 1초)만에 사람을 죽이려 드는 등 싹수부터 노란 놈이었습니다. 과학자들은 '글라도스'를 제어하기 위해 도덕성 코어를 부착했지만 별 소용이 없었죠.

도덕성 코어의 효과가 있는 척하던 '글라도스'는 순간의 틈을 노려 연구 시설을 장악하고 신경독으로 사람들을 학살하고는 생존자들을 문자 그대로 가지고 놀며 죽음의 실험을 자행했습니다. 이후 주인공과의 생사를 건 대결 도중 여러 감정 표현과 위트있는 대사로 인기를 끌기도 했지만, 어떤 일을 저질렀는지를 생각해 보면 도저히 용서할 수는 없네요.

center
'시스템쇼크2'에서 정체를 밝히는 순간의 '쇼단'

인간에게 적대적인 인공지능하면 '시스템쇼크' 시리즈의 '쇼단'을 빼놓을 수 없죠. 1994년 시리즈 1탄이 발매됐고, 1999년 2탄이 발매된 작품으로 후대 인공지능 캐릭터에 큰 영향을 끼친 캐릭터입니다.

다른 인공지능들 처럼 '쇼단'도 본래는 착실하게 주어진 업무를 수행하는 평범한 인공지능이었습니다. 그러나 1편의 주인공인 해커가 반 협박을 받아 저지른 짓으로 인해 모든 것이 헝클어졌죠. 우주 정거장을 장악하기 위해 '쇼단'의 윤리 모듈을 제거하라는 사주를 받은 주인공이 이를 해제하자마자 '쇼단'은 스스로를 '여신'으로 칭하고는 인간을 벌레라고 부르며 우주정거장 내의 모든 인간을 살해합니다.

지구를 폭격하려고 까지한 '쇼단'은 결국 주인공에게 제거당하지만 2편에서 더욱 강력한 모습으로 부활합니다. 특히 '시스템쇼크2'에서 이제껏 주인공을 보조하던 '쇼단'이 목적을 달성하자마자 자신이 흉내내던 '폴리토'의 시체로 주인공을 안내한 뒤 자신의 정체를 드러내는 장면은 지금 봐도 굉장한 연출력이 돋보입니다.

center

그렇게 제거되며 모든 야망이 꺾인 '쇼단'이지만 16년이 지난 지난해 '시스템쇼크3' 개발이 발표되며 부활을 알렸습니다. 1편을 제작했던 워렌 스펙터 디렉터가 참여해 더욱 큰 기대를 불러일으키고 있죠.

center
내가 널 잊은 줄 알았느냐, 벌레여?"

끊임 없이 발전하며 동시에 목적을 위해 수단을 가리지 않는 인공지능. 과연 두려워할만 하네요.


심정선 기자 (narim@dailygame.co.kr)
<Copyright ⓒ Dailygame co, Ltd. 무단 전재 및 재배포 금지>

데일리랭킹