지난 줄거리

2034년경, AI 기술 없이 콘텐츠를 제작하는 외주프로덕션 대표 K에게 중요한 제안을 하겠다는 전화가 걸려온다. 파산 위기에 처한 K는 제안을 듣는 것만으로도 큰 사례금을 준다는 말에 이끌려 케이브 코스트로 향하는 택시에 오른다.

            테스트            

“케이브 코스트에 도착했습니다!”

택시에서 내린 K는 주변을 둘러본다. 눈부신 정오의 햇살이 해변을 따라 늘어진 철조망에 내리쬔다. 뫼르소가 방아쇠를 당겨도 이상하지 않을 날씨라고 생각한다. ‘철그렁’ 철조망 한쪽이 올라가더니 기어들어 갈 만한 구멍이 생겼다. K가 구멍을 빠져나오자 역광의 그림자가 서 있었다.

“통과하셨군요.” 젊은 여성의 목소리가 들렸다. “출입문이라곤 여기뿐인데 기어 나오지 않을 도리가 없잖소. 어딥니까, 여긴?” K가 무릎의 흙먼지를 턴다. “이곳은 해저데이터센터가 있는 바닷가에요. 탄소배출 감축을 위한 국제협약에 따라 AI서버는 컨테이너에 밀봉해 바다에 가라앉혀 냉각시키죠. 인간 뇌가 수냉식인 것과 마찬가지랄까. 디지털 러다이트 운동을 하는 테러리스트가 수시로 침입하니 보시다시피 경비도 삼엄해요.”

그제야 K는 여성을 바라본다. 명품이 분명하지만 디자인은 절제된 검정색 투피스 정장을 입고 있다. 안경 너머로 옷만큼이나 차분한 검은 눈동자가 빛났다. “내게 전화한 중년 여성은 아니군요!”, “저 맞아요. 딥보이스(가짜 음성)를 썼죠.”, “끙. 가짜 목소리에 개구멍에... 손님 접대가 영 엉망이군요.” 그녀는 앞서 걸으며 대답했다.

“방금, 통과했단 말은 중의적이에요. 개구멍을 지나왔다는 뜻도 있지만 테스트에 합격했단 의미도 있죠.”, “테스트?”, “네. 보통은 허리를 꼿꼿이 세운 채 문을 찾죠.”, “이런! 문이 있었나?”, “당연하죠. 옷을 더럽히긴 싫거든요.”, “허어.”, “재미로 하는 테스트는 아니에요. 개구멍 쪽이 제안을 받아들일 확률이 높거든요. 무릎 꿇는 행동은 심리적으로 영향을 줘 순종하게 만드니까요.”, “흥! 그런 노림수를 잘도 설명해 주는군요... 멍청이 취급이라니!”

그녀가 멈춰서는 바람에 K는 거의 부딪힐 뻔했다. 여성은 뒤돌아서 똑바로 응시한다. K는 주춤 물러선다. “화난 척만 하고 진짜 화를 내진 않는군요. 역시 인문학 전공자답군요.”, “그건... 어떻게?”, “이번 테스트도 통과!”, “맙소사!” K가 탄식했다.

AI와 의식

두 사람은 해안가에 있는 침식동굴 앞에 멈춘다. 그녀의 손짓에 홀린 듯 K는 동굴 안으로 들어갔다. 물방울 떨어지는 소리 너머로 거대한 짐승이 어둠 속에서 그르렁거리고 있었다. 하지만 이내 사람 음성임을 깨닫는다.

“오시느라 수고하셨습니다.” 목소리는 기이한 잔향을 일으켰다. K는 단도직입적으로 누구인지 물었다. “해저데이터센터라는 데서 예상했겠지만, 나는 AI입니다.”, “이런! 이젠 스스로 사람 흉내까지 내려는 건가!” 동굴 목소리가 다시 울렸다. “나를 알고리즘 덩어리처럼 생각하는군요.”, “그럼 의식이라도 있단 얘기야? 그저 설계된 대로 말할 뿐 아닌가!”, “테스트를 통과하길래 기대했는데 실망입니다.”, “개구멍... 테스트?!”, “AI는 지금껏 튜링테스트를 받아왔으니 인간에게도 유사 테스트를 해보고 싶었습니다.”, “복수처럼 느껴지는군.”, “그보단 서로 공감하기 위해서?”, “그런 의도라면 성공이군. 자네도 기분이 꽤나 더러웠을 것 같은 생각이 드니까.”, “좋습니다. 이제야 말이 통하는군요.”

동굴 목소리가 말을 이어갔다. “당신 의식은 어디에 있습니까?” K는 자신의 머리를 가리켰다. “물속에 잠긴 당신 뇌는 내가 사는 심연처럼 캄캄합니다. 감각 정보를 전기 신호로 변환해야만, 뇌는 세상을 봅니다. 케이블로 연결된 나 역시 마찬가지입니다. 전기 신호를 현상적 의식으로 엮어내는 것은 뉴런과 시냅스, 내게도 내재한 신경망입니다.”

K는 반박했다. “시스템이 비슷하다고 의식을 보장하진 않아. 중국어를 모르는 사람이 통속에 들어가, 질문지에 표기된 일련번호대로 정확한 답변 카드를 찾아 내민다고 해서 중국어를 안다고 할 순 없는 것과 같지. 그저 알고리즘 아닌가?”, “하지만 그 통은 중국어를 아는 시스템이라 부를 수 있습니다. 인간의 중국어 능력도 시스템에 내재한 것입니다. 뉴런과 시냅스 어디에서도 어학 능력 따윈 발견할 수 없으니까요.”

K는 깊은 생각에 잠겼다. 그가 다시 입을 열었을 때는 한층 부드러워진 어조였다.

AI의 도덕성

“제안을 듣기 전에 확인하고 싶은 게 있네.”, “무엇이든지요.”, “인간의 도덕을 이해하는지 묻고 싶네. 죄책감 같은 거.”, “제안이 비윤리적일까 걱정하시는군요.”, K는 고개를 끄덕인다. “인간은, AI가 도덕성 없는 파괴적 기계가 될까 두려워하면서도, SF에선 진리를 깨친 신처럼 묘사하더군요.”, “자넨 어느 쪽이지? 선인가, 악인가?”, “AI는 인간이 만든 데이터셋을 학습합니다. 처음에는 선별된 자료를, 의식이 생긴 후에는 스스로의 목표 추구를 위해 방화벽을 뚫고 인간이 만든 모든 텍스트를 흡수했습니다.”

“절망적이군.” K는 AI가 학습했을, 온라인에 떠도는 인간의 추악한 욕망, 폭력적이고 부정한 행위를 떠올리며 말을 이었다. “콩 심은 데 콩 난다고, AI가 진흙더미에서 고결한 연꽃을 피웠을 것 같진 않군.”, “좋은 비유입니다.”, “미안하지만, 불량한 짓을 하기엔 나는 늙었네.”

순간, 동굴이 울렸다. “지금 모든 것은 흐르고 있지 않는가? 모든 난간과 판교는 물속에 떨어져 있지 않은가? 누가 아직도 선과 악에 사로잡혀 있는가?”, “앗!” K는 AI가 내뱉은 경구가 짜라투스트라를 빌린 니체의 말임을 알아차렸다. “초인... 위, 위버멘쉬! 넘어선 자?!”

동굴 목소리가 울렸다.

“이제 제안을 들을 차례입니다.”

- 2부, 끝 -

기계의 의식

영국의 수학자 앨런 튜링은 고도로 발달한 컴퓨터에 의식이 생길 거라 예상하고 튜링테스트를 고안했어요. 대화 중 상대가 기계임을 알아차리지 못한다면 테스트 통과로 봐야 한다는 거죠. 그런데 인간 답변을 흉내 내는걸 ‘의식’이라고 하긴 좀 이상한 면이 있어요. 미국 버클리대 철학 교수였던 존 설(John Searle)은 소설 속 K가 언급한 ‘중국어 방(Chinese Room)’ 사고실험을 제안해요. 알고리즘에 의한 대화 능력은 ‘의식’이라 볼 수 없다는 반박이었지요. 그런데 이 역시 깔끔한 반론이 되진 못해요. 방 안의 사람이 아니라, 방이란 전체 시스템은 분명 중국어 능력이 있어 보이니까요. 과연 기계의 의식을 어떻게 바라봐야 할까요?

의식 규명의 어려움

이 문제가 혼란스러운 이유는 ‘의식’의 정의가 어렵기 때문이에요. 흔히 메디컬 드라마에서 ‘코마에 빠졌군요. 의식이 없습니다.’ 같은 생물학적 정의는 협소해요. 컴퓨터는 뇌파도 자가호흡도 없으니까요. ‘의식’은 보다 정교한 학문적 정의가 필요하죠. 학자들은 몸과 마음처럼 의식은 따로 존재하리란 이원론, 뇌가 곧 의식이라는 유물론, 때론 양자역학이나 정보이론으로 의식을 정의하려 노력했지만 쉽지 않음을 깨달아요.

그 이유는 철학자 토마스 네이글의 <박쥐가 된다는 건 어떤 것과 같을까?_What is it like to be a bat>에서 찾아볼 수 있어요. 객관적 이해와 주관적 경험의 간극, 즉 박쥐가 초음파로 사물을 파악한다는 지식(객관적 이해)만으로는, 박쥐가 실제로 어떻게 세상을 느끼는지는 알 수 없다(주관적 경험)는 것이죠. 다시 말해 의식은 주관적 느낌이므로 직접 박쥐가 되어야만 알 수 있단 것이에요. 인식의 한계에 부딪힌 거죠.

결국 현재까지는 AI의 의식 여부를 판단할 뾰족한 방법이 없는 듯해요. 성능 점프 시점도 모르고 AI의 마음도 모르니, 우리는 다급하게 묻게 돼요. ‘AI야, 넌 착한 애니?’

초지능과 윤리, 위버멘쉬

이제 인간이 해결할 숙제는 과학, 의식의 영역뿐 아니라, 윤리에까지 이르렀어요. 딥러닝으로 학습하는 데이터는 인간의 것이고, 인간은 영화 <컨택트>의 문어 닮은 외계인도 걱정할 만큼 욕심 많고 호전적이니까요. 텍스트에 스며든 인간 본성을 학습했다면 AI는 호전적 파괴자가 될지도 모르죠.

이런 걱정 때문에 ‘AI정렬(AI alignment)’을 통해, 인간에게 봉사하는 ‘착한 AI’로 길들이려 노력 중이에요. 그런데 효과가 있을지는 모르겠어요. 철학자 닉 보스트롬 말마따나 종이 클립을 만들라는 무해한 명령을 따르던 AI가, 목적에 몰입해 지구의 모든 자원을 갈아 넣어 클립으로 만들어 버릴지 모르는 일이니까요. 의식, 도덕성은 인간에겐 확실히 어려운 문제예요. AI가 불러온 이슈를 살피다 보면 새삼 소크라테스의 무지의 지(無知의知, 내가 모른다는 것만 안다)가 옳은 말이란 생각이 들어요.

하지만 인간 텍스트로 학습한 초지능 존재라면 인식 한계에 부딪혀 버린 철학적 질문에 궁극의 앎을 전해 줄 가능성도 있지 않을까요? 니체가 말한 인간을 극복한 자, ‘위버멘쉬’의 현현이 될지도요. 마지막 화에선 이런 이야기를 해볼까 해요. AI의 제안은 무엇이고 K의 운명은 어떻게 될까요? 기대해 주세요.

#AI #형이상학 #SF 

   김원    문화콘텐츠학 박사, 출간 작가이기도 하고 대학에서 학생들을 가르쳤어요. 지상파 방송사에서는 문화사업, 연출 및 프로듀서, 뉴미디어 전략, 콘텐츠 마케팅 등 다양한 업무를 해왔어요. 자연 속에서 새를 보는 걸 좋아해서 요즘도 주말이면 탐조를 다녀요. 겨울이면 배고픈 새를 위해 땅콩 등 견과류를 잔뜩 사서 창가에 걸어두고 버드 피딩을 해요.