[김대식의 인간 vs 기계]...인류가 존재해야 하는 이유를 증명하라

올 봄 치러진 이세돌 9단과 인공지능 '알파고'의 대결은 큰 파장을 몰고 왔다. 사람들은 인공지능의 능력이 이토록 높은 단계에 와 있다는 것에 놀랐다. 그리고 인간 중에서 가장 바둑을 잘 둔다는 이세돌 9단을 기계가 저토록 손쉽게 이길 수 있다면 내가 지금 하고 있는 일도 기계가 훨씬 더 잘할 수 있게 되는 것 아닌가라는 두려움을 갖게 됐다. 그간 수많은 공상과학(SF) 소설과 만화, 영화에서 '인간 대 기계'의 대결이 그려지고, 인간이 기계의 지배를 받거나 기계에 의해 멸종되는 어두운 시나리오가 상상됐음에도 자신감을 잃지 않았던 인류는 어쩌면 처음으로 기계에 의한 지배 또는 기계에 의한 멸종을 진지하게 두려워하기 시작한 것일지 모른다.

인류 가운데 가장 뛰어난 천재들이 매달려서 만들고 있는 인공지능은 지금 맹렬한 속도로 발달하고 있다. 이 책을 읽고 나니 당연한 일처럼 보이지만 기계에게 지능을 부여하려는 인간의 노력이 '유명론'과 실재론(실념론)'이라는 서양 철학의 오랜 전통과 맞닿아 있다는 점은 흥미로웠다.  

인간이 세상을 이해하는 것에 대한 논의는 정말 오래된 이야기입니다. 적어도 2500년 동안 인류가 고민해온 문제죠. 철학에서는 이것을 보편성 문제(universals)라고 합니다.…어떻게 인간은 강아지라는 아주 보편적인 개념을 가질 수 있을까요? 철학에서는 이 보편성 문제에 대한 해결책을 두 가지 파로 나누어서 설명하고 있습니다. 하나는 유명론(nominalism)이고 또 하나는 실념론(realism)입니다. (39~40쪽)

저자의 설명으로 유추하자면 기계에 지능을 부여하기 위한 과거의 노력은 실재론에서 출발했다. 개와 고양이의 정의, 즉 개와 고양이의 '이데아'를 기계에게 가르쳐서 다양한 형태의 개와 고양이를 기계가 인식하고 구분할 수 있도록 가르치려 했다는 것이다. 그러나 이런 노력은 실패했다. 인간 스스로가 이런 식으로 인식하지 않기 때문이다.

이렇듯 뇌는 정보를 획득하는 방법이 컴퓨터와 완전히 다릅니다. 뇌가 두개골 속에 있기 때문이죠. 컴퓨터는 정보를 가감 없이 입력합니다. 매개체를 거치지 않죠. 뇌는 사실 현실을 알 수가 없습니다. 세상을 직접 보지 못하니까요. 뇌는 눈, 코, 귀 등 오감을 통해서 들어오는 정보를 패턴화하여 저장하고 그것을 해석합니다. (93~94쪽)

서양철학 2500년의 프로젝트를 떠올려봅시다. 그 프로젝트의 핵심은 세상을 두 가지로 설명할 수 있다고 믿은 거잖아요. 기호와 규칙. 무슨 이야기냐 하면 세상에서 일어나는 현상뿐만 아니고 내 머리에서 일어나는 것을 100퍼센트 표현할 수 있는 기호들이 존재한다고 믿는 것입니다.…‘내 머리 안에서 이런 일들을 기호와 규칙으로 시뮬레이션할 수 있다면 사람하고 똑같은 지능을 만들어낼 수 있겠구나’라는 아이디어에서 시작했죠.…인공지능을 연구하는 사람들이 생각을 고쳐먹었습니다. ‘우리가 아무리 시도를 해도 설명으로는 기계가 세상을 인식하지 못하는데 사람은 분명히 할 수 있다. 그러면 우리는 어떻게 강아지와 고양이를 구별하는 걸 배웠을까?’를 먼저 생각하게 되었습니다.…따라서 우리는 현실이라는 우주에서 가장 큰 빅데이터를 통해 경험하고 학습하여 지능을 얻은 것 같습니다.…이제 사람들은 뇌가 세상을 인식하는 과정을 열심히 연구했습니다. 그리고 그 방법들이 20세기에 들어와 밝혀지기 시작했습니다. (115~117쪽)

20세기 뇌과학의 눈부신 발전으로 인간이 어떻게 인식하는지 밝혀지기 시작했다. 그리하여 알파고로 인해 유명해진 '딥러닝' 방식이 인공지능 연구에 도입됐다.

우선 딥러닝은 더 이상 인간이 기계에게 세상을 설명하지 않습니다. 세상에 관한 엄청나게 많은 데이터를 그냥 집어넣어주는 겁니다. 빅데이터가 있기 때문에 가능하겠지요. 기계는 이 엄청난 양의 데이터를 자체 인공신경망 구조를 통해 스스로 학습합니다. 무엇을 학습할까요? 이 데이터에 포함된 통계학적인 정보에 대해 점점 더 압축된 표현을 만들어내는 과정을 학습이라고 말합니다. (126쪽)

기술의 발달이 어떤 질적인 변화로 이어지는 순간인 '특이점'이 그리 멀지 않았다고 이 책의 저자는 말한다. 그리고 알파고의 가공할 지능을 보면서 인류가 느꼈던 전율과 두려움은 충분한 근거가 있다고 말한다. 문제는 인공지능의 발달에 따른 특이점이 언제 어떻게 올 지 인류가 충분히 알지 못한다는 것이다.

기술이 발전하는 과정 중 늘 걱정해야 할 부분은, 기술은 어느 한순간 기하급수적으로 증가하는 시점이 있다는 것입니다. 이를 두고 특이점이라고 부릅니다. 하지만 특이점은 나중에 알 수 있어요. 대체로 직선 형태로 성장하고 있다고 생각하기 쉽습니다. 특이점은 미래의 일이기 때문에 어디서 오는지 알 수 없죠. 우리는 과거로 미래를 예측하다 보니 현상태에서는 선형으로 증가한다고 예상하는 것이 더 일반적입니다.…인공지능 기반의 기술이 분명 특이점을 만들 것인데, 이 시점이 언제인지는 아무도 모릅니다. 확실한 것은 200년 후가 아니라 10~30년 남짓 남았다는 거죠. 하지만 우리는 여전히 일상을 즐기던 칠면조들처럼 ‘지금까지 일어나지 않았으니 앞으로도 일어나지 않을 일’이라고 착각하며 살고 있지는 않나요? (270~272쪽)

실리콘밸리 사람들이 간과하는 점은, 과거의 산업혁명이 해피엔딩으로 끝날 수 있었던 것은 인류가 19세기에 엄청난 노력을 했기 때문에 결국에 가능했다는 점입니다. 인류는 세 가지 혁신적인 노력을 했습니다. 첫째로는 프랑스에서 공교육이란 것을 시작했습니다.…둘째로 독일에서 사회보장제도를 만들었습니다. 보험제도지요. 셋째로 영국에서 세금제도가 생겼습니다.…이 세 가지 제도로 19세기 1, 2차 산업혁명은 잘 극복할 수 있었습니다. 하지만 앞으로 닥칠 산업혁명은 지금도 벌어지고 있고, 향후 20~30년 후에도 벌어질 일이지만 인류는 아직 아무 준비를 하고 있지 않다는 것이 핵심적인 문제가 아닐까요? (291~292쪽)

저자는 인공지능을 연산력과 지능이 뛰어나지만 자유의지를 갖고 있지 않은 '약한 인공지능'과 사람처럼 자유의지, 즉 정신을 갖고 있는 '강한 인공지능'을 구분한다. 그리고 전자는 기정사실이 됐지만 후자가 가능한지는 아직 모른다고 말한다. 약한 인공지능 만으로도 인류 사회는 커다란 변화를 겪을 수 밖에 없다. 그런데 만약 강한 인공지능이 등장한다면 인류는 정말로 살아남기 위한 걱정을 해야 한다. '터미네이터'가 더이상 SF 속의 이야기만은 아니게 된다는 것이다.

강한 인공지능은 현재로선 SF입니다. 가능하다는 증거도 없고 불가능하단 증거도 없습니다. (318쪽)

강한 인공지능을 이야기할 때 이 두 사람을 이야기하지 않을 수 없습니다. 스티븐 호킹과 엘론 머스크. 스티븐 호킹은 인공지능이 생기면 인류가 멸망한다고 이야기했고, 엘론 머스크는 핵폭탄보다 더 위험하다고 이야기했습니다. 이 사람들이 말하는 인공지능은 강한 인공지능입니다.…강한 인공지능이 생겼을 때 인류에게 주는 영향을 시뮬레이션을 해봤습니다. 다양한 시나리오로 시뮬레이션했어요. 구글이 만든 답, 정부가 만든 답, NGO가 정말 조심스럽게 만든 답. 모든 시나리오를 시뮬레이션해보니 결론이 항상 똑같습니다. 약간 시간적인 차이가 있지만 강한 인공지능의 모든 끝이 인류멸망입니다. (319~320쪽)

그렇다면 강한 인공지능이 현실화 됐을 때 인류가 살아남을 수 있는 길은 무엇일까? 이 책의 마지막에 던져진 아래의 질문은 정말 섬찟한 질문이 아닐 수 없다.

어쨌든 지금 있는 그 모든 시나리오를 봤을 때 강한 인공지능이 생기는 순간 인류는 가장 큰 적을 만나게 될 것입니다. 엘론 머스크와 스티븐 호킹이 말하는 인류멸망이죠. 카네기멜론대학의 앤드루 무어(Andrew Moore) 교수는 이렇게 이야기한 적도 있습니다. ‘강한 인공지능이 등장하면 인류는 멸망한다. 근데 그게 왜 나쁜가? 인류가 멸망하는 것이 왜 나쁜지 한번 설명해봐라’라고 말이죠. (338쪽)

강한 인공지능은 어차피 다 SF입니다. 하지만 약한 인공지능은 100퍼센트 실현됩니다. 앞으로 닥칠 미래가 있는데 인간이 이미 기계 같은 삶을 살고 있다면, 기계한테 100퍼센트 집니다. 결국 우리가 기계에게 이기기 위해서는 인간다운 삶을 살아야겠죠. 다시 말해, 내가 하는 일이 이미 기계 같다면 살아남을 수 없습니다. 따라서 인간이 가진 유일한 희망은 ‘우리는 기계와 다르다’입니다. 그 차별화된 인간다움을 가지고 살아가면 되지 않을까 하는 희망을 가져봅니다. (350쪽)

김대식의 인간 vs 기계 -  김대식 지음/동아시아