[책] 알고리즘이 지배한다는 착각

데이비드 섬프터 지음/ 전대호 옮김/ 해나무 펴냄

출처 클립아트코리아

"어떻게 알았지?" 인스타그램과 페이스북, 유튜브에 접속하자 내가 요즘 관심있는 분야, 사고 싶은 것, 친구와 얘기했던 연예인의 근황 정보가 자연스럽게 눈에 띈다. 음악앱은 내 기분에 딱 맞춘 노래들을 자동으로 골라 리스트를 내놓고, 쇼핑앱은 생필품을 사야할 때가 됐음을 주기적으로 알려준다.

이 쯤되면 누구든 한 번씩은 생각해봄직하다. 알고리즘이 우리를 분석하고, 우리에게 영향을 미치며, 언젠가 우리의 사고를 조작할 것이라는 '알고리즘 디스토피아' 시나리오 말이다.

알고리즘이 낳은 막연한 공포는 사회적으로 확장되면서 억측과 오해를 낳기도 한다. '페이스북은 우리를 통제하고 있다', '트럼프의 당선은 가짜뉴스로 조작된 것이다', '인간의 지능을 완벽히 모방한 인공지능이 결국 인간을 대체할 것이다' 등의 얘기들이 대표적이다.

스웨덴 웁살라대학 응용수학과 교수인 데이비스 섬프터는 이같은 생각들에 정면으로 맞선다. 알고리즘이 인간을 지배하고 있다는 통념을 수학적으로 해부해, 알고리즘을 향한 공포가 과장된 것임을 주장한다.

그 중 하나는 페이스북이 우리를 완벽히 파악하고 있으며, 그 정보를 이용해 우리를 조작하려 든다는 것에 대한 과학적인 반박이다.

2012년, 언론에서는 페이스북이 우리의 감정을 조작할 수 있다는 연구 결과를 대서특필했다. 하지만 그 기사들이 기초한 연구 결과를 자세히 살펴보면, 겁을 먹을 필요가 전혀 없다는 사실을 알게 된다.

해당 연구는 페이스북 소속의 데이터 과학자 애덤 크레이머가 미국 코넬대 연구진과 페이스북이 개인의 감정에 얼마나 영향을 주는지 알아보는 실험이다. 이들은 페이스북 이용자 11만 5천 명의 뉴스피드에서 긍정적 게시물을 최소 10%에서 최대 90%까지 빼고, 부정적 게시물을 평소보다 더 많이 배치했다.

그 결과 부정적 게시물을 더 많이 읽은 이용자가 사용한 긍정적 단어의 비율은 대조군에 비해 불과 0.1% 적었다. 하루에 약 100단어를 페이스북에 게시한다고 가정하면, 열흘간 게시하는 모든 단어 중 긍정적 단어의 개수가 딱 하나 줄어든다는 의미다. 이를테면 어떤 영화를 본 뒤 '좋았다'고 하는 대신 '나쁘지 않았다'고 하는 정도다.

즉, 통계적으로 유의미하긴 하지만 실제 삶에 미치는 효과는 아주 미미한 수준이라는 점을 간과하고 알고리즘의 위험을 과대평가한 셈이다.

지은이는 인간의 인지능력을 복제한 범용 인공지능이 인간을 대체할 것이라는 전망 또한 실제 연구 현황을 고려하면 아무런 근거가 없는 사변이라는 점도 지적한다. 두뇌의 신경세포 구조를 모방한 알고리즘 '인공 신경망'은 바둑과 같은 몇몇 게임에서 기술적인 성과를 보였지만, '미즈 팩맨'과 같이 참을성을 필요로 하는 게임에서 인공지능의 점수는 프로게이머의 12%에 불과했다.

지은이는 게임의 원리를 밑바닥부터 학습하는 능력은 여전히 인간이 훨씬 더 뛰어나다고 강조한다. 인간의 언어를 모방하는 언어 알고리즘의 경우 몇 문장을 그럴싸하게 말해 깜짝 놀랄 결과를 보여줬지만, 자신이 하고 있는 대화의 내용을 기억하는 데 한계가 있어, 방금 말한 문장 속의 대명사가 무엇을 가리키는지도 제대로 파악하지 못했다.

현재 최고 수준의 인공지능을 박테리아에 비유하는 내용도 신선하다. 개, 벌, 예쁜꼬마선충, 미생물 등 다양한 생물과 인공지능의 인지 능력을 비교한 결과, 인공지능이 최고 성능일지라도 대장균과 같은 박테리아 수준에 불과하다는 결론이다. 박테리아가 번식 등을 위해 주변 상황에 적응해나가는 것처럼, 인공지능도 다양한 입력 신호들에 반응해 상황에 맞춰나가는 능력까지가 전부라는 것이다.

지은이는 강조한다. 알고리즘들은 우리가 해야 하는 하찮은 일들을 줄여줄 잠재력을 지녔지만, 인간과 유사한 행동은 하지 못할 것이라고. 알고리즘에 둘러싸여 살아가는 우리들이 낙관적 지배와 비관적 지배, 그 사이에서 어떤 시각으로 미래를 맞이해야 할 지를 생각하게 해주는 책이다. 400쪽, 1만8천원.