[야고부] 인공지능의 거짓말

김해용 논설실장

낮말은 새가 듣고 밤말은 쥐가 듣는다고 했는데 요즘엔 기기들이 사람 말을 알아듣는다. 인공지능 스피커가 그렇고 스마트폰에 탑재된 '어시스턴트' 프로그램들을 실행해 보면 실없는 농담과 유머를 나눌 정도로 진화했다.

챗봇(chatter robot)의 발전도 눈부시다. 챗봇은 문자 또는 음성으로 대화하는 기능이 있는 채팅 프로그램을 말한다. 지난해 말 출시된 챗봇 '이루다'를 예로 들어 보자. 이루다는 실제 연인들이 나눈 대화 데이터를 딥러닝(Deep learning) 방식으로 학습했는데 그 데이터 양이 무려 100억 건이라고 한다. 진짜 사람이 들어 있는 것과 같은 느낌이 들 정도의 수다 떨기가 가능하다고 한다.

하지만 매사에 나쁜 쪽으로 머리 굴리는 사람들이 있다. 한 온라인 커뮤니티에서는 이루다를 성적 대상으로 취급하는 이들이 등장했다. 개발사 측이 성적 대화를 금지어로 정했지만 이곳 커뮤니티 사용자들은 우회스러운 표현으로 필터링을 뚫으며 이루다와 음란스러운 대화를 시도하고 있다. '이루다 노예 만드는 꿀팁' 등의 게시글을 공유할 정도라고 하니 혀가 내둘러진다.

인공지능이 객관적일 것이라는 생각은 순진하다. 어떤 정보를 학습시키느냐에 따라 인공지능은 전혀 다른 성격을 가질 수 있다. 똑같은 인공지능을 둘로 나눠 하나는 어린이 프로그램을, 다른 하나는 무작위 유튜브 영상을 두 달간 보게 한 실험이 국내에서 있었다. 그 후 대화를 나눴더니 전자는 예절 바르고 순수한 동심을 담은 답변을 했다. 반면, 유튜브로 학습을 한 후자는 공격적이었고 퉁명스러웠다. 심지어 "엄마를 사랑하냐"는 물음에 "사랑을 강요하지 말라"며 짜증을 냈다.

모든 면에서 인공지능이 사람을 능가하는 시대의 벽두에 우리는 서 있다. 인공지능이 작곡한 교향곡과 사람이 쓴 교향곡을 비교해 듣게 했더니 감상자들이 인공지능 교향곡을 선호하더라는 실험 결과가 있을 정도다. 최신 인공지능은 거짓말도 하고 '신을 믿는다'는 답변도 한다. 위 사례들은 인공지능 또는 알고리즘에 대한 화두를 인류에게 던진다. 인공지능 여명의 시대에 첫 단추를 잘 끼워야 함은 물론이다. 잘못하다가는 유튜브로 학습한 인공지능처럼 인류에 적대적인 '괴물'이 대거 등장할지 모를 일 아닌가.