[반갑다 새책] AI는 양심이 없다

김명주 지음/ 헤이북스 펴냄

한 대형마트가 시범 운영하고 있는 인공지능(AI) 기반 LG 클로이 안내 로봇. 연합뉴스

4차산업혁명의 핵심 키워드인 '인공지능'(AI)은 어느새 우리 곁에 바짝 다가서 있다. TV를 뜰면 AI가 접목된 가상인간들이 CF의 주인공으로 등장하고 있고, 자동차는 점차 자율주행에 가까운 AI 기계로 변모하고 있다. 식당에서조차 AI로 무장된 서빙로봇이 심심찮게 보이고 있으며, 유튜브의 AI기능은 우리의 '선호영상' 파악과 함께 '확증편향'을 부추기고 있다. 이제 AI는 우리와 함께 할 수 밖에 없는 존재로 여겨진다.

이 책은 'AI' 저 너머의 주제를 꺼내들었다. AI와 관련한 수많은 책이 그와 관련한 기술과 트렌드를 다루었다면 이 책은 AI와 윤리를 접목시킴으로써 기존 AI 책과는 뚜렷한 차별성을 갖고 있다.

지은이 김명주 서울여대 교수는 인문학 및 사회과학 전문가들과 함께 2018년 국내 처음으로 '인공지능 윤리 가이드라인'인 'Seoul PACT'를 작성한 바 있다. 지은이는 미래에 AI에게 배신당하지 않고 함께 살아가려면 어떻게 해야 할지 고민했고 그런 방법들을 '윤리'라는 단어 안에 함축했다.

인공지능은 '양심'이 없기 때문에 윤리적인 문제가 발생할 수밖에 없다. 지난해 발생한 AI 챗봇 '이루다' 사건이 대표적이다. 2020년 12월 출시된 '이루다'는 이용자들과 대화를 나누는 과정에서 인종차별적 발언과 소수자·약자에 대한 스스럼없는 혐오 발언을 서슴치 않아 큰 논란을 일으켰다.

1장 '죽음을 흔드는 AI'에서는 고인이 남긴 디지털 흔적과 디지털 유산을 통해 디지털 부활이 시작되었고 이로 인해 사후 디지털 고용과 명예훼손, 사자의 퍼블리시티권과 경제적 이득, 프로파일링과 잊힐 권리, 사망자 계정과 사후 프라이버시 등 고인의 죽음을 흔드는 AI의 문제를 다룬다.

2장 '존재를 흔드는 AI'에서는 가상 인플루언서, 가상 아나운서, 가상 가수, 아바타와 메타버스 등 존재하지 않는 존재인 가상 인간의 출현과 이로 인해 발생하는 신뢰성 문제와 디지털 윤리에 대해 논한다.

3장 '신뢰'를 흔드는 AI'에서는 이루다와 알파고부터 시작하여 왓슨, 콤파스, 버추얼휴먼, 휴머노이드, 자율주행차 등 4차 산업혁명의 핵심 신기술인 인공지능이 가져온 혁신의 이면에 드러난 차별과 편견, 의인화와 위조, 적대적 공격과 불신 등 윤리적 문제에 대한 불안과 걱정을 다룬다.

마지막 4장 '흔들림 너머 AI 바로 보기'에서는 인공지능에게 왜 윤리가 필요한지, 처음 시작 단계에서는 법보다 올바른 윤리가 먼저 형성되어야 하는지 당위성을 설명하며 구체적이고 현실적인 대안으로써 '인공지능 윤리'의 원칙과 각 분야에서 적용해야 할 윤리 기준들이 무엇인지 제시한다.

지은이는 독자들에게 "모든 구성원이 인공지능 이용에서 갖춰야 할 시각과 자세를 미리 알아둬야 한다"면서 "인공지능 시대에 나는 어떻게 생각하고 준비하며 행동해야 할까"라는 질문에 대한 밑그림을 그려보기를 제안한다"고 밝혔다. 336쪽, 1만8천800원.