AI 알고리즘이 만든 '확증편향', 생각의 시야를 좁힌다

알고리즘이 이용자 선호 판단…취향에 맞는 콘텐츠만 자동 추천
한쪽으로 치우친 정보만 제공…정치적 의지 가지고 이용하면 민주주의 위협하는 결과 초래

17일 서울 강남구 코엑스에서 열린 산업박람회 '대한민국 4차 산업혁명 페스티벌 2020'에서 참관객이 AI 돌봄 로봇 등을 살펴보고 있다. 연합뉴스

자신의 정치성향을 '중도'라고 생각하는 30대 직장인 A씨는 60대 중반의 부모님과 정치 관련 주제로 설전을 벌이기 일쑤다. A씨는 "유튜브가 잘 안된다"며 스마트폰을 좀 봐달라는 어머니의 유튜브 추천 영상 목록을 보고서야 왜 부모님과 그토록 말이 안 통했는지 이유를 알게 됐다. 하나같이 보수 논객들의 유튜브 영상만 추천돼 있었던 것. 어머니가 친구의 추천으로 본 유튜브 영상 하나 때문에, 유튜브 추천 알고리즘은 어머니에게 보수 논객들의 유튜브 영상만 추천해 놓은 것이었다. A씨는 "다른 목소리나 시각은 전혀 볼 수 없었다"며 "이러니 어머니와 이야기할 때 다른 생각이 들어갈 틈이 없었던 것 아니겠느냐"고 말했다.

알고리즘=어떤 문제를 해결하기 위한 절차, 방법, 명령어들의 집합.

인공지능(AI) 기술이 발전하면서 정보를 편리하게 제공받을 수 있을 것이란 장밋빛 미래가 점점 어두워지는 현상이 발견되고 있다. AI 알고리즘이 이용자 선호를 스스로 학습하고 판단한다는 것이 한 쪽으로 치우친 정보만 제공하는 결과로 이어져 오히려 폭넓은 사고를 제한한다는 지적이 일고 있다.

◆ 알고리즘이 민주주의를 위협한다?

AI의 추천 알고리즘에 대한 불안감은 뉴스 소비자들에게서 두드러진다.

방송통신위원회와 정보통신정책연구원이 지난 5월 지능정보서비스에 대한 이용자의 사용경험과 태도 등을 조사한 '지능정보사회 이용자 패널조사'에 따르면 뉴스 이용자 중 80%는 자동추천 서비스의 결과가 내 취향 또는 뉴스 이용목적에 적합하다며 만족감을 나타냈다. 하지만 이로 인해 본인의 사고나 가치관이 편향될까봐 두렵다는 의견도 57.8%에 달하는 것으로 나타났다.

이 때문에 AI 알고리즘이 민주주의를 위협한다는 지적까지 나오고 있다. 지난달 7일 서울에서 열린 '미디어 알고리즘과 민주주의'라는 학술행사에서 황용석 건국대 미디어커뮤니케이션학과 교수는 "알고리즘이 만들어내는 편향된 여론 환경과 닫힌 커뮤니케이션 구조가 우리 사회를 양분한다"고 짚었다.

즉, 인터넷 속에서 정보제공자가 이용자 맞춤형 정보를 제공하면서 걸러진 정보들만 이용자에게 제공해 편향된 정보에 갇히는 '필터 버블' 현상과 자신과 비슷한 사람들끼리만 소통하면서 편향된 사고가 강화되는 '에코 체임버' 현상이 벌어지면서 '가짜뉴스'처럼 AI 알고리즘을 정치적 의도로 이용해 민주주의를 위협할 수 있다는 것이다.

◆ 규제는 한계 있어…미디어 재교육이 필요

대부분 IT 업체들이 제공하는 뉴스 추천 알고리즘 방식은 각 업체가 '영업비밀'로 삼고 있기 때문에 정확히 알기 힘들다. 다만 SNS와 유튜브를 이용해 뉴스를 접하는 사람들이 알 수 있는 건 이용자가 한두 번 검색을 해 본 주제에 대해 알고리즘은 이를 '관심있는 주제'로 인지하고 이에 대한 컨텐츠를 집중적으로 추천해 준다는 사실이다.

알고리즘을 당장 규제하는 데는 한계가 있다. 알고리즘은 일반적으로 법으로 보호받아야 할 '영업비밀'에 해당되기 때문에 공개하기 어렵다. 설령 공개한다 하더라도 일반인이 이해하기 어려워 감시·감독 등 면에서 실효성이 떨어진다는 지적이 있다.

이 문제에 대한 대안으로 뉴스 이용자를 대상으로 한 디지털 미디어에 관한 재교육이 제시되고 있다.

박한우 영남대 신문방송학과 교수는 "알고리즘이 영업비밀로 여겨지다보니 내가 어떤 경로로 뉴스를 추천받는지 이용자들은 모르는 경우가 많다"며 "그러다보니 미디어 교육 차원에서 디지털 미디어로 제공받는 콘텐츠의 내용 뿐만 아니라 제공받는 경로에 대한 교육도 함께 이뤄져야 확증편향에 대응할 수 있다"고 말했다.

또 구글과 같은 디지털 사업자들이 알고리즘 작동 방식에 대한 책임을 져야 한다는 의견도 있다. 베키 화이트 구글 매니저는 지난 6월 AI포럼에서 "구글은 머신러닝의 편향이 사회적인 문제와 결부됐다는 점을 인지하고 머신러닝 개발자에게도 사회적인 맥락에서 시스템을 개발하도록 교육한다"고 밝히기도 했다.

※알고리즘=어떤 문제를 해결하기 위한 절차, 방법, 명령어들의 집합