[세풍-강민구] 2,500년 전 '제비뽑기'의 예언

강민구 경북대 한문학과 교수

중국 춘추시대의 사상가 문자(文子)는 "신의가 있는 사람에게 재물을 나누게 하는 것이 원칙을 정한 뒤에 제비를 뽑아 나눠 주는 것만 못하다"라고 전제하고, 그 이유로 "마음먹고 공평하게 하는 것이 의도 없이 공평하게 하는 것만 못하기 때문이다"라고 하였다.

아무리 신의가 두터운 인간이라도, 주관이 개입하는 순간 공평은 무너진다. 차라리 무작위성의 법칙을 적용하는 '제비뽑기'가 인간의 신의보다 더 정당한 결과를 낳는다는 문자의 통찰은 2천500여 년이 지난 오늘날 AI 시대의 본질을 꿰뚫는 예언적 경구(警句)로 부활한다. 인간은 '인지적 한계'와 '내재적 편향'을 가진 존재이기에 완전한 공평함을 지켜내기 어렵다. 인간은 자신이 속한 집단에 관대하고, 자신의 신념에 부합하는 정보만 선택하며, 눈앞의 이익에 감정이 흔들린다. 심지어 피로도나 굶주림 같은 사소한 생체 리듬조차 판단에 영향을 미친다.

이처럼 인간의 불완전한 이성 탓에 불공평 시비가 끊이지 않는 영역이 있으니 바로 사법 재판, 기업의 채용과 인사 평가, 대입 수시 모집 전형이나 예술·체육계의 심사와 판정이다. 대중은 "판정의 기준이 무엇이냐?"라며 분노하고, 탈락자는 결과에 승복하지 못한다.

이러한 문제 속에서 AI는 문자가 말한 '의도 없는 공평'을 실현할 대안으로 주목받고 있다. AI는 방대한 데이터를 순식간에 분석하여 일관된 규칙을 적용한다. 그것은 피로를 느끼지 않으며, 청탁을 받지도 않고, 학연이나 지연에 얽매이지도 않는다. 기계적 일관성과 신속성은 분쟁을 줄이고 행정적 효율성을 극대화한다.

그러나 기계적 공평을 추구하는 AI 역시 인간 사회의 고질적 모순을 투영한다. 우선 '편향의 재학습 문제'가 있다. AI는 인간이 만든 과거의 데이터를 먹고 자란다. 과거의 재판 기록이나 채용 데이터에 인종·성별·출신에 대한 차별이 녹아 있어도 AI는 이를 '공평한 법칙'으로 오인하고 학습한다. 다음으로 '블랙박스(불투명성) 문제'가 있다. 딥러닝 알고리즘의 결과 도출 과정은 인간이 그 인과관계를 역추적하기 어렵다. 불공평 시비를 없애려고 도입한 AI가 도리어 "왜 이런 결과가 나왔는가?"라는 의문에 설명하지 못하는, 또 다른 불공평의 거대한 벽이 되는 셈이다.

그렇다면 이 딜레마를 어떻게 해결해야 할까? AI라는 공평한 '제비뽑기'가 진정한 효용을 발휘하기 위해서는 세 가지 대안이 필요하다.

첫째, '데이터의 윤리적 정제와 감시 체계'의 제도화다. AI에 데이터를 입력하기 전, 기존의 고정관념이나 사회적 편향이 반영된 변수를 철저히 필터링해야 한다. 또한 AI의 판단 결과를 상시 모니터링하고 알고리즘의 공평성을 검증하는 'AI 청문회'나 '윤리적 감사 시스템'이 의무화되어야 한다.

둘째, '설명 가능한 AI' 기술의 고도화다. AI가 어떤 가중치를 두고 판단했는지 그 경로를 인간이 이해할 수 있는 언어로 설명할 수 있도록 기술적 보완이 이루어져야 비로소 피평가자가 결과에 승복할 수 있는 '절차적 공평성'이 완성된다.

셋째, '인간과 AI의 이원화된 협업 시스템' 구축이다. AI에 최종적 재판관이나 인사권자의 지위를 부여해서는 안 된다. AI는 주관적 편견을 제거하고 객관적 지표를 추출하는 '필터'이자 '보좌관' 정도로 활용되어야 한다. 최종 결정은 맥락을 이해하고, 눈물과 참회를 읽어내며, 사회적 가치를 종합적으로 판단할 수 있는 인간의 성찰적 이성이 맡아야 한다.