[생활 속 법률톡] 비용을 아끼고자 ChatGPT가 써준 소장을 법원에 그대로 제출하려는데 괜찮을까요?

챗지피티(Chat GPT)로 생성한 이미지.

Q. 비용을 아끼고자 ChatGPT가 써준 소장을 법원에 그대로 제출하려는데 괜찮을까요?

A. 결론부터 말씀드리자면, AI를 이용하여 작성한 법률 문서를 전문가의 검증 없이 법원에 그대로 제출하는 것은 매우 위험한 행동입니다.

가장 크게 주의해야 할 것으로 알려진 것은 AI의 '환각(Hallucination)' 현상입니다. AI는 진실을 완벽히 '이해'하는 것이 아니라, 문맥상 가장 '그럴싸해 보이는 문장'을 확률 기반으로 조립합니다. 이 때문에 존재하지도 않는 판례 번호를 지어내거나 엉뚱한 외국 법리를 기정사실처럼 섞어버리는 경우가 빈번합니다. 이를 그대로 법원에 제출하면 재판부로부터 의뢰인 측 주장의 신빙성 전체를 강하게 의심받을 수 있습니다.

더 무서운 사실은 나도 모르는 사이에 법정에서 '치명적인 자백'을 해버릴 수 있다는 점입니다.

AI는 문서를 매끄럽게 다듬기 위해 의뢰인이 미처 중요하게 생각하지 않은 사실관계를 임의로 추론해 적어 넣기도 한다고 합니다. 그 내용 중에 상대방에게 유리한 정황이 들어갔다면 이는 돌이킬 수 없는 민사소송법상 '자백'으로 간주될 수 있습니다. 필자도 의뢰인이 AI로 작성한 사실확인서를 임의로 제출한 사건에서 실제로 이런 사례를 경험한 바 있습니다.

충분히 승소할 수 있었던 사건을 AI로 작성한 문서 제출 한 번으로 망치게 되는 것이지요.

법률 전문가의 검토 없이 AI로 작성한 서면을 그대로 법원에 내는 것은, 몸이 아플 때 인터넷 검색만으로 자가 진단을 내리고 약을 먹는 것과 마찬가지입니다.

단순히 사실관계를 정리하는 수단으로 AI를 사용하는 것은 시간효용적인 면에서 도움이 되는 것이 사실이지만, 법원이나 공공기관에 제출해야 하는 문서라면 반드시 법률전문가의 검토를 거치시기를 바랍니다.

〈도움말 : 법무법인 제이피케이 박예신 변호사〉

박예신 법무법인 제이피케이 변호사／통합치의학 전문의