토지수용 보상금을 놓고 지방자치단체와 소송전을 벌이는 주민 측 법률대리인인 A 변호사는 최근 재판 과정에서 “토지수용위원회의 재결 절차를 거치지 않아도 법원에 직접 손실보상금 지급을 구하는 소송을 낼 수 있다”고 주장했다. 그러나 A 변호사가 근거로 제시한 판결은 실제로 존재하지 않는 판례였다. 인공지능(AI)이 생성한 서면의 허위 판례를 검토 없이 재판부에 제출한 것이다.
이처럼 AI가 만든 ‘유령 판례’가 법원이나 수사기관에 버젓이 제출돼 혼란을 일으키는 사례가 늘고 있다. 법원은 ‘할루시네이션’(AI가 사실과 다른 내용을 만들어내는 환각) 자료 제출을 막기 위한 대책 마련에 나섰다.
헌법재판소와 수사기관도 골머리를 앓고 있다. B씨는 작년 말 본인은 사기 사건 피해자인데 국가기관의 소극적 대처로 기본권을 침해당했다며 헌재에 헌법소원을 냈다. 헌재는 “(B씨가) 법원의 재판을 다툰다고 하면서 ‘2024고약9407’을 사건번호로 기재했는데 이는 존재하지 않는 번호”라며 B씨의 청구를 기각했다. 청주지방검찰청은 직장 내 괴롭힘 사건을 수사하던 중 사건 관계자 C씨가 허위 판례를 고용노동청에 제출한 사실을 확인했다. 판례 내용이 C씨 사건과 지나치게 흡사해 실제 존재 여부를 확인했는데 가짜로 드러났다.
변호사들의 고충도 커지고 있다. “AI는 아니라는데요?”라고 말하는 의뢰인이 늘었기 때문이다. D 변호사는 주거침입을 당했다며 찾아온 의뢰인에게 주거침입과 더불어 협박·재물손괴 혐의도 적시해 상대방을 고소하자고 제안했다. 그런데 며칠 후 의뢰인이 “AI가 재물손괴죄 등도 넣으면 주거침입마저 불송치 위험이 크다고 했다”고 우려하는 바람에 그를 설득하는 데 적지 않은 시간을 써야 했다. D 변호사는 “‘왜 AI처럼 빠르게 서면을 작성하지 못하느냐’고 질책하는 의뢰인도 있다”고 전했다.
임화선 법무법인 동인 변호사는 “의뢰인들이 듣고 싶은 방향으로 AI에 질문을 하니 그에 맞는 답을 받는다”면서 “실제론 AI의 답변이 상황에 맞지 않거나 부정확한 경우가 많다”고 말했다.
다만 법원도 AI는 거스를 수 없는 시대적 흐름이라고 보고, AI 활용 방안을 고심하고 있다. 대법원 법원행정처는 161억원의 예산을 들여 ‘재판지원 AI 시스템’을 개발·운영 중이다. 현재는 재판자료 요지 정리 및 쟁점 분석 등의 서비스를 제공하고 있다. 법원행정처는 내년 5월께 새로 접수된 사건에 대한 검토·분석 기능과 판결문 작성의 참고자료로 사용될 수 있는 검토보고서 작성 기능 등을 추가할 예정이다. 판결문이나 당사자가 제출하는 서면 등엔 개인정보가 포함돼 있어 법관이 챗GPT나 제미나이, 클로드 같은 범용 AI를 자유롭게 활용하는 데 한계가 있다.
변호사들은 이미 AI를 활발히 사용하고 있다. 로앤컴퍼니가 2024년 7월 출시한 법률 AI 서비스인 ‘슈퍼로이어’의 가입자는 올해 6월 3만5000명(누적)을 돌파했다. 다만 AI의 활용도가 커지고 있는 데 대한 불안감도 크다. 기존에 저연차(어쏘) 변호사가 맡던 서면 작성이나 판례 검색 등 업무를 AI가 맡게 되면서, 청년 변호사의 구직 문턱이 높아지고 있기 때문이다. 노종언 법무법인 존재 대표변호사는 “저연차 변호사가 10시간 걸려 하던 일을 AI는 1~2시간 만에 해낸다”며 “내년에는 AI가 나보다 더 잘할 것 같다”고 했다.
임민규 기자 jessimg@hankyung.com
이처럼 AI가 만든 ‘유령 판례’가 법원이나 수사기관에 버젓이 제출돼 혼란을 일으키는 사례가 늘고 있다. 법원은 ‘할루시네이션’(AI가 사실과 다른 내용을 만들어내는 환각) 자료 제출을 막기 위한 대책 마련에 나섰다.
◇‘유령 판례’ 세 건 제출한 원고
2일 법조계에 따르면 서울북부지방법원 민사15단독 재판부는 최근 원고가 네 건의 잘못된 판례를 제출한 사실을 확인했다. 원고는 오래전 발생한 대출금 채무의 강제집행을 막아달라며 ‘대법원 2001다43797’, ‘대법원 2007다20234’, ‘대법원 2017다216526’ 등의 판례를 참고 자료로 냈다. 그러나 재판부가 살펴본 결과 모두 존재하지 않는 사건번호였다. 또한 소멸시효 중단 관련 판례라며 제시한 ‘대법원 2015다207747’는 전혀 다른 내용의 판결문이었다.헌법재판소와 수사기관도 골머리를 앓고 있다. B씨는 작년 말 본인은 사기 사건 피해자인데 국가기관의 소극적 대처로 기본권을 침해당했다며 헌재에 헌법소원을 냈다. 헌재는 “(B씨가) 법원의 재판을 다툰다고 하면서 ‘2024고약9407’을 사건번호로 기재했는데 이는 존재하지 않는 번호”라며 B씨의 청구를 기각했다. 청주지방검찰청은 직장 내 괴롭힘 사건을 수사하던 중 사건 관계자 C씨가 허위 판례를 고용노동청에 제출한 사실을 확인했다. 판례 내용이 C씨 사건과 지나치게 흡사해 실제 존재 여부를 확인했는데 가짜로 드러났다.
변호사들의 고충도 커지고 있다. “AI는 아니라는데요?”라고 말하는 의뢰인이 늘었기 때문이다. D 변호사는 주거침입을 당했다며 찾아온 의뢰인에게 주거침입과 더불어 협박·재물손괴 혐의도 적시해 상대방을 고소하자고 제안했다. 그런데 며칠 후 의뢰인이 “AI가 재물손괴죄 등도 넣으면 주거침입마저 불송치 위험이 크다고 했다”고 우려하는 바람에 그를 설득하는 데 적지 않은 시간을 써야 했다. D 변호사는 “‘왜 AI처럼 빠르게 서면을 작성하지 못하느냐’고 질책하는 의뢰인도 있다”고 전했다.
임화선 법무법인 동인 변호사는 “의뢰인들이 듣고 싶은 방향으로 AI에 질문을 하니 그에 맞는 답을 받는다”면서 “실제론 AI의 답변이 상황에 맞지 않거나 부정확한 경우가 많다”고 말했다.
◇‘재판지원 AI’ 개발 나선 법원
AI 활용도가 높아질수록 재판부의 부담도 커지고 있다. 수도권 지방법원의 한 판사는 “AI의 도움을 받아 수십~수백 쪽의 서면을 제출하는 당사자가 늘고 있는데, 부정확한 판례나 법령이 없는지 일일이 확인하는 건 재판부의 몫”이라고 털어놨다. 이에 법원행정처는 올해 3월 말 재판부가 허위 법령을 인용해 소송을 지연시킨 당사자에게 소송 비용의 전부 또는 일부를 부담할 수 있도록 하는 대책을 내놨다. 또한 변호사가 허위 판례 등을 제대로 검증하지 않고 제출하면, 재판부가 재량에 따라 대한변호사협회에 징계를 의뢰할 수 있도록 했다.다만 법원도 AI는 거스를 수 없는 시대적 흐름이라고 보고, AI 활용 방안을 고심하고 있다. 대법원 법원행정처는 161억원의 예산을 들여 ‘재판지원 AI 시스템’을 개발·운영 중이다. 현재는 재판자료 요지 정리 및 쟁점 분석 등의 서비스를 제공하고 있다. 법원행정처는 내년 5월께 새로 접수된 사건에 대한 검토·분석 기능과 판결문 작성의 참고자료로 사용될 수 있는 검토보고서 작성 기능 등을 추가할 예정이다. 판결문이나 당사자가 제출하는 서면 등엔 개인정보가 포함돼 있어 법관이 챗GPT나 제미나이, 클로드 같은 범용 AI를 자유롭게 활용하는 데 한계가 있다.
변호사들은 이미 AI를 활발히 사용하고 있다. 로앤컴퍼니가 2024년 7월 출시한 법률 AI 서비스인 ‘슈퍼로이어’의 가입자는 올해 6월 3만5000명(누적)을 돌파했다. 다만 AI의 활용도가 커지고 있는 데 대한 불안감도 크다. 기존에 저연차(어쏘) 변호사가 맡던 서면 작성이나 판례 검색 등 업무를 AI가 맡게 되면서, 청년 변호사의 구직 문턱이 높아지고 있기 때문이다. 노종언 법무법인 존재 대표변호사는 “저연차 변호사가 10시간 걸려 하던 일을 AI는 1~2시간 만에 해낸다”며 “내년에는 AI가 나보다 더 잘할 것 같다”고 했다.
임민규 기자 jessimg@hankyung.com
관련뉴스
