법정 흔드는 AI 환각·조작...각국 사법부 '비상'

[앵커]
인공지능 도입으로 인한 법조계 영향을 살펴보는 기획, 세 번째 순서입니다.

인공지능 도입으로 법조계에는 기대감뿐만 아니라, 큰 위기감도 드리우고 있습니다.

조작과 환각 현상이 만연하기 때문인데, 우리나라를 포함한 전 세계 사법부가 대응을 고심하고 있습니다.

이준엽 기자가 짚어봤습니다.

[기자]
인공지능이 만드는 정교한 '가짜'는 이미 법망을 흔들고 있습니다.

지금 보시는 화면, 지난 2월 구속 기소된 한 위조범이 법원에 냈던 예금잔고증명서입니다.

9억 원이 찍힌 이 서류로 위조범은 판사를 속여서 구속영장 기각을 한 차례 이끌어 냈습니다.

하지만 실제 잔고는 얼마였을까요?

단돈 23원이었습니다.

한 연구자가 인공지능 허위 정보가 사법부에 제출된 전 세계 사례를 모아보니 1,400건이 넘었고, 계속 늘어나고 있습니다.

변호사, 검사는 물론 판사까지 속아 넘어갔습니다.

실제 해외 사례를 하나 살펴볼까요?

지난 3월 미국 캘리포니아에선 반려견 양육권 소송을 벌이던 과정에서 인공지능이 지어낸 '가짜 판례'를 인용한 변호사에게 5천 달러의 제재금이 부과됐습니다.

황당한 건, 가짜 판례를 처음 인용한 게 상대 변호사였는데, 원고 측 변호사도 이를 검증 없이 명령서에 썼고 판사까지 그대로 승인했다가 항소심에서야 들통 났다는 점입니다.

전 세계 사법부가 대책 마련에 고심인데, 우리 사법부도 TF를 꾸려 최근 대응방안을 발표했습니다.

허위 판례를 내면 소송 비용을 부담시키거나 변호사에 대해 징계를 의뢰할 수 있습니다.

허위사건번호를 확인할 수 있는 서비스도 개발했는데, 앞으로는 자동으로 판례와 법령이 실제와 일치하는지 알려주는 기능도 개발하자는 제안도 나온 상황입니다.

나아가 인공지능 활용 시 상대방이나 법원에 알릴 의무를 부여하거나 허위 인용에 대한 과태료를 부과할 법적 근거가 필요하다는 의견도 있습니다.

하지만 어떤 대책보다 중요한 건, 법조인들의 직업의식이겠죠.

앞서 말씀드린 캘리포니아 판결에서 재판부는, 법조인들이 인용 판례의 진위를 검토하지 않는 한 사법부가 제대로 기능할 수 없다고 꾸짖습니다.

결국, 인공지능의 편리함 속에서도 사법 신뢰를 지키기 위해선 사람이 마지막으로 따지고 또 따지는 자세가 제일 중요하다는 겁니다.

YTN 이준엽입니다.