AI 믿었다가 망신...美 대형 로펌, 허위 판례 제출했다가 사과

S&C

미국 월가의 대표 로펌인 설리번 앤드 크롬웰(S&C)이 인공지능(AI)이 생성한 허위 판례와 부정확한 법령 인용이 포함된 문서를 법원에 제출했다가 사과했다.

21일(현지시간) 로이터통신에 따르면, S&C의 글로벌 구조조정 부문 공동 책임자인 앤드루 디트데리히는 지난 18일 서한을 통해 "AI 환각(hallucination)으로 인해 부정확한 판례 인용과 오류가 발생했다"고 밝혔다. AI 환각은 존재하지 않는 판례를 만들어내거나 법 내용을 잘못 인용하는 현상을 의미한다.

S&C는 캄보디아 대규모 온라인 사기(스캠) 범죄단지의 배후로 지목된 프린스그룹의 청산 절차와 관련해, 영국령 버진아일랜드 당국이 선임한 파산관재인을 대리하고 있다. 해당 사건에서 S&C는 지난 9일 법원에 제출한 문서에 미국 파산법에 존재하지 않는 조항과 허위 판례를 인용했다가, 프린스그룹을 대리하는 상대 로펌의 지적으로 문제가 드러났다.

서한은 미국 뉴욕 맨해튼 파산법원 수석판사에게 제출됐다. 디트데리히는 "회사를 대표해 사과드린다"며 "문제를 알려준 상대 측에도 직접 연락해 감사와 사과의 뜻을 전했다"고 밝혔다.

문서 작성에 사용된 AI 프로그램은 공개되지 않았다.

S&C는 AI 활용과 관련해 내부적으로 엄격한 정책과 교육 체계를 갖추고 있다고 설명했지만, 이번 사안에서는 해당 규정이 지켜지지 않았고 2차 검토 과정에서도 오류를 걸러내지 못했다고 인정했다. 이후 수정된 문서를 다시 제출했다.

미국에서는 변호사들이 AI를 활용해 법률 조사나 문서 작성에 나서는 사례가 늘고 있지만, 이를 충분히 검증하지 않아 제재를 받는 경우도 잇따르고 있다. AI 사용 자체는 금지돼 있지 않지만, 법원 제출 자료의 정확성을 보장해야 할 윤리적 책임은 여전히 변호사에게 있다는 지적이다.

한편 S&C는 900명 이상의 변호사를 보유한 미국 유수의 기업 전문 로펌으로, 인수합병(M&A)과 기업 소송 분야에서 강점을 가졌다고 평가된다.

YTN digital 정윤주 (younju@ytn.co.kr)