자신이 맡은 소송에서 생성형 인공지능(AI)인 챗GPT를 사용해 찾은 자료를 법원에 제출한 변호사들이 벌금형을 선고받았다고 뉴욕타임스가 22일(현지 시각) 보도했다. 챗GPT로 자료를 찾은 것 자체가 잘못은 아니지만, 자료 중 일부가 가짜였기 때문이다. 변호사가 재판에서 챗GPT를 잘못 사용해 처벌받은 첫 사례다.
이날 케빈 카스텔 뉴욕 맨해튼 지법 판사는 스티븐 슈워츠 변호사와 피터 로두카 변호사에게 벌금 5000달러(약 650만원)를 내라고 했다. 두 변호사에게 사건을 맡긴 의뢰인은 2019년 8월 엘살바도르에서 뉴욕으로 가는 비행기 안에서 금속 서빙 카트에 무릎을 부딪혀 부상을 입었다. 의뢰인은 항공사에 배상을 받아 달라며 변호사를 선임했는데, 항공사 측은 시효가 지났다며 소송을 기각해 달라고 법원에 주장했다.
그러자 이들 변호사는 6건 이상의 법원 판결을 인용한 10페이지 분량의 요약서를 작성해 ‘소송이 계속 진행돼야 한다’고 했다. 문제는 이들이 적어 낸 판례 중 일부가 가짜였다는 점이다. 변호사가 의견서를 작성할 때 챗GPT를 사용했는데 사실이 아닌 내용이 섞여 나왔던 것이다.
카스텔 판사는 이날 벌금을 부과하면서 “허위 의견서를 제출하면 많은 피해가 발생한다. 법원은 다른 중요한 업무에 시간을 뺏기고 소송 상대방은 이 잘못을 찾아내는 과정에서 시간과 돈을 낭비한다”고 했다. 또 챗GPT를 사용하면서 진위 여부도 제대로 확인하지 않는 변호사들의 행동이 “법조계와 미국 사법 시스템에 대한 냉소주의를 조장한다”고 했다.
뉴욕대 법학전문대학원 스티븐 길러스 교수는 “이 변호사들은 이제 영원히 ‘챗GPT에 속은 변호사들’로 알려질 것”이라면서 “이 사건은 변호사들에게 인공지능의 유혹에 현혹되지 말라는 첫 번째 경고일 뿐 마지막 경고는 아닐 것”이라고 했다.