챗GPT로 문서 작성한 호주 변호사, 허위사실 인용 적발

윤리강령 위반으로 법률고충처리위원회 회부
AI로 작성돼 검증되지 않은 문서 적발건 증가
NSW 대법원, 변호사 생성형 AI 사용 제한

챗GPT 로고./로이터 연합

아시아투데이 이대원 시드니 통신원 = 호주에서 한 변호사가 인공지능(AI) 챗봇 챗GPT를 이용해 작성한 문서를 법원에 제출했다가 존재하지 않는 사건을 인용한 것이 적발돼 주 법률고충처리위원회에 윤리 강령 위반으로 회부됐다.

호주 가디언은 12일 해당 변호사가 제출한 문서에 포함된 '존재하지 않는 판례'를 확인하기 위해 법원이 상당한 시간을 소비해야 했다며, 이제 법원에 제출한 문서가 제대로 작성된 것인지 확인하는 것이 점점 더 어려워질 것이라고 보도했다.

적발된 변호사는 법원에 제출한 진술서에서 시간 제약과 건강 문제 때문에 챗GPT를 사용했다고 밝혔다.

재판부는 판결문에서 "그는 챗GPT 사이트에 접속해 몇 가지 단어를 삽입했다"며 "그는 문서가 잘 써졌다고 생각했기 때문에 세부 사항을 확인하지 않고 그대로 제출한 것을 인정했다"고 밝혔다.

호주에서 AI로 작성돼 검증되지 않은 문서를 법원에 제출했다가 적발되는 사례는 갈수록 늘고 있다. 지난해에는 멜버른의 한 변호사가 AI로 만든 허위 사건을 이용해 심리를 연기하려고 시도하다가 들통나 징계를 받았다.

호주 법조계에서 AI가 얼마나 많이 사용되는지는 공식적으로 알려지지 않았다.

변호사에게 자체 AI 소프트웨어를 제공하는 미디어 회사인 톰슨 로이터가 지난해 호주의 개인 변호사 869명을 대상으로 AI 활용에 관한 설문조사를 실시한 결과 응답자의 약 40%는 AI 사용을 신중하게 실험하고 있는 것으로 확인됐다.

약 9%는 일상 업무에서 AI를 적극적으로 사용하고 있는 것으로 파악됐다. 응답자 3명 중 1명꼴로 생성형 AI 법률 비서를 원한다고 했다.

뉴사우스웨일스주(NSW) 대법원은 지난해 말 발행한 실무 지침을 통해 변호사의 생성형 AI 사용을 제한했다. 재판 증거로 제출되거나 반대 심문에 사용되는 진술서, 증인 진술서 등 자료를 생성하는 데 사용하면 안 된다는 규정이 포함됐다.

NSW 법무부 대변인은 "아직은 AI 사용이 초기 단계지만 생성형 AI 사용이 보편화됨에 따라 더 많은 불만이 접수될 것으로 예상한다"고 말했다.

빅토리아주 법률서비스위원회 역시 변호사의 부적절한 AI 사용을 재판 진행의 주요 위험으로 꼽았다.

해당 위원회 대변인은 "정확한 법률 정보를 제공하는 것은 AI 프로그램의 의무가 아니라 변호사의 의무라는 것을 기억하는 것이 중요하다"며 "전문적으로 훈련된 변호사와 달리 AI는 판단을 내리거나 윤리적이고 기밀이 보장되는 서비스를 제공할 수 없다"고 강조했다.

지니 패터슨 멜버른 대학 AI 디지털윤리센터 소장은 "경험이 적은 변호사는 AI에 의존할 가능성이 높다"며 "변호들이 AI 사용 교육을 받아야 한다"고 조언했다. 그러면서 "AI에 의존하는 법률가가 많아지면 법체계는 붕괴될 수도 있다"고 경고했다.