펜실베니아에서는 AI가 생성한 인용문을 확인하기 위해 변호사, 기타 법원 제출자에게 요구할 수 있습니다.

“항상 작업 내용을 다시 확인하세요.”

대부분의 사람들은 인생의 어느 시점에서 초등학교 교사, 대학 교수, 직장 상사 등으로부터 이 간단하면서도 현명한 조언을 들어본 적이 있습니다.

이제 인공 지능의 사용이 급증함에 따라 펜실베니아 대법원에 자문을 제공하는 위원회는 해당 기술을 사용하는 변호사 및 기타 서류 제출자가 법률 문서의 인용 및 정보의 진위 여부를 다시 확인했음을 인증해야 하는지 여부를 검토하고 있습니다.

새로운 규칙, 규정 및 기타 정보에 대한 정부 제안을 위한 주 주간 관보인 Pennsylvania Bulletin에 지난 달 발표된 제안 통지에 따르면 이를 준수하지 않으면 견책에서 벌금, 사건의 완전한 기각에 이르는 제재를 받을 수 있습니다.

인공지능 자문위원회는 생성 AI가 잘못된 법적 인용이나 인용과 같은 “부정확하고 오해의 소지가 있거나 조작된 정보”를 생성할 수 있다는 점을 모든 법원 제출자에게 알리고 싶다고 말했습니다.

변호사와 자신을 대표하는 사람을 포함한 제출자는 법원 문서를 제출하기 전에 AI 생성 콘텐츠의 정확성을 “철저히 검토”하고 요구 사항 준수를 인증해야 합니다. 여기에는 법적 원칙 요약은 물론 모든 법적 인용 및 인용문을 확인하는 것도 포함됩니다.

이 제안은 기술보다는 인간에게 정확성 부담을 효과적으로 전가할 것입니다.

대중과 기타 이해 관계자는 11월 24일까지 우려 사항이나 제안된 변경 사항에 대해 의견을 제시하거나 의견을 교환할 수 있습니다.

그 후 법원의 AI 자문위원회는 제안을 수정하거나 고등법원의 7명의 대법관에게 그대로 제출할 수 있으며, 해당 대법관은 이를 채택할지 여부를 투표하게 됩니다.

대변인에 따르면 변호사와 법조계를 옹호하는 펜실베니아 변호사 협회는 아직 이 제안에 대한 입장을 취하지 않았다고 합니다. 그러나 2024년에 주 전체 협회와 필라델피아 변호사 협회는 AI 사용에 대한 지침과 모범 사례가 포함된 공동 공식 의견을 발표했습니다. 그중에는 변호사가 모든 AI 생성 콘텐츠의 정확성을 확인해야 합니다.

고등법원이 AI의 적절한 사용에 대한 논쟁에 개입한 것은 이번이 처음이 아닙니다. 2024년에 판사들은 법조계에서 AI의 사용을 모니터링하고 펜실베니아 법원 내에서 AI의 구체적인 사용에 대한 지침을 제안하기 위해 자문 위원회를 설립했습니다.

이듬해 위원회는 판사와 법원 직원의 책임 있는 AI 사용을 위한 임시 정책을 권고했고, 이는 판사들에 의해 채택되었습니다. 법률 연구, 법원 문서의 초기 초안 작성, 공개 문서의 “가독성” 편집 및 평가에 AI를 사용할 수 있습니다.

아직 유효한 이 정책은 변호사나 정부 외부의 다른 사람에게는 적용되지 않습니다. 현재 공개 논평을 위해 제출된 위원회 제안은 모든 법원 제출자에게 적용됩니다.

펜실베이니아주만이 AI 관련 정책을 수립하는 것은 아닙니다. 변호사들이 종종 “환각”이라고 불리는 허위 또는 가짜 정보가 포함된 법원 서류를 제출했다는 이야기가 나오면서 전국 법원은 이 문제를 다루었습니다.

지난 여름, 미시시피 연방 판사는 AI를 사용한 후 가짜 인용으로 법률 문서를 제출한 민사 사건의 양측 변호사를 처벌했습니다. 그 변호사 중 두 명은 2년 동안 해당 지역의 연방법원에 출석하는 것이 금지되었습니다.

Spotlight PA는 ​​2025년 최소 13건의 펜실베이니아 법원 소송에 제출된 서류에 AI 환각이 확인되거나 암시된 내용이 포함되어 있다고 보고했으며, 여기에는 항소 법원에서 성차별과 관련된 세간의 이목을 끄는 사건도 포함됩니다.