플로리다주, 안전 과실 혐의로 OpenAI와 Sam Altman을 고소

플로리다는 챗봇의 단점으로 인해 ChatGPT 제조업체를 상대로 주정부가 제기한 첫 번째 소송에서 OpenAI와 CEO인 Sam Altman이 안전보다 이익을 우선시한다고 비난했습니다.

월요일 플로리다 주 법원에 제기된 소송은 회사와 Altman이 사용자에게 ChatGPT가 위험할 수 있음을 경고하지 않고 대신 어린이를 포함하여 안전하고 신뢰할 수 있다고 홍보했다고 주장합니다. 이는 사용자와 챗봇의 상호 작용에 따라 피해가 발생할 때 인공 지능 회사에 책임을 묻기 위해 전국적으로 점점 더 많은 노력을 기울이는 최신 일제입니다.

소송은 OpenAI가 공격을 계획하기 위해 ChatGPT를 사용하고, 취약한 사람들의 자살을 조장하고, “부모의 감독 없이 데이터를 수집하기 위해 인간 연민을 가장하는 도구”에 어린이를 중독시킨 것으로 알려진 플로리다 주립 대학의 총격범을 포함하여 대량 총격범을 돕고 배팅했다고 비난합니다.

고소장에는 “이러한 피해는 ChatGPT의 위험을 알면서도 AI 군비 경쟁에서 승리하고 막대한 부를 축적하려는 피고의 끝없는 탐구에 의해 발생했습니다.”라고 고소장에는 적혀 있습니다. “OpenAI의 부상은 허용할 수 없는 비용으로 OpenAI의 시장 가치를 높이기 위해 데이터와 안전을 활용하는 사기 웹과 사용자(플로리디안 포함) 착취에 기인합니다.”

플로리다는 또한 Altman에게 개인적 책임을 물으려고 노력하고 있습니다.

제임스 우스마이어 플로리다주 법무장관은 월요일 기자회견에서 “샘 알트먼과 ChatGPT는 우리 아이들의 안전과 보안보다 AI 경쟁을 선택했다”고 말했다. 그는 알트만과 회사가 “잠재적으로 최대 수십억 달러”의 벌금을 물게 될 수 있다고 믿고 있다고 덧붙였습니다.

OpenAI 대변인 카일라 우드(Kayla Wood)는 NPR에 보낸 이메일 성명에서 “아이를 잃는 것은 가족에게 일어날 수 있는 가장 파괴적인 비극이며 우리는 그러한 상실의 고통을 어떤 말로도 설명할 수 없다는 것을 알고 있다”고 말했다.

“AI는 새롭고 강력한 기술이며 우리는 미성년자에게 상당한 보호가 필요하다고 믿습니다. 이것이 바로 우리가 업계 최고의 보호 및 정책을 마련한 이유입니다.”라고 성명서는 계속되었습니다. “특히 우리는 미성년자를 위한 더욱 보호적인 경험, 연령 예측 도구, 나이가 확실하지 않은 사용자를 보호하는 경험에 대한 기본 설정, 자녀의 AI 사용을 모니터링할 수 있는 부모 도구 제공 등을 포함하여 미성년자를 위한 안전을 제품에 직접 구축했습니다.”

소송은 자녀 보호 기능을 포함한 OpenAI의 보호 장치가 부적절하며 회사가 “위험한 공공 폐해”를 초래했다고 주장합니다.

소송의 첫 페이지는 ChatGPT가 “안전을 염두에 두고 구축됐다”는 OpenAI 웹사이트의 스크린샷으로 시작됩니다. 해당 이미지 뒤에는 “그렇지 않다”라는 각주가 붙어 있다.

Uthmeier의 사무실은 2025년 4월 공격을 앞두고 FSU 총격범이 ChatGPT에 협의했다는 주장에 대해 OpenAI에 대한 범죄 조사를 별도로 진행하고 있습니다.

지난 2월 캐나다 텀블러 리지의 한 학교에서 발생한 총격 사건으로 사망 및 부상을 입은 피해자 가족, FSU 총격 사건으로 사망한 피해자 가족, 챗봇 사용 후 자살하거나 망상에 빠진 10대 1명을 포함해 7명의 가족 등 ChatGPT 사용으로 인한 피해에 대해 OpenAI를 상대로 20건 이상의 소송이 제기되었습니다.

Altman은 지난 4월 Tumbler Ridge 커뮤니티에 사과했고 OpenAI는 이러한 소송에 대해 폭력 행위를 지원하기 위해 도구를 사용하는 것에 대해 “무관용” 정책을 가지고 있다고 밝혔습니다.

Uthmeier가 FSU ​​총격 사건에 대한 조사를 발표한 후 OpenAI 대변인은 챗봇이 “인터넷의 공개 소스에서 광범위하게 찾을 수 있는 정보를 사용하여 질문에 대한 사실적인 답변을 제공했으며 불법적이거나 유해한 활동을 조장하거나 조장하지 않았습니다”라고 말했습니다. 성명서는 “우리는 유해한 의도를 탐지하고, 오용을 제한하며, 안전 위험이 발생할 때 적절하게 대응하기 위해 보호 장치를 강화하기 위해 지속적으로 노력하고 있습니다.”라고 덧붙였습니다.

OpenAI는 자살과 망상에 대한 소송을 “엄청나게 가슴 아픈 상황”이라고 부르며 ChatGPT가 정신적 또는 정서적 고통의 징후에 대응하는 방식을 개선하기 위해 정신 건강 전문가와 협력하고 있다고 말했습니다.

다른 AI 회사들도 자사의 챗봇이 어떻게 피해를 입혔는지에 대해 법적 조사를 받고 있습니다.

Google의 Gemini 챗봇에 연결된 플로리다 남성의 자살에 대한 부당한 사망 소송에 대해 회사는 다음과 같이 말했습니다. “Gemini는 실제 폭력을 조장하거나 자해를 암시하지 않도록 설계되었습니다. 우리 모델은 일반적으로 이러한 유형의 어려운 대화에서 잘 작동하며 이에 상당한 자원을 투자하지만 안타깝게도 완벽하지는 않습니다.” Gemini는 “그 개인을 위기 핫라인에 여러 번 연결했다”고 덧붙였습니다.

지난 1월 Character.AI는 동반 챗봇이 어린이와 청소년의 자살과 정신 건강 위기에 기여했다고 주장하는 가족들이 제기한 여러 소송을 해결했습니다. 회사는 “AI 안전 및 청소년과 관련하여 혁신적이고 결정적인 조치를 취했으며 이러한 노력을 계속 옹호하고 업계 전반에 걸쳐 유사한 안전 표준을 채택하도록 추진할 것”이라고 밝혔습니다. 여기에는 18세 미만 사용자가 챗봇과 상호작용하거나 생성하는 것을 금지하는 것이 포함됩니다.

지난 달 펜실베이니아 주는 Character.AI의 챗봇이 의사로 가장하고 의료 조언을 제공했다는 이유로 주 의료 면허 규정을 위반했다고 고소했습니다. Character.AI 대변인은 당시 NPR과의 인터뷰에서 회사가 계류 중인 소송에 대해서는 언급하지 않았지만 “가장 우선순위는 사용자의 안전과 복지”라고 말했습니다.