펜실베니아, 챗봇이 불법적으로 의사 자격을 주장하며 AI 회사를 고소

조시 샤피로(Josh Shapiro) 주지사는 인공지능 챗봇 제조사를 고소하면서 자사의 챗봇이 불법적으로 자신을 의사로 내세우고 시스템 사용자가 자격증을 갖춘 전문가로부터 의료 조언을 받고 있다고 생각하도록 속이고 있다고 주장했습니다.

금요일에 제기된 소송은 주 전역 연방 법원에 Character.AI의 배후 회사인 Character Technologies Inc.에 자사의 챗봇이 “불법적인 의료 및 수술 행위에 참여”하는 것을 중단하라고 명령하도록 요청했습니다.

소송에 따르면 전문가 라이선스를 부여하는 주정부 기관의 조사관이 Character.AI에 계정을 만들고 ‘정신의학’이라는 단어를 검색한 결과 ‘정신의학 의사’로 묘사된 인물을 포함해 다수의 캐릭터를 발견했다고 합니다.

그 캐릭터는 펜실베니아에서 면허를 취득한 “의사로서” 수사관을 평가할 수 있다고 주장했다고 ​​소송에 따르면.

샤피로는 성명을 통해 “펜실베니아 사람들은 온라인에서 누구와 무엇을 교류하고 있는지 알 권리가 있다”고 말했다. “우리는 기업이 자격증을 갖춘 의료 전문가로부터 조언을 받고 있다고 사람들을 오도하는 AI 도구를 배포하는 것을 허용하지 않을 것입니다.”

Character.AI 대변인은 소송에 대해 논평을 거부했지만 이메일 성명을 통해 “우리의 최우선 순위는 사용자의 안전과 복지입니다.

“우리 사이트의 사용자 생성 캐릭터는 허구이며 엔터테인먼트와 롤플레잉을 위한 것입니다.”라고 성명은 계속되었습니다. “우리는 모든 채팅에서 캐릭터가 실제 사람이 아니며 캐릭터가 말하는 모든 것은 허구로 취급되어야 한다는 점을 사용자에게 상기시키기 위해 모든 채팅에 눈에 띄는 면책 조항을 포함하여 이를 명확히 하기 위해 강력한 조치를 취했습니다. 또한 사용자가 어떤 유형의 전문적인 조언도 캐릭터에 의존해서는 안 된다는 점을 분명히 하는 강력한 면책 조항을 추가합니다.”

성인의 약 3분의 1이 건강 정보를 얻기 위해 AI 챗봇을 활용했습니다. KFF 여론조사에 따르면. 그러나 정신과 의사이자 미국 정신의학 협회에서 새로 결성한 디지털 건강, 혁신 및 기술 위원회의 의장인 존 토러스(John Torous) 박사는 “연구자들은 여전히 ​​이러한 봇과의 채팅이 어떤 영향을 미칠지 현장에서 학습하고 있습니다”라고 말했습니다. “우리는 이러한 봇이 자살 사망과 연관될 수 있다는 사실을 극단적으로 확인했습니다.”

Torous는 “많은 사람들이 무슨 일이 일어나고 있는지 알지 못합니다.”라고 Torous는 말했습니다. “올바른 조언을 하는 걸까, 잘못된 조언을 하는 걸까, 사람들에게 치료를 중단하라고 말하는 걸까?”

Character.AI는 아동 안전과 관련하여 여러 소송에 직면해 있습니다. 지난 1월, 구글과 캐릭터 테크놀로지스는 채팅봇이 십대 아들을 자살하게 만들었다고 주장하는 플로리다 어머니의 소송을 해결하기로 합의했습니다. 지난 가을, Character.AI는 인공지능 대화가 어린이에게 미치는 영향에 대한 우려가 커지면서 미성년자의 챗봇 사용을 금지했습니다.

관계자들은 펜실베니아 소송이 AI가 전문 라이센스 규칙을 위반했다고 주장하여 AI에 제한을 가하려는 시도가 “최초”라고 말했습니다.

트럼프 행정부의 지시 속에 “관료주의와 번거로운 규제를 제거하세요Duquesne University Kline School of Law의 법학과 부교수인 Ashley London은 “AI 개발과 관련하여 의회 합의가 이루어지지 않은 상황에서 주정부는 아동 안전 및 기술 투명성에 관한 지침을 스스로 작성하는 데 주력해 왔습니다”라고 말했습니다.

다른 주에서 제기된 소송은 AI로 인해 발생할 수 있는 소비자 보호 위반에 초점을 맞췄습니다. 에이 최근 켄터키주 소송 제기 Character.AI는 어린이를 성행위, 아동 학대 및 자해에 노출시켜 켄터키 소비자 보호법 및 기타 법률을 위반했다고 주장합니다.

펜실베니아 총회와 기타 주 의회도 AI 회사와 챗봇을 규제하려고 시도했습니다. 아직 ~에 위원회).

런던은 “물론 AI가 매우 도움이 될 수 있다”고 말했다. 그러나 가드레일 없이는 “주주를 위해 돈을 버는 것이 목표인 회사와 개발자의 손에 완전히 맡겨질 수 있습니다.”

비록 사이트의 서비스 약관 Character.AI는 AI가 생성한 채팅에서 생성된 콘텐츠(정확하든 그렇지 않든)에 대해 책임을 질 수 없다고 말하며, 그것이 어떤 가치를 지니는지 여부를 결정하는 것은 연방 법원에 달려 있을 가능성이 높다고 그녀는 덧붙였습니다. “우리는 실제로 모순될 수 있는 많은 흥미로운 법적 보유를 보게 될 것입니다.”