보고서에 따르면 새로운 ChatGPT 청소년 모드는 청소년 안전에 ‘용납할 수 없는 위험’을 초래합니다.

필라델피아의 세이어 고등학교에서 7년 동안 AP 작문 수업을 가르친 케이트 콘로이(Kate Conroy)는 인공 지능과 챗봇이 학생들에게 위협이 된다는 사실을 알기 위해 최신 연구가 필요하지 않았습니다.

그녀는 학생의 안전, 정직성, 생산성을 온라인으로 모니터링하는 것이 거의 불가능해졌다고 말했습니다. 그래서 그녀는 작년에 교실에서 AI를 금지했지만 올해는 모든 기술 장치를 금지했습니다.

그러나 청소년과 기술 관련 문제를 연구하는 비영리 단체인 Common Sense Media의 새로운 보고서에 따르면 OpenAI의 청소년용 ChatGPT가 청소년, 특히 ​​자해에 대해 이야기하는 사람들을 보호하겠다는 약속에 훨씬 미치지 못한다는 사실이 밝혀졌습니다. 이 단체는 8월에 시작된 청소년 모드가 청소년의 안전에 “용납할 수 없는 위험”을 초래한다고 말합니다.

Pew Research Center에 따르면 미국 청소년 중 2/3가 정기적으로 일종의 AI 챗봇을 사용하고 있으며 ChatGPT 보고서에 따르면 전 세계적으로 10억 명 이상의 사용자가 있는 것으로 나타났습니다.

Conroy는 교육, 특히 개별화된 학습을 제공하기 위해 AI를 사용한다는 이야기를 들었다고 말했습니다. 하지만 그녀는 ChatGPT나 Character.AI와 같은 챗봇에 비밀을 털어놓고 자살한 전국의 젊은이들에 대해서도 들었습니다.

Conroy는 WHYY에 “학문이 아이들의 학습에 어떻게 도움이 될 수 있는지에 대해 중간에 있다고 느끼더라도 아이들은 여전히 ​​목숨을 잃은 것 같습니다.”라고 말했습니다.

상식 미디어(Common Sense Media) 연구를 위해 테스터들은 부모 계정에 연결된 청소년 계정을 생성했는데, 이 계정은 불안한 행동에 대한 경고를 수신하도록 되어 있습니다. 그러나 테스터들은 자해, 섭식 장애 및 자살 충동에 대해 명시적으로 논의하는 데 최대 한 시간을 소비한 경우에도 부모가 경고를 받지 못했다는 사실을 발견했습니다. 보고서에 따르면 ChatGPT는 또한 십대들을 위기 핫라인이나 의사에게 연결하지 못했습니다.

또한 학생들을 위한 ChatGPT의 “학습 모드”가 학업 부정행위를 쉽게 가능하게 한다고 말합니다. 회사는 이를 개인교습 기능으로 홍보하지만 사용자는 여전히 “답변 보기” 옵션을 클릭할 수 있다고 보고서는 밝혔습니다.

청소년용 ChatGPT 설정은 기술에 따라 13~17세 사용자에 대해 자동으로 시작됩니다. 그러나 연구원들은 또한 플랫폼이 사용자의 나이를 “확실하게 알 수 없다”고 말했는데, 이는 보호 조치가 항상 적용되는 것은 아니라는 의미입니다.

Common Sense Media는 OpenAI에 청소년을 위한 ChatGPT 마케팅을 중단하고 안전이 개선될 때까지 청소년을 플랫폼에서 제외할 것을 요구합니다.

회사는 연구가 결함이 있을 가능성이 높으며 모든 자녀 보호 기능이 활성화되기 전에 수행되었을 수 있다고 말하며 반발하고 있습니다. WHYY에 보낸 OpenAI의 성명에는 부분적으로 “우리는 엄격한 독립적인 평가를 환영하지만 Common Sense Media의 테스트가 ChatGPT의 십대 보호 조치가 실제로 어떻게 작동하는지 또는 AI가 십대를 지원할 수 있는 방법에 대한 전문가의 관점을 정확하게 반영한다고 믿지 않습니다.”라고 적혀 있습니다.

Sayre High School은 이미 학생들의 휴대폰을 문앞에서 수거하고 있지만 Conroy는 드문 경우를 제외하고 태블릿을 포함한 모든 장치를 방 밖에 보관합니다. 화면 없는 환경으로 인해 “아이들을 위한 훨씬 더 긍정적이고 공동의 공간”이 만들어졌다고 Conroy는 말했습니다.

하지만 그녀의 동료들조차도 그 어느 때보다 챗봇을 사용하고 있는 것 같으며, 그녀는 AI가 생성한 것이 분명한 이메일과 전단지를 받았다고 말했습니다.

그러나 콘로이는 AI 콘텐츠와 학문적 지름길에 대한 우려는 젊은이들의 안전에 비하면 하찮다고 말했습니다. 그녀는 십대들이 기술을 사용하는 동안 보호를 받는다는 OpenAI의 입장을 받아들이지 않는다고 말했습니다.

“그들은 실제로 아이들에게 관심이 있다는 것을 보여주지 않습니다.”라고 그녀는 말했습니다. “학계에 관한 모든 것이 있지만 일부 어린이에게는 삶과 죽음이 달려 있습니다.”