아이들을 위한 AI 챗봇 보호 장치가 펜실베니아주 상원을 통과하고 하원으로 향합니다.

이번 주 펜실베니아 주 상원은 거의 만장일치로 인공지능 챗봇과 상호 작용하는 어린이를 위한 보호 장치를 추가하는 법안을 통과시켰습니다.

제이 코스타(Jay Costa) 상원 민주당 대표는 “피츠버그가 인공 지능 분야에서 혁신을 계속 추진하는 동안 해리스버그의 입법자들은 미성년자가 접근할 수 있는 AI 챗봇이 안전하고 정확하며 규제되도록 보장하는 것이 중요합니다.”라고 말하며 이 법안이 “올바른 방향으로 가는 의미 있는 단계”라고 말했습니다.

“그러나 젊은 사용자에게 안전한 인터넷 환경을 제공하려면 아직 해야 할 일이 많습니다.”라고 그는 덧붙였습니다. “펜실베니아가 계속해서 AI 발전과 보호 분야에서 미국을 선도할 수 있도록 이 어렵고 필요한 작업을 계속할 수 있기를 기대합니다.”

이 법안은 “사용자와의 지속적인 인간 또는 인간과 같은 관계를 시뮬레이션하도록 설계된 생성적 AI 또는 감정 인식 알고리즘”으로 정의되는 챗봇에 적용됩니다. 기술 회사는 AI 채팅 동반자가 어린이나 청소년 사용자와 메시지를 보낼 때 성적으로 노골적인 언어, 자해 또는 폭력에 대한 콘텐츠를 생성하는 것을 금지해야 합니다.

다른 규정 중, 이 법은 청소년이 자해를 언급할 경우 플랫폼이 사용자를 자살 예방에 관한 실제 리소스로 안내하도록 요구합니다.

“젊은이가 적절한 보호 장치 없이 정서적 지원을 위해 기계에 의존하기 시작하면 그 결과는 파괴적일 수 있습니다.”라고 주요 후원자인 주 상원의원 Tracy Pennycuick(R-Montgomery/Berks)은 연설에서 말했습니다. 자살로 사망한 일부 어린이 가족은 AI 기술에 대한 과도한 의존이 자살 유서를 작성하는 데 도움이 되었을 수도 있다고 말했습니다.

상원 통신기술위원회 의장인 페니쿠익은 이 법안이 AI 산업의 ‘혁신을 저해’하지 않고 청소년 사용자를 보호한다고 말했습니다. 연구원들은 규제가 없을 때 AI가 젊은 사용자에게 부정적인 영향을 미칠 수 있다는 증거를 이미 발견했다고 덧붙였습니다. 퓨 리서치 센터(Pew Research Center)에 따르면 미국 10대 중 거의 3분의 2가 AI 채팅 플랫폼을 사용해 본 적이 있다고 합니다.

법안의 현재 언어에 따르면 AI 챗봇은 어린 사용자들에게 인간과 상호 작용하고 있지 않으며 채팅을 잠시 쉬어야 한다는 점을 적어도 3시간에 한 번씩 상기시켜야 합니다.

그러나 이 법안은 AI 채팅 플랫폼에 대한 온라인 연령 확인을 요구하지 않습니다. 단순히 “운영자가 미성년자임을 알았거나 알았어야 했던 사용자에 대해” 모든 규정이 필요하다고 명시되어 있습니다.

공동발의자인 주 상원의원 Nick Miller(D-Lehigh/Northampton)는 이 법안이 여전히 좋은 균형을 이루고 있다고 말했습니다.

Miller는 “우리는 신흥 기술의 리더가 되기를 원하지만 동시에 지역 사회를 보호하고 이 혁신적인 기술에 상식적인 보호막을 씌우고 싶습니다.”라고 말했습니다.

이 법은 주 법무장관에게 위반 건당 $10,000의 벌금 기술 회사에 대한 권한을 부여합니다. 법안 통과 후 성명에서 주 AG 데이브 선데이(Dave Sunday)는 다른 안전 장치에 관해 입법부와 협력하기를 희망한다고 말했습니다.

“우리는 온라인 챗봇이 전국의 수많은 비극에서 역할을 하는 것을 보았습니다.”라고 성명서는 말했습니다. “우리는 어린이와 취약한 주민들이 이러한 유해한 온라인 상호작용으로부터 멀어지도록 할 수 있는 모든 조치를 취해야 합니다.”

이 법안은 수요일 오후 자신이 반대표를 던진 이유에 대한 논평 요청에 응답하지 않은 공화당 Doug Mastriano를 제외한 모든 상원의원의 지지를 받아 통과되었습니다.

이번 상원 승인은 조시 샤피로(Josh Shapiro) 주지사가 연간 예산 연설에서 특정 AI 개혁을 촉구한 지 불과 한 달 만에 이뤄졌습니다. 이 법안은 현재 펜실베니아 남동부의 민주당 Joe Ciresi와 Cecil Township의 공화당 Jason Ortitay가 이끄는 하원 통신 및 기술위원회의 심의를 기다리고 있습니다.