Shapiro는 펜실베니아가 AI 챗봇을 규제하기를 원합니다. 어떻게 작동할까요?

펜실베니아 주지사 조시 샤피로(Josh Shapiro)는 주정부 기관에 인공지능 챗봇에 대한 보다 엄격한 규제를 개발하도록 지시했습니다. 그는 인공지능 챗봇이 어린이들에게 오해를 불러일으킬 수 있고 해로울 수 있다고 말합니다. 더 많은 어린이들이 ChatGPT, Meta AI 및 Gemini와 같은 AI 챗봇을 사용함에 따라 펜실베이니아주도 새로운 규제로 인해 가드레일을 부과하려는 주 목록에 추가될 수 있습니다.

Shapiro는 “이 공간은 빠르게 발전하고 있습니다.”라고 말했습니다. 예산 주소 지난주. “우리 아이들을 보호하려면 빠른 조치가 필요합니다.”

지난해 비영리단체가 실시한 설문조사에 따르면 미국 10대 대다수가 챗봇을 사용하고 있지만 3명 중 1명은 사회적 상호작용과 인간관계를 위해 챗봇을 사용한다고 답했습니다. 상식미디어. 이 십대들은 대화 연습, 정서적 지원, 역할극, 우정 및 낭만적인 상호 작용을 위해 챗봇을 사용한다고 보고했습니다. Shapiro는 규제가 없으면 어린이와 다른 사람들이 정서적 피해에 취약할 수 있다고 말했습니다.

Shapiro는 “일부 어린이는 너무 어려서 AI와 실제 사람의 차이를 이해하지 못합니다.”라고 말했습니다.

Google은 지난 1월 자사의 Character.AI가 젊은이들의 정신 건강 위기와 자살에 기여했다고 주장하는 여러 소송을 해결했습니다. 챗봇과 인연 맺은 아들, 자살했다.

주지사는 펜실베이니아주에 연령 확인, 부모 동의, 어린이가 등장하는 성적으로 노골적이거나 폭력적인 콘텐츠를 생성하는 챗봇 금지를 요구했습니다. 또한 그는 기업이 자해나 폭력을 언급하는 사용자를 관련 당국에 안내하고 사용자에게 실제 인간과 접촉하고 있는 것이 아니라는 사실을 주기적으로 상기시키도록 요구하는 것을 지지합니다.

하지만 이러한 새로운 요구 사항은 어떻게 시행됩니까? 그리고 그럴까요?

카네기멜론대학교 윤리 및 컴퓨터 기술 교수인 호다 헤이다리(Hoda Heidari)는 “악마는 세부사항에 있다”고 말했습니다. “우리 모두는 더 넓은 수준의 목표에 동의할 수 있지만, 이들 중 일부가 실제로 달성 가능한지에 대한 질문은… 해결이 필요합니다.”

에도 불구하고 경고 보안 전문가들은 나이 확인의 비효율성과 개인 정보 보호 위험을 지적하면서 부적절한 웹사이트로부터 어린이를 보호하기 위한 수단으로 규제 당국 사이에서 인기를 얻었습니다. Heidari는 연령 확인과 관련된 동일한 문제가 챗봇에서도 나타날 수 있다고 지적했습니다.

Heidari는 “이러한 질문은 연령을 확인하는 방법에 대한 기술적 관점과 결과 데이터로 무엇을 해야 하는지에 대한 법적 관점 모두에서 매우 어렵습니다.”라고 말했습니다.

온라인으로 신분증을 위조하는 것도 여전히 매우 쉽습니다. 예를 들어, 주류를 판매하거나 홍보하는 많은 웹사이트에서는 사용자가 나이를 확인하기 위해 생일을 입력하도록 요구하는 ‘연령 제한’을 사용합니다. 하지만 사용자는 생일을 아무 날짜나 입력하고 웹사이트로 이동할 수 있습니다. 다른 성인용 콘텐츠가 포함된 사이트에도 동일하게 적용됩니다.

챗봇이 어린이와 관련된 폭력적이거나 성적으로 노골적인 콘텐츠를 생성하지 않도록 보장하는 것과 관련하여 Heidari는 AI 회사가 이미 아동 성적 학대 자료의 생성을 차단하는 방법을 모색하고 있다고 지적했습니다. 그러나 현재의 가드레일은 우회할 수 있습니다.

Heidari는 “당신이 염두에 두고 있는 것과 동일한 종류의 콘텐츠를 생성하도록 챗봇을 유도할 수 있는 모든 방법을 생각해 보십시오.”라고 말했습니다. “어떤 종류의 행동을 절대 보지 않도록 하는 것은 실제로 꽤 어려운 일입니다.”

Shapiro는 또한 국회의원들에게 챗봇 사용과 관련된 잠재적인 위험으로부터 어린이와 기타 취약한 사용자를 보호하기 위한 법안을 개발할 것을 요청했습니다. 주 상원의 초당적 법안은 “연령에 적합한 기준”을 설정하고 자해, 자살 또는 폭력을 조장하는 콘텐츠에 대한 보호 장치를 요구합니다. 또한 “고위험 언어가 감지될 때마다” 사용자를 자해 위기 리소스로 안내합니다.

그러나 주정부가 이러한 보호 조치를 어떻게 시행할 것인지, 그리고 챗봇이 이를 위반하는 회사에 국회의원들이 어떤 처벌을 내릴 것인지는 아직 알 수 없습니다.

Heidari는 “이러한 요구 사항은 시행하기가 매우 어려울 것입니다.”라고 말했습니다.

그러나 그녀는 어려움이 기관의 노력을 완전히 방해해서는 안 된다고 강조했습니다. Heidari는 AI 안전 규정이 위험 관리를 위한 더 광범위한 “스위스 치즈 모델”의 일부로 개발되어야 한다고 말했습니다. 단일 보호는 그 자체로는 완벽하지 않습니다.

“이러한 레이어 중 어느 하나라도 오류가 발생할 수 있지만, 레이어를 쌓으면 더 나은 보호 기능을 얻을 수 있기를 바랍니다.”라고 그녀는 말했습니다.

패치워크 시스템

서부 시대의 골드러시처럼 인공 지능과 생성 AI 도구는 미국의 정책과 규제를 앞지르는 빠르고 규제되지 않은 성장을 누렸습니다. 그리고 두 번째 트럼프 행정부 하에서는 그것이 연방 차원에서 바뀔지 여부는 확실하지 않습니다. 트럼프 대통령이 서명했다. 행정명령 12월에는 주 기반 규제를 억제하고 “혁신을 방해하는 부담스럽고 ​​과도한 법률”을 제정하는 주에 대해 “조치를 취”하겠다고 위협했습니다.

이 명령은 “AI에 대한 최소한의 부담을 주는 국가 정책 프레임워크”를 약속하고 연방 정부의 우선 순위와 일치하지 않는 주 차원의 AI 법률에 도전하는 AI 소송 태스크포스를 설립했습니다.

한편, 주 정부는 AI와 컴패니언 봇을 규제하기 위한 조치를 계속 취하고 있으며, 캘리포니아주가 선두주자 중 하나입니다. 주정부는 AI 모델의 투명성, 안전성 및 책임성을 향상시키기 위해 2024년부터 일련의 법안을 제정했습니다. 뉴욕도 비슷한 조치를 시행했습니다. 펜실베니아와 다른 주들이 자체 규칙 세트를 개발함에 따라 Heidari는 그 결과 AI 회사가 따르기 어려울 수 있는 패치워크 시스템이 생겼다고 말했습니다.

“이것은 기업과 다른 AI 이해관계자가 무엇을 할지 결정할 수 있는 통합되고 일관된 시스템에 좋은 징조가 아닙니다.”라고 그녀는 말했습니다. “그들이 끌려가는 방향은 너무 많습니다.”

연방 AI 정책을 제외하면 Heidari는 캘리포니아나 뉴욕과 같이 인구가 많은 주에서 AI 규제의 분위기를 조성할 가능성이 높다고 말했습니다. 그녀는 기업들이 여러 주에서 다양한 챗봇 플랫폼을 출시할 가능성이 낮으며 더 큰 주에서 제정한 규정을 준수할 가능성이 더 높다고 말했습니다.

“그들은 나라 전체의 분위기를 조성하게 됩니다.”라고 그녀는 말했습니다. “(AI 회사들이) ‘아, 사용자가 펜실베이니아에 있나요? 방금 국경을 넘어 버지니아로 갔나요?’라고 말하는 것은 말이 되지 않습니다. 따라서 그들은 기본적으로 대부분의 경우에 적용되는 모든 것을 따릅니다.”

Heidari는 Shapiro의 새로운 노력에 따라 펜실베니아가 미국에서 AI를 규제하는 또 다른 주요 주체로 부상할 수 있다고 말했습니다.

Heidari는 “(Shapiro) 행정부가 책임 있는 입장을 취하고 이해관계자 및 전문가들과 대화를 통해 이를 수행하려고 노력하는 것은 좋은 일입니다.”라고 말했습니다. 그렇지 않으면 규제가 아무런 영향도 주지 않고 특정 정치적 의제에 대해 립서비스만 할 수 있는 방법이 있습니다.”