Shapiro 패러디 및 챗봇 전화 은행 — 펜실베니아 선거에서 AI가 등장하는 방법

펜실베니아 공직 후보자들은 AI 도구를 사용하여 라이벌의 패러디 이미지를 생성하고, 캠페인 자료를 만들고, 설문지에 답변하고 있습니다.

그들은 실제처럼 보이고 대중에게 잘못된 정보를 제공하기 위해 생성된 이미지, 오디오 또는 비디오인 딥페이크를 만들지 않습니다. 그러나 이것이 기술 및 선거 전문가들이 생성 AI가 더욱 접근 가능하고 정교해짐에 따라 이러한 현상이 발생할 수 있다는 점을 우려하지 않는다는 의미는 아니며, 이것이 바로 많은 주 의원들이 조치를 취하고 싶어하는 이유입니다.

딥페이크는 이미 주요 선거에 영향을 미치는 데 사용되었습니다. 2024년에는 AI가 생성한 자동녹음전화가 조 바이든 대통령을 사칭하여 사람들에게 뉴햄프셔 선거에서 투표하지 말 것을 촉구했습니다. 이달 초 텍사스 공화당 의원들은 미국 상원의원 제임스 탈라리코(James Talarico) 민주당 후보의 인공지능(AI) 영상을 제작해 그가 X의 오래된 게시물을 읽는 모습을 딥페이크 버전으로 보여줬다.

연방선거관리위원회는 딥페이크를 금지하거나 규제하는 것을 고려했지만, 2024년에 기존 규칙이 AI가 허용할 수 있는 일종의 “사기성 허위 진술”을 이미 금지하고 있다는 결론을 내렸습니다. 그럼에도 불구하고 수십 개의 주에서는 후보자가 다른 후보자를 모방하는 AI 생성 이미지, 비디오 또는 음성의 사용을 공개하도록 요구하는 법률을 제정하기로 결정했습니다. 미네소타와 텍사스는 선거 전 일정 기간 동안 정치적 딥페이크 사용을 전면 금지했습니다.

펜실베니아는 선거용 AI에 대해 주별 ​​제한을 두지 않았지만 AI의 사용은 수년 동안 확산되어 왔습니다.

2023년 AP 통신은 혼잡한 민주당 주 하원 예비 선거에서 한 후보가 전통적인 전화 뱅킹 대신 AI 챗봇을 사용하여 유권자와 소통하고 있다고 보도했습니다. LNP | 랭커스터온라인.

2025년 더그 마스트리아노(공화당, 프랭클린) 주 상원의원은 올해 재선을 앞두고 있는 조시 샤피로 민주당 주지사가 예산 통과 실패를 비난하는 내용의 모의 잡지 표지 시리즈를 게시했습니다. (Mastriano는 이미지가 AI로 생성되었는지 여부를 확인하지 않았지만 해독할 수 없는 단어를 포함하여 기술의 특징을 가지고 있습니다.)

주지사 선거에 출마한 유일한 공화당원인 Stacy Garrity의 캠페인은 지난 가을 “Newsom Shapiro 2028” 표지판을 들고 할리우드 간판 앞에 서 있는 Shapiro의 AI 생성 이미지를 게시했습니다. 캠페인 대변인은 이 사진이 샤피로의 대선 야망을 ‘패러디’하기 위한 것이었지만 “분명히 주지사의 실제 사진은 아니다”라고 말했습니다.

캠페인 대변인 Matt Beynon은 “AI 사용에 대한 PA의 Garrity 캠페인 정책은 시청자가 무언가가 사실이 아닌데 사실이라고 믿도록 오해하는 내용을 생성하지 않는 것입니다.”라고 말했습니다.

Spotlight PA는 ​​2026년 입법 후보가 AI를 사용하여 기본 이미지를 생성한 것으로 보이는 여러 사례를 확인했습니다.

Adams 카운티의 91번째 주 하원 선거구 경쟁 예비 선거에서 세 명의 공화당 후보 중 한 명인 Lindsay Krug는 이를 사용하여 캠페인 사진을 생성했습니다. 선택은 절약으로 귀결되었다고 그녀는 Spotlight PA에 말했습니다.

코네와고 밸리 교육위원회 소속인 크루그는 그것이 자신의 캠페인 홍보 자료를 위해 값비싼 사진 촬영을 하지 않아도 되는 지름길이었다고 말했습니다. 그녀는 지금까지 캠페인에 1,000달러만 지출했는데 “그것도 나에게는 미친 금액이다”라고 덧붙였습니다.

Krug는 “수천 달러를 지출하는 다른 후보자에 대해서는 판단하지 않습니다”라고 말했습니다. “이것은 내가 사인을 받은 곳에서 했던 첫 번째 캠페인입니다. 그것이 가장 큰 비용이었습니다.”

작년에 주 하원에서 만장일치로 통과된 법안은 AI 기술의 더 어두운 용도를 예상합니다. AI를 사용하여 선거가 임박한 후보자를 허위로 표현하는 사진이나 비디오를 생성하는 후보자, 정치 활동 위원회 또는 정당에 재정적 결과를 초래할 수 있습니다.

초당적 법안의 주요 발의자인 타릭 칸(필라델피아 민주당) 주 하원의원은 이 법안의 목표가 사람들이 점점 더 “자신의 눈으로 보는 것을 믿을 수 없게 되는 세상에서 민주적 절차를 보호하는 것”이라고 말했습니다.

Khan은 Spotlight PA에 “(투표)는 민주주의 국가로서 우리 성공의 핵심입니다.”라고 말했습니다. “선거가 의심스러울 때, 이 경우에는 실제 캠페인 광고입니다… 당신은 그 과정의 신성함을 약화시키는 것입니다.”

이 법안에 따르면 후보자들은 해당 기술의 사용이 콘텐츠에 명시적으로 공개되지 않는 한 선거 후 90일 이내에 딥페이크를 “고의적으로 그리고 의도적으로” 유포한 혐의로 다른 후보자, 정당 또는 PAC를 고소할 수 있습니다.

원고는 잠재적으로 금전적 보상을 받을 수 있으며, 위반 후보자는 임시 금지 명령을 받을 수도 있습니다. 사건이 계류 중인 동안 판사는 AI 혐의 자료의 삭제를 명령할 수 있습니다.

이 법안은 현재 주 상원 커뮤니케이션 및 기술위원회에 계류되어 있습니다.

트레이시 페니쿠익 의장(공화당, 몽고메리)은 성명을 통해 자신의 위원회가 생성 AI를 사용하여 선거 후보를 부정하게 허위 진술하는 잠재적인 문제를 다룰 수 있기를 희망한다고 말했습니다. 그녀는 청구서를 불러올 것인지 구체적으로 밝히지 않았습니다.

주 상원 다수당 원내대표 조 피트먼(공화, 인디애나)도 페니쿠익 위원회가 통과할 경우 법안을 의회에서 소집할 것인지 여부를 구체적으로 밝히지 않았습니다.

전당대회 대변인은 Spotlight PA에 “기술이 발전함에 따라 추가적인 방법으로 AI 보호를 계속 구현하는 방법에 대한 논의가 계속 진행 중입니다”라고 말했습니다.