Impostor는 AI를 사용하여 Rubio를 가장하고 외국 및 미국 공무원에게 연락합니다.
워싱턴 – 국무부는 미국 외교관들에게 마르코 루비오 국무 장관과 인공 지능에 의해 구동되는 기술을 사용하여 다른 공무원을 사칭하려는 시도를 경고하고있다.
이 경고는 7 월 3 일 케이블에 따르면 루비오 (Rubio)가 미국 상원 의원 및 주지사 인 적어도 3 명의 외무부 장관, 미국 상원 의원, 주지사에게 연락을 시도한 후이 부서가 발견 된 후에 나왔다.
텍스트, 신호 및 음성 메일로 전송 된 사기 메시지 수신자는 케이블에서 식별되지 않았으며, 그 사본은 AP 통신과 공유되었습니다.
태미 브루스 (Tammy Bruce) 대변인은“국무부는이 사건을 알고 있으며 현재이 사건을 모니터링하고 해결하고있다”고 말했다. “부서는 정보를 보호하고 미래의 사고를 방지하기 위해 부서의 사이버 보안 자세를 개선하기위한 조치를 지속적으로 수행 할 책임을 진지하게 생각합니다.”
그녀는 “보안상의 이유”와 진행중인 조사로 인해 더 많은 언급을 거부했다.
도널드 트럼프 대통령의 수지 와일즈 (Susie Wiles) 대통령과 관련된 5 월에 비슷한 사건이 공개 된이 사건과 함께 가장 높은 수준의 트럼프 행정 인물의 최신 사례입니다. 사람들을 속이는 AI의 오용은 기술이 향상되고 널리 이용되면서 성장할 가능성이 높으며 FBI는 지난 봄에 텍스트 및 음성 메시징 캠페인에서 미국 정부 관리를 사칭하는 “악의적 인 행위자”에 대해 경고했습니다.
루비오와 관련된 사기는 실패했고 “그다지 정교하지 않았다”고 관계자 중 한 명이 말했다. 그럼에도 불구하고, 제 2 공무원은이 부서는 모든 직원과 외국 정부, 특히 정보 보안 증가를 타협하려는 노력으로 모든 직원과 외국 정부에 조언하는 것이 “신중한”것으로 간주했다고 밝혔다.
공무원들은이 문제에 대해 공개적으로 논의 할 권한이없고 익명의 조건에 따라 연설했다.
케이블은“이 캠페인에서 부서에 직접 사이버 위협은 없지만 타겟팅 된 개인이 손상되면 제 3 자와 공유되는 정보가 노출 될 수있다”고 케이블은 말했다.
FBI는 공공 서비스 발표에서 “악의적 인”캠페인에 대한 문자 메시지와 AI 생성 음성 메시지에 의존하고 미국 고위 관리로부터 나오고 다른 공무원뿐만 아니라 피해자의 동료 및 연락처를 속이는 것을 목표로하는 AI 생성 음성 메시지에 대한 경고를 경고했습니다.
Rubio가 Deepfake에서 가장 한 것은 이번이 처음이 아닙니다. 올 봄 누군가가 우크라이나의 엘론 머스크의 스타 링크 인터넷 서비스에 대한 접근을 차단하고 싶다는 가짜 비디오를 만들었습니다. 우크라이나 정부는 나중에 허위 주장을 반박했다.
최근 몇 년 동안 범죄 처벌과 미디어 문해력 향상을 포함하여 속임수에 대한 AI의 오용이 증가함에 따라 몇 가지 잠재적 인 솔루션이 제시되었습니다. 심해에 대한 우려는 또한 인간을 쉽게 속일 수있는 포니를 발견하도록 설계된 새로운 앱과 AI 시스템의 홍수로 이어졌습니다.
버팔로 대학교의 교수이자 컴퓨터 과학자 인 Siwei Lyu에 따르면이 시스템을 연구하는 기술 회사는 이제 AI를 사용하여 속이는 사람들과 경쟁하고 있습니다. 그는 기술이 향상됨에 따라 유명 인사, 정치인 및 비즈니스 리더를 묘사하는 딥 파크의 수가 증가한 것으로 보인다고 말했다.
불과 몇 년 전, Fakes에는 스포트하기 쉬운 결함이 포함되어 있습니다. 비인간적 인 목소리 나 추가 손가락과 같은 실수가 포함되어 있지만 이제 AI는 너무 좋기 때문에 인간이 발견하기가 훨씬 어렵 기 때문에 DeepFake 제작자가 이점을 제공합니다.
Lyu는 “현실주의와 품질의 수준이 증가하고있다”고 말했다. “이것은 무기 경쟁이며, 지금 당장 발전기가 우위를 점하고 있습니다.”
Rubio Hoax는 문자 메시지와 전화 통화가 선출 된 공무원, 비즈니스 임원 및 Wiles의 개인 핸드폰의 연락처에 액세스 할 수있는 것으로 보이는 사람의 선출 된 공무원, 기타 저명한 인물에게 전화를 걸어 왔다고 Wall Street Journal은 5 월에 보도했다.
신문에 따르면 전화를받은 사람들 중 일부는 Wiles처럼 들리는 목소리를 들었습니다. 보고서는 메시지와 전화가 Wiles의 번호에서 나오지 않았다고 보고서는 밝혔다. 정부는 조사하고 있었다.
