트럼프, 새 모델에 대한 자발적 검토를 요구하는 AI 안전 명령에 서명

트럼프 대통령은 화요일 인공지능(AI)에 대한 행정부의 무간섭 접근 방식에서 벗어나 인공지능(AI)으로 인한 보안 위협을 완화하는 것을 목표로 오랫동안 기다려온 행정 명령에 서명했습니다.

이 명령은 AI 기업들이 가장 강력한 모델을 대중에게 공개하기 전 최대 30일 동안 정부가 테스트할 수 있도록 자발적으로 제출하도록 요구하고 있습니다.

또한 연방 기관에 AI 모델의 사이버 기능을 평가하기 위한 벤치마크를 개발하고, 취약성에 대한 정보를 검토 및 공유하기 위한 “AI 사이버 보안 정보 센터”를 만들고, 정부의 보안 방어를 강화하도록 지시합니다.

새로운 행정 명령에는 “고급 AI 기능은 우리나라를 더욱 강하게 만들 뿐만 아니라 행정부와 기관 전반에 걸쳐 조율된 조치가 필요한 새로운 국가 안보 고려 사항을 도입합니다”라고 명시되어 있습니다. “이러한 역량이 발전함에 따라 우리 정부는 업계와 긴밀히 협력하여 우리나라에 대한 모든 위협에 맞서기 위해 가장 안전하고 최고의 기술이 신속하게 배포되도록 할 것입니다.”

행정명령은 지난달 발표될 예정이었지만 백악관은 AI 혁신을 방해할 것이라는 우려로 서명 계획을 취소했다. 트럼프 대통령은 당시 중국의 경쟁 압력 속에서 이번 명령이 미국 기업의 글로벌 경쟁 우위를 위축시킬 것이라고 우려했다.

이전 버전에서는 정부가 출시 전 고급 모델을 검토하는 데 최대 90일을 부여했는데, 이는 최종 주문에서는 30일로 단축되었습니다.

트럼프 행정부는 AI에 접근하는 방법을 놓고 분열됐다. 바이든 백악관이 신흥 기술에 대한 연방 정부의 감독을 추진하는 동안 트럼프는 안전 위험에 대한 우려가 확산되는 가운데에도 주 차원을 포함해 규제를 최소화하려고 노력했습니다.

그러나 최근 더욱 강력한 AI 모델의 개발로 인해 일부 연방 관리들이 불안해졌고 백악관은 방향을 바꾸고 일부 안전 조치를 철회하게 되었습니다.

특히 지난 4월 Anthropic이 소프트웨어 보안 취약점을 식별하고 활용하는 능력 때문에 새로운 Mythos Preview 모델의 출시를 제한한다고 발표한 것은 실리콘 밸리와 워싱턴 전역에 경종을 울렸습니다.

특히 이 명령은 OpenAI, Anthropic, Google 등 AI 개발을 선도하는 기술 기업의 자발적인 협력에 달려 있습니다.

자발적 테스트 프레임워크를 언급하면서 명령에는 “이 섹션의 어떤 내용도 새로운 AI 모델의 개발, 출판, 출시 또는 배포를 위한 필수 정부 라이센스, 사전 승인 또는 허용 요구 사항 생성을 승인하는 것으로 해석되어서는 안 됩니다.”라고 명시되어 있습니다.

기술과 관련된 모든 규정은 의회에서 나와야 합니다.