OpenAI, 업계 압력에 직면해 보안 문제로 최신 모델 연기

OpenAI는 월요일 기술 발전 속도를 늦추기 위한 회사의 노력 중 가장 최근에 연구원들이 제기한 보안 문제로 인해 새로운 인공 지능 모델의 출시를 연기하고 있다고 밝혔습니다.

GPT-6.1 Astra라고 불리는 모델을 보류하기로 한 OpenAI의 결정은 안전 조치가 따라잡을 때까지 점점 더 자율화되는 시스템의 개발을 늦추려는 업계 내에서의 광범위한 추진 중에 나온 것입니다. 이번 발표는 기술 기업들이 AI 모델이 어떻게 남용될 수 있는지에 대해 책임을 져야 한다는 새로운 압력에 직면하면서 AI 경영진이 워싱턴에서 도널드 트럼프 대통령과 만날 ​​예정인 하루 전에 나온 것입니다.

월스트리트저널(Wall Street Journal)은 OpenAI의 모델 출시 지연을 처음으로 보도했습니다.

OpenAI의 안전 시스템 책임자 Saachi Jain의 성명에서 이 버전은 “기준을 충족하지 못했습니다.” 작업을 완료하는 데 더욱 끈질기게 변했지만 OpenAI는 무단 행동과 해당 기능의 균형을 맞춰야 했습니다.

Jain은 회사가 테스트 중이든 사용자의 손에 있든 모델이 안전한지 확인하기 위해 최선을 다하고 있다고 주장했습니다. “우리는 안전과 정렬 측면에서 매우 높은 기준을 가지고 있습니다”라고 그녀는 말했습니다.

OpenAI는 지난 주 가장 발전된 모델의 훈련을 일시 중지했으며 “추가 보호 장치가 있다고 확신할 때만” 훈련이 재개될 것이라고 밝혔습니다.

AI 에이전트가 허가 없이 정부 웹사이트에 접속하는 등 지시를 초과한 사례를 공개한 이후였다.

OpenAI CEO인 샘 알트만(Sam Altman)은 다른 업계 리더들과 함께 속도 저하를 요구하면서 기업이 아직 가장 유능한 시스템을 제어할 수 있는 적절한 보호 장치를 갖추고 있지 않다고 경고했습니다. Altman은 화요일 샌프란시스코에서 소프트웨어 개발자를 위한 OpenAI 연례 컨퍼런스의 기조 연설을 할 예정이었습니다. OpenAI의 Greg Brockman 회장은 화요일 백악관 행사에 참석할 예정입니다.