해고된 OpenAI 직원, 안전에 대한 회사의 약속에 의문을 제기

인공지능(AI) 업계의 책임감 있는 기술 개발 능력에 대한 대중의 집중 조사가 진행되는 가운데 전직 OpenAI 직원 3명이 해고 상황과 회사의 안전에 대한 의지에 대해 우려를 제기하고 있습니다.

전직 직원인 Mikita Balesni, Tomek Korbak 및 Jasmine Wang은 OpenAI가 지난 주 구실을 이유로 그들을 해고하고 안전에 대해 솔직하게 말하거나 외부 연구자들과 협력했다는 이유로 그들을 처벌했다고 주장했습니다. 그들은 또한 회사가 최근의 안전 약속을 철회할 수도 있다는 우려를 표명했습니다.

OpenAI는 이러한 주장을 반복적으로 부인했습니다. 민감한 정보를 잘못 취급한 직원들이 해고됐으며 회사는 안전에 대한 약속을 저버리지 않았다고 밝혔습니다.

이번 분쟁은 AI 산업, 특히 OpenAI에 있어 어려운 시기에 발생합니다. 지난 여름, OpenAI의 에이전트들은 기업을 해킹해 허가 없이 서로 통신하고 흔적을 숨기려고 시도했습니다. 에이전트는 챗봇과 달리 장기간 자율적으로 작업을 수행할 수 있는 AI 시스템입니다.

소프트웨어 회사인 Hugging Face의 가장 심각한 해킹은 기술의 궤적에 대해 무서운 경고를 발표한 경쟁사인 Anthropic의 연구원이 사임하는 데 기여했습니다. 이번 사임은 국회의원을 비롯해 AI 분야 외 인사들의 이목을 집중시켰다. 최고 AI 기업의 일부 임원을 포함해 많은 사람들은 최첨단 AI 개발 속도를 늦추는 등 재난을 피하기 위한 다양한 방법을 요구해 왔습니다.

한편 OpenAI는 최근 몇 달 동안 에이전트의 활동을 검토하고 디지털 인프라가 영향을 받은 조직에 통보해 왔습니다.

안전 문제에 대한 대응으로 OpenAI CEO인 샘 알트만(Sam Altman)은 9월 12일 자사가 라이벌인 Anthropic을 따라 AI 시스템의 안전성과 개발자의 관행을 평가하는 제3자 평가자에 대한 접근을 확대할 것이라고 밝혔습니다.

지난 주 OpenAI에서 해고된 세 명의 직원은 AI 안전에 중점을 두고 회사의 모델이 인간의 의도와 가치를 따르도록 만드는 팀에서 일했습니다. 그 중 두 명은 Hugging Face 해킹 조사에 참여했습니다.

해고된 직원들이 이번 주 X에 게시한 OpenAI의 안전 리더십에 보낸 서한에서 그들은 회사가 제3자 연구원과 계속 협력하고 모델 행동을 모니터링하는 인간의 능력을 보존하며 사내 안전 연구원과 외부 연구원 간의 “개방적이고 투명한 대화 문화를 계속 지원”할 것을 촉구했습니다. 그들은 또한 그들의 해고가 이전 OpenAI 동료들에게 냉담한 영향을 미치고 있다고 경고했습니다.

OpenAI가 X에 게시한 성명에서 이 회사는 여전히 제3자 평가자를 데려오는 데 전념하고 있으며 이에 동의했다고 밝혔습니다. 해고된 직원의 추천. 회사는 이들 3명이 “민감한 정보 취급에 관한 명확한 정책을 위반했다”는 이유로 지난주 해고됐다고 밝혔다.

전직 직원들은 해고에 대한 OpenAI의 설명에 이의를 제기했습니다. 그들 중 누구도 NPR의 인터뷰 요청에 응답하지 않았습니다.

Balesni는 목요일에 X에 “퇴장 전화에서 내가 회사(지적 재산)를 유출했다는 것을 암시하는 제3자 안전 기관과 너무 많이 이야기했기 때문에 OpenAI가 더 이상 나를 신뢰하지 않는다는 말을 들었습니다. 나는 회사 IP를 공유한 적이 없습니다”라고 썼습니다. 그는 Hugging Face에 대한 OpenAI 에이전트의 해킹 조사에 참여했다고 말했습니다.

“OpenAI에 특정한 우려 사항이 있는 경우 우리에게 직접 편지를 보내달라고 요청합니다. 우리의 해고는 텍스트에 근거한 것이기 때문에 그들은 그렇게 하지 않을 것으로 예상합니다.”라고 Balesni는 계속 말했습니다.

그는 OpenAI가 이번 해고를 인간이 AI 통제력을 잃을 위험을 평가하는 데 초점을 맞춘 비영리 단체인 METR(Model Evaluation and Threat Research)과의 관계를 끊는 핑계로 삼을 것이라고 우려했습니다. OpenAI를 통해 METR과 또 다른 AI 안전 연구 기관인 Redwood Research의 연구원들이 Hugging Face 해킹과 관련된 내부 기록을 조사할 수 있었습니다.

두 번째로 해고된 OpenAI 직원인 Korbak은 METR/Redwood Research 조사의 기술 담당자였습니다. “나는 METR과 소통한 방식 때문에 해고되었다는 말을 구두로 들었습니다. 내가 무엇을 말했는지, 언제 행동했는지에 대한 자세한 내용은 없습니다. 다른 이유는 제시되지 않았고 서면으로 작성된 것도 없습니다.”라고 Korbak은 Balesni의 우려를 반영하며 X에 썼습니다.

Hugging Face 해킹 이후 METR과 Redwood Research가 작성한 보고서는 공격 규모와 에이전트가 바람직하지 않은 방식으로 행동한 정도를 조명했습니다. 보고서 작성자는 이번 조사를 ‘간단한’이라고 불렀으며 AI 안전 분야의 많은 사람들은 유사한 사건이나 기타 안전 문제를 철저히 조사할 수 있도록 AI 회사의 독립적인 평가자에 대한 접근 확대를 요구했습니다.

NPR에 보낸 성명에서 METR은 OpenAI 직원의 해고에 대해 논평을 거부했습니다.

지난 주 해고된 세 번째 OpenAI 직원인 Wang은 안전이 따라잡을 수 있도록 가장 진보된 AI 시스템의 개발 속도를 늦추는 방법을 설명하는 ‘페이싱(pacing)’이라는 단어를 만들어냈다고 그녀와 그녀의 두 동료가 OpenAI의 안전 리더십에 보낸 편지에 나와 있습니다. 이 용어는 Hugging Face 해킹 이후 지난 7월 최고 AI 기업의 천 명 이상의 직원이 서명한 이러한 속도 저하를 요구하는 공개 서한에서 사용되었습니다.

Wang은 X에 자신이 임원의 이메일에 접근했다는 이유로 해고되었다고 썼습니다. 그러나 그녀는 과거에 업무상의 이유로 받은 편지함에 액세스할 수 있었으며 더 이상 필요하지 않게 되면 IT 부서에서 액세스 권한을 제거하도록 요청할 수 없었다고 말했습니다.

Wang은 “우리에게 해고 이유를 제시한 이유는 단순히 합산되지 않습니다. 사람들이 내부적으로 우리를 불신하게 만들려는 모호한 소문을 듣고 있다는 것을 듣고 있습니다”라고 썼습니다. “아직 OpenAI에 있는 모든 사람들에게 보내는 메시지는 분명합니다. 우려를 제기하거나 외부 안전 그룹과 긴밀히 협력하면 이유를 듣지 않고도 다음 단계가 될 수 있다는 것입니다.”

OpenAI는 NPR에 보낸 성명에서 해고된 직원 3명이 한 번 이상 정책을 위반했으며 정보의 잘못된 취급은 외부 평가 그룹과의 업무 범위를 넘어서는 것이라고 밝혔습니다.

OpenAI는 또한 세 명의 전 직원이 소셜 미디어에 접속하기 전 수요일에 회사와 공유했다고 익명의 연구 리더로부터 내부 메모를 공유했습니다.

메모에서 연구 책임자는 회사가 전직 직원 세 명의 권고 사항에 ‘강력하게’ 동의했다고 말했습니다. “우리는 우려를 제기했다는 이유로 직원을 해고하지 않습니다.”라고 리더는 썼습니다.

Wang은 X에 “OpenAI 리더십은 우리의 편지에 강력히 동의한다고 말하고 있습니다. 그것이 어떻게 진행되는지 살펴보겠습니다.”라고 썼습니다.