OpenAI 로봇공학 리더, 국방부 AI 거래 우려로 사임

OpenAI 로봇팀의 한 선임 멤버가 회사가 최근 발표한 미국 국방부와의 파트너십을 어떻게 추진했는지에 대한 우려를 이유로 사임했습니다.

로봇 공학과 하드웨어에 초점을 맞춘 기술 직원으로 일했던 케이틀린 칼리노프스키(Caitlin Kalinowski)는 회사가 보안 국방부 컴퓨팅 시스템 내에서 AI 시스템을 사용할 수 있도록 할 계획을 밝힌 후 “원칙”을 철회했다고 소셜 미디어에 게시했습니다.

이번 합의는 고급 AI 도구를 국가 안보 업무에 통합하려는 미국 정부의 광범위한 추진의 일환으로, 이는 감독 및 허용 가능한 사용에 대해 기술 업계 전반에 걸쳐 논쟁을 불러일으키는 추세입니다.

Kalinowski는 자신의 결정을 설명하는 공개 게시물에서 “저는 OpenAI에서 사임했습니다. 저는 Robotics 팀과 우리가 함께 구축한 작업에 깊은 관심을 갖고 있습니다. 이것은 쉬운 결정이 아니었습니다.”라고 썼습니다.

그녀는 OpenAI가 국방부와 합의를 발표하기 전에는 특정 AI 사용에 대한 정책 가드레일이 충분히 정의되지 않았다고 말했습니다. Kalinowski는 “AI는 국가 안보에 중요한 역할을 한다”고 썼습니다. “그러나 사법적 감독 없이 미국인을 감시하는 것과 인간의 승인 없이 치명적인 자율성을 갖는 것은 그들이 받은 것보다 더 많은 심의를 받을 가치가 있는 노선입니다.”

Kalinowski는 또한 OpenAI CEO인 Sam Altman을 언급하면서 “Sam과 팀에 대해 깊은 존경심을 갖고 있으며 우리가 함께 이룬 일이 자랑스럽다”고 말하면서 그녀의 관심은 회사 내부의 특정 임원보다는 프로세스에 더 가깝다고 강조했습니다.

OpenAI의 대변인은 NPR과의 인터뷰에서 회사는 국방부와의 합의가 “국내 감시와 자율 무기 금지라는 한계선을 분명히 하면서 AI의 책임감 있는 국가 안보 사용을 위한 실행 가능한 경로를 창출한다고 믿는다”고 말했습니다.

이어 회사는 “사람들이 이러한 문제에 대해 강한 견해를 갖고 있으며 우리는 전 세계 직원, 정부, 시민 사회 및 지역 사회와 계속해서 논의에 참여할 것”이라고 말했습니다.

Kalinowski의 사임은 미국 정부에 기술을 공급하기 위한 주요 인공 지능 개발자 간의 경쟁이 심화되는 가운데 이루어졌습니다. 최근 몇 주 동안 연방 기관은 AI 시스템을 위해 OpenAI와 Google로 눈을 돌렸습니다. 경쟁 회사인 Anthropic과 모델의 군사적 사용에 대한 긴장이 고조되었기 때문입니다.

Anthropic의 CEO는 회사의 소프트웨어를 국내 대량 감시나 자율 무기와 같은 응용 프로그램에 사용하는 것을 허용하는 것에 반대했으며, 이로 인해 Pete Hegseth 국방부 장관을 포함한 국방부 관계자와 충돌이 발생했습니다. 그는 국방부가 모든 “합법적인” 작전에 상업용 AI 도구를 배포하려면 유연성이 필요하다고 말했습니다.

OpenAI 내에서 Kalinowski의 역할은 회사의 로봇 조직이 확장됨에 따라 구축하는 데 중점을 두었습니다. 그녀는 LinkedIn 프로필에 여기에 물리적 인프라 및 기계와 관련된 AI 노력으로 회사의 확장을 지원하기 위한 채용이 포함되었다고 썼습니다.

Kalinowski는 같은 분야에서 계속 일할 계획이라고 말했습니다. “시간이 조금 걸리긴 하지만 책임감 있는 물리적 AI를 구축하는 데 계속 집중하고 있습니다.”라고 그녀는 썼습니다.