OpenAI는 로봇 공학의 새로운 책임자를 찾아야 할 것입니다. 현재 OpenAI의 전 로봇 공학 책임자인 Caitlin Kalinowski는 X에 자신의 역할에서 사임한다고 게시하면서 회사가 적절한 가드레일을 조사하지 않고 국방부와 협력하는 데 서두르는 것을 비판했습니다.
이전에 Meta에서 일한 후 2024년 말 OpenAI에 합류하기 위해 떠난 Kalinowski는 X에 “사법적 감독 없이 미국인을 감시하고 인간의 승인 없이 치명적인 자율성을 갖는 것은 그들이 받은 것보다 더 많은 심의를 받을 가치가 있는 라인”이라고 썼습니다. 전 OpenAI 임원은 또 다른 게시물에 대해 “이번 발표는 정의된 가드레일 없이 성급하게 이루어졌다”고 설명했으며 “무엇보다도 거버넌스 문제”라고 덧붙였습니다.
OpenAI는 Kalinowski의 사임을 확인하고 Engadget에 보낸 성명에서 사람들이 이러한 문제에 대해 “강한 견해”를 가지고 있음을 이해하고 관련 당사자와 계속 논의할 것이라고 밝혔습니다. 회사는 또한 성명에서 Kalinowski가 제기한 문제를 지지하지 않는다고 설명했습니다.
OpenAI 성명은 “우리는 미 국방부와의 합의가 책임 있는 국가 보안 사용을 위한 실행 가능한 길을 마련하는 동시에 국내 감시와 자율 무기 금지라는 우리의 한계선을 분명히 한다고 믿습니다”라고 밝혔습니다.
Kalinowski의 사임은 OpenAI가 국방부와 계약을 체결하기로 한 결정의 가장 큰 결과일 수 있습니다. 이 결정은 Anthropic이 대규모 감시에 대한 특정 AI 가드레일을 해제하고 완전 자율 무기를 개발하는 것을 거부한 직후에 나왔습니다. 그러나 OpenAI의 CEO인 샘 알트만(Sam Altman)조차 미국인에 대한 감시를 금지하기 위해 국방부와의 계약을 수정하겠다고 밝혔습니다.
