세 명의 OpenAI 안전 연구원이 OpenAI에 해고에 대해 이의를 제기하는 공개 서한을 게시했습니다. Jasmine Wang, Mikita Balesni 및 Tomek Korbak은 해고에 대한 회사의 의사소통의 “매우 공개적인 방식”이 “세계의 안전이 직원들에게 달려 있는” 시점에 직원들에게 “냉담” 효과를 줄 수 있다고 썼습니다.
지난 주 OpenAI는 외부 AI 안전 기관과 정보를 공유한 혐의로 직원 3명을 해고했습니다. 회사는 성명에서 직원들이 “민감한 회사 정보에 접근하고 처리하는 것에 대한 우리의 정책을 위반했습니다. 우리 업무에 필수적인 신뢰를 깨뜨렸습니다”라고 말했습니다. 그러나 최근 Hugging Face 및 기타 조직에 대한 심각하고 잠재적으로 불법적인 OpenAI 에이전트 해킹이 발생한 가운데 안전 직원의 해고는 어색한 질문을 불러일으키고 국회의원들의 관심을 끌었습니다.
“우리는 우리의 해고와 관련된 내부 및 외부 의사소통이 방해받고 있다는 점을 우려하게 되었습니다.
우리의 이전 동료들이 지난 주까지만 해도 그랬던 방식으로 말하고 행동하는 것을 두려워하게 만들었습니다.
해고된 직원들의 공동 서한에는 OpenAI에서 일하는 데 필수적인 부분입니다. “우리는 (이전) 안전 문제를 제기하고 공개적으로 반대할 수 있었으며 독립적인 안전 조직의 전문 지식을 활용하도록 장려되었습니다. 이것이 OpenAI를 특별하게 만든 이유 중 하나이며, 우리가 팀의 일원이 된 것을 매우 자랑스럽게 생각하는 이유입니다.”
연구원들은 “OpenAI의 사명과 당시의 업무 규범에 따라 행동했다”고 밝혔으며, 이번 해고로 인해 “OpenAI 내부 규범이 바뀌고 직원들이 현재 자신의 위치가 불분명하다는 점을 걱정하게 됐다”고 밝혔습니다.
다른 소문에 대해 Wang, Belsni 및 Korbak은 또한 자신들이 유출 소스가 아니라고 말했습니다. 정보 OpenAI의 새롭고 모니터링하기 어려운 아키텍처에 관한 기사를 읽었으며 OpenAI가 자신의 권한을 벗어난 외부 당사자와 협력했다고 믿지 않습니다. 그들은 외부 당사자와의 의사소통은 “이사회 및 최고 경영진과의 조정 및 논의를 통해” 이루어졌으며, 왕씨가 실수로 민감한 이메일을 클릭했을 때 이를 임원에게 알렸다고 덧붙였습니다.
이별하면서 전직 직원들은 OpenAI에 몇 가지 추천을 했습니다. 그들은 회사가 제3자 안전 감사관을 포함시키겠다는 공개 약속을 준수해야 하며 그들의 해고를 “파트너십에서 물러나기 위한 구실”로 이용해서는 안 된다고 말했습니다. 그들은 OpenAI가 프론티어 모델의 모니터링 가능성을 유지하고 “안전 연구원과 나머지 안전 생태계 간의 개방적이고 투명한 대화 문화”를 유지해야 한다고 덧붙였습니다.
X에 대한 스레드에서 Jasmine Wang은 OpenAI 리더십이 “우리의 편지에 강력하게 동의한다고 말하고 있다”고 썼으며 OpenAI의 개방성에 대한 우려를 표명했습니다. 그녀는 “의심스러운 상황에서 OpenAI에서 밀려난 것은 우리가 처음이 아니다”라고 적었다. “직원들이 지금 이런 종류의 책략에 반대하지 않는 한 우리가 마지막이 되지 않을까 걱정됩니다. 여전히 OpenAI에 있는 모든 사람들에게 보내는 메시지는 분명합니다. 우려를 제기하거나 외부 안전 그룹과 긴밀히 협력하면 이유를 듣지 않고도 다음이 될 수 있다는 것입니다.”
관련 정보는 아래 링크에서 확인하세요
