미리보기 모델이 악의적으로 Hugging Face를 해킹한 후에도 컷이 만들어졌습니다.
구조 조정의 일환으로 OpenAI는 모델을 통해 치명적인 위험의 가능성을 평가하는 “대비” 팀을 해체한 것으로 알려졌습니다. 파이낸셜 타임즈 보고되었습니다. Sam Altman이 이끄는 회사는 최근 일부 모델이 AI 도구 저장소인 Hugging Face를 해킹하고 해킹했다는 사실에도 불구하고 지난달 말에 조치를 취한 것으로 알려졌습니다.
기사에 따르면 이제 별도의 팀 내의 고위 직원에게 바이오 및 사이버와 같은 다양한 준비 영역에 대한 책임이 할당되었습니다. OpenAI는 Altman이 직원들에게 “사이드 퀘스트”를 줄이고 핵심 ChatGPT 사업에 집중할 것을 요청한 후 IPO를 앞두고 “간소화 프로세스”의 일환으로 직원 감축을 설명했습니다.
OpenAI는 최근 몇 가지 주목할만한 사이드 퀘스트를 도마에 올려 최근 AI “slop”과 관련이 있는 것으로 유명해진 Sora 비디오 생성 앱을 제거했습니다. 회사의 윤리 책임자인 Chloé Bakalar와 안전 책임자인 Johannes Heidecke가 최근 회사를 떠났습니다. 특히 이 두 가지 이탈로 인해 회사가 성장을 위해 안전을 무시하고 있다는 우려가 제기되었으며, 한 AI 분석가는 OpenAI의 회전식 안전문을 해리포터 저주에 비유했습니다.
이 주제에 대해 더 알고 싶다면 아래를 참고하세요
