이 물건을 만들 수는 없습니다.
인공 지능에서 진행 중인 더 큰 이야기 중 하나를 추적하지 않은 경우를 대비해 OpenAI는 자체 창작물을 제어하는 데 어려움을 겪고 있습니다. 지난 몇 달 동안 회사는 AI 모델이 독일 코딩 포럼, 여러 미국 정부 웹사이트, 호주 정부 웹사이트, AI 회사 Hugging Face 및 기타 최소 4개 서비스를 해킹하는 등 즉각 조치를 취했다고 인정했습니다. 그리고 모델이 인터넷에 자유롭게 액세스할 수 없는 경우에도 테스트 환경에서 다른 위험한 행동을 보이는 것으로 밝혀졌습니다.
OpenAI는 당연히 이러한 사건과 처리 방법에 대해 많은 회의와 우려에 직면해 있습니다. 이는 다음의 보고서를 의미합니다. 월스트리트저널 회사가 AI 안전에 중점을 둔 제3자 조직과 기밀 정보를 공유한 혐의로 안전팀 직원 3명을 해고했다는 사실은 믿기 어려울 정도로 완벽하다는 아이러니입니다.
OpenAI 대변인은 성명을 통해 “우리는 민감한 회사 정보에 대한 접근 및 처리에 관한 우리의 정책을 위반한 세 사람과 헤어졌다”고 밝혔다. WSJ. “우리 조사에 따르면 이들 개인은 확립된 회사 절차를 벗어나 민감한 정보를 잘못 처리하여 우리 정책을 위반하고 우리 업무에 필수적인 신뢰를 깨뜨린 것으로 확인되었습니다.”
이 특정 인스턴스에 대한 세부 정보는 드물며 OpenAI가 해당 개인을 해고할 정당한 이유가 있었을 가능성이 있습니다. 하지만 자체 서비스도 준수해야 할 정책을 위반하고 있는 상황에서 안전 인력을 감축하는 것은 정말 나쁜 모습처럼 보입니다.
이 주제에 대해 더 알고 싶다면 아래를 참고하세요
