OpenAI 비전의 이러한 측면에서는 OpenAI와 같은 기업이 AI에 대한 대중의 신뢰를 높이는 데 도움이 되는 안전 시스템을 개발해야 합니다. 그리고 우리는 이러한 시스템이 작동할 것이라고 믿어야 하며 실제 위험이 다가올 때만 이러한 회사에 간섭해야 한다고 OpenAI는 제안하는 것 같습니다.
OpenAI는 “우리가 초지능을 향해 나아가면서, 특히 화학적, 생물학적, 방사선학적, 핵 또는 사이버 위험을 실질적으로 발전시킬 수 있는 고성능 모델 집합에 더 강력한 제어가 필요한 시점이 올 수 있습니다.”라고 말했습니다.
OpenAI는 그날이 오면 새로운 위험에 대해 소통할 수 있는 글로벌 네트워크가 마련되어야 한다고 말했습니다. 그러나 가장 발전된 모델을 보유한 기업만이 엄격한 감사를 받아야 소규모 기업도 여전히 경쟁할 수 있습니다. 이는 어떤 기업의 지배적 지위도 부당하게 경쟁자를 폐쇄하거나 민주적 가치를 약화시키기 위해 남용되지 않도록 보장하는 길이라고 OpenAI는 말하면서 AI의 성공에는 대중의 의견이 필수적이라고 주장했습니다.
알트만은 이전에 “기술에 회의적인 대중에게 그들의 우선순위가 비록 상호 배타적일지라도 그의 우선순위이기도 하다”고 설득했다고 뉴요커는 보도했습니다. 그러나 이미 OpenAI 모델의 피해를 보고하고 있는 대중의 경우 “그 세대의 가장 위대한 투수”가 이끄는 회사의 고상한 아이디어를 받아들이는 것이 점점 더 어려워질 수 있다고 The New Yorker는 보도했습니다.
한 OpenAI 연구원은 The New Yorker에 Altman의 약속이 때때로 그가 다음 벤치마크에 도달할 때까지 비판을 극복하기 위한 임시방편처럼 보일 수 있다고 말했습니다. 초지능과 관련하여 일부 낙관적인 전문가들은 2년이 걸릴 수 있다고 생각합니다. 이는 Elon Musk가 OpenAI에 머물다가 Altman의 리더십을 비판하고 자신의 AI 회사를 시작하기 전에 떠나는 것보다 더 긴 시간입니다.
OpenAI 연구원은 The New Yorker에 “Altman은 서류상으로 자신을 제약하는 구조를 설정합니다”라고 말했습니다. “하지만 미래가 다가오고 제약을 받을 때가 오면 그는 기존의 구조를 모두 없애버립니다.”
