다리오 아모데이(Dario Amodei)는 “우리는 인류에게 노력할 의무가 있습니다”라고 말했습니다.
AI 회사의 CEO 중 적어도 한 명은 인공지능 개발 속도를 늦춰야 한다고 요구하고 있습니다. Anthropic의 CEO인 Dario Amodei는 AI가 현재 빠른 속도로 앞서가는 대신 AI가 구축되는 속도를 높이는 목표를 자세히 설명하는 장문의 게시물을 작성했습니다. Amodei는 이를 달성하기 위해 3단계 접근 방식을 제안했으며, Anthropic은 이미 첫 번째 단계에 전념하고 있습니다.
첫 번째 조치는 “프론티어 AI” 기업이 특정 안전 표준 준수 여부를 확인하는 데 중점을 두고 AI 모델 훈련이 사고 속도를 늦추고 보고하는 목표에 부합하는지 평가하는 제3자 평가자를 위해 “지속적이고 직원과 같은 액세스”를 약속하도록 요구합니다. 두 번째 단계에서는 확인되지 않은 AI 진행 속도를 제한하기 위해 이러한 AI 회사가 정부의 도움을 받아 “공통 안전 표준”을 확립해야 합니다. 최종 조치는 미국과 다른 민주 정부가 권위주의 정부와 협력하여 모든 사람이 규정 준수에 대해 같은 입장을 가질 수 있도록 하는 것입니다.
아모데이는 자신의 게시물에 “안전한 속도로 국경을 전진시키기 위해 제안하는 조치는 쉽지 않을 것”이라고 썼다. “하지만 나는 우리가 시도하는 것이 인류의 의무라고 믿습니다.”
Amodei에 따르면 위험에는 “AI 시스템에 대한 통제력 상실, 사이버 공격 및 생물 테러를 위한 AI의 오용, 심각한 경제 혼란”이 포함됩니다. Amodei는 OpenAI 에이전트가 테스트 환경을 벗어나 Hugging Face를 해킹한 주요 사건을 인정했습니다. Anthropic 자체는 최근 여러 과학자들이 “생물학적 오용”을 위해 Claude를 사용하고 있음을 발견했습니다. 이러한 사건 이후 OpenAI는 캘리포니아에 첨단 AI 모델을 둘러싼 법률에 대한 “강력한 보호 장치”를 마련할 것을 요구했습니다.
올해 초 Anthropic은 이미 AI 개발 속도를 늦출 것을 촉구했으며, 이전 주장의 대부분은 Amodei의 최근 게시물에 표현된 정서를 반영했습니다. 그러나 Amodei는 Hugging Face 사건과 AI 모델이 향후 반복을 개발할 수 있을 만큼 충분히 능력이 있는 “재귀적 자기 개선”의 시작을 속도를 늦춰야 할 필요성을 확신하게 된 두 가지 요인으로 여겼습니다.
이 주제에 대해 더 알고 싶다면 아래를 참고하세요
