Google 및 OpenAI 직원 지원 소송
Anthropic을 지원하는 또 다른 보고서는 Google과 OpenAI의 다양한 기술, 엔지니어링, 연구 직원이 제출했습니다. Google은 Anthropic의 투자자입니다. Google과 OpenAI 직원은 “AI로 구동되는 대규모 국내 감시는 심지어 책임 있는 사람의 손에서도 민주적 거버넌스에 심각한 위험을 초래합니다”라고 썼습니다. 자율 무기 시스템에 관해 그들은 “현재의 AI 모델은 치명적인 표적 결정을 전적으로 혼자서 내리는 책임을 질 만큼 신뢰할 수 없으며, 그러한 목적을 위한 배치의 위험에는 일종의 대응과 가드레일이 필요합니다.”라고 썼습니다.
Google과 OpenAI 직원은 “Anthropic의 계약 협상에 대한 대응으로 공급망 위험 지정을 사용함으로써 (국방부는) 미국의 혁신과 경쟁력을 약화시키는 예측 불가능성을 우리 산업에 도입했습니다. 이는 최첨단 AI 시스템의 이점과 위험, 그리고 기술 배포를 최적화하기 위해 위험을 해결할 수 있는 다양한 방법에 대한 전문적인 토론을 냉각시킵니다.”라고 말했습니다.
Anthropic CEO Dario Amodei는 2월 26일 게시물에서 특정 AI 사용에 대한 회사의 반대를 설명했습니다. “우리는 합법적인 외국 정보 및 대첩 임무에 AI를 사용하는 것을 지지합니다. 그러나 이러한 시스템을 대량으로 사용하는 것은 국내의 감시는 민주적 가치와 양립할 수 없다”고 썼다.
현행법에 따르면 정부는 영장 없이 공개 소스로부터 미국인의 이동, 웹 브라우징 및 협회에 대한 자세한 기록을 구매할 수 있으며, “AI를 사용하면 분산되어 있고 개별적으로 무해한 데이터를 자동으로 대규모로 자동으로 모든 사람의 삶에 대한 포괄적인 그림으로 조립할 수 있습니다.”라고 Amodei는 썼습니다.
CEO: 자율무기는 너무 위험하다
Amodei는 우크라이나에서 사용되는 것과 같은 부분 자율 무기에 대한 지지를 표명했지만 “인간을 루프에서 완전히 벗어나 자동으로 표적 선택 및 교전을 수행하는” 완전 자율 무기 시스템에 대해서는 지지를 표명했습니다. 그는 완전 자율 무기가 결국 “국방에 매우 중요한 것으로 입증될 수 있지만” AI는 아직 무기를 구동할 만큼 충분히 신뢰할 수 없다고 말했습니다.
