우리는 인공 지능이 잠재적으로 부정적인 영향을 미칠 수 있다는 점, 특히 인공 지능이 사이버 보안에 새로운 문제를 일으킬 수 있는 방식에 대해 많은 불운과 암울함을 봅니다. Anthropic은 AI 기반 공격에 맞서 “세계에서 가장 중요한 소프트웨어를 보호”함으로써 이러한 문제를 해결하는 데 도움이 되는 Project Glasswing이라는 새로운 이니셔티브를 발표했습니다. 이러한 노력에는 Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, Linux Foundation, Microsoft, NVIDIA 및 Palo Alto Networks가 파트너로 포함됩니다.
참가자는 Anthropic의 미공개 범용 모델인 Claude Mythos Preview를 사용하여 자신의 보안 프로젝트를 강화하게 됩니다. Anthropic은 이 모델이 “모든 주요 운영 체제 및 웹 브라우저의 일부를 포함하여” 수천 개의 악용 가능한 취약점을 발견했다고 주장합니다. 회사는 경제와 보안에 심각한 결과를 초래할 수 있는 AI의 악의적인 사용을 방지하기 위해 자사 도구를 방어적으로 사용하기를 원한다고 밝혔습니다.
Anthropic은 해당 분야의 윤리에 대한 우려를 제기하는 주목할만한 AI 회사 중 하나가 되었습니다. 올해 초 이 회사는 국방부가 사용할 서비스의 가드레일 제거를 거부했고, 이로 인해 국방부는 보복으로 “공급망 위험” 지정으로 Anthropic을 제재하게 되었습니다. Project Glasswing을 시작하는 것은 AI 시대의 사이버 보안 향상을 위한 유용한 시작이 될 수 있지만 이미 일부 피해가 발생했습니다. 자체 Claude는 지난 2월 멕시코의 여러 정부 기관을 대상으로 해커에 의해 사용된 것으로 알려졌습니다.
