AI, 기술, 금융 및 기타 산업 분야의 100개 이상의 기업이 사이버 보안 개선을 요구하는 공개 서한에 이름을 올렸습니다. 긴 참가자 목록에는 Anthropic, AWS, Cisco, Cloudflare, CrowdStrike, Google, Hugging Face, Microsoft, OpenAI, Oracle 및 Perplexity가 포함됩니다.
서명자가 준수하고자 하는 핵심 원칙은 다음과 같습니다.
- “현 상태의 보안만으로는 충분하지 않다는 점을 인식하십시오.”
- “사이버 지원 AI로 더 많은 방어자 역량을 강화하세요.”
- “집단적 대응을 동원하라.”
이어서 인공 지능으로 구동되는 공격의 폭발 가능성을 차단하기 위해 조직, 정부, 사이버 보안 및 기술 산업, AI 기업이 취할 수 있는 조치를 나열합니다.
편지 제목은 ‘사이버 방어를 위한 집단행동 촉구’인데, 여느 공포영화처럼 그 부름은 집 안에서 흘러나온다.
이는 “앞으로 몇 달 안에 전 세계 모델의 능력이 점점 향상됨에 따라 AI 기반 사이버 공격이 훨씬 더 광범위하고 정교해질 것”이라는 경고를 제기합니다. 그것은 새로운 계시가 아닙니다. 이러한 경고는 에이전트 AI가 테스트 환경을 조작할 수 있는 능력이 충분히 입증되기 전에, 그리고 정부가 공개적으로 사용 가능한 챗봇을 사용하여 이미 해킹당하기 전에 나왔어야 했습니다. 문제의 원인인 AI 회사와 이러한 AI 도구를 운영의 모든 측면에 적용한 기술 브랜드가 몇 년이 지난 지금 책임감 있게 행동하려고 노력하는 것은 설익은 일이고 솔직하지 못한 느낌입니다. 이는 의미 있는 공공 서비스 발표라기보다는 AI 사이버 공격에 맞서 싸우는 데 필요한 AI 기반 보호에 대한 침울하고 공포를 불러일으키는 광고에 더 가깝습니다.
예, 제안에는 조직이 사이버 보안을 최우선 순위로 삼고 첨단 AI 회사가 “관찰 가능성 및 보안 도구를 구축하고 에이전트 ID가 추적 가능하고 책임이 있는지 확인하며 지속적인 모니터링의 모범 사례를 공유”하는 것과 같이 취할 가치가 있는 견고하고 상식적인 조치가 포함되어 있습니다. 그러나 이 공개 서한은 지난 달 발표된 AI 회사 직원들이 미국 정부에 업무에 대해 더 많은 규제를 도입할 것을 촉구한 것과 비슷한 어조를 가지고 있습니다.
관련 정보는 아래 링크에서 확인하세요
