전문 사이버 보안 컨설팅 회사인 TPO Group의 최고 보안 책임자인 Tarah Wheeler는 “Anthropic의 다른 경쟁업체가 Mythos와 유사한 기능을 개발하지 않을 것이라고 생각하는 것은 극단적으로 근시안적입니다.”라고 말합니다. “아마도 능력을 갖고 있을 가능성이 있는 Anthropic의 뒤를 바짝 쫓는 다른 회사들이 있으며, 현재 규제 환경에서 Anthropic이 어떻게 대우받고 있는지 지켜보면서 그들을 유보하고 있습니다.”
Anthropic 자체도 Mythos Preview 출시 이후 이 점을 강조해 왔습니다. 회사의 프론티어 레드 팀 리더인 Logan Graham은 지난 4월 Mythos Preview가 출시되었을 때 WIRED에 “진짜 메시지는 이것이 모델이나 인류애에 관한 것이 아니라는 것입니다.”라고 말했습니다. “우리는 이러한 기능을 6개월, 12개월, 24개월 내에 광범위하게 사용할 수 있는 세상에 대비해야 합니다.”
예를 들어 OpenAI도 4월 중순에 사이버 보안에 초점을 맞춘 모델을 비공개로 출시하고 확장된 사이버 보안 전략을 발표했습니다.
연구원들은 이 차세대 모델 이전에도 기존 AI 제품을 개선된 하네스를 통해 고급 취약성 사냥 및 익스플로잇 개발에 사용할 수 있다고 지적합니다. 다수의 사이버 보안 지도자들은 일요일 공개 서한을 통해 백악관의 수출 통제 지침이 잘못되었다고 주장하면서 이를 행정부에 강조했습니다.
상황을 분석해 온 하버드 대학과 토론토 대학의 연구원인 Bruce Schneier는 “이것은 하나의 모델이 아니라 기술의 일반적인 추세입니다.”라고 말합니다. “더 작고 저렴한 오픈 소스 모델은 때로는 단독으로, 때로는 서로 협력하여 Mythos/Fable의 성능에 더 정교한 프롬프트를 제공할 수 있습니다. 그리고 우리는 다른 모델이 몇 달 내에 Mythos/Fable의 창의성과 끈기와 일치할 것으로 기대해야 합니다. 오픈 소스 모델의 경우 약간 더 길어집니다.”
전문가들은 백악관과 전 세계 정부가 집중해야 할 것은 사이버 보안 및 기타 민감한 영역에서 필연적으로 발생하는 AI 기능의 발전에 대처할 방법에 대한 훨씬 더 광범위하고 투명한 계획을 민주적으로 개발하는 것이라고 말합니다.
클라우드 보안 회사인 Veracode의 공동 창업자인 Chris Wysopal은 “정책 문제는 기술에 위험이 있는지 여부가 아닙니다.”라고 말합니다. “문제는 특정 제한이 위험을 의미있게 줄이는지 아니면 시스템을 더 안전하게 만들려는 사람들의 속도를 주로 늦추는지 여부입니다.”
이 이야기는 원래 wired.com에 게재되었습니다.
관련 정보는 아래 링크에서 확인하세요