Mythos는 중간 충돌 공격에 사용되는 보다 정교한 지문 인식 알고리즘인 Möbius Bridge를 기반으로 하는 새로운 중간 충돌 기술을 찾는 데 도움을 주었습니다. 이를 사용하여 Mythos가 생성한 코드는 필요한 입력 수를 2개로 줄일 수 있었다고 Green은 말했습니다.89. Anthropic은 비용을 절감하면 이러한 공격에 필요한 시간을 200~800배 줄일 수 있다고 말했습니다.
이렇게 많은 입력을 생성할 수 있는 능력으로 인해 실험실 외부에서는 공격이 불가능해집니다. 또한 테스트된 약화된 AES 알고리즘은 7라운드만 사용했기 때문에 실제 속도 향상은 알 수 없습니다. 사양을 준수하는 AES는 키 크기에 따라 10, 12 또는 14개의 라운드를 사용한다고 Green은 말했습니다.
Anthropic은 이러한 경고 사항의 대부분을 명시적으로 설명하는 데 주의를 기울였습니다. 그러나 월요일 블로그 게시물은 그럼에도 불구하고 결과가 의미가 있으며 궁극적으로 암호 분석 프로세스 또는 암호 시스템의 적대적 테스트를 근본적으로 방해할 수 있다고 주장합니다.
Anthropic은 “사이버 보안 커뮤니티는 이제 언어 모델이 표준 인간 프로세스(예: 취약성 분류, 확인, 교정)가 따라잡기 힘든 너무 많은 버그를 발견할 수 있다는 사실과 씨름하고 있습니다.”라고 썼습니다. “우리는 학술 암호학 연구에서도 곧 그런 일이 일어날 것으로 예상합니다. 언어 모델이 점점 더 새로운 연구 결과를 자율적으로 생성함에 따라 인간 연구자들은 기술적 타당성, 참신함 및 유용성을 위해 이러한 결과를 연구하고 검증하는 데 병목 현상이 발생할 수 있습니다.”
Anthropic의 보고서에는 연구원들이 Mythos를 사용하여 타원 곡선 암호화 및 RSA와 같이 더 많은 테스트를 거친 암호화 시스템을 공격했는지 여부는 언급되지 않았습니다. 이러한 시스템에 대한 공격 개선은 더욱 인상적입니다. 아직 초기 단계에 있는 알고리즘에 비해 가장 인상적인 결과를 달성함으로써 Mythos가 실제로 얼마나 많은 이점을 제공했는지는 확실하지 않습니다. 기존 암호 분석 기술을 사용하는 연구자가 이미 동일한 공격을 발견할 뻔했는지 알 수 있는 방법이 없습니다.
결국, 연구에서 얻은 교훈은 간단합니다. AI 지원 암호 분석은 아직 테스트되지 않았으며 이러한 플랫폼 제공업체는 그 이점을 과장하는 데 큰 관심을 갖고 있습니다. 동시에, LLM이 암호화 약점을 찾는 데 상당한 이점을 제공할 수 있다는 증거가 늘어나고 있습니다. 우리의 가장 중요한 자산을 보호하고 손상시키는 경쟁에서 LLM이 언젠가는 중요한 역할을 하지 않을 것이라고 결론을 내리는 것은 실수입니다.
HAWK의 탈퇴를 반영하여 이 기사의 헤드라인과 본문이 업데이트되었습니다.
관련 정보는 아래 링크에서 확인하세요
