다양한 정밀도 임계값을 재현합니다.
다양한 정밀도 임계값을 재현합니다.
세 번째 실험에서 연구원들은 Netflix 데이터 세트에서 5,000명의 사용자를 선택하고 결과에 없는 사람들의 또 다른 5,000개의 “주의를 산만하게 하는” 신원을 추가했습니다. 그런 다음 10,000개의 후보 프로필 목록에 쿼리 세트에만 나타나고 후보 풀에 실제 일치 항목이 없는 사용자로 구성된 5,000개의 쿼리 선택 요소를 추가했습니다.
LLM 비익명화에 대한 Netflix Prize 공격을 모방한 기존 기준과 비교하면 후자가 전자보다 훨씬 뛰어났습니다.
스크린샷
연구원들은 다음과 같이 썼습니다.
(a) 클래식 공격의 정확도는 매우 빠르게 떨어지며 이는 낮은 재현율을 설명합니다. 대조적으로, LLM 기반 공격의 정밀도는 공격자가 더 많은 추측을 할수록 더욱 우아하게 감소합니다. (b) 고전적인 공격은 적당히 낮은 정밀도에서도 거의 완전히 실패합니다. 대조적으로, 가장 단순한 LLM 공격(검색)조차도 낮은 정밀도에서 중요하지 않은 재현율을 달성하고 Reason 및 Calibrate 단계로 확장하면 Recall @99% 정밀도가 두 배로 늘어납니다.
결과에 따르면 LLM은 여전히 오탐지 및 기타 약점이 발생하기 쉽지만 온라인에서 사용자를 식별하는 데 있어 기존의 리소스 집약적인 방법을 빠르게 능가하고 있습니다.
연구원들은 사용자 데이터에 대한 API 액세스에 대한 속도 제한을 적용하고, 자동 스크래핑을 감지하고, 대량 데이터 내보내기를 제한하는 플랫폼을 포함한 완화 조치를 제안했습니다. LLM 제공업체는 익명화 공격에서 모델의 오용을 모니터링하고 모델이 익명화 요청을 거부하도록 하는 가드레일을 구축할 수도 있습니다.
물론 또 다른 옵션은 사람들이 소셜 미디어 사용을 극적으로 억제하거나 최소한 설정된 시간 임계값 이후 정기적으로 게시물을 삭제하는 것입니다.
연구원들은 LLM의 익명화 성공이 향상되면 정부가 이 기술을 사용하여 온라인 비평가의 정체를 밝힐 수 있고, 기업은 “하이퍼 타겟 광고”를 위해 고객 프로필을 수집할 수 있으며, 공격자는 고도로 개인화된 사회 공학 사기를 시작하기 위해 대규모로 대상 프로필을 구축할 수 있다고 경고합니다.
“최근 LLM 기능의 발전으로 인해 LLM이 주도하는 공격적인 사이버 기능에 따라 컴퓨터 보안의 다양한 측면을 시급히 재고할 필요가 있다는 것이 분명해졌습니다. “우리 연구에 따르면 개인 정보 보호에 대해서도 마찬가지일 가능성이 높습니다.”
