Anthropic은 즉각적인 주입과 같은 일반적인 위험을 방지하기 위한 보호 장치가 마련되어 있으며 기본적으로 특정 “금지” 앱(예: “투자 및 거래 플랫폼, 암호화폐”)에 대한 액세스를 제한할 것이라고 밝혔습니다.
Anthropic은 또한 지원 페이지에서 모델이 돈 이동 또는 투자, 파일 수정, 얼굴 이미지 스크랩 또는 “민감한 데이터” 입력과 같은 “위험한 작업”을 방지하도록 훈련되었다고 언급합니다. 그러나 회사는 또한 이러한 교육 보호 장치가 “완벽하지도 않고” “완전하지도 않다”고 경고합니다. 이는 “Claude가 때때로 이러한 경계 밖에서 행동할 수 있음”을 의미합니다.
Anthropic은 또한 컴퓨터 사용이 활성화되면 Claude가 “개인 데이터, 민감한 문서 또는 개인 정보”를 포함하여 화면에 표시되는 모든 것을 볼 수 있다고 경고합니다. 이러한 모든 이유로 회사는 이 연구 미리보기 단계에서 “신뢰할 수 있는 앱으로 시작하고 민감한 데이터로 작업하지 않을 것”을 권장합니다.
Anthropic의 발표는 Perplexity의 개인용 컴퓨터, Manus의 My Computer 및 Nvidia의 NemoClaw가 출시된 지 불과 몇 주 후에 나왔습니다. 마찬가지로 AI 에이전트가 데스크톱을 직접 제어할 수 있게 해줍니다. 이러한 모든 기업 움직임은 연초 OpenClaw의 바이러스 확산에 따른 것이며, 이로 인해 OpenAI는 “차세대 개인 에이전트를 추진하기 위해” OpenClaw 창시자 Peter SteinBerger를 고용했습니다.
