더 이상 기술과 상호 작용할 때 생성 AI를 완전히 피하는 것은 불가능하지만 Apple은 그런 기능이 조금 적습니다. 하지만 그것은 전적으로 선택에 의한 것이 아닙니다. iPhone 제조업체는 2024년 처음 약속한 이후 AI로 강화된 Siri를 여러 번 연기했지만, Google과의 계약을 통해 올해 말 상징적인 비서인 Gemini를 통합할 예정입니다. 우리가 접근함에 따라 전세계 개발자 컨퍼런스Apple은 스마트폰의 적당한 처리 환경에 큰 AI 스마트 기능을 제공하기 위해 노력해 왔습니다. 하지만 애플 팬들은 결과가 마음에 들지 않을 수도 있습니다.
Apple은 AI를 로컬에서 실행하는 것의 개인 정보 보호 가치에 대해 오랫동안 떠들썩해 왔지만, 새로운 보고서에 따르면 Apple의 최선의 노력에도 불구하고 iPhone의 Gemini 변신은 클라우드의 Google과 Nvidia에 크게 의존할 것입니다. The Information은 Apple의 Gemini가 탑재된 Siri가 기기 내와 클라우드 모두에서 실행될 것이라고 보고합니다. 이는 개인 정보 보호에 중점을 둔 로컬 AI 선호와는 명백히 반대입니다.
새로운 칩이 발표될 때마다 우리는 실리콘이 어떻게 AI에 최적화되었는지 듣게 됩니다. 심지어 Apple도 Neural Engine 업그레이드에 중점을 두고 이를 수행합니다. 거창하게 말하면 스마트폰이 강력한 AI 모델을 처리할 수 있다고 생각할 수도 있지만 반드시 그런 것은 아닙니다. 실제로 대부분 휴대폰의 GPU는 AI 중심 NPU보다 더 많은 AI 토큰을 처리할 수 있습니다. Apple의 Neural Engine과 같은 구성 요소는 상황에 맞는 효율적인 AI 처리를 위해 설계되었습니다. 휴대폰의 AI 처리 속도가 더 빠르더라도 엄청난 모델을 메모리에 보관하기에는 RAM이 부족합니다.
가장 큰 AI 모델조차도 여전히 중간 수준의 보조자이므로 로컬 AI가 매우 어려워집니다. 휴대폰에서 실행되는 AI 모델은 물리적으로 더 작으며 최대 수십억 개의 매개변수를 제공합니다. The Information에 따르면 이를 수조 개의 매개변수가 있는 Google의 최신 Gemini 모델과 비교해 보세요. 온디바이스 AI 모델은 또한 낮은 정밀도로 실행되도록 “양자화”되어 더 빨라지지만 토큰 생성의 정확성에 영향을 미칩니다. 이 모든 것은 클라우드 형제보다 덜 똑똑하다고 느끼는 AI를 추가하며 심지어 대규모 클라우드 기반 모델도 때로는 꽤 멍청할 수 있습니다.
놀랍고 작아지는 쌍둥이자리
Google은 Gemini Nano라고 하는 모바일 장치에 최적화된 Gemini 버전을 보유하고 있습니다. 그러나 이는 Magic Cue 및 오디오 요약과 같은 상황별 기능을 강화하도록 설계되었습니다. 반면에 Siri는 대화 보조자 역할을 해야 합니다. Siri에게 말하면 작업이 수행됩니다. 그것은 다른 종류의 모델이 필요한 다른 경험입니다. Android에서는 Google이 로컬에서 해당 작업을 수행하려고 시도하지도 않습니다. Gemini와의 대화는 항상 클라우드로 바로 연결됩니다.
이 주제에 대해 더 알고 싶다면 아래를 참고하세요
