Google의 Gemini AI 모델은 지난 한 해 동안 비약적으로 발전했지만 Google의 조건에 따라서만 Gemini를 사용할 수 있습니다. 이 회사의 Gemma 개방형 모델은 더 많은 자유를 제공했지만 1년 전에 출시된 Gemma 3은 시간이 좀 오래 걸립니다. 오늘부터 개발자는 로컬 사용에 최적화된 4가지 크기로 제공되는 Gemma 4로 작업을 시작할 수 있습니다. Google은 또한 AI 라이선스에 대한 개발자의 불만을 인정하여 맞춤형 Gemma 라이선스를 폐기하고 있습니다.
개방형 모델의 이전 버전과 마찬가지로 Google은 Gemma 4를 로컬 컴퓨터에서 사용할 수 있도록 설계했습니다. 물론 그것은 많은 것을 의미할 수 있습니다. 두 가지 대형 Gemma 변형인 26B Mixture of Experts와 31B Dense는 단일 80GB Nvidia H100 GPU에서 bfloat16 형식으로 양자화되지 않은 상태로 실행되도록 설계되었습니다. 물론 20,000달러짜리 AI 가속기이지만 여전히 로컬 하드웨어입니다. 더 낮은 정밀도로 실행되도록 양자화하면 이러한 대형 모델은 소비자 GPU에 적합합니다.
Google은 또한 Gemma의 로컬 처리를 실제로 활용하기 위해 대기 시간을 줄이는 데 중점을 두었다고 주장합니다. 26B 전문가 혼합 모델은 추론 모드에서 260억 개의 매개변수 중 38억 개만 활성화하여 유사한 크기의 모델보다 훨씬 더 높은 초당 토큰을 제공합니다. 한편 31B Dense는 속도보다 품질이 더 중요하지만 Google은 개발자가 특정 용도에 맞게 이를 미세 조정할 것으로 기대합니다.
다른 두 Gemma 4 모델인 Effective 2B(E2B)와 Effective 4B(E4B)는 모바일 장치를 대상으로 합니다. 이러한 옵션은 추론 중에 효과적인 20억 또는 40억 개의 매개변수에서 실행되어 낮은 메모리 사용량을 유지하도록 설계되었습니다. Google은 Pixel 팀이 Qualcomm 및 MediaTek과 긴밀히 협력하여 스마트폰, Raspberry Pi 및 Jetson Nano와 같은 장치에 맞게 이러한 모델을 최적화했다고 밝혔습니다. Gemma 3보다 메모리와 배터리를 덜 사용할 뿐만 아니라 Google은 이번에는 “거의 지연 시간”을 자랑합니다.
더 강력하고 더 개방적입니다.
모든 새로운 Gemma 4 모델은 Gemma 3를 뒤흔들 것으로 알려졌습니다. Google은 이 모델이 로컬 하드웨어에서 실행할 수 있는 가장 유능한 모델이라고 주장합니다. 구글은 Gemma 31B가 최고의 개방형 AI 모델 아레나 목록에서 GLM-5와 Kimi 2.5에 이어 3위로 데뷔할 것이라고 밝혔습니다. 그러나 가장 큰 Gemma 4 변형조차도 해당 모델 크기의 일부에 불과하므로 이론적으로 실행 비용이 훨씬 저렴합니다.
