NVIDIA, Microsoft, Dell 및 SpaceX를 포함한 창립 멤버입니다.
NVIDIA는 사이버 보안 개선을 목표로 Open Secure AI Alliance를 구성하기 위해 세계 최대 기술 기업들을 한자리에 모았습니다. 27개의 창립 멤버 중에는 Microsoft, SpaceX, Dell, Linux Foundation 및 NVIDIA가 있습니다. NVIDIA는 “Linux Foundation의 Akrites 이니셔티브와 OpenSSF 커뮤니티 작업의 리더십을 기반으로 구축된 Open Secure AI Alliance는 개방형 기술을 사용하여 취약점을 해결하고 공개하기 위해 노력할 것입니다.”라고 밝혔습니다.
이 그룹은 Anthropic의 Mythos 5와 같은 AI 모델 시대에 공격을 가장 잘 방어하려면 보안 연구원이 개방형 및 폐쇄형 프론티어 모델에 모두 액세스해야 한다고 주장합니다. 대표적인 예로 NVIDIA는 Hugging Face에 대한 OpenAI의 최근 악성 공격을 언급했습니다. Hugging Face는 먼저 해킹을 찾아 격퇴하기 위해 폐쇄형 상업용 프론티어 모델을 사용하려고 시도했지만 해당 요청이 안전 가드레일을 작동시켜 거부되었습니다. 그런 다음 오픈 소스 모델로 전환하여 공격을 중지했습니다.
NVIDIA는 “공격자와 방어자를 구별할 수 없는 폐쇄형 AI 도구가 필수 포렌식 분석을 차단했을 때 Hugging Face는 자체 인프라에서 개방형 GLM 5.2 모델을 실행하여 17,000개 이상의 활동을 분석하고 침입을 억제했습니다.”라고 밝혔습니다.
NVIDIA와 일부 파트너는 동맹에 다양한 요소를 기여하기 위해 한 발 더 나아가고 있습니다. 엔비디아는 새로운 사이버 보안 도구 및 기술의 개발 속도를 높이기 위해 개방형 모델, 모델 가중치, 데이터 및 새로운 에이전트 하네스를 제공할 것이라고 밝혔습니다. HPE는 AI 에이전트와 서비스를 암호화 방식으로 확인할 수 있는 표준과 방법을 추가할 예정이며, Hugging Face는 Safetensors라는 AI 모델 가중치를 저장하는 안전한 형식을 제공할 것입니다. Microsoft, SpaceXAI, IBM, Red Hat도 오픈소스 AI 기술을 제공하고 있습니다.
이 그룹은 또한 정부가 공유 개방형 AI 인프라 투자에 대해 기업과 협력할 것을 촉구하고 있습니다. 규제 당국은 개방형 모델을 부채가 아닌 방어적 자산으로 인식해야 한다고 덧붙였습니다. 개방형 프론티어 AI 시스템에 대한 포괄적인 제한은 소수의 폐쇄형 제공업체에 대한 방어 능력을 약화시키고 위험 집중력을 약화시킨다고 말했습니다.
최근 보도에 따르면 트럼프 행정부는 중국 오픈소스 AI 모델에 대한 광범위한 금지를 고려하고 있다. 이는 OpenAI 및 Anthropic과 같은 폐쇄형 모델에 비해 사용 비용이 저렴하기 때문에 인기를 얻고 있습니다. 이 두 회사는 메타(Meta), 구글(Google) 등 다른 상용 AI 기업과 함께 새 동맹에 눈에 띄게 빠져 있다.
이 주제에 대해 더 알고 싶다면 아래를 참고하세요
