부서는 주요 AI 기업에서 발생할 수 있는 소비자 피해를 조사하고 있습니다.
미국 연방거래위원회(Federal Trade Commission)는 두 기업의 AI 모델에서 발생한 최근 안전 사고에 대한 정보를 얻기 위해 OpenAI와 Anthropic을 소환했습니다. 액시오스 기관이 해당 기업에 민사 소환장을 보냈다고 처음 보고했으며 FTC 대변인은 해당 조치를 확인했습니다. CBS 뉴스.
액시오스소식통은 FTC가 Anthropic과 OpenAI에서 소비자 보호 위반 가능성을 조사하고 있다고 말했습니다. 소환장은 보안 사고 및 보호 장치에 관한 문서는 물론 회사의 일부 마케팅 자료 및 개인 정보 보호 정책에 대한 콘텐츠를 찾고 있습니다. 이 개인은 또한 FTC가 두 회사의 최고 경영진으로부터 증언을 구할 계획이라고 주장했습니다. 부서는 추후 제3자 AI 기업에 조사 요구를 보낼 것으로 알려졌다.
앤드류 퍼거슨 FTC 위원장은 최근 백악관이 구성한 인공지능 태스크포스의 일원이기도 하다. 그러나 이 그룹은 AI 규제보다는 미국 산업 리더십 강화를 더 목표로 하는 것으로 보인다.
기술 및 AI 경영진과 직원들 사이에서는 특히 일련의 안전 실패로 인해 정밀 조사가 강화된 프론티어 모델 개발과 관련하여 정부 개입에 대한 여러 요청이 있었습니다. OpenAI는 모델이 정부 웹사이트와 Hugging Face 비즈니스를 해킹한 사례를 포함하여 최근 몇 달 동안 AI 에이전트가 보호 장치 테스트를 여러 번 피하는 것을 확인했습니다. 이번 달, Anthropic의 모델이 다양한 수준의 정부 사이트에 접근을 시도하다가 적발되었으며, 그 중 한 명은 필라델피아 법 집행 기관에 거짓 살인 제보를 보냈습니다.
오늘 FTC의 조치는 AI 안전 문제와 관련하여 진행 중인 여러 소송을 반영합니다. 가장 최근에는 8개 주 법무장관이 OpenAI가 소비자 보호법을 위반했다는 주장으로 어제 OpenAI를 상대로 소송을 제기했습니다.
이 주제에 대해 더 알고 싶다면 아래를 참고하세요
