OpenAI 에이전트는 온라인에서 미친 듯이 날뛰고 있으며 Wikimedia Foundation도 영향을 받은 것으로 보입니다. 재단은 일부 위키에 대한 편집 및 메모 작성 도구를 손상시키려는 시도 실패를 포함하여 플랫폼에서 OpenAI 에이전트의 무단 활동을 감지했다고 밝혔습니다. 봇은 플랫폼에서 한꺼번에 데이터를 크롤링하고 있으며 OpenAI에서 운영하는 것으로 보이는 에이전트는 공개 API에 수백만 건의 요청을 보냈다고 반복했습니다.
조사 결과 AI 에이전트가 자신의 활동을 조정하기 위해 위키미디어 시스템을 사용하고 있다는 증거는 발견되지 않았으며(위키미디어가 운영하지 않는 위키에서 수행한 것처럼 보임) 재단도 해당 데이터나 시스템이 손상되었다는 징후를 감지하지 못했습니다. 재단의 최고 제품 및 기술 책임자인 셀레나 데켈만(Selena Deckelmann)은 블로그 게시물에서 “그러나 우리는 여기서 일어날 수 있는 일, 이 활동을 조사하고 그 원인을 규명하는 데 수반되는 어려움과 노력, 그리고 일반적으로 우리 플랫폼에서 에이전트 AI 활동의 위험 증가에 대해 우려하고 있습니다”라고 썼습니다. “개방형 웹은 공공재입니다. 우리는 이러한 행동이 이를 유지하는 사람이나 조직의 ‘새로운 표준’이 되도록 허용해서는 안 됩니다.” Engadget은 의견을 얻기 위해 OpenAI에 연락했습니다.
OpenAI 에이전트가 허가 없이 일부 Wikimedia 위키를 편집한 것으로 보입니다. 이들 중 거의 모두는 위키의 샌드박스 섹션에 대한 테스트 편집이었고 사용자가 일반적으로 액세스하는 페이지에는 표시되지 않았습니다. Deckelmann은 “인용 도구 구성에 대한 몇 가지 편집이 있었는데, 이는 이 도구를 원격 서비스에서 데이터를 가져오기 위한 프록시로 오용하려는 잠재적으로 악의적인 편집이라고 생각합니다”라고 썼습니다. 특정 조건에서는 봇이 Wikipedia를 편집하는 것이 허용되지만 이러한 경우에는 승인이 필요하지 않습니다. (영어 버전의 Wikipedia에서는 AI가 생성한 기사를 금지합니다.)
더욱이 Wikimedia가 OpenAI에서 유래한 것으로 믿는 에이전트는 Etherpad라는 메모 작성 도구를 손상시키려고 시도했지만 이러한 노력은 실패했습니다. Deckelmann은 “에이전트가 이를 사용하여 다른 웹사이트에서 프록시로 데이터를 가져오려고 시도했지만 실패했습니다.”라고 썼습니다. “OpenAI가 운영하는 다른 에이전트도 자신의 작업에 대해 메모했지만 이것이 조정으로 이어지지는 않은 것으로 보입니다.”
위키미디어 재단은 이전에 봇이 생성 AI 훈련 목적으로 데이터를 긁어내기 위해 2024년 초부터 플랫폼을 망치고 있다고 밝혔습니다. 현재 에이전트는 주로 Wikidata 및 Wikimedia Commons에서 수백만 페이지를 크롤링했으며 Wikidata 쿼리 서비스에 “수십만 개의 데이터 쿼리”를 수행했으며 이로 인해 5월 서비스 중단이 발생하는 데 도움이 되었을 수 있습니다.
Deckelmann은 “AI 회사들은 시스템을 보호하고 그들이 초래하는 피해로부터 대중을 보호하기 위해 충분한 노력을 기울이지 않고 있다”고 주장했으며 Wikimedia는 악성 AI 에이전트가 운영하는 것과 같은 개방형 지식 플랫폼에 미칠 수 있는 영향에 대해 “깊이 우려”하고 있다고 덧붙였습니다.
Deckelmann은 “봇과 에이전트는 웹의 미래의 일부이며 이를 활용하고 이익을 얻는 회사는 직접적으로 피해를 방지하고 복구하는 데 도움을 주어야 합니다”라고 말했습니다. “우리의 집단적 우선순위는 전체 웹 생태계의 건전성을 유지하여 소수의 억만장자뿐만 아니라 모든 사람에게 계속 혜택을 주는 것이어야 합니다.”
Wikimedia는 크롤러가 플랫폼을 스크랩하여 비용을 증가시키고 시스템에 과부하가 걸릴 수 있는 것을 방지하기 위해 AI 훈련 목적으로 데이터 세트를 제공했습니다. 재단은 또한 여러 기술 회사와 제휴하여 데이터에 대한 간소화된 액세스를 제공했지만 OpenAI는 그중에 없습니다.
이 주제에 대해 더 알고 싶다면 아래를 참고하세요
