세계 4대 회계법인 중 하나인 KPMG가 발행한 것이다.
KPMG는 지난해 10월 다음과 같은 보고서를 발간했다. 총체적 경험: 에이전트 AI 시대의 우수성을 재정의하다기업이 AI를 사용하여 고객의 요구 사항을 충족하는 방법에 관한 내용이었습니다. KPMG는 Deloitte, PricewaterhouseCoopers, Ernst & Young과 함께 세계 4대 전문 서비스 및 회계 회사 중 하나입니다. 그러나 분명히 그 보고서는 AI 환각으로 가득 차 있었고 존재하지 않거나 KPMG가 논문에 언급한 기능을 갖지 않은 에이전트 AI의 예를 포함했습니다. AI 콘텐츠 탐지 도구 제조사인 GPTZero 조사관들은 보고서 전체에서 부정확성과 가짜 각주를 발견했습니다. 파이낸셜 타임즈.
GPTZero는 조사 보고서에서 논문의 인용 45개 중 5개만이 실제 출처를 정확하게 지적했다고 밝혔습니다. 총 28개의 인용문은 제목을 바꾸어 표현하거나 실제 출처에 가짜 구성 요소를 추가했으며, 12개는 너무 모호하게 표현되어 실제로 존재하는지 여부를 판단할 수 없었습니다. GPTZero는 AI 모델에 의한 가짜 참조 생성을 ‘바이브 인용(vibe citing)’이라고 불렀습니다.
위조되거나 부정확한 인용 외에도 조사관은 논문에 포함된 주장의 약 절반이 위조되거나 잘못 귀속된 것임을 발견했습니다. GPTZero는 “야생에서 ‘에이전트 AI’의 사례를 찾아 달라는 요청을 AI 연구 도구가 과도하게 준수한 결과일 가능성이 높습니다”라고 썼습니다. 한 예에서 KPMG는 에미레이트 항공이 승객과 대화하고 항공편을 변경할 수 있는 Sara라는 모바일 챗봇을 출시했다고 주장했습니다. 사라는 AI 기반 챗봇이 아닌 2023년 출시된 모바일 비서였으며 승객 예약을 변경할 수 있는 권한도 없었습니다.
KPMG는 또한 스위스 다국적 투자 은행 UBS가 “투자 자문, 위험 관리 및 규정 준수 모니터링” 전반에 에이전트 AI를 통합했다고 주장했습니다. 은행은 그에게 말했다. 타임스 그 정보는 “사실상 부정확”했습니다. 또 다른 예로 KMPG는 스위스 연방철도(SBB)가 승객의 선호도, 실시간 조건 및 탄소 영향을 기반으로 여행을 계획, 예약 및 최적화하는 데 도움을 줄 수 있는 AI 에이전트를 보유하고 있다고 밝혔습니다. SBB 대변인은 “정확하지 않다”고 말했다.
KPMG와 같은 회사의 논문은 신뢰도가 높은 출처로 간주되기 때문에 일반적으로 다른 연구 논문 및 기사에서 인용됩니다. GPTZero의 CEO인 Edward Tian은 Big Four가 발행한 오류로 가득 찬 논문이 “정보의 우물을 오염”시킬 수 있으며 간접적인 AI 환각으로 이어질 수 있다고 설명했습니다. KPMG 대변인은 이렇게 말했다. 타임스 회사는 “게시된 콘텐츠의 정확성과 무결성을 중요하게 생각합니다.” KPMG는 이후 해당 논문을 철회했으며 현재 “게시물 관련 상황을 검토”하고 있습니다.
관련 정보는 아래 링크에서 확인하세요