소스 링크를 잘못 해석하는 것으로 알려진 모든 AI 검색 엔진과 챗봇에 잠재적으로 영향을 미칠 수 있는 독일 법원은 AI 개요의 허위 진술에 대해 Google이 책임이 있다고 판결했습니다.
예비 판결은 The Decoder가 지적한 사건에서 나왔습니다. 두 게시자는 Google의 AI 개요가 자신들을 사기 및 기타 대략적인 비즈니스 관행과 잘못 연결했다는 사실을 발견했습니다. 구글은 “예, (그것은) 의심스러운 사업 관행으로 알려져 있으며 종종 사기로 인식됩니다”와 같은 긍정적인 진술로 출판사를 비방한 후, 올해 초 출판사가 중단 편지를 보낸 후에도 오해의 소지가 있는 출력을 수정하지 못했습니다.
Google은 AI 개요의 허위 진술에 대한 책임으로부터 자신을 보호하기 위해 대부분의 사용자가 AI 출력이 항상 정확한 것은 아니며 확인해야 한다는 점을 이해한다고 주장하는 등 일반적인 주장을 시도했습니다.
그러나 법원은 제3자 진술에 대한 링크 목록만 제공하는 기존 검색 엔진과 달리 Google의 도구는 인터넷상의 링크에 대한 자체적인 잘못된 해석을 바탕으로 “독립적이고 새롭고 실질적인 진술”을 작성했다고 판결했습니다.
법원은 제3자가 Google 검색 결과에 나타나는 명예훼손적 진술을 게시하는 것을 막기 위해 게시자가 소송을 제기할 수 있었지만 Google만이 AI 개요에 표시된 기본 알고리즘과 출력을 수정할 수 있기 때문에 이것이 문제라고 말했습니다. 그리고 적어도 처음에는 회사가 그렇게 하지 않았기 때문에 법원은 “책임을 져야 한다”고 판결했습니다. 그 외에도 이번 사건의 AI개요에는 “검색결과에 전혀 나오지 않는 내용이 포함되어 있다”는 점에서 구글의 주장은 특히 취약한 것으로 판단됐다.
Google이 추가 AI 개요에서 허위 주장을 퍼뜨리는 것을 금지하는 임시 금지 명령을 요구하는 법원 명령은 법원이 AI 연설에 대해 AI 회사에 책임을 묻는 최초의 것으로 보이기 때문에 전 세계적으로 영향을 미칠 수 있습니다.
과거 AI 기업들은 잘못된 정보에 대해 경고하는 면책 조항을 통해 신뢰할 수 없는 결과물에 대한 소송으로부터 자신들을 보호할 수 있기를 바랐습니다. 작년에 한 챗봇 제조사는 AI 음성이 그 자체의 ‘순수 음성’ 범주이며 수정헌법 제1조가 이를 보호해야 한다고 주장하기도 했습니다.
그러나 독일 법원 판결의 구글 번역에 따르면 허위 출력은 ‘주로 피고의 상업적 활동의 표현’이었고 AI 도구의 ‘의견’과 허위 진술은 여론에 영향을 미칠 수 있었다.
이 주제에 대해 더 알고 싶다면 아래를 참고하세요