균열 사이로 미끄러져
Rosenbaum은 집필 과정에서 “아이디어를 표면화하고, 기사를 찾고, 주제를 요약하고, 내가 조사하고 싶은 사람이나 논문을 식별하기 위해” AI 도구를 사용했다고 말했습니다. 그는 이런 종류의 연구와 “책에 나오는 실제 보고, 내러티브 구조, 인터뷰, 주장, 결론” 사이에 엄격한 선을 긋습니다. 그는 “완전히 내 것입니다… AI가 책을 쓴 적은 한 번도 없었습니다.”라고 말합니다.
Rosenbaum이 직접 수행했다고 말한 녹음된 인터뷰를 기반으로 한 장 외에도 진실의 미래 또한 Rosenbaum이 “우리는 사실을 끌어낸 다음 이를 하나의 이야기로 엮고 있습니다”라고 말한 연구 기반 장도 더 많이 포함합니다. OpenAI의 ChatGPT 및 Anthropic의 Claude와 같은 도구는 정보를 수집하는 데 많이 사용되었으며 그의 노트에 “이것은 AI에서 나온 것입니다”라는 경고 태그가 붙은 도구로 채굴한 덩어리가 있다고 그는 말했습니다.
이 모든 면에서 이상할 정도로 창의적이고 교활하며 특이합니다. 그리고 정말 끔찍한 방식으로 여러분을 배신합니다.
스티븐 로젠바움
그런 다음 태그가 붙은 AI 생성 노트는 사실 확인 담당자와 출판사가 제공한 두 명의 편집자에게 전달되었다고 Rosenbaum은 말했습니다. 이 책의 외부 인용 285개 중 6개가 타임즈에 의해 문제가 있는 것으로 확인되었으며, 그 중 3개는 명백한 출처가 없는 소위 “합성 인용문”입니다. (책이 추가 검토를 거치면서 더 많은 예가 나타날 수 있습니다. 그리고 대부분의 작가가 가까스로 포함한다는 점은 주목할 가치가 있습니다. 영 책을 쓸 때 꾸며낸 인용문입니다.)
Rosenbaum은 Ars에 “우리는 믿을 수 없을 만큼 효과적으로 (재확인) 작업을 수행했지만 100%는 아니었다고 생각합니다.”라고 말했습니다. “우리는 일을 하고 있고, 최선을 다하고 있습니다. 살펴보니 맞는 것 같습니다. 다시 한번 확인한 다음 실수를 했습니다.”
그러나 여기서 중대한 실패는 기존의 사실 확인 프로세스가 AI 지원 연구를 처리하기에 부적절할 수 있음을 강조합니다. 과거에는 사실 확인 담당자가 인용된 저작물을 인용하는 저자가 해당 인용문을 직접 복사했을 뿐이라고 합리적으로 확신할 수 있었습니다. 물론 이러한 인용문을 확인해야 하지만 확인하기가 매우 쉽다는 사실로 인해 본질적으로 의심스러운 부분이 줄어듭니다. 그러나 AI 도구가 파이프라인의 어느 곳에든 관련되어 있다면 그 가정은 사라지고 해당 인용문이 올바르게 복사되었는지 또는 전혀 존재하는지에 대한 회의적인 층이 추가로 필요합니다.
이 주제에 대해 더 알고 싶다면 아래를 참고하세요
