수요일, 전 OpenAI 연구원 Zoë Hitzig는 The New York Times에 게스트 에세이를 게재하여 OpenAI가 ChatGPT 내에서 광고 테스트를 시작한 월요일에 회사에서 사임했다고 발표했습니다. 하버드 펠로우 협회(Harvard Society of Fellows)에서 주니어 펠로우십을 보유하고 있는 경제학자이자 출판 시인인 Hitzig는 OpenAI에서 2년 동안 AI 모델의 구축 및 가격 책정 방식을 형성하는 데 도움을 주었습니다. 그녀는 OpenAI의 광고 전략이 Facebook이 10년 전에 저지른 것과 동일한 실수를 반복할 위험이 있다고 썼습니다.
Hitzig는 “나는 한때 AI를 만드는 사람들이 AI로 인해 발생할 수 있는 문제를 극복하도록 도울 수 있다고 믿었습니다.”라고 썼습니다. “이번 주에는 OpenAI가 답변을 돕기 위해 참여했던 질문을 더 이상 묻지 않는 것 같다는 느린 깨달음을 확인했습니다.”
Hitzig는 광고 자체를 부도덕하다고 부르지 않았습니다. 대신 그녀는 위험에 처한 데이터의 특성으로 인해 ChatGPT 광고가 특히 위험하다고 주장했습니다. 사용자들은 챗봇을 통해 의학적 두려움, 관계 문제, 종교적 신념을 공유했는데, 이는 종종 “사람들이 은밀한 목적이 없는 무언가와 대화하고 있다고 믿었기 때문”이라고 그녀는 썼습니다. 그녀는 이 누적된 개인 폭로 기록을 “전례가 없는 인간 솔직함의 기록 보관소”라고 불렀습니다.
그녀는 또한 소셜 미디어 회사가 한때 사용자에게 자신의 데이터에 대한 통제권과 정책 변경에 대한 투표 기능을 약속했다고 언급하면서 Facebook의 초기 역사와 직접적인 유사점을 도출했습니다. Hitzig는 이러한 약속이 시간이 지남에 따라 침식되었으며 연방 무역위원회는 Facebook이 사용자에게 더 많은 통제권을 부여한다고 마케팅한 개인 정보 보호 변경이 실제로는 그 반대임을 발견했다고 썼습니다.
그녀는 ChatGPT에서도 유사한 궤적이 나타날 수 있다고 경고했습니다. “저는 광고의 첫 번째 반복이 아마도 이러한 원칙을 따를 것이라고 믿습니다. 그러나 회사가 자체 규칙을 무시할 강력한 인센티브를 생성하는 경제 엔진을 구축하고 있기 때문에 후속 반복에서는 그렇지 않을 것이라고 걱정됩니다.”
AI 업계의 일주일 간의 논쟁 끝에 광고가 도착했습니다.
Hitzig의 사임은 AI 챗봇 광고에 대한 점점 커지는 논쟁에 또 다른 목소리를 더합니다. OpenAI는 지난 1월 미국에서 무료 및 월 8달러 “Go” 구독 계층 사용자를 대상으로 광고 테스트를 시작할 것이라고 발표했습니다. 반면 유료 Plus, Pro, Business, Enterprise 및 Education 구독자에게는 광고가 표시되지 않습니다. 회사는 광고가 ChatGPT 응답 하단에 표시되고 명확하게 라벨이 지정되며 챗봇의 답변에 영향을 미치지 않을 것이라고 말했습니다.
