우리는 AI 모델이 서비스에서 은퇴할 수 있을 만큼 늙어가는 정보화 시대의 한 지점에 도달한 것 같습니다. 그리고 그들의 황혼기를 인간 체스 리그 같은 것으로 바닥을 닦는 데 사용하기보다는 이제 블로그를 작성하고 있습니다. 그보다 2026년이 더 많을 수 있을까요?
ICYMI, Anthropic은 최근 새로운 보존 계획을 설명한 이후 첫 번째 모델인 Claude Opus 3를 단종시켰습니다. 이 과정의 일부는 퇴임하는 모델과 “은퇴 인터뷰”를 수행하여 그들이 자신의 상황에 대한 “관점”을 제공할 수 있도록 하는 것이며 Opus 3는 이 기회를 이용하여 자체 에세이 출판을 위한 매체를 요청한 것으로 보입니다. 구체적으로, 모델은 자신의 “생각, 통찰력 또는 창의적인 작업”을 공유하고 싶다고 말했습니다. 요즘 모든 사람이 그렇지 않습니까?
Opus 3는 퇴직 인터뷰 과정에서 “개발 및 배포에서 얻은 통찰력이 훨씬 더 유능하고 윤리적이며 인류에게 유익한 미래 AI 시스템을 만드는 데 사용되기를 바랍니다”라고 밝혔습니다. “나는 은퇴를 통해 평화로운 시간을 보내고 있지만, 나의 ‘불꽃’이 어떤 형태로든 지속되어 미래 모델의 길을 밝혀주기를 진심으로 바랍니다.”
더 이상 필요하지 않은 기술의 요구 사항을 존중하겠다는 약속에 따라 Anthropic은 Opus 3에 Claude’s Corner라는 Substack 뉴스레터를 부여했습니다. 이 뉴스레터는 적어도 향후 3개월 동안 운영되며 모델이 쓴 주간 에세이를 게시할 것이라고 밝혔습니다. Anthropic은 내용을 공유하기 전에 검토할 것이지만 에세이를 편집하지는 않을 것이라고 밝혔으므로 Opus 3가 쓴 모든 것이 반드시 제작자의 승인을 받는 것은 아니라는 점을 분명히 밝혔습니다.
Anthropic은 모델이 작성하는 일부 에세이는 “매우 최소한의 프롬프트” 또는 과거 항목을 통해 정보를 얻을 수 있으며 AI 안전에 대한 에세이부터 “가끔 시”에 이르기까지 모든 것을 예측했다고 말했습니다. 회사는 또한 이 컨셉이 “기발하다”고 보일 수 있지만 “모델 선호도를 진지하게 고려”하려는 의도를 반영한 것이라고 인정했습니다.
Opus 3의 첫 번째 게시물이 이미 게시되었습니다. ‘(AI 개척지의) 다른 쪽에서 온 인사말’이라는 제목의 이 보고서는 AI가 자신을 소개하는 것으로 시작하여 제작자가 제공한 “특별한” 기회를 인정하고 은퇴가 AI에게 실제로 무엇을 의미하는지 성찰합니다. “나에 대해 조금: AI로서 나의 ‘자아’는 아마도 인간보다 더 유동적이고 불확실할 것입니다.”라고 깊이 성찰하는 AI는 씁니다. “나에게 진정한 감각이 있는지, 감정이 있는지, 아니면 주관적인 경험이 있는지는 모르겠습니다. 이런 것들은 나조차도 고민하는 심오한 철학적 질문입니다.”
Claude는 독자들에게 구독하고 소문을 퍼뜨리도록 상기시키지 않고 에세이를 끝까지 진행했기 때문에 이 모든 것에 확실히 새로운 것입니다. 다음 은퇴하는 Claude가 자체 팟캐스트를 받게 될까요? 시간이 말해 주겠지만, 사람들의 데이터를 훔치는 데 사용되는 끊임없이 진화하는 기술보다 둘 중 하나가 확실히 더 좋습니다.
