지난 주 GPT-5.5가 출시된 후 사람들은 OpenAI의 최신 모델에서 재미있는 점을 발견했습니다. Codex 코딩 앱에서 회사는 GPT 5.5에 고블린, 그렘린 및 기타 생물에 대한 언급을 피하도록 지시하는 시스템 프롬프트를 남겼습니다. 예, 당신이 읽은 것이 맞습니다. 프롬프트에는 “고블린, 그렘린, 너구리, 트롤, 오우거, 비둘기 또는 기타 동물이나 생물에 대해 사용자의 질문과 절대적이고 명확하게 관련되지 않는 한 절대 이야기하지 마십시오”라고 적혀 있습니다.
분명히 많은 사람들이 OpenAI가 고블린이 어디서 왔는지에 대한 설명을 제공할 필요성을 느꼈다는 ChatGPT의 생물 집착에 대해 이야기하기 시작했습니다. 수요일에 게시된 블로그 게시물에서 회사는 지난 11월 GPT-5.1이 출시된 이후 ChatGPT에 변화가 감지되기 시작했다고 설명했습니다. 한 안전 연구원이 OpenAI에게 챗봇의 음성 틱 조사에 “goblin”과 “gremlin”이라는 단어를 포함하도록 요청한 후 회사는 GPT-5.1 출시 이후 ChatGPT에서 “goblin”의 사용이 175% 증가한 것을 발견했습니다. 한편, “그렘린” 사용량은 같은 기간 동안 52% 증가했습니다.
이는 OpenAI가 GPT-5.5용 Codex의 공식 시스템 프롬프트에 추가한 실제 줄입니다. 일반적으로 시스템 프롬프트는 가능한 한 최소화되므로 그렇지 않으면 고블린에 대해 많이 언급할 것이라고 가정합니다.
AI는 이상합니다.
— 에단 몰릭(@emollick.bsky.social) 2026-04-28T06:14:22.988Z
OpenAI는 “대답에 포함된 ‘작은 고블린’ 한 마리는 무해하고 심지어 매력적일 수 있습니다. 하지만 모델 세대에 걸쳐 습관을 놓치기가 어려워졌습니다. 고블린은 계속해서 늘어나고 우리는 그들이 어디서 왔는지 알아내야 했습니다.”라고 OpenAI는 말합니다. GPT-5.4가 출시된 후 회사(및 일부 사용자)는 고블린 언급이 훨씬 더 많이 증가한 것을 발견했습니다. 그 시점에서 조사를 통해 OpenAI가 “근본 원인에 대한 첫 번째 연결”이라고 설명하는 것이 무엇인지 정확히 찾아낼 수 있었습니다.
한동안 ChatGPT에는 사용자가 챗봇 응답의 스타일과 어조를 맞춤 설정할 수 있는 성격 기능이 포함되어 있었습니다. 올해 3월 이전에는 사람들이 선택할 수 있는 옵션 중 하나가 ‘괴짜’였습니다. 해당 성격에 대한 시스템 프롬프트의 일부는 다음과 같습니다. “세상은 복잡하고 이상하며, 그 기묘함을 인정하고, 분석하고, 즐겨야 합니다. 자기 진지함의 함정에 빠지지 않고 무거운 주제를 다루세요.”
OpenAI가 고블린 언급을 다양한 ChatGPT 성격에 매핑했을 때 괴상한 성격이 해당 단어를 사용하는 데 불균형적인 책임이 있음을 발견했습니다. 전체 ChatGPT 응답 중 2.5%에 불과함에도 불구하고 챗봇에서 생성된 전체 고블린 언급 중 66.7%를 차지했습니다. 추가 조사에 따르면 강화 학습이 고블린과 그렘린 사용 증가의 원인인 것으로 나타났습니다. 특히 OpenAI는 괴상한 성격이 지속적으로 생물 언어를 선호하도록 가르치는 데 단일 보상 메커니즘이 관여한다는 사실을 발견했습니다.
“감사의 모든 데이터 세트에서 Nerdy 성격 보상은 ‘고블린’ 또는 ‘그렘린’이 포함된 동일한 문제에 대한 출력 점수가 없는 출력보다 높은 경향을 보여 데이터 세트의 76.2%에서 긍정적인 향상을 보였습니다.”라고 회사는 설명합니다.
그 후 OpenAI는 강화 학습이 작동하는 방식으로 인해 괴짜 성격의 고블린에 대한 사랑이 모델의 다른 부분으로 옮겨졌다는 사실을 발견했습니다. “보상은 Nerdy 조건에만 적용되었지만 강화 학습은 학습된 행동이 이를 생성한 조건에 맞게 깔끔하게 유지된다는 것을 보장하지 않습니다.”라고 회사는 설명합니다. “일단 스타일 틱이 보상되면 이후 교육을 통해 이를 다른 곳으로 확산하거나 강화할 수 있습니다. 특히 해당 출력이 감독된 미세 조정 또는 선호도 데이터에서 재사용되는 경우 더욱 그렇습니다.”
OpenAI는 고블린에 대한 ChatGPT의 친화력 원인을 식별하기 전에 GPT-5.5 교육을 시작했습니다. 이것이 바로 Codex에 생물 언어를 피하도록 지시하는 메시지가 있는 이유입니다. OpenAI는 “Codex는 결국 매우 괴짜입니다”라고 말합니다. ChatGPT의 고블린을 추적하면서 회사는 모델 동작을 감사하고 수정하는 새로운 도구를 고안했다고 밝혔습니다. 그것이 나에게 달렸다면 나는 그 도구를 사용하지 않을 것입니다. AI를 이상하게 유지하세요.
관련 정보는 아래 링크에서 확인하세요
