Anthropic의 구체적인 정책을 알아보기 전에 먼저 AI 비율 제한이 존재하는 이유에 대해 이야기해 보겠습니다. 챗봇에 프롬프트를 입력하면 추론이라는 프로세스가 발생합니다. 그 이면에는 대규모 언어 모델이 이전에 본 적이 없는 입력에 훈련 중에 학습한 패턴을 적용하고 있습니다. 추론은 계산 비용이 많이 들고, 더 중요한 것은 비용 측면에서 자연스러운 상한선이 없다는 것입니다. AI 회사는 가장 열성적인 사용자와 애증 관계를 맺고 있습니다. 제한을 두지 않으면 처리 비용으로 수천 달러가 소요될 수 있기 때문입니다.
대부분의 AI 회사와 마찬가지로 Anthropic은 정확한 속도 제한을 게시하지 않지만 사용자를 안내할 수 있는 몇 가지 단서를 제공합니다. 특히 회사는 Claude에게 처음 메시지를 표시할 때 시작되는 5시간의 연속 창을 중심으로 한도가 구성되어 있다고 말합니다. 이 창은 자정에 재설정되지 않습니다. 즉, 하루가 끝나기 전에 여러 가지 프롬프트를 입력하여 시스템을 조작할 수 없다는 의미입니다. Anthropic은 또한 “전송할 수 있는 메시지 수는 수요에 따라 달라지며 모든 사용자에게 공정한 액세스를 보장하기 위해 다른 유형의 사용 제한을 부과할 수 있습니다.”라고 말합니다. 일일 한도에 영향을 줄 수 있는 다른 요인으로는 프롬프트의 복잡성과 Claude에게 분석을 요청한 첨부 파일의 크기가 있습니다.
종합해 보면, 이는 5시간 동안 단 몇 번의 메시지 후에 한도에 도달할 수 있는 반면, 다른 경우에는 Claude가 경고하기까지 12번 정도 걸릴 수 있음을 의미합니다. Anthropic의 속도 제한은 Reddit에서 자주 논의되는 주제입니다. 최근 한 사용자는 Claude Code 프롬프트가 한 번 표시된 후 5시간 제한을 초과했다고 불평했습니다. 그러나 경험상 대부분의 사람들은 5시간마다 Claude에게 약 15~40개의 메시지를 보낼 수 있어야 합니다.
보다 기술적인 설명을 위해 Claude는 모든 대규모 언어 모델과 마찬가지로 “토큰”을 사용하여 답변을 생성합니다. 토큰을 현재 AI 시스템의 운영 통화로 생각하십시오. Claude의 프롬프트 표시줄에 질문을 입력하면 토큰화라는 프로세스를 통해 단어, 문자 그룹 및 구두점이 Anthropic의 모델이 훈련 과정에서 학습한 다양한 패턴과 관계에 매핑되는 숫자로 변환됩니다. 그런 다음 해당 모델은 토큰을 사용하여 답변을 제공합니다.
따라서 더 길고 더 복잡한 질문은 해당 통화를 더 많이 사용할 뿐만 아니라 모델이 답변을 시도할 때 더 많은 비용이 발생합니다. 이것이 바로 Claude의 사용 제한이 움직이는 목표처럼 느껴질 수 있는 이유입니다. 모든 질문에는 고유한 컴퓨팅 비용이 있습니다. Anthropic이 프롬프트를 간결하고 명확하게 유지할 것을 권장하는 것도 바로 이러한 이유 때문입니다. 그리고 Claude의 노고에 감사하는 마음을 낭비하지 마십시오.
이와 별도로 Anthropic은 Claude의 컨텍스트 창 또는 단일 채팅 공간에서 챗봇이 처리하고 “기억”할 수 있는 정보의 양과 관련된 길이 제한도 적용합니다. 여기서 회사는 더욱 투명해졌습니다. Enterprise 요금제를 제외하면 모든 모델과 유료 요금제에 걸쳐 토큰 한도는 200,000개입니다.
관련 정보는 아래 링크에서 확인하세요