claude-haiku-5-5 API 도입 — 100K 요금 경계와 effort·토크나이저 변경점

Об этом предложении

안녕하세요, 미니지식공간입니다. claude-haiku-5-5 가 2026년 10월 7일 공개되면서 Claude Haiku 5.5 가격이 프롬프트 길이에 따라 두 구간으로 쪼개졌다. 단가표만 보면 Haiku 4.5 대비 10분의 1이지만, 실제로 코드를 옮길 때 걸리는 것은 단가가 아니라 토크나이저 교체와 샘플링 파라미터 400 오류 쪽이다. TL;DR claude-haiku-5-5 , 2026-10-07 출시. 프롬프트 100K 토큰 이하 $0.10/$0.50, 초과 $0.50/$2.50 (100만 토큰당 입력/출력). 같은 텍스트가 Haiku 4.5보다 약 30% 많은 토큰 으로 계산된다(공식 변경 문서). 단가 90% 인하와 평균 75% 절감의 차이가 여기서 나온다. temperature · top_p · top_k 에 기본값 아닌 값을 넣으면 400 오류 . budget_tokens 방식 확장 사고도 제거됐다. 1. 모델 표면: 무엇이 늘고 무엇이 막혔나 공식 모델 개요 문서 기준으로 claude-haiku-5-5 의 스펙은 아래와 같다. Bedrock만 ID가 anthropic.claude-haiku-5-5 로 다르고, Claude API·Google Cloud·Microsoft Foundry는 동일한 문자열을 쓴다. 항목 Haiku 5.5 Haiku 4.5 컨텍스트 윈도 1M 토큰 200K 토큰 최대 출력 128K 토큰 64K 토큰 최대 출력(Batch, 베타) 300K 토큰 — 학습 데이터 기준 시점 2026-06 — 사고(thinking) Adaptive 수동(budget_tokens) 기본 노력 수준 medium 미지원 출처: https://platform.claude.com/docs/en/models/haiku-5-5/overview / https://platform.claude.com/docs/en/models/haiku-5-5/whats-new-haiku-5-5 Batch에서 출력 300K를 받으려면 베타 헤더 output-300k-2026-03-24 가 필요하다. 그리고 메시지 중간에 노력 수준을 바꾸는 per-message effort는 베타 헤더 mid-conversation-output-config-2026-07-01 를 쓰며, Haiku 5.5에서는 Claude API와 Google Cloud에서만 쓸 수 있고 Amazon Bedrock에서는 지원되지 않는다. 2. 100K 경계를 토큰으로 계산해보기 현재 Claude 라인업에서 프롬프트 길이로 단가가 갈리는 모델은 Haiku 5.5 하나다. 공식 요금 문서는 "Claude Haiku 5.5는 프롬프트 길이로 가격이 매겨지며, 10만 토큰을 넘는 프롬프트는 더 높은 가격을 낸다"고 적었고, 1M 컨텍스트를 표준 단가로 제공한다는 다른 모델들의 설명에서 Haiku 5.5를 예외로 빼놨다. 항목 (per 1M tokens) ≤100K >100K 배율 입력 $0.10 $0.50 5x 출력 $0.50 $2.50 5x 캐시 읽기 $0.01 $0.05 5x 캐시 쓰기 5m $0.125 $0.625 5x 캐시 쓰기 1h $0.20 $1.00 5x Batch 입력 $0.05 $0.25 5x Batch 출력 $0.25 $1.25 5x 출처: https://platform.claude.com/docs/en/about-claude/pricing 모든 항목이 정확히 5배다. 즉 "초과 구간은 입력 단가가 비싸다" 수준이 아니라, 캐시 읽기까지 포함해 요금 체계 전체가 한 번에 5배로 올라간다. 캐시 읽기가 $0.01에서 $0.05가 되는 구간이 특히 민감한데, 긴 시스템 프롬프트를 캐싱해 재사용하는 구조는 캐시 읽기 비중이 커서 경계를 넘는 순간의 체감 변화가 입력 단가보다 클 수 있다. Haiku 4.5와 직접 비교하면 입력 $1.00 → $0.10(-90%), 출력 $5.00 → $0.50(-90%), 캐시 읽기 $0.10 → $0.01(-90%)이다. 초과 구간과 비교하면 전부 -50%다. Anthropic은 Haiku 4.5 요청의 약 90%가 100K 이하였다고 밝히면서 평균 절감률을 약 75%로 제시했는데, 90%와 75%의 차이를 만드는 나머지 요인이 다음 절의 토크나이저다. 3. 토크나이저 30%: 가장 조용한 파괴적 변경 공식 변경 문서의 "Changed" 항목에 이런 내용이 있다. 같은 텍스트가 Haiku 4.5보다 약 30% 많은 토큰 으로 계산되며, 이는 Claude 4.7 이후 모델과 같은 새 토크나이저를 쓰기 때문이다. 발표 페이지 각주는 평균 75% 절감 수치에 이 증가분이 반영돼 있다고 설명했다. 이 변경이 조용한 이유는 오류를 내지 않기 때문이다. 코드는 그대로 돌고 응답도 정상인데, 같은 입력의 토큰 수가 늘어 두 가지가 동시에 틀어진다. 첫째, Haiku 4.5 시절에 측정한 "평균 8만 토큰" 같은 통계가 Haiku 5.5에서는 10만을 넘길 수 있어 경계를 넘는 요청 비율을 과소평가한다. 둘째, max_tokens 나 컨텍스트 여유분을 토큰 수로 하드코딩한 로직이 예상보다 빨리 한계에 닿는다. 실무 순서로는 단가 비교보다 토큰 재측정이 먼저다. 프로덕션 프롬프트 샘플을 Haiku 5.5로 한 번 호출해 usage 응답의 입력 토큰 수를 Haiku 4.5 값과 나란히 놓고, 분포 상위 10%가 100K 경계 어느 쪽에 있는지부터 확인하는 편이 안전하다. 4. 최소 호출과 effort 설정 아래는 Claude 공식 effort 문서의 "Set the effort level" 예제다. 문서 예제는 claude-opus-5-5 를 쓰고 있어 모델 문자열만 claude-haiku-5-5 로 바꿨고, 나머지 구조·파라미터명은 문서 원문 그대로다. import anthropic client = anthropic.Anthropic() response = client.messages.create( model="claude-haiku-5-5", max_tokens=4096, messages=[ { "role": "user", "content": "Analyze the trade-offs between microservices and monolithic architectures", } ], output_config={"effort": "medium"}, ) for block in response.content: if block.type == "text": print(block.text) 출처: https://platform.claude.com/docs/en/build-with-claude/effort 파라미터는 요청 최상위의 output_config.effort 이고, 베타 헤더 없이 지원 모델 전체에서 쓸 수 있다. Haiku 5.5는 다섯 단계를 모두 지원한다. 문서에 명시된 값과 제약만 옮기면 다음과 같다. # 공식 문서에 명시된 값만 전사 (문서에 없는 조합은 미기재) model claude-haiku-5-5 # Bedrock: anthropic.claude-haiku-5-5 output_config.effort low | medium | high | xhigh | max Haiku 5.5 기본값: medium (Opus 5.5도 medium, 그 외 모델은 high) "adaptive"는 effort 값이 아님 — thinking 모드이므로 전달 금지 thinking.type "disabled" 허용: effort high 이하 effort xhigh / max 에서 "disabled" → 400 오류 thinking.display 기본값에서 사고 텍스트 미출력 → "summarized" 설정 시 요약 출력 temperature 기본값 외 지정 → 400 오류 top_p 기본값 외 지정 → 400 오류 top_k 기본값 외 지정 → 400 오류 betas output-300k-2026-03-24 # Batch 출력 300K mid-conversation-output-config-2026-07-01 # 메시지 단위 effort (Bedrock 미지원) 출처: https://platform.claude.com/docs/en/build-with-claude/effort / https://platform.claude.com/docs/en/models/haiku-5-5/overview 문서가 권하는 출발점은 medium 이다. low 가 가장 싸고 빠른 단계이며, 지식 업무·긴 에이전트 작업·엄격한 지시 준수에는 high 를, xhigh 와 max 는 자체 평가에서 개선이 확인된 경우에만 쓰라고 적혀 있다. 5. 파괴적 변경 — 코드를 반드시 고쳐야 하는 것들 공식 변경 문서의 "Breaking changes" 항목을 그대로 정리했다. 전부 Haiku 4.5에서 올라올 때 적용된다. 기존 (Haiku 4.5) Haiku 5.5 대응 thinking.budget_tokens 로 수동 확장 사고 오류 적응형 사고로 전환, budget_tokens 제거 temperature / top_p / top_k 임의 지정 400 오류 세 파라미터 모두 전달하지 않음 어시스턴트 메시지 프리필 오류 messages 가 사용자 턴으로 끝나도록 수정 computer_20250124 컴퓨터 사용 도구 미지원 computer_toolset_20260801 로 교체(Claude API·Google Cloud) 이전 턴 수정 후 재호출 thinking 블록 무효화 대화를 append-only로 유지 출처: https://platform.claude.com/docs/en/models/haiku-5-5/whats-new-haiku-5-5 오류를 내지 않지만 동작이 달라지는 "Changed" 항목도 함께 봐야 한다. 응답이 thinking 블록으로 시작할 수 있어 content[0] 를 텍스트로 가정한 파싱이 깨지며, 문서는 블록을 위치가 아닌 type 으로 고르라고 적었다. 또 안전 분류기가 요청을 거절할 수 있어 stop_reason: "refusal" 처리 경로가 필요하고, 이 경우 서버 측 폴백은 제공되지 않는다고 명시럼 있다. thinking 블록은 이를 생성한 계정 또는 연결된 계정에서만 재생된다. 6. 벤치마크를 읽을 때 주의할 두 지점 Anthropic이 발표한 수치는 전부 자사 측정이며, VentureBeat와 MarkTechPost 모두 "벤더 보고 수치, 독립 검증 아님"이라고 명시했다. 주요 값은 OSWorld 2.1(오프라인) 72.4%(Haiku 4.5 15.7%, GPT-6 Luna 48.9%, Sonnet 5.5 83.9%), Terminal-Bench 4.0 39.2%(0.0% / 16.4% / 70.6%), FrontierCode 1.1 Main 46.4%(Luna 42.4%), GDPval-AA v2.1 1620(735 / 1437 / 1840), Humanity's Last Exam 도구 없음 45.9% · 도구 사용 57.4%다. 첫 번째 주의점은 노력 수준이 표에 붙어 있지 않다는 것 이다. VentureBeat는 Anthropic 차트상 Terminal-Bench 39.2%가 최대(max) 노력 수준 값이고 medium 에서는 약 20% 수준이라고 보도했는데, MarkTechPost는 같은 39.2%를 노력 수준 표기 없이 실었다. 기본값이 medium 인 모델에서 이 차이는 비용 추정을 두 배 이상 틀리게 만들 수 있다. 두 보도가 갈리므로 확인 필요로 둔다. 두 번째는 경쟁 모델과의 경계 위치가 다르다는 것 이다. GPT-6 Luna의 짧은 컨텍스트 단가는 $0.10/$0.50으로 Haiku 5.5의 ≤100K 구간과 같지만, Luna의 상위 구간은 272K 토큰부터 시작한다는 점이 두 매체에서 공통으로 언급됐다. 그러면 100K~272K 구간에서는 Luna 쪽이 유리해진다. 다만 Luna 상위 구간의 정확한 단가($0.20/$0.75)는 MarkTechPost 단일 출처라 확인 필요다. 7. 전환 체크리스트 프로덕션 프롬프트 샘플로 Haiku 5.5를 호출해 usage 입력 토큰을 재측정한다. Haiku 4.5 기준 토큰 통계를 그대로 쓰지 않는다. 측정된 토큰 분포에서 100K 경계를 넘는 요청 비율 을 구한다. 평균이 아니라 상위 10% 꼬리를 본다. temperature / top_p / top_k 를 코드베이스에서 전부 찾아 제거한다(400 오류). thinking.budget_tokens 를 제거하고 적응형 사고로 전환한다. thinking.type: "disabled" 를 쓰면 effort를 high 이하로 유지한다. 응답 파싱을 content[0] 위치 기반에서 block.type 기반으로 바꾸고, stop_reason: "refusal" 분기를 추가한다. 컴퓨터 사용 도구를 computer_toolset_20260801 로 교체한다. Bedrock에서는 per-message effort를 쓰지 않는다. effort 값을 medium 부터 스윕한다. Haiku 4.5에는 effort가 없었으므로 이원할 설정 자체가 없고, 벤치마크 수치는 노력 수준 표기가 없으니 자체 평가로 재측정한다. 자주 묻는 질문 Q. claude-haiku-5-5는 무료로 쓸 수 있나? API는 유료다. 다만 발표와 함께 구독에 월 API 크레딧이 추가됐다. Max 5x는 월 $100, Max 20x는 월 $200, Team은 사용자 전체가 공유하는 월 최대 $500이며 Claude Platform의 모든 모델에 쓸 수 있다. 발표 시점 안내는 "이번 주 중 순차 적용"이었다. Q. 기존 API 코드 수정이 필요한가? 필요하다. temperature · top_p · top_k 중 하나라도 기본값이 아니면 400 오류가 나고, budget_tokens 방식 확장 사고와 어시스턴트 프리필도 오류가 난다. 오류 없이 동작만 바뀌는 항목(응답 첫 블록이 thinking , 토큰 약 30% 증가)도 있어 파싱과 토큰 계산을 함께 확인해야 한다. Q. Sonnet 5.5를 쓰고 있으면 이번 발표와 무관한가? 무관하지 않다. 같은 날 Sonnet 5.5 캐시 읽기 단가가 100만 토큰당 $0.20에서 $0.10으로 내려갔고, Anthropic은 대부분의 에이전트 작업에서 Sonnet 5.5 비용이 약 20% 줄어든다고 설명했다. VentureBeat는 일부 Azure·Google Cloud 고객에게는 며칠에 걸쳐 적용된다고 전했다. 마무리 단가 90% 인하라는 헤드라인보다, 실제로 작업을 만드는 쪽은 토크나이저 30%와 샘플링 파라미터 400 오류입니다. 두 항목 모두 단가표에는 나오지 않고 공식 변경 문서에만 적혀 있어서, 전환 전에 그 문서를 한 번 통독하시는 편을 권합니다. 지난달 Sonnet 5.5의 파괴적 변경을 정리한 글( claude-sonnet-5-5 전환 가이드 )과 겹치는 항목이 있어 함께 보시면 작업량을 줄일 수 있습니다. 출처 Anthropic, "Introducing Claude Haiku 5.5" (2026-10-07) — https://www.anthropic.com/claude-haiku-5-5 Claude 공식 모델 문서 (Haiku 5.5 개요) — https://platform.claude.com/docs/en/models/haiku-5-5/overview Claude 공식 변경 문서 (What's new in Claude Haiku 5.5) — https://platform.claude.com/docs/en/models/haiku-5-5/whats-new-haiku-5-5 Claude 공식 effort 문서 — https://platform.claude.com/docs/en/build-with-claude/effort Claude 공식 요금 문서 — https://platform.claude.com/docs/en/about-claude/pricing VentureBeat (2026-10-07) — https://venturebeat.com/technology/anthropic-launches-claude-haiku-5-5-with-90-api-price-reduction-matching-gpt-6-luna MarkTechPost (2026-10-07) — https://www.marktechpost.com/2026/10/07/anthropic-releases-claude-haiku-5-5-a-small-model-with-1m-context-priced-at-0-10-per-million-input-tokens/ 본 글은 공개 자료를 바탕으로 정리했으며, 세부 내용·수치는 원 출처·공식 문서와 대조 확인을 권장합니다. 성능·속도·비용 수치는 Anthropic 자사 발표이며 독립 검증 결과가 아닙니다.