컨텍스트 엔지니어링 문서 읽기 — Anthropic이 정리한 기법

About this offer

Anthropic은 2025년 9월 29일 Effective context engineering for AI agents 를 냈다. 에이전트를 만들 때 컨텍스트 창에 무엇을 넣고 무엇을 뺄지에 대한 글이다. 정의와 지침, 긴 작업을 위한 기법을 원문을 따라 정리했다. 들어가며: 무엇을 컨텍스트 엔지니어링이라 부르나 문서는 컨텍스트 엔지니어링을 "LLM이 추론하는 동안 최적의 토큰(정보) 집합을 고르고 유지하는 전략"이라고 정의한다. Anthropic은 이것을 프롬프트 엔지니어링이 자연스럽게 나아간 다음 단계로 본다. 지시문을 잘 쓰는 데서 여러 턴에 걸친 컨텍스트 상태 전체를 관리하는 쪽으로 넓어졌다는 것이다. 왜 관리가 필요한지도 설명한다. 트랜스포머에서는 모든 토큰이 다른 모든 토큰을 참조하므로 토큰 n개면 n2개의 관계가 생긴다. 그래서 모델에는 쓸 수 있는 주의력의 한도(주의 예산, attention budget)가 있고, 토큰이 늘수록 그 안의 정보를 정확히 떠올리는 능력이 떨어진다(컨텍스트 로트, context rot). 문서가 내놓는 원칙은 "원하는 결과가 나올 가능성을 최대로 하는 가장 작은 고신호 토큰 집합을 찾으라"는 것이다. 1부. 컨텍스트를 이루는 것들 시스템 프롬프트 — 알맞은 높이 문서는 시스템 프롬프트가 흔히 빠지는 양극단을 든다. 한쪽은 원하는 동작을 정확히 끌어내려고 복잡하고 깨지기 쉬운 조건 분기를 프롬프트에 박아 넣는 것으로, 시간이 갈수록 고치기 어려워진다. 다른 쪽은 높은 수준의 막연한 지침만 주는 것으로, 모델에게 구체적인 신호를 주지 못하거나 맥락을 공유한다고 잘못 가정한다. 그 사이의 알맞은 높이(altitude)는 "행동을 효과적으로 이끌 만큼 구체적이면서, 모델에게 강한 판단 기준을 줄 만큼 유연한" 것이다. 도구 도구는 "스스로 완결되고, 오류에 강하고, 쓰임새가 아주 분명해야" 한다. 문서가 드는 기준은 이렇다. 어떤 상황에 어느 도구를 써야 하는지 사람 엔지니어도 확실히 말하지 못한다면 AI 에이전트가 더 잘하길 기대할 수 없다. 예시 예시를 넣는 few-shot 프롬프팅은 문서도 계속 강하게 권한다. 다만 예외 상황을 잔뜩 늘어놓기보다, 에이전트에게 기대하는 행동을 잘 보여 주는 다양하고 대표적인 예시를 골라 담으라고 한다. 2부. 언제 넣을지 — 적시 조회 필요한 데이터를 미리 다 싣는 대신, 에이전트가 파일 경로나 링크 같은 가벼운 식별자만 들고 있다가 필요할 때 도구로 불러오는 방식을 문서는 적시 조회(just-in-time)라 부른다. 에이전트가 이렇게 탐색하며 필요한 맥락을 조금씩 찾아가는 것을 문서는 점진적 공개(progressive disclosure)라고도 부른다. 문서는 미리 싣기와 적시 조회를 섞는 방식(hybrid)도 소개하는데, Claude Code가 그 예다. CLAUDE.md 파일은 처음부터 컨텍스트에 그대로 넣고, glob과 grep 같은 기본 도구로 환경을 탐색하며 파일은 그때그때 찾아 읽는다. 3부. 긴 작업을 버티는 세 기법 컨텍스트 창보다 긴 작업을 위해 문서는 세 가지를 든다. 압축 컨텍스트 한도에 가까워지면 대화를 요약해 새 컨텍스트에서 이어 간다. Claude Code는 대화 기록을 모델에게 넘겨 가장 중요한 내용을 요약하게 한다. 이때 설계 결정, 풀리지 않은 버그, 구현 세부는 남기고 중복된 도구 출력이나 메시지는 버린다. 에이전트는 압축된 컨텍스트에 최근에 연 파일 5개를 더해 일을 이어 간다. 더 가벼운 방법도 있다. 문서는 오래전 도구 호출과 그 결과를 컨텍스트에서 지우는 것을 가장 가볍고 안전한 압축으로 꼽고, 최근 Claude Developer Platform에 기능으로 출시됐다고 적는다. 구조화된 메모 에이전트가 컨텍스트 밖에 메모를 적어 두었다가 나중에 다시 읽는 방식이다. 할 일 목록이나 NOTES.md 같은 파일이 예다. 문서는 Claude가 포켓몬 게임을 하며 수천 단계에 걸쳐 진행 상황을 메모로 이어 가는 예를 든다. 서브에이전트 전문 서브에이전트가 깨끗한 컨텍스트에서 좁은 일을 맡고, 주 에이전트는 큰 계획을 조율한다. 서브에이전트는 수만 토큰 이상을 써 가며 깊게 탐색할 수 있지만, 돌려주는 것은 압축한 요약뿐이다. 문서는 그 요약이 보통 1,000~2,000토큰이라고 적는다. 마치며 문서는 컨텍스트를 한정된 자원으로 보고, 원하는 결과를 낼 가장 작은 고신호 토큰 집합을 찾으라고 권한다. 시스템 프롬프트는 알맞은 높이로, 도구는 쓰임새가 분명하게, 예시는 대표적인 것만 담는다. 긴 작업에는 압축, 구조화된 메모, 서브에이전트를 쓴다. 같은 원리는 이 시리즈의 Agent Skills 글 에서 다룬 스킬에도 있다. 스킬도 내용을 처음부터 모두 싣지 않고 필요할 때 읽는 방식이다. 참고 Effective context engineering for AI agents — Anthropic (2025-09-29)

Offer details

Provider

velog

Source

velog-rss

Score

54.39