Anthropic Claude API Prompt Caching 사용하기 작성 일자 : 2024년 10월 13일 Anthropic Claude API Prompt Caching 사용하기 Prompt Caching은 반복적인 작업이나 동일한 프롬프트가 있는 요청에 대해, 처리 시간과 비용을 절약할 수 있는 기능입니다.Claude 3.5 Sonnet과 Claude 3 Opus 버전에서는 최소 1024토큰 이상의 프롬프트에 대해 캐싱을 사용할 수 있습니다.Claude 3 Haiku 버전에서는 최소 2048토큰 이상의 프롬프트에 대해 캐싱을 사용할 수 있습니다.Caching된 프롬프트의 TTL은 5분입니다.프롬프트에서 캐시 중단점을 최대 4개까지 정의할 수 있습니다. Prompt Caching 과정 프..
