글 목록

클로드 모드를 통해 캐싱률을 실시간으로 확인하세요.

클로드에 손쉽게 모드를 만들 수 있게됐습니다. 이에 따라 hud등 다양한 기능을 만들 수 있는데 상태바에 캐싱 상태도 확인할 수 있어요!

목차

    Claude Code를 활용하다 보면 "이전보다 속도가 저하되는 이유는 무엇인지", "사용량 소진 속도가 왜 예상보다 빠른지"에 대한 의문이 발생하곤 합니다. 이러한 현상의 주된 원인은 프롬프트 캐시에 있으나, 해당 정보가 기본 인터페이스에서 직관적으로 확인되지 않는 한계가 있었습니다. 이를 개선하고자 상태 표시줄에 캐시 정보를 직접 표기하는 기능을 구현하였습니다.

    1432.webp

    캐시가 뭐길래

    Claude Code는 메시지 전송 시 전체 대화 내역을 모델에 재전송합니다. 이때 캐시를 활용하면 이전 처리 구간이 생략되어 응답 속도가 향상되고 사용량 제한 부담도 줄어듭니다.

    다만 캐시에는 유효 기간이 존재하며, 만료 후 첫 메시지 발송 시 전체 대화 내용을 다시 처리해야 합니다. 대화가 길어질수록 관련 비용이 증가하지만, 평소에는 남은 유효 시간을 확인할 수 없다는 제약이 있습니다.

    어떻게 적용하나?

    직접 코드를 짤 필요는 없어요. Claude Code에 아래처럼 요청하면 돼요.

    내 Claude Code 상태줄에 캐시 세그먼트를 추가해 줘.
    이미 상태줄이 있으면 바꾸지 말고 아래 줄에 덧붙여 줘.
    입력의 prompt_cache에서 warm, ttl, expires_at, hit_ratio, misses, last_miss_cause, recache_tokens_if_cold를 읽어 줘. 값이 없으면 표시하지 마.
    캐시가 살아 있으면 녹색으로 cache ● 1h ████░░ 38m left · hit 91% · misses 0처럼 보여 주고, 남은 시간이 20% 미만이면 노란색으로 바꿔 줘.
    만료됐으면 빨간색으로 cache ○ cold · next message re-caches 82k tokens처럼 보여 줘. 원인이 있으면 끝에 붙여 줘.
    카운트다운이 움직이도록 statusLine 설정에 refreshInterval을 넣어 줘.
    첫 줄에는 모델 이름, 추론 강도, 컨텍스트 토큰 수도 보여 줘.
    끝나면 warm, 만료 직전, cold 샘플로 실행해서 결과를 보여 줘.

    prompt_cache 정보를 확인하기 위해서는 Claude Code 2.1.251 이상 버전이 필요합니다. 버전 확인은 claude --version 명령어를 통해 가능합니다.

    댓글 0

    1. 댓글을 불러오는 중이에요.