캐시(Cache)가 뭐야? 빨라지는 비결 5분 정리
같은 사이트를 두 번째 들어갈 때 훨씬 빨리 뜨는 경험은 누구에게나 있다. 그 차이의 핵심이 바로 캐시다.
캐시 한 줄 정의
**캐시(Cache)**는 한 번 가져온 데이터·계산 결과를 임시로 저장해, 다음 요청에 다시 만들지 않고 바로 꺼내 쓰는 저장소다.
핵심은 “다시 안 만들기”다. 같은 결과를 매번 새로 계산하면 시간·비용이 매번 든다. 캐시는 그 결과를 가까이 보관해 두고, 같은 요청이 오면 즉시 꺼내 응답한다. 1초 걸리는 작업이 0.01초로 줄어드는 식이다.
브라우저·서버·CDN·AI API까지 거의 모든 디지털 시스템에 캐시 한 단계가 들어가 있다. 캐시를 잘 쓰는 것 = 같은 자원으로 더 많은 일을 하게 만드는 것이다.
중학생도 이해하는 비유
캐시를 가장 쉽게 설명하는 비유는 냉장고다.
매번 마트에 가서 우유를 사 오면 한 잔 마시는 데 1시간이 걸린다. 그래서 냉장고에 우유 한 통을 사 두면 다음에는 5초 만에 따라 마실 수 있다. 냉장고가 캐시다.
다만 냉장고 우유는 시간이 지나면 상한다. 캐시도 똑같다. 너무 오래 보관한 데이터는 옛날 정보라 잘못된 답을 줄 수 있다. 그래서 캐시에는 항상 **유통기한(TTL, Time To Live)**이 함께 붙는다.
실제 사용 예시
캐시는 보통 이런 형태로 쓰인다.
예시 1: 브라우저 캐시 사이트의 이미지·폰트·CSS 파일을 처음 받은 뒤, 같은 사이트에 다시 들어가면 그 파일들을 다시 안 받고 본인 컴퓨터에서 꺼내 쓴다. “두 번째 방문이 더 빠른” 비밀이다.
예시 2: CDN 캐시 Cloudflare 같은 CDN은 전 세계 데이터센터에 사이트 콘텐츠를 미리 캐시해 둔다. 한국 사용자가 미국 사이트를 방문해도 한국 가까운 캐시에서 바로 응답이 와서 빠르다.
예시 3: AI API의 prompt caching Anthropic·OpenAI는 자주 쓰는 시스템 프롬프트·컨텍스트를 캐시해 두는 기능을 제공한다. 같은 긴 시스템 프롬프트로 매번 호출하면 캐시된 토큰은 비용이 약 1/10 수준이다.
예시 4: 데이터베이스 캐시 같은 쿼리(예: “오늘 가장 인기 있는 글 10개”)를 매번 DB에서 새로 계산하지 않고, 1분 동안 캐시에 두면 같은 답을 1분간 즉시 응답한다.
비슷한 용어와 차이
| 용어 | 뜻 | 캐시와의 차이 |
|---|---|---|
| 메모리(memory) | 컴퓨터의 작업 공간 | 캐시는 메모리의 특별한 영역 |
| 버퍼(buffer) | 일시적으로 데이터를 모아 두는 공간 | 흐름 조절용. 캐시는 재사용용 |
| CDN | 전 세계 캐시 서버 네트워크 | 캐시를 글로벌로 분산 배포 |
| TTL | 캐시 유효 시간 | 캐시의 유통기한 |
| 무효화(invalidation) | 캐시를 명시적으로 비우기 | 데이터 변경 시 적용 |
따라서 “캐시 = 메모리”가 아니다. 캐시는 메모리·디스크·CDN 어디든 있을 수 있고, “재사용을 위한 임시 저장”이라는 목적이 핵심이다.
언제 캐시를 마주치나
- 사이트가 옛날 화면: 브라우저 캐시 비우기 → 보통 새 버전 노출
- AI API 비용 폭탄: prompt caching 활성화로 비용 절감
- 사이트 응답 느림: CDN 캐시 적중률 점검
- AI 코딩 도구의 빠른 응답: 같은 컨텍스트가 캐시되어 재호출이 빠름
- 이미지·동영상 빠르게 뜨는 사이트: CDN + 브라우저 캐시 조합
관련 용어
- CDN: 전 세계 캐시 서버 네트워크. Cloudflare·Fastly가 대표적.
- TTL(Time To Live): 캐시 유효 시간 표시. 짧을수록 신선, 길수록 효율.
- Cache-Control: HTTP 응답 헤더 중 캐시 동작을 지시하는 항목.
- Prompt caching: AI API에서 시스템 프롬프트·컨텍스트를 캐시해 비용 절감하는 기능. API가 뭐야? 참고.
캐시는 “재사용을 위한 임시 저장소”다. 브라우저, CDN, 데이터베이스, AI API까지 어디든 들어가 있고, 한 번 잘 설정해 두면 같은 작업을 수십 배 빠르게 끝낸다. 옛날 정보가 남는 단점은 TTL과 무효화 정책으로 관리한다.
출처
- MDN, HTTP 캐싱 가이드, https://developer.mozilla.org/docs/Web/HTTP/Caching
- Cloudflare, CDN·캐시 문서, https://developers.cloudflare.com/cache/
- Anthropic, Prompt caching 가이드, https://docs.anthropic.com/
