맛집 메뉴판

비유 ↔ 용어

주방

MySQL. 원본 메뉴가 든 MenuBoard 행

메뉴판

Redis 키 bv:menu:board

5초마다 새로 확인

TTL: SET key value EX 5

메뉴판 먼저, 없으면 주방

cache-aside: GET → miss → SELECT → SET EX

비는 순간 몰림

cache stampede (thundering herd)

서버마다 한 명

프로세스 안의 single-flight. 2장 토큰 갱신과 같은 코드예요 (API용으로 복사해 둔 파일)

열쇠

분산 잠금 SET bv:menu:board:lock <token> NX PX 2000

메뉴판 지우기

무효화 (DEL)

요청 흐름

1. 브라우저 → API readMenu('cache')가 GET /cache-demo/menu?via=cache를 보내요.
2. API → Redis readThroughCache()가 GET bv:menu:board를 해요.
   • hit: 200 { board, source: "cache", hops, ttlLeftMs } (남은 시간은 PTTL)
   • miss: MySQL에서 MenuBoard를 읽고 → SET … EX 5 → 200 source: "db"
3. 브라우저 → API via=db면 readDirect()가 Redis 없이 매번 SELECT해요.
4. 브라우저 → API → MySQL·Redis 메뉴 바꾸기: POST /cache-demo/menu { invalidate } → UPDATE MenuBoard(version + 1).
   • invalidate가 true면 바로 DEL bv:menu:board → 다음 읽기부터 새 메뉴
   • false면 TTL(최대 5초)이 끝날 때까지 옛 메뉴. 화면은 0.5초마다 읽어서 확인해요
5. 브라우저 → API 몰림 실험: POST /cache-demo/stampede { visitors: 1000, instances: 3 }. runSimulation 관문(409/429)을 지나요.
6. API → Redis·MySQL 대책마다 캐시와 잠금 키를 DEL해서 "막 만료된 순간"을 만들고, 손님 1000명을 서버 3대(한 프로세스 안에서 흉내)에 나눠 동시에 읽혀요.
   • 대책 없음: 모두 miss → 모두 SELECT + SET EX
   • single-flight: 서버마다 한 명만 SELECT, 나머지는 그 Promise를 같이 기다려요
   • Redis 잠금: SET NX PX 2000을 잡은 한 명만 SELECT → SET EX → 내 토큰일 때만 DEL하는 Lua. 나머지는 20ms마다 GET, 1초가 넘으면 DB에서 직접 읽어요 (db-fallback)
7. API → 브라우저 200 { results: [...] }. 대책마다 DB 읽기 수, Redis 명령 수(GET, SET EX, SET NX, DEL), 손님별 경로가 들어 있어요.

Redis·DB에는 이렇게 남아요

그림의 말 ↔ 실제 명령

• 메뉴판에 있을 때: GET → hit
• 없을 때: GET → miss → SELECT → 행 → SET EX 5
• 매번 주방에 갈 때: SELECT → 행
• 메뉴 바꾸기: UPDATE (무효화를 켜면 + DEL). 몰림 실험의 Redis 명령 수는 아래 표에 있어요.

왜 Redis인가

• single-flight는 한 프로세스의 메모리 안에서만 묶여요. 서버를 늘리면 대수만큼 DB에 가요 (위 3).
• 잠금과 메뉴판을 모든 서버가 같이 보는 곳(Redis)에 두면 서버 수와 상관없이 한 번이에요.

한계·운영에선

• 잠금을 기다리는 손님이 20ms마다 다시 GET해서 GET 수가 늘어요 (위 1999).
• 잠금 주인이 1초 넘게 늦으면 기다리던 손님은 DB에서 직접 읽어요 (db-fallback, 캐시는 안 채워요).
• 무효화는 "DB 수정 후 DEL" 순서라, 그 사이 아주 짧게 옛 값이 다시 채워질 수 있어요. 지연 이중 삭제나 버전 비교로 줄여요.
• Redis가 꺼져 있어도 API는 떠요. 6장 요청만 실패해요 (첫 명령 때 연결).

로컬·운영 Redis

• 로컬: docker compose up -d redis → 컨테이너 bv-redis, 포트 6380(다른 Redis와 안 겹치게), 디스크 저장 끔.
• 운영: docker-compose.prod.yml의 redis 컨테이너, REDIS_URL.

개발자 도구로 보면

• GET /cache-demo/menu?via=cache 응답의 source가 cache인지 db인지, ttlLeftMs가 얼마 남았는지 보여요.
• 몰림 실험은 POST /cache-demo/stampede 한 건이에요. 1000명은 서버 안에서 돌아요.

코드·문서

1. cache/api.ts
2. cache-demo.controller.ts
3. cache-demo.service.ts · cache-aside·잠금·무효화
4. common/utils/single-flight.ts
5. redis.service.ts
6. docs/chapters-4-6.md