인스턴스별 캐시가 공유되지 않는 문제를 CDN으로 해결하며 SSG → SSR 방식으로 재설계했습니다.
⚠️ 문제
- Next.js의 SSG + revalidate 옵션을 ISR처럼 사용하려 했으나, 실제로는 인스턴스마다 캐시가 독립적으로 동작하여 이미 특정 인스턴스에서 캐시로 가지고 있어도 로드 밸런싱을 통해 다른 인스턴스에서도 중복 요청이 발생했습니다.
- 트래픽이 늘수록 중복 요청이 증가하면서 부하가 커지는 구조였고, 결국 프론트엔드 서버를 10대까지 늘려 대응하는 상황이었습니다. (캐시 적중률도 10% 수준)
🔧 해결
1차 시도: 인스턴스 내 캐시 공유
- 인스턴스 간 캐시를 공유할 방법을 찾아 shared storage 활용, Node 클러스터링으로 한 인스턴스에 여러 앱을 띄우는 방식 등을 시도했으나 모두 해키하고 임시방편에 그쳤습니다.
2차 접근: 인스턴스 앞단 레이어 활용
- 관점을 인스턴스 밖으로 넓히자 해법은 앞단에 있었습니다. 캐시 책임을 인스턴스 밖으로 분리해 CDN이 edge에서 공유 캐시 역할을 할 수 있도록 책임을 위임했습니다. 캐시 레이어가 CDN으로 이동하면서 각 인스턴스가 정적인 리소스를 관리할 이유가 사라져 렌더링 전략도 SSG → SSR로 자연스럽게 전환됐습니다.
- TTL은 페이지 성격에 따라 1분·30분·1시간·4시간·1일·1주 등으로 차등 적용했고, stale-while-revalidate로 만료 직후에도 stale 응답을 즉시 제공하면서 백그라운드에서 재검증하도록 설계했습니다.
✅ 결과
- 프론트엔드 서버 10대 → 2대 감축할 수 있었고 인프라 비용 대폭 절감하였습니다. (월 50~60만 원 수준)
- TTFB 최대 40% 이상 줄였고 캐시 적중률 상승과 함께 초기 로딩 시간이 최대 75% 감소하였습니다.
📚 배운 점
- 트래픽에 비해 인스턴스가 과도하게 많다는 것은 설계 어딘가가 누수되고 있다는 신호입니다.
- 해결책이 지나치게 해키하고 자연스럽지 않다면 문제를 재정의하여야 하는 시점입니다.
- 적절한 캐시 전략은 인프라 비용과 불필요한 API 호출을 극적으로 줄입니다.