쿠버네티스(Kubernetes) AI 워크로드 운영 가이드
생성형 AI 도입이 인프라팀의 숙제로 내려오면서 질문의 결이 바뀌었습니다. "모델을 어디서 학습시키지?"가 아니라 "값비싼 GPU 수십 장을 여러 팀이 어떻게 나눠 쓰고, 추론 서비스를 어떻게 트래픽에 맞춰 늘렸다 줄이지?"입니다.
Line과 Yahoo — 15명으로 쿠버네티스 4만 노드와 1,300 클러스터를 운영하는 법
한마디로: 인력이 아니라 자동화로 인프라를 확장한 실제 수치가 담긴 초대규모 사례입니다.
접속자 폭증 시 서버 용량 산정법 — 얼마나 필요할까
최근 IT 인프라 분야에서는 동시접속자 분석(Concurrent Users Analysis)이 하드웨어 사이징(Hardware Sizing)의 새로운 표준으로 자리잡고 있습니다.
