AI 워크로드

생성형 AI 도입이 인프라팀의 숙제로 내려오면서 질문의 결이 바뀌었습니다. "모델을 어디서 학습시키지?"가 아니라 "값비싼 GPU 수십 장을 여러 팀이 어떻게 나눠 쓰고, 추론 서비스를 어떻게 트래픽에 맞춰 늘렸다 줄이지?"입니다. 이 질문은 [...]