Skip to content

[검증 필요] C3. CRIU GPU Migration — graceful drain 실전 검증 (GLM-5 운영자) #7

Description

@devfloor9

문서

docs/agentic-ai-platform/model-serving/gpu-infrastructure/criu-gpu-migration.md

배경

Phase 3 트랙 C3에서 추가된 CRIU GPU Migration 가이드는 "Experimental" 상태이며 K8s ContainerCheckpoint / cuda-checkpoint 제약을 반영했습니다. 실전 대안으로 제시한 graceful drain + warm start 순서가 실 운영 절차에 부합하는지 검증이 필요합니다.

연관 플랜: .omc/plans/phase3-track-c-review-checklist.md

검증 항목

  • graceful drain + warm start 순서 현실성
    • GLM-5(744B) 배포 환경에서 문서 제안 순서대로 Spot reclaim 대응 시나리오 재현
    • kubectl drain --grace-period=X 값의 적정성 (실무 경험 기반)
    • warm start 시 KV Cache 복구 여부 및 복구 불가 시 허용 가능한 TTFT 저하 수준
  • EKS Auto Mode 제약 사항 재확인
    • CRI-O 교체 불가 사실 (GLM-5 us-east-2 배포 경험 기반)
    • GPU CR 사실상 사용 불가 상태 유지 여부 (2026-04 기준)
  • 대안 조합 적합성
    • graceful drain + warm start 외 다른 조합(예: vLLM-d disaggregated prefill 분리) 검토
  • cuda-checkpoint tagged release 모니터링
    • NVIDIA 공식 릴리즈 타임라인 주기적 재확인 (현재 tagged release 없음)

테스트 환경 요건

  • GLM-5(744B) 또는 동급 대형 모델 배포
  • EKS Auto Mode 또는 Karpenter + GPU Operator 환경
  • Spot 인스턴스 사용 가능 리전

검증 완료 후 조치

  1. 문서 상단 :::caution Experimental / Verification pending 박스 업데이트 (검증 결과 반영)
  2. graceful drain timing·순서에 "실측: 2026-MM-DD / 모델: ..." 주석 추가
  3. last_update.date 갱신
  4. .omc/plans/phase3-track-c-review-checklist.md의 C3 항목 [x] 처리

연관 이슈

Activity

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Metadata

Metadata

Assignees

No one assigned

    Labels

    No labels
    No labels

    Projects

    No projects

      Milestone

      No milestone

      Relationships

      None yet

      Development

      No branches or pull requests

      Issue actions