# 17. GPU 계측·캐시·비용 · 운영자 AI 카드

현재 가격과 실제 실행 근거를 사용하는 운영 분석 카드입니다.

```ai-prompt
Robot Atlas 17장 GPU 운영 점검을 진행하세요.
ISAAC_REPO/workshop/chapters/17-gpu-operations.md,
isaac/cache.py, worker.py와 사용자가 제공한
2026-09-02-eks-llm-serving-cold-start.md를 읽으세요.

할 일:
- 실제 실행의 ISO createdAt/updatedAt, GPU·driver·image·scene, cache 상태와 timings를 확인합니다.
- 노드 생성·이미지 pull·캐시/자산·엔진/첫 RTX 프레임의 측정 범위를 구분합니다.
- 물리 성공한 cacheCandidate만 promote-cache로 게시하고 identity/checksum/파일 수를 확인합니다.
- 같은 조건의 새 실행에서 복원 파일과 실제 초기화 성능을 따로 비교합니다.
- 현재 서울 Spot 가격을 조회하고 실제 노드 시간과 추가 과금을 계산할 입력을 기록합니다.
- 선택한 경우에만 enable-ondemand, submit의 capacity-type/memory-profile, warm 옵션을 사용합니다.
  현재 소스와 실제 배포된 컨트롤러·worker 이미지가 일치하는지 먼저 확인하세요.

주의할 해석:
cacheRestoreSeconds는 worker 시작 이후 준비를 포함하며 순수 캐시 전송 시간만이 아닙니다.
jobToReadySeconds는 재개 시 이전 시도 시간도 포함합니다. 겹친 timings를 모두 더하지 마세요.
S3 restored와 실제 shader cache 효과는 다릅니다. 다른 GPU/driver의 결과를 A/B로 묶지 마세요.
vLLM 문서의 428/226초·sleep 수치를 Isaac 성능으로 쓰지 마세요.
hostPath, EC2NodeClass userData, vLLM streamer/sleep, 별도 SOCI 설치를 복사하지 마세요.
교재의 2026-09-13 가격·점수는 스냅샷이며 가격·할인·용량 보장이 아닙니다.
비공개 조사 JSON을 공개 교재 링크나 다운로드에 넣지 마세요.

경계:
gpu-cluster-01과 전용 소유 자원만 조회/변경합니다.
기본 warm 0·GPU slot 2·admission 1과 기존 가드를 유지합니다.
존재하지 않는 capacity 명령을 만들지 마세요.
enable-ondemand는 비어 있는 Private pool을 준비하며 GPU 작업은 별도 명시적 submit으로 만듭니다.
rtx96은 >90000 MiB 어피니티와 runtime VRAM guard이며, 공개 웹은 항상 standard Spot입니다.
warm --replicas 1은 낮은 우선순위의 선점 가능한 GPU·이미지 holder입니다.
준비된 Isaac 프로세스나 vLLM sleep으로 설명하지 마세요. 유휴 GPU 1대와 작업 중 2대 비용이 가능합니다.
namespace GPU quota 2는 pool·holder 합계에 적용합니다. 필요 없으면 warm --replicas 0으로 중지하세요.
기존 GPU01·Jeju·Fargate·계정 전체 managed resource visibility·공유 discovery 태그를 바꾸지 마세요.
노드는 K8s/NodeClaim/providerID와 특정 EC2 instance ID로 확인합니다.

실제 측정값·비교 조건·가격 조회 시각·잔여 위험·미측정 항목을 보고하세요.
```
