# NVIDIA OSMO on AWS

이 실습에서는 AWS EKS 위에 NVIDIA OSMO를 배포하고, GR00T Fine-tuning 워크플로를 OSMO CLI로 실행합니다. CDK로 인프라를 원클릭 배포하고, OSMO workflow YAML 한 장으로 GPU 학습을 오케스트레이션합니다.

* [**Amazon EKS**](https://docs.aws.amazon.com/eks/latest/userguide/what-is-eks.html): 관리형 Kubernetes 서비스로 OSMO 서비스와 GPU 워크로드를 실행합니다.
* [**Amazon S3**](https://docs.aws.amazon.com/AmazonS3/latest/userguide/Welcome.html): 학습 데이터셋, 워크플로 로그, 모델 체크포인트를 저장합니다.
* [**Amazon RDS**](https://docs.aws.amazon.com/AmazonRDS/latest/UserGuide/CHAP_PostgreSQL.html): OSMO 메타데이터와 워크플로 상태를 저장하는 관리형 PostgreSQL입니다.
* [**Amazon ElastiCache**](https://docs.aws.amazon.com/AmazonElastiCache/latest/red-ug/WhatIs.html): OSMO Job 큐를 위한 관리형 Redis입니다.
* [**AWS CDK**](https://docs.aws.amazon.com/cdk/v2/guide/home.html): 전체 인프라를 TypeScript 코드로 정의하고, 한 번의 명령으로 자동 프로비저닝합니다.

### OSMO란?

[NVIDIA OSMO](https://github.com/NVIDIA/OSMO)는 Physical AI를 위한 오픈소스 워크플로 오케스트레이터입니다. 로봇 학습(GR00T Fine-tuning)이나 시뮬레이션 데이터 생성(Isaac Sim) 같은 GPU 집약적 작업을 Kubernetes 위에서 간단한 YAML 파일 하나로 실행할 수 있게 해줍니다.

| 특징                | 설명                                           |
| ----------------- | -------------------------------------------- |
| Kubernetes-native | EKS, AKS, GKE 등 표준 K8s 클러스터에서 실행             |
| NVIDIA 스택 통합      | Isaac Sim, Isaac Lab, GR00T 컨테이너를 직접 오케스트레이션 |
| Kai Scheduler     | Queue CRD로 GPU 쿼터를 공정하게 관리                   |
| 오픈소스              | Apache 2.0 라이선스                              |

### 아키텍처

```mermaid
flowchart TB
    subgraph VPC ["VPC (Multi-AZ)"]
        subgraph PUB ["Public Subnets"]
            NAT["NAT Gateway"]
        end

        subgraph PRI ["Private Subnets"]
            subgraph EKS ["EKS Cluster"]
                SYS["System Nodes\nm5.xlarge x 2"]
                TRAIN["GPU Train Nodes\ng6e.12xlarge (4xL40S)\n0~4 수동 스케일"]
                SIM["GPU Sim Nodes\ng5.12xlarge (4xA10G)\n0~8 수동 스케일"]
                OSMO_CTRL["OSMO Service\n+ Kai Scheduler"]
            end
            RDS["RDS PostgreSQL\ndb.t3.medium"]
            REDIS["ElastiCache Redis\ncache.t3.medium"]
        end
    end

    S3["S3 Bucket\n워크플로 데이터 / 로그"]

    OSMO_CTRL -->|"메타데이터"| RDS
    OSMO_CTRL -->|"Job 큐"| REDIS
    OSMO_CTRL -->|"스케줄링"| TRAIN
    OSMO_CTRL -->|"스케줄링"| SIM
    TRAIN -->|"로그/체크포인트"| S3
```

### 워크플로 실행 흐름

```mermaid
sequenceDiagram
    participant User as 사용자 (OSMO CLI)
    participant Service as OSMO Service
    participant Operator as Backend Operator
    participant K8s as Kubernetes + Kai Scheduler

    User->>Service: osmo workflow submit
    Service->>Operator: 워크플로 등록
    Operator->>K8s: Pod 생성 요청
    K8s->>K8s: Kai Scheduler GPU 할당
    K8s-->>Service: ctrl sidecar 상태 보고
    User->>Service: osmo workflow query
    Service-->>User: COMPLETED
```

### 실습 과정

| Step | 내용                                                                                                                                                              | 소요 시간 |
| ---- | --------------------------------------------------------------------------------------------------------------------------------------------------------------- | ----- |
| 1    | [인프라 배포 (CDK)](/physical-ai-on-aws/physical-ai-on-aws-guide/nvidia-osmo-on-aws/1.-infra-deploy.md)                                                              | \~20분 |
| 2    | [Kubernetes 기본 설정](/physical-ai-on-aws/physical-ai-on-aws-guide/nvidia-osmo-on-aws/2.-eks-setup.md)                                                             | \~5분  |
| 3    | [OSMO 설치 (Helm)](https://github.com/hi-space/physical-ai-aws-docs/blob/main/physical-ai-on-aws-guide/nvidia-osmo-on-aws/3.-osmo-install.md)                     | \~10분 |
| 4    | [OSMO 구성 (Credential, Config, Queue)](https://github.com/hi-space/physical-ai-aws-docs/blob/main/physical-ai-on-aws-guide/nvidia-osmo-on-aws/4.-osmo-config.md) | \~10분 |
| 5    | [GPU 워크플로 검증](https://github.com/hi-space/physical-ai-aws-docs/blob/main/physical-ai-on-aws-guide/nvidia-osmo-on-aws/5.-gpu-verification.md)                    | \~5분  |
| 6    | [GR00T Fine-tuning 실행](https://github.com/hi-space/physical-ai-aws-docs/blob/main/physical-ai-on-aws-guide/nvidia-osmo-on-aws/6.-groot-finetune.md)             | \~20분 |
| 7    | [정리 (Cleanup)](https://github.com/hi-space/physical-ai-aws-docs/blob/main/physical-ai-on-aws-guide/nvidia-osmo-on-aws/7.-cleanup.md)                            | \~10분 |

***

### References

* [**\[GitHub\]** AWS Physical AI Recipes — OSMO CDK](https://github.com/hi-space/aws-physical-ai-recipes/tree/main/osmo/cdk)
* [**\[NVIDIA\]** OSMO GitHub](https://github.com/NVIDIA/OSMO)
* [**\[NVIDIA\]** OSMO Cookbook (Workflow 예시)](https://github.com/NVIDIA/OSMO/tree/main/cookbook)
* [**\[NVIDIA\]** GR00T (Generalist Robot 00 Technology)](https://developer.nvidia.com/isaac/groot)
* [**\[AWS\]** Amazon EKS 공식 문서](https://docs.aws.amazon.com/eks/latest/userguide/what-is-eks.html)


---

# Agent Instructions: Querying This Documentation

If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question.

Perform an HTTP GET request on the current page URL with the `ask` query parameter:

```
GET https://hi-space.gitbook.io/physical-ai-on-aws/physical-ai-on-aws-guide/nvidia-osmo-on-aws.md?ask=<question>
```

The question should be specific, self-contained, and written in natural language.
The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.