# Cosmos NIM + EKS

<figure><img src="/files/4PD4MhtLXXk8G9YtVCxZ" alt=""><figcaption></figcaption></figure>

Amazon EKS에서 Cosmos NIM 마이크로서비스를 운영하면 **엔터프라이즈급 오케스트레이션**, **자동 확장**, **운영 단순화**를 얻습니다.

프로덕션에서 **고가용성**, **탄력적 확장**, **클라우드 네이티브 통합**이 필요하면 이 방식을 권장합니다.

Cosmos NIM은 Cosmos 모델과 **최적화된 추론 엔진**을 함께 패키징합니다. 수동 구성 복잡도를 줄입니다.

**장점**

* **엔터프라이즈급 오케스트레이션**: Kubernetes의 선언적 구성, 자동 롤아웃/롤백, Pod 재시작 기반 셀프힐링, 서비스 디스커버리를 활용합니다.
* **고가용성**: 멀티 Pod 배포로 단일 장애 지점을 제거합니다. AZ 분산 노드 배치로 가용 영역 장애에도 견딥니다. 롤링 업데이트로 배포 중에도 가용성을 유지합니다.
* **운영 단순화**: EKS의 관리형 컨트롤 플레인으로 운영 부담을 줄입니다. 업그레이드/패치 적용이 쉬워집니다. AWS 서비스와의 통합으로 모니터링과 보안을 일관되게 가져갈 수 있습니다.


---

# Agent Instructions: Querying This Documentation

If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question.

Perform an HTTP GET request on the current page URL with the `ask` query parameter:

```
GET https://hi-space.gitbook.io/physical-ai-on-aws/physical-ai-on-aws-guide/nvidia-cosmos-predict-2.5/cosmos-nim-+-eks.md?ask=<question>
```

The question should be specific, self-contained, and written in natural language.
The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.