AI on EKS

AI on EKS는 고객이 Amazon EKS에서 인공지능/머신러닝(AI/ML) 워크로드를 배포하고, 확장하며, 최적화할 수 있도록 지원하기 위해 AWS에서 제공하는 오픈 소스 이니셔티브입니다. AI on EKS는 여러 대규모 언어 모델(LLM)의 학습, 미세 조정 및 추론을 용이하게 하는 배포 준비가 완료된 블루프린트, 참조 아키텍처와 맞춤형 플랫폼을 구현하기 위한 Infrastructure as Code(IaC) 템플릿, 다양한 학습 및 배포 전략을 비교하는 벤치마크, 그리고 모델 학습, 추론, 미세 조정, 다중 모델 서빙 등의 작업을 위한 모범 사례를 제공합니다.

AI on EKS