젤시(Zesty), NVIDIA CUDA 네이티브 GPU 분할 자동화 솔루션 '자동화 분할 GPU' 출시
🇰🇷 한글 번역
NVIDIA가 Run:ai 플랫폼을 오픈소스로 공개한 이후, Zesty의 새로운 자율 기능은 수요 변화에 따라 GPU 메모리 할당, 컴퓨팅 공유 및 워크로드 배치를 지속적으로 조정하여 각 GPU에서 더 많은 워크로드를 실행할 수 있도록 합니다.
캘리포니아주 산마테오, 2026년 10월 15일 /PRNewswire= -- 쿠버네티스 최적화의 선도 기업인 Zesty는 오늘 NVIDIA의 CUDA 네이티브 GPU 분할(GPU fractioning) 지원을 발표했습니다. NVIDIA DSX AI Factory Platform의 일환으로 Run:ai를 오픈소스로 공개한 NVIDIA에 이어, Zesty의 Automated Fractional GPUs는 AI 워크로드 수요가 변동할 때 GPU 메모리 할당과 컴퓨팅 공유 모드를 지속적으로 결정하고 워크로드 배치를 안내하는 자율 레이어를 추가합니다. 이러한 자율 기능 덕분에 팀들은 GPU 활용도를 개선하고 기존 인프라에서 더 많은 워크로드를 실행하며, 여분 GPU 용량에 대한 필요성을 줄이고 인프라 비용을 절감하면서도 애플리케이션 성능을 보호할 수 있습니다.
생성형 AI 모델을 호스팅하는 조직의 66%가 추론의 일부 또는 전부를 쿠버네티스에서 실행하고 있으며, 이러한 워크로드를 위한 GPU 용량은 비싸고 종종 제한적입니다. 팀들은 전통적으로 전체 GPU를 개별 워크로드에 할당하거나 시간 분할(time-slicing), NVIDIA Multi-Process Service(MPS), 또는 각 GPU를 고정된 하드웨어 기반 파티션으로 나누는 NVIDIA Multi-Instance GPU(MIG)를 사용하여 공유해 왔습니다. 이러한 할당은 동적인 AI 워크로드와 실시간 수요 변화에 따라갈 수 없습니다. 그 결과 GPU 메모리와 컴퓨팅 자원이 유휴 상태로 남게 되며, 팀들은 기존 용량이 미사용 상태임에도 불구하고 더 많은 GPU를 구매합니다.
NVIDIA의 최근 Run:ai 오픈소스 공개는 GPU 분할 연산자를 통해 쿠버네티스에 CUDA 네이티브 GPU 분할을 가져왔으며, 이는 워크로드별 GPU 메모리 제한을 강제하고 쿠버네티스 스케줄러와 함께 작동합니다. 분할 메커니즘은 유연성을 가능하게 하고 워크로드가 GPU를 어떻게 나눌 수 있는지를 정의하지만, 해당 용량을 어떻게 할당할지는 결정하지 않습니다. 어떤 워크로드가 각 GPU를 공유할지, 각 워크로드가 얼마나 많은 메모리를 받을지, 그리고 수요가 증가하고 감소함에 따라 이러한 할당이 어떻게 변경되어야 하는지는 별도의 의사 결정 레이어가 필요합니다.
Zesty는 바로 그 레이어를 제공합니다. Zesty의 Automated Fractional GPU 기능은 각 GPU를 공유해야 할 워크로드, 안전하게 함께 실행할 수 있는 워크로드 수, 각 워크로드가 받을 GPU 메모리 양, 각 워크로드에 적합한 공유 모드, 그리고 이러한 할당이 언제 증가하거나 감소해야 하는지를 지속적으로 결정합니다. 이러한 결정은 실제 GPU 메모리 사용량과 활용도, 시간이 지남에 따라 관찰된 워크로드 동작, 그리고 팀들이 사전에 정의한 지연 시간 요구사항과 리소스 제한에 기반합니다. 모든 변경 사항은 팀이 각 워크로드에 대해 설정한 성능 및 가용성 정책 범위 내에서 유지됩니다.
📄 원문 (English)
Following NVIDIA's open-source release of the Run:ai platform, Zesty's new autonomous capability continuously adapts GPU memory allocation, compute sharing, and workloads placement as demand changes, enabling more workloads to run on each GPU.
SAN MATEO, Calif., Oct. 15, 2026 /PRNewswire/ -- Zesty, a leader in Kubernetes optimization, today announced support for NVIDIA's CUDA-native GPU fractioning. Following NVIDIA's open-source release of Run:ai as part of the NVIDIA DSX AI Factory Platform, Zesty's Automated Fractional GPUs adds the autonomous layer that continuously decides GPU memory allocations and compute sharing modes, as well as steers workload placement as AI workload demand fluctuates. With these autonomous capabilities, teams can improve GPU utilization, run more workloads on existing infrastructure, reduce the need for excess GPU capacity, and lower infrastructure costs while protecting application performance.
66% of organizations hosting generative AI models run some or all of their inference on Kubernetes, and GPU capacity for those workloads is expensive and often constrained. Teams have traditionally allocated entire GPUs to individual workloads or shared them using time-slicing, NVIDIA Multi-Process Service (MPS), or NVIDIA Multi-Instance GPU (MIG), which divides each GPU into fixed hardware-based partitions. Allocations cannot keep pace with dynamic AI workloads and real-time changes in demand. As a result, GPU memory and compute end up stranded, and teams buy more GPUs even while existing capacity sits unused.
NVIDIA's recent open-source release of Run:ai brings CUDA-native GPU fractioning to Kubernetes through the GPU Fractioning Operator, which enforces per-workload GPU memory limits and works with Kubernetes schedulers. The fractioning mechanism makes flexibility possible and defines how workloads can divide a GPU but does not determine how to allocate that capacity. Deciding which workloads share each GPU, how much memory each one receives, and how those allocations should change as demand rises and falls requires a separate decision layer.
Zesty provides that layer. Its Automated Fractional GPU capability continuously determines which workloads should share each GPU, how many can safely run together, how much GPU memory each one receives, which sharing mode fits each workload, and when those allocations should increase or decrease. Decisions draw on actual GPU memory usage and utilization, observed workload behavior over time, and the latency requirements and resource limits defined by teams beforehand. Every change stays within the performance and availability policies teams set for each workload.
▶ 칩 라이브 24 홈으로 — chiplive24.com