카르만, AI 데이터센터 제공업체 넥센클라우드에 60% 더 많은 컴퓨팅 성능 제공
🇰🇷 한글 번역
넥젠 클라우드, 카르만과 파트너십 확대, 몬트리올 데이터센터의 제한된 전력 예산 내에서 AI 컴퓨팅 능력 증대
미시간주 앤아버, 2026년 10월 22일 (GLOBE NEWSWIRE) -- 전력 인프라를 위한 임베디드 AI 분야의 선두주자인 카르만(구 유틸리데이터)은 유럽의 주요 AI 클라우드 제공업체인 넥젠 클라우드가 전력 오케스트레이션 플랫폼을 통해 동일한 할당 전력 예산 내에서 60% 더 많은 AI 컴퓨팅 용량을 활용할 수 있도록 지원했다. 카르만 기술의 성공적인 도입으로 두 회사는 넥젠 클라우드의 유럽 전반 운영으로 파트너십을 확대하기로 했다.
이번 도입 사례에서 카르만은 10대의 서버에 할당된 전력 예산 내에서 16대의 NVIDIA B300 서버가 작동하도록 하여, 추론의 품질과 신뢰성을 유지하면서 정격 컴퓨팅 용량과 토큰 처리량을 60% 증가시켰다. 카르만은 지속적인 고전력 워크로드를 포함하는 다양한 워크로드 하에서도 이 성능을 유지했으며, 이는 광범위한 조건 하에서 더 많은 컴퓨팅 용량을 신뢰성 있게 확보할 수 있는 능력을 입증했다.
올초 두 회사는 랙 단위에서 실시간 AI 기반 전력 오케스트레이션을 도입하여 기존 전력 용량에서 더 많은 AI 컴퓨팅을 확보하고 인프라 회복력을 강화할 계획을 발표했다. 이번 도입은 넥젠 클라우드가 관리하는 몬트리올의 상업용 데이터센터 클러스터에서 진행되었다.
"현재 AI를 확장하는 가장 빠르고 저비용의 방법은 이미 구축된 인프라에서 더 많은 컴퓨팅 능력을 끌어내는 것이다."라고 카르만 CEO인 조시 브럼버거는 말했다. "데이터센터는 드물게 발생하는 최악의 상황에 대비해 전력을 예비로 보유하고 있다. 카르만은 이러한 유휴 용량을 사용 가능한 컴퓨팅으로 전환한다. 우리는 이 가치를 넥젠 클라우드와 그들의 고객들에게 가져오게 되어 기쁘다."
몬트리올 도입 사례는 카르만을 일정한 중간 부하(LLM 대화)부터 지속적인 고전력 부하(LLM 요약)에 이르기까지 다양한 전력 프로필 하에서 테스트했다. 이러한 시나리오 전반에 걸쳐 카르만은 다음과 같은 성과를 달성했다:
- 원래 10대에 할당된 전력 예산 내에서 16대의 NVIDIA B300 서버가 구동되어 60% 더 많은 정격 컴퓨팅 용량 제공
- 동일한 전력 예산 내에서 10대 서버 기준선보다 60% 더 많은 토큰 처리량 달성
- 지속적인 대화형 워크로드 동안 토큰 지연 시간과 같은 추론 품질의 측정 가능한 감소 없음
이 결과는 오늘날 AI 및 에너지 부문이 직면한 가장 큰 제약에 대응할 수 있는 확장 가능한 솔루션임을 보여준다. AI 컴퓨팅에 대한 수요가 계속 급증함에 따라 데이터센터 운영자는 가용 AI 인프라와 이를 구동하는 데 필요한 전력 용량 간 불일치에 직면해 있다. 새로운 전기 용량을 추가하는 데에는 상당한 시간과 투자가 필요하지만, 카르만은 갇힌 용량을 해제함으로써 오늘 당장 그 제약을 해결하도록 설계되었다.
📄 원문 (English)
NexGen Cloud expands partnership with Karman, increasing AI compute under constrained power budgets in Montreal data center
ANN ARBOR, Mich., Oct. 22, 2026 (GLOBE NEWSWIRE) -- Karman (formerly known as Utilidata), a leader in embedded AI for power infrastructure, enables NexGen Cloud, a leading European AI cloud provider, to unlock 60% more AI compute capacity within the same provisioned power budget through its power orchestration platform. The successful deployment of Karman's technology has led to the two companies extending their partnership for broader rollout across NexGen Cloud's European operations.
In this deployment, Karman enabled 16 NVIDIA B300 servers to operate within the power budget provisioned for 10 servers, delivering 60% more nameplate compute capacity and token throughput while maintaining inference quality and reliability. Karman maintained this performance under a variety of workloads, including scenarios with sustained high-power workloads, demonstrating its ability to reliably bring more compute capacity under a wide range of conditions.
Earlier this year, the companies announced plans to unlock more AI compute from existing power capacity and strengthen infrastructure resilience by introducing real-time, AI-driven power orchestration at the rack level. This deployment took place in a commercial data center cluster managed by NexGen Cloud in Montreal.
"The fastest, low-cost way to scale AI today is by getting more compute out of the infrastructure already built," said Josh Brumberger, Karman CEO. "Data centers hold power in reserve for worst-case scenarios that rarely happen. Karman turns that stranded capacity into usable compute. We're excited to bring this value to NexGen Cloud and their customers."
The Montreal deployment tested Karman across a range of power profiles, from steady, moderate loads (LLM conversations) to sustained high-power loads (LLM summarization). Across these scenarios, Karman delivered:
- 60% more nameplate compute capacity with 16 NVIDIA B300 servers running within the power budget originally provisioned for 10
- 60% more token throughput than the 10 server baseline within the same power budget
- No measurable reduction in inference quality, such as token latency, during sustained conversational workloads
The results demonstrate a scalable solution for addressing the biggest constraint facing the AI and energy sectors today. As demand for AI compute continues to soar, data center operators face a mismatch between available AI infrastructure and the power capacity needed to run it. Adding new electrical capacity can require significant time and investment, while Karman is designed to address that constraint today by unlocking trapped capacity.
▶ 칩 라이브 24 홈으로 — chiplive24.com