LMSYS Org, 엔비디아·AMD·인텔·구글·메타·클라우드플레어·모달·라디스아크와 함께 SGLang 컨소시엄 출범, 오픈소스 AI 추론 가속화
🇰🇷 한글 번역
하드웨어, 모델 및 인프라 리더들이 SGLang 유지보수진과 합류하여 성장하는 AI 생태계를 위한 효율적인 추론을 선도한다
샌프란시스코, 2026년 11월 12일--(BUSINESS WIRE)--오픈소스 AI 엔진 SGLang의 모체인 비영리 단체인 LMSYS Org는 오늘 NVIDIA, AMD, Intel, Google, Meta, Cloudflare, Modal, RadixArk를 창립 멤버로 하는 SGLang 컨소시엄을 출범시켰다. 이들은 SGLang의 유지보수진과 협력하여 프로젝트의 로드맵을 형성하고 오픈소스 AI 추론을 발전시킬 예정이다. 이 컨소시엄은 샌프란시스코에서 열린 제1회 SGLang 서밋의 개회사에서 발표되었다.
오픈 AI 추론을 위한 공유 포럼
델로이트에 따르면, 2026년에는 추론이 전체 AI 컴퓨팅의 약 3분의 2를 차지할 것으로 예상되며, 이는 2025년의 약 절반에서 증가한 수치이다. 추론 엔진은 각 회사의 하드웨어에서 해당 컴퓨팅이 얼마나 빠르고 비용 효율적으로 실행되는지를 결정한다. 프론티어 AI를 위한 풀스택 추론 엔진이자 PyTorch 생태계의 일부인 SGLang은 수백만 개의 GPU에서 실행되며, Meta, Microsoft, Google, Amazon, Thinking Machines Lab, Cloudflare, Reflection, Modal을 포함한 일부 기업들의 세계에서 가장 대규모인 프로덕션 추론 배포를 지원한다.
이 컨소시엄은 회원사들에게 SGLang의 유지보수진과 함께 부상하는 추론 트렌드를 논의하고 공유된 우선순위를 프론티어 모델 지원, 추론 및 멀티모달 워크로드, 분산 추론, 하드웨어 최적화에 중점을 둔 공동 엔지니어링 작업으로 전환할 수 있는 상설 포럼을 제공한다. 각 창립 멤버는 기술 대표자를 지명하고 연 2회의 로드맵 회의에 참여하여 엔지니어링 전문성, 배포 피드백, 테스트 자원 또는 공동 개발을 통해 기여할 것이다. 작업 그룹들은 회의 간에도 협력할 수 있으며, 로드맵 방향성과 진행 상황에 대한 공개 업데이트가 이루어질 것이다. SGLang의 유지보수진은 기술적 결정과 코드 수락에 대한 책임을 유지하며, 프로젝트는 전체 커뮤니티에게 열려 있다.
"가장 대규모로 SGLang을 운영하는 팀들은 다른 누구보다도 다음 추론 요구사항을 먼저 파악합니다."라고 SGLang 팀을 대표하여 SGLang 원저자이자 RadixArk의 공동 창업자이자 CEO인 잉 쉐ng(Ying Sheng)은 말했다. "새로운 데이터 센터를 구축하는 데 있어 도전 과제가 있는 가운데, AI 효율성을 개선하기 위한 소프트웨어 접근 방식은 매우 중요해질 것입니다. 이러한 교훈은 모든 SGLang 사용자에게 혜택을 주고 AI 생태계를 발전시킬 것입니다."
"NVIDIA는 SGLang 컨소시엄의 창립 멤버로서 커뮤니티와 협력하여 오픈 추론 소프트웨어를 발전시키는 것을 자랑스럽게 생각합니다."라고 NVIDIA의 하이퍼스케일 및 고성능 컴퓨팅 부사장인 이언 버크(Ian Buck)는 말했다. "더 나은 소프트웨어는 개발자들이 NVIDIA 컴퓨팅에서 더 많은 성능을 끌어낼 수 있도록 도와줍니다. 오픈 모델은 새로운 애플리케이션과 비즈니스를 구축할 수 있게 해줍니다. 그리고 낮은 추론 비용은 모든 조직에서 AI를 더 쉽게 접근 가능하게 만듭니다."
📄 원문 (English)
Hardware, model and infrastructure leaders join SGLang's maintainers to advance efficient inference for growing AI ecosystem
SAN FRANCISCO, November 12, 2026--(BUSINESS WIRE)--LMSYS Org, the nonprofit behind the open-source AI engine SGLang, today launched the SGLang Consortium with founding members NVIDIA, AMD, Intel, Google, Meta, Cloudflare, Modal and RadixArk, who will work with SGLang's maintainers to help shape the project's roadmap and advance open-source AI inference. The consortium was announced in the opening keynote of the inaugural SGLang Summit in San Francisco.
A shared forum for open AI inference
Inference is expected to account for roughly two-thirds of all AI compute in 2026, up from about half in 2025, according to Deloitte. The inference engine determines how fast and cost-effectively that compute runs on each company's hardware. SGLang, the full-stack inference engine for frontier AI and part of the PyTorch ecosystem, runs on hundreds of thousands of GPUs and powers some of the largest production inference deployments in the world, for companies including Meta, Microsoft, Google, Amazon, Thinking Machines Lab, Cloudflare, Reflection and Modal.
The consortium gives its members a standing forum to discuss emerging inference trends with SGLang's maintainers and turn shared priorities into joint engineering work, focused on frontier model support, reasoning and multimodal workloads, distributed inference and hardware optimization. Each founding member will designate a technical representative and join two roadmap meetings a year, contributing through engineering expertise, deployment feedback, testing resources or joint development. Working groups may collaborate between meetings, with public updates on roadmap direction and progress. SGLang's maintainers keep responsibility for technical decisions and code acceptance, and the project stays open to the entire community.
"The teams running SGLang at the largest scale see what inference needs next before anyone else does," said Ying Sheng, co-author of the original SGLang paper and co-founder and CEO of RadixArk, on behalf of the SGLang team. "With the challenges in building new data centers, software approaches to improve AI efficiency will be incredibly important. These lessons will benefit every SGLang user and advance the AI ecosystem."
"NVIDIA is proud to be a founding member of the SGLang Consortium and to work with the community to advance open inference software," said Ian Buck, vice president of hyperscale and high-performance computing at NVIDIA. "Better software helps developers get more performance from NVIDIA compute. Open models enable them to build new applications and businesses. And lower inference costs make AI more accessible to organizations everywhere."
▶ 칩 라이브 24 홈으로 — chiplive24.com