엔비디아, Nemotron 3.5 오픈 모델군에 Super VL과 Bolt 추가
🇰🇷 한글 번역
엔비디아는 1200억 파라미터를 가진 오픈 모델인 Nemotron 3.5 Super VL을 포함한 Nemotron 시리즈의 새로운 모델 세 가지를 출시했다고 발표했다.
이 회사는 새로운 모델이 전문화된 작업을 수행하는 상시 활성화된 AI 에이전트에 대해 더 높은 효율성과 정확성을 가능하도록 설계되었다고 밝혔다. 또한 엣지 배포 시나리오를 목표로 하는 두 가지 추가적인 ‘Bolt’ 모델도 포함된다.
심층적인 산업 인텔리전스에 접근하세요
독특한 데이터, AI, 그리고 인간 전문성을 결합한 단일 플랫폼으로 비교할 수 없는 명확성을 경험하세요.
Nemotron 3.5 Super VL과 Nemotron 3.5 Bolt 74B-A9B 24GB는 즉시 사용 가능하며, Nemotron 3.5 Bolt E4B 4GB는 10월 23일 출시될 것으로 예상된다.
Nemotron 3.5 모델들은 기업용 서버부터 로컬 하드웨어 및 엣지 장치에 이르기까지 다양한 에이전트 배포를 지원하도록 의도되었다.
엔비디아는 새로운 출시물로 인해 자체 인프라를 사용하는 조직들이 기능성과 배포 가능성 사이에서 타협하지 않고 필요에 최적화된 모델을 선택할 수 있다고 말했다.
이제 Nemotron 제품군에는 새로 출시된 Super VL 및 Bolt 모델과 이전에 출시된 Ultra 및 Lightning 모델들이 포함되어 있다.
엔비디아에 따르면 Nemotron 3.5 Super VL은 지시 따르기, 워크플로우 자동화, 시각적 이해와 같은 다중 모달 에이전트 작업에서 정확성 면에서 더 큰 추론 모델과 동등한 수준을 달성하지만, 파라미터 수는 약 5분의 1에 불과하다.
이 회사는 Super VL이 복잡한 워크플로우를 완료하는 데 있어 비교 가능한 오픈 모델보다 5배 더 빠르며, 조직이 자체 데이터로 모델을 사용자 정의하고 자체 시스템에 배포할 수 있다고 주장한다.
엣지 배포 측면에서 Nemotron 3.5 Bolt 74B-A9B 24GB는 2비트 양자화 방법을 사용하여 24GB의 메모리 사용량에 맞도록 엔비디아 RTX 및 DGX Spark 하드웨어에서 실행되도록 최적화되었다.
이 회사는 지능과 속도의 이러한 균형이 클라우드 서비스에 의존하지 않고 사용자들이 더 넓은 범위의 로컬 작업을 수행할 수 있게 한다고 말했다.
Bolt E4B 4GB 모델은 GeForce RTX, Jetson 및 기타 엔비디아 시스템에서 실행되는 대화형 및 물리적 에이전트를 위해 설계되었다.
엔비디아는 수십 개의 조직이 금융 문서 분석, 의료 청구 관리, 과학적 발견 등 특정 비즈니스 사용 사례를 위해 Super VL 모델을 사용자 정의하고 사후 학습(post-training)하고 있다고 보고했다.
Scale AI, EY, AfterQuery, AI21, Mercor, ModelScope, Ramp 등 여러 회사가 자신의 산업 분야에 맞게 모델을 적응시키는 사용자들로 명명되었다.
Nemotron 3.5 Super VL의 설계는 구조화된 데이터, 이미지, 웹 페이지 및 PDF를 처리하여 에이전트 작업을 위해 텍스트와 시각 정보를 통합할 수 있게 한다.
이 모델은 엔비디아 NeMo 및 기타 개발자 도구를 통한 사용자 정의를 지원하기 위해 오픈 가중치, 데이터셋 및 학습 레시피와 함께 출시되었다.
Nemotron 3.5 Super VL은 약 26조 개의 토큰으로 학습되었으며, 약 380만 개의 샘플을 사용하여 사후 학습을 거쳤다.
이 모델은 Hugging Face, ModelScope 커뮤니티, Open Router를 통해 그리고 엔비디아 NIM 마이크로서비스로 이용 가능하며, 엔비디아 DGX Spark, DGX Station, RTX, RTX PRO 및 Jetson 시스템 전반에 배포할 수 있다.
이번 달 초, 엔비디아는 미국 기반 오픈 소스 AI 스타트업인 Reflection AI에 대한 투자를 확대하거나 인수하는 것을 고려하기 위해 예비 협상을 시작했다.
📄 원문 (English)
Nvidia has announced the release of three new models in its Nemotron family, including Nemotron 3.5 Super VL, a 120 billion-parameter open model.
The company states that this new model is designed to enable higher efficiency and accuracy for always-on AI agents performing specialised tasks, with two additional ‘Bolt’ models aimed at edge deployment scenarios.
Access deeper industry intelligence
Experience unmatched clarity with a single platform that combines unique data, AI, and human expertise.
The Nemotron 3.5 Super VL and Nemotron 3.5 Bolt 74B-A9B 24GB are available immediately, while the Nemotron 3.5 Bolt E4B 4GB is expected to launch on 23 October.
The Nemotron 3.5 models are intended to support a variety of agent deployments, ranging from enterprise servers to local hardware and edge devices.
Nvidia said that with the new releases, organisations using its infrastructure can select models optimised for their needs without compromising between capability and deployability.
The Nemotron range now comprises the new Super VL and Bolt models alongside earlier releases named Ultra and Lightning.
According to Nvidia, Nemotron 3.5 Super VL achieves accuracy on multimodal agentic tasks, such as instruction following, workflow automation, and visual understanding, on par with its larger reasoning model, but at roughly one-fifth of the parameter count.
The company claims that Super VL is five times faster than comparable open models in completing complex workflows, and that organisations can customise the model with their own data and deploy it on their own systems.
On the edge deployment front, Nemotron 3.5 Bolt 74B-A9B 24GB has been optimised to run on Nvidia RTX and DGX Spark hardware, using a 2-bit quantisation method to fit into a 24GB memory footprint.
The company says this balancing of intelligence and speed enables a wider range of local tasks by users without relying on cloud services.
The Bolt E4B 4GB model has been designed for conversational and physical agents running on GeForce RTX, Jetson, and other Nvidia systems.
Nvidia reported that dozens of organisations are customising and post-training the Super VL model for specific business use cases, including financial document analysis, medical claims management, and scientific discovery.
Companies such as Scale AI, EY, AfterQuery, AI21, Mercor, ModelScope, Ramp, and others are named as users adapting the model for their sectors.
The Nemotron 3.5 Super VL’s design allows it to process structured data, images, web pages, and PDFs, integrating both text and visual information for agent tasks.
The model is released with open weights, datasets, and training recipes, supporting customisation through Nvidia NeMo and other developer tools.
Nemotron 3.5 Super VL was trained on approximately 26 trillion tokens, followed by post-training using around 3.8 million samples.
The model is available through Hugging Face, the ModelScope community, Open Router, and as an Nvidia NIM microservice, and can be deployed across Nvidia DGX Spark, DGX Station, RTX, RTX PRO, and Jetson systems.
Earlier this month, Nvidia began preliminary talks to either expand its investment in Reflection AI or consider acquiring the US-based open-source AI startup.
▶ 칩 라이브 24 홈으로 — chiplive24.com