통신사들이 오픈 모델을 기반으로 AI 전략을 구축하는 이유
🇰🇷 한글 번역
통신사들은 점점 더 오픈 모델을 기반으로 한 AI 전략을 구축하고 있으며, 그 이유는 단순히 비용 문제를 넘어선다.
오픈 모델은 통신사들이 자율 네트워크부터 고객 지원까지 가장 중요한 워크로드 전반에 걸쳐 AI를 신뢰하고, 통제하며, 사용자 정의할 수 있는 능력을 제공한다.
NVIDIA의 최신 ‘통신 분야 AI 현황(State of AI in Telecommunications)’ 보고서도 이러한 변화를 반영하고 있으며, 응답자의 89%가 오픈 소스 모델과 소프트웨어가 자사의 AI 전략에 중요하다고 보고했다.
통신사들에게 오픈 모델의 전략적 가치는 다섯 가지로 요약된다.
- 오픈 모델은 더 낮은 비용으로 최첨단 수준의 지능에 대한 접근성을 확대하여, 통신사들이 가장 큰 가치를 창출하는 워크로드에는 폐쇄형 모델을 예약해 둘 수 있게 한다. Artificial Analysis Intelligence Index v4.3.2와 같은 독립적인 벤치마크에 따르면, 주요 오픈 모델들은 까다로운 추론, 코딩, 과학적 작업 및 에이전트 워크로드 전반에서 점점 더 경쟁력 있는 모습을 보이고 있다.
- 오픈 가중치와 학습 레시피를 통해 통신사들이 네트워크, 고객, 산업 데이터를 활용해 자체 운영에 맞게 모델을 미세 조정할 수 있으므로, 통신사 특화 사용자 정의를 지원한다.
- 통신사들이 모델 아티팩트와 동작에 대한 가시성과 통제를 더 크게 확보함으로써 신뢰할 수 있는 AI를 가능하게 한다. 이를 통해 모델은 규제와 비즈니스 정책에 부합하도록 평가, 적응 및 거버넌스될 수 있다.
- 유연하고 안전한 배포를 가능하게 한다. 팀들은 공개 클라우드, 사설 인프라, 엣지 환경 전반에서 실행되도록 오픈 모델의 규모를 설정하고 최적화할 수 있다.
- 통신사들이 오픈 모델을 호스팅하고 미세 조정함으로써 기업 및 정부 고객에게 현지화된 AI 서비스를 제공할 수 있는 기회를 열어준다.
통신 운영을 위해 조정된 오픈 파운데이션
NVIDIA의 Nemotron 오픈 모델 계열은 에이전트 워크플로우에 최적화된 최첨단 수준의 추론 성능과 음성 애플리케이션을 위한 음성 기능을 제공하며, 오픈 가중치, 학습 데이터 및 레시피를 포함한다.
SoftBank Corp.는 통신사가 오픈 모델을 기반으로 통신 특화 AI 역량을 지속적으로 개발하고 발전시키는 방법을 보여준다.
SoftBank Corp.의 수석 펠로우이자 SB Telecom America의 부사장이자 수석 부사장인 Rajeev Koodli는 “오픈 모델을 통해 SoftBank Corp.는 글로벌 파운데이션 모델의 빠른 진전을 기반으로 하면서, 우리가 수년간 축적해 온 네트워크 지식과 운영 전문성을 적용할 수 있습니다. 우리는 SoftBank 대형 통신 모델(SoftBank Large Telecom Model)을 개발하는 과정에서 네트워크 운영, 설계 및 전반적인 관리와 같은 통신 특화 용도에 지속적으로 진화시키기 위해 NVIDIA Nemotron 모델 및 기타 모델들을 포함한 오픈 파운데이션을 광범위하게 사용하고 있습니다.”라고 말했다.
또한 NVIDIA는 파트너들과 협력하여 오픈 모델을 통신 AI를 위한 실용적인 구성 요소로 전환하는 것을 지원하고 있다.
NVIDIA는 AdaptKey가 오픈 소스 통신 데이터셋을 미세 조정하여 통신 특화 작업에 대한 정확도 향상을 제공하는 300억 파라미터 규모의 Nemotron 3 대형 통신 모델(Large Telco Model, LTM)을 발표했다. 이를 통해 통신사들은 통신 산업 용어를 이해하고 네트워크 구성 및 고객 사고 분류와 같은 통신 운영 워크플로우를 효과적으로 추론할 수 있는 오픈 기반을 확보할 수 있다.
NVIDIA는 Nemotron 3 LTM 및 기타 오픈 모델을 통신사 자체 운영 데이터로 사용자 정의할 수 있도록 지원하기 위해, NVIDIA NeMo 오픈 라이브러리를 사용하여 오픈 모델을 통신사 특화 네트워크, 고객 및 절차에 적응시키는 끝단 간 미세 조정 파이프라인을 안내하는 전체 레시피를 공개했다.
운영 워크플로우로 오픈 모델 확장
오픈 모델은 중요한 구성 요소이지만, 자율적인 통신 운영을 안전하고 안정적으로 프로덕션 환경에 도입하기 위해서는 모델 자체만으로는 부족하다.
AT&T에게 있어 모델 선택의 가치는 비즈니스 우선순위와 일치하도록 이러한 유연성을 운영 가능한 형태로 구현하는 데 있다.
AT&T의 최고 데이터 및 AI 책임자(CDAO)인 앤디 마커스는 “AT&T는 AI의 미래가 단일 모델을 선택하는 것이 아니라, 각 워크로드를 성능, 비용, 통제력의 적절한 조합에 지능적으로 매칭하는 것이라고 믿습니다. 오픈 모델은 이러한 접근 방식에 필수적이며, NVIDIA와 함께라면 비즈니스에 필요한 규모, 신뢰성, 거버넌스를 갖춘 모델 선택 전략을 프로덕션 환경에 도입할 수 있습니다”라고 말했다.
통신사는 민감한 기록을 익명화하고 프라이버시를 보호하는 합성 데이터 세트를 생성하여 모델 파인튜닝을 위해 데이터를 준비하고 보호하는 파이프라인이 필요하다. 또한 오픈 모델을 거버넌스가 적용된 자율형 에이전트 워크플로우로 전환할 수 있는 플랫폼도 필요하다.
NVIDIA는 NVIDIA AI Enterprise 소프트웨어와 NVIDIA Agent Toolkit을 기반으로 데이터 파이프라인, 오픈 모델, 에이전트 오케스트레이션, 보안 런타임 및 시뮬레이션을 아우르는 엔드투엔드 플랫폼을 제공한다.
이 플랫폼의 모든 계층에서 구축되고 있는 강력한 파트너 생태계와 함께 통신사는 오픈 모델의 혜택을 프로덕션 준비가 된 AI 워크플로우로 전환할 수 있는 명확한 경로를 확보하게 되었다.
지역 AI 혁신을 위한 플랫폼 구축
통신사가 국가별 AI 전략과 부합하는 AI 인프라를 구축함에 따라, 오픈 모델은 현지 언어, 산업, 규제 및 데이터 거버넌스 요구사항에 맞춘 AI 서비스를 제공하기 위한 기반을 제공하고 있다.
각국의 통신사는 오픈 모델을 현지 언어 및 산업별 필요에 맞게 파인튜닝할 수 있으며, 고객이 직접 소비하거나 자체 데이터와 애플리케이션을 기반으로 구축할 수 있도록 신뢰할 수 있는 플랫폼에서 오픈 모델을 호스팅할 수 있다.
인도네시아 최대 통신사 중 하나인 인도사드 오레도 후치슨(Indosat Ooredoo Hutchison)의 경우, 이는 자국의 언어와 문화를 반영하는 AI를 자체 오픈 소스 모델 패밀리인 ‘사바트-AI(Sahabat-AI)’를 통해 구축한다는 것을 의미한다.
인도사드 오레도 후치슨의 최고 데이터 및 AI 책임자(CDAO)인 치라그 수카디아는 “인도네시아와 같은 국가에서 오픈 모델의 가치는 강력한 AI에 대한 접근을 넘어섭니다. 그것은 그 지능을 우리의 언어, 문화, 데이터 및 실제 필요에 맞게 적응시키는 것입니다. 사바트-AI는 오픈 모델을 기반으로 인도네시아를 이해하고 현지 애플리케이션을 위해 개발할 수 있는 AI를 구축함으로써 이를 실천에 옮깁니다. 이를 통해 우리는 AI를 채택하는 것을 넘어, 이를 중심으로 역량을 구축하고 더 많은 인도네시아인들이 자신들의 조건에 따라 AI로 창작할 수 있도록 할 수 있습니다”라고 말했다.
통신업을 위한 NVIDIA 기술에 대해 자세히 알아보세요.
📄 원문 (English)
Telecom operators are increasingly building their AI strategies on open models — and the reasons go beyond mere cost.
Open models give telcos the ability to trust, control and customize AI across their most critical workloads — from autonomous networks to customer care.
NVIDIA’s latest State of AI in Telecommunications report reflects this shift, with 89% of respondents reporting that open source models and software are important to their company’s AI strategy.
For operators, the strategic value of open models is fivefold:
- They expand access to frontier‑level intelligence at lower cost, allowing operators to reserve closed models for the workloads where they drive the most value. Independent benchmarks such as the Artificial Analysis Intelligence Index v4.3.2 show that leading open models are becoming more competitive across demanding reasoning, coding, scientific and agentic workloads.
- They support telco‑specific customization, with open weights and training recipes that operators can fine‑tune for their own operations using network, customer and industry data.
- They enable trustworthy AI by giving telcos greater visibility into and control over model artifacts and behavior, so models can be evaluated, adapted and governed in alignment with regulations and business policies.
- They enable flexible, secure deployment: teams can size and optimize open models to run across public clouds, private infrastructure and edge environments.
- They unlock the opportunity for telcos to deliver locally adapted AI services to enterprise and government customers by hosting and fine-tuning open models.
Open Foundations, Tuned for Telecom Operations
The NVIDIA Nemotron family of open models provides frontier-level reasoning performance optimized for agentic workflows, as well as speech capabilities for voice applications, with open weights, training data and recipes.
SoftBank Corp. illustrates how an operator can use open models as a basis for developing and continuously advancing its telecom-specific AI capabilities.
“Open models allow SoftBank Corp. to build on the rapid progress of global foundation models while applying the network knowledge and operational expertise we have accumulated over many years,” said Rajeev Koodli, principal fellow of SoftBank Corp. and senior vice president of SB Telecom America. “We are using open foundations extensively, including NVIDIA Nemotron models and others, in developing our SoftBank Large Telecom Model, continuously advancing it for telecom-specific use cases such as network operations, design and overall management.”
In addition, NVIDIA is collaborating with partners to help turn open models into practical building blocks for telecom AI.
NVIDIA announced the 30-billion-parameter Nemotron 3 Large Telco Model (LTM), fine-tuned by AdaptKey on open source telecom datasets to deliver accuracy gains for telecom-specific tasks. This gives operators an open baseline that can understand telecom industry terminology and reason effectively through telecom operations workflows such as network configuration and customer incident triage.
To help operators customize the Nemotron 3 LTM and other open models with their own operational data, NVIDIA released the full recipe that walks through the end-to-end fine-tuning pipeline for adapting open models to operator-specific networks, customers and procedures using NVIDIA NeMo open libraries.
Scale Open Models Into Production Workflows
Open models are a critical building block, but it takes more than models to bring autonomous telecom operations safely into production.
For AT&T, the value of model choice lies in making that flexibility operational in alignment with its business priorities.
“At AT&T, we believe the future of AI is not about choosing a single model; it’s about intelligently matching every workload to the right combination of performance, cost and control,” said Andy Markus, chief data and AI officer of AT&T. “Open models are essential to that approach, and with NVIDIA, we can bring that model-choice strategy into production with the scale, reliability and governance our business requires.”
Operators need pipelines that prepare and protect their data for model fine‑tuning by anonymizing sensitive records and generating privacy‑preserving synthetic datasets. They also need a platform that can turn open models into governed, autonomous agentic workflows.
NVIDIA provides that end-to-end platform, powered by NVIDIA AI Enterprise software and NVIDIA Agent Toolkit, and spanning data pipelines, open models, agent orchestration, secure runtimes and simulation.
Together with a strong partner ecosystem building at every layer of this platform, telecom operators have a clear path to translate the benefits of open models into production-ready AI workflows.
Create a Platform for Local AI Innovation
As telecom operators build AI infrastructure aligned with national AI strategies, open models are giving them a foundation to deliver AI services tailored to local languages, industries, regulations and data governance requirements.
Operators across countries can fine-tune open models for local-language and industry-specific needs, as well as host open models on their trusted platforms that customers can consume directly or build on with their own data and applications.
For Indosat Ooredoo Hutchison, one of Indonesia’s largest telecom operators, that means building AI that reflects the country’s own language and culture through its Sahabat-AI family of open source models.
“For countries like Indonesia, the value of open models goes beyond access to powerful AI. It is about adapting that intelligence to our own language, culture, data and real-world needs,” said Chirag Sukhadia, chief data and AI officer of Indosat Ooredoo Hutchison. “Sahabat-AI puts this into practice, using open models as a foundation to build AI that understands Indonesia and can be developed for local applications. This allows us not only to adopt AI, but to build capabilities around it and enable more Indonesians to create with AI on their own terms.”
Learn more about NVIDIA technologies for telecommunications.
▶ 칩 라이브 24 홈으로 — chiplive24.com