AMD와 인텔, CPU 기반 AI 추론을 위한 단일 PyTorch 코드 경로 공동 개발
🇰🇷 한글 번역
AMD와 인텔은 CPU 기반 AI 추론을 위한 단일 PyTorch 코드 경로를 만들기 위해 협력할 예정이다. x86 경쟁사인 AMD는 ZenDNN 라이브러리를 인텔의 oneDNN에 통합하여 CPU AI를 단순화하고 있다.
AMD는 또한 UXL 재단의 스티어링 멤버로 가입했다.
인텔과 AMD는 PyTorch를 위한 CPU 최적화를 통합 라이브러리에 통합하고 있으며, 이를 통해 oneDNN 라이브러리를 통해 AMD와 인텔 칩 모두에 대한 튜닝을 제공하고 있다. AMD는 oneDNN의 하위 버전인 ZenDNN을 유지해 왔으며, 이 라이브러리는 이제 인텔이 주도하고 UXL 재단이 출판하는 오픈소스 oneDNN으로 통합되고 있다. AMD는 또한 연 20,000달러의 기여금과引き換え에 "UXL 재단의 미래를 영향력 있게 결정하는" 스티어링 멤버로서 UXL 재단에 가입했다고 발표했다.
AMD는 이러한 노력을 oneDNN 아래에서 통합하기로 한 결정이 x86 생태계 자문 그룹(EAG)의 권고에 따른 것이라고 밝혔다. EAG는 주로 인텔과 AMD 간의 공동 이니셔티브로, 2024년에 설립되었다. 두 회사는 이전에 EAG를 통해 협력한 바 있으며, 예를 들어 올해 초에 알게 된 x86용 ACE 확장 기능이 그 예이다.
oneDNN 백엔드는 CPU 추론에 사용되며, PyTorch와 같은 프레임워크에서 최신 인텔(그리고 이제 AMD) 칩에 대한 워크로드 가속화를 위해 설계되었다. oneDNN이 2023년 말 PyTorch의 백엔드로 추가되었을 때 Float32 데이터 타입의 경우 1.24배, BFloat16 데이터 타입의 경우 2.21배의 성능 향상이 나타났다.
oneDNN GitHub에 따르면, 이 라이브러리는 "런타임에서 하드웨어 기능을 감지"하여 플랫폼에 최적화된 커널을 생성하고 저정밀도 데이터 타입도 제공한다. 또한 행렬 곱셈과 컨볼루션과 같은 일반적인 AI 및 머신러닝 연산에 대한 최적화된 명령어를 갖추고 있다.
개발자들에게 이 조치는 다양한 시스템에서 PyTorch를 사용할 때 단일 백엔드가 실행 중인 하드웨어에 맞는 적절한 최적화를 제공하므로 작업이 단순해진다. 여기서 주목할 소식은 x86 중심이지만, oneDNN은 Arm 및 RISC-V 아키텍처에서도 작동하는 크로스 플랫폼 라이브러리이다.
인텔은 oneDNN을 원래 개발했으며, 이는 이전에 존재하던 딥러닝 라이브러리 위에 구축된 것으로, 이후 UXL 재단에 통합되었다. 인텔은 Arm, 퀄컴, 구글 클라우드 등 다른 기업들과 함께 UXL 재단의 창립 멤버 중 하나였다.
Tom's Hardware의 최신 뉴스, 분석 및 리뷰를 피드에서 받아보려면 Google News에서 Tom's Hardware를 팔로우하거나 선호하는 소스로 추가하세요.
Tom's Hardware의 최고의 뉴스와 심층 리뷰를 이메일로 직접 받아보세요.
Jake Roach는 Tom’s Hardware의 시니어 CPU 분석가로, 최신 소비자 및 워크스테이션 프로세서에 대한 리뷰, 뉴스 및 기사를 작성하고 있다.
📄 원문 (English)
AMD and Intel will work together to create a single PyTorch code path for AI inference on CPUs — x86 rivals fold AMD ZenDNN library into Intel oneDNN to make CPU AI simpler
AMD has also joined the UXL Foundation as a steering member.
Intel and AMD are integrating their CPU optimizations for PyTorch into a unified library, offering tuning for both AMD and Intel chips through the oneDNN library. AMD has maintained a downstream version of oneDNN called ZenDNN, which is now moving into the open-source oneDNN, published by the UXL Foundation and driven by Intel. AMD also announced it's joining the UXL Foundation as a "steering member," which "influences the future of the UXL Foundation" in exchange for a contribution of $20,000 per year.
AMD says the move to unify these efforts under oneDNN was recommended by the x86 Ecosystem Advisory Group (EAG), which is a joint initiative that primarily exists between Intel and AMD and was established in 2024. The two companies have collaborated through the EAG previously, such as with the ACE extensions for x86 that we learned about earlier this year.
The oneDNN backend is used for CPU inference, and it's built to accelerate that workload for the latest Intel (and now AMD) chips in frameworks like PyTorch. When oneDNN was added to PyTorch as a backend in late 2023, it showed a 1.24x improvement with the Float32 data type, and 2.21x for the BFloat16 data type.
From the oneDNN GitHub, the library "detects hardware features at runtime" to generate optimized kernels for the platform, as well as provides low-precision data types. It also features optimized instructions for common AI and machine learning operations, such as matrix multiplication and convolution.
For developers, the move simplifies working with PyTorch across different systems, ensuring a single backend provides the proper optimizations for whatever hardware you're running. Although the news here is focused on the x86 guard, oneDNN is a cross-platform library that works on Arm and RISC-V architectures as well.
Intel originally developed oneDNN, built on top of previously deep learning libraries, before it was folded into the UXL Foundation. Intel was among the founding members of the UXL Foundation, alongside Arm, Qualcomm, Google Cloud, and others.
Follow Tom's Hardware on Google News, or add us as a preferred source, to get our latest news, analysis, & reviews in your feeds.
Get Tom's Hardware's best news and in-depth reviews, straight to your inbox.
Jake Roach is the Senior CPU Analyst at Tom’s Hardware, writing reviews, news, and features about the latest consumer and workstation processors.
▶ 칩 라이브 24 홈으로 — chiplive24.com