엔비디아 RTX 30 GPU, 새로운 언락 도구로 AI LLM 성능 급상승…가격도 동반 상승
🇰🇷 한글 번역
새로운 GPU 잠금 해제 도구가 NVIDIA의 RTX 30 및 RTX 40 GPU의 잠재력을 최대한 끌어내어 더 빠른 AI 대규모 언어 모델(LLM) 성능과 컴퓨팅 능력을 달성했습니다.
Zagitta "GPU-Unlock" 도구가 NVIDIA RTX 30/40 GPU에 AI LLM 분야에서 새로운 생명을 불어넣고, 컴퓨팅 성능이 원래 속도로 잠금 해제됨
암호화폐 채굴 시절, NVIDIA는 채굴 전용 CMP 라인업의 칩을 출시하면서 BIOS 펌웨어와 패치를 통해 GeForce RTX 30 GPU의 컴퓨팅 성능을 사실상 잠금 해제했습니다. CMP 카드는 또한 8~10GB에서 64~80GB로 메모리 능력을 비약적으로 향상시키는 특별한 잠금 해제 도구를 받았습니다.
모더들은 최대 채굴 속도를 잠금 해제하는 데 성공했지만, 컴퓨팅 제한은 여전히 적용되어 있었습니다. 하지만 이제 'Zagitta'라는 새로운 오픈소스 GitHub 프로젝트를 통해 Ampere GPU에 특징적인 BF16/FP16 속도가 완전히 잠금 해제되고 있습니다. 이 도구는 사용하기 쉬우며 vBIOS 플래시나 하드웨어 수정이 필요하지 않습니다.
도구 실행은 간단하며, NVIDIA RTX 30 시리즈의 FP16/BF16 FMA에 대한 컴퓨팅 능력을 GA102, GA103, GA104 및 GA106 GPU 전체에서 두 배로 잠금 해제합니다.
Nvidia 3000 시리즈 카드의 FP/BF16 명령어 발행 속도를 해당 전문가용 제품과 동일하게 잠금 해제
이 Linux 커널 모듈은 CMP 잠금 해제기의 V67/PLM 기법과 UEFI 방식의 사전 드라이버 타이밍을 결합합니다. 잠금 해제를 실행하고 속도 선택자(SS0 0x88888888으로 전체 BF16 속도를 선택, 그리고 4비트 SS1 0x8 IMLA4)를 작성한 후 수정되지 않은 NVIDIA 드라이버가 카드를 바인딩하기 전에 FLR(기능적 레벨 리셋)을 수행합니다. 이는 UEFI 애플리케이션도 아니고 패치된 NVIDIA 드라이버도 아닙니다.
이 초기 kmod 드라이버의 장점은 NVIDIA가 새로운 드라이버 버전을 출시할 때마다 매번 수동으로 패치할 필요가 없다는 점입니다.
이 잠금 해제의 효과는 GA102, GA103, GA104 및 GA106 카드에서 FP/BF16 FMA의 명령어 발행 속도를 FP32 연산으로 두 배로 높이는 것입니다.
많은 사용자가 현재 이 도구를 실행 중이며 RTX 30 시리즈 GPU에서 최대 80%까지 성능 향상을 보고하고 있습니다. 예를 들어, RTX 3090 Ti의 BF16 능력은 87.5 TFLOPs에서 157 TFLOPs로, TF32는 42.6 TFLOPs에서 82.6 TFLOPs로 향상됩니다. 마찬가지로, RTX 3080 10GB는 기본 320W 전력에서 FP16 성능이 65 TFLOPs에서 113 TFLOPs로 상승합니다.
3090 Ti의 450W에서 8192³ GEMM 실행 (FP32 누적 사용, 5회 샘플 중앙값):
AI LLM에서 잠금 해제된 RTX 30 GPU는 프리필(긴 컨텍스트) 출력 속도를 33~36% 빠르게 제공했으며, TTFT(첫 번째 토큰까지의 시간) 지연 시간은 25% 감소했습니다. 디코드 성능에는 영향을 미치지 않았으며, 행렬 곱셈 성능은 동일하게 유지되었습니다.
현재 이 잠금 해제는 Linux 플랫폼에서만 사용 가능하며, Windows는 아직 지원되지 않습니다. RTX 30 GPU 라인업이 가장 큰 혜택을 보지만, 이 잠금 해제는 이전 GTX 9, GTX 10 및 RTX 20 시리즈 카드에도 적용됩니다.
RTX 40 GPU도 이러한 새로운 잠금 해제를 통해 성능 향상을 보이고 있습니다.
다른 사용자들은 24GB RTX 3090과 같은 이전 RTX 30 GPU 카드에서 모델을 미세 조정하고 있습니다. 한 사용자는 모델에서 초당 381개의 토큰 처리량을 달성한 것으로 보고되었습니다.
AI 모델은 기본 성능 82 TPS에서 시작하여 최적화된 MTP, 컨텍스트 조회가 포함된 DFlash2, 그리고 최적화된 조회 검증을 통해 4.6배 속도로 향상되었습니다. 우리는 이번 주에 이 기사를 보도했으며, 모델들이 구형 카드에서 계속 최적화됨에 따라 해당 카드의 가격도 상승하고 있습니다.
예를 들어, NVIDIA GeForce RTX 3090 24GB는 약 1000달러에 판매되었지만, 이러한 보고서 이후 가격이 2000달러를 넘어섰습니다.
RTX 3090 Ti는 미국 기준 3,000달러에 근접하고 있으며, RTX 3080의 10GB 및 12GB 모델들은 이베이에서 900~1,100달러대에 도달하고 있다. 이러한 최적화 작업은 게이밍 외부 영역에서 앰페어 아키텍처 그래픽 카드에 새로운 생명을 불어넣고 있지만, 이는 또한 중고 RTX 30 시리즈 카드를 구매할 계획이었던 게이머들이 인공지능(AI) 수요로 인해 급등하는 가격에 직면해야 함을 의미한다.
이 잠금 해제 도구는 LLM(대규모 언어 모델) 워크로드를 위해 앰페어 시대 RTX 30 시리즈 카드에 새로운 생명을 불어넣으며, 하드웨어 수정 없이도 추론 및 파인튜닝에 훨씬 더 적합하도록 상당한 연산 성능 향상을 제공한다. 이러한 성능 향상은 AI 애호가들에게 명확한 이점으로 작용하지만, 그에 따른 수요는 중고 시장 가격을 급격히 끌어올려, 한때 합리적인 가격대의 게이밍 GPU를 구하기 어려운 AI 가속기로 변모시키고 순수 게이머들에게는 접근성을 낮추고 있다.
더 많은 뉴스 커버리지를 피드에서 받아보려면 Wccftech를 구글에서 팔로우하라.
📄 원문 (English)
A new GPU unlock tool has unlocked the full potential of NVIDIA's RTX 30 & RTX 40 GPUs, achieving faster AI LLM performance and compute capabilities.
Zagitta "GPU-Unlock" Tool Gives NVIDIA RTX 30/40 GPUs A New Life In AI LLMs, As Compute Gets Unlocked To Original Rates
Back in the crypto mining days, NVIDIA had the compute performance of its GeForce RTX 30 GPUs virtually unlocked through BIOS firmware and patches as it rolled out its mining-specific CMP line of chips. The CMP cards have also recieved a special unlock tool which exposes their full memory capabilities, jumping from 8-10 GB to 64-80 GB.
While modders managed to unlock the full mining rates, the compute restrictions were still in place. But that changes through a new open-source GitHub project called "Zagita," which is unlocking the full BF16/FP16 rates featured on the Ampere GPUs. The tool is easy to use and doesn't require any vBIOS flash or hardware modding.
Running the tool is simple, and it unlocks double the compute capabilities of NVIDIA's RTX 30 series FP16/BF16 FMA across all GA102, GA103, GA104, and GA106 GPUs.
Unlock FP/BF16 instruction issue rate on Nvidia 3000's cards to their professional equivalents
This Linux kernel module combines the CMP unlocker's V67/PLM technique with the pre-driver timing of the UEFI approach. It runs the unlock, writes the speed selectors (SS0 0x88888888, which selects the full BF16 rate, and the 4-bit SS1 0x8 IMLA4) and performs FLR before the unmodified NVIDIA driver binds the card. It is neither a UEFI application nor a patched NVIDIA driver.
The benefit of this early kmod driver is that it does not require manual patching each time nvidia releases a new driver version.
The effect of this unlock is that it doubles the instruction issuing speed of FP/BF16 FMA into FP32 operations on GA102, GA103, GA104 and GA106 cards.
Many users are running the tool now and seeing a boost of up to 80% on the RTX 30 series GPUs. For example, the RTX 3090 Ti has its BF16 capabilities boosted from 87.5 TFLOPs to 157 TFLOPs & TF32 goes from 42.6 TFLOPs to 82.6 TFLOPs. Similarly, the RTX 3080 10 GB goes from 65 TFLOPs of FP16 to 113 TFLOPs at its stock 320W power.
3090 Ti dense 8192³ GEMM at 450 W, five-sample medians with FP32 accumulation:
In AI LLMs, an unlocked RTX 30 GPU was able to offer 33-36% faster Prefill (long-context) output, while the latency in TTFT (Time-to-first-token) was reduced by 25%. Decode performance wasn't affected, and matrix-multiply performance remained identical.
Currently, the unlock is only available on Linux platforms; Windows isn't supported yet. The RTX 30 GPU lineup sees the biggest benefit, but the unlock does extend to older GTX 9, GTX 10, & RTX 20 series cards.
Even RTX 40 GPUs are seeing an uplift with these new unlocks.
Other users are also fine-tuning models on older RTX 30 GPU cards such as the 24 GB RTX 3090. A user has reportedly reached 381 tokens per second throughput on Qwen3.8-27B.
The AI model ran at a baseline performance of 82 TPS and improved to a 4.6x rate through optimized MTP, DFlash2 with context lookup, and an optimized lookup verification. We reported this story this week, and as models continue to be optimized on older cards, their prices are also seeing an uptick.
For example, the NVIDIA GeForce RTX 3090 24 GB was selling for around $1000 US, but since these reports, the prices have climbed past $2000.
The RTX 3090 Ti is fast approaching the $ 3000 US mark, and the RTX 3080 10-12 GB models are reaching $900-$1100 US on eBay. The optimizations are giving Ampere graphics cards a new life outside of gaming, but that also means that gamers who were planning to purchase a used RTX 30 card will now have to deal with surging prices due to AI.
This unlock tool is breathing new life into Ampere-era RTX 30 cards for LLM workloads, delivering substantial compute gains that make them far more viable for inference and fine-tuning without any hardware mods. While the performance uplift is a clear win for AI enthusiasts, the resulting demand is pushing used-market prices sharply higher, turning once-affordable gaming GPUs into sought-after AI accelerators and making them less accessible for pure gamers.
Follow Wccftech on Google to get more of our news coverage in your feeds.
▶ 칩 라이브 24 홈으로 — chiplive24.com