9개 GPU에 54GB VRAM 탑재된 구형 GPU 마이닝 랙, LLM 사용자의 꿈…협상 끝에 35달러에 구매
🇰🇷 한글 번역
GPU 마이닝 열풍의 종식은 실제로 바겐헌터에게 최고의 구매 기회로 돌아왔다. 그는 이베이나 크레이그스리스트의 러시아 버전인 아비토(Avito)에서 9개의 GPU가 탑재된 마이닝 랙을 발견했다. 이 카드들은 각각 6GB의 VRAM을 갖춘 P106 GPU로, 잊혀진 GTX 1060의 마이닝 전용 버전이라고 보면 된다. 총 54GB의 VRAM을 갖춘 이 구매자는 가격을 5,000루블(약 60달러)에서 3,000루블, 즉 35달러로 낮추는 데 성공했으며, 이는 특히 GPU 마이닝에서 로컬 AI 실행으로 전환하고자 하는 사람들에게 매우 좋은 거래다.
GPU 마이닝 랙은 더 밀도 높은 AI 모델을 실행하기 위한 훌륭하고 비용 효율적인 방법이지만, 한계가 없는 것은 아니다.
이 거래는 VRAM 용량 측면에서 레딧 사용자 ‘u/markpronkin’에게 훌륭한 발견이었지만, 2026년형 머신으로 대형 언어 모델(LLM)을 실행하기 위한 하드웨어로서는 제한 요소가 될 수 있다. 더 많은 비디오 메모리가 프리필(prefill) 및 토큰 생성 속도를 결정하는 유일한 지표가 아님을 기억하라. 대역폭 역시 중요한 역할을 한다. 다시 말해, 워크스테이션이 수천 달러에 달하는 가격을 자랑하기 때문에 35달러에 대해서는 크게 불평할 수 없다.
그러나 2016년에 출시된 팰컨(Pascal) 세대 카드는 오늘날의 기준으로는 느리다. 또한 일반적인 마이닝 랙은 PCIe x1 인터페이스를 사용하므로, GPU 간 데이터 이동량을 측정할 때 분명히 엄청난 성능 병목 현상이 발생할 것이다. 물론 8비트 양자화를 적용한 같은 LLM을 실행할 수 있으며, 4비트 또는 5비트 양자화를 사용해 최대 700억 파라미터 규모의 모델을 지원할 수 있다.
다행히도 레딧 사용자는 이 GPU 마이닝 랙에서 일부 AI 워크로드를 실행해 보았고, 운 좋게 전기를 무료로 공급받았기 때문에 올라마(Ollama)에서 35B-A3B 모델을 실행할 때 초당 30개 이상의 토큰을 생성했다고 밝혔다. 몇 가지 추가 최적화를 통해 그는 더 높은 성능을 목표로 할 수 있다고 믿는다. 시스템에 SSD가 없었기 때문에 사용자는 단일 USB 스틱에서 부팅하는 데 성공했다.
요약하자면, 취미로业余时间 더 밀도 높은 AI 모델을 탐색하고 싶지만 비싼 GPU 관련 비용에 큰 돈을 쓰고 싶지 않은 사람이라면, 이러한 랙을 확보하는 것이 다음 목표가 되어야 한다.
뉴스 출처: 레딧
구글에서 Wccftech를 팔로우하여 피드에서 더 많은 뉴스 커버리지를 받아보십시오.
📄 원문 (English)
The end of the GPU mining fever actually turned out to be one of the best purchases for a bargain hunter, who stumbled upon a rig loaded with nine GPUs on Avito, the Russian version of eBay or Craigslist. The cards were P106 GPUs featuring 6GB of VRAM each, which are pretty much the mining-specific versions of the forgotten GTX 1060. Totaling 54GB VRAM, the buyer successfully wiggled the price from 5,000 rubles ($60) to 3,000 rubles, or $35, making it quite a deal, especially if you want to transition from GPU mining to running local AI.
GPU mining rigs are an excellent and cost-effective way to run denser AI models, but they aren’t without their limitations
While the deal is an excellent catch for Redditor “u/markpronkin” from a VRAM count perspective, for a 2026 machine that’s designed to run those Large Language Models, the hardware could be a limiting factor. Remember, having more video memory isn’t the only metric that determines prefill and token generation speeds, with bandwidth also playing a pivotal role. Then again, with workstations costing thousands of dollars, you can’t really complain for $35.
However, Pascal-era cards that launched in 2016 are slow by today’s standards. Also, since typical mining rigs use the PCIe x1 interface, there will obviously be a massive performance bottleneck when measuring how much data moves between GPUs. Sure, it can run LLMs like Qwen3.8-27B with 8-bit quantization, and can support models up to 70B parameters using 4-bit or 5-bit quantization.
Thankfully, the Redditor was kind enough to run some AI workloads on this GPU mining rig, and since he’s lucky to receive electricity for free, he claims that he was getting 30+ tokens per second running Qwen3.6 35B-A3B on Ollama. With some additional optimizations, he believes that he can target a higher performance. Since the system lacked an SSD, the user managed to boot it from a single USB stick.
In short, if you’re a hobbyist and wish to explore denser AI models in your free time but don’t want to spend a fortune revolving around expensive GPUs, obtaining these rigs should be your next goal.
News Source: Reddit
Follow Wccftech on Google to get more of our news coverage in your feeds.
▶ 칩 라이브 24 홈으로 — chiplive24.com