변호사의 개인용 AI 서버(V100 12개), DeepSeek V4.1 Flash 모든 전문가 모델 4비트 NVFP4로 구동…코드 처리 1초당 184토큰, 장문 문서 응답 시간 절반으로 단축
🇰🇷 한글 번역
변호사의 12개 중고 Nvidia V100 GPU로 구성된 9,450달러 상당의 개인용 AI 서버가 이제 모든 DeepSeek V4.1 Flash 전문가 모델을 4비트 NVFP4 정밀도로 구동하며, 코드 생성 시 초당 최대 184개의 토큰을 처리하고, 긴 문서의 경우 응답 시작까지 약 절반의 시간이 소요된다. Tom's Hardware
📄 원문 (English)
Lawyer’s $9,450 private AI server of 12 used Nvidia V100s now runs every DeepSeek V4.1 Flash expert at 4-bit NVFP4 — up to 184 tokens per second on code, and long documents start answering in about half the time Tom's Hardware
▶ 칩 라이브 24 홈으로 — chiplive24.com