ai:localllm:nemotron3super_120b
文書の過去の版を表示しています。
Nemotron 3 Super 120b-a12b (120b)
Nemotron 3 Super 120B-A12B を Local PC で動かす
- PC Spec 1
- CPU: Ryzen 7 9700X
- RAM: DDR5-5600 128GB
- GPU: GeForce RTX 5060Ti 16GB
- PC Spec 2
- CPU: Ryzen 9 3950X (65W Eco-Mode)
- RAM: DDR4-3200 128GB
- GPU: GeForce RTX 4060Ti 16GB
| 量子化 | Size | OS | CPU | RAM | RAM | GPU | Window | token/s | software | |
|---|---|---|---|---|---|---|---|---|---|---|
| UD_Q4_K_XL | 77 GB | Ubuntu 24.04 | Ryzen 9 3950X (65W) | DDR4-3200 | 128GB | GeForce RTX 4060Ti 16GB | 4096 | 8.3 tps | llama.cpp b8319 | |
| Q4_K_M | 80 GB | Ubuntu 24.04 | Ryzen 9 3950X (65W) | DDR4-3200 | 128GB | GeForce RTX 4060Ti 16GB | 4096 | 9.22 tps | llama.cpp b8319 | |
| Q4_K_M | 80 GB | Windows11 | Ryzen 7 9700X | DDR5-5600 | 128GB | GeForce RTX 5060Ti 16GB | 4096 | 11.18 tps | LMStudio 0.4.6 CUDA 12 v2.7.0 | |
| Q4_K_M | 80 GB | Windows11 | Ryzen 7 9700X | DDR5-5600 | 128GB | GeForce RTX 5060Ti 16GB | 4096 | tps | llama.cpp CUDA12 b8303 |
ai/localllm/nemotron3super_120b.1773388525.txt.gz · 最終更新: by oga