ai:localllm:qwen3_5_122b
文書の過去の版を表示しています。
Qwen3.5 122B-A10B
Qwen3.5 122B-A10B を Local PC で動かす
- CPU: Ryzen 7 9700X / Ryzen 9 3950X
- RAM: DDR5-5600 128GB / DDR4-3200 128GB
- GPU: GeForce RTX 5060Ti 16GB / GeForce RTX 4060Ti 16GB
- RAM が 96GB 以上あれば 4bit 量子化版が動作します。
- パフォーマンスは GPU 側の VRAM 容量次第です。
- パラメータ総数は gpt-oss 120b とほぼ同等ですが、Active パラメータ数が 2倍なのでその分速度は落ちます。
- gpt-oss 120b と違い画像入力に対応しています。
| 量子化 | Size | OS | CPU | RAM | RAM | GPU | Window | token/s | software | |
|---|---|---|---|---|---|---|---|---|---|---|
| Q4_K_M | 75 GB | Ubuntu 24.04 | Ryzen 9 3950X | DDR4-3200 | 128GB | GeForce RTX 4060Ti 16GB | 4096 | 11.7 tps | llama.cpp b8171 | |
| Q4_K_M | 75 GB | Windows11 | Ryzen 7 9700X | DDR5-5600 | 128GB | GeForce RTX 5060Ti 16GB | 4096 | 13.43 tps | LMStudio 0.4.4 | |
| Q4_K_M | 75 GB | Windows11 | Ryzen 9 AI Max+ 395 | LPDDR5-8000 | 128GB | Radeon 8060S | 4096 | 23. tps | LMStudio 0.4.6 |
ai/localllm/qwen3_5_122b.1772625953.txt.gz · 最終更新: by oga