ai:localllm:qwen3_5_122b
Qwen3.5 122B-A10B
Qwen3.5 122B-A10B を Local PC で動かす
- CPU: Ryzen 7 9700X / Ryzen 9 3950X
- RAM: DDR5-5600 128GB / DDR4-3200 128GB
- GPU: GeForce RTX 5060Ti 16GB / GeForce RTX 4060Ti 16GB
- RAM が 96GB 以上あれば 4bit 量子化版が動作します。
- パフォーマンスは GPU 側の VRAM 容量次第です。
- パラメータ総数は gpt-oss 120b とほぼ同等ですが、Active パラメータ数が 2倍なのでその分速度は落ちます。
- gpt-oss 120b と違い画像入力に対応しています。
| 量子化 | Size | OS | CPU | RAM | RAM | GPU | Window | token/s | software | |
|---|---|---|---|---|---|---|---|---|---|---|
| Q4_K_M | 75 GB | Ubuntu 24.04 | Ryzen 9 3950X | DDR4-3200 | 128GB | GeForce RTX 4060Ti 16GB | 4096 | 11.7 tps | llama.cpp b8171 | |
| Q4_K_M | 75 GB | Windows11 | Ryzen 7 9700X | DDR5-5600 | 128GB | GeForce RTX 5060Ti 16GB | 4096 | 13.43 tps | LMStudio 0.4.4 |
ai/localllm/qwen3_5_122b.txt · 最終更新: by oga