ai:localllm:mistral4small_119b
文書の過去の版を表示しています。
Mistral 4 Small 2603 119b-a6b (119b)
Mistral 4 Small 2603 119B-A6B を Local PC で動かす
| 量子化 | Size | OS | CPU | RAM | RAM | GPU | ctx | token/s | software | |
|---|---|---|---|---|---|---|---|---|---|---|
| Q4_K_M | 67 GB | Windows11 | Ryzen 7 9700X | DDR5-5600 | 128GB | GeForce RTX 5060Ti 16GB | 4096 | tps | LMStudio 0.4.6 CUDA 12 v2.7.1 | PC1 |
| Q4_K_M | 67 GB | Ubuntu 24.04 | Ryzen 9 3950X (65W) | DDR4-3200 | 128GB | GeForce RTX 4060Ti 16GB | 4096 | tps | llama.cpp | PC2 |
| Q4_K_M | 67 GB | Windows11 | Ryzen AI Max+ 395 | LPDDR5-8000 | 128GB | Radeon 8060S | 4096 | tps | LMStudio 0.4.6 Vulkan v2.7.1 | PC4 EVO-X2 |
- PC 1
- CPU: Ryzen 7 9700X (65W Default)
- RAM: DDR5-5600 128GB
- GPU: GeForce RTX 5060Ti 16GB
- PC 2
- CPU: Ryzen 9 3950X (65W Eco-Mode)
- RAM: DDR4-3200 128GB
- GPU: GeForce RTX 4060Ti 16GB
- PC 3
- CPU: Core i7-13700
- RAM: DDR5-5600 96GB
- GPU: GeForce RTX 4060Ti 16GB
- PC 4
- CPU: Ryzen AI Max+ 395
- RAM: LPDDR5-8000 128GB
- GPU: Radeon 8060S
ai/localllm/mistral4small_119b.1773840080.txt.gz · 最終更新: by oga