ai:ollama
差分
このページの2つのバージョン間の差分を表示します。
| 両方とも前のリビジョン前のリビジョン次のリビジョン | 前のリビジョン | ||
| ai:ollama [2025/03/28 21:19] – [● OS を直接インストールした場合] oga | ai:ollama [2025/05/25 15:43] (現在) – [Multi GPU : モデルサイズごとの比較] oga | ||
|---|---|---|---|
| 行 8: | 行 8: | ||
| ===== Multi GPU : モデルサイズごとの比較 ===== | ===== Multi GPU : モデルサイズごとの比較 ===== | ||
| - | * モデルはすべて Q4 | + | * モデルはすべて Q4 (Q4_K_M 他デフォルト) |
| + | * 使用したバージョンは明記ない限り ollama 0.5.x | ||
| + | * Contxt Window サイズはデフォルト | ||
| ---- | ---- | ||
| 行 408: | 行 410: | ||
| OS を直接インストール | OS を直接インストール | ||
| - | |||
| 行 539: | 行 540: | ||
| | gemma2: | | gemma2: | ||
| | gemma3: | | gemma3: | ||
| + | ^ CPU (0GB): Apple M4 Pro CPU : macOS | ||
| + | ^ Model ^ Memory ^ CPU ^ GPU ^ | ||
| + | | llama3.3: | ||
| + | | qwen2.5: | ||
| + | | gemma3: | ||
| + | | gemma2: | ||
| + | | mistral-small: | ||
| + | | phi4: | ||
| + | | gemma3: | ||
| + | | gemma2: | ||
| + | | qwen2.5: | ||
| + | | gemma3: | ||
| + | | gemma2: | ||
| + | | gemma3: | ||
| + | ^ GPUx1 (64GB): Apple M4 Pro GPU : macOS | ||
| + | ^ Model ^ Memory ^ CPU ^ GPU ^ | ||
| + | | llama3.3: | ||
| + | | qwen2.5: | ||
| + | | gemma3: | ||
| + | | gemma2: | ||
| + | | mistral-small: | ||
| + | | phi4: | ||
| + | | gemma3: | ||
| + | | gemma2: | ||
| + | | qwen2.5: | ||
| + | | gemma3: | ||
| + | | gemma2: | ||
| + | | gemma3: | ||
| ^ GPUx1 (16GB): RADEON 610M (iGPU) : Linux | ^ GPUx1 (16GB): RADEON 610M (iGPU) : Linux | ||
| ^ Model ^ Memory ^ CPU ^ GPU ^ | ^ Model ^ Memory ^ CPU ^ GPU ^ | ||
| 行 738: | 行 767: | ||
| ^ Model ^ Memory ^ CPU ^ GPU ^ | ^ Model ^ Memory ^ CPU ^ GPU ^ | ||
| | llama3.3: | | llama3.3: | ||
| + | |||
| 行 830: | 行 860: | ||
| === PC === | === PC === | ||
| - | ^ CPU | Ryzen 9 3950X | Ryzen 7 9700X (105W mode) | Core i7-13700 | + | ^ CPU | Ryzen 9 3950X | Ryzen 7 9700X (105W mode) | Core i7-13700 |
| - | ^ Core | Zen2 16C 32T | Zen5 8C 16T | RaptorLake 16C 24T | Zen3 8C 16T | Zen4 8C 16T | M1 CPU 8C 8T | IceLake 4C 8T | | + | ^ Core | Zen2 16C 32T | Zen5 8C 16T | RaptorLake 16C 24T | Zen3 8C 16T | Zen4 8C 16T | M1 CPU 8C 8T | IceLake 4C 8T | M4 CPU 12C 12T |
| - | ^ RAM | DDR4-3200 96GB | DDR5-5600 96GB | DDR4-3200 64GB | DDR4-3200 64GB | DDR5-5600 64GB | LPDDR4X-4266 16GB | LPDDR4X-3733 16GB | | + | ^ RAM | DDR4-3200 96GB | DDR5-5600 96GB | DDR4-3200 64GB | DDR4-3200 64GB | DDR5-5600 64GB | LPDDR4X-4266 16GB | LPDDR4X-3733 16GB | LPDDR5X-8533 64GB | |
| - | ^ Mother | + | ^ Mother |
| - | ^ GPU1 | PCIe 4.0 x16 | PCIe 4.0 x16 | PCIe 4.0 x16 | PCIe 4.0 x16 | iGPU RADEON 780M | iGPU | | | + | ^ GPU1 | PCIe 4.0 x16 | PCIe 4.0 x16 | PCIe 4.0 x16 | PCIe 4.0 x16 | iGPU RADEON 780M | iGPU | | iGPU |
| - | ^ GPU2 | PCIe 4.0 x4 | PCIe 4.0 x4 M.2 DEG1 OCulink | + | ^ GPU2 | PCIe 4.0 x4 | PCIe 4.0 x4 M.2 DEG1 OCulink |
| - | ^ GPU3 | PCIe 4.0 x4 M.2 DEG1 OCulink | + | ^ GPU3 | PCIe 4.0 x4 M.2 DEG1 OCulink |
| - | ^ GPU4 | PCIe 4.0 x4 M.2 DEG1 OCulink | + | ^ GPU4 | PCIe 4.0 x4 M.2 DEG1 OCulink |
| - | ^ GPU5 | PCIe 3.0 x1 | + | ^ GPU5 | PCIe 3.0 x1 |
| - | ^ GPU6 | PCIe 3.0 x1 | + | ^ GPU6 | PCIe 3.0 x1 |
| - | ^ OS | Ubuntu 22.04/ | + | ^ OS | Ubuntu 22.04/ |
| 行 860: | 行 891: | ||
| | RADEON RX Vega 64 | GCN5 | vega10 gfx900 | | RADEON RX Vega 64 | GCN5 | vega10 gfx900 | ||
| | RADEON RX Vega 56 | GCN5 | vega10 gfx900 | | RADEON RX Vega 56 | GCN5 | vega10 gfx900 | ||
| + | | Apple M1 C8/G8 | | ||
| + | | Apple M4 Pro C12/ | ||
| + | |||
ai/ollama.1743164399.txt.gz · 最終更新: by oga