ai:ollama
差分
このページの2つのバージョン間の差分を表示します。
| 両方とも前のリビジョン前のリビジョン次のリビジョン | 前のリビジョン | ||
| ai:ollama [2025/03/28 21:22] – [Multi GPU : 動作環境ごとの比較] oga | ai:ollama [2025/05/25 15:43] (現在) – [Multi GPU : モデルサイズごとの比較] oga | ||
|---|---|---|---|
| 行 8: | 行 8: | ||
| ===== Multi GPU : モデルサイズごとの比較 ===== | ===== Multi GPU : モデルサイズごとの比較 ===== | ||
| - | * モデルはすべて Q4 | + | * モデルはすべて Q4 (Q4_K_M 他デフォルト) |
| + | * 使用したバージョンは明記ない限り ollama 0.5.x | ||
| + | * Contxt Window サイズはデフォルト | ||
| ---- | ---- | ||
| 行 858: | 行 860: | ||
| === PC === | === PC === | ||
| - | ^ CPU | Ryzen 9 3950X | Ryzen 7 9700X (105W mode) | Core i7-13700 | + | ^ CPU | Ryzen 9 3950X | Ryzen 7 9700X (105W mode) | Core i7-13700 |
| - | ^ Core | Zen2 16C 32T | Zen5 8C 16T | RaptorLake 16C 24T | Zen3 8C 16T | Zen4 8C 16T | M1 CPU 8C 8T | IceLake 4C 8T | | + | ^ Core | Zen2 16C 32T | Zen5 8C 16T | RaptorLake 16C 24T | Zen3 8C 16T | Zen4 8C 16T | M1 CPU 8C 8T | IceLake 4C 8T | M4 CPU 12C 12T |
| - | ^ RAM | DDR4-3200 96GB | DDR5-5600 96GB | DDR4-3200 64GB | DDR4-3200 64GB | DDR5-5600 64GB | LPDDR4X-4266 16GB | LPDDR4X-3733 16GB | | + | ^ RAM | DDR4-3200 96GB | DDR5-5600 96GB | DDR4-3200 64GB | DDR4-3200 64GB | DDR5-5600 64GB | LPDDR4X-4266 16GB | LPDDR4X-3733 16GB | LPDDR5X-8533 64GB | |
| - | ^ Mother | + | ^ Mother |
| - | ^ GPU1 | PCIe 4.0 x16 | PCIe 4.0 x16 | PCIe 4.0 x16 | PCIe 4.0 x16 | iGPU RADEON 780M | iGPU | | | + | ^ GPU1 | PCIe 4.0 x16 | PCIe 4.0 x16 | PCIe 4.0 x16 | PCIe 4.0 x16 | iGPU RADEON 780M | iGPU | | iGPU |
| - | ^ GPU2 | PCIe 4.0 x4 | PCIe 4.0 x4 M.2 DEG1 OCulink | + | ^ GPU2 | PCIe 4.0 x4 | PCIe 4.0 x4 M.2 DEG1 OCulink |
| - | ^ GPU3 | PCIe 4.0 x4 M.2 DEG1 OCulink | + | ^ GPU3 | PCIe 4.0 x4 M.2 DEG1 OCulink |
| - | ^ GPU4 | PCIe 4.0 x4 M.2 DEG1 OCulink | + | ^ GPU4 | PCIe 4.0 x4 M.2 DEG1 OCulink |
| - | ^ GPU5 | PCIe 3.0 x1 | + | ^ GPU5 | PCIe 3.0 x1 |
| - | ^ GPU6 | PCIe 3.0 x1 | + | ^ GPU6 | PCIe 3.0 x1 |
| - | ^ OS | Ubuntu 22.04/ | + | ^ OS | Ubuntu 22.04/ |
| 行 888: | 行 891: | ||
| | RADEON RX Vega 64 | GCN5 | vega10 gfx900 | | RADEON RX Vega 64 | GCN5 | vega10 gfx900 | ||
| | RADEON RX Vega 56 | GCN5 | vega10 gfx900 | | RADEON RX Vega 56 | GCN5 | vega10 gfx900 | ||
| + | | Apple M1 C8/G8 | | ||
| + | | Apple M4 Pro C12/ | ||
| + | |||
ai/ollama.1743164556.txt.gz · 最終更新: by oga