Local LLM : 個人 PC 上で 100b 以上の LLM を走らせる
個人の PC (2025年の相場で 28万円くらい) 上で走らせられる 100b 以上 (1000億以上) の巨大なパラメータ数を持つ LLM についてまとめています。
| 2026/03/06 22:09 |
| 2026/03/06 14:11 |
| 2026/03/07 11:38 |
| 2026/03/07 13:30 |
| 2026/02/18 22:58 |
| 2026/02/11 19:54 |
Models
100b 以上のオープンモデル
| | Model | parameters | active | image | release | DDR5 128GB + RTX 5060Ti 16GB | DDR5 96GB + RTX 5060Ti 16GB | EVO-X2 128GB |
| Alibaba | Qwen3-2507 | 235B | A22B | | 2025/07/22 | 6 tps 前後 (Q3) | | |
| OpenAI | gpt-oss-120b | 120B | A5.1B | | 2025/08/05 | 23 tps 前後 | 47 tps 前後 |
| DeepSeek | DeepSeek-V3.2 | 671B | A37B | | 2025/12/01 | | | |
| Mistral AI | Mistral-large-3 | 675B | A41B | | 2025/12/02 | | | |
| Xiaomi | MiMo V2-flash | 309B | A15B | | 2025/12/16 | | | |
| Moonshot AI | Kimi K2.5 | 1.04T | A32B | | 2026/01/27 | | | |
| Z.ai | GLM-5 | 744B | A40B | | 2026/02/12 | | | |
| MiniMax | MiniMax M2.5 | 230B | A10B | | 2026/02/13 | 11 tps 前後 (Q3) | | |
| Alibaba | Qwen3.5 397b | 397B | A17B | Y | 2026/02/16 | | | |
| Alibaba | Qwen3.5 122b | 122B | A10B | Y | 2026/02/24 | 15 tps 前後 (Q4_K_M) | 24 tps 前後 |