ユーザ用ツール

サイト用ツール


ai:localllm:qwen3_235b

差分

このページの2つのバージョン間の差分を表示します。

この比較画面へのリンク

次のリビジョン
前のリビジョン
ai:localllm:qwen3_235b [2026/02/22 11:02] – 作成 ogaai:localllm:qwen3_235b [2026/02/22 16:18] (現在) – [Qwen3-235B を Local PC で動かす] oga
行 1: 行 1:
 ====== Qwen3 235B-A22B ====== ====== Qwen3 235B-A22B ======
 +
 +====== Qwen3 235B ======
 +
 +  * [[https://huggingface.co/Qwen/Qwen3-235B-A22B]]
 +
 +
 +  * 参考にしたページ
 +    * [[https://unsloth.ai/docs/models/qwen3-how-to-run-and-fine-tune]]
 +
 +
 +
 +===== Qwen3-235B を Local PC で動かす =====
 +
 +  * CPU: Ryzen 9 3950X
 +  * RAM: DDR5-3200 128GB
 +  * GPU: GeForce RTX 4060Ti 16GB
 +
 +  * llama.cpp
 +  * Qwen3-235B-A22B
 +    * unsloth/Qwen3-235B-A22B-128K-GGUF (UD_Q4_K_XL)
 +
 +
 +
 +
 +^ 量子化     ^ Size        ^ OS           ^ CPU               ^ RAM           ^ RAM    ^ GPU                      ^ Window  ^       token/s ^ software           ^
 +| UD_Q4_K_XL |     134 GB | Ubuntu 24.04  | Ryzen 9 3950X     | DDR4-3200      128GB | GeForce RTX 4060Ti 16GB  |    4096 |     **4.8 tps** | llama.cpp b8123  |   |
 +| UD_Q3_K_XL |     104 GB | Ubuntu 24.04  | Ryzen 9 3950X     | DDR4-3200      128GB | GeForce RTX 4060Ti 16GB  |    4096 |     **6.2 tps** | llama.cpp b8123  |   |
 +| UD_Q3_K_XL |     104 GB | Windows11     | Ryzen 7 9700X     | DDR5-5600      128GB | GeForce RTX 5060Ti 16GB  |    4096 |    **6.81 tps** | llama.cpp b8123  |   |
 +
  
  
ai/localllm/qwen3_235b.1771725762.txt.gz · 最終更新: by oga

Donate Powered by PHP Valid HTML5 Valid CSS Driven by DokuWiki