ai:localllm:nemotron3super_120b

差分

このページの2つのバージョン間の差分を表示します。

この比較画面へのリンク

--- ai:localllm:nemotron3super_120b [2026/03/13 08:36] – [Nemotron 3 Super 120B-A12B を Local PC で動かす] oga
+++ ai:localllm:nemotron3super_120b [2026/03/15 14:12] (現在) – [Nemotron 3 Super 120B-A12B を Local PC で動かす] oga
@@ 行 4: / 行 4: @@
 ===== Nemotron 3 Super 120B-A12B を Local PC で動かす =====
-  * CPU: Ryzen 7 9700X / Ryzen 9 3950X
+  * PC Spec 1
-  * RAM: DDR5-5600 128GB / DDR4-3200 128GB
+    * CPU: Ryzen 7 9700X (65W Default)
-  * GPU: GeForce RTX 5060Ti 16GB / GeForce RTX 4060Ti 16GB
+    * RAM: DDR5-5600 128GB
+    * GPU: GeForce RTX 5060Ti 16GB
+  * PC Spec 2
+    * CPU: Ryzen 9 3950X (65W Eco-Mode)
+    * RAM: DDR4-3200 128GB
+    * GPU: GeForce RTX 4060Ti 16GB
+  * PC Spec 3
+    * CPU: Core i7-13700
+    * RAM: DDR5-5600 96GB
+    * GPU: GeForce RTX 4060Ti 16GB
 ^ 量子化      ^ Size        ^ OS           ^ CPU               ^ RAM           ^ RAM    ^ GPU                      ^ Window  ^           token/s ^ software          ^   ^
-| Q4_K_M      |     80 GB | Ubuntu 24.04  | Ryzen 9 3950X (65W)  | DDR4-3200     |  128GB | GeForce RTX 4060Ti 16GB  |    4096 |     **8.3 tps** | llama.cpp b8319   |   |
+| UD_Q4_K_XL  |     78 GB | Ubuntu 24.04  | Ryzen 9 3950X (65W)  | DDR4-3200     |  128GB | GeForce RTX 4060Ti 16GB  |    4096 |     **8.3 tps** | llama.cpp b8319   |   |
-| Q4_K_M      |     80 GB | Windows11     | Ryzen 7 9700X        | DDR5-5600     |  128GB | GeForce RTX 5060Ti 16GB  |    4096 |  ** 10.98 tps** | LMStudio 0.4.6 CUDA 12 v2.7.0  |   |
+| Q4_K_M      |     80 GB | Ubuntu 24.04  | Ryzen 9 3950X (65W)  | DDR4-3200     |  128GB | GeForce RTX 4060Ti 16GB  |    4096 |   ** 9.22 tps** | llama.cpp b8319   |   |
+| Q4_K_M      |     80 GB | Windows11     | Ryzen 7 9700X        | DDR5-5600     |  128GB | GeForce RTX 5060Ti 16GB  |    4096 |  ** 11.18 tps** | LMStudio 0.4.6 CUDA 12 v2.7.0  | cpu=82  |
+| Q4_K_M      |     80 GB | Windows11     | Ryzen 7 9700X        | DDR5-5600     |  128GB | GeForce RTX 5060Ti 16GB  |    4096 |  ** 11.43 tps** | llama.cpp CUDA12 b8303  |   |
+| UD_Q4_K_XL  |     78 GB | Windows11     | Ryzen 7 9700X        | DDR5-5600     |  128GB | GeForce RTX 5060Ti 16GB  |    4096 |  ** 10.89 tps** | llama.cpp CUDA12 b8303  |   |
+| UD_Q6_K_XL  |    109 GB | Windows11     | Ryzen 7 9700X        | DDR5-5600     |  128GB | GeForce RTX 5060Ti 16GB  |    4096 |   ** 7.92 tps** | llama.cpp CUDA12 b8303  |   |
 ----

ai/localllm/nemotron3super_120b.1773358568.txt.gz · 最終更新: 2026/03/13 08:36 by oga