ad42414f9f7025d23ff240869011c203ced62ab8
llm/\346\240\274\345\256\211\343\201\247\343\203\225\343\203\253\343\202\265\343\202\244\343\202\272LLM\345\256\237\350\241\214\343\203\236\343\202\267\343\203\263\343\202\222\346\211\213\343\201\253\345\205\245\343\202\214\343\202\213.md
... | ... | @@ -17,4 +17,8 @@ |
17 | 17 | - [Running LLMs on Dual Xeon E5-2699 v4 (22T/44C) (no GPU, yet) : r/LocalLLaMA](https://www.reddit.com/r/LocalLLaMA/comments/1hf80e4/comment/m2blpew/) |
18 | 18 | - Qwen3 |
19 | 19 | - [Qwen3-235B Q6_K ktransformers at 56t/s prefill 4.5t/s decode on Xeon 3175X (384GB DDR4-3400) and RTX 4090 : r/LocalLLaMA](https://www.reddit.com/r/LocalLLaMA/comments/1kgu4qg/qwen3235b_q6_k_ktransformers_at_56ts_prefill_45ts/) |
20 | - - ヤフオクで本体が大体10 ~ 15万位で購入でき、メモリで2万×6=12万、合わせて25万くらい? |
|
... | ... | \ No newline at end of file |
0 | + - ヤフオクで本体が大体10 ~ 15万位で購入でき、メモリで2万×6=12万、合わせて25万くらい? |
|
1 | +- デュアルソケットの構成だと速度が出ないという話もある... |
|
2 | + - 2つのXeonが搭載されている構成をNUMA構成という。(gpt4.1談) |
|
3 | + - それぞれのCPUに異なるメモリが接続されており、直結していないメモリにアクセスするときは繋がっているCPUを経由してアクセスする必要がある。 |
|
4 | + - [What's the cheapest setup for running full Deepseek R1 : r/LocalLLaMA](https://www.reddit.com/r/LocalLLaMA/comments/1l40ip8/whats_the_cheapest_setup_for_running_full/) |
|
... | ... | \ No newline at end of file |