HOT ! P40 24Gカスタムファン付/40b以下LLM動作確認済/ローカルLLM最適 NvidiaのTesla P40はllama.cppのGGUFでめちゃくちゃ快適に動く！ : r

NvidiaのTesla P40はllama.cppのGGUFでめちゃくちゃ快適に動く！ : r。私は4090をアップグレードして48GBのVRAMを搭載しました：比較LLM。ローカルLLMで遊ぶためにVRAM40GBのPCを構築したので、その顛末を記録。ご覧いただきありがとうございます。この度、V100水冷コンピューティングドックへのシステム移行に伴い、これまでメイン機で愛用していた調教済みの Tesla P40 を数枚出品いたします。個人でローカルLLMを動かしたい方、コスパ良く大容量VRAMを確保したい方に最適なセットです。【実測パフォーマンス（GGUF形式 / 8bit精度）】Qwen 2.5 32b クラス： 10〜13 tps（実用的な読解スピード）Gemma 3 12B クラス： 30 tps 前後（瞬時に回答が生成されます）2枚差し運用： 70Bクラスの大型モデルも3〜5 tpsで動作可能です。1. 使用していない専用の「高圧デュアルファンユニット」を付で発送します。温度目安（室温21℃）：Turbo（4500回転）：待機時38℃ / 演算時50℃前後Full（6000回転）：さらに強力に冷却可能注意点：ファンはマザーボード経由での制御を推奨します。ケースファン等は付属のSATA/大4ピン変換アダプタへ逃がしてください（ご希望の変換タイプを取引メッセージでお知らせください）。2. 電源供給について本カードの端子は CPU 8ピン（EPS） です。一般的な電源のPCIe 8ピンから変換できる「専用変換ケーブル」を同封します。予備のCPU電源端子がある場合は、ファンユニットを外して直挿しも可能です。3. ECC機能とVRAM表示ストレージ占有型ECCのため、OS上の認識は 22.5GB となりますが、仕様通り24GBの物理メモリをフル活用しています。4. 映像出力について計算専用カードのため映像出力端子はありません。CPUの内蔵グラフィックス（iGPU）または別のビデオカードと併用してください。【BIOS設定のポイント】導入時、マザーボードのBIOSで以下の設定を必ずご確認ください。Above 4G Decoding： 「Enabled（有効）」Re-Size BAR Support： 「Enabled（有効）」CSM Support： 「Disabled（無効 / UEFIモード）」※これを設定しないとWindowsで認識されない場合があります。推奨電源：650W以上。続】鯖落ちGPUを使った安価な機械学習用マシンの作り方 ～夢のマルチ。Q*Q様 GeForce RTX 3060 グラフィックボード 本体　12GB。グラフィックボード・グラボ・ビデオカード Patriot 32GB DDR4 3200MT/s CL22。グラフィックボード・グラボ・ビデオカード GeForce RTX 4070 Ti Super。グラフィックボード・グラボ・ビデオカード ASRock Radeon RX 9060 XT 8GB。ZOTAC RTX2060 6GBジャンク品2個。MSI RTX 2080Ti 22GB AI生成向け 改造品。ASUS CERBERUS GeForce GTX 1070 Ti　美品。グラフィックボード・グラボ・ビデオカード MSI GeForce RTX 4060 Ti Ventus 2X Black。B850M AORUS ELITE WIFI6E ICE マザーボード。【美品】GEFORCE RTX 4070Ti SUPER AERO OC 16G。グラフィックボード・グラボ・ビデオカード ASRock RADEON RX 6600 CHALLENGER D 8GB。グラフィックボード・グラボ・ビデオカード MSI GeForce GTX 1050 Ti 4GT LP 4GB。グラフィックボード・グラボ・ビデオカード MSI GeForce GTX1660 SUPER AERO ITX OC。グラフィックボード　NVIDIA QUADRO P4000