HOT ! P40 24Gカスタムファン付/40b以下LLM動作確認済/ローカルLLM最適 NvidiaのTesla P40はllama.cppのGGUFでめちゃくちゃ快適に動く！ : r

NvidiaのTesla P40はllama.cppのGGUFでめちゃくちゃ快適に動く！ : r。HPCシステムズ、NVIDIA最新Blackwell搭載GPUサーバーとソフトウェア。ローカルLLM環境構築：新調したRTX 5060 Ti PCで最適な日本語モデルを。ご覧いただきありがとうございます。自社サーバーでのLLMに挑戦！ローカルLLM＋RAG環境を構築してみた。この度、V100水冷コンピューティングドックへのシステム移行に伴い、これまでメイン機で愛用していた調教済みの Tesla P40 を数枚出品いたします。グラフィックボード・グラボ・ビデオカード GIGABYTE GEFORCE GTX 1660 Ti OC Edition。個人でローカルLLMを動かしたい方、コスパ良く大容量VRAMを確保したい方に最適なセットです。グラフィックボード・グラボ・ビデオカード GIGABYTE AERO 15x。【実測パフォーマンス（GGUF形式 / 8bit精度）】Qwen 2.5 32b クラス： 10〜13 tps（実用的な読解スピード）Gemma 3 12B クラス： 30 tps 前後（瞬時に回答が生成されます）2枚差し運用： 70Bクラスの大型モデルも3〜5 tpsで動作可能です。Sapphire R9 380X 8GB トリプルファン　動作未確認。1. 使用していない専用の「高圧デュアルファンユニット」を付で発送します。グラフィックボード・グラボ・ビデオカード rog2080。温度目安（室温21℃）：Turbo（4500回転）：待機時38℃ / 演算時50℃前後Full（6000回転）：さらに強力に冷却可能注意点：ファンはマザーボード経由での制御を推奨します。グラフィックボード GIGABYTE RTX3060Ti AORUS。ケースファン等は付属のSATA/大4ピン変換アダプタへ逃がしてください（ご希望の変換タイプを取引メッセージでお知らせください）。GTX 1080 Ti グラフィックボード。2. 電源供給について本カードの端子は CPU 8ピン（EPS） です。グラフィックボード・グラボ・ビデオカード ASUS ROG-STRIX-RTX2080-O8G-GAMING。一般的な電源のPCIe 8ピンから変換できる「専用変換ケーブル」を同封します。Enhance 850W 80 PLUS Gold & 900W 2セット。予備のCPU電源端子がある場合は、ファンユニットを外して直挿しも可能です。グラフィックボード・グラボ・ビデオカード AMD Radeon RX5700XT。3. ECC機能とVRAM表示ストレージ占有型ECCのため、OS上の認識は 22.5GB となりますが、仕様通り24GBの物理メモリをフル活用しています。グラフィックボード・グラボ・ビデオカード Gainward GeForce RTX3060 Ghost 12g GDDR6。4. 映像出力について計算専用カードのため映像出力端子はありません。GeForce RTX 3060 Ti Dual OC V1 8GB LHR版。CPUの内蔵グラフィックス（iGPU）または別のビデオカードと併用してください。【美品&値下げ交渉可能】RTX2070super Palit Jetstream。【BIOS設定のポイント】導入時、マザーボードのBIOSで以下の設定を必ずご確認ください。グラフィックボード・グラボ・ビデオカード Palit Geforce GTX1060 6GB Super JetSteam。Above 4G Decoding： 「Enabled（有効）」Re-Size BAR Support： 「Enabled（有効）」CSM Support： 「Disabled（無効 / UEFIモード）」※これを設定しないとWindowsで認識されない場合があります。ASUS TUF GeForce GTX 1660 Ti グラフィックボード。推奨電源：650W以上