ローカルLLM– tag –
-
【2026年版】ローカルLLMでコード補完を実用にする｜補完とチャットでモデルを分ける
🔧 インフラエンジニア歴12年（2026年時点）🤖 Claude Code日常利用 ローカルLLMでコード補完を実用にする鍵は、役割ごとに別のモデルを割り当てることです。Tab補完には軽量・高速なモデル（Continueの推奨はQwen2.5-Coderの1.5Bか7B）、チ... -
【2026年版】ローカルLLMのモデル選びはVRAMで決まる｜8B/14B/32Bの選定基準
🔧 インフラエンジニア歴12年（2026年時点）🤖 Claude Code日常利用 ローカルLLMのモデル選びはVRAM容量でほぼ決まります。Q4_K_M量子化を前提にすると、8GBで7〜8B、16GBで12〜14B、24GBで32B、70Bには48GB以上。量子化の劣化は、llama.cpp... -
【2026年版】自宅にローカルAIサーバーを構築する方法｜GPU選び・電気代・リモートアクセス
🔧 インフラエンジニア歴12年（2026年時点）🤖 Claude Code日常利用📝 Tech Otaku Lab運営 自宅AIサーバーは、動かしたいモデルのファイルの大きさから機材を決めます。VRAM 16〜32GBに収まるモデルを速く使うならNVIDIAのGPUを積ん... -
【2026年版】Ollama×Claude CodeでAPIコストを削減｜ローカルLLM連携設定
🤖 Claude Code日常利用 ☁️ AWS実務4年目（2026年時点） Claude CodeはローカルのOllamaにつないで、APIに送る作業の一部を手元のモデルに回せます。Ollama v0.14.0以降はAnthropic API互換なので、環境変数3つと --model の指定で切...
1