ローカルLLM– tag –
-
Tech
【2026年版】ローカルLLMでコード補完を実用にする|補完とチャットでモデルを分ける
🔧 インフラエンジニア歴12年🤖 ローカルLLM・Claude Code日常利用 ローカルLLMでコード補完を実用にする鍵は、役割ごとに別のモデルを割り当てることです。Tab補完には軽量・高速なモデル(Qwen2.5-Coder 7B、StarCoder2)、チャットには大... -
Tech
【2026年版】ローカルLLMのモデル選びはVRAMで決まる|8B/14B/32Bの選定基準
🔧 インフラエンジニア歴12年🤖 ローカルLLM・Claude Code日常利用🖥️ 自作・BTO実機検証 ローカルLLMのモデル選びはVRAM容量でほぼ決まります。Q4_K_M量子化を前提にすると、8GBで7〜8B、16GBで12〜14B、24GBで32B、70Bには4... -
Tech
【2026年版】自宅にローカルAIサーバーを構築する方法|GPU選び・電気代・リモートアクセス
🔧 インフラエンジニア歴12年🤖 Claude Code・ローカルLLM日常利用📝 Tech Otaku Lab運営 自宅AIサーバーは、VRAMの大きいGPU・Linux・Ollama(またはvLLM)・Tailscaleでのリモートアクセスが基本構成。7BクラスならVRAM 16GBのGPU... -
Tech
【2026年版】Ollama×Claude CodeでAPIコストを最大93%削減|ローカルLLM連携設定
🤖 Claude Code日常利用 🔧 MCP連携・ローカルLLM検証 ☁️ AWS実務3年目 Claude CodeはローカルのOllamaに接続してAPIコストを大幅に削減できます。Ollama v0.14以降はAnthropic API互換なので、環境変数3つで切り替え可能。た...
1