自宅AIサーバーは、VRAMの大きいGPU・Linux・Ollama（またはvLLM）・Tailscaleでのリモートアクセスが基本構成。7BクラスならVRAM 16GBのGPUで快適に動き、電気代は使い方次第で月数百〜数千円です。24時間動かすなら、消費電力と“夏の排熱”まで見据えて選びましょう。
「APIの月額課金を止めたい」「社外に出せないデータをAIで扱いたい」——そんな理由から、自宅にAIサーバーを持つ人が増えています。この記事では、ローカルLLMを動かす自宅サーバーの必要スペック、電気代、そして外出先からのアクセス方法までを、インフラ実務の視点でまとめます。クラウドで手軽に試す方法はVPSにOllamaを入れる手順も参考になります。
自宅AIサーバーとは？クラウドと何が違う
自宅AIサーバーの利点は、データが外に出ないプライバシー性・API課金のない定額運用・低遅延の3つです。代わりにGPUの初期費用と電気代を自分で負担します。
ChatGPTなどのクラウドAIは手軽ですが、機密データを送りづらく、使うほど課金がかさみます。自宅サーバーなら、モデルもデータも手元に置け、使い放題です。反面、GPUという初期投資と、常時稼働させる電気代・排熱の管理が必要になります。
定常的に大量に使うなら自宅が割安、スパイク的に重い処理を回すならクラウド、という“ハイブリッド運用”が2026年の主流です。まず自宅の常用機を持ち、足りないときだけクラウドに逃がすのが賢い使い方です。
自宅AIサーバーに必要なスペックは？（GPU・VRAM・RAM）
最重要はVRAM容量です。動かしたいモデルの規模でVRAMが決まり、そこからGPUを選びます。CPUよりGPUのVRAMが性能を左右します。
| 動かすモデル規模 | 推奨VRAM | GPUの目安 | システムRAM |
|---|---|---|---|
| 7B（軽量・実用の入口） | 12〜16GB | RTX 5060 Ti 16GB | 32GB |
| 13〜14B（バランス） | 16〜24GB | RTX 5070 Ti / 24GB級 | 32〜64GB |
| 30B超（高品質） | 24GB以上 | RTX 5090 32GB / 中古3090 24GB | 64GB以上 |
ハードウェアには大きく2系統あります。NVIDIA GPUは速い一方で消費電力が大きくVRAMに上限があります。Apple Siliconはトークン生成こそ穏やかですが、ユニファイドメモリで大きなモデルを載せられ、静音かつ省電力です。速度重視ならNVIDIA、静音・省電力重視ならApple Siliconが向いています。
7B〜14Bを安定して動かすなら、VRAM 16GBを積んだPCをまるごと用意するのが確実です。電源やエアフローも含めて最適化された1台が欲しいなら、BTOで構成を指定するのが手堅い選択になります。
電気代と24時間稼働のリアルは？
電気代は使い方次第で、1日10時間の利用なら約80〜110円が目安です。24時間動かす場合はGPUの消費電力（TDP）で年間コストが大きく変わります。
| GPU / 構成 | 消費電力の目安 | 24時間稼働の年間電気代（概算） |
|---|---|---|
| 省電力ミニPC / Jetson | 15〜25W | 数千円程度 |
| RTX 5060 Ti / 4070クラス | 約200W | 約3.5万円 |
| RTX 5090 / 4090クラス | 400〜500W | 月約50ドル（数万円）規模 |
ここで見落としがちなのが排熱です。GPUが吐く熱の分だけ、夏場はエアコン代も上乗せされます。24時間の常時稼働を狙うなら、消費電力の低さと静音性・冷却も選定基準に入れましょう。小さなモデルで足りるなら、あえて省電力なミニPCで組むのも合理的です。
サーバーソフトとリモートアクセスの構成は？
推論サーバーはOllamaで手軽に始め、本番運用ではvLLMやTGIへ。外部アクセスはVPN経由が安全の基本です。
推論サーバー（Ollama / vLLM）
まずはOllamaが最短です。Qwen3.5などの最新オープンモデルをコマンド一つで動かせます。処理を並列でさばく本番運用にはvLLMやTGIが向き、systemdやDockerのサービスとして常時稼働させます。Open WebUIを前面に置けば、ブラウザからチャットUIで使えます。
外出先からのアクセス
自宅サーバーを外から使うなら、TailscaleやWireGuardのVPN、あるいはCloudflareの認証付きトンネルを使います。ルーターのポートを直接開放するのは危険なので避けましょう。固定IPがなくてもDDNS（ダイナミックDNS）で対応できます。認証を必ず挟み、LAN内限定＋VPN接続を基本にするのが安全です。
推論エンドポイントを認証なしでインターネットに公開するのは厳禁です。踏み台にされたり、モデルを勝手に使われたりします。必ずVPNか認証付きトンネル越しにアクセスしてください。
作るのが手間ならクラウドという選択肢も
GPUの初期投資や24時間の運用が負担なら、クラウドで動かす手もあります。まず試したい段階なら、VPSでOllamaを回すのが手軽です。
「いきなりGPUを買うのは不安」という人は、VPS上でOllamaを動かして小さめのモデルから試すのがおすすめです。使わないときは止められるので、常時稼働の電気代もかかりません。具体的な手順はVPSにOllamaを入れる完全ガイドで解説しています。
まとめ：自宅AIサーバーの始め方
VRAM16GBのGPUでOllamaとOpen WebUIを動かし、Tailscaleで外部アクセス。これが2026年の自宅AIサーバーの黄金構成です。
まずは動かせる範囲の小さなモデルから始め、必要に応じてGPUを強化していくのが失敗しないルートです。電気代と排熱を見据え、常時稼働なら省電力性も重視しましょう。ネットワークや省電力を突き詰めるなら省電力ホームラボの構築例も参考になります。
コメント