自宅AIサーバーは、動かしたいモデルのファイルの大きさから機材を決めます。VRAM 16〜32GBに収まるモデルを速く使うならNVIDIAのGPUを積んだPC、VRAMに入らない大きさのモデルを1台で動かすならCPUとGPUでメモリを共有するミニPC（最大128GB）、まず試すなら時間課金のVPSが候補です。ソフトはOllama、外からのアクセスはVPN越しが基本です。電気代は「電力(kW)×時間×単価」で計算でき、目安単価31円/kWhでRTX 5060 Ti（GPUの公式の電力180W）を上限で24時間動かし続けると月約4,000円です。
「APIの月額課金を止めたい」「社外に出せないデータをAIで扱いたい」——そんな理由で自宅にAIサーバーを置く選択肢があります。この記事では、ローカルLLMを動かす自宅サーバーの選び方（GPU搭載PC・ミニPC・VPSの使い分け）、電気代の計算、外出先からのアクセス方法までを、メーカーとソフトの公式の情報でまとめます。クラウドで手軽に試す方法はVPSにOllamaを入れる手順も参考になります。
自宅AIサーバーとは？クラウドと何が違う
自宅AIサーバーの利点は、データを外のサービスに送らずに済むことと、使った回数で課金されないことです。代わりに機材の初期費用と電気代を自分で負担します。
ChatGPTなどのクラウドAIは手軽ですが、機密データは送りづらく、APIで使うと使った量に応じて課金されます。自宅サーバーなら、モデルもデータも手元に置けます。反面、機材の初期投資と、常時稼働させる電気代・排熱の管理が必要になります。
いきなり機材を買わずに、まずVPSやクラウドで小さなモデルを試し、使い方と必要なモデルの大きさが決まってから自宅の機材を選ぶと、買い間違いを減らせます。
自宅AIサーバーに必要なスペックは？（GPU・VRAM・RAM）
最重要はVRAM（GPUのメモリ）の容量です。動かしたいモデルのファイルの大きさがVRAMに収まるかで、GPUが決まります。
Ollamaの公式ライブラリに載っている、主なモデルのファイルの大きさは次のとおりです（2026年10月11日時点・既定のタグ）。
| モデル（Ollamaのタグ） | ファイルの大きさ |
|---|---|
| qwen3.5:9b | 6.6GB |
| gemma3:12b | 8.2GB |
| gpt-oss:20b | 14GB |
| qwen3.5:27b | 17GB |
| qwen3.5:35b | 22GB |
| gpt-oss:120b | 65GB |
出典：Ollama（qwen3.5）・Ollama（gemma3）・Ollama（gpt-oss）
一方、NVIDIAの公式の仕様では、VRAMはRTX 5060 Ti・5070 Ti・5080が16GB（5060 Tiは8GB版もあり）、RTX 5070が12GB、RTX 5090が32GBです。ファイルの大きさがVRAMより小さいだけでは足りず、会話の文脈を覚えておく分のメモリも要ります（Ollamaの既定の文脈の長さは4,096トークン）。VRAMに収まらない分はPCのメインメモリに置かれます。
実際に全部がGPUに載ったかは、Ollamaのollama psで確かめられます。公式の説明では、PROCESSORの列が「100% GPU」なら全部がGPUに、「48%/52% CPU/GPU」のように分かれていればGPUとメインメモリにまたがって読み込まれています。モデルを選ぶときは、使うGPUで「100% GPU」になる大きさを基準にすると判断しやすくなります。
16GBのGPUを積んだPCをまるごと用意するなら、電源やエアフローも含めて構成を指定できるBTOが手堅い選択です。
電気代と24時間稼働のリアルは？
電気代は「消費電力(kW)×使った時間×電気料金の単価」で計算できます。家電公取協の目安単価は31円/kWh（税込）です。
メーカーが公表している電力の値を上限として、24時間・30日動かし続けた場合を計算すると次のとおりです（目安単価31円/kWh）。
| 機材 | 公式の電力の値 | 上限で24時間×30日 |
|---|---|---|
| GMKtec EVO-X2（Ryzen AI Max+ 395のミニPC） | TDP 120W（ピーク140W） | 約2,700円 |
| Minisforum MS-S1 MAX（同じCPUのミニPC） | 連続130W（ピーク160W） | 約2,900円 |
| RTX 5060 Ti（GPUだけ） | Total Graphics Power 180W | 約4,000円 |
| RTX 5090（GPUだけ） | Total Graphics Power 575W | 約12,800円 |
計算例：RTX 5060 Ti＝0.18kW×24時間×30日＝129.6kWh、×31円＝約4,018円。出典：家電公取協（目安単価・令和4年7月22日改定）・NVIDIA公式の仕様（RTX 50シリーズ）・各メーカー公式ストアの製品ページ（2026年10月11日時点）。
この表はずっと上限まで使い続けたときの値です。実際の消費は負荷で変わり、待機中は上限より小さくなります。一方、GPUの値はグラフィックスカードだけの電力なので、PC全体ではCPUなどの分が上乗せされます。自分の使い方での電気代は、コンセントに挟むワットチェッカーで測るのが確実です。たとえばRTX 5060 Tiを1日2時間だけ上限で使うなら、0.18kW×2時間×30日×31円で月約335円です。
ここで見落としがちなのが排熱です。消費した電力はほぼ熱になるので、夏場はエアコン代も上乗せされます。24時間の常時稼働を狙うなら、消費電力の低さと静音性・冷却も選定基準に入れましょう。小さなモデルで足りるなら、あえて省電力なミニPCで組むのも合理的です。
省電力なミニPCは、各メーカーの公式ストアで構成と価格を比べられます。
📘 電気代まで含めて「自宅とクラウドのどちらが安いか」を出したい方へ：当サイト運営者がZennで公開している電子書籍『画像生成AI・ローカルLLMを“安く速く”動かす実測ガイド』（有料・500円／第1〜2章は無料公開）で、自家GPUの限界費用（ほぼ電気代のみ）とクラウド料金を突き合わせ、自分の使用量を入れれば損益分岐が出る式をテンプレート付きでまとめています。
GPU搭載PC・ミニPC・VPSはどう使い分ける？
VRAMに収まるモデルを速く使うならGPU搭載PC、VRAMに入らない大きさのモデルを1台で動かすなら共有メモリの大きいミニPC、まず試すなら時間課金のVPSです。
| GPU搭載PC（BTO） | 共有メモリの大きいミニPC | VPS（時間課金） | |
|---|---|---|---|
| 向く使い方 | 16〜32GBのVRAMに収まるモデルを使う | VRAMに入らない大きさのモデルを1台で動かす | 小さなモデルで試す・要らなくなれば削除 |
| モデルを置くメモリ | VRAM 16GB（RTX 5060 Ti・5070 Ti・5080）／32GB（RTX 5090） | 最大128GB（CPUとGPUで共有） | プランのメモリ（ConoHa VPSは512MB〜128GB）・GPUなし |
| 電力の公式値 | GPUだけで180W（5060 Ti）〜575W（5090） | EVO-X2：TDP 120W／MS-S1 MAX：連続130W | 自宅の電気代はかからない |
| 気をつけること | 排熱と電源容量 | メモリを後から増やせない機種がある（EVO-X2はオンボードで増設不可） | CPUで動かすので大きなモデルには向かない |
共有メモリの大きいミニPC（Ryzen AI Max+ 395）
GMKtecのEVO-X2とMinisforumのMS-S1 MAXは、どちらもAMD Ryzen AI Max+ 395を積んだミニPCです。AMDの公式の仕様では、このCPUの最大メモリは128GB（LPDDR5x）で、CPUとGPU（Radeon 8060S）が同じメモリを使います。AMDは公式ブログで、128GBの機種ならWindowsで最大96GBをGPU用（Variable Graphics Memory）に割り当てられると説明しています。上の表のgpt-oss:120b（65GB）のように、32GBのRTX 5090にも入らない大きさのモデルを1台に載せられるのが、この種類のミニPCの役割です（GMKtecはEVO-X2の製品ページで、メモリ96GB以上の構成の対応モデルにGPT-OSS 120Bを挙げています）。
ただし、当サイトではこの2機種の生成の速さを測っていません。GPU搭載PCより速いか遅いかは、ここでは比べていません。
VPS（まず試す）
ConoHa VPSの時間課金は1時間単位の課金で、月額の上限があり、公式のFAQでは「初期費用・最低利用期間なしでいつでも削除（解約）」できると説明されています。長期契約の「まとめトク」は一括前払いで、途中解約はできません。この記事の時間課金のプランはGPUを積んでいないので、CPUで動く小さなモデルで手順や使い勝手を確かめる用途に向きます。
サーバーソフトとリモートアクセスの構成は？
推論サーバーはOllamaで始めるのが手軽です。外部からのアクセスはVPN越しにし、推論のポートをインターネットに開けないのが基本です。
推論サーバー（Ollama / vLLM）
Ollamaは、公式ライブラリのモデル（Qwen3.5・gpt-oss・Gemma 3など）をコマンド一つで取得して動かせます。公式の説明では、使い終わったモデルは既定で5分たつとメモリから外されます（OLLAMA_KEEP_ALIVEで変更可）。同時に多くの要求をさばく用途には、vLLMなどの推論サーバーもあります。Open WebUIを前面に置けば、ブラウザからチャットの画面で使えます。
外出先からのアクセス
Ollamaは既定では127.0.0.1（自分のPCの中だけ）のポート11434で待ち受けます（公式FAQ）。ほかの機器から使うには環境変数OLLAMA_HOSTで待ち受けるアドレスを変えますが、ルーターのポートを開けてインターネットに直接出すのは避けましょう。外出先からは、TailscaleやWireGuardのVPN、あるいはCloudflareの認証付きトンネルを経由します。WireGuardを自宅側で待ち受けるなら、固定IPがなくてもDDNS（ダイナミックDNS）で対応できます。
推論エンドポイントを認証なしでインターネットに公開するのは厳禁です。第三者にモデルを勝手に使われたり、攻撃の足がかりにされたりするおそれがあります。必ずVPNか認証付きトンネル越しにアクセスしてください。
作るのが手間ならクラウドという選択肢も
機材の初期投資や24時間の運用が負担なら、クラウドで動かす手もあります。まず試したい段階なら、VPSでOllamaを回すのが手軽です。
「いきなり機材を買うのは不安」という人は、VPS上でOllamaを動かして小さめのモデルから試すのがおすすめです。時間課金なら、要らなくなればいつでも削除でき、自宅の電気代や排熱も気にせずに済みます。具体的な手順はVPSにOllamaを入れる完全ガイドで解説しています。
まとめ：自宅AIサーバーの始め方
動かしたいモデルのファイルの大きさを先に決め、それが収まるメモリの機材を選ぶのが失敗しない順番です。
VRAM 16〜32GBに収まるモデルならGPU搭載PC、それより大きいモデルを1台で動かすならCPUとGPUでメモリを共有するミニPC、まず試すなら時間課金のVPSです。ソフトはOllamaで始め、ollama psで全部がGPUに載っているかを確かめ、外からはVPN越しにつなぎます。24時間動かすなら、電気代は「電力×時間×単価」で上限を見積もり、ワットチェッカーで実際の値を測りましょう。ネットワークや省電力を突き詰めるなら省電力ホームラボの構築例も参考になります。
コメント