自宅サーバーニキにヘルプ！

テーマ、知りたいこと

最近自宅サーバーに興味が出てきていよいよ立ててみようかなと目論んでます。

流行りの Qwen3.5 というローカルLLMがローカルの割には結構すごいので、ローカルLLMをホスティングしつつこれを使うAIエージェントとかぽこぽこ立ってたら面白そうだなと思ってます。

みなさんどんなサーバー（物理）使ってます？
なんかおすすめのツールとかOSSとかあります？
うわさによればCloudflareを使えば自宅サーバーをポート公開とかせずに外からもアクセス出来るらしいけど実際どうです？とか

背景、状況

物理サーバー何もわからん状態です
普段業務ではクラウド（主にK8s）ばかり触ってます

回答4件

miyabi-sun

総合スコア21596

投稿2026/03/05 02:33

みなさんどんなサーバー（物理）使ってます？

結局個人が使えるサーバーなんてただのパソコンですよ。
私はLenovoの格安ミニPCに Manjaro (Arch Linux) を突っ込んで動かしています。
まぁ私はローカルLLMは使わないんでそれなりのパソコンなら十分って感じですね。

物理サーバー何もわからん状態です

そもそも物理サーバー (自作パソコン) は本当に時期が悪いです。
2025年11月からの生成AI特需によりメモリ、ストレージ(SSD)、グラボが軒並みアホみたいに値上がりして、
2026年3月現在もメモリ価格5倍付近に高止まりしたまま帰ってきません。
採算取れずに多くの企業が死滅して、そのまま幻滅期を迎えるまで待てって感じでしょうね。

それでも2025年10月の水準から2倍とかを推移するんじゃないですかね？
新しいPCを組むにしてもそのくらいまで待つのが得策でしょう。

Qwen3.5 はグラボ無しでどの程度動くかわかりませんが、ConoHaのVPSはどうでしょうか？
メモリ12GB辺りから急にコスパがよくなるので、時間貸しで暫く動かしてみて、
これで大丈夫なら今年は1ヶ月とか3ヶ月単位でレンタルしてしまうのが一番安いと思います。

うわさによればCloudflareを使えば自宅サーバーをポート公開とかせずに外からもアクセス出来るらしいけど実際どうです？とか

最近 Claude Code に唆されて入れましたが結構良いですよ。
Cloudflareに接続する専用アプリで「今このサーバーなら使えますよ！」ってアピールするだけなので、
Aマシンが壊れても、Bマシンにすぐ移植して動作を継続させられます。

私は引っ越しの間だけ自宅サーバーが使えなくなるということで
設定無しでVPSマシンに引っ越しましたが、「ドメインの管理画面でDNSをポチポチの作業無し」瞬時に終わりました。

これ聞いてすげえ！ってなるならやっても良いと思いますが、
普通の開発者は別に……ってなると思いますので、本当に人それぞれって感じですね。
無料なのでとりあえず初めてみるのも良いと思います。

kgetpo

総合スコア32

投稿2026/03/05 07:03

確かに最近SSDとメモリーの値段やばいですよね。。。

ConoHaのVPS

これ全然知らなかったので調べてみます！ありがとうございます！

Aマシンが壊れても、Bマシンにすぐ移植して動作を継続

これめちゃくちゃいいですね！！
引っ越しダウンタイム考えたこと無かったｗｗ
Cloudflareでドメイン取るくらいしかやってなかったんでさっそく適当なPCでやってみますｗ
お名前.comはアンチです笑

tamanegine

総合スコア194

投稿2026/03/08 18:58

自分の体験談になりますが、結論LLMは余ったPCで動かすぐらいならクラウドのAPI使うほうが良いので常用はおすすめしません。
理由は下記の通りです。

ローカルで動かすと性能が足りず遅くストレスが溜まるので、追加でパーツを買うか結局ChatGPTやClaudeなどを使うようになる
より精度が高いモデルはメモリやGPUが必要になることが多く、高額になる

ただ、自宅サーバーにご興味があり勉強したいとのことで、自分がCloudflareを活用して自宅で動かしている構成を記載します。他にもいろんなオープンソースのものがあるので、ご自身で調べてみたりご活用してみてください。

Cloudflareで使用しているサービス: レジストラ、DNS、Cloudflare Tunnel（Zero Trust）、WAF、CDN
サーバー: 余っていた古い自作PC、LLMはクラウドの物を使用
※LLMをローカルで動かさなければRaspberryPiでも快適に動きます。ローカルで動かす際はSNSなどで動作確認している方がいるので調べてみてください。
構成: mermaidの通り（mermaidプレビューアでご確認ください）
使用ソフトウェア: 下記の表の通り

Cloudflareについてはカスタマイズが殆どできませんが無料でありながら、基本的なWAFやCDN、DNSが利用でき、Cloudflare Tunnelで自宅サーバーをポート公開せずとも外部からアクセス可能で非常にセキュアでした。またクライアント証明書による認証も可能です。そのためクラウドに載せたりポート公開したりせずとも安価かつセキュアに利用できるのでおすすめです。
なお余談ですが、外部からSSHしたいときはAzure Arcを利用することで、AzureポータルやAzure CLI経由でポート開放せずにSSHが可能です。

名称	概要
OpenWebUI	ChatGPT風のチャット画面を持つセルフホスティング可能なWebプラットフォーム。RAGや検索API呼び出し、メモ機能などを備える
Open Notebook	NotebookLMライクなオープンソースのAIリサーチ用のWebノートツール
LiteLLM	AWSやAzure、Vertexなど様々なクラウドおよびOllamaなどのローカルLLMに対してOpenAI互換のAPIを提供するWebAPIツール。MCPサーバー機能も備える
SearXNG	様々な検索エンジンを利用してWeb検索をすることができ、APIを利用することでLLMへ渡すことができるツール
Ollama	ローカルLLMを動かすためのフレームワークで、API提供も行っており各種ツールで利用可能（前述の通り、自分は重くて利用をやめました）

mermaid
1graph TB
2    subgraph Internet["インターネット"]
3        Users["ユーザー"]
4    end
5
6    subgraph Cloud["クラウドAIサービス"]
7        subgraph Azure["Microsoft Azure"]
8            EntraID["Entra ID<br/>OAuth/OIDC認証"]
9            AzureJP["Azure OpenAI<br/>東日本リージョン"]
10            AzureUS["Azure OpenAI<br/>米国東部2リージョン"]
11        end
12        
13        subgraph GCP["Google Cloud Platform"]
14            VertexAI["Vertex AI<br/>━━━━━━━<br/>Gemini モデル群<br/>Imagen 画像生成<br/>Text Embedding<br/>Text-to-Speech"]
15        end
16        
17        subgraph AWS_Cloud["Amazon Web Services"]
18            BedrockTokyo["Bedrock 東京<br/>━━━━━━━<br/>Amazon Nova<br/>Claude 4.x"]
19            BedrockUS["Bedrock 米国西部2<br/>━━━━━━━<br/>GPT-OSS<br/>Stable Diffusion"]
20            IAM["IAM認証"]
21        end
22    end
23
24    subgraph Infrastructure["インフラストラクチャ"]
25        Cloudflared["Cloudflare Tunnel<br/>リバースプロキシ"]
26        PostgreSQL["PostgreSQL<br/>━━━━━━━<br/>リレーショナルDB"]
27        Valkey["Valkey (Redis互換)<br/>━━━━━━━<br/>キャッシュ<br/>セッション管理"]
28    end
29
30    subgraph Platform["AIアプリケーション層"]
31        OpenWebUI["Open WebUI<br/>━━━━━━━<br/>LLM対話UI<br/>RAG機能<br/>画像生成"]
32        LiteLLM["LiteLLM Proxy<br/>━━━━━━━<br/>マルチクラウド<br/>統合APIゲートウェイ"]
33        SearxNG["SearxNG<br/>プライバシー重視<br/>メタ検索エンジン"]
34        OpenNotebook["Open Notebook<br/>ナレッジ管理<br/>システム"]
35        SurrealDB["SurrealDB<br/>マルチモデルDB"]
36    end
37
38    Users -->|HTTPS| Cloudflared
39    
40    Cloudflared -->|内部ネットワーク| OpenWebUI
41    Cloudflared -->|内部ネットワーク| LiteLLM
42    Cloudflared -->|内部ネットワーク| OpenNotebook
43
44    OpenWebUI -.->|OAuth 2.0<br/>OIDC| EntraID
45
46    OpenWebUI -->|LLM API呼び出し| LiteLLM
47    OpenWebUI -->|Web検索| SearxNG
48    OpenWebUI -->|セッションDB| Valkey
49    OpenWebUI -->|データ永続化| PostgreSQL
50
51    OpenNotebook -->|LLM/Embedding/TTS| LiteLLM
52    OpenNotebook -->|ドキュメント保存| SurrealDB
53
54    LiteLLM -.->|IAM認証| IAM
55    LiteLLM -.->|InvokeModel API| BedrockTokyo
56    LiteLLM -.->|InvokeModel API| BedrockUS
57    LiteLLM -.->|API呼び出し| AzureJP
58    LiteLLM -.->|API呼び出し| AzureUS
59    LiteLLM -.->|サービスアカウント認証| VertexAI
60    LiteLLM -->|設定データ| PostgreSQL
61
62    SearxNG -->|検索結果キャッシュ| Valkey
63
64    style Internet fill:#e1f5ff
65    style Cloud fill:#fff3e0
66    style Infrastructure fill:#ffebee
67    style Platform fill:#e8f5e9
68    style Azure fill:#0078d4,color:#fff
69    style GCP fill:#4285f4,color:#fff
70    style AWS_Cloud fill:#ff9900,color:#fff
71    style EntraID fill:#00a4ef,color:#fff
72    style Cloudflared fill:#f38020,color:#fff
73    style LiteLLM fill:#9c27b0,color:#fff
74    style PostgreSQL fill:#336791,color:#fff
75    style Valkey fill:#dc382d,color:#fff
76    style OpenWebUI fill:#10a37f,color:#fff
77    style SearxNG fill:#3050ff,color:#fff
78    style OpenNotebook fill:#ff6b6b,color:#fff