ネットが死んでもローカルで動くAI環境を整える話

なぜローカルAI環境が必要になったのか

クラウドAIは便利だが、依存しすぎると怖い。ネットが落ちたら何もできない。機密データを外に出せない案件もある。そう思いはじめたのがきっかけです。

2026年のAIエージェント進化に伴い、ローカルで完結する独立したAI環境の価値が改めて高まっています。

最初はDifyを試した──が、挫折

最初はDify（ローカルLLM統合ツール）を試しました。しかし当時のGPUはVRAM 2GBしかなく、まともに動かせずに断念。

転機は16GB VRAM搭載GPUを搭載したPCを入手したことでした。

採用した構成

設計で重視した3点

1. 外部通信の遮断

OPENCLAW_BLOCK_EGRESS=1 でコンテナの外への通信をブロック。機密データを扱う作業はこの環境内で完結させます。

2. ファイル分類の厳格化

入力・出力・作業・ログ・モデルの5種類に分けてマウントすることで、「何がどこにあるか」が常に明確な状態を保ちます。

3. 日本語環境の統一

ja_JP.UTF-8 に統一。文字化けや予期しないエンコードエラーをゼロにするために最初から設定を固めました。

結果

ネット接続なしでも実務補助が可能な環境が完成しました。

LLMはOllamaで管理し、用途に応じてモデルを切り替えられます。コンテナ内の成果物はWindowsのフォルダに自動で取り出せる設計にしたので、操作は普段通りのファイル操作と変わりません。

中小企業への示唆

クラウドAIが使えない場面は必ず存在します。

• 製造業の工場ネットワーク（インターネット非接続）
• 医療・法務・金融（機密データの外部送信不可）
• 地方・インフラ環境が弱いエリア

ローカルAI環境の構築コストは下がり続けています。「クラウドが使えない場合の保険」として今から試しておく価値は十分あります。

この記事は実際の構築経験をもとに書いています。個別の構成相談はお気軽にどうぞ。