クラウドAI・ローカルAI・ハイブリッドAI、企業はどれを選ぶべきか

企業のお客様とAIについてお話しすると、ほぼ必ず同じ質問にたどり着きます。「当社のデータは社外に出るのでしょうか」という質問です。

これはもっともな問いです。ただ、その答えは「クラウドか、ローカルか」の二択には収まりません。両者の間にはいくつもの選択肢があり、それぞれがモデルの品質、コスト、導入スピード、管理のしやすさのいずれかと引き換えになっています。

本記事では、現在よく使われているAI導入の4つの方式を比較し、それぞれについて誤解されやすい点と、自社がどこから始めるべきかを判断するための考え方をご紹介します。

最大のリスクはインフラ以外にあることが多い

方式の比較に入る前に、一点お伝えしておきたいことがあります。

多くの企業で、現在もっとも大きなデータリスクは、設計に問題のあるAIシステムから生じているわけではありません。社員が個人のChatGPT、Gemini、Claudeのアカウントを使い、契約書やソースコード、給与データを貼り付けて「手早く処理させる」ことから生じています。こうした状況はシャドーAIと呼ばれています。

2023年には、Samsungが社内のソースコードをチャットボットに入力した事例を受けて、生成AIツールの社内利用を制限しました。同様のケースは珍しくなく、公表されることが少ないだけです。

そのため、最初に考えるべきは「クラウドかローカルか」ではありません。社員が自分で別の手段を探さなくても済むよう、管理された正式なAI利用の窓口を会社として用意できているか、という点です。以下のどの方式であっても、方針がまったくない状態よりは安全です。

1. 個人向け・一般向けプランによるパブリッククラウドAI

もっとも手軽に始められる方式です。アカウントを登録すればすぐに使え、インフラも必要ありません。

向いている用途: 試験的な利用、マーケティング文案の作成、一般的な調べもの、顧客データや社内データを扱わない業務。

注意すべき点:

• プランや設定によっては、個人向けプランでの会話がモデル改善に利用される場合があります。利用者側でオフにできますが、社員一人ひとりが設定を変更したかどうかを会社が確かめるのは困難です。
• 利用ログが一元管理されません。問題が起きた際に、誰がいつ何を送信したのかを把握できません。
• 社員が退職しても、会社のデータを含む会話履歴は個人アカウントに残ります。

2. 企業向けクラウドAI（API、エンタープライズプラン、VPC内での利用）

この方式は1と同じものとして扱われがちですが、セキュリティの観点では大きく異なります。

OpenAI API、Anthropic API、Azure OpenAI、AWS Bedrock、Google Vertex AIといった基盤には企業向けの利用条件が用意されており、APIで送信したデータは、既定ではモデルの学習に利用されません。BedrockやAzure OpenAIでは、自社のクラウド環境（VPC）内からプライベート接続でモデルを呼び出すこともできます。データを処理するリージョンの指定や、社内規程に沿ったログ取得も可能です。

メリット:

• GPUへの投資なしに、現時点で性能の高いモデルを利用できます。
• 導入が早く、初期費用が抑えられ、利用量に応じて拡張できます。
• アクセス権限の管理、ログ、暗号化、社内の認証基盤との連携が標準で用意されています。

制約:

• データはクラウド事業者のインフラ上で処理されます。業種や契約によっては、どのような契約上の約束があっても認められないケースがあります。
• 料金はトークン単位の従量課金です。毎日数千件の文書を読み込むようなシステムでは、キャッシュの活用、簡単な処理への小型モデルの割り当て、コンテキスト長の制限などを最初から設計しておかないと、費用が急速に膨らむおそれがあります。
• 個人データの国外移転に関するルールを確認する必要があります（後述の法的な観点をご参照ください）。

中堅・大企業の多くにとって、この方式がもっとも現実的な出発点です。大半の社内データに対して十分な安全性を確保しつつ、品質面での妥協も必要ありません。

3. ローカルAI:自社インフラでモデルを運用する

Llama、Qwen、Gemma、Mistralといったオープンウェイトのモデルを入手し、社内、自社データセンター、または専有のレンタルサーバー上のGPUで稼働させる方式です。

メリット:

• データは自社が管理するインフラの外に出ません。医療データ、一部の金融データ、機密性の高い製造データ、厳しい秘密保持契約の対象となるソースコードなどでは、これが必須条件になることが少なくありません。
• 外部事業者の方針変更や価格改定の影響を受けません。
• インターネットに接続しない環境（エアギャップ環境）でも運用できます。

制約と、誇張されがちな点:

• 「絶対に安全」な仕組みは存在しません。 社内ネットワーク内のデータであっても、権限設定、暗号化、ログ取得、アクセス制御は欠かせません。権限設計が甘い社内RAGシステムでは、営業部門の社員が質問の仕方次第で給与データにたどり着いてしまうこともあります。
• 初期投資後のランニングコストはゼロではありません。 GPUサーバーのほかに、電力、冷却、減価償却（GPUは一般に3〜4年で世代が古くなります）がかかります。そして何より、モデルの更新、性能の監視、障害対応を担う運用人員が必要です。
• 品質には差があります。 オープンウェイトのモデルは急速に進歩しており、要約、分類、情報抽出、社内文書に基づく回答といった用途の明確な業務では十分に機能します。一方で、多段階の推論、複雑なコーディング、長文の分析などでは、数枚のGPUで動かせる規模のモデルは、商用のトップモデルに及ばないことが一般的です。

ローカルAIが適しているのは、データ要件上どうしても必要な場合、または利用量が大きく安定しており、トークン課金よりもハードウェアを持つほうが有利になる場合です。

4. ハイブリッドAI:データの機密度に応じて処理先を振り分ける

ハイブリッドは特定の製品ではなく、設計の考え方です。それぞれのリクエストを、含まれるデータに見合った場所で処理するというものです。

一般的なハイブリッド構成は、次の3つの層で成り立っています。

1. 社内で動く分類・マスキング層。 小型モデルやルールによって、顧客名、電話番号、口座番号、金額などの機密情報を検出し、一時的な記号に置き換えます。Microsoft Presidioのようなオープンソースのツールも活用できます。
2. 振り分け層。 「社外に出してはならない」区分のデータを含むリクエストは、ローカルモデルだけで処理します。マスキング済み、または機密情報を含まないリクエストは、品質の高いクラウドモデルに送ることができます。
3. 再結合層。 クラウドから返ってきた結果に、社内インフラの中で元の値を戻してから利用者に返します。

メリット: 大半の業務でクラウドモデルの品質を活用しながら、もっとも機密性の高いデータは社内にとどめられます。社内モデルは軽い処理だけを担えばよいため、すべてをローカルで動かす場合に比べてGPUのコストも大幅に抑えられます。

事前に把握しておくべき制約:

• マスキングの精度が100%になることはありません。表記ゆれのある人名、形式の決まっていない社内コード、スキャン画像の中の情報などはすり抜ける可能性があります。そのため、もっとも機密性の高い区分のデータは、マスキングに頼るのではなく、最初からローカル処理に振り分けるべきです。
• マスキングする範囲が広いほどクラウドモデルに渡る文脈は減り、回答の質が下がることがあります。
• 構成が複雑になり、運用・監視・テストの対象となるコンポーネントが増えます。

比較表

選び方:最初に答えておきたい3つの問い

問い1:AIに入力するのはどのようなデータか

紙一枚でも構いませんので、データを3つの区分に分けてみてください。

• 公開情報、または機密性の低いデータ: マーケティング資料、一般的な知識、公開済みのコンテンツ。どのクラウドでも問題ありません。
• 社内データ: 業務手順、運用レポート、業務メール、大半のソースコード。適切な契約条件のある企業向けクラウドで対応できることが一般的です。
• 取り扱い制限のあるデータ: 機微な個人情報、医療記録、顧客の金融データ、社外での処理を禁じる契約の対象となるソースコードや文書。ローカルやハイブリッドが必要かどうかは、この区分で決まります。

3つ目の区分に該当するデータがなければ、多くの場合ローカル環境への投資は必要ありません。

問い2:利用量はどの程度で、安定しているか

自社でGPUを運用してコスト面のメリットが出るのは、マシンが常に高い稼働率で使われている場合に限られます。簡単な試算方法は次のとおりです。

• クラウドの月額費用 ≈ 月間リクエスト数 × 1リクエストあたりの平均トークン数 × 利用するモデルのトークン単価
• ローカルの月額費用 ≈（ハードウェア価格 ÷ 償却月数）+ 電力・冷却費 + 運用担当者の工数

利用が主に営業時間内に集中している場合や、利用量がまだ変動している段階では、クラウドのほうが安くなることが一般的です。利用量が高い水準で安定してくると、試算はローカル寄りに傾き始めます。予測ではなく、数か月の試験運用で得た実際の利用データをもとに計算することをおすすめします。

問い3:運用を担う人材がいるか

ローカルとハイブリッドには、GPUインフラ、モデルのデプロイ、監視、セキュリティを理解した人材が欠かせません。そうした体制がまだない場合の進め方は2つあります。企業向けクラウドから始めて段階的に移行するか、運用を共に担うパートナーを迎えるかです。

リスクを抑えたよくある進め方は、まず公開情報と社内データを対象に企業向けクラウドで始め、実際の利用量を測定したうえで、取り扱い制限のあるデータのためにローカルの構成要素が必要かどうかを判断するというものです。

法的な観点も忘れずに

ベトナムでは、政令13/2023/ND-CPに続き、個人データ保護法が2026年1月1日に施行されました。AIシステムで個人データを扱う場合、特に国外にあるサーバーへデータを送信する場合には、データ処理影響評価や個人データの国外移転に関する評価といった義務を確認する必要があります。

日本や欧州の企業と取引がある場合、日本の個人情報保護法（APPI）や欧州のGDPRを踏まえて、データの保存場所や処理場所に関する条項が契約に盛り込まれることが多くあります。こうした条項は、コスト以上に構成を左右する要因になることもあります。

本記事は法的助言に代わるものではありません。ただ、システムが稼働してからではなく、設計の段階から法務部門に関わってもらうことをおすすめします。

ARIS Vietnamがご支援できること

ARIS Vietnamは、日本をはじめとするお客様向けに15年以上ソフトウェア開発に携わってきました。その中には、厳しいセキュリティ要件のある案件も数多く含まれます。AIの案件では、主に次の3つの場面でご支援しています。

• 方式の評価と選定: データの区分整理、利用量とコストの試算をお客様と一緒に進め、特定の方式を前提とせずに適した方向性を検討します。
• 効果を測定するPoC: 実データを使った試験版を数週間で構築し、本格的な投資の前に品質とコストの数値を把握していただけるようにします。詳しくはセキュリティを組み込んだAI開発およびAIによる業務自動化をご覧ください。
• 既存システムとの連携: OdooなどのERP、CRM、社内システムとAIを連携させ、AWSまたはお客様の自社インフラ上に構築します。

すべての企業に当てはまるAIの構成はありません。上記の方式で検討を進めている方は、自社のデータや課題に即してご相談いただけるよう、ARIS Vietnamへお問い合わせください。