自分でAIモデルを動かすことで得るものと失うもの
自分のコンピューター上で動くモデルは、テキストが端末の外に一切出ない唯一の構成です。その代償はハードウェア、設定にかかる時間、そして回答の質です。普通のコンピューターに収まるモデルは、ホスト型チャットの背後にあるモデルより小さいからです。プライベートなホスト型チャットは、代わりに運営元のルールを信頼することを求めます。ほとんどの個人的な質問にはその取引で十分ですが、どこにも送ってはいけないデータには、ローカルモデルか自社サーバーしかありません。
「プライベートAI」という言葉は、まったく異なる2つのものを指して使われます。1つは、あなたについての情報をほとんど保持しないと約束するホスト型チャット、もう1つは自分が管理するハードウェアで動くプライベートLLMです。この2つは異なる問題を解決するので、どちらを選ぶかは自分のテキストが何であるかから始まります。
このページの内容
ローカルモデルが与えてくれるもの
モデルが自分のコンピューター上で動く場合、入力した内容はどこにも送信されません。運営元もなく、他人のサーバー上のログもなく、来年変わるかもしれない規約もありません。インターネット接続がなくても動作します。契約上共有を許されていない書類、たとえば契約に基づくクライアントファイルには、これが他人の約束を一切必要としない唯一の構成です。
それがあなたに求める代償
まずハードウェアです。普通のノートパソコンは小さなモデルを動かせますが、より大きなモデルには大容量メモリを積んだグラフィックカードが必要です。次に設定です。ソフトウェアをインストールし、モデルを選び、両方を最新の状態に保つ必要があります。そして質です。家庭用コンピューターに収まるモデルは、ホスト型チャットの背後にあるモデルより小さく、難しい質問ではその差が表れます。
プライベートなホスト型チャットが与えてくれるもの
ホスト型チャットはインストール不要で、どの端末でも数秒でより大きなモデルを動かします。その代償は信頼です。テキストは運営元のサーバーに届き、その後どうなるかは運営元のルール次第です。そのルールは確認できます。アカウントは必要か。ログは保持されるか。テキストは学習に使われるか。別の企業に渡されるか。この4つすべてに文書で答えるチャットは、判断の拠り所を与えてくれます。
企業にとってのプライベートAI
プライベートAIプラットフォームを求める企業は、たいてい契約に関する問いを立てています。データがどこで処理されるか、誰がアクセスできるか、何かを学習させるために使われるかです。自社サーバー上で動くモデルはこの3つすべてに設計上答えますが、それを運用する誰かも必要とします。ホスト型サービスはデータ処理条項の中でこれらに答えており、その条項こそ、誰かがクライアントデータを貼り付ける前に法務チームが読むべきものです。
シンプルな判断方法
このテキストを運営元に読まれたら困るかどうかを自問してください。困らないなら、アカウント不要のプライベートなホスト型チャットで十分ですし、その方が速いです。困るなら、自分でモデルを動かすか、自社サーバーで動かしてください。判断がつかないなら、まず名前や数字、場所をテキストから取り除いてみてください。ほとんどの質問はそれでも成立し、そうなれば選択の重要性は下がります。
プライベートAIに関する質問
プライベートLLMとは何ですか？
自分または自社が管理するハードウェア上で動く言語モデルのことです。与えたテキストが外部サービスに送信されません。
ローカルモデルは何でも答えてくれますか？
自動的にそうなるわけではありません。間に入るサービス側の仕組みはありませんが、学習内容が今も何にどう答えるかを左右します。公開されているモデルの中には、ホスト型と同じくらい拒否するよう学習されているものもあります。
このチャットはどこで動いていますか？
オランダにある自社サーバーで動いており、アカウントもプロフィールもありません。ホスト型チャットなので、その取引を受け入れられる質問に向いています。
日常的な質問には、アカウントもインストールも不要でここで聞いてください。
プライベートチャットを開く