ローカルで動くAIとクラウド型AIの違い・選び方

普段の開発や調べものは、ChatGPTをはじめとするクラウド型のAIが主軸です。速いし、賢いし、ブラウザを開けばすぐ使える。一方で「ローカルでAIを動かす」という選択肢も、ここ数年でだいぶ現実的になりました。OllamaやLM Studioのような実行環境が整ってきて、自分のPCでもオープンモデルをそれなりに動かせるようになっています。

ただ、ローカルを常用しているわけではありません。位置づけとしては「どの作業をローカルに逃がす価値があるか」を判断するための検討対象です。この記事は、その判断軸を整理したメモです。ベンチマークの数字比べではなく、個人が日々の作業で使い分けるための観点に寄せて書きます。

7つの軸で比べる

まず全体像を表で押さえます。細かい話はこのあと軸ごとに掘り下げます。

判断軸	ローカルAI	クラウド型AI
性能の上限	手元のPCに載るモデルサイズが上限。量子化で小さくできる代わりに品質は落ちる	データセンター側の大規模モデルが使える。最上位の推論性能はこちら
速度	モデルが軽ければ応答は速い。重いモデルでは生成が目に見えて遅くなる	サーバ側の計算資源が大きい。ただし混雑や回線状況の影響は受ける
ハードウェア	GPUやメモリの搭載量がそのまま上限になる。マシンの買い替え・増設が要ることも	手元のスペックはほぼ無関係。弱いPCやタブレットでも同じ性能
プライバシー	入力データがマシンの外に出ない。送信そのものが発生しない	入力はサービス側に送られる。規約と設定の確認が前提になる
コストの形	マシン代と電気代という固定費寄り。使っても追加料金は増えない	サブスクの月額か、APIの従量課金。使う量に比例して増える
オフライン	モデルを落としてしまえばネットなしで動く	ネット接続が必須
保守の手間	モデルの入れ替え、実行環境の更新は自分の仕事	何もしなくても向こう側で勝手に良くなる

要点： 違いを一言でいうと、「性能と手軽さを取りにいくのがクラウド」「データを外に出さないことと、使っても課金が増えないことを取りにいくのがローカル」です。どちらが上かではなく、作業ごとにどちらを向いているかの話になります。

軸ごとに見る

性能の上限は、載せられるモデルの大きさで決まる

ローカルAIの性能は、突き詰めると「自分のPCのメモリに、どの大きさのモデルが載るか」で決まります。モデルはサイズが大きいほど賢い傾向がありますが、その分メモリを食います。量子化という圧縮手法でサイズを落とせば載せられますが、代わりに回答の質は少しずつ落ちていきます。

クラウド側はこの制約がありません。データセンターの計算資源で動く最上位モデルを、こちらのPCのスペックに関係なく使えます。難しい設計の相談、長い文章の推敲、複雑なコードの生成といった「一番賢い回答がほしい」作業では、今のところクラウドに分があります。

プライバシーは「送信しない」が一番強い

ローカルの一番分かりやすい強みは、入力したテキストがマシンの外に出ないことです。クラウド型でも規約やオプトアウト設定でデータの扱いはコントロールできますが、「そもそも送信していない」ことの安心感とは別物です。

外に出せないコードや未公開の文書を扱う作業は、規約を確認して慎重に使うより、最初からローカルに寄せた方が判断が単純になります。

コストは「固定費」と「従量」の違い

クラウド型は、月額固定のサブスクリプションか、使った分だけ払うAPI課金です。少し試すだけなら安く済みますが、大量のテキストを毎日処理し続けると積み上がります。

ローカルは逆で、初期のマシン代を払ってしまえば、どれだけ使っても追加の課金はありません。その代わり、電気代と、そもそもそのマシンを買う判断が要ります。月に数回しか使わないならクラウドの方が安く、毎日大量に回す定型処理があるならローカルが効いてきます。

保守は、ローカルだと自分の仕事になる

地味ですが見落としがちなのが保守です。ローカルでは、モデルの更新も実行環境のバージョンアップも自分でやります。新しいモデルが出たら自分で入れ替える必要があり、その手間は使っている間ずっと続きます。クラウド型はこの点が完全にゼロで、寝ている間にモデルが新しくなっていることさえあります。

どちらの作業に向くか

軸を踏まえて、作業単位で割り当てるとこうなります。

ローカルが向く作業

• 外に出せないコードや社内文書の下読み・要約
• ネットが使えない環境での調べもの下書き
• 分類や整形のような、量が多くて1回あたりは単純な定型処理
• 埋め込み（ベクトル化）のような、回数だけが膨らむ処理

クラウドが向く作業

• 設計相談や要件整理など、一番賢い回答がほしい対話
• 長文の生成・推敲（ブログ記事の構成づくりなど）
• 画像や音声も扱うマルチモーダルな作業
• 複数の手順をまたぐ、エージェント的な重いタスク

注意： ローカルは「無料」ではありません。API課金がゼロになる代わりに、マシンの購入費・電気代・モデルの管理という形でコストの置き場所が変わるだけです。「使えば使うほどお得」という言い方には、この前提が要ります。

ローカル側の入り口

検討の入り口として触っておく価値があるのは、この2つです。

• Ollama（公式：https://ollama.com/ ）：オープンモデルを自分のコンピュータで動かすための実行環境。コマンドラインからの利用が中心で、ローカルにAPIも立つので、スクリプトや他ツールから呼び出す使い方に向きます。公式サイトでも「ローカルでプライバシーを持って動かす」ことが前面に出ています
• LM Studio（公式：https://lmstudio.ai/ ）：モデルのダウンロードからチャットまでをGUIで完結できるデスクトップアプリ。内部では llama.cpp や Apple の MLX を使っていて、「まず画面でぽちぽち試したい」入り口としてはこちらが手軽です

どちらも「モデルそのもの」ではなく実行環境なので、使うモデルのライセンスは別途モデルの配布条件を確認するのが前提です。

自分の落としどころ

現時点の結論は、主軸はクラウドのまま、というものです。日常の調査・設計・文章仕事は、性能と手軽さでクラウドが勝ちます（クラウド側でのツールの使い分けは AIコーディングエージェントの使い分けメモ に整理しています）。ローカルは「外に出したくないデータを扱う作業」と「件数だけが膨らむ定型処理」の受け皿として用意しておく、という割り切りが個人利用では現実的だと思います。

判断に迷ったら、私はこう決めています。

1. その入力を外部サービスに送って困らないか。困るならローカル
2. 一番賢いモデルの回答が必要か。必要ならクラウド
3. どちらでもない作業は、回数が多い方をローカル、少ない方をクラウドへ

この振り分けなら、ローカル環境を大げさに育てる必要もありません。まずクラウドで作業の形を作り、「これは外に出したくない」「これは件数が増えてきた」という具体的な理由が出たものだけ、ローカルへ移していく。その順番が、無理のない導入だと思います。

参考

• Ollama 公式サイト: https://ollama.com/
• LM Studio 公式サイト: https://lmstudio.ai/