Googleの「Gemma 4」を自分のPCに入れると、
月額0円・制限なし・完全オフラインでAIチャットが使える。
非エンジニアでもClaude Codeに頼めば導入からブラウザUIの構築まで全部できる。
ただし「ChatGPTの代わりになるか？」と聞かれたら、
正直7割。
日本語の精度や複雑な指示への対応力では、
まだクラウドAIに届かない。
この記事では、
非エンジニアの私が実際にGemma 4をローカルPCに入れた全手順と、
使ってみてわかった「できること・できないこと」を正直にまとめる。
私の使い方: RTX 4070 Ti SUPER（VRAM 16GB）環境でGemma 4の26Bモデルを運用。
Open WebUI経由でブラウザからチャット+Web検索。
大量データの分類やオフライン時の壁打ちに使っている。
ブログ記事のような長文生成はClaudeに任せ、
Gemma 4は「精度より量」の作業専用。
そもそもGemma 4って何？Googleが無料で配る理由は？
商用利用もOK
4倍以上の性能向上
140言語対応
クラウドへ誘導
ざっくり言うと、
Googleが出した「自分のPCで動くAIモデル」です。
Apache 2.0っていうライセンスで公開されてて、
完全に無料。
商用利用もOK。
改変もOK。
太っ腹すぎないですか。
でもこれ、
慈善事業じゃないんですよ。
Androidと同じ戦略なんです。
AndroidってOSは無料ですけど、
みんなGoogleのサービスを使うから結局Googleが儲かる仕組みじゃないですか。
Gemma 4も同じ構造。
無料で配る。
みんなGemmaベースで開発する。
本番はGoogle Cloud（サーバー）で動かす。
インフラ代で稼ぐ。
あと、
中国のDeepSeekとかQwenがオープンモデルでガンガン開発者を囲い込んでるので、
アメリカ企業として対抗する意味もあります。
めちゃくちゃ戦略的な話なんですよね。
性能はどうかっていうと、
Googleの公式発表によると数学のベンチマーク（AIME 2026）で前の世代のGemma 3が20.8%だったのに対して、
Gemma 4は89.2%です。
4倍以上。
桁が変わってる。
ただし、
ClaudeやChatGPTの最上位モデルにはまだ届かない。
「一流の一歩手前」くらいの立ち位置です。
それが無料で、
しかも自分のPCだけで動く。
そこがすごいんです。
ローカルAIとクラウドAIは何が違うのか？
ふだん使ってるClaude、
ChatGPT、
Gemini。
これ全部「クラウドAI」です。
入力したテキストは、
どこか遠くのサーバーに送られて処理されてる。
だから月額がかかるし、
制限もかかる。
ローカルAIはその逆。あなたのPC内で計算が完結します。
| 比較項目 | クラウドAI（Claude/ChatGPT等） | ローカルAI（Gemma 4） |
|---|---|---|
| 処理場所 | 企業のサーバー | 自分のPC内 |
| 月額費用 | 有料（月2,000〜3,000円〜） | 0円 |
| 利用制限 | あり（回数・トークン上限） | なし（使い放題） |
| データの外部送信 | あり（サーバーに送られる） | なし（PCから出ない） |
| ツール連携 | あり（道具箱が内蔵） | なし（素手＝チャットのみ） |
| 文章の品質 | 高い | 7割程度 |
| オフライン動作 | 不可 | 可能 |
ただし、
大きなトレードオフがあって。
Claude Codeって、
AIの中に「道具箱」が入ってるんですよ。
ファイルを読む道具、
コマンドを実行する道具、
ネット検索する道具。
だからファイル操作もコード実行もWebブラウジングもできる。
Gemma 4は「素手」です。
頭はいいけど、
手足がない。
チャットはできるけど、
それ以外は自分じゃなにもできない。
この違い、
使ってみるまで全然わかりませんでした。
Gemma 4ローカルAIはどんな場面で使えるか？
ローカルなら何回やっても無料
移動中でもAIが使える
情報漏洩リスクゼロ
たとえばCSVに入ってる1,000件のデータを「ポジティブ/ネガティブ」に分類したいとき。
Claude APIで回すと、
モデルやトークン数にもよりますけど数千円かかることがある。
ローカルのGemma 4なら、
同じ処理が0円です。
時間はかかる。
でもお金はかからない。
「精度より量」の作業には、
かなり向いてると思います。
あと、
オフライン作業。
新幹線でトンネルに入ったら通信が切れる。
飛行機のWi-Fiは微妙。
でもローカルAIはネット不要なので、
どこでも動く。
移動中に下書きのたたき台を作ったり、
アイデアの壁打ちをしたり。
「圏外でもAI」って、
地味にありがたいんですよ。
そして、
たぶん仕事で一番ありがたいのがプライバシー。
顧客リスト、
社内資料、
未公開の企画書。
AIに読ませたいけど、
クラウドに送るのは怖いですよね。
ローカルAIなら、
データが自分のPCから一歩も出ない。
情報セキュリティを気にする仕事ほど、
ローカルAIの恩恵がでかいです。
Gemma 4に必要なスペックは？
私の環境はこんな感じでした。
| 項目 | 私の環境 |
|---|---|
| GPU | NVIDIA RTX 4070 Ti SUPER（VRAM 16GB） |
| メモリ | 24GB |
| CPU | Intel i7-14700KF |
| OS | Windows 11（WSL2でLinux） |
ポイントはGPUの「VRAM」（ビデオメモリ）です。
PCに積んであるグラフィックボードのメモリのこと。
Gemma 4にはサイズがいくつかあって、
小さいモデル（E4B）なら約6GBのVRAMで動きます。
これはちょっといいゲーミングPCなら余裕のライン。
賢いモデル（26B）だと16〜18GBくらい必要で、
私の環境だとギリギリでした。
GPUがないPCでもCPUだけで動くことは動くんですけど、
めちゃくちゃ遅いです。
あとはClaude Codeが使える環境があれば大丈夫。
Claude Codeが「AIアシスタント兼インストーラー」になってくれるので、
コマンドを覚える必要がない。
所要時間は全部で約1時間。
つまずき込み。
費用は合計0円でした。
Gemma 4のインストールはどうやるのか？
と伝える
導入完了
26B: 17GB
即座に会話可能
ここからは時系列で話します。
まずClaude Codeに「ローカルでGemma 4を動かしたい」と伝えました。
するとClaude Codeが「Ollamaというツールを使えばローカルで簡単にインストール・実行できます。
インストールスクリプトを実行しましょうか？」って返してきたんです。
Ollamaは、
AIモデルをPCにダウンロードして動かすための土台みたいなものです。
「お願い」って返したら、
そのままインストールのコマンドを実行してくれた。
あなたが試すなら、
Claude Codeに「OllamaでGemma 4をローカルに入れたい。
全部やって」って頼めば同じことが起きるはずです。
……が、
いきなりつまずく。
「パスワードを入力してください」って出たんですよ。
WSL（WindowsでLinuxを動かすしくみ）のパスワード、
設定した覚えがない。
焦ってClaude Codeに聞いたら、
「WSLのパスワードはPowerShellからリセットできます。
PowerShellを管理者権限で開いて実行してください」って返してきて。
言われた通りにPowerShellを開いてコマンドを打ったら、
あっさり解決。
もしあなたも同じ状況になったら、
Claude Codeに「WSLのパスワードがわからない。
リセットして」って頼んでみてください。
やり方を教えてくれます。
ああ、
こういう「ちょっとしたつまずき」でエンジニアじゃない人は脱落するんだろうなって思いました。
AIに聞けるだけで全然違う。
パスワードが通ったら、
Ollamaのインストールはスムーズ。
途中で「zstdが足りません」ってエラーが出たんですけど、
Claude Codeが勝手に追加インストールしてリトライしてくれて、
約2分で完了。
私は「zstd」がなにかすらわかってないです。
次にGemma 4本体をダウンロード。
Claude Codeに「Gemma 4入れて」と言ったら、
2つのサイズを入れてくれました。
小さいほう（E4B）が9.6GBで約5分。
大きいほう（26B）が17GBで約10分。
ネット回線によってはもう少しかかる場合があります。
ダウンロードが終わったら、
さっそくチャットしてみた。
「自己紹介して」と日本語で入力。
ちゃんと日本語で返ってきた。
「おー、
動いてる」ってなりました。
ちょっと感動。
ここまでは順調だったんです。問題はこのあと。
Gemma 4を入れたら何ができるのか？
Gemma 4が動いて、
日本語で会話もできて、
「よし、
これでいろいろやるぞ」と思ったんですよ。
ファイル読ませたり、
ネットで調べものさせたり。
……できない。
なにを頼んでも「テキストで答える」しかできないんです。
Claude Codeだったら「このファイル読んで」「ネットで調べて」「コマンド実行して」ができるじゃないですか。
Gemma 4は、
チャットだけ。
ファイルも読めない。
検索もできない。
コマンドも無理。
さっき言った「素手のAI」ってこういうことか、
と。
Claude Code = AI + 道具箱（ファイル操作、
コマンド実行、
検索、
記憶……）。
Gemma 4 = AIだけ。
道具なし。
この差、
触ってみて初めてわかりました。
で、
さすがにチャットだけじゃ物足りないので、
Claude Codeに相談したんです。
「ChatGPTみたいな画面でGemma 4を使いたいんだけど」って。
そしたら「Open WebUIっていうのがありますよ」と。
Open WebUIでどう進化するのか？
導入
操作画面
をアップロード
最新情報取得
プライベートAI
Open WebUIは、
AIのための「画面」を作ってくれるツールです。
AI自体ではなくて、
AIにつなぐテレビみたいなもの。
放送局（Gemma 4）の映像を映すテレビ（Open WebUI）、
ってイメージしてください。
これを入れると、
ブラウザでChatGPTっぽくチャットできるようになる。
会話履歴も保存できる。
ファイルもドラッグ&ドロップで読ませられる。
さらにWeb検索まで追加できる。
Claude Codeに「Open WebUIをDocker経由で入れて」と頼んだら、
自動でセットアップが始まりました。
Dockerは、
ソフトをまるごとパッケージにして動かす道具です。
箱詰めして渡す感じ。
ここもClaude Codeがぜんぶやってくれた。
あなたが試すなら「Open WebUIをDockerで入れて、
Ollamaと接続して」って頼めばOK。
Docker自体もなければ「Dockerも入れて」でやってくれるはずです。
ただ、
すんなりとはいかなかったんですよ。
まず「モデルが表示されない」ってなって。
Claude Codeがログ（動作記録）を読んで「接続先の設定が間違ってますね」って直してくれた。
次にWeb検索を使えるようにしたかったんですけど、
これがまた3段階の修正が必要で。
まず検索用のパッケージ（ddgsっていうDuckDuckGo検索のプログラム）が足りないのをインストール。
次に環境変数っていう設定を追加して、
Dockerを作り直して。
最後にOpen WebUIの画面で、
毎回チャットするときに「+」ボタン → 「ウェブサーチ」をONにする操作が必要だとわかるまでに、
30分くらいかかりました。
でも全部Claude Codeがやってくれたんですよ。
私がやったのは「動かない」「なんかエラー出た」って伝えることだけ。
最終的に完成したのが、
ブラウザで開ける「自分だけのChatGPT」です。
チャットも、
ファイル読み込みも、
Web検索もできる。
月額0円。
データは一切外に出ない。
Open WebUIのWeb検索はChatGPTと何が違うのか？
ChatGPTのWeb検索って、
AI自身がネットを見に行ってるイメージありませんか。
じつはOpen WebUIのWeb検索は、
ちょっと違うんですよ。
検索してるのはOpen WebUI（ただのプログラム）であって、
AIじゃない。
流れとしてはこう。
質問する → Open WebUIがDuckDuckGoで検索 → 検索結果のテキストを取ってくる → 質問と検索結果をセットでGemma 4に渡す → Gemma 4が読んで答える。
つまりAIは「検索結果を読んでるだけ」なんです。
検索そのものはAIがやってない。
ChatGPTの検索も似たような仕組みのはずなんですけど、
使ってると「AIが調べてくれてる」って思い込みがちですよね。
ローカルで自分でセットアップすると、
こういう裏側が見えてくる。
これ知ってると、
「なんか検索結果がズレてるな」ってときに原因の切り分けができるようになります。
AIが悪いのか、
検索が悪いのか。
けっこう大事な視点です。
Gemma 4ローカルAIについてよくある疑問
Q. GPUがないノートPCでも動く？
動くことは動きます。
CPUだけでも処理はできる。
ただ、
めちゃくちゃ遅いです。
小さいモデル（E4B）ならなんとか使えます。
大きいモデルは実用的じゃないと思います。
もしGPUつきのPCを持ってるなら、
そっちで試すほうが圧倒的に快適。
Q. Gemma 4の日本語ってどうなの？
使える。
けどClaudeと比べると正直まだ粗い。
「1文で答えて」って言っても長文で返ってきたりします。
指示の通りやすさは、
やっぱりClaudeやChatGPTのほうが上。
でも「日本語が通じない」レベルではないので、
壁打ちとか下書きのたたき台には十分使えます。
Q. セキュリティ的に大丈夫？怪しいソフト入れて壊れない？
今回使ったOllamaもOpen WebUIも「オープンソース」のツールです。
オープンソースっていうのは、
コードが全部公開されてて、
だれでも中身を確認できるもの。
実際、
私はClaude Codeにインストール用のスクリプト（455行）を全部読ませて、
セキュリティチェックしてもらいました。
結果：マルウェアなし。
外部への情報送信なし。
ネットワーク公開はlocalhost限定（自分のPCだけ）。
ただし、
オープンソースは誰でもコードを変更できるので、
インストールする前に最終更新日と「Issue」（報告された問題）を確認するのがおすすめです。
自分で判断がむずかしければ、
Claude Codeに「このリポジトリのコードを読んで、
安全かチェックして」と頼めばいいです。
AIにチェックさせてからインストール。
これは鉄則にしてください。
Gemma 4の正直な限界は？
文章の品質は、
ClaudeやChatGPTに比べると劣ります。
とくに長い文章を書かせると、
質の差がはっきり出る。
「ブログ記事を1本書いて」みたいなタスクは、
まだクラウドAIに任せたほうがいい。
エージェント的な自動作業もできません。
「このフォルダのファイルを全部リネームして」みたいなのはClaude Codeの仕事。
VRAMが足りないと大きいモデルが使えないのも制約です。
私のRTX 4070 Ti SUPER（VRAM 16GB）でも、
31Bモデルはメモリ不足で動かせなかった。
そして、
セットアップに1時間かかる。
「今すぐAIに聞きたい」って人には、
ChatGPTを開いたほうが早いです。
まとめ
「ローカルLLMを入れたらChatGPTの代わりになる」は半分嘘です。
チャットはできるけど、
手足がない「素手のAI」。
Open WebUIで拡張して、
やっとChatGPTの7割くらい。
でも、
お金がかからなくて、
ネットがなくても動いて、
データが外に出ない。
この3つが全部そろうのは、
ローカルAIだけなんですよ。
で、
これが「一部のエンジニアだけのおもちゃ」じゃなくなってきてるのが大事な変化だと思ってて。
Claude Codeみたいなツールがあれば、
コマンド知らなくても入れられる。
Gemma 4みたいな高性能モデルが無料で配られる。
つまり「AIを使うためにOpenAIやGoogleにお金を払い続ける」以外の選択肢が、
ふつうの人にも手が届くようになってきた。
今はまだ7割。
でもこの7割が来年には8割、
9割になる可能性は十分あります。
そのとき「自分で入れたことがある」と「聞いたことはある」の差は、
けっこうでかいんじゃないかなって。
まず一回やってみてください。
「あ、
AIってこういう仕組みで動いてるんだ」ってのが体感でわかるようになります。
それだけでも、
やる価値あると思ってます。
参考リンク
- Gemma 4 公式（Google）: https://ai.google.dev/gemma
- Ollama（ローカルLLM実行環境）: https://github.com/ollama/ollama
- Open WebUI（ブラウザ型チャットUI）: https://github.com/open-webui/open-webui
※この記事の内容は執筆時点のものです。AIは進化が速い分野のため、最新の仕様は公式サイトでご確認ください。