Gemma 4ローカル導入｜0円で自分専用ChatGPTを作る手順と正直な限界

この記事は月額無料でAIを使い倒したい人・社内データをクラウドに送りたくない人向け（プログラミング経験ゼロでも、Claude Codeが使えれば読めます）。

そもそもGemma 4って何？Googleが無料で配る理由は？

ざっくり言うと、Googleが出した「自分のPCで動くAIモデル」です。

Apache 2.0（中身を改変・商用利用してもOKな配布ライセンス）で公開されていて、完全に無料。

商用利用もOK。

改変もOK。

太っ腹すぎないですか。

でもこれ、慈善事業じゃないんです。

Androidと同じ戦略。

AndroidってOSは無料ですけど、結局みんなGoogleのサービスを使うので、Googleが儲かる仕組みじゃないですか。

Gemma 4も同じ構造。

無料で配る。

みんなGemmaベースで開発する。

本番はGoogle Cloud（Googleが提供する有料サーバー）で動かす。

インフラ代で稼ぐ、という流れ。

あと、中国のDeepSeekやQwenがオープンモデル（無料配布の高性能AI）でガンガン開発者を囲い込んでいます。

アメリカ企業として対抗する意味もある。

めちゃくちゃ戦略的な話です。

性能はどうかというと、Google公式発表によれば、数学のベンチマーク（AIME 2026）で前世代Gemma 3が20.8%。

Gemma 4は89.2%。

4倍以上。

桁が変わっています。

ただし、ClaudeやChatGPTの最上位モデルにはまだ届かない。

「一流の一歩手前」くらいの立ち位置です。

それが無料で、しかも自分のPCだけで動く。

そこがすごいんです。

ローカルAIとクラウドAIは何が違うのか？

普段使っているClaude、ChatGPT、Gemini。

これ全部「クラウドAI」です。

入力したテキストは、どこか遠くのサーバーに送られて処理されている。

だから月額がかかるし、回数制限もある。

ローカルAIはその逆。私のPC内で計算が完結します。

ただし、大きなトレードオフがあります。

Claude Codeって、AIの中に「道具箱」が入っているんです。

ファイルを読む道具、コマンドを実行する道具、ネット検索する道具。

だからファイル操作もコード実行もWebブラウジングも全部できる。

Gemma 4は「素手」です。

頭はいいけど、手足がない。

チャットはできるけど、それ以外は自分じゃ何もできない。

この違い、触ってみるまで全然わかりませんでした。

Gemma 4ローカルAIはどんな場面で使えるか？

たとえばCSVに入った1,000件のデータを「ポジティブ/ネガティブ」に分類したいとき。

Claude APIで回すと、モデルやトークン数次第で数千円かかります。

ローカルのGemma 4なら、同じ処理が0円。

時間はかかる。

でもお金はかからない。

「精度より量」の作業には、かなり向いています。

あと、オフライン作業。

新幹線でトンネルに入ったら通信が切れる。

飛行機のWi-Fiは微妙。

でもローカルAIはネット不要なので、どこでも動く。

移動中に下書きのたたき台を作ったり、アイデアの壁打ちをしたり。

「圏外でもAI」って、地味にありがたいです。

そして、仕事で一番ありがたいのがプライバシー。

顧客リスト、社内資料、未公開の企画書。

AIに読ませたいけど、クラウドに送るのは怖いですよね。

ローカルAIなら、データが私のPCから一歩も出ない。

情報セキュリティを気にする仕事ほど、ローカルAIの恩恵がでかいです。

Gemma 4に必要なスペックは？

私の環境はこんな感じでした。

ポイントはGPUの「VRAM」（ビデオメモリ＝グラフィックボードに積まれた専用メモリ）です。

Gemma 4にはサイズがいくつかあって、小さいモデル（E4B）なら約6GBのVRAMで動く。

これはちょっといいゲーミングPCなら余裕のラインです。

賢いモデル（26B）だと16〜18GBくらい必要で、私の環境だとギリギリでした。

GPUがないPCでもCPUだけで動くことは動くんですけど、めちゃくちゃ遅いです。

あとはClaude Codeが使える環境があれば大丈夫。

Claude Codeが「AIアシスタント兼インストーラー」になってくれるので、コマンドを覚える必要がない。

所要時間は全部で約1時間。

つまずき込み。

費用は合計0円でした。

Gemma 4のインストールはどうやるのか？

1. STEP 1: Claude Codeに「ローカルでGemma 4を動かしたい」と伝える
   操作: Claude Codeを起動して、上のひと言を投げる。
   期待結果: 「OllamaというツールでローカルAIを動かせます。インストールしますか？」と返ってくる。Ollama（オラマ）はAIモデルをPCで動かすための土台ソフトです。
   詰まりどころ: Claude Code自体が未導入なら先にClaude Code公式（claude.com/claude-code）からセットアップしてください。
2. STEP 2: Ollamaのインストールコマンドを実行してもらう
   操作: 「お願い」と返すだけ。Claude Codeが自動でコマンドを打ちます。
   期待結果: 約2分でOllamaが入る。バージョン確認コマンドが通れば成功。
   詰まりどころ: 「パスワードを入力してください」が出ることがある（WSL=WindowsでLinuxを動かす仕組み、のパスワード）。設定した覚えがなければ、Claude Codeに「WSLのパスワードがわからない。リセットして」と頼めば、PowerShell（Windowsのコマンド画面）からのリセット手順を教えてくれる。私はここで詰まりました。
3. STEP 3: Gemma 4本体をダウンロード
   操作: Claude Codeに「Gemma 4を入れて」と頼む。
   期待結果: 軽量版E4B（9.6GB）は約5分、高性能26B（17GB）は約10分でダウンロード完了。
   詰まりどころ: 「zstd（圧縮の解凍ツール）が足りません」エラーが出ることがある。Claude Codeが勝手に追加インストールしてリトライしてくれるので放置でOK。私はzstdが何かもわかっていません。
4. STEP 4: チャットで動作確認
   操作: 「自己紹介して」と日本語で入力。
   期待結果: 日本語で返事が返ってくる。「おー、動いてる」となります。
   詰まりどころ: 返事が英語で返ってきたら「日本語で答えて」と明示すると切り替わります。

ここまでは順調でした。問題はこのあと。

Gemma 4を入れたら何ができるのか？

Gemma 4が動いて、日本語で会話もできて、「よし、これでいろいろやるぞ」と思いました。

ファイル読ませたり、ネットで調べものさせたり。

……できない。

何を頼んでも「テキストで答える」しかできないんです。

Claude Codeなら「このファイル読んで」「ネットで調べて」「コマンド実行して」ができますよね。

Gemma 4は、チャットだけ。

ファイルも読めない。

検索もできない。

コマンドも無理。

さっき言った「素手のAI」ってこういうことか、と。

Claude Code = AI + 道具箱（ファイル操作、コマンド実行、検索、記憶）。

Gemma 4 = AIだけ。

道具なし。

この差、触ってみて初めてわかりました。

さすがにチャットだけじゃ物足りない。

Claude Codeに相談しました。

「ChatGPTみたいな画面でGemma 4を使いたいんだけど」と。

返ってきたのが「Open WebUIっていうのがありますよ」でした。

Open WebUIでどう進化するのか？

Open WebUI（オープンウェブユーアイ）は、AIのための「画面」を作ってくれるツールです。

AI自体ではなく、AIにつなぐテレビみたいなもの。

放送局（Gemma 4）の映像を映すテレビ（Open WebUI）、というイメージ。

これを入れると、ブラウザでChatGPTっぽくチャットできるようになる。

会話履歴も保存できる。

ファイルもドラッグ&ドロップで読ませられる。

さらにWeb検索まで追加できます。

1. STEP 1: Claude Codeに「Open WebUIをDocker経由で入れて」と頼む
   操作: 短文でこう投げるだけ。Docker（ドッカー＝ソフトを箱詰めしてまるごと動かす道具）も入っていなければ「Dockerも入れて」と一緒に頼みます。
   期待結果: 自動でセットアップが進み、ブラウザのhttp://localhost:3000で画面が開く状態になる。
   詰まりどころ: Dockerの初期設定でWSL2連携の確認が出ることがある。指示通りONにすればOKです。
2. STEP 2: モデル接続を確認
   操作: Open WebUIにブラウザでアクセスし、左上のモデル選択欄を開く。
   期待結果: 「gemma:4-e4b」「gemma:4-26b」など、ダウンロード済みモデルが選べる。
   詰まりどころ: モデルが表示されないことがある（私はここで詰まった）。Claude Codeにログ（動作記録）を読んでもらえば、「接続先の設定が間違っています」と直してくれます。
3. STEP 3: Web検索機能を有効化
   操作: Claude Codeに「Open WebUIでWeb検索を有効にして」と頼む。
   期待結果: ddgs（DuckDuckGo検索のプログラム）の追加・環境変数（設定値）の追加・Docker再起動が走り、Web検索オプションが画面に出てくる。
   詰まりどころ: チャット入力欄の「+」ボタンから「ウェブサーチ」をONにする操作が、毎回必要だと気づくまで30分かかりました。デフォルトONにする設定はありません。
4. STEP 4: ファイル読み込みを試す
   操作: 入力欄にPDFやCSVをドラッグ&ドロップして、「中身を要約して」と頼む。
   期待結果: ファイル内容を踏まえた回答が返ってくる。
   詰まりどころ: 大きなファイル（数MB超）はモデルのコンテキスト上限（一度に読める量）を超えて切られることがある。長文は分割して投げ込んでください。

私がやったのは「動かない」「なんかエラー出た」と伝えるだけ。

あとは全部Claude Codeがやってくれました。

最終的に完成したのが、ブラウザで開ける「自分だけのChatGPT」。

チャット、ファイル読み込み、Web検索ができる。

月額0円。

データは一切外に出ない。

Open WebUIのWeb検索はChatGPTと何が違うのか？

ChatGPTのWeb検索って、AI自身がネットを見に行ってるイメージありませんか。

じつはOpen WebUIのWeb検索は、ちょっと違うんです。

検索しているのはOpen WebUI（ただのプログラム）であって、AIじゃない。

流れはこう。

質問する → Open WebUIがDuckDuckGoで検索 → 検索結果のテキストを取ってくる → 質問と検索結果をセットでGemma 4に渡す → Gemma 4が読んで答える。

つまりAIは「検索結果を読んでるだけ」なんです。

検索そのものはAIがやっていない。

ChatGPTの検索も似た仕組みです。

けど使っていると「AIが調べてくれてる」と思い込みがちですよね。

ローカルで自分でセットアップすると、こういう裏側が見えてくる。

これを知っていると、「なんか検索結果がズレているな」というときに原因の切り分けができる。

AIが悪いのか、検索が悪いのか。

けっこう大事な視点です。

Gemma 4ローカルAIについてよくある疑問

Q. GPUがないノートPCでも動く？

動くことは動きます。

CPUだけでも処理はできる。

ただ、めちゃくちゃ遅い。

小さいモデル（E4B）ならなんとか使えます。

大きいモデルは実用的じゃないと思います。

GPUつきのPCを持っているなら、そっちで試すほうが圧倒的に快適です。

Q. Gemma 4の日本語ってどうなの？

使える。

けどClaudeと比べると、正直まだ粗い。

「1文で答えて」と言っても長文で返ってくることがあります。

指示の通りやすさは、やっぱりClaudeやChatGPTのほうが上。

それでも「日本語が通じない」レベルではないので、壁打ちや下書きのたたき台には十分使えます。

Q. セキュリティ的に大丈夫？怪しいソフトを入れて壊れない？

今回使ったOllamaもOpen WebUIも「オープンソース」のツールです。

オープンソースとは、コードが全部公開されていて、だれでも中身を確認できるもの。

私はClaude Codeにインストール用のスクリプト（455行）を全部読ませて、セキュリティチェックしてもらいました。

結果はマルウェアなし、外部への情報送信なし、ネットワーク公開はlocalhost（自分のPC内のみ）限定。

ただし、オープンソースは誰でもコードを変更できるので、入れる前に最終更新日と「Issue」（報告された問題）を確認するのがおすすめです。

判断が難しければ、Claude Codeに「このリポジトリ（コード保管庫）のコードを読んで安全かチェックして」と頼めばいい。

AIにチェックさせてからインストール。

これは鉄則にしてください。

Gemma 4の正直な限界は？

文章の品質は、ClaudeやChatGPTに比べると劣ります。

とくに長い文章を書かせると、質の差がはっきり出る。

「ブログ記事を1本書いて」のようなタスクは、まだクラウドAIに任せたほうがいい。

エージェント的な自動作業もできません。

「このフォルダのファイルを全部リネームして」みたいなのはClaude Codeの仕事です。

VRAMが足りないと大きいモデルが使えないのも制約です。

私のRTX 4070 Ti SUPER（VRAM 16GB）でも、31Bモデルはメモリ不足で動かせなかった。

そして、セットアップに1時間かかる。

「今すぐAIに聞きたい」という人は、ChatGPTを開いたほうが早いです。

まとめ

「ローカルLLMを入れたらChatGPTの代わりになる」は半分嘘です。

チャットはできるけど、手足がない「素手のAI」。

Open WebUIで拡張して、やっとChatGPTの7割くらい。

でも、お金がかからなくて、ネットがなくても動いて、データが外に出ない。

この3つが全部そろうのは、ローカルAIだけ。

これが「一部のエンジニアだけのおもちゃ」じゃなくなってきている。

それが大事な変化だと思っています。

Claude Codeのようなツールがあれば、コマンドを知らなくても入れられる。

Gemma 4のような高性能モデルが無料で配られる。

つまり「AIを使うためにOpenAIやGoogleにお金を払い続ける」以外の選択肢が、ふつうの人にも手が届くようになってきた、ということです。

今はまだ7割。

でもこの7割が来年には8割、9割になる可能性は十分あります。

そのとき「自分で入れたことがある」と「聞いたことはある」の差は、けっこうでかいんじゃないかな、と。

まず一回やってみてください。

「あ、AIってこういう仕組みで動いてるんだ」というのが体感でわかるようになります。

それだけでも、やる価値あると思っています。

参考リンク

• Gemma 4 公式（Google）: https://ai.google.dev/gemma
• Ollama（ローカルLLM実行環境）: https://github.com/ollama/ollama
• Open WebUI（ブラウザ型チャットUI）: https://github.com/open-webui/open-webui

※この記事の内容は執筆時点のものです。AIは進化が速い分野のため、最新の仕様は公式サイトでご確認ください。