ChatGPT不要？Chromeだけで動くAIチャットを試してみた

最近、Chromeの Built-in AI（Gemini Nano）を色々試しています。

先日、利用規約チェックに使えないか検証してみたのですが、長文読解や契約内容の解析には少し厳しい印象でした。

そんな中でふと思いました。

「普通にチャットアプリを作ったらどうなるんだろう？」

今回は Chrome Built-in AI を使ったローカルAIチャットを作ってみたので、その内容を紹介します。

もちろんコードは自分では一切書いていません。

Google AI Studioに作ってもらいました（笑）

Chrome Built-in AIとは

Chromeには Built-in AI という機能があります。

簡単に言うと、

APIキー不要
外部サーバー不要
ローカル実行
JavaScriptから利用可能

という特徴を持った、ブラウザ内蔵のAIです。

現在は開発者向け機能ですが、有効化すると Gemini Nano を利用できます。

これまでAIアプリを作ろうとすると、

OpenAI API
Gemini API
Claude API

などを利用する必要がありました。

当然ながら利用量に応じて料金も発生します。

しかし Built-in AI はユーザーのPC上で動作するため、開発者側に推論コストが発生しません。

OllamaやLMStudioを準備する必要もないのですごくお手軽で、個人開発者にとってはかなり魅力的な仕組みです。

Google AI Studioに作ってもらった

今回はGoogle AI Studioに、

Chrome Built-in AIを使ったチャットアプリを作りたい

とお願いして作成してもらいました。

生成されたコードを少し修正した程度で、基本的な部分はAI任せです。

最近は簡単なアプリであれば、本当にAIだけで形になる時代になりました。

作ったもの

今回作成したのはシンプルなチャットページです。

チャットアプリ

入力した内容を Prompt API 経由で Gemini Nano に渡し、回答を表示するだけのシンプルな構成です。

見た目はよくあるAIチャットですが、実際にはローカルで動作しています。

実際に試せるようにしてみた

せっかくなので、自分だけで試すのではなく公開してみました。

チャットアプリ ←Google AI StudioのShare機能で作成したリンクです（怪しいリンクではありません）

ただし利用するには Chrome Built-in AI が有効になっている必要があります。

現時点では開発者向け機能なので、

Chromeのフラグ設定
Chromeブラウザでchrome://flags/にアクセスして、
Enables optimization guide on device : Enabled BypassPerRequirement
Prompt API for Gemini Nano : Enabled
する必要がありました。
モデルのダウンロード

が必要です。

少し手間はかかりますが、興味がある方はぜひ試してみてください。

思ったより普通に使える

正直なところ、

もっと遅いと思っていました

しかし実際に動かしてみると、レスポンスはかなり良好です。

もちろん、

ChatGPT
Claude
Gemini Pro

のような大型モデルには敵いません。

それでも、

ちょっとした質問
要約・翻訳
簡単なスクリプト作成

程度であれば十分実用的に感じました。

特にストリーミング表示で文字が少しずつ出てくる様子は、普通のAIチャットサービスとほとんど変わりません。

本当にローカルで動いているのか？

Built-in AIなのでローカル実行とは聞いていましたが、

本当にネットワークを使っていないのか気になりました。

そこで実際に検証してみました。

Wi-Fiを切ってみた

まずモデルのダウンロード完了後にWi-FiをOFFにしてみました。

結果は問題なく動作。

チャットも普通に利用できます。

少なくとも推論時にクラウドへ問い合わせているわけではなさそうです。

On-Device Internalsを確認

Chromeには内部状態を確認できるページがあります。

chrome://on-device-internals

実際に確認してみると以下のようになっていました。

On-Device Internals

確認できた内容は以下です。

Model Name: v3Nano
Backend Type: GPU (highest quality)
Folder Size: 約4GB

最初は軽量な仕組みを想像していましたが、実際には4GBを超えるモデルがダウンロードされていました。

なかなか本格的です。

GPUも使っている

さらにMacのアクティビティモニターを確認してみました。

GPU

チャット実行中は、

CPU使用率 100%超
GPU使用率 80%超

まで上昇していました。

どうやらChromeはApple SiliconのGPUを利用して推論しているようです。

ブラウザ内蔵AIと聞くと軽量な機能を想像しますが、実際にはかなり本格的な処理が動いていることが分かりました。

モデル自身に聞いてみた

面白半分で、

あなたのモデル名は？

と質問してみました。

すると、

私はGemmaです

と回答。

しかし On-Device Internals では、

Model Name: v3Nano

となっています。

モデル自身は実行環境の詳細を知らないのか、あるいは内部的な理由があるのかは分かりませんが、少し不思議な結果でした。

Built-in AIの向き不向き

前回、利用規約チェックにも挑戦してみました。

しかし、

長文読解
契約条件の抽出
リスク判定

のような用途では少し厳しい印象でした。

一方で今回のチャット用途では、

質問応答
要約・翻訳
簡単なスクリプト作成

などはかなり快適です。

どうやら Gemini Nano は、長文解析よりも軽めのチャット用途の方が向いているように感じました。

まとめ

Chrome Built-in AI を使ったローカルAIチャットを試してみました。

最初は「おもちゃ程度かな？」と思っていたのですが、実際に使ってみると想像以上に実用的でした。

特に、

APIキー不要
サーバー不要
ローカル実行
推論コストゼロ

というのはかなり魅力的です。

Wi-Fiを切っても動作し、GPUまで活用していることが確認できたので、「本当にローカルで動くAI」としては非常に面白い仕組みだと思います。

まだ開発者向け機能という印象はありますが、今後Chrome Built-in AIが正式に普及すれば、個人開発の世界も少し変わるかもしれません。

興味がある方は、ぜひ一度試してみてください。

ChatGPT不要？Chromeだけで動くAIチャットを試してみた