ブラウザ内で動くAI

AIに質問する

日髙悠太について、なんでも聞いてください。ブラウザ内で動く小型AIモデルが答えます。モデルは初回だけ読み込み、以降はブラウザにキャッシュされて再ダウンロード不要です。ダウンロード不要で、LLMを使わず即答する「LLM利用なし」も選べます。

WebGPU で高速動作

仕組み

サーバーもAPIキーも使いません。すべてあなたのブラウザの中で動きます。

モデル(選択可)

Qwen2.5 0.5B / TinySwallow 1.5B

Alibaba / Sakana AI ↗

軽量な Qwen2.5-0.5B(約0.5GB・既定)か、日本語が得意な Sakana AI の TinySwallow-1.5B(約1.2GB・TAID蒸留)を選べます。モデルは初回だけ読み込み、以降はブラウザにキャッシュ。ダウンロード不要の「LLM利用なし」も選べます。

実行環境

transformers.js · WebGPU

Hugging Face · ONNX

モデルの重みは4bit量子化済み(ONNX)。数GB級のモデルを約0.5〜1.2GBに抑えているので、これ以上の圧縮は効きません。初回だけ Hugging Face から読み込み、以降はブラウザにキャッシュ(再DL不要)。推論は WebGPU(非対応時は WASM)、Web Worker 上なので UI は固まりません。

グラウンディング

検索 + 事実照合

RAG + verify

質問に関連する経歴データだけを検索して根拠に渡し、生成後は固有名詞・数値・学歴などを照合。裏づけの取れない記述は表示せず、経歴データそのものに差し替えます。

静的サイト(Astro)/サーバー送信なし/APIキーなし