スマホでローカルLLM

最近私用スマホとしてGalaxy S25を購入したので、Galaxy AIを活用したいところですが、
囲って検索やGalaxy上のアシスタント機能であるBixbyは
ネットワークに接続していないと利用できません。

オフラインな状態でもなにかしらAI機能を使えるかなと調べたところ、
LM Playground というアプリを利用すればできそうでしたので早速試してみました。

LM PlaygroundはチャットAIが利用できるアプリのようです。

使い方は、Google Play Storeからインストールし、
アプリを起動して、画面上部の中央で使いたいモデルを選択しダウンロードするだけです。

今回はLlama3.2 3B というモデルを選択しました。

オフライン状態で利用できるか試すために、機内モードにしてテキストを送信してみました。

画像

応答が返ってきたのでオフラインで利用できています。
応答内容は日本語と外国語が入り混じっていますし、似た内容を繰り返しているので
実用に耐えるものではなさそうですが、
Galaxy S25上で動かす限り応答速度はなかなか速いです。

次はLlama3.1 8B というモデルで試してみます。
Llama3.2 3Bのモデルデータのサイズが1GBちょっとだったのに比べ
Llama3.1 8Bは4.9GBと大きいので応答内容の変化がみられるでしょうか？

画像

応答速度はLlama3.2 3Bに劣りますが、より質の良い内容を返してくれています。

スマホだけでこれだけの生成AIが使えるんですね。

水曜担当田中

tanaka at 2025年05月28日 10:00:00

お問い合わせ・ご相談はお電話、またはお問い合わせフォームよりお受け付けいたしております。

tel. 06-6454-8833（平日 10:00～17:00）

ギガスジャパン