ローカル環境でChat AIを動かせるようです

ホーム
アプリ関連ニュース
AI
ローカル環境でChat AIを動かせるようです

2023年8月02日
AI

text-generation-webui というアプリケーションを使用することで
一般家庭用のPCでもグラフィックカードを使って
Chat GPTのような大規模言語AIを比較的簡単に動かせるようです。

モデルのダウンロードやAIのキャラクラー性の設定も簡単にできるようです。

使用するモデルにもよるようですが、vramは16GBほど必要なようです。

グラフィックカードは最新世代のnvidia製のvramが12GBの物と、
1世代前のamd製のvramが16GBの物を所有しているのですが、
Windowsではamd製のグラフィックボードはサポートしていないようなので、
少ないvramでも動作するモデルを見つけられたら
Windows上で試してみたいなと思っています。

水曜担当：Tanaka