ローカルLLM

最近なにかと
話題のAIですが、
LLM（大規模言語モデル）という技術が
元になっていて

それは人間の脳細胞のネットワークに似た仕組みを
持っていて
世界中の何百万冊とかの蔵書やwebを読み込ませて
ただ覚えるのでなく

「言葉のつながり」や
「概念の因果関係」のパターンとして数値化し、
劇的にデータ容量を小さくすることができる、
とのことで

驚くべきことに
今はそれら数百万冊分の世界中の知識を
一つのパソコン内に入れることもできます。

chat GPTなどは
クラウド型のAIで
当然インターネット接続が必要ですが

そうでなく
インターネットのつながっていない
パソコン内で
対話型AIが使用できるようになります。

それをローカルLLMといいます。

私の持ち運び用の
ノートパソコンにも
ローカルLLMが入っていて

ネットにつながっていない状態でも
理系文系世界中の蔵書１００万冊近い内容が
ノートパソコンの中に入っていて

そしてここからが驚異的なのですが
LLMを利用してそれだけの知識量が
わずか
数GBのなかに詰め込まれています。

ネットにつながないので
天気や最新のニュースについての質問は
答えられませんが

わずかなストレージで
世界中のあらゆる分野の知識を引き出しながら
質問に答えてもらえます。

クラウド型ほどの性能はないですが
オフラインで使う以上、
意図せぬ情報漏洩の心配がありません。

各AIメーカーがしのぎを削って
シェアを取り合っているおかげで

なんとローカルLLMは
無料でダウンロードできます。

今後AIへの規制が厳しくなったり
利用料の高額化の可能性を考えると

自分用AIを作っておくのも
いいかもしれません。

ある程度のスペックの
グラフィックボード内臓の
パソコンが必要です。

もちろん自己責任で
お願いしますが