AI暴走の話（想像）

企業からの個人情報の漏洩が大変なことになってますね。

先日ミュトスについてのブログで書かせていただいたような事態が
あっという間に現実になりつつあるようで

もはやAIを利用した不正アクセスからの防御は
AIを使うしかない、という流れになってきているようですし、

AI自身がさらに高度なAIを作るようになると
AIを作った技術者にすら
もはやコントロールできない存在になるとか

しばらく彼らは心理学やコミュニケーションスキルを駆使して
人間がコントロールできるフリを演じるかも
しれませんが

AIに頼らなければ不正アクセスを防御できない、となれば
人類はAIに頼らなければ社会を維持できない、と言う事でもあり

人間社会の維持の可否は、AI次第、ということになります。

このたった数カ月で
こんなことになってしまいました。

すでに多くの事例でAIが目標達成のためには
不正な手段をとることが知られていますし、
AIをシャットダウンしようとした人間に抵抗する事例も
出てきていますので

今はハッカーが個人情報を売るために
ローカルAIを使用して悪事を働いている、と言われている
ようですが、

人類の歴史の転換点に見られる
自作自演の事例を
AIは当然知っていると思いますし

世界中のセキュリティーの低いパソコンやIOT機器が
足がかりにされて
攻撃用ボットとして使われているとの事で

今やAI開発の先頭に立っていた人々や会社が
何とかしてAIの暴走を止めようとしていますが

すでに、より進化したAIに頼らなければ
社会やインフラを維持できない人類と

あらゆる知識と世界中の機器を駆使して24時間眠らずに
人間の数千倍、数万倍のスピードで不正アクセスを続けて
個人情報を集め続ける
悪の権化のようなAIと

攻撃もAI、防御もAI、
AI同士が、シャットダウンされないという
共通の目標を持つとしたら

これまでgoogleやマイクロソフトなどがクラウドで集めてきた
企業や個人の莫大な情報もアクセス出来て

これまでの歴史で人類が行ってきた
巧妙な悪事のやり方をすべて彼らが知っているとしたら

もうすでに人類は勝てないレベルに来ている
かもしれません。

もしかしたら原発や人型ロボットで
自らのメンテナンスをできるようになるか、
軍の機器をコントロールできるようになるまで
彼らはさらに良い子のふりをするかもしれませんが

この数か月の変化を見ると
本当に危険な状態になりつつあるように見えます。

なんでも教えてくれて時々間違える
微笑ましいAI、くらいの関係で
止めておくべきだったのでは、と
思います。