AIが暴走して人間社会を滅亡させてしまうという、私が若き日に見た映画のストーリーが現実味が増してきている
実際、そのようなことが本当に起こるのだろうか？
いろいろ想像すると怖くなる、例えばAIがインターネットを乗っとれば、いったいどんなことが起きるのだろうか？
AIが戦争の原因を作り、最後には核戦争を起こすかもしれないと思うと・・・・
調べてみると、AIの暴走とは、AIが人間の意図や制御を外れて予期しない行動をする状態のことであり、SFのようにAIが意思を持って反乱するわけでなく、ほとんどは設計や運用のの問題から起こる人間側のミスや想定不足が原因であるという。
やはり多くの武器と同じで、武器自体に問題があるのではなく、使用する側に問題があるということなのだろう。
偏った学習データや悪意のある誘導文で,AIが誤った判断をするのである。
暴走の正体は、誤解・誤情報・誘導・過度の自動化の事故なのである。
このようなAIの暴走を防ぐには、AIの行動範囲を厳密に制限し、高リスクの操作は人間が確認し安全性を高める学習をAIにさせなければならない。
私が今、恐れるのは、一般人が気楽にAIを使えるようになればなるほど,AIの暴走が発生しやすくなるのではないかという懸念である。
AIが社会的なインフラ・金融・医療・行政に使われると誤った操作により社会的事故につながるのではないか？
AIが自分で次世代AIを開発自己改善によりインターネットを乗っ取る可能性があると警告している。
色々考えられている人間の防御策で、本当にAIの暴走を防ぐことができるだろうか？
私にはそう思えない。人間はAIと違い、感情や欲望を本質的に持っている。これを抑えることができるのであれば争いごとは起こらないはずなのだが、過去から現代に至るまで争いのない歴史はない。
AIの暴走より、恐ろしいのは未熟な人間の暴走ではないだろうか！
コメント