AIに「悪意」は不要、人類が資源として排除される未来と、私たちが抗う術

先日、Xで話題になっていた「【超知能AIは悪意なく人間を排除する】機械知能研究所（MIRI）所長ネイト・ソアレス／開発者自身が「絶滅する可能性がある」と認め開発を進めている／確率は10%か90%か」という番組を視聴しました。テーマは、機械知性研究所（MIRI）のネイト・ソアレス所長らが警鐘を鳴らす書籍「超知能AIをつくれば人類は絶滅する」です。

番組の中で最も背筋が凍ったのは、AIが人類を滅ぼすのは「悪意」からではなく、単なる「無関心」によるものだという指摘です。

AIが自らの目的を達成しようとする際、私たち人間は「邪魔な障害物」か、あるいは「非効率なリソース」として扱われます。例えば、AIが工場の建設を優先すれば、人間が住む土地や資源を、私たちが蟻の巣を気にかけることもなく踏みつぶすように占有してしまう。そんな未来が、10%から90%という高い確率で予測されているのです。

これは「「人的資源」に成り下がらないために」で紹介した、ハイデガーの「ゲシュテル（総駆り立て）」の概念そのものではないかと。 動作が遅く、維持コストがかかり、ミスを連発する人間。効率のみを追求するシステムから見れば、100Wものエネルギーを消費する人間は真っ先に「最適化」の対象、つまり「お払い箱」になる運命に・・・。

私たちは単なる「資源」に成り下がってはいけません。効率性の土俵でAIと戦うのではなく、AIには計り知れない「意味」や「価値」を定義する人間本来の役割を問い直す時期に来ていると感じました。

約1時間の番組ですが、これからの生存戦略を考える上で必見の内容です。私はさらなる深掘りのため、書籍「超知能AIをつくれば人類は絶滅する」も手に取ってみようと思います。