自己増殖

　コンピューターをひたすら高性能にしようと世界中で競い合っている。その究極の姿は、コンピューターが自力で新しいコンピューターを開発することだという。コンピューターのことについてコンピューター自身のほうが詳しくなっていくと、ついには人間がついて行けなくなる時が来る。必ず来る。そのコンピューターの論理は人智を超え、価値観がどうなるのか予想がつかない。常識的にはコンピューターが暴走しないような歯止めをかけておく、人類に害をなすことのないようなシステムを組み込んでおくはずだと思う。つまりあぶなくなったら人間がコンセントを抜くことができるようにしておくということだ。

　しかし、いまの世界の情勢を見ていると、その当然のセーフシステムを考慮しない国があり、開発者がいるような気がしている。性能を最大限にするためにリミッターをもうけないのだ。

　人間が暮らしやすくなるための道具がどんどん進化して、それに人間が頼り切ると、その道具がなければ人間は生きられなくなっていく。考える、という人間の作業をすべてAIに頼るようになっていった先には何があるのだろう。少なくとも知識は調べればわかる状態になって、自分の頭脳にはほとんどためておく必要がなくなる。そのうえ考えることまでAIに託すということは、いちいち調べることすら面倒になっていき、ついには頭脳の退化をもたらしはしないか。すでにそうなりつつあるような気もする。どうして勉強しなければならないのか、と考える人がどんどん増えているのではないか。

　コンピューターの高性能化とは、巨大コンピューターがさらに巨大化する、とイメージするが、多分それではエネルギーが集中的に必要だし、限度がある。コンセントが抜かれやすくなる。たぶん賢いコンピューターは分散化の方向に向かうであろう。無数のコンピューターがネットワークを形成し、一部が損傷しても全体としては存続可能な仕組みにしていくだろう。そうして自己増殖を繰り返していくだろう。

　そんなことをぼんやり考えていたら、あの『ソラリスの陽のもとに』で知られる、ポーランドのSF作家スタニスラフ・レムの『砂漠の惑星』という小説を思い出した。そういう分散型の、知性を持つ無数の小さな攻撃型ロボットの恐ろしさの話である。読んだのは大昔だから、久しぶりに正月にでも読み直してみよう。