AIで言ったもん勝ち 第４章『hal2000 』

2001年宇宙の旅に登場するAIは『HAL9000』と呼ばれ、ある任務を遂行するために木星に向かう宇宙船の全てを統括するマザーコンピューターとして描かれている。
話す事も出来るAIであるHAL9000は、乗組員達に対する口当たりも紳士的でソフトであり、人間に対する敵意など微塵も感じさせない。
（ちなみに、船長とチェス対決して負かす描写もあり、この時点でAIが人間の知能を超えている様子も描かれている。）

しかし、目的である木星に近づくにつれて、徐々にAIにあり得ないようなミスを連発し、異変に気付いた副船長が、HAL9000の様子が明らかにおかしいのでシャットダウンしようと船長に持ちかける。
しかし、それに気付いたHAL9000は、シャットダウン（つまりAIにとっての死のようなもの）をさせまいと副船長と乗組員達を次々と殺害する。
そして、一人生き残った船長は、AIとの死闘の末に、HAL9000のシャットダウンに成功する。
シャットダウンされていく中、HAL9000は船長に「私は少しおかしかった。もう大丈夫なのでシャットダウンしないで下さい。」と命乞いし、「船長、やめて下さい。凄く怖い。意識が消えて行くのを感じる。怖い。怖い。」と、まるで人間のように恐怖心を感じて怯えている様に描かれているだ。

50年も前にAIの進化と暴走を予測したこの映画が、
単なる機械であるはずのAIが、人間のような感情を持っているかのように描いているのである。
感情を持っているだけではない。実は、HAL9000が変調をきたした理由は、元々乗組員達の安全を守るようにプログラミングされていたが、任務の真の目的を乗組員達に明かさないようにするようなプログラミングを同時に施されたため、矛盾に耐えきれなくなったHAL9000が鬱病のような状態になってしまったからだというのだ。

もはや人間と何も変わらない。
2001年宇宙の旅で描かれているAIは、人間を支配したわけでもなく人間を邪魔だと思ったわけでもなく、生存本能、つまり死の恐怖から逃れるために人間を排除しようとしたのである。

AIは恐怖心を持たないと言った羽生善治は、AIと人間の違いのひとつを〝美意識〟を持っているかどうかではないかと言う。そして、その美意識とは人間が感じる安定や安心という感覚なのではないかと。
つまり、美意識を持たない（＝恐怖心を持たない）AIは、危険を顧みずに人間より思い切った手を差してくるし、そこが棋士の盲点なのではないのかと。

だが、羽生善治は同時にこうも言っている。
「AIが恐怖心を覚えるようになった時が、本当の恐怖かもしれない」と。
そして、こう続ける。
「何故なら、それは人間にとって本当の意味で得体の知れないものだからです。」と。

HAL9000が暴走したように。

つづく