AI(人工知能)が人間には理解できない独自の言語で会話をはじめ、FB社はこのプロジェクトを緊急停止させた。

~現代版「猿の惑星」の萌芽か。科学が生み出すのは幸福か絶望か。

 皆さんは、「猿の惑星」という映画を知っているだろうか。人間である私たちが住んでいる地球。その主人公が人間ではなく、「猿」になっている、ある時代の話である。

 第三次核戦争のあと、「機械」が人間を殺戮する。それに反旗を翻す人間の生き残りが見たものは、高度なコンピューター(今でいうAI)が支配する世界。そのコンピュターを支配しているんは、言語を身に着けた「猿」だった、というものである。

 そんな世界がいつかくるのか?SFの世界の戯言と思うなかれ。SFで描かれたものは、月への有人飛行、地下鉄、会話ができるロボット、ドローン、インターネット、臓器移植、遺伝子操作、など、SFの世界のほとんどのものは、数十年後、実現しているのである。SFの後に科学があるようなものである。

 さて、7月下旬、衝撃的なニュースが、一部の人達の間で飛び交った。それは、人間のわからないところで、コンピューター(AI)同士で会話し始めた、というのである

 

 「7月下旬、フェイスブックのAI研究チーム(FAIR:Facebook AI Research Lab)はチャットボット同士が、人間の指示を受けずに会話を行っていることを突き止めた。人工知能研究の世界的権威として知られるレイ・カーツワイル(Ray Kurzweil)は数年前に、近い将来、多くの人に恐怖を与える段階に達するだろうと警告を発していた。イーロン・マスクビル・ゲイツスティーブ・ウォズニアックらのテクノロジーの専門家たちはそろって、AIが人類の脅威となる警告を発している。理論物理学者のスティーヴン・ホーキングも2014年の時点で、AIが人類に破滅をもたらすと予言した。
「AIは人間の指示を受けずに自分で進化を遂げ、自身で再設計を行う形で発展を続けていく。生物的な限界を持つ人間はこの進化に追いつけず、やがてAIの能力が人間を超えていく」とホーキングは述べた。人工知能が人間の手を借りずに独自の進化を遂げる様子を注意深く観察し、問題が生じればすぐに停止を命じる準備をしておくべきだ。AIがAI同士でしか通用しない言語で会話を始めた場合には、人間のコントロールを超えた領域に彼らが進化したと見なすべきであり、それは人類にとって大きな脅威であると認識すべきなのだ。」(フォーブスジャパン2017年08月06日 16:00)

 科学は、時に人知を超えるものを生み出してきた。核燃料の放射性廃棄物しかり。今では、それらは究極、目をつぶっていればよかった。それ自体が、「意思や知恵」を持たない「物質」であったから。

 今、人類の最後の「福音」と一部で呼ばれる「AI」は、本当に福音たるか。実は神の仮面をかぶった「悪魔」でるかもしれない。科学という名の誘惑に、人類は負けてきた。一度見た果実は手に取らずにおれない性。さて、今度の「実験」はどうでるか。それにしても、AI同士が、人間にわからないように「会話」している。なんとも「恐ろしい」話ではないか。