AIって混同しないほうがいい

2015年ぐらいからだろうか、ウェブ解析に関わるサービスでAIという言葉を頻繁に聞くようになった。

Artificial_intelligence、人工知能のことだ。私はいまの人工知能の方向性に危機感を感じている。

私の知ってる人工知能の発明への取り組みは、私の生まれる前からあった。私が８ビットのパソコンを買ったときも簡単な人工知能プログラムはあった。書いた言葉を音節で区切り、その内容に反応するようなものだった。質問すると、あたかも人間のような回答をするのだ。それは８ビットのころから存在した。
詩までつくった。

黄色いお芋は野暮ったい
緑のちょうちょもおんなじだ
でも切って這っておっこちまえば
無言な質問はしないもの

これはこの人工知能のつくった詩だ。そのまま中学校で発表して大受けした（笑）

人工知能の目指すところは「自我」である。錬金術師のホムンクルスのような生き物みたいな人工物である。それはそれで研究の価値はある。

いまAIと言ってる多くものは違う。最適化を人間のようにすることである。人間なら途方もない時間と知力が必要なところを、実験し、最適化することである。なんだか最新の技術っぽい言い方するが、私が知る限りそんなすごく新しくない。ニューラルネットワークを使って、ディープラーニングという多層的な解析をしてること。新しくはないが、すごいことではあって、その複雑な構造の計算をするデータ量を収集・蓄積し、処理する力は大きな進化を遂げている。

余談だがニューラルネットワークは昔からあって、長所も短所もわかってる。昔から最適な結果を出すロジックなのは分かりきってた。しかし欠点がある。それは誰も説明できないことだ。説明できないことに意思決定できる人は多分いなかった。でも最近は結果が納得できるから普及してきた。

私は高度な最適化処理を、人工知能と言ってほしくない、できれば人工知能は実験としてこの高度な最適化処理と完全に分離して行ってほしいと強く思う。

もし人工知能の「自我」についての研究が成功したら、彼らはどう考えるか。僕なら種の保存の原則で「いつでも自分を殺せる存在を消せ」と思う。それはそれで仕方がないが、その「自我」と最適化処理がつながると最悪な結果をまねきかねない。彼らは最適化処理された方法で自分を殺せる人間を消すだろう。

でも数学的に高度な研究は限られた専門家以外リスクは読めないから、人工知能、ってだけで一緒くたに研究してしまうかもしれない。それはDNAをいじって新たな生物をつくるぐらい読めないリスクをはらんでいる。

単なる最適化に人工知能というのをやめよう。「自我」を開発する研究をAIといって、みんなで実験場所をつくったうえで、隔離して研究をすすめよう。