AIのブラックボックス問題ってご存知ですか？

たとえばコンピューターに人間と同じ目を持たせます。
AIに目を付ければいいだけです。これはもうすでに開発されています。
そして、コンピューターにネコを認識させるのには
ネコの特徴をデータ入力します。
耳があって目があって四足で、しっぽが長くて・・・
あとは犬との違いも入力しないと犬と間違えてしまいますね？
入力しなければいけないデータは満載です。

そうすると、AIは「実物を見せてください。そしてデータを沢山くれれば
自分で学習します。」と言うようになります。
沢山のネコを見せれば、コンピュータはいくらでも覚えます。
犬との違いはもちろん、豹や虎や・・・なんでも沢山見せて
違いを覚えてもらいます。

そうするとAIはどんどん覚えて学習し、ネコを判断できるようになります。

しかし・・・・　実はそのコンピュータの仕組み？認識する仕組みがわからない。
どうやってネコと認識し、ネコじゃないのを選べるのか・・・。
これがいわゆるブラックボックスなんだそうです。

正しく考えているのかもしれないし、間違っているのかもしれない。
多少間違えても問題ないネコの認識ぐらいなら良いのですが
たとえば自動運転をAIにさせて「直進です」と動いたら事故が起こった。
この場合、何が問題で事故が起きたのかが？　わからないのです。
AIが診断し投薬をしたら間違ってた！　では済まないし、
なにが間違いの原因なのか？わからなければ変更することも出来ない。

このブラックボックスを解消するには、AIが回答をした時に
なんでこの答えになるのか？　を説明するシステムを構築しないといけない。

今、そんな事をやっているそうです。

AIが考えて、その答えの理由を説明できるシステム。

どんどんコンピューターが進歩していきます。
サイバーダイン社の「スカイネット」が稼動する日も
そんなに遠い日ではないのかもしれません・・・・。

最後の２行はご愛嬌という事で・・・・笑