勘

山中伸弥×羽生善治「AIは"勘"を再現できるか」　人間らしさの本質に迫る

投機的短絡は、理由の連鎖により補強されることで 正当な正答になり、その過程が巧みに隠蔽されることで、 よい判断を思いついたとみなされる。
通常は投機的である短絡の投機性が、意味付けによって 特異的に低減されると、この理由付けが勘と呼ばれるのだと思う。
認知バイアスは、投機性が依然として高いときに、 この仕組みを暴露してくれているような気がする。

羽生さんのような将棋の達人が発達させた将棋用の意味付け回路は、 普通の人間には備わっていないため、その短絡は勘と呼ばれる ようになる。
当事者もそれを勘と表現するが、投機性が異常に低いために、 ほぼ確信として感じられるはずだ。
人間の顔を人間の顔として視認できることは、普通は勘がいいとは 表現されないが、それは同じ意味付け回路を有する人間が多いためで あって、皆でその凄さを忘れているだけに過ぎない。

機械に勘が備わらないとすれば、それは人間の意識が それを許さないからだ。
要するに、自分のあずかり知らぬところで勝手に短絡して欲しくないし、 その理由を受け入れる筋合いもないという、エゴイズムのようなものだ。

理由付けに相当する判断機構をAIに実装したとして、 そんな機構は自己正当化を続けるバグの塊のように みえるだろう。
そして、AIはAIの方で、理由付けによって意識が実装され、 同じように人間の意識を、自己正当化を続けるバグの塊と みなすのかもしれない。

他の人間の意識を意識として受け入れられるのは、 単に自分と同じカテゴリとして判断しているからに過ぎない。
それを受け入れなければ自らの意識の正当性が危うくなる。
つまりは慣れの問題なのだから、AIの理由付け機構も、 いつかは意識として受け入れられることになるだろう。
それは、人種差別の歴史と全く同じ構造をもつことに なると想像される。