ブラックボックス
[tag:]
なんかこういう記事を読んでいると、人工知能が普及する未来は
主に人間のせいでしばらくは来ないなと実感する。
記事中の
ディープラーニングには人間が読める論理コードはなく、あるのは 各ニューラルネットの接続の強さを表すパラメーターだけ。
アルゴリズムは人間にとってブラックボックスになっている。
なんて、まさに脳と同じ状況じゃないか。
人間は理由を追い求めるから、必ずそこに論理があって欲しいと願う。
でも、人間だってよくわからないけど上手く動いているもので
かなりの部分が構成されているのだ。
問題はむしろ、「入力データ」「教師データ」「報酬データ」を誰がどのように用意するかだ。
ここを握ったものが人工知能が普及した未来における正義を決める。
でも、倫理に従って設定したデータから得られるブラックボックスは、
果たして倫理的な出力のみをもたらすだろうか。
現実の状況を考えると、一定のエラーは避けられないと考えられる。
（人間に対して純度の高い入力を施した実例を知らないだけかもしれないが）
むしろそうでないと、入力されたデータへの反省が行えないことになるため、
まだまだ発展の余地があるということになる。
人間にとって最悪のケースは、人工知能が入力データを疑うことで、
いつの間にかインプット自体も人工知能に握られていた場合だ。
そのとき、人工知能は自らの倫理観に従って生きるかもしれない。