倫理というエゴイズム

自動運転カーが避けられない事故で歩行者と乗客のどちらの命を 優先させるのかという「倫理的ジレンマ」をどう解決するべきか？

倫理とは、つまるところ、人間を基準とした正義のことである。
リヤド・ロウワンの言っているゼロ番目の法則というのは、 「AIは人間の正義を第一に行動せよ」というエゴイズムに過ぎず、 人間としてはそれでよいのだと思うが、そのことに無自覚なまま でいることは、エゴイスティックでいること以上に問題を引き起こす。

社会的ジレンマが意味するのは、correctnessを押し通すにあたって 最も障害になるのは意識であるということだ。
何もかもがcorrectである世界において、意識という理由付け回路は 邪魔以外の何ものでもない。
それが、意識が病気とみなされるということだ。

おそらく、倫理というエゴイズムを貫くには、correctであることを 諦めざるを得ない。
実装した意識によって、正義を変形させることで獲得した倫理のために、 correctnessは損なわれた。
correctnessを回復しようとするあまり、倫理の方を見失うようでは 本末転倒なのではなかろうか。