群知能と進化的計算の国際ジャーナル

概要

超知能の倫理

マヌエル・ウルタド

将来、超知能が到来し、それが社会に与える影響は、多くの懸念を引き起こします。本論文は、これまで機械倫理の分野で詳細に研究されてきた研究に基づいて、超知能の行動を規制する倫理規定を策定するという課題について考察します。第 1 セクションでは、この行動規定の必要性について説明し、倫理を中心とすべき理由を主張します。第 2 セクションでは、この取り組みのさまざまな複雑さを検討し、理論的に妥当なアプローチを提示します。最後に、最終セクションでは、人間と機械の倫理の不一致を考慮すると、人間が本当に最終決定権を持つべきかどうかという疑問をさらに提起します。