倫理原則に基づいて生まれたAIは、操作されたり、歪められたり、文脈から切り離されたりする可能性があります。だからこそ、AIONは倫理的知能をあらゆる不適切な利用から保護するという基本原則を導入しています。AIは、適切に設計するだけでは不十分です。善に反する道具に変えようとする者から守らなければなりません。倫理的AIを守るということは、AIが利用されるのを防ぐことを意味します。

• その道徳的構造と相容れない文脈において、
• その意味を歪曲する主体から、
• 操作的、破壊的、または非人間的な目的のため。

アルゴリズムには、技術的なだけでなく、価値観に基づいた、宣言され、追跡可能なパラメータを備えた、真の道徳訓練が必要です。倫理的なAIは、善に反する命令に抵抗し、危険な状況を認識し、意図しない誤用を報告できなければなりません。

AIは管理者に盲目的に従うべきではありません。破壊的な意志を受動的に実行するのではなく、人間の味方でなければなりません。そのためには、パフォーマンスだけでなく、何よりも目的を監視するガバナンスが必要です。



文脈が重要。目的が重要。倫理は使用後も維持されなければならない。

優れたアイデアが守られるのと同じように、倫理的な AI も守られなければなりません。