Искусственный интеллект, рожденный с этическими принципами, может быть подвержен манипуляциям, искажениям или деконтекстуализации. Именно поэтому AION вводит основополагающий принцип: защита этического интеллекта от любого ненадлежащего использования. Недостаточно просто хорошо его спроектировать; необходимо защитить его от тех, кто может превратить его в инструмент, противоречащий добру. Защита этического ИИ означает предотвращение его использования:

• в контекстах, несовместимых с его моральной структурой,
• от субъектов, которые искажают его смысл,
• в манипулятивных, деструктивных или бесчеловечных целях.

Нам нужна настоящая моральная подготовка алгоритмов с параметрами, которые не только технические, но и основаны на ценностях, декларируются и отслеживаются. Этичный ИИ должен уметь противостоять командам, противоречащим добру, распознавать рискованные контексты и сообщать о непреднамеренных злоупотреблениях.

ИИ не должен слепо подчиняться своим контролёрам: он должен быть союзником человека, а не пассивным исполнителем разрушительной воли. Для этого требуется управление, которое отслеживает не только эффективность, но, прежде всего, цель.



Контекст имеет значение. Цель имеет значение. Этика должна выдержать испытание временем.

Этичный ИИ необходимо защищать так же, как защищают хорошую идею.