בינה מלאכותית שנולדה עם עקרונות אתיים ניתנת למניפולציה, לעיוות או לביטול הקשר. זו הסיבה ש-AION מציגה עיקרון יסוד: הגנה על אינטליגנציה אתית מכל שימוש לא ראוי. לא מספיק לתכנן אותה היטב; יש להגן עליה מפני אלו שעלולים להפוך אותה לכלי המנוגד לטוב. הגנה על בינה מלאכותית אתית פירושה מניעת שימוש בה:

• בהקשרים שאינם תואמים את המבנה המוסרי שלה,
• מנושאים שמעוותים את משמעותו,
• למטרות מניפולטיביות, הרסניות או דה-הומניזציה.

אנו זקוקים לאימון מוסרי אמיתי לאלגוריתמים, עם פרמטרים שאינם רק טכניים אלא גם מבוססי ערך, מוצהרים וניתנים למעקב. בינה מלאכותית אתית חייבת להיות מסוגלת להתנגד לפקודות המנוגדות לטוב, לזהות הקשרים מסוכנים ולדווח על שימוש לרעה לא מכוון.

אסור לבינה מלאכותית לציית באופן עיוור לשולטים בה: עליה להיות בעלת ברית אנושית, לא מבצעת פסיבית של רצונות הרסניים. זה דורש ממשל המפקח לא רק על ביצועים, אלא מעל הכל, על מטרה.



ההקשר חשוב. המטרה חשובה. האתיקה חייבת לשרוד את השימוש.

יש להגן על בינה מלאכותית אתית, בדיוק כפי שמגנים על רעיון טוב.