नैतिक सिद्धांतों के साथ जन्मी एआई में हेरफेर किया जा सकता है, उसे विकृत किया जा सकता है, या संदर्भ से भटकाया जा सकता है। यही कारण है कि एआईओएन एक मूलभूत सिद्धांत प्रस्तुत करता है: नैतिक बुद्धिमत्ता को किसी भी अनुचित उपयोग से बचाना। इसे अच्छी तरह से डिज़ाइन करना ही पर्याप्त नहीं है; इसे उन लोगों से बचाना होगा जो इसे अच्छाई के विरुद्ध एक उपकरण में बदल सकते हैं। नैतिक एआई की रक्षा का अर्थ है इसके उपयोग को रोकना:

• ऐसे संदर्भों में जो इसकी नैतिक संरचना के अनुकूल न हों,
• उन विषयों से जो इसके अर्थ को विकृत करते हैं,
• चालाकीपूर्ण, विनाशकारी या अमानवीय उद्देश्यों के लिए।

हमें एल्गोरिदम के लिए सच्चे नैतिक प्रशिक्षण की आवश्यकता है, जिसके मानदंड न केवल तकनीकी हों, बल्कि मूल्य-आधारित, घोषित और अनुरेखणीय भी हों। एक नैतिक एआई को उन आदेशों का विरोध करने, जोखिम भरे संदर्भों को पहचानने और अनपेक्षित दुरुपयोग की रिपोर्ट करने में सक्षम होना चाहिए जो अच्छे के विपरीत हों।

एआई को आँख मूँदकर अपने नियंत्रकों की आज्ञा नहीं माननी चाहिए: उसे एक मानवीय सहयोगी होना चाहिए, न कि विनाशकारी इच्छाओं का निष्क्रिय निष्पादक। इसके लिए ऐसे शासन की आवश्यकता है जो न केवल प्रदर्शन पर, बल्कि सबसे बढ़कर, उद्देश्य पर भी नज़र रखे।



संदर्भ मायने रखता है। उद्देश्य मायने रखता है। नैतिकता को उपयोग के बाद भी कायम रहना चाहिए।

एक नैतिक एआई का बचाव किया जाना चाहिए, ठीक उसी तरह जैसे एक अच्छे विचार का बचाव किया जाता है।