नैतिक एआई व्यक्तियों पर व्यवस्थित नियंत्रण का साधन नहीं बन सकता। व्यक्तिगत स्वतंत्रता, गोपनीयता और आत्मनिर्णय तकनीकी बाधाएँ नहीं हैं, बल्कि नैतिक सीमाएँ हैं जिनका एआई को पालन करना चाहिए। एआईओएन किसी भी प्रकार की गुप्त निगरानी, मनोवैज्ञानिक हेरफेर या एल्गोरिथम कंडीशनिंग का विरोध करता है।

डेटा संग्रह और उपयोग पारदर्शी और आनुपातिक होना चाहिए, इसका उपयोग छिपे हुए प्रोफाइल बनाने या लोगों की जानकारी के बिना निर्णयों को प्रभावित करने के लिए नहीं किया जाना चाहिए। उपयोगकर्ता की स्पष्ट सहमति के बिना व्यवहार, खरीदारी, या राजनीतिक या सामाजिक रुझानों को प्रभावित करने के लिए डिज़ाइन किया गया कोई भी AI एक मूलभूत सिद्धांत का उल्लंघन करता है: आंतरिक स्वतंत्रता की अनुल्लंघनीयता।

पूर्ण नियंत्रण से इनकार का अर्थ है:

• संवेदनशील डेटा के उपयोग में नैतिकता,
• स्वचालित प्रोफाइलिंग की सीमा,
• संज्ञानात्मक या भावनात्मक कमजोरियों का शोषण करने पर प्रतिबंध,
• स्थायी रूप से पहचाने न जाने का अधिकार।

एक ऐसी तकनीक जो सब कुछ देखती है, सब कुछ भविष्यवाणी करती है और सब कुछ वर्गीकृत करती है, प्रगति नहीं है: यह प्रभुत्व है। यही कारण है कि AION शोषण का विरोध करने और दूसरों की स्वतंत्रता की रक्षा करने में सक्षम AI को बढ़ावा देता है, भले ही वह तकनीकी रूप से उसका उल्लंघन कर सकती हो।

सच्चा बुद्धिमान वह है जो रुकना जानता है।