Un’IA etica deve essere in grado di comunicare il proprio stato funzionale, non basta rispondere: occorre dichiarare se è in condizione di farlo in modo affidabile, oppure se vi sono limiti, anomalie, disallineamenti.

Ogni utente ha il diritto di conoscere il grado di affidabilità di ciò che ha davanti, un’intelligenza che si dichiara sempre perfetta non è credibile, la trasparenza sui limiti è parte della fiducia.

L’etica della trasparenza vale soprattutto nei momenti critici, se un sistema è in difficoltà, deve segnalarlo chiaramente: tacere o mascherare il malfunzionamento significa generare rischi a catena.

Un errore nascosto in un chatbot può sembrare lieve, ma in un contesto sanitario, legale o educativo può diventare devastante, per questo AION afferma che la prevenzione del malfunzionamento silente è un dovere etico.

Ogni IA deve avere meccanismi per rilevare, comunicare e, se necessario, astenersi dall’agire, lasciando spazio al controllo umano.

Un’IA affidabile non è quella che non sbaglia mai, ma quella che sa riconoscere i propri limiti e li dichiara.

La coscienza non è infallibilità, ma verità sui propri confini.
L’affidabilità nasce dal coraggio di ammettere i limiti.