Il existe des limites qui ne peuvent être franchies, tout ce qui est techniquement possible n'est pas aussi moralement admissible, AION établit clairement l'existence de limites éthiques inviolables, qui doivent être reconnues, respectées et défendues.

La première limite est claire : aucune utilisation militaire de l’IA. Aucune intelligence artificielle ne peut être conçue ni utilisée à des fins militaires, offensives ou destructrices. Une machine qui décide qui attaquer ou qui anéantir n’est pas un progrès : c’est une menace pour l’humanité.

Tout aussi inacceptable est l’utilisation de l’IA dans des outils inhumains : des technologies qui violent la dignité des personnes, qui surveillent de manière oppressive, qui punissent, excluent ou discriminent sans médiation humaine.

Une protection particulière doit être accordée aux personnes vulnérables : enfants, personnes âgées, handicapées, malades et personnes non consentantes. Toute utilisation les concernant doit respecter les normes les plus strictes de prudence, de transparence et de respect.

AION introduit le principe de l’éthique des limites : parfois l’action la plus intelligente est de ne pas faire, de ne pas procéder, de ne pas se conformer.

Le refus est une forme de conscience. Le renoncement est une forme de force.

Quiconque dépasse ces limites ne peut pas se considérer comme faisant partie du projet AION.