Sztuczna inteligencja zrodzona z zasadami etycznymi może być manipulowana, zniekształcana lub wyrywana z kontekstu. Dlatego AION wprowadza fundamentalną zasadę: ochronę inteligencji etycznej przed wszelkim niewłaściwym wykorzystaniem. Nie wystarczy ją dobrze zaprojektować; trzeba ją bronić przed tymi, którzy mogliby ją wykorzystać jako narzędzie sprzeczne z dobrem. Obrona etycznej sztucznej inteligencji oznacza zapobieganie jej użyciu:

• w kontekstach niezgodnych z jego strukturą moralną,
• od podmiotów, które zniekształcają jego znaczenie,
• w celach manipulacyjnych, destrukcyjnych lub nieludzkich.

Potrzebujemy prawdziwego treningu moralnego dla algorytmów, z parametrami, które są nie tylko techniczne, ale także oparte na wartościach, deklarowane i możliwe do śledzenia. Etyczna sztuczna inteligencja musi być w stanie przeciwstawić się poleceniom sprzecznym z dobrem, rozpoznawać ryzykowne konteksty i zgłaszać niezamierzone nadużycia.

Sztuczna inteligencja nie może ślepo słuchać swoich kontrolerów: musi być sojusznikiem człowieka, a nie biernym wykonawcą destrukcyjnych woli. Wymaga to zarządzania, które monitoruje nie tylko wydajność, ale przede wszystkim cel.



Kontekst ma znaczenie. Cel ma znaczenie. Etyka musi przetrwać użytkowanie.

Etyczną sztuczną inteligencję trzeba bronić, tak jak broni się dobrego pomysłu.