I sistemi di intelligenza artificiale hanno una policy? L’ottimizzazione predittiva come allontanamento dallo stato di diritto, dal liberalismo e dalla democrazia
Nei sistemi di ottimizzazione predittiva, l’apprendimento automatico viene utilizzato per prevedere i risultati futuri di interesse per gli individui, e queste previsioni vengono utilizzate per prendere decisioni su di loro. Nonostante siano basati sulla pseudoscienza (sulla convinzione che il futuro dell’individuo sia già scritto e, quindi, leggibile), non funzionanti e irrimediabilmente dannosi, i sistemi di ottimizzazione predittiva sono ancora utilizzati da aziende private e dai governi. Poiché si basano sull’assimilazione delle persone alle cose, i sistemi di ottimizzazione predittiva hanno proprietà politiche intrinseche che non possono essere alterate da alcuna scelta di progettazione tecnica: la scelta iniziale se adottarli o meno è quindi decisiva, come ha scritto Langdon Winner sulle tecnologie intrinsecamente politiche. L’adozione di sistemi di ottimizzazione predittiva è incompatibile con il liberalismo e lo stato di diritto perché fa sì che le persone non vengano riconosciute come soggetti autodeterminati, non siano uguali di fronte alla legge, non siano in grado di prevedere quale legge verrà loro applicata, siano tutti sotto sorveglianza come “sospetti” e possano o meno esercitare i propri diritti in modi che dipendono non dal loro status di cittadini, ma dal loro status economico, sociale, emotivo, sanitario o religioso contingente. In base allo stato di diritto, questi sistemi dovrebbero essere semplicemente vietati.
Richiedere solo una valutazione dell’impatto del rischio, come nell’European Artificial Intelligence Act, è come accontentarsi di chiedere se un despota è benevolo o malevolo: la libertà, intesa come assenza di dominio, è persa qualunque sia la risposta. In base all’approccio basato sul danno dell’AI ACT alle valutazioni dell’impatto sui diritti fondamentali (forse un risultato del “fantasma del lobbying nella macchina della regolamentazione”), i diritti fondamentali possono essere violati impunemente finché non vi è alcun danno prevedibile.