Gianna Martinengo e il contributo all’AI Act europeo: quando l’etica diventa architettura regolatoria

Nel lungo percorso che ha portato all’approvazione dell’Artificial Intelligence Act — il primo quadro normativo europeo organico sull’IA — ho portato la mia esperienza di imprenditrice ed esperta di innovazione digitale, come Presidente di DKTS . Tra il 2020 e il 2023 ho fatto parte dell’International Advisory Board (INAB) di STOA, il panel del Parlamento europeo che supporta i legislatori nella valutazione delle implicazioni sociali e tecnologiche delle innovazioni. In quel contesto ho presentato un contributo destinato a incidere sul dibattito: “AI (and software) systems as individual-collective drugs”.

Nel mio contributo ho proposto un cambio di prospettiva: i sistemi di IA non sono strumenti neutrali, ma “protesi individuali e collettive” che interagiscono con la cognizione, le decisioni e i comportamenti. Come un “farmaco”, la tecnologia modifica individui e società; di conseguenza, la valutazione non può fermarsi all’architettura o alle funzionalità, ma deve considerare gli effetti concreti sulle persone e sui contesti d’uso. Questa metafora, che pone il soggetto umano al centro dell’ecosistema tecnologico, ha contribuito a orientare parte del confronto europeo verso una lettura più olistica dell’impatto dell’IA.

Ho visto alcune di queste idee rispecchiarsi nel testo finale dell’AI Act, adottato nel 2024: una governance europea unificata (con la creazione dell’European Artificial Intelligence Office e dell’AI Board per coordinare l’attuazione tra gli Stati membri), un approccio basato sul rischio (con la classificazione delle applicazioni in rischio minimo, limitato, alto e inaccettabile in base all’impatto su salute, sicurezza e diritti fondamentali) e valutazioni di conformità obbligatorie per i sistemi ad alto rischio, con requisiti su sicurezza, trasparenza, tracciabilità e monitoraggio post-mercato.

Il punto centrale che ho sostenuto è chiaro: regolare l’IA significa valutarne non solo il funzionamento, ma soprattutto gli effetti sulle persone. Alcune proposte più radicali — come l’introduzione di procedure ispirate alle sperimentazioni cliniche per i sistemi a impatto elevato — non sono ancora entrate nella norma. Continuo però a ritenere utile un quadro concettuale che consideri l’IA come fenomeno relazionale, non solo tecnico, capace di incidere sui comportamenti individuali e collettivi. Ritengo che la sfida dell’intelligenza artificiale non sia solo tecnica ma culturale: si tratta di garantire che la tecnologia resti al servizio dell’umanità — e non il contrario.

Nel suo libro “The Tech Coup: How to Save Democracy from Silicon Valley”, l’ex eurodeputata Marietje Schaake cita l’articolo “What Clinical Trials Can Teach Us about the Development of More Resilient AI for Cybersecurity”. L’analogia con i trial clinici risuona con il mio contributo al dibattito europeo sull’AI Act: valutare i sistemi di IA per gli effetti sull’essere umano e sul contesto d’uso, come “protesi individuali e collettive”.

Il 20 novembre avrò l’opportunità di intervistare l’autrice; desidero ringraziare l’editore Franco Angeli — che pubblicherà a breve il libro in Italia — per aver reso possibile questo dialogo e confronto.