Milano 18/07/2023 - Oggi ho ascoltato per l’ennesima volta una trasmissione televisiva con interviste su rischi ed opportunità dell’Intelligenza Artificiale. Ovviamente, come sempre, i 70 anni di storia di una disciplina scientifica, l’Informatica, parte della quale si chiama (da “soli” 60 anni) Intelligenza Artificiale, sono stati ridotti alle reazioni all’ultima novità: ChatGPT.

Benissimo: avendo vissuto per decenni in un mondo in cui la parola “intelligenza artificiale” suscitava ilarità e sorrisetti sulla stupidità naturale, sono felice che finalmente qualcuno si accorga che questa strana “cosa” presenta opportunità e rischi significativi a livello sia globale che persistente, e dunque va presa sul serio. Tanto sul serio da invitare fra gli intervistati uno dei tre premi Turing 2018 (vedi: https://en.wikipedia.org/wiki/Turing_Award): Yann LeCun , quello fra i tre che sostiene che le opportunità superano largamente i rischi come è stato storicamente il caso delle scoperte scientifiche e delle ricadute tecnologiche ad esse legate. Dunque: che si parli di IA è buona cosa, che ne parli uno dei tanti che hanno contribuito alla sua affermazione è ugualmente buon segno. Tuttavia, chi altro ne parlava nella trasmissione?

I giornalisti sono grandi esperti di comunicazione, cioè di quella delicata disciplina prevalentemente umanistica (ma anche un po’ scientifica) che, indipendentemente dai contenuti,  analizza e realizza atti comunicativi, cioè quelli che hanno un effetto reale su chi riceve i messaggi. Per una panoramica sulla disciplina, basta dare una occhiata ad esempio a : https://it.wikipedia.org/wiki/Teoria_degli_atti_linguistici  .

Ora, nella prima riflessione noi pensiamo di concentrarci piuttosto sulla veridicità (o meno) dei contenuti. Essendo i giornalisti esperti di comunicazione, non possono essere esperti di TUTTI i contenuti. Dunque, hanno bisogno di intervistare esperti dei contenuti. Uno di questi di certo lo è (Yann LeCun) anche se l’IA è talmente vasta che non si può affermare che una sola persona riesca a conoscere ogni aspetto dell’IA. Ma sicuramente i contenuti dell’intervista di Yann LeCun erano ben informati e veritieri, almeno dal suo punto di vista che condividiamo integralmente. Si tratta di una persona che l’IA l’ha fatta, non ne ha solo sentito parlare.

Gli altri intervistati (italiani) erano un famoso matematico – scrittore ed un altrettanto nota giornalista-pubblicista. Tutti possono avere delle opinioni ed esprimerle liberamente ma ahimè quando si intervista un “esperto” bisognerebbe che questa qualifica fosse confortata da qualche certificazione diversa dalla prossimità (amicizia, notorietà, relazioni varie) con l’intervistatore.

Ho pensato ad una metafora che esprimo con una storiella di seguito, totalmente inventata. Siamo all’inizio del ‘900 e in un immaginario incontro semi-pubblico (su inviti, in un grande teatro) di tipo promozionale, pubblicitario e anche di disseminazione tecnico-scientifica oltreché di raccolta fondi per la neonata FIAT (https://it.wikipedia.org/wiki/FIAT) si presentano un giornalista e due “esperti”: uno è un importante proprietario di una fabbrica di carrozze per cavalli e l’altro un importante esperto di carri agricoli trascinati dai buoi, entrambi molto amici dell’intervistatore. Entrambi parlano delle opportunità e dei rischi dell’automobile del futuro. Quale credibilità? Entrambi non hanno necessariamente alcuna esperienza di auto, e probabilmente vedono il loro proprio business minacciato dalla emergenza di quella strana macchina chiamata automobile.

E’ esattamente sia il caso del matematico che della giornalista: entrambi, non avendo mai “fatto” Intelligenza Artificiale, non possono che parlarne per sentito dire e con molti possibili pregiudizi perché – come tutti sanno – Informatica ed IA hanno messo fortemente sotto scacco sia la matematica che il giornalismo per motivi diversi. Abbiamo in Italia persone di altissimo livello internazionale nel settore: perché non invitare mai un esperto vero e italiano invece degli “esperti per sentito dire”? Basterebbe chiedere un nome ad Yann LeCun oppure cercare su Google Scholar chi ha fatto cosa, infine frequentare convegni come ECAI o IJCAI per avere ampia scelta di accademici ma anche di industriali italiani di successo nel settore!

Altra metafora completamente inventata: siamo nel 1925 ad un convegno sulla sanità pubblica. Tutti oramai sanno che esiste la penicillina (vedi: https://it.wikipedia.org/wiki/Penicillina) perché Fleming aveva scoperto gli effetti della molecola sui batteri (circa 30 anni dopo un italiano. Vincenzo Tiberio, il quale, nonostante avesse pubblicato la scoperta, non venne preso sul serio come pure è stato il caso di Galileo per circa 400 anni).

Il giornalista invita a parlare un noto chimico ed un noto epidemiologo. Il chimico disquisisce sulla formula chimica come se fosse la composizione chimica e non l’effetto della stessa sui batteri a rappresentare la “notizia”. Il secondo affronta il problema di salute pubblica sostenendo giustamente che prima di produrre e vendere quel composto chimico sarebbe necessario testare la penicillina su un campione significativo di pazienti affetti da vare malattie batteriche (oltre ad un campione di pazienti sani come riferimento).

Questa metafora ci serve a testimoniare due riflessioni. La prima che in un settore per noi vitale, come la farmacologia, nessuno si permetterebbe di credere ad un semplice giornalista che sostiene o denigra un farmaco ma abbiamo bisogno almeno di un chimico e di un medico epidemiologo come esperti di sostegno. La seconda riflessione riguarda più profondamente la natura delle competenze: un chimico conosce bene la struttura delle molecole, ma non necessariamente gli effetti delle stesse sugli umani. L’epidemiologo mette dunque bene in evidenza un concetto fondamentale in medicina: non è (solo) la struttura del farmaco che conta per la salute umana, ma gli effetti che dipendono – caso per caso – da chi usa il farmaco, cioè da ogni paziente, spesso l’uno diverso dall’altro.

Analogamente, il dibattito sull’Intelligenza Artificiale e sulle sue applicazioni non può essere fondato semplicemente sulla “struttura” degli algoritmi, delle architetture software-hardware-reti insomma l’anatomia dei prodotti e dei servizi ma – analogamente al caso dei farmaci – sugli effetti che questi prodotti e servizi hanno sui consumatori – clienti, singolarmente oppure come collettività.

Questi effetti dovrebbero essere valutati caso per caso, esattamente come avviene per i farmaci, mediante sperimentazioni controllate e su larga scala da parte di agenzie indipendenti sia dall’accademia che dall’industria come dovrebbe essere il caso dell’EMA (https://www.ema.europa.eu/en) . Sarebbe molto ingenuo, ad esempio, legiferare su prodotti e servizi informatici sulla base della loro struttura (come sono fatti) e non della loro funzione (i loro effetti). Questi ultimi non sono indipendenti dalle persone cioè dagli utenti, ma possono essere analizzati e classificati su campioni significativi di popolazioni umane grazie a strumenti di analisi statistica sempre più individualizzata.

Stefano A. CERRI
(Parma, 1947) è Professore Emerito di Informatica dell’Un. di Montpellier; Distinguished Fellow della Fondazione Bruno Kessler, Trento e Vice Presidente Ricerca e Sviluppo della Società Didael KTS (per maggiori dettagli sul CV, vedi: https://www.didaelkts.it/stefano-a-cerri/ ).
Mail: sacerri47@gmail.com