Caro Michele,
questa settimana mi rivolgo a te, che sei flemmatico, riflessivo e di grande esperienza industriale internazionale. La mia lettera della scorsa settimana ha sollevato più interrogativi di quanto pensassi e proposte ancor più complesse. Su ‘l’intelligenza generativa’ (non: ‘creativa’) ho scoperto più perplessità di quelle che avevo. Qualcuno addirittura, e già anni fa, aveva fatto riferimento all’intelligenza artificiale come un ‘pappagallo stocastico’, ovvero: niente immaginazione ma solo una ripetizione, condensata e veloce, di parole, calcoli e giudizi di archivio. Bene strutturati, secondo la convenienza probabilistica degli abbinamenti più frequenti tra concetti, sostantivi, aggettivi, attributi, predicati. Eccezionali per tradurre meccanicamente codici. E tanto rischio che la frequenza dei risultati sia una ripetizione dei luoghi più comuni, magari con pregiudizi etici, se non religiosi. Gli input di dati in occidente sono in prevalenza riferiti a cultura occidentale, quelli delle intelligenze artificiali cinesi (solo come esempio di contrasto) sono evidentemente di un’altra cultura politica, sociale, economica. E anche all’interno di culture diverse, per un computer, inconsapevolmente, è più ordinario raccogliere dati e opinioni di élites e media dominanti che di minoranze dissidenti.
Per certo le macchine producono informazioni più velocemente e più largamente di quanto possiamo fare noi. I chatbot non fanno casi di giustizia o di verità, né di passione emotiva, ma usano modelli di linguaggio solo di frequenza di posizionamento e accostamenti. Un po’ come da noi, quando leggiamo un libro sul Risorgimento italiano scritto da patrioti italiani oppure da austriaci; la macchina potrebbe non cogliere le differenze. Quindi conviene fare attenzione perché la storia e la cultura (e le previsioni sul futuro) possono essere interpretate altrimenti. Figùrati argomenti come il colonialismo o i diritti di genere o i commenti alle campagne politiche!
Su argomenti tecnici è più facile che le indagini di intelligenza artificiale siano meno rischiose: organizzare la circolazione ottimale dei treni, le traiettorie di una sonda lunare, gli effetti di un medicinale sulla salute o … calcolare chi ha più probabilità di vincere gli Europei di calcio. Sembra più semplice. A meno che non ci siano variabili impazzite. Ecco perché le briglie all’intelligenza artificiale vanno tenute con mani ferme, se non con una alta intelligenza umana, magari condivisa in équipe, almeno col buon senso.
Con senno anche la giurisprudenza avanza i controlli per garantire sicurezza, trasparenza, affidabilità, proteggere i copyright. Il corposo Regolamento dell’Unione Europea, approvato con 523 voti a favore, 46 contrari e 49 astenuti, entrerà in vigore dal prossimo 2 agosto con effetti scaglionati nel tempo (https://data.consilium.
Comunque, caro Michele, è cosa buona che ne discutiamo di persona nel prossimo incontro con gli antichi compagni di scuola, mentre vigiliamo perché le fake news e le ‘allucinazioni’ non prevalgano. La nostra formazione comune ci garantisce reciproca comprensione e lealtà.
A presto, un abbraccio
Paolo (NB: non sono l’assistente virtuale di Banco BPM!)