Macchine e coscienza: “Il to be or not to be dell’oggi”

Ci siamo. Un ingegnere di Google, Blake Lemoine dice che è possibile costruire macchine con coscienza. Negli anni ’90 sono stata al MIT ed ho incontrato Kismet, un robot che avrebbe dovuto capire lo stato d’animo dell’uomo che gli sedeva di fronte. L’esperimento è rimasto in laboratorio.

Oggi nell’era che Derrick de Kerckhove definisce della decisione robotica, la complessità della differenza fra uomo e macchina fa discutere sempre di più.

Lamda (Language Model for Dialogue Applications) è il nome dell’intelligenza artificiale in questione, di cui ho letto anche in un articolo di Massimo Sideri pubblicato dal Corriere della Sera.

Ho immediatamente chiesto ai miei amici esperti, e prima di tutti a Roberto Saracco  (membro senior di IEEE, dove guida il New Initiative Committee e co-presidente della Digital Reality Initiative. Insegna al Master in Technology Forecasting e Market Impact presso l’Università degli Studi di Trento) che mi ha risposto: “Personalmente credo che non ci sia una definizione accettata di coscienza. In inglese si usa sia “sentinet” sia “aware”. Entrambe hanno una varietà di sfumature e credo sia indubbio che le macchine (IA) stiano operando in un’area grigia che nel tempo si scurisce (o schiarisce…) sempre un po’ di più.

Il difficile credo sia porre una linea di demarcazione.

Ed è proprio di questa linea di demarcazione che l’uomo dovrebbe discutere. Intanto la discussione su Lamda si è aperta e Roberto Saracco ne ha approfondito gli aspetti sul suo blog con l’articolo  “IS AI sentinet?”, da cui ho preso alcuni punti che condivido. Il link porta all’articolo completo, in inglese.

Il primo punto è il buon senso  che induce a condividere pensieri così come scrive Saracco sulla notizia del chatbot “ovvero un software progettato per intrattenere una conversazione in linguaggio naturale con un essere umano, capace di un livello di comprensione tale da essere considerato “senziente”.

Partendo da un esempio concreto nell’articolo si legge: “… supponiamo di dover affrontare una persona in coma. Quando apre gli occhi cerchi il segno che è tornato, provi a fare domande e valuti le risposte. … Il punto che sto sottolineando è che il modo in cui valutiamo l’essere “senzienti” è l’osservazione delle reazioni alle nostre domande/interazioni. Metodo che non è molto diverso dal test di Turing in cui ti viene chiesto di distinguere un essere umano da un computer sulla base delle interazioni che  hai con esso/lui”.

In molti oggi sono consapevoli che non basta più basarsi esclusivamente sulle interazioni e a questo proposito Saracco dice che “ciò non rende la macchina un essere umano perché non può assumere alcun tipo di sentimento umano, anche se è programmato per mostrare emozioni coerenti”.

#consapevolezza #autocoscienza (coscienza) #senziente sono le 3 parole chiave dell’articolo.  Essere consapevoli è un aspetto fondamentale dell’essere vivi. Ma spiega lui “Possiamo trovare consapevolezza in ogni tipo di vita, dai batteri agli esseri multicellulari. Naturalmente ci sono molti gradi di consapevolezza. Se tocchi una stufa calda, la tua consapevolezza appare prima a un livello totalmente inconscio. Togli immediatamente la mano dal fornello, grazie a una decisione presa a livello di periferia, prima che il tuo cervello si accorga del calore. Dopo un po’ (alcune centinaia di millisecondi) il tuo cervello riceve l’informazione sulla stufa calda, ne diventi consapevole e agisci consapevolmente su di essa (ma la tua mano si è già allontanata dalla stufa!). Ci sono livelli di consapevolezza anche in questo caso molto semplice…”.

Per l’autocoscienza l’esempio è dedicato all’alcool: “Bevi un drink di troppo e la tua autocoscienza è destinata a scendere di una tacca… Gli animali sono consapevoli di sé? Molti studi rispondono affermativamente, mostrando diversi livelli di coscienza in diversi animali. In qualche modo è correlato alle dimensioni del cervello”.

Poi passa al senziente  che “si riferisce alla profondità di consapevolezza che un individuo (un’entità?) possiede su se stesso o sugli altri. Quindi in un certo senso è connesso alla consapevolezza e all’autocoscienza”.

Oggi una macchina può ottenere più dati attraverso i suoi “sensi” di quelli che possiamo ottenere attraverso i nostri sensi, e abbiamo continuato a crescere nella capacità di analizzare quei dati e prendere decisioni”.

Insomma le macchine imparano e come i bambini stanno crescendo  ma questo significa che quelle macchine/software stanno iniziando a provare dei sentimenti?

Per Roberto Saracco “sicuramente no”.  Ma siamo in una zona grigia sulla quale vale la pena riflettere perché Roberto Saracco conclude con una domanda: “Se (e quando) percepiremo una macchina/IA come un essere senziente … e, naturalmente, esamineremo le implicazioni etiche e sociali che ne derivano. Anche in questo caso penso che non ci sarà un giorno in cui ciò accadrà. Accadrà nel corso di molti anni e ce ne accorgeremo solo guardando indietro”.