Roboetica: aspetti etici – legali e sociali

Gianmarco Veruggio: Ideatore della Roboetica (aspetti etici, legali e sociali della robotica)

È sufficiente correre i media per convincersi che una rivoluzione tecnologica è imminente: quella della robotica. Questa disciplina, e le sue applicazioni, sono uscite dall’ambiente segregato delle fabbriche di autoveicoli e stanno entrando nelle nostre case, negli ospedali, uffici e nei servizi. I robot sono sicuramente un formidabile strumento, ma è inevitabile che suscitino problemi e interrogativi che finora sembravano riservati al campo della fantascienza. A dieci anni dalla sua nascita, la Roboetica – l’etica applicata agli aspetti etici, legali e sociali della robotica e delle sue delle applicazioni – si sta dimostrando un utile strumento culturale per stimolare una maggiore sensibilità dei ricercatori robotici nei confronti delle loro responsabilità verso la società. La dimostrazione è il crescente numero di autorevoli scienziati che si mostra interessato e partecipe, e il fiorire di iniziative, leggi e progetti sul tema.
La tecnologia applicata alla vita degli umani suscita sempre problemi etici. Due dei campi più avanzati della scienza e della tecnologia, la Fisica Nucleare e l’Ingegneria Genetica, sono stati costretti ad affrontare le conseguenze delle applicazioni delle loro ricerche sotto la pressione di eventi drammatici e complessi. In molti paesi, l’opinione pubblica, preoccupata da alcuni di questi effetti, ha chiesto di fermare le applicazioni di entrambi i settori, o di controllarli strettamente.
La stessa robotica è una nuova scienza ancora allo stato nascente, nata dalla fusione di molte discipline appartenenti al campo delle scienze umane e di quelle naturali. Chiunque, anche da amatore, si avvicini a essa, ne potrà intravedere e poi immaginare le mille strade e rivoli che questa disciplina e le sue applicazioni potranno percorrere, invadendo campi tradizionali del sapere e aprendo problemi nuovi e complessi di natura etica, filosofica, sociale, legale. Infatti, a differenza di altri sistemi tecnologici, seppure sofisticati – come l’energia nucleare – o di altre discipline – come la bio-ingegneria – la robotica realizza macchine intelligenti ed autonome, che non sono soltanto oggetti tecnologici ma, sempre più, soggetti dotati di capacità decisionali. A questo punto, la domanda classica sulla titolarità della responsabilità (chi è il responsabile/i dell’errore o del danno commesso o provocato da una macchina? del progettista? del produttore? dell’utente finale?) vedrà l’emergere di un’altra figura: il robot.
Sono soprattutto le ricerche e applicazioni nel settore della robotica di servizio applicata al medicale, alla biorobotica, alla robotica per assistenza e alla robotica militare a sollevare inquietudini e perplessità. Ci poniamo domande: “Potrà un robot fare “il bene” o “il male”? I robot potranno essere pericolosi per l’umanità?”. “Dovremmo investire risorse e intelligenze su altri problemi?”.

Il Primo Simposio Internazionale di Roboetica
Nel 2002, Gianmarco Veruggio, ideò il concetto e il termine di Roboetica, per indicare il rapporto positivo che dovrebbe intercorrere tra progettista/produttore/utente di robot e queste macchine intelligenti. Non solo norme negative, dunque, ma la complessa relazione che collega gli umani ai loro artefatti intelligenti e autonomi.
Nel gennaio 2004, in collaborazione con scuola di Robotica, l’Arts Lab della Scuola Superiore Sant’Anna di Pisa, Veruggio organizzò il Primo Simposio Internazionale di Roboetica. Filosofi, giuristi, sociologi, antropologi e moralisti, insieme con scienziati robotici, da Europa, Giappone e Stati Uniti si riunirono a Villa Nobel, a Sanremo, per contribuire a gettare le basi di un’etica della progettazione e impiego dei robot.
Si discusse di etica artificiale, ma il punto chiave furono le riflessioni sull’etica umana. Secondo l’autore, infatti “prima ancora di affrontare il problema dell’etica artificiale di cui saranno dotate le nostre macchine intelligenti, ci sta a cuore l’etica umana di chi queste macchine progetta, produce e impiega (..) Noi robotici dobbiamo assicurare il nostro impegno per aumentare la consapevolezza del pubblico circa le problematiche della robotica, affinché la società possa prendere parte attiva nel processo di creazione di una coscienza collettiva, in grado di individuare e prevenire un uso errato della tecnologia. La speranza è che si possa giungere a un’etica condivisa da tutte le culture, tutte le nazioni e le religioni, così che la costruzione e l’impiego di robot contro gli esseri umani sia considerato un crimine contro l’umanità”.

Importanti passi della Roboetica
A seguito del Simposio di Sanremo, la IEEE-Robotics&Automation Society ha dato vita nel 2004 a un Comitato Tecnico per la Roboetica, per fornire alla IEEE-RAS una struttura che si occupi delle implicazioni etiche delle ricerche robotiche, attraverso la promozione di discussioni tra ricercatori, filosofi, e moralisti, e promuovendo la definizione di strumenti per trattare problemi etici nel settore della Robotica. Veruggio ne è stato per alcuni anni il Co-Chair.
Nel 2005 Euron II, l’allora Network della Ricerca Europea sulla Robotica del VI Programma Quadro 2003-2007, ha finanziato per il 2005/2006 un Atelier sulla Roboetica che è stato affidato a Gianmarco Veruggio e a Scuola di Robotica, in collaborazione con CNRS-Laboratoire d’Analyse et d’Architecture des Systèmes (LAAS), e la Scuola Superiore Sant’ Anna. L’Atelier sulla Roboetica si svolse a Genova nel 2006 e produsse la prima Roadmap sulla Roboetica. Obiettivo della Roadmap è stato di sviluppare un linguaggio comune della Roboetica tra gli studiosi e gli stakeholder; di affrontare problemi in discipline contigue; di condivide idee; di dare inizio a un’indagine globale sui principali paradigmi dell’etica applicata alla tecnologia robotica nelle diverse culture, religioni e fedi (una “Stele di Rosetta modulata a seconda delle diverse culture, religioni, fedi); attivare studi specifici.
Nel 2007, durante la conferenza annuale ICRA (International Conference on Robotics and Automation) la Roadmap è stata presentata, nell’ambito di un Workshop molto seguito, cui partecipò anche una autorevole delegazione del Governo della Corea del Sud. Dalla presentazione della Roadmap sulla Roboetica fino ad oggi non si contano gli interventi, gli studi, le conferenze e i progetti di legge sviluppati sulla Roboetica. Siamo a conoscenza di un progetto di legge della Repubblica di Corea dedicato alla Roboetica (Korean Roboethics Charter) e di un interesse profondo dei governi del Giappone per questi aspetti etici e sociali della robotica.
Dal 2006 al 2009 la Commissione Europea ha finanziato nell’ambito del & Programma Quadro un ambizioso progetto chiamato CARE (Coordination Actiom for Robotics in Europe) in cui uno dei sotto progetti era dedicato agli aspetti ELS (Ethical, Legal and Societal) della robotica.
Nel 2010 è nata, grazie ad alcuni giovani ricercatori con base alla Università di Vancouver, la Open Roboethics Initiative (ORI), per iniziativa della giovane robotica AJung Moon e ora con un bel seguito di giovani ricercatori. ORI è un progetto internazionale il cui obiettivo è di realizzare una rete di discussione e sostegno alla Roboetica, dal basso.
Intorno al 2009, a seguito dell’aumentata sensibilità a livello mondiale sulla Roboetica, si aprì una forte campagna contro i robot militari. Fin dall’inizio gli studiosi della Roboetica (Veruggio, Tamburrini, Cordeschi) avevano sottolineato la loro preoccupazione per le applicazioni della robotica al settore militare. Nel 2011, nella famosa conferenza Science for Peace 2011, ideata da Umberto Veronesi, Veruggio lanciò un appello affinche non fosse concessa la “licenza di uccidere ai robot militari (“No Licence to Kill to Robots”).
“I robot militari, infatti, sono già utilizzati in combattimento e miliardi di dollari sono spesi da oltre quaranta nazioni del mondo per lo sviluppo di macchine belliche sempre più micidiali. Si tratta di un fenomeno di enorme portata, che sta avvenendo all’insaputa del grande pubblico e che viene al più descritto come una normale, persino benefica, evoluzione tecnologica, nonostante molti esperti mettano in guardia sui problemi impliciti ai robot militari e sul fatto che questi possono violare le convenzioni di Ginevra e le leggi di guerra vigenti. A monte di tutte queste problematiche tecniche e legali, occorre tuttavia sottolineare una ineludibile questione etica di principio: se sia cioè umanamente ammissibile concedere ad un’entità autonoma non umana la licenza di uccidere un essere umano.
Io credo che l’umanità dovrebbe essere informata e messa nelle condizioni di decidere consapevolmente su questioni che coinvolgono in modo così profondo aspetti fondamentali per la sopravvivenza della nostra specie. Sarebbe folle non aver appreso nulla dall’esperienza delle armi nucleari o dalle problematiche ambientali planetarie”.
La guerra al terrorismo lanciata dal governo degli Stati Uniti contro le basi di al Qaeda in Pakistan e Yemen, Afganistan e Somalia utilizza droni armati controllati da basi negli Stati Uniti. I droni Predator e Reaper hanno spesso fatto vittime tra i civili innocenti, a causa della difficoltà di individuazione e selezione dei bersagli, in remoto. Da parte di diversi enti e personalità è stata lanciata una campagna “Stop Killer Robot”. Tra gli interventi quello del Rapporteur delle Nazioni Unite, Ben Emmerson, sulla situazione dei diritti umani nella guerra al terrorismo con uso di droni e sulle perdite di vite umane tra i civili provocate dai droni armati. Nel febbraio del 2014 il Rapporteur ha pubblicato un Rapporto Speciale dedicato ai danni ai civili provocati da un errato uso di droni armati. Questa campagna ha interessato personalità del mondo della cultura, dello spettacolo e della scienza. Le vincitrici del Premio Nobel, per esempio, hanno organizzato una manifestazione alle Nazioni Unite chiedendo un bando preventivo delle armi robotiche.

La Roadmap sulla Roboetica
Avendo come riferimento la Carta dei Diritti Fondamentali dell’Unione Europea, i redattori della Roadmap hanno inteso raccogliere riflessioni ed esperienze dei gruppi di Roboetica nati in molte università e dipartimenti di ingegneria a livello mondiale.
Un punto che è apparso immediatamente critico, data l’estrema interdisciplinarietà della robotica, è la mancanza di un glossario condiviso. Questo perché ogni disciplina coinvolta ha una propria tradizione di terminologie e formalismi. Inoltre, l’internazionalizzazione della ricerca e la globalizzazione economica fanno sì che gli scienziati provengano da paesi e culture assai lontane. Se pensiamo al dibattito millenario sui concetti fondamentali che contraddistinguono la specificità dell’essere umano, non v’è da stupirsi che, in una disciplina giovane come la robotica, termini come intelligenza, autonomia o coscienza siano ben lungi dall’essere univocamente intesi. Si può quindi facilmente immaginare quanto sia difficile universalizzare concetti sensibili come la dignità dell’individuo o il rispetto della privacy. Sulla base della nostra concezione di persona umana, della sua dignità e rispettabilità, e dei suoi rapporti con i prodotti del proprio ingegno, deriviamo una serie di regole e comportamenti che riteniamo accettabili e da favorire, e da qui le leggi.
Vi sono culture, anche tecnologicamente ricche, dove i diritti delle donne e dei bambini non sono considerati secondo le prescrizioni della Carta dei Diritti Fondamentali dell’ONU. Eppure, queste culture sono dotate di tutte le innovazioni tecnologiche immaginabili. Vi sono altre culture – come la società giapponese – dove i concetti di etica e di responsabilità individuale non sono vissuti e concepiti come in Europa, per esempio.
Vi è una seconda, importante, meta questione: fino a che punto di imitazione dell’essere umano si dovrebbe arrivare nel progettare la forma dei robot (molto simili agli umani?)? Oppure: di quale grado di autonomia robotica dovremmo dotare i robot? E anche: che cos’è l’intelligenza umana e che cos’è una macchina intelligente? E, inoltre: quanto è etico sostituire esseri umani con macchine intelligenti nell’assistenza e cura di altri umani che, proprio perché in condizioni difficili, avrebbero bisogno di un sostegno emotivo? E d’altra parte: non è maggiormente etico fornire a esseri umani in condizioni di disagio un’assistenza non emotivamente coinvolta, permettendo a personale umano di dedicarsi ad attività nobili come la compagnia e un’assistenza affettuosa?
Nella Roadmap sulla Roboetica, occorreva distillare questi problemi essenziali declinati nei vari capitoli delle applicazioni della robotica.

Problemi di Roboetica
La Roadmap sulla Roboetica ha preso in considerazione i principali settori applicativi della robotica e, in questi, solo i problemi nuovi, originali e urgenti della robotica. Nuovi e originali perché la Roboetica condivide questioni di generale interazione umano-tecnologia con altre etiche applicate (bioetica, neuroetica, computer etica), mentre vi sono problemi che specificatamente riguardano i robot. Urgenti, perché se alcuni ricercatori hanno posto problemi relativi ai diritti dei robot, o ai problemi futuri di macchine che esibiranno comportamenti coscienti e auto-coscienti, fino ad arrivare ad ipotesi di robot che evolveranno verso nuove forme di vita, i redattori della Roadmap sulla Roboetica hanno considerato questi problemi troppo oltre la portata delle nostre attuali conoscenze – mentre vi sono questioni assai urgenti da affrontare relativamente ad alcune applicazioni di robotica.
I settori che la Roadmap sulla Roboetica ha preso in considerazione sono stati quelli contenuti nella Euron Robotics Roadmap (2005-2006): umanoidi, intelligenza artificiale, corpo artificiale; sistemi di produzione avanzati; robotica industriale; assistenti robotici adattativi; domotica; robot di servizio in ambienti chiusi; robot ubiqui; robotica networked; Internet Robotics; Robot ecology; Outdoor Robotics; robotica in ambiente marino, aero, robotica spaziale; robotica medica e qualità della vita; robotica chirurgica; biorobotica; robot per assistenza; robotica militare; armi intelligenti, soldati robotici, superumani; edutainment; robot educazionali, giocattoli robotici, arte robotica.
Per ogni settore, sono stati elaborati i possibili problemi etici, sociali e legali collegati. Per esempio, nel caso degli umanoidi, le classi dei problemi evidenziati sono state:
• Affidabilità dei sistemi di valutazione interna dei robot;
• Difficoltà e anche impossibilità predittive relativamente al loro comportamento;
• Necessità della tracciabilità e della valutazione delle azioni e procedure;
• Necessità della identificazione di ogni robot;
• Necessità di affidabilità, sicurezza, dependibilità.
La Roadmap sulla Roboetica ha proposto anche alcuni suggerimenti, per esempio, quello relativo alla tracciabilità. Infatti, in un sistema così complesso come quello di un robot autonomo dotato di capacità di apprendimento risulterebbe difficile risalire al sistema ove si sia verificato l’errore o il malfunzionamento. Per questo, analogamente agli aeroveicoli, bisognerà inserire nei robot una o più scatola/e nera/e che registri i dati relativi alle operazioni e li conservi integri anche nei casi di rotture gravi.
Vi è un settore dove i robot hanno già determinato dei cambiamenti, anche drammatici, ed è il settore industriale, dove la sostituzione del personale umano con robot ha creato problemi di disoccupazione, problemi che potranno solo aumentare, a man a mano che i robot diventeranno sempre più autonomi. Per quanto riguarda gli effetti nella società, ci si chiede, per esempio, che cosa succederà quando questi robot intelligenti saranno i nostri aiutanti e maggiordomi, e quando la nostra vita dipenderà da loro. La dipendenza dai robot potrebbe diventare più pericolosa e devastante di quella dalla tv, da Internet e dai videogame.
Certamente, maggiore sarà il grado di abilità dei robot di cooperare con gli umani, maggiore sarà la loro adattabilità al nostro ambiente, e quindi permeabilità nella nostra società. Questo non significa necessariamente che essi dovranno avere aspetti umanoidi: per esempio, un robot che sostituisse i minatori in ambienti pericolosi e nocivi non sarà realizzato a forma umana. Tuttavia, la inevitabile crescita dell’interazione umano-robot richiederà interfacce operative sempre più a misura d’uomo. Questo è un aspetto della robotica che è studiato dalla Human Robotics Interaction. Certamente, qualora i robot abbiano compiti di assistenza diretta di umani (nel caso di assistenza di anziani, disabili) o di operatività di collaborazione con umani, la forma antropomorfica aiuterà sotto vari aspetti. Anche qui, abbiamo elementi di roboetica, sia positiva, vale dire progettare forme e abilità robotiche adatte agli umani; sia di attenzione, ovvero, lo studio delle implicazioni psicologiche e sociali relative al circondamento di umani da parte di robot umanoidi. Problemi a venire, ma non da sottovalutare.
L’applicazione dei robot al campo della sanità avrà risultati senza dubbio positivi; ma occorre sorvegliare gli abusi. L’Etica Medica dovrà studiare questioni che riguardano la robotica chirurgica – per esempio la deviazione collegata allo spostamento dell’attenzione dal paziente alla tecnologia. Un altro settore fondamentale è la Bio-robotica, ovvero la progettazione ed applicazione di protesi robotiche e sistemi bionici ibridi. In questo contesto, la Robotica sta incontrando problemi affrontati da un altro punto di vista dalla Bioetica.
In ultima analisi, uno dei settori che saranno maggiormente chiamati in causa sarà il Diritto. Chi sarà ritenuto responsabile delle azioni dei robot? Il progettista? L’utente? Il robot?

Leggi l’articolo di Gianmarco Veruggio pubblicato nel numero di Media Duemila di luglio-agosto 2005