INTERVENTI
Dal 2009 ad oggi – quando molte aziende si sono trovate coinvolte nella vendita e nella prototipazione di veicoli senza conducente - il dibattito sulle questioni etiche, legali e sociali (ELS) dei veicoli autonomi si è intensificato, soprattutto in conseguenza di incidenti gravi e letali che si sono verificati nel corso della sperimentazione di tale nuova tipologia di veicolo. Il workshop affronta, attraverso l'analisi di 4 aree di studio, i principali problemi ELS oggi presenti nella progettazione, produzione e utilizzo di veicoli autonomi.
"Introduzione alla Roboetica"
Gianmarco Veruggio
"La Robotica è una nuova scienza che sta nascendo dalla convergenza di gran parte delle attuali discipline, sia tecnico-scientifiche che umanistiche, e che sta iniziando a svelare il proprio reale potenziale al grande pubblico, finora abituato a considerarla soltanto un effetto speciale nei film di fantascienza. Però, come in ogni altro settore del progresso, sta emergendo il classico problema del doppio uso. Cioè, accanto alle innumerevoli applicazioni utili e benefiche, sono possibili altrettante applicazioni malevole e dannose che, data la potenza della robotica, potrebbero far precipitare l'umanità in uno dei tanti futuri distopici che proprio la fantascienza ha dipinto. Ma anche senza immaginare tali esiti catastrofici, qualunque applicazione della robotica e dell'intelligenza artificiale solleva questioni etiche, legali, psicologiche e sociali. Per questo, data la complessità dell'argomento, è importante approfondire il dibattito in campo roboetico, in particolare in quei settori che sono ormai maturi per invadere il mercato con prodotti commerciali come i veicoli a guida autonoma."
"Mobilità Smart. Veicoli Smart in una Città Smart"
Barbara Masini
"L'industria del settore automotive sta vivendo trasformazioni radicali: un crescente numero di veicoli è connesso e avanza verso livelli di automazione sempre maggiori. L'auto del futuro sarà in grado di muoversi affidandosi non solo ai propri sensori, ma anche a quelli degli altri veicoli e della città in cui si muove, attraverso complessi modelli di cooperazione. Dopo un primo inquadramento dello scenario, in questo intervento si discutono le sfide che i sistemi di comunicazione devono affrontare per rendere davvero efficace la cooperazione tra i veicoli e l'ambiente, nonché la nuova percezione della mobilità come servizio."
"La Responsabilità Civile: dal Conducente al Veicolo"
Valeria De Palma
"La previsione dei nuovi rischi connessi a quelli che sembravano essere gli aspetti benefici delle auto a guida autonoma, ha implicato una reazione giuridica di profonda diffidenza che ha confermato la presenza di un ordinamento ancora troppo legato alle tradizionali istituzioni legislative. In questa fase di transizione occorre valutare a quali principi vigenti nel nostro Codice Civile è possibile aggrapparsi per poi poter iniziare a predisporre una regolamentazione ad hoc per le auto a guida autonoma. Il concetto di Responsabilità Civile dovrà essere plasmato alle nuove esigenze e da una imputazione comunemente soggettiva si arriverà ad una concezione prettamente oggettiva: un vero e proprio passaggio della responsabilità dal conducente al veicolo."
"Elementi di Roboetica nei Veicoli Autonomi"
Fiorella Operto
"I veicoli autonomi (automobili, navi, treni, ecc.) sono raffigurati come i prossimi robot di servizio sul mercato utilizzabili dal consumatore "laico". Si tratta di strumenti davvero potenti, ma una maggiore potenza implica una maggiore responsabilità! Scienziati, ingegneri, sociologi, futurologi e, non ultimo, esperti di assicurazione sono coinvolti in tutti gli ambiti delle ricerche e delle problematice connesse alla AI e robot autonomi ELS. Dal punto di vista roboetico è importante discernere e analizzare le ipotesi su cui le società produttrici incentreranno le soluzioni di affidabilità, sicurezza e protezione. In realtà, tutte queste sono molte azioni e soluzioni relativamente alle quali gli sviluppatori potrebbero non riconoscere gli elementi etici impliciti. Se il sistema non viene reso pubblico, gli utenti non potranno valutare responsabilmente i rischi e conseguentemente bilanciare i loro comportamenti. Per un uso responsabile di qualsiasi veicolo autonomo, gli utenti dovranno essere pronti a coesistere con i robot e a capire come si evolveranno le missioni e le questioni etiche, legali e sociali insite in una "macchina intelligente".
RELATORI
Gianmarco Veruggio
Dirigente di Ricerca CNR-IEIIT
Barbara Masini
Ricercatrice at CNR-IEIIT
Fiorella Operto
Scuola di Robotica
Valeria De Palma
Avvocato
WORKSHOP
Dal 2009 (e precisamente dal progetto delle Google Car) ad oggi – momento storico in cui molte aziende si stanno trovando ad essere realmente coinvolte nella vendita e/o nella prototipazione di veicoli senza conducente (auto: Tesla, Waymo, Ford, Gm, Toyota e Rolls‐Royce per quanto riguarda le navi) - il dibattito sulle questioni etiche, legali e sociali (ELS) dei veicoli autonomi si è intensificato, soprattutto a seguito del verificarsi di alcuni incidenti gravi e letali.
I veicoli autonomi (automobili, navi, treni, ecc.) sono da considerarsi i nuovi robot di servizio per il prossimo mercato.
Si tratta di strumenti davvero potenti, ed una maggiore potenza comporta di conseguenza una maggiore responsabilità.
Scienziati, ingegneri, sociologi, futurologi e, non ultimi, esperti di assicurazioni sono attivamente coinvolti per lo sviluppo di ricerche e per l'analisi delle problematiche connesse alla AI ed ai robot autonomi ELS.
Tutte le Autorità in materia di trasporti nazionali, europee, americane ed asiatiche hanno cominciato ad introdurre nuovi emendamenti alla Convenzione di Vienna sul traffico stradale al fine di tracciare delle nuove linee guida per i veicoli automatizzati.
Dal punto di vista roboetico, è importante discernere e analizzare i presupposti di base adottati per le soluzioni di affidabilità, sicurezza e protezione da parte delle aziende produttrici, nonché le modifiche da dover apportare alla regolamentazione.
In realtà, tutte queste sono molte azioni e soluzioni di cui gli sviluppatori potrebbero non riconoscere gli elementi etici insiti. Le autorità nazionali di trasporto e i consumatori richiedono infatti maggiore trasparenza.
Gli aspetti ELS presenti nei veicoli a guida autonoma vanno inevitabilmente a colpire alcune questioni fondamentali connesse ai diritti umani:
• Rispetto e protezione della dignità umana e della privacy;
• Diritto alla integrità psico-fisica dell'individuo;
• Diritto alla libertà e alla sicurezza;
• diritto alla protezione dei dati personali;
Le aree più interessate sono, quindi, le seguenti:
• Dignità umana e privacy.
• Problemi correlati alla responsabilità
• Effetti psicologici dei robot sulle strutture logiche ed emotive umane e sulle relazioni umane.
Il livello di autonomia del veicolo comporterà tutta una serie di ripercussioni di non poca rilevanza per l'essere umano.
Verranno, infatti, colpiti gli ambiti più disparati, ma tutti fondamentali per il genere umano riguardanti la sicurezza, la protezione dei dati personali e sensibili, la responsabilità civile a seguito dell'eventuale verificarsi di eventi dannosi, senza dimenticare gli effetti psicologici che per la presenza di un robot intelligente inevitabilmente si ripercuoteranno sul genere umano.
Se il veicolo autonomo sarà dotato di un apprendimento automatico, gli ingegneri mireranno conseguentemente ad aumentarne il livello di autonomia.
Il workshop proposto cercherà di delineare i problemi ELS connessi ai veicoli autonomi sotto vari punti di vista.
Dopo una panoramica dei principali scenari tecnologici coinvolti, saranno discusse le ipotesi meta-etiche presenti in alcune decisioni ingegneristiche relative alle prestazioni delle auto autonome. Tali decisioni dovrebbero diventare trasparenti per i regolatori e per gli utenti al fine di consentire scelte ed azioni appropriate da parte degli stessi.
Se la logica alla base della decisione tecnologica non è espressamente messa a conoscenza del pubblico, gli utenti non potranno decidere quale auto acquistare, come utilizzarla e non saranno in grado di comprendere tutti i rischi che ne derivano.
Il consenso informato dell'utente riveste, quindi, un ruolo fondamentale soprattutto in materia di tecnologia innovativa le cui prestazioni sono ancora ignote nella loro totalità.
Per quanto riguarda, invece, l'istituto della responsabilità civile connessa all'introduzione delle auto a guida autonoma, si analizzeranno diversi aspetti.
I nuovi rischi legati alle auto a guida autonoma hanno, infatti, scaturito una prima reazione giuridica di profonda sfiducia portando alla luce un ordinamento ancora impreparato alla diffusione di una innovazione di tale portata.
Tuttavia, i nuovi interventi legislativi e l'imminente progresso del mercato delle auto a guida autonoma, stanno aprendo nuovi spiragli nel panorama giuridico/legale che inducono a sperare in una futura (ma non poi così lontana) e possibile collaborazione tra società e innovazione.
