Auto a guida autonoma: rivoluzione tecnologica e (forse) normativa

«Alla guida di un treno che non può frenare, ma soltanto deviare il suo percorso su un binario secondario, azionando una leva di scambio, si sceglierà di proseguire la corsa e uccidere cinque persone legate a quel binario o percorrere il tragitto secondario, uccidendo così l’unica persona legata a quest’ultimo?»

È il celebre dilemma del carrello, un esperimento mentale di natura etica.

Ecco, in questo articolo non si parlerà dell’etica delle auto a guida autonoma, tema certamente affascinante, ma piuttosto di una questione ancora poco dibattuta: la responsabilità (civile) associata alle self-driving cars.

Nel 2010 l’Unione Europea ha emanato la Direttiva n. 40 (c.d. ITS) per tracciare un “Quadro generale per la diffusione dei sistemi di trasporto intelligenti nel settore del trasporto stradale”, seguita, in Italia, dal Decreto del Ministero delle Infrastrutture e dei Trasporti del febbraio 2013, concernente “la diffusione dei sistemi di trasporto intelligenti”. Norme perlopiù tecniche con un inciso sulla responsabilità da circolazione di automobili self-driving: “si applicano, in tema di responsabilità per danno da prodotti difettosi, le previsioni di cui al vigente quadro comunitario e nazionale di riferimento”.

Restando immutato il quadro normativo, la tutela dei consumatori e dei pedoni sarà, quindi, garantita dalle norme sulla responsabilità da prodotto difettoso; quanto ai proprietari e ai conducenti, invece, si farà riferimento alle norme in materia di danno da circolazione e/o da attività pericolosa.

Pertanto, sembrerebbe che il Legislatore europeo abbia affidato all’esegesi della normativa esistente in ciascuno Stato membro -tenuto in debito conto il contesto giuridico europeo – il compito di trovare soluzioni a problemi parzialmente nuovi, posti dalla tecnologia a guida autonoma. Senonché, con una Risoluzione del febbraio 2017, il Parlamento europeo ha invitato la Commissione a sottoporre al Legislatore europeo una proposta di direttiva che individui norme civilistiche affinché gli Stati membri disciplinino in maniera coerente ed uniforme gli aspetti relativi all’impiego di macchine “intelligenti” e le conseguenze sul piano giuridico.

L’Ue agisce certamente per abbattere le barriere che impediscono il libero scambio di beni e servizi nel mercato interno e la circolazione di persone e cose, ed è per questo che mira a costituire un corpus normativo nuovo, pur senza tener conto della comunanza di principi e regole tra gli Stati europei di civil law in materia di responsabilità extracontrattuale, che potrebbero essere applicati ai nuovi contesti produttivi, industriali e commerciali.

Non è una scelta banale quella che è chiamato a compiere il Legislatore europeo: un quadro giuridico certo e prevedibile permette, da un lato, alle imprese di pianificare le strategie di sviluppo e calcolare i costi di una eventuale (nuova e diversa) responsabilizzazione, dall’altro di tutelare i diritti di chi viene a contatto con la nuova tecnologia, potendo esserne leso.

E vi è, poi, la novità (presunta) del fenomeno: l’algoritmo è in grado di apprendere dall’esperienza e modificare, di conseguenza, il suo comportamento fino a diventare imprevedibile o addirittura non evitabile. È il c.d. “responsibility gap”, individuato dalla citata Risoluzione quale nucleo centrale della “responsabilità dei robot” che, se considerato apoditticamente, potrebbe condurre alla creazione di falsi problemi e dunque ad azioni normative inutili e pregiudizievoli per la certezza del diritto.

Un robot è autonomo poiché ha la “capacità di prendere decisioni e metterle in atto nel mondo esterno, indipendentemente da un controllo o un’influenza esterna e ed il suo livello varia a seconda del grado di complessità con cui è stata progettata l’interazione di un robot con l’ambiente”, sia esso la strada, la rete composta da altri dispositivi interconnessi grazie a protocolli sempre più performanti (vedi il 5G) o il flusso di dati proveniente dalle banche dati online. Per questo l’ideatore, il programmatore, il produttore e l’utilizzatore sarebbero estranei al nesso causale fra la condotta della macchina e l’evento dannoso, spingendo il Parlamento europeo ad immaginare un contesto normativo inedito, che andrebbe, tuttavia, ad innestarsi nelle trame consolidate e sistemiche degli ordinamenti giuridici degli Stati membri, contenenti norme d’impostazione codicistica.

La Risoluzione del 2017 immagina due scenari:

  • Una responsabilità oggettiva (strict liability), che richiede la semplice prova del danno avvenuto e del nesso di causalità tra la condotta lesiva dell’auto a guida autonoma e il danno cagionato;
  • Un approccio basato sulla gestione dei rischi, che “non si concentra sulla persona ‘che ha agito con negligenza’ in quanto responsabile a livello individuale bensì sulla persona che, in determinate circostanze, è in grado di minimizzare i rischi e affrontare l’impatto negativo.

 

Così concepiti, gli scenari appaiono, in realtà, due aspetti della medesima fattispecie. La responsabilità sussiste a prescindere dall’indagine dell’elemento soggettivo e purché si dia la prova del nesso eziologico fra condotta ed evento; la scelta del responsabile, lungo la catena dei soggetti interessati (ideatore, produttore, distributore) si basa sulla individuazione di colui che avrebbe potuto gestire al meglio il relativo rischio. Inoltre, se l’imputazione della responsabilità cadesse sul distributore o sul produttore, questi potrebbe “risalire la catena” agendo in via di regresso o in garanzia nei confronti di chi lo precede.

Un sistema, quello delineato, compatibile con il regime di responsabilità da prodotto difettoso di cui alla Dir. 85/374/CEE, oggi contenuto negli artt. 114-127, Codice del Consumo. Le formulazioni neutre ed ampie di prodotto (“ogni bene mobile, anche se forma parte di un altro bene mobile o immobile”) e di difetto del prodotto (“un prodotto è difettoso quando non offre la sicurezza che ci si può legittimamente attendere tenuto conto di tutte le circostanze”) nonché l’estensione della responsabilità (con esclusione di quella del produttore del prodotto finito) a coloro che hanno prodotto la materia prima, così come un singolo componente, consentono di rispondere alle esigenze di tutela prospettate dall’avvento delle self-driving cars e al contempo alle imprese di calcolare i costi della responsabilizzazione delle loro condotte.

Il “vuoto di responsabilità” lamentato dalla Risoluzione in esame riguarda essenzialmente l’ideatore dei processi attraverso cui la macchina seleziona, raccoglie ed elabora i dati, in altre parole l’ideatore dell’algoritmo. Mediante una rimodulazione della Direttiva 85/374/CEE si potrebbe definire con maggiore chiarezza cosa si debba intendere per “componente”, estendendo il concetto anche all’algoritmo e concedendo al soggetto leso un’azione diretta nei confronti dell’ideatore, fermo restando la responsabilità degli altri soggetti coinvolti nel medesimo danno, fra cui il produttore, che sarà chiamato a valutare con attenzione, in un’ottica di risk management, la scelta della società fornitrice dell’algoritmo, approntando un puntuale regolamento contrattuale ed eventualmente  stipulando una polizza assicurativa a copertura delle richieste risarcitorie, come indicato dallo stesso Parlamento europeo.

Non si può escludere del tutto la responsabilità del produttore per il solo fatto che l’algoritmo non è comprensibile e/o non si hanno gli strumenti per interventi correttivi a seguito della manifestazione di un difetto. Sarebbe contrario alla ratio della Direttiva, che prevede una responsabilità solidale come già ricordato e, d’altro canto, i lauti profitti che si prospettano per le case costruttrici comportano l’assunzione delle conseguenti ed inevitabili responsabilità in ossequio al principio cuius commoda eius incommoda. Né, a maggior ragione, si può attribuire all’utilizzatore una responsabilità per danni cagionati dalle macchine, perché eccessivamente oneroso ed in un contesto talmente complesso dal punto di vista tecnologico da non poter pretendere un intervento manutentivo o correttivo da parte del conducente (non si tratta di rabboccare la vaschetta dell’acqua insomma!)

Immaginando scenari futuri in cui l’IA sarà così sviluppata da superare l’intelligenza umana, la Risoluzione del 2017 si spinge fino ad indentificare una personalità giuridica dei robot, “persone elettroniche responsabili di risarcire qualsiasi danno da loro causato”. Ora, ai fini della tutela risarcitoria che qui si sta discutendo, il riconoscimento di una siffatta personalità giuridica elettronica non apporta alcun beneficio: non avrebbero comunque un proprio patrimonio con il quale risarcire i danneggiati (a meno che il Parlamento europeo non stesse immaginando gli androidi di Blade Runner) e dovrebbero essere destinatari di precetti normativi che, a ben vedere, riguardano gli ideatori, i produttori o gli utilizzatori, persone fisiche o giuridiche.

D’altro canto, la proposta di istituire un regime assicurativo obbligatorio e un apposito fondo per garantire al soggetto leso il risarcimento del danno cagionato dal robot in caso di mancata copertura, sulla falsa riga del sistema di RC auto e del Fondo di garanzia delle vittime della strada, appare più realistica e confacente al governo delle responsabilità nella circolazione di auto a guida autonoma.

Non c’è dubbio che le self-driving cars, soprattutto nel momento in cui diverranno completamente autonome e impediranno l’intervento umano, consentiranno di ridurre drasticamente il numero di sinistri, senza eliminarli del tutto. Nelle dinamiche relative al rapporto fra danneggianti e danneggiati, tenuto conto della disciplina della responsabilità da prodotto difettoso, occorrerà valutare se è stato fatto un uso dell’auto a guida autonoma cui poteva essere ragionevolmente destinata e che i comportamenti tenuti, in relazione ad essa, siano stati quelli che si potevano ugualmente prevedere. Ne deriverebbe, in caso contrario, un concorso causale del danneggiato ed una riduzione del risarcimento del danno.

Richiamare le norme sulla responsabilità da prodotto difettoso potrebbe generare un circolo virtuoso tra i produttori, spingendoli ad eliminare quei difetti che altri esemplari della medesima specie, prodotti dai competitors, non hanno, evitando, cosi, che le loro auto a guida autonoma siano qualificate come “difettose” ai sensi dell’art. 117, par. 1, lett. b), Cod. Cons.

Fino a che punto si può chiedere all’ideatore di rispondere dei difetti di un robot seagente, capace di imparare ed agire in risposta a degli stimoli esterni come fa un essere umano? Non dovremmo forse ammettere che una risposta imprevedibile e imprevista faccia parte del c.d. rischio da sviluppo, elemento che escluderebbe la responsabilità dell’ideatore dell’algoritmo? La Direttiva 85/374/CEE, più volte richiamata, all’art. 15, par. 1, lett. b), prevede che uno Stato membro possa derogare a tale esenzione generale. Una scelta lasciata alla discrezionalità dei singoli stati membri, dunque, che non sembra in armonia con la costruzione di un quadro normativo europeo comune. Estendere la disciplina della responsabilità da prodotto difettoso oltre i confini consumeristici, con gli opportuni aggiustamenti, invece, permetterebbe di avere una base civilistica comune a tutela dei danneggiati, senza impedire lo sviluppo di tecnologie indispensabili e vitali per l’industria europea.

Occorrerà, infine, uno sforzo collettivo nell’elaborazione di norme tecniche e standard comuni per regolare aspetti in tema di sicurezza ed etica, tenendole separate da norme squisitamente civilistiche. Si correrebbe, altrimenti, il rischio di un “inquinamento” reciproco generando incertezza giuridica a danno dello sviluppo di nuove tecnologie e dei consumatori.

[Articolo edito su Rivista ECLegal – Euroconference]