Guida autonoma: le implicazioni etiche e legali

Dal 5 all’8 gennaio 2023 a Las Vegas si è tenuta “CES – Consumer Technology Association”, la fiera tech più influente al mondo in cui si ritrovano gli innovatori globali e le tecnologie più avanzate.

Una delle tematiche ha riguardato l’automotive e la vehicle technology (tecnologia dei veicoli): concept car, veicoli connessi, mobilità autonoma e funzioni come il cruise control adattivo, la prevenzione delle collisioni e la guida in corsia.

La vehicle technology sta aprendo la strada a innovazioni dal grande impatto e dalle rilevanti implicazioni etiche e legali, evidenti nelle auto a guida autonoma o semiautonoma.

Un’auto a guida autonoma – grazie a strumenti tecnologici come sensori, radar, telecamere, intelligenza artificiale – è in grado di navigare l’ambiente senza l’intervento umano, spostandosi da un punto A a un punto B percorrendo strade qualsiasi. Un veicolo autonomo è in grado di interpretare le informazioni ricevute per individuare percorsi appropriati, ostacoli e segnaletica rilevante.

In realtà già da tempo ci sono in circolazione numerosi veicoli dotati di livelli base di autonomia, ma il progresso sta avanzando rapidamente e sulla scena si stanno affacciando modelli sempre più avanzati e complessi, anche concettualmente.

Esistono infatti diversi livelli di automazione di un veicolo:

0 – Nessuna automazione
1 – Assistenza alla guida
2 – Automazione parziale
3 – Guida autonoma limitata
4 – Automazione elevata
5 – Automazione completa

e, secondo alcune stime, entro il 2030 il 70% delle auto sarà a una vettura autonoma o semiautonoma.

Le implicazioni etiche

La tecnologia ha sempre suscitato riflessioni filosofiche, innanzitutto per la sua natura duplice: può portare a risultati miracolosi o distruttivi, a seconda dell’utilizzo fatto dall’essere umano (nell’imperfezione che lo caratterizza).

Nel momento in cui alla tecnologia viene data un’autonomia rispetto all’intervento umano, si rivela fondamentale dotarla di procedimenti motivazionali: la capacità di compiere scelte morali fondate su valori etici. Un esempio pratico: in caso di incidente, sarebbe più eticamente corretto investire un solo bambino o un gruppo di persone anziane (essendo entrambi gli scenari inevitabili)?

Si pongono dei dilemmi etici rilevanti e la complessità aumenta perché nonostante la morale sia soggettiva, la tecnologia richiede scelte predefinite che dovrebbero presupporre un sistema valoriale oggettivo e immutabile.

Gli aspetti che potrebbero essere approfonditi sono molteplici e crediamo che per avere un quadro generale della tematica sia importante accennare alla sua complessità filosofica, tuttavia in questa sede vogliamo approfondire gli aspetti legali.

Le implicazioni legali

Diritto ed etica spesso si intrecciano, così che quesiti che si pone una disciplina sono comuni anche all’altra.

Dal punto di vista giuridico, infatti, sono almeno tre le questioni aperte, oggetto di dibattito:

1. la definizione stessa di “conducente”;
2. il riparto della responsabilità tra essere umano e macchina, specialmente in caso di incidente;
3. il trattamento dei dati personali raccolti da questi veicoli.

Andiamo con ordine.

Il concetto di “conducente”, con l’avvento delle tecnologie che consentono autonomia ai veicoli nella propria guida, cambierà radicalmente.

Se oggi è pacifico, almeno dal punto di vista strettamente normativo, che “conducente” sia “ogni persona che assume la guida di un veicolo, autoveicolo od altro (compresi i velocipedi)” (art. 1 lett. v della Convenzione di Vienna sulla circolazione stradale del 1968, ratificata in Italia con L. n. 308/1995), definizione confermata anche dal nostro Codice della Strada (art. 46), con il progressivo ingresso sul mercato di veicoli a guida autonoma o semiautonoma, questa qualificazione di “personalità” e “umanità” del conducente è, necessariamente, destinata a essere superata, o quantomeno dovrà essere contemperata con gli automatismi che sottostaranno la tecnologia di guida.

Inoltre riducendo la necessità di intervento umano, si aprono scenari di interpretazione sul concetto, collegato, di “controllo” sul veicolo, che è destinato a trasformarsi in “supervisione” e “monitoraggio” (non sarà possibile, almeno nel breve periodo, accomodarsi su un’auto in corsa e leggere un buon libro…!) e che, in ogni caso, non potrà escludere la possibilità che la persona al posto di guida prenda il controllo del veicolo nel momento in cui voglia o debba farlo.

Ciò, indubbiamente, presta il fianco a diverse perplessità sul secondo dei temi citati sopra, ossia quello della responsabilità dei veicoli “senza” conducente.

Se, infatti, è necessario che il conducente sia sempre in grado di governare il proprio veicolo, ad oggi non è ancora chiaro come egli possa farlo nel momento in cui la guida sarà completamente automatizzata, con evidenti difficoltà nell’individuare correttamente i profili di colpa e la sua imputazione verso il soggetto corretto (senza menzionare la difficoltà, logica e giuridica, di considerare effettivamente responsabile qualcosa di diverso dall’essere umano).

Probabilmente, provando ad analizzare più approfonditamente la questione, il focus dovrà nuovamente essere centrato sul “conducente”, sulla sua formazione, e sull’allenamento dei tempi di reazione in caso di situazione di pericolo, attuale o anche solamente potenziale.

Ultimo aspetto, ma non per importanza, da considerare quando si affronta il tema della guida autonoma, è quello della sicurezza non in senso fisico, ma informatico.

Infatti, la progettazione di auto autonome e semiautonome comporta l’utilizzo di tecniche di machine learning e intelligenza artificiale e necessitano di un collegamento alla rete internet.

Ciò determina, ovviamente, la creazione di:

• un nuovo punto di accesso a dati delle persone presenti nel veicolo, anch’esse sempre più “connesse”;
• un allargamento dei potenziali punti di attacco informatico (si pensi all’hacker che si introduce nel sistema di guida autonomo di un autobus e causi un incidente)

con necessità quindi di pensare a queste auto “intelligenti” integrate, by default e by design, da sistemi di protezione dei dati personali adeguati ai potenziali rischi e alle sfide della sicurezza informatica.

Come spesso accade, la tecnica corre molto più velocemente rispetto al diritto positivo: occorrerà valutare come il nostro Legislatore nazionale deciderà di recepire le previsioni sovranazionali (le norme convenzionali, infatti, non sono direttamente applicabili negli Stati firmatari, ma occorrono strumenti legislativi di recepimento interno).

Dal nostro punto di vista, occorre saper cogliere – come sempre – in ottica costruttiva le opportunità che la sfida dell’innovazione, specie se introdotta attraverso l’asse della tecnologia, ci offre.

La persona, come in tutte le innovazioni, deve rimanere al centro del processo iterativo, modificando eventualmente il proprio ruolo, ma senza perdere la propria centralità.

La tecnologia da sola non può sostenere il “peso” dell’innovazione, quella con la I maiuscola, ma deve essere sorretta anche dagli altri due assi: persone, sempre più e sempre meglio formate e informate, e processi, in questo caso regole chiare e precise che delimitino gli ambiti di competenza e di responsabilità dei diversi attori e operatori che si affacciano in questo nuovo mercato. Nel settore della guida di veicoli autonomi e semiautonomi c’è ancora parecchio da fare, ma certamente si conosce la direzione da prendere.