È giusto uccidere un sospettato con un robot?

La scorsa settimana, giovedì notte, dopo una serata di scioccanti violenze in cui cinque agenti di polizia sono stati uccisi da dei cecchini, la polizia di Dallas ha usato estremi rimedi, sfruttando un “robot bomba” controllato a distanza per uccidere uno dei sospetti. Ora che le autorità degli Stati Uniti hanno ucciso per la prima volta un sospetto da remoto, è importante considerare la legalità di questa decisione—e ciò che potrebbe succedere la prossima volta.

Le leggi degli stati generalmente permettono alle autorità di usare legalmente forza letale contro un sospetto se questo o questa configura una “minaccia imminente” contro un agente o altre parti innocenti, principio sottolineato dallo standard dell’uso di forza “proporzionale e necessaria.” Un caso del 1985 arrivato in Corte Suprema chiamato Tennessee v. Garner permette l’utilizzo di forza letale se un sospetto in fuga configura una “minaccia significativa di morte o di ferite gravi per gli agenti o altri.”

I metodi di uccisione hanno a che fare con i requisiti legali perché ciò possa avvenire? In questo caso probabilmente no, secondo molti esperti legali con cui ho parlato. L’artificiere robot che si è trasformato in una bomba a controllo remoto improvvisata non era una macchina macchina e può, in questo caso, essere vista come uno strumento sfruttato per contenere la minaccia che il sospetto Micah Johnson poneva per gli agenti di polizia di Dallas.

“Si potrebbe giustificare l’utilizzo di robot controllato da remoto per applicare forza letale quando questo utilizzo di forza è giustificato,” spiega Jay Stanley, analista legale per l’American Civil Liberties Union. “A livello legale, la scelta dell’arma nel processo decisionale per l’utilizzo di forza letale non modifica il calcolo di natura costituzionale, che invece si basa sull’essere una minaccia imminente o meno del sospetto, e sulla considerazione riguardo la ragionevolezza dell’utilizzo di forza letale in quelle determinate circostanze.”

“Fondamentalmente si tratta di un attacco via drone improvvisato.”

Venerdì scorso il capo della polizia di Dallas David Brown ha spiegato alla stampa che le autorità “non hanno potuto trovare opzione migliore dell’utilizzo di una bomba robot” per uccidere Johnson, e ha spiegato che prima di utilizzare la bomba, Johnson e gli agenti sono stati coinvolti in una sparatoria.

“Fondamentalmente si tratta di un attacco via drone con il benestare di una giuria,” mi ha spiegato Ryan Calo, professore della University of Washington School of Law specializzato in legge cibernetica e robotica. “Se fossero stati giustificati a lanciare una granata, probabilmente lo son anche in questo caso—Una configurazione dei fatti francamente molto creativa.”

In ogni caso, molti ritengono che il fatto che le autorità abbiano sfruttato un robot per uccidere remotamente un sospetto su suolo americano senza processo si tratta di un caso senza precedenti nella storia americana che farà scattare una nuova era di normative a riguardo. Ho parlato con quattro avvocati di spicco in ambito in tech—Calo, Stanley, Elizabeth Joh della UC Davis School of Law e Ian Kerr, Canada Research Chair di Ethics Law and Technology presso la University of Ottawa, ognuno dei quali ha affermato che l’uccisione remota negli Stati Uniti solleva una nuova serie di domande e scenari.

La polizia di Dallas ha “riconfigurato il regno delle possibilità”
C’è un lungo storico di nuove tecnologie usate per la prima volta in casi estremi e normalizzate nel tempo. Brown ha spiegato che la polizia di Dallas “non aveva altre possibilità” giovedì notte, ma tattiche inizialmente sfruttate come ultima spiaggia possono rapidamente diventare la prima o senza opzione se sono efficaci e proteggono la vita degli agenti.

Molti saranno tentati dall’idea di armare all’inverosimile queste macchine per ridurre il rischio corso dagli agenti.

“Molte persone saranno tentate dall’idea di ridurre questa situazione ad un’equivalenza funzionale—’se un agente si trovasse incontro alla necessità di uccidere il suo assalitore, perché la stessa cosa non può essere compiuta da un robot controllato dall’agente?”, mi ha spiegato Kerr, che ha co-autorato il libro Robot Law con Calo. “Molti saranno tentati dall’idea di armare all’inverosimile queste macchine per ridurre il rischio corso dagli agenti, ma ciò che questa opzione produce nel lungo periodo è un mutamento dei fattori nel calcolo dei rischi per situazioni delicate come la gestione della forza letale nella liberazione di ostaggi.”

“È evidente il percorso che si sta tentando di intraprendere… Sfruttando un robot progettato per disarmare bombe per far saltare in aria delle presone, la polizia di Dallas sta riconfigurando il regno delle possibilità,” continua. “E, come abbiamo visto dalla loro risposta, espandendo così il regno delle possiblità rende molto più semplice aggiustare il tiro per capire quali azione sono davvero necessarie. Rapidamente il fulcro della discussione passerà dall’essere “potremmo usare un robot per farlo saltare in aria” a “non avevamo altra opzione che usare il nostro robot bomba’.”

Lo storico relativo all’utilizzo di questo tipo di tecnologia sfruttate dalle autorità preoccupa—strumenti di sorveglianza sviluppati per essere usati contro terroristi e criminali violenti sono stati rapidamente rivoltati contro, per esempio.

“Visto che i robot di terra potrebbero permettere di applicare forza letale con maggiore facilità e sicurezza, potrebbero allo stesso tempo aumentare il numero di volte in cui questo tipo di forza viene utilizzata,” ha spiegato Stanley. “Quando le cose diventano più semplice, tendiamo a farle più spesso. L’uso di forza da remoto solleva dei problemi di normazione che andrebbero valutati accuratamente e riconosciuti dalla nostra società come avanzamenti tecnologici da sfruttare solamente in situazioni estreme.”

“Una volta che in un’operazione coinvolgi un robot, anziché un umano, non stai più pensando al tutto come un processo di negoziazione tra umani.”

Telepresenza e letalità
Interagire da remoto con un sospetto—sia che il robot stia negoziando con esso o stia usando forza contro di lui o lei—cambia a livello fondamentale l’interazione. Questo aspetto, ovviamente, è parte del motivo per cui li si utilizzerebbe; rimuovendo un agente dall’area e privandolo quindi del pericolo di vita, stai rimuovendo un rischio. Rispondere da remoto a situazione in rapido cambiamento e scenari volatili e qualcosa per cui gli agenti umani vengono addestrati duramente. Un agente può scegliere di sparare, neutralizzare o negoziare con un sospetto, o ancora sopraffarlo. Il robot utilizzato giovedì era fornito di, sostanzialmente, solo due opzioni: esplodere, oppure non esplodere.

“Una volta che in un’operazione coinvolgi un robot, anziché un umano, non stai più pensando al tutto come un processo di negoziazione tra umani,” ha detto Kerr. “Un essere umano può pensare—questo tizio deporrà le armi o no? Questa cosa può essere svolta solamente quando si riesce a comprendere se si è superato o meno il punto di non ritorno della negoziazione.”

Legalmente parlando, i tribunali in passato hanno tenuto conto della presenza reale o meno di umani per prendere decisioni su questioni di proprietà. I casi legali di questo tipo si sprecano, ma per esempio, un caso del 1990 stabiliva gli standard di “telepossessione” per l’esplorazione robotica dei naufragi. “L’utilizzo offensivo di robot e la telepresenza possono mutare il contesto legale,” spiega Calo.

I robot possono de-umanizzare l’uccisione
Kerr lavora con la Campagna per fermare i Robot Killer, un’organizzazione che si occupa di trattare con gruppi come le Nazioni Unite per prevenire un futuro in cui macchine omicide autonome possano essere usate in guerra. Non c’era nulla di automatico nel robot che ha ucciso Johnson, ma, ancora, non c’è nulla di autonomo nemmeno nel caso di un attacco via drone in Medio Oriente. In entrambi i casi, l’atto dell’uccisione viene dipanato su molte persone lungo la catena di comando.

“Come evitiamo che questo tipo di robot vengano gestiti da terze parti?”

“Con gli attacchi via drone il processo decisionale è stato redistribuito: l’intelligence che rileva l’obiettivo, il comandante che dà l’ordine da qualche parte e il pilota che effettua l’operazione,” ha spiegato Kerr. “questo processo è in un certo senso deumanizzante perché rende più semplice, per ogni persona, svolgere il proprio ruolo senza tenere troppo in conto la gravità delle loro decisioni.”

Quali sono le linee guida per uccidere un essere umano da remoto?
Brown ha spiegato che la polizia di Dallas “ha piazzato un dispositivo sulle estremità del robot,” che è in seguito esploso—Ciò ci suggerisce come il robot bomba sia stato improvvisato sul momento. Viste le circostanze, è improbabile che la polizia di Dallas abbia pubblicato delle linee guida che indichino quando è giustificabile uccidere da remoto un sospetto (abbiamo fatto richiesta di delucidazione, e in caso aggiorneremo il post). Le autorità ne avranno bisogno.

“Per ogni nuova tecnologia usata dalla polizia, quali sono le precauzioni che dovrebbero essere prese per evitare che le cose finiscano davvero male? Il robot di Dallas sembra essere stato improvvisato,” mi ha spiegato Joh. “Ma se i robot poliziotto devono diventare parte del nostro futuro, come eviteremo che questi robot siano presi in gestione da terze parti? L’attuale panorama per quanto riguarda l’hacking di dispositivi non è molto rassicurante, in questo senso.”

Cosa ci riserva il futuro?
Molte persone nell’industria robotica dicono che i robot svolgono lavori “sporchi, noiosi e pericolosi” che gli esseri umani non dovrebbero far.e La gestione di ostaggi, le sparatorie e il contenimento di un terrorista sono senza dubbio lavori pericolosi. Se la tecnologia lo permette, perché la polizia non dovrebbe evitare di mettere a rischio i propri agenti sfruttando al loro posto dei robot?

La considerazione più importante in situazioni di questo tipo in cui può essere usato un robot, spiega Kerr, è da farsi riguardo la scelta o meno di uccidere un sospetto se il robot non fosse disponibile.