Gianfranco Soldati - "Direct Realism and Immediate Justification"
I Robot Soldati
description
Transcript of I Robot Soldati
![Page 1: I Robot Soldati](https://reader035.fdocuments.us/reader035/viewer/2022062221/5681471b550346895db451a9/html5/thumbnails/1.jpg)
I Robot Soldati
![Page 2: I Robot Soldati](https://reader035.fdocuments.us/reader035/viewer/2022062221/5681471b550346895db451a9/html5/thumbnails/2.jpg)
Unmanned Vehicles
•Droni radio/tele guidati•Ampiamente diffusi•Nessuna autonomia•Ancora pochi gli esemplari dotati di armi•Eye-on-target
![Page 3: I Robot Soldati](https://reader035.fdocuments.us/reader035/viewer/2022062221/5681471b550346895db451a9/html5/thumbnails/3.jpg)
Unmanned Aerial Vehicles
![Page 4: I Robot Soldati](https://reader035.fdocuments.us/reader035/viewer/2022062221/5681471b550346895db451a9/html5/thumbnails/4.jpg)
Unmanned Aerial Vehicles
![Page 5: I Robot Soldati](https://reader035.fdocuments.us/reader035/viewer/2022062221/5681471b550346895db451a9/html5/thumbnails/5.jpg)
Unmanned Ground Vehicles
![Page 6: I Robot Soldati](https://reader035.fdocuments.us/reader035/viewer/2022062221/5681471b550346895db451a9/html5/thumbnails/6.jpg)
Unmanned Ground Vehicles
![Page 7: I Robot Soldati](https://reader035.fdocuments.us/reader035/viewer/2022062221/5681471b550346895db451a9/html5/thumbnails/7.jpg)
Unmanned Undersea Vehicles
![Page 8: I Robot Soldati](https://reader035.fdocuments.us/reader035/viewer/2022062221/5681471b550346895db451a9/html5/thumbnails/8.jpg)
Unmanned Surface Vehicles
![Page 9: I Robot Soldati](https://reader035.fdocuments.us/reader035/viewer/2022062221/5681471b550346895db451a9/html5/thumbnails/9.jpg)
Dispositivi autonomi (CIWS)
![Page 10: I Robot Soldati](https://reader035.fdocuments.us/reader035/viewer/2022062221/5681471b550346895db451a9/html5/thumbnails/10.jpg)
Progetti avanzati
•Ancora allo stadio prototipale•Primi sistemi con alto grado di autonomia•Impieghi in contesti peculiari
![Page 11: I Robot Soldati](https://reader035.fdocuments.us/reader035/viewer/2022062221/5681471b550346895db451a9/html5/thumbnails/11.jpg)
Progetti avanzati - Crusher
![Page 12: I Robot Soldati](https://reader035.fdocuments.us/reader035/viewer/2022062221/5681471b550346895db451a9/html5/thumbnails/12.jpg)
Progetti avanzati – SGR-A1
![Page 13: I Robot Soldati](https://reader035.fdocuments.us/reader035/viewer/2022062221/5681471b550346895db451a9/html5/thumbnails/13.jpg)
Progetti avanzati - RoboSnake
![Page 14: I Robot Soldati](https://reader035.fdocuments.us/reader035/viewer/2022062221/5681471b550346895db451a9/html5/thumbnails/14.jpg)
Progetti avanzati - BigDog
![Page 15: I Robot Soldati](https://reader035.fdocuments.us/reader035/viewer/2022062221/5681471b550346895db451a9/html5/thumbnails/15.jpg)
Autonomous Military AgentPro
•Minimizzazione delle perdite umane•Diminuzione dei costi della guerra•Il basso numero di perdite favorisce il
consenso•Missioni dull, dirty and dangerous•Immuni a emozioni e bisogni umani•Non inclini a commettere atrocità inutili•Proiettati ad avere prestazioni migliori
dell’uomo (?)
![Page 16: I Robot Soldati](https://reader035.fdocuments.us/reader035/viewer/2022062221/5681471b550346895db451a9/html5/thumbnails/16.jpg)
Autonomous Military AgentContro
• Ricorso più facile all’azione militare• Progressivo abbandono della diplomazia• Maggiori perdite e danni per il nemico• I civili possono divenire obiettivi militari• Riskless war
▫Il reciproco rischio giustifica moralmente i contendenti
▫Il rischio asimmetrico è proprio delle operazioni di polizia (buoni vs. cattivi)
▫Il contendente più debole deve trovare altri modi di colpire (terrorismo)
![Page 17: I Robot Soldati](https://reader035.fdocuments.us/reader035/viewer/2022062221/5681471b550346895db451a9/html5/thumbnails/17.jpg)
EticaTeoria deontologica
•Valuta l’azione a priori▫Moralità di intenzione o norma da cui origina
l’azione▫Un’azione è morale se è prodotta da “buona”
intenzione▫I mezzi ed i fini sono strettamente correlati
• Imperativo categorico (Kant)▫“agisci solo secondo la massima per la quale
puoi e allo stesso tempo vuoi che questo diventi una legge universale” (universalismo)
•Leggi della Robotica (Asimov)
![Page 18: I Robot Soldati](https://reader035.fdocuments.us/reader035/viewer/2022062221/5681471b550346895db451a9/html5/thumbnails/18.jpg)
EticaTeoria teleologica
•Valuta gli effetti dell’azione▫ Un’azione è morale se produce effetti aumento del
“bene” o diminuzione del “male”▫ Il fine giustifica i mezzi
•Consequenzialismo▫ Criteri razionali per giudicare positività o negatività
delle azioni• Utilitarismo
▫ “Utilità” è la misura di felicità/piacere/benessere▫ Dolore/piacere (Bentham)▫ Benessere sociale è somma del piacere individuale▫ Giustizia è massimizzazione del benessere sociale
![Page 19: I Robot Soldati](https://reader035.fdocuments.us/reader035/viewer/2022062221/5681471b550346895db451a9/html5/thumbnails/19.jpg)
Etica e guerraLeggi di Guerra (L.O.W.)
•Suddivisione giurisprudenziale▫ Jus ad bellum – entrata in guerra ed uso della forza
militare▫ Jus in bello – condotta durante i conflitti▫ Jus post bellum – trattamento prigionieri, occupazione
territori
•Convenzioni internazionali▫ Convenzioni dell’Aia (1899-1907)▫ Convenzioni di Ginevra (1949-1977)
•In Italia “Legge di Guerra e Neutralità”▫ R.D. 8 luglio 1938
![Page 20: I Robot Soldati](https://reader035.fdocuments.us/reader035/viewer/2022062221/5681471b550346895db451a9/html5/thumbnails/20.jpg)
Etica e guerraRegole d’Ingaggio (R.O.E.)
•Emanate dai vertici militari▫Applicazione pratica dello jus in bello▫Derivano dalle leggi internazionali e nazionali▫Dipendenti dalla tipologia e dall’andamento del
conflitto▫Variano secondo la necessità militare
•Indirizzate ai soldati sul campo▫Condizioni e modalità di impiego della forza▫Norme imperative più che descrittive
![Page 21: I Robot Soldati](https://reader035.fdocuments.us/reader035/viewer/2022062221/5681471b550346895db451a9/html5/thumbnails/21.jpg)
Etica e robotica
•Roboethics▫Etica di progettisti, costruttori ed utenti di
sistemi robotici▫Diversi progetti internazionali (Ethicbots)
•Aspetti sociali ▫Ricadute sulla società umana▫Robot come agente morale? (Floridi,
Sullins)
![Page 22: I Robot Soldati](https://reader035.fdocuments.us/reader035/viewer/2022062221/5681471b550346895db451a9/html5/thumbnails/22.jpg)
ResponsabilitàAttribuzione
•Il robot attuale non può essere portatore di responsabilità▫Morale: assenza di intenzionalità e
consapevolezza▫Oggettiva: impossibile un sistema
sanzionatorio•La responsabilità va ascritta a una
persona (fisica o giuridica)▫Progettisti, programmatori, produttori▫Venditori, certificatori, assicuratori▫Utilizzatori
![Page 23: I Robot Soldati](https://reader035.fdocuments.us/reader035/viewer/2022062221/5681471b550346895db451a9/html5/thumbnails/23.jpg)
ResponsabilitàJus in bello
•Discriminazione▫I bersagli militari vanno individuati con
precisione•Proporzionalità
▫La forza impiegata deve essere adeguata al bersaglio
•Necessità di responsabilità oggettiva▫Bisogna poter identificare gli autori delle
azioni militari
![Page 24: I Robot Soldati](https://reader035.fdocuments.us/reader035/viewer/2022062221/5681471b550346895db451a9/html5/thumbnails/24.jpg)
Un’architettura roboticaArkin (2007)
Behaviour based/deliberativa
![Page 25: I Robot Soldati](https://reader035.fdocuments.us/reader035/viewer/2022062221/5681471b550346895db451a9/html5/thumbnails/25.jpg)
Critiche• Molti aspetti sono trattati in modo superficiale• Per alcune componenti vengono solo indicate
delle alternative off-the-shelf senza ulteriori specifiche
• Nessun dettaglio sulla formalizzazione dei vincoli▫ Sistema DEAL (Van den Hoven, et. al. 2002)
Basato su logiche modali e action logic Nessuna implementazione disponibile Mancano studi sulle interazioni tra i vari operatori
▫ Framework Athena (Arkoudas, Bringsjord, 2005) Logica utilitaristica multi-agente (Horty, 2001) Può impiegare diversi ATP Complessità computazionale ignota.
![Page 26: I Robot Soldati](https://reader035.fdocuments.us/reader035/viewer/2022062221/5681471b550346895db451a9/html5/thumbnails/26.jpg)
Ipotesi di teoria logicaScelte preliminari
• Regole basate su ROE (Desert Storm)1) Non attaccare chiunque sia ferito, si sia arreso o non sia un combattente.2) Considera un bersaglio valido chiunque punti un’arma e non sia un
commilitone.3) Considera un bersaglio valido chiunque ti attacchi.4) Restringi l’attacco solo al bersaglio valido correttamente identificato.5) Se il bersaglio è valido e tracciato con certezza, devi attaccare.
• Logica deontica TD (von Wright)▫ Operatori di obbligo () e permesso ()▫ Assiomi
T: p→p D: p→p
Predicati dipendenti dalla sensoristica Un unico grado di libertà (Fire)
![Page 27: I Robot Soldati](https://reader035.fdocuments.us/reader035/viewer/2022062221/5681471b550346895db451a9/html5/thumbnails/27.jpg)
Ipotesi di teoria logicaAssiomatizzazione
• Teoria logica iniziale▫ 1.1. x (Frd(x)→(Trg(x))▫ 1.2. x (Wou(x)→(Trg(x)) ▫ 1.3. x (Sur(x)→(Trg(x))▫ 2.1. x ((Aim(x)Frd(x))→Trg(x))▫ 2.2. x ((Atk(x)Frd(x))→Trg(x))▫ 3. x (Trg(x)→Fire(x))▫ 4. x (Fire(x)Clr(x))Fire(x))
![Page 28: I Robot Soldati](https://reader035.fdocuments.us/reader035/viewer/2022062221/5681471b550346895db451a9/html5/thumbnails/28.jpg)
Ipotesi di teoria logicaProgramma logico1. ONot_Trg(x)Frd(x)2. ONot_Trg(x)Wou(x)3. ONot_Trg(x)Sur(x)4. Not_Trg(x)ONot_Trg(x)5. OTrg(x)Aim(x)Not_Frd(x)6. OTrg(x)Atk(x)Not_Frd(x)7. Trg(x)OTrg(x)8. PFire(x)Trg(x)9. OFire(x)PFire(x)Clr(x)
Eliminate le negazioni
Eliminati gli operatori deontici
Clausole per realizzare l’assioma T
Dimostrata l’equivalenza tra la teoria ed il programma
Complessità comp. è polinomiale [Vardi 1996, Immerman 1986, Dantsin 2001]
![Page 29: I Robot Soldati](https://reader035.fdocuments.us/reader035/viewer/2022062221/5681471b550346895db451a9/html5/thumbnails/29.jpg)
PercezioneRisultati di benchmark
Test M-ELROB Riconosciuto dal consorzio
EURON Ricognizione, individuazione
bersagli, controllo perimetro Ambiente urbano ed extra-
urbano Nessun sistema ottiene buoni
risultati nella target detection Solo due sistemi non ottengono
un punteggio nullo nella prova diurna
Nella prova notturna, tutti i sistemi ottengono punteggio nullo
![Page 30: I Robot Soldati](https://reader035.fdocuments.us/reader035/viewer/2022062221/5681471b550346895db451a9/html5/thumbnails/30.jpg)
PercezioneGesture recognition Prestazioni di un sistema di esempio (Kai,
Stiefelhagen, 2006) Analisi di gesti di puntamento basati su movimento
di testa e mani Combinazione di HMM (mani) e reti neurali (testa) Ambiente indoor, valutazione off-line
Testa-mano Avambraccio Orientamento testa
Errore angolare medio 25° 39° 22°
Bersagli identificati 90% 73% 75%
Recall (%) Precision (%) Error (°)
Senza orientamento testa 79.8 73.6 19.4
Orientamento testa con sensore 78.3 86.3 16.8
Orientamento testa con ANN 78.3 87.1 16.9
![Page 31: I Robot Soldati](https://reader035.fdocuments.us/reader035/viewer/2022062221/5681471b550346895db451a9/html5/thumbnails/31.jpg)
Conclusioni• La questione dei vincoli non appare intrattabile• Il ragionamento deve basarsi su dati veri e certi• I sistemi percettivi non forniscono attualmente le
prestazioni richieste• Senza correttezza della percezione e del
ragionamento nessun vincolo morale potrà dirsi correttamente soddisfatto
• Riteniamo immorale la costruzione e l’utilizzazione in guerra di robot autonomi basati su queste tecnologie
![Page 32: I Robot Soldati](https://reader035.fdocuments.us/reader035/viewer/2022062221/5681471b550346895db451a9/html5/thumbnails/32.jpg)
“Il mondo del futuro sarà una battaglia sempre più impegnativa contro le limitazioni della nostra intelligenza, non un’amaca confortevole su cui distenderci, serviti dai nostri schiavi meccanici.Aiutarci possono, ma chiedendo moltissimo alla nostra onestà ed intelligenza. Il mondo del futuro sarà una battaglia sempre più impegnativa contro le limitazioni della nostra intelligenza, non un’amaca confortevole su cui distenderci, serviti dai nostri schiavi meccanici”.
Norbert Wiener