martedì 23 luglio 2019

Killer Robots e il concetto di controllo umano significativo



Memorandum alla Convenzione sui delegati delle armi convenzionali (CCW)



Introduzione

Le macchine sono servite da tempo come strumenti di guerra, ma storicamente gli umani le hanno sempre usate. L'evoluzione della tecnologia ha il potenziale per cambiare quella realtà, e le implicazioni sono profondamente inquietanti. Secondo gli esperti nel campo dell'intelligenza artificiale, armi completamente autonome, che selezionerebbero e coinvolgere obiettivi privi di un significativo controllo umano, potrebbero essere sviluppate per l'uso nel corso degli anni, non di decenni [1]. Conosciuti anche come "robot assassini", queste armi avrebbero il potere di determinare sulla vita e sulla morte, un potere precedentemente riservato agli umani. La prospettiva solleva una serie di preoccupazioni morali, legali e di altro genere. [2]


 
Gli Stati parti della Convenzione sulle armi convenzionali (CCW) hanno discusso queste preoccupazioni in due riunioni dedicate a "sistemi letali di armi autonome", il termine CCW per armi completamente autonome. Una terza riunione informale di esperti è prevista per aprile 2016.

Nell'arena delle armi, il termine "controllo umano significativo" significa che le "funzioni critiche" di un'arma. [3] "Questo significa quando, dove e come vengono usate le armi; a cosa o chi sono usate contro; e gli effetti del loro uso", secondo l'articolo 36, un'organizzazione non governativa del Regno Unito. [4] Gli esseri umani dovrebbero esercitare il controllo sugli attacchi individuali, non semplicemente sulle operazioni complessive. Solo proibendo l'uso di armi completamente autonome. 

È sia importante che fattibile richiedere il controllo sull'uso delle armi. Dovrebbe essere determinato il controllo umano obbligatorio Per questo motivo, il concetto sta guadagnando credito tra le parti degli stati CCW, molti dei quali lo considerano centrale per evitare le minacce presentate da questa nuova classe di armi. La legge internazionale offre un requisito legale. La legge sul disarmo proibisce diverse armi prive del controllo umano. Altri quadri giuridici trattano una soglia per la responsabilità o l'obbligo di prevenire danni. Tali precedenti potrebbero informare il concetto di controllo delle nuove armi.

Human Rights Watch e Harvard Law School International, Human Rights Watch, riconoscendo il controllo significativo, Human Rights Watch e Human Rights Watch.



 In particolare, gli stati dovrebbero:
  • Adottare uno strumento internazionale legalmente vincolante che vieti lo sviluppo, la produzione e l'uso di armi completamente autonome; e
  • Adotta leggi o politiche nazionali che stabiliscono divieti simili su armi completamente autonome.

L'importanza del controllo umano significativo

L'obbligo di mantenere il controllo umano sull'uso delle armi eliminerebbe molti dei problemi associati alle armi completamente autonome. Tale requisito proteggerebbe la dignità della vita umana, faciliterebbe il rispetto del diritto umanitario internazionale e la responsabilità per atti illeciti.


Un Morale Imperativo

Mandare un controllo umano significativo sulle armi. Qualsiasi decisione di usare la forza dovrebbe essere presa con grande cura e rispetto per il valore della vita umana. Da una prospettiva, il potere di venire a una tale decisione dovrebbe riposare con le persone perché sono dotati di ragione e possessivo "[5] Poiché l'esercizio del giudizio prudenziale è difficile da determinare, sarebbe molto difficile per un'arma completamente autonoma. Incontro CCW sui sistemi d'arma autonomi letali, "Il giudizio prudenziale non può essere messo in algoritmi." [6]

Gli esseri umani tendono anche a sentire il peso emotivo e il peso psicologico di vivere con la vita di altri esseri umani. [7] L'empatia può fungere da controllo su questa questione di empatia, che è stata descritta come "la capacità di essere profondamente colpiti dalla miseria dell'altro". [8] L'empatia può fungere da controllo sta uccidendo, ma solo se gli umani hanno il controllo su di esso. Christof Heyns, il Relatore speciale sulle esecuzioni giudiziarie, esecuzioni sommarie o arbitrarie, ha scritto che: "La delega di questo processo [di decidere di usare la forza letale] disumanizza ulteriormente il conflitto armato e preclude a un momento di deliberazione nei casi in cui potrebbe essere possibile . Le macchine mancano di moralità e mortalità e dovrebbero essere il risultato della vita e della morte degli umani." [9]

Cedere il controllo umano sulle decisioni su chi vive e chi muore priverebbe le persone della loro intrinseca dignità [10]. Le macchine inanimate, come le armi completamente autonome, non potevano veramente comprendere né il valore della vita individuale né il significato della sua perdita. Consentire loro di prendere decisioni per togliere la vita sarebbe quindi in conflitto con il principio di dignità e potrebbe "denigrare il valore della vita stessa". [11] Inoltre metterebbe in pericolo i diritti umani fondamentali. Il concetto di dignità umana è al centro della Dichiarazione universale dei diritti umani e funge da base per tutti gli altri diritti [12]. A causa del fatto che non può essere utilizzato in modo etico, non discrimina in caso di reato, protegge la dignità di civili e soldati.





Conformità al diritto internazionale umanitario e dei diritti umani

Un controllo umano significativo sull'uso delle armi è uno dei principi più importanti del diritto internazionale umanitario, in particolare la distinzione e la proporzionalità. La capacità di distinguere tra combattenti e civili negli Stati Uniti d'America e negli Stati Uniti può essere difficile da replicare con le macchine, comprese le armi completamente autosufficienti [13]. Il metodo per determinare il ruolo di un individuo nel campo della parola e dell'udito, e Gli umani di solito capiscono tali sfumature perché possono identificarsi con altri esseri umani e quindi meglio valutare le loro intenzioni. La valutazione della proporzionalità ha un'analisi caso per caso, tradizionalmente basata su uno standard standard. Tale analisi richiede "un giudizio tipicamente umano" e l'applicazione della ragione, che tenga conto di considerazioni sia morali che legali [14]. Un controllo umano significativo garantisce che la percezione e il giudizio umano informino la decisione sull'uso della forza letale in un caso specifico.

Anche la clausola Martens esistente è rilevante [15]. La clausola delle Martore, una disposizione di diritto umanitario internazionale stabilita nel Protocollo aggiuntivo I delle Convenzioni di Ginevra, afferma:
Nei casi non coperti dal presente Protocollo o da altri accordi internazionali, civili e combattenti rimangono sotto la protezione e l'autorità dei principi del diritto internazionale.

Il Comitato Internazionale della Croce Rossa (CICR) descrive "l'umanità" come una richiesta di compassione per gli altri e una capacità di protezione [17]. Non posso provare compassione e rispettare il diritto umanitario internazionale, uno strumento importante per proteggere i civili. Richiedere un controllo umano significativo sulle armi garantirebbe che il principio dell'umanità possa svolgere un ruolo nella selezione e nell'impegno degli obiettivi.

Un controllo umano significativo è anche cruciale per il rispetto della legge sui diritti umani. Oltre a minare la dignità umana, la mancanza di controllo minaccia il diritto di essere arbitrariamente privato della vita. Che si tratti di forze dell'ordine o di una situazione di conflitto armato, si tratta di stabilire se è importante o meno riconoscere la situazione. In un commento generale del 2015 sul diritto alla vita in base alla Carta africana dei diritti umani e dei diritti delle persone, l'organismo del trattato scrisse: "Dove viene impiegata la tecnologia avanzata?" In vista di un conflitto armato, è stato affermato che "[una] macchina nella selezione degli obiettivi umani o l'uso della forza dovrebbe essere rilevante per un controllo umano significativo." [18] Una relazione del 2016 dei relatori speciali delle Nazioni Unite su esecuzioni ecumeniche, sommarie o arbitrarie e sui diritti di assemblea pacifica e di eco dell'affermazione della Commissione africana sul significativo controllo umano nell'applicazione della legge, e ha raccomandato che "[un] sistema di armi uterine ." [19]





Promozione della responsabilità

L'obbligo di avere un controllo umano significativo sarebbe consentito per l'imposizione della responsabilità legale e il divario di responsabilità associato alle armi completamente autonome [20]. Un'arma non può essere utilizzata perché non può essere danneggiata. Inoltre, non potrebbe avere lo stato mentale o l'intenzionalità necessari per la responsabilità penale. Anche un comandante o un operatore umano che non aveva un controllo umano significativo su un'arma sarebbe sfuggito alla responsabilità. Lui o lei non poteva essere ritenuta responsabile per un'arma illegale completamente autonoma, perché il robot avrebbe operato indipendentemente. Nella maggior parte dei casi, l'ordine sarebbe anche evitato a causa di un robot perché non poteva impedire o punire le sue azioni, un prerequisito per la responsabilità penale internazionale. [21]

Mandare un controllo umano significativo sarebbe possibile e sarebbe stato più efficace che mai. Per ordinare o sapere come affrontarlo. Il comandante avrebbe anche avuto conoscenza del processo decisionale e della capacità di prevenire attacchi illeciti. Infine, se un controllo umano significativo è un requisito legale, potrebbe essere ritenuto responsabile del controllo di un atto illecito.


Opinioni sul concetto di controllo umano

Negli ultimi anni, la Convenzione sulle armi convenzionali ha riconosciuto e abbracciato il valore di un controllo umano significativo. Il concetto è stato discusso da maggio 2014 e la sua valuta è stata aumentata nel corso delle deliberazioni. Quasi 30 paesi hanno specificamente affrontato il concetto di controllo umano nelle riunioni degli esperti della CCW, solitamente caratterizzandolo come significativo, appropriato o efficace. Almeno nove stati hanno fatto riferimento al concetto durante la riunione degli esperti del 2014 e questo numero è salito ad almeno 27 nel 2015 [22]. La maggior parte di questi stati sono stati formulati per una descrizione più dettagliata del concetto. Tali dichiarazioni illustrano l'importanza di motivi fruttuosi per ulteriori discussioni e intese comuni. Potrebbe aiutare a renderlo realtà.

Nel corso delle due riunioni di esperti, almeno una dozzina di stati esplicitamente detto Consideravano controllo umano sopra l'uso delle armi, se necessario, per vari motivi. [23] Riflettendo su questo incontro e gli altri, il CICR ha concluso che "sembra che vi sia un ampio consenso tra gli Stati sulla necessità di mantenere il controllo umano sulle funzioni critiche di sistemi d'arma." [24] Colombia, per esempio, ha dichiarato che "il regolamento multilaterale necessaria" per garantire il controllo umano sulle armi impiegate. [25] Croazia Disse: "Una proibizione internazionale di sistemi d'arma che operano senza shoulds controllo umane significative non essere qualcosa di impensabile, soprattutto in considerazione le chiamate per una moratoria". [26] La Danimarca ha detto che "Un uso del potere deve rimanere sotto significativo controllo umano". [27] Anche se non tutti gli stati abbracciato il concetto di controllo umane significative, dal novembre 2015 per un totale di nove stati aveva chiamato scaduto un divieto preventivo è completamente armi autonome, qui l'acqua equivale ad un obbligo di controllo umano significativo sulla uso di armi. [28]

Diversi stati hanno sostenuto che v'è già un dovere morale per mantenere il controllo umano. Un 2015 di carta della Santa Sede, qui ha presentato le maggior parte delle discussioni approfondite delle obiezioni etiche per sistemi d'arma autonomi, ha spiegato, "è fondamentalmente immorale utilizzare per un'arma il comportamento di qui non possiamo del tutto il controllo delle chiamate." [29] l'anno precedente, il Cile ha dichiarato che significativo controllo umano sulle armi è un "imperativo etico" Piuttosto che un problema tecnologico. [30] La Germania ha sostenuto che dal punto di vista morale "è essenziale per mantenere il controllo umano sulla decisione di uccidere un altro essere umano bianco." [31] l'Iraq ha notato che grande valore etico, oltre al valore pratico, deriva dal controllo umano su sistemi d'arma. [32] Per gli stati preoccupati per i problemi morali con le armi completamente autonome, senza miglioramenti tecnologici in grado di risolvere il problema di fondamentale Delega una decisione di vita o di morte umana ad una macchina.

Negli incontri CCW nel 2014 e 2015, gli stati sollevati ulteriori preoccupazioni per la mancanza di controllo umano significativo, in particolare il rischio di un vuoto di responsabilità. Durante il 2015 Riunione di Esperti, per esempio, la Repubblica di Corea citato tre problemi di armi senza Tale controllo: "rischio di malfunzionamento, potenziale vuoto di responsabilità e preoccupazioni etiche". [33] La Polonia ha dichiarato, "svista umana o istituzionale sostiene la responsabilità , la regola delle procedure di legge e dei media attraverso le nostre decisioni qui può essere verificato." [34]

Almeno 18 Stati della CCW hanno richiesto ulteriori discussioni sul concetto di controllo umano [35]. Il Giappone ha osservato che "il consenso non è facile" e ha chiesto "discussioni approfondite" su un significativo controllo umano per comprendere il concetto e avanzare verso una definizione di sistemi di armi autonomi letali. [36] I Paesi Bassi hanno dichiarato: "Consideriamo la nozione di controllo umano significativo come un concetto importante per la discussione di sistemi letali di armi autonome". [37] Pur affermando che "la decisione di porre fine alla vita di qualcuno deve rimanere sotto un controllo umano significativo." La Repubblica ceca ha osservato che "la parte difficile è stabilire quale sarebbe il significato di controllo umano significativo". [38]

Gli Stati Uniti e Israele hanno entrambi sostenuto il termine "giudizio umano appropriato" piuttosto che un significativo controllo umano nella discussione sui sistemi di armi autonome letali. [39] Questa frase non sembra essere la stessa idea in quanto significativa. Ad esempio, è più probabile che il controllo garantisca che gli umani abbiano il potere di invertire la decisione di una macchina su un particolare attacco. Gli Stati Uniti hanno affermato che è importante "assicurare adeguati livelli di giudizio umano sull'uso della forza". [40] Inoltre, la politica del Dipartimento della Difesa degli Stati Uniti e gli operatori di esercitare tale giudizio sull'uso della forza [41]. Secondo Israele, un adeguato giudizio umano è già in fase di sviluppo nello sviluppo di sistemi d'arma, anche nelle fasi di progettazione, test e implementazione, e quindi non è pratico [42]. Nonostante questi riferimenti al giudizio umano, a marzo 2016, le parti della CCW che hanno parlato della questione hanno usato il "controllo" più frequentemente del "giudizio" in questo contesto.





Precedenti nella legge sul disarmo

Sebbene il termine specifico "controllo umano significativo" non sia apparso nei trattati internazionali sulle armi, l'idea del controllo umano non è nuova nella legge sul disarmo. Le definizioni della necessità del controllo umano sono presenti nei divieti delle armi minerarie e chimiche e biologiche, che erano in parte motivate dal soggetto. Dopo una mina attivata dalla vittima, un operatore umano non può determinare a che ora farà detonare o sarà insultato o ucciso. Sebbene un essere umano possa scegliere il momento e il bersaglio di un attacco di armi biologiche o chimiche, gli effetti delle armi dopo il rilascio sono perdite incontrollabili e non intenzionali. Il divieto di mine e armi chimiche e biologiche.


Miniere

L'idea del controllo umano può essere trovata nella legge sul disarmo già nel 1907, nella Convenzione di Hague n. VIII sulle miniere di contatto sottomarini automatiche. Questo è il caso degli Stati Uniti. [43] Il testo implica che queste miniere marittime diventino inaccettabilmente pericoloso senza controllo umano.

Riflettendo preoccupazioni simili, il trattato sulla messa al bando delle mine del 1997 ha vietato l'uso, la produzione, lo stoccaggio e il trasferimento di mine antipersona perché sono anche incontrollabili e quindi indiscriminate [44]. Il trattato proibisce le mine antipersona attivate dalla vittima, ma non le mine detonate dal comando, che fa detonare un operatore umano tramite telecomando. La frammentazione direzionale Le mine di "Claymore", ad esempio, non sono coperte dal trattato quando sono usate in modalità detonated a comando, cioè senza un tripwire. [45]

La proibizione del Mine Ban Treaty delle mine terrestri attivate dalle vittime ma non comandate. Come stato parte, viene spiegato al monitor Landmine, che le condizioni sono determinate e determinate dallo stato dell'arte. [46] È il Miniera di controllo mio. L'esplicita proibizione del trattato sulle mine attivate dalla vittima riflette che rappresentano una minaccia maggiore per i non combattenti rispetto a quelli detonati dal comando. [47] Dimostra anche che gli stati hanno la capacità di operare e uccidere senza controllo. Sono state sollevate obiezioni simili, perché loro, e non un operatore umano o una vittima, avrebbero determinato quando attivare la forza letale da soli.





Armi biologiche e chimiche

Il corpo internazionale e le armi chimiche nel campo del controllo delle armi. Dopo aver rilasciato tali armi, gli umani non possono controllare dove vanno o chi uccidono. Questa mancanza di controllo può portare a vittime involontarie, che sono alla base di molte delle obiezioni alle armi biologiche e chimiche.

Ci sono state da tempo obiezioni morali e legali a queste armi, anche all'interno dell'esercito. Nel 1964, un ufficiale delle riserve dell'esercito americano scrisse a titolo personale che, in occasione di una guerra biologica, "Il manuale chimico dell'Aeronautica statunitense e la sua guerra biologica." [48] Cinquant'anni dopo come illegale, raggruppandoli con armi "incapaci di essere controllate" [49].

Convenzione sulle armi biologiche del 1972, Nazioni Unite e Nazioni Unite. Un rapporto del Segretario generale del 1969 commentava che "la controllabilità ... è una considerazione molto importante nei loro [agenti biologici e chimici] usati come armi". [50] A seguito di questo rapporto, l'Assemblea generale delle Nazioni Unite adottò, con solo tre voti dissidenti, una risoluzione che dichiara l'uso di armi biologiche e chimiche per contrastare i principi generali del diritto internazionale [51]. L'effetto della risoluzione è il seguente: "Gli effetti sono spesso incontrollabili e imprevedibili e possono essere dannosi senza distinzione tra combattenti e non combattenti." [52]

Gli effetti di questi sono anche probabilmente incontrollati perché essi, non i loro operatori umani, farebbero determinazioni di vita e morte. Sostanze chimiche e chimiche e uso di sostanze chimiche in futuro.





Il concetto di controllo in altre aree di diritto internazionale

Il diritto pubblico internazionale ha abbracciato il concetto di controllo in diversi altri settori. Secondo le regole della responsabilità statale, ad esempio, un "controllo effettivo" è un prerequisito per la responsabilità legale per condotta illecita. [53] Nel diritto ambientale internazionale, il controllo diventa un obbligo positivo e deve essere esercitato su sostanze che potrebbero danneggiare le vittime non intenzionali. Questi organi di diritto mostrano che il controllo è un concetto legale ben accettato che potrebbe essere adattato al contesto. Inoltre, un esame di come i quadri sono usati per informare la discussione sul significato legale e gli elementi di un significativo controllo umano sulle armi. Responsabilità per condotta internamente errata


Responsabilità dello Stato

Il diritto internazionale sostiene che lo stato dell'arte è responsabile per determinati tipi di attori e gruppi privati ​​su cui lo stato esercita un certo grado di controllo. [54] La Corte internazionale di giustizia (ICJ) nelle attività militari e paramilitari del 1986 nel caso Nicaragua ("Nicaragua"). [55] In quel caso, il Nicaragua ha citato in giudizio gli Stati Uniti per il suo coinvolgimento nei ribelli contro il governo del Nicaragua. Il Nicaragua ha affermato che gli atti contrari erano attribuibili agli Stati Uniti a causa degli Stati Uniti, organizzati, istruiti e forniti di contras, i loro obiettivi e le loro operazioni.

Mentre l'ICJ ha stabilito che questo coinvolgimento ha violato il principio di non ingerenza negli affari di un altro stato, ha scoperto che gli Stati Uniti non avevano un controllo sufficiente sulla condotta dei suoi atti illeciti a livello internazionale. La corte ha sostenuto che "[in questo caso, era necessario garantire che lo stato degli Stati Uniti aveva il diritto di essere in una posizione di controllo.] [56] La corte non ha approfondito ulteriormente questa situazione. Nella sua sentenza del 2007 sul caso riguardante l'applicazione della Convenzione sulla prevenzione e la punizione del genocidio, tuttavia, l'ICJ ha spiegato che azioni generali dei privati ​​o del gruppo [57].

Lo standard di controllo efficace secondo le regole della responsabilità dello Stato per la violazione della legge. Senza un controllo efficace, c'è il pericolo di un divario di responsabilità, soprattutto se una macchina, come un'arma completamente autonoma, è l'attore che commette il crimine. Lo standard afferma inoltre che è in grado di garantire che le sue azioni siano conformi al diritto internazionale. Allo stesso modo, il diritto di controllare l'uso delle armi negli Stati Uniti.




Responsabilità di Comando

La dottrina della responsabilità di comando, che è considerata un prerequisito per l'assegnazione di responsabilità. Indicato come responsabilità superiore in contesti non militari, questa modalità di responsabilità penale per le azioni di un subordinato su un singolo comandante. Dove ordinare è prevenire o punire la commissione di un crimine da uno dei suoi subordinati. La Corte penale internazionale per il Ruanda (ICTR), il Tribunale penale internazionale per il Ruanda (ICTR) e la Corte penale internazionale (ICC). [58] Questi statuti sono descritti nel modo migliore: una relazione superiore subordinata, conoscenza o ragione per conoscere il crimine e incapacità di prevenire il crimine o punire il colpevole.

Un comando deve avere "comando e controllo efficaci" sui subordinati per soddisfare i primi criteri ed essere ritenuto responsabile per le azioni subordinate. [59] Secondo un giudizio dell'ICTR, "la capacità materiale di controllare le azioni dei subordinati è la pietra di paragone della responsabilità [del comando] individuale". [60] Sotto questa dottrina, un controllo efficace dopo il fatto [61]

Analogamente, un controllo umano significativo implica una capacità di prevenire danni, in questo caso, alle vittime civili che potrebbero derivare da armi al di fuori del controllo umano. Tale controllo dà all'uomo il potere di determinare quando usare la forza e la capacità di intervenire se un'arma è compromessa o malfunzionamenti. Inoltre, come un controllo efficace, che rende possibile la responsabilità penale, un controllo umano significativo sarebbe diventato efficace. [62]


Controllo come obbligo positivo: diritto ambientale internazionale

In alcune aree della legge, viene imposto un obbligo positivo agli stati, piuttosto che una soglia che innesca la responsabilità. La legge ambientale internazionale impone agli stati di controllare l'inquinamento e altre cause di danno ambientale al fine di prevenire e minimizzare i danni all'ambiente. Ad esempio, la Convenzione delle Nazioni Unite del 1982 sul diritto del mare, che riguarda la prevenzione e il controllo dell'inquinamento marino. che non si sviluppa oltre i confini nazionali [63]. Un certo numero di altri trattati esistono nel movimento transfrontaliero di rifiuti e contaminanti pericolosi, e molti di essi usano la parola "controllo" nel loro titolo [64]. Nel campo del diritto ambientale internazionale, il controllo dei rischi e degli effetti dell'inquinamento, l'introduzione di leggi internazionali e nazionali. [65]

La legge internazionale sull'ambiente mostra che uno stato dell'arte è un requisito della comunità internazionale e offre una proposta per un modello comparabile nel campo della regolamentazione dell'uso delle armi. Come il controllo statale sull'inquinamento, il controllo umano sulle armi per prevenire danni alle vittime non intenzionali e oltre i confini nazionali [66]. Di conseguenza, il requisito di un controllo significativo dell'ambiente potrebbe essere promulgato nel diritto internazionale e nazionale e sarebbe rafforzato da meccanismi di monitoraggio e applicazione.





Conclusione

Il conferimento di un significativo controllo umano delle armi contribuirebbe a proteggere la dignità umana in guerra, a garantire il rispetto delle leggi umanitarie internazionali e dei diritti umani, evitando di creare un vuoto di responsabilità per gli atti illeciti di un'arma. Le discussioni alle riunioni della CCW suggeriscono che un tale requisito dovrebbe essere ricevuto da molti paesi. Il precedente mostra che il concetto di controllo non è nuovo per il disarmo o altre aree del diritto internazionale. Di conseguenza, sarebbe possibile ed efficace applicare all'uso delle armi. Alla luce di questi fattori, Human Rights Watch e la International Human Rights Clinic chiedono l'adozione di un divieto di sviluppo, produzione e uso di armi completamente autonome.


[1] Future of Life Institute, “Autonomous Weapons: An Open Letter from AI & Robotics Researchers,” July 28, 2015, http://futureoflife.org/open-letter-autonomous-weapons/ (accessed March 18, 2016). As of March 18, 2016, the letter had been signed by more than 3,100 experts and 17,700 other endorsers.
[2] The concerns not discussed elsewhere in this paper include the likelihood of an arms race in the field of fully autonomous weapons and the threat of proliferation of such weapons, especially to dictatorships and non-state armed groups that have little regard for international law.
[3] Statement of the International Committee of the Red Cross (ICRC), CCW Meeting of Experts on Lethal Autonomous Weapons Systems, Geneva, April 13, 2015, http://www.unog.ch/80256EDD006B8954/(httpAssets)/4CE346B40DDBF000C1257E2600616A59/$file/ICRC+general+statement+CCW+LAWS+expert+meeting+13+04+2015+FINAL.pdf (accessed April 3, 2016) (discussing critical functions).
[4] Article 36, Killing by Machine: Key Issues for Understanding Meaningful Human Control, April 2015, http://www.article36.org/autonomous-weapons/killing-by-machine-key-issue... (accessed March 18, 2016).
[5] Statement of the Holy See, CCW Meeting of Experts on Lethal Autonomous Weapons Systems, Geneva, April 16, 2015, http://www.unog.ch/80256EDD006B8954/(httpAssets)/4D28AF2B8BBBECEDC1257E290046B73F/$file/2015_LAWS_MX_Holy+See.pdf (accessed February 29, 2016), p. 5.
[6] Ibid.
[7] Report of the UN Special Rapporteur on extrajudicial, summary or arbitrary executions, Christof Heyns, to the Human Rights Council, A/HRC/23/47, April 9, 2013, http://www.ohchr.org/Documents/HRBodies/HRCouncil/RegularSession/Session... (accessed March 18, 2016), para. 94. See also Statement of the Holy See, CCW Meeting of Experts on Lethal Autonomous Weapons Systems, Geneva, April 16, 2015, p. 4.
[8] Statement of the Holy See, CCW Meeting of Experts on Lethal Autonomous Weapons Systems, Geneva, April 16, 2015, p. 4 (noting that the humans with empathy can reduce “the dehumanization and barbarity involved in all wars”).
[9] Report of the UN Special Rapporteur on extrajudicial, summary or arbitrary executions, Christof Heyns, to the Human Rights Council, A/HRC/23/47, April 9, 2013, para. 94.
[10] For further discussion of the threat to human dignity and international human rights, see Human Rights Watch and Harvard Law School’s International Human Rights Clinic (IHRC), Shaking the Foundations: The Human Rights Implications of Killer Robots, May 2014, https://www.hrw.org/report/2014/05/12/shaking-foundations/human-rights-i....
[11] According to UN Special Rapporteur Christof Heyns, “[T]here is widespread concern that allowing [fully autonomous weapons] to kill people may denigrate the value of life itself.” Report of the UN Special Rapporteur on extrajudicial, summary or arbitrary executions, Christof Heyns, to the Human Rights Council, A/HRC/23/47, April 9, 2013, para. 109.
[12] Universal Declaration of Human Rights (UDHR), adopted December 10, 1948, G.A. Res. 217A(III), U.N. Doc. A/810 (1948), art. 1.
[13] For more information on the challenges fully autonomous weapons would have in complying with international humanitarian law, see Human Rights Watch and IHRC, “Advancing the Debate on Killer Robots: 12 Key Arguments for a Preemptive Ban on Fully Autonomous Weapons,” May 2014, https://www.hrw.org/news/2014/05/13/advancing-debate-killer-robots, pp. 4-8.
[14] Report of the Special Rapporteur on extrajudicial, summary or arbitrary executions, Christof Heyns, to the Human Rights Council, A/HRC/23/47, April 9, 2013, para. 72. See also Olivier Corten, “Reasonableness in International Law,” Max Planck Encyclopedia of Public International Law, updated March 2013, http://opil.ouplaw.com/view/10.1093/law:epil/9780199231690/law-978019923...
e1679?rskey=U1bcau&result=10&prd=EPIL (accessed March 18, 2016), para. 1.
[15] The Martens Clause first appeared in the preamble to the 1899 Hague
Convenzione (II) sulle leggi e le usanze della guerra sulla terra e legge:

Le alte parti contraenti, et al. come risultano dagli usi stabiliti tra le nazioni civili, dalle leggi dell'umanità e dai requisiti della coscienza pubblica.

Convenzione (II) in rispetto delle leggi e delle usanze della guerra sulla terra e dei suoi allegati: Regolamenti concernenti le leggi e le usanze della guerra di terra (L'Aia II), adottata il 29 luglio 1899, entrata in vigore il 4 settembre 1900, pmbl. (enfasi aggiunta). La clausola si trova anche in una forma modificata nel Protocollo aggiuntivo I del 1977 alle Convenzioni di Ginevra del 1949. Vedi anche Rapporto del Relatore speciale sugli estratti giudiziari, esecuzioni sommarie o arbitrarie, Christof Heyns, al Consiglio per i diritti umani, A / HRC / 23/47, 9 aprile 2013, par. 89; Human Rights Watch e IHRC, "Promuovere il dibattito sui robot assassini", pp. 14-17.

[16] Protocol Additional to the Geneva Conventions of August 12, 1949, and Relating to the Protection of Victims of International Armed Conflicts (Protocol I), adopted June 8, 1977, 1125 U.N.T.S. 3, entered into force December 7, 1978.
[17] ICRC, “The Fundamental Principles of the Red Cross and Red Crescent,” 1996, http://www.icrc.org/eng/assets/files/other/icrc_002_0513.pdf (accessed March 9, 2016), p. 2.
[18] African Commission on Human and Peoples’ Rights, “General Comment No. 3 on African Charter of Human and Peoples’ Rights: The Right to Life (Article 4),” November 2015.
[20] For more information on the accountability gap created by fully autonomous weapons, see Human Rights Watch and IHRC, Mind the Gap: The Lack of Accountability for Killer Robots, April 2015, https://www.hrw.org/report/2015/04/09/mind-gap/lack-accountability-kille.... For a discussion of the challenges with imposing criminal responsibility in particular, see ibid, pp. 18-25.
[21] The doctrine of command responsibility and its elements are discussed in a separate section below.
[22] These figures were derived from statements that have been posted on the United Nation’s CCW webpage, and do not take into account statements that were not posted. 2014 states include: Argentina, Austria, Germany, Ireland, Japan, Mexico, Norway, Sweden, and Switzerland. 2015 states include: Argentina, Austria, Chile, Colombia, Croatia, the Czech Republic, Denmark, Ecuador, Finland, France, Germany, Greece, the Holy See, India, Iraq, Ireland, Israel, Japan, Mexico, the Netherlands, Poland, the Republic of Korea, South Africa, Spain, Sri Lanka, Sweden, and Switzerland. Across the two years, at least 28 states mentioned human control in a statement.
[23] 2014 states include: Austria, Germany, and Sweden. 2015 states include: Austria, Chile, Colombia, Croatia, the Czech Republic, Denmark, Germany, the Holy See, Ireland, the Republic of Korea, Spain, and South Africa.
[24] Statement of the ICRC, CCW Meeting of Experts on Lethal Autonomous Weapons Systems, Geneva, April 13, 2015. The ICRC added that, “States should now turn their attention to agreeing [to] a framework for determining what makes human control of a weapon meaningful or adequate” (emphasis deleted).
[25] Statement by Colombia, CCW Meeting of Experts on Lethal Autonomous Weapons Systems, Geneva, April 17, 2015, http://www.unog.ch/80256EDD006B8954/(httpAssets)/036C8F5A520CB808C1257E2D002C09AA/$file/2015_LAWS_MX_Colombia_WA.pdf (accessed March 10, 2016).
[26] Statement of Croatia, CCW Meeting of Experts on Lethal Autonomous Weapons Systems, Geneva, April 13, 2015, http://www.unog.ch/80256EDD006B8954/(httpAssets)/4828C7F936CDAC9AC1257E26005D28BF/$file/2015_LAWS_MX_Croatia.pdf (accessed April 3, 2016).
[27] Statement of Denmark, CCW Meeting of Experts on Lethal Autonomous Weapons Systems, Geneva, April 13-17, 2015, http://www.unog.ch/80256EDD006B8954/(httpAssets)/C5B8B0A4AD379822C1257E26005D7D20/$file/2015_LAWS_MX_Denmark.pdf (accessed March 18, 2016).
[28] Bolivia, Cuba, Ecuador, Egypt, Ghana, Holy See, Pakistan, State of Palestine, and Zimbabwe. See Campaign to Stop Killer Robots, “Report on Activities at the CCW Annual Meeting Held in Geneva,” November 2015, http://www.stopkillerrobots.org/wp-content/uploads/2013/03/KRC_ReportCCW... (accessed April 3, 2016).
[29] Statement of the Holy See, CCW Meeting of Experts on Lethal Autonomous Weapons Systems, Geneva, April 16, 2015, p. 8.
[30] Statement by Chile, CCW Meeting of States Parties, Geneva, November 13-14, 2014, http://www.unog.ch/80256EDD006B8954/(httpAssets)/928D4835FF2D3DF4C1257D970046D276/$file/Chile_LAWS_MSP.pdf (accessed February 28, 2016).
[31] Statement by Germany, CCW Meeting of Experts on Lethal Autonomous Weapons Systems, Geneva, May 13-16, 2014, http://www.unog.ch/80256EDD006B8954/(httpAssets)/9FB02F665072E11AC1257CD70066D830/$file/Germany+LAWS+2014.pdf (accessed March 8, 2016).
[32] Statement by Iraq, CCW Meeting of States Parties, Geneva, November 12-13, 2015, http://www.unog.ch/80256EDD006B8954/(httpAssets)/64597570B3352E0FC1257F0F004C35D4/$file/2015_CCWMSP_LAWS_Iraq.pdf (accessed March 8, 2016) (as translated by Human Rights Watch).
[33] Statement of the Republic of Korea, CCW Meeting of Experts on Lethal Autonomous Weapons Systems, Geneva, April 13, 2015, http://www.unog.ch/80256EDD006B8954/(httpAssets)/2A22908A9A03E949C1257E29005B90C1/$file/2015_LAWS_MX_RoK_GS+Corr.pdf (accessed February 28, 2016).
[34] Statement of Poland, CCW Meeting of Experts on Lethal Autonomous Weapons Systems, Geneva, April 13-17, 2015, http://www.unog.ch/80256EDD006B8954/(httpAssets)/16BDFE48306133F6C1257E31002BA329/$file/2015_LAWS_MX_Poland_characteristics.pdf (accessed February 29, 2016). Note that although this quote uses the word “oversight,” Poland’s statement as a whole is comfortable with the language of “control.”
[35] 2014 states include: Ireland, Germany, Mexico, and Switzerland. 2015 states include: Argentina, Chile, the Czech Republic, Denmark, Ecuador, Finland, India, Ireland, Japan, Mexico, the Netherlands, Poland, South Africa, Sweden, and Switzerland.
[36] Statement by Japan, CCW Meeting of Experts on Lethal Autonomous Weapons Systems, Geneva, April 13, 2015, http://www.unog.ch/80256EDD006B8954/(httpAssets)/7C284472DDBBA998C1257E26005EA5DC/$file/2015_LAWS_MX_Japan.pdf (accessed February 29, 2016).
[37] Statement of the Netherlands, CCW Meeting of Experts on Lethal Autonomous Weapons Systems, Geneva, April 13-17, 2015, http://www.unog.ch/80256EDD006B8954/(httpAssets)/D5A22AEF369C4ED4C1257E340053754B/$file/2015_LAWS_MX_Netherlands.pdf (accessed April 3, 2016).
[38] Statement of the Czech Republic, CCW Meeting of Experts on Lethal Autonomous Weapons Systems, Geneva, April 13-17, 2015, http://www.unog.ch/80256EDD006B8954/(httpAssets)/2DD5110A33C9C2D2C1257E26005DD47B/$file/2015_LAWS_MX_Czech+Republic.pdf (accessed April 3, 2016).
[39] Statement of the United States, CCW Meeting of Experts on Lethal Autonomous Weapons Systems, April 13, 2015, http://www.unog.ch/80256EDD006B8954/(httpAssets)/8B33A1CDBE80EC60C1257E2800275E56/$file/2015_LAWS_MX_USA+bis.pdf (accessed February 28, 2016).
[40] Ibid.
[41] US Department of Defense, “Autonomy in Weapon Systems,” Directive 3000.09, November 21, 2012, p. 2, http://www.dtic.mil/whs/directives/corres/pdf/300009p.pdf (accessed April 3, 2016).
[42] Statement by Israel, CCW Meeting of States Parties, Geneva, November 13-14, 2014, http://www.unog.ch/80256EDD006B8954/(httpAssets)/A9D6A596BC5B169DC1257D9700471102/$file/Israe_LAWS_MSP.pdf (accessed March 8, 2016).
[43] Convention Relative to the Laying of Automatic Submarine Contact Mines (Hague VIII), adopted October 18, 1907, entered into force January 26, 1910, art. 1. See also Detlev F. Vagts, “The Hague Conventions and Arms Control,” American Journal of International Law, vol. 94, no. 31 (2000), p. 36.
[44] Convention on the Prohibition of the Use, Stockpiling, Production and Transfer of Anti-Personnel Mines and Their Destruction (Mine Ban Treaty), adopted September 18, 1997, entered into force March 1, 1999.
[45] Human Rights Watch, “Claymore-Type and OZM-72 Command-Detonated Mines,” May 2006, http://the-monitor.org/media/1418623/Claymore_and_OZM_May_2006_photos.pdf (accessed March 21, 2016).
[46] International Campaign to Ban Landmines, “Country Profile: Canada,” in Landmine Monitor 2002, ed. Stephen Goose et. al (New York: Human Rights Watch, August 2002), http://archives.the-monitor.org/index.php/publications/display?url=lm/20... (quoting “ILX0149: Response to Query,” email to MAC from Shannon Smith, DFAIT/ILX, May 2, 2002, and also citing “The Canadian Forces and Anti-Personnel Landmine,” DND document BG-02.007, February 13, 2002) (emphasis added).
[47] Stuart Maslen, Anti-Personnel Mines under Humanitarian Law: A View from the Vanishing Point, (Oxford: Intersentia, 2001), p. 57.
[48] Colonel Brungs differentiates between types of biological weapons, some of which escape from human control. Col. Bernard J. Brungs, “The Status of Biological Warfare in International Law,” Military Law Review, vol. 24, no. 47 (1964), p. 82.
[49] US Department of the Air Force, “The Military Commander and the Law,” 2015, http://www.afjag.af.mil/shared/media/document/AFD-151102-022.pdf (accessed March 9, 2016), p. 683.
[50] UN Secretary-General, “Chemical and Bacteriological (Biological) Weapons and the Effects of their Possible Use: Report of the Secretary-General” Doc.A/7575/Rev.1, (1969), http://repository.un.org/bitstream/handle/11176/75955/A_7575_Rev.1%3bS_9... (accessed March 9, 2016), para. 28. The report observes that these weapons are deployed by being discharged into the atmosphere. Once in the atmosphere, the biological and chemical agents can be dispersed by elements of nature, such as the wind, and “control is thus possible only to the extent that the meteorological situation can be predicted.” In addition, biological agents can be carried by migratory animals, and chemical agents can spread through underground waters and soil.
[51] UN General Assembly, “Question of Chemical and Bacteriological (Biological) Weapons,” Resolution 2603 (XXIV) (1969) A/7890. The resolution was adopted by a vote of 80 in favor to 3 against; 36 states abstained from voting and 7 states were non-voting.
[52] Ibid.
[53] The law of belligerent occupation also uses the term “effective control,” but in that framework control triggers obligations rather than imputes liability. An occupation exists when the occupying power has effective control over a territory, which means that it can substitute its own authority for that of the occupied authorities. If an occupying power has effective control, it has duties to respect and protect the civilian population. Meaningful human control over weapons could lead to comparable duties to protect the civilian population under international law. Operators, for example, would have to ensure that attacks with weapons under their control were used discriminately and proportionately. See, for example, Convention (IV) respecting the Laws and Customs of War on Land and its Annex: Regulations concerning the Laws and Customs of War on Land (Hague IV), adopted October 18, 1907, entered into force January 26, 1910, art. 46; Geneva Convention relative to the Protection of Civilian Persons in Time of War, adopted August 12, 1949, 75 U.N.T.S. 287, entered into force October 21, 1950, arts. 4, 27, 47 – 62; Protocol I, art. 75. See also Yoram Dinstein, The International Law of Belligerent Occupation (Cambridge: Cambridge University Press, 2009), pp. 43-44.
[54] Draft Articles on Responsibility of States for Internationally Wrongful Acts (text adopted by the International Law Commission at its fifty-third session, in 2001, and submitted to the General Assembly as a part of the Commission’s report covering the work of that session (A/56/10)), pp. 47-49. States also have responsibility for the conduct of its organs of government or agents of the state. Ibid, p. 38.
[55] Military and Paramilitary Activities in and against Nicaragua (Nicaragua v. United States of America), International Court of Justice, Judgment, June 24, 1986.
[56] Ibid, para. 115 (emphasis added).
[57] Application of the Convention on the Prevention and Punishment of the Crime of Genocide (Bosnia and Herzegovina v. Serbia and Montenegro), International Court of Justice, Judgment, February 26, 2007, para. 400. The court stated: “It must however be shown that this ‘effective control’ was exercised, or that the State’s instructions were given, in respect of each operation in which the alleged violations occurred, not generally in respect of the overall actions taken by the persons or groups of persons having committed the violations.”
[58] Statute of the International Criminal Tribunal for the Former Yugoslavia (ICTY), S/RES/827, adopted May 25, 1993, art. 7(3); Statute of the International Criminal Tribunal for Rwanda (ICTR), S/RES/955, adopted November 8, 1994, art. 6(3); Rome Statute of the International Criminal Court (Rome Statute), A/CONF.183/9, July 17, 1998, entered into force July 1, 2002.
[59] For example, the Rome Statute reads:
 
A military commander or person effectively acting as a military commander shall be criminally responsible for crimes within the jurisdiction of the Court committed by forces under his or her effective command and control, or effective authority and control as the case may be, as a result of his or her failure to exercise control properly over such forces, where: (i) That military commander or person either knew or, owing to the circumstances at the time, should have known that the forces were committing or about to commit such crimes; and (ii) That military commander or person failed to take all necessary and reasonable measures within his or her power to prevent or repress their commission or to submit the matter to the competent authorities for investigation and prosecution.
Rome Statute, art. 28(a) (emphasis added).
[60] Prosecutor v. Kayishema, ICTR, Case No. ICTR-95-1-T, Judgment (Trial Chamber II), May 21, 1999, para. 229. See also Prosecutor v. Ignace Bagilishema, Judgment (Trial Chamber), June 7, 2001, para. 45 (“[T]he essential element is not whether a superior had authority over a certain geographical area, but whether he or she had effective control over the individuals who committed the crimes.”).
[61] Rome Statute, art. 28(a).
[62] United Nations Convention on the Law of the Sea (UNCLOS), adopted December 10, 1982, entered into force November 16, 1994, 1833 UNTS 3, part XII, section 5 (entitled “International Rules and National Legislation to Prevent, Reduce and Control Pollution of the Marine Environment”).
[63] Ibid, arts. 207-212, 194(2).
[64] Other treaties on pollution control include the Convention on the Control of Transboundary Movements of Hazardous Wastes and their Disposal, adopted March 22, 1989, entered into force May 15, 1992, 1673 UNTS 57; Convention to Ban the Importation into Forum Island Countries of Hazardous and Radioactive Wastes and to Control the Transboundary Movement and Management of Hazardous Wastes within the South Pacific Region, adopted 1995, entered into force 2001; Convention on the ban of the Import into Africa and the Control of Transboundary Movements and Management of Hazardous Wastes within Africa, adopted January 30, 1991, entered into force April 22, 1998, 30 ILM 773.
[65] See, for example, UNCLOS, part XII, section 5, arts. 207-212, 204-206, 213-222, and 235.
[66] Article 36, Killing by Machine.




Fonte:



Nessun commento:

Posta un commento

Nota. Solo i membri di questo blog possono postare un commento.