Robot hiltzaileen iraultza

Noel Sharkey telefonoz ari da, Erresuma Batuko Legebiltzarrerako bidean. Legebiltzarkideei hitz egin behar die, robot hiltzaileen inguruan ohartarazteko. Shefieldeko Unibertsitatean adimen artifiziala eta robotika irakasten pasatu du bizitza, eta, orain, Arma Robotikoen Nazioarteko Batzordeko presidentea da. Gerraren eta adimen artifizialaren arteko nahasketa lehergarria izan daitekeela adierazi nahi die mundu osoko buruzagiei, eta robot hiltzaileak gelditu egin behar direla, legez. «Arma horiek zibil mordoa hilko dituzte, eta mundua desorekatu», esan du.

Sharkey ez dago bakarrik. Abuztuan, robotikaren eta adimen artifizialaren munduko 116 adituk gutun bat argitaratu zuten robot hiltzaileak garatzea eta erabiltzea debekatzea eskatzeko. Sinatzaileen artean Tesla konpainiako Elon Musk, Googleren adimen artifizialeko programaren buru Mustafa Suleyman, eta Nao eta Pepper robotak sortu dituen Aldebaran Robotics konpainiako Jerome Monceaux zeuden. Arma autonomoek gerragintzaren hirugarren iraultza ekarriko dutela ohartarazi zuten gutunean. «Behin garatuta, gatazka armatua inoiz izan gabeko eskalan borrokatzea ahalbidetuko dute, eta gizakiek uler dezaketen baino askoz azkarrago», idatzi zuten. «Behin Pandoraren kutxa zabalduta, zaila izango da ixtea».

Robot hiltzaileen izen teknikoa arma hilgarri autonomoa da. Armok pertsona bat hiltzea euren kabuz erabaki dezakete, eta gauzatu. Ameriketako Estatu Batuak, Erresuma Batua, Israel eta Errusia dabiltza halakoak garatzen, eta kezka handitzen ari da nazioartean horien inguruan. Horren lekuko, joan zen astean Genevan Hainbat Arma Konbentzionalen Itunaren bileran haien inguruan eginiko astebeteko eztabaida. Datorren urtean gaiaren inguruan eztabaidatzen jarraitzea erabaki zuten 91 herrialdek. Genevan egon zen Sharkey, eta ontzat eman du emaitza. Besteak beste, hiru herrialde gehiagok eskatu zuten arma autonomoak erabat debekatzeko, horietako bat Brasil. «Debekuaren aldekoak gero eta argiago ari dira mintzatzen, eta hori oso ona da guretzat», esan du Sharkeyk.

2013. urtean abiatu zuten Sharkeyk eta Human Rights Watch erakundeak Stop killer robots kanpaina. Itsutzeko laserrak 1995. urtean debekatu zituen Nazio Batuen Erakundearen Hainbat Arma Konbentzionalen Itunak. Robot hiltzaileak zerrendara gehitu nahi dituzte orain.

Edozein unetan prest

Debekurik ez badago, noiz ikusiko dira robot hiltzaileak edonon munduan? «Edozein unetan; zein sendo egin nahi dituzun, horren arabera», erantzun du Sharkeyk.

Bideo batek sarea aztoratu zuen joan zen astean: Slaughterbots. Lehergailu txiki batez hornituriko drone bat erakusten zuen. Adimen artifizialaren bidez, hil beharreko gizakia bere kabuz bilatzeko eta haren buruan lehertzeko gauza zen. Halako armak izua zabaltzeko nola erabil daitezkeen erakusten zuen. «Bideoa egin genuen ez dugulako uste erantzukizuna duen jendeak arriskua ulertzen duenik», adierazi du Stuart Russell adituak. Kaliforniako Berkeleyko Unibertsitatean informatika irakasten du, eta asko idatzi du robot hiltzaileen mehatxuaren inguruan. Genevako bilkuran izan zen Russell joan zen astean.

Sharkeyrekin ados dago Russell: bideoan agertzen dena egingarria da oraintxe bertan. «Diru kontua baino ez da, teknologia integratzeko eta miniaturizatzeko», esan du Russellek. Lehen bonba atomikoa sortzeko Manhattan egitasmoak hiru urte baino gutxiago behar izan zituela gogoratu du Russellek. «Hura baino askoz errazagoa litzateke hau: bi urte baino gutxiago».

Gainera, behin gauzok erabiltzen hasiz gero, ez da zaila «kopia txarrak» egitea, Sharkeyk argudiatu duenez. Edozein taldek eraiki ditzake. «Estatu Islamikoak droneak erabiltzen ditu, eta misil gordin gisa erabiltzen ditu. Ez da zaila. Halako gailuak jendearen eskuetan daudenean, gogo handia dago autonomo bihurtzeko». Bere laborategian halakoak egin izan dituela esan du irakasleak.

Giza duintasuna

Baina zergatik da ankerragoa hiltzea robot autonomo baten erabakiz, gizaki baten eskutik baino? «Giza duintasun kontua da», erantzun du Sharkeyk. AEBetako Armadako Robert Latiff jeneral ohiak honela azaldu zuen arazo morala 2013. urtean: «Hiltzeko autonomia osoa ez da beste urrats bat estrategia militarrean: Rubicon morala gurutzatzea izango da». Robotak gerran nagusitzen direnean, gizakiak «txigorgailu batek baino berezko balio txikiagoa izango du». Gizarte zibilizatuetan, etsaiak ere pertsonatzat hartzen dira, militarraren arabera, eta onarpen hori dago Genevako itunetan eta gerrarako arauetan.

«Ez dut nahi inork ni hiltzea, baina giza duintasunaren aurkakoa da makina batek hartzea erabaki hori», esan du Sharkeyk.

Sharkeyk orain kanpainak tokian toki egitea nahi du. «Datozen bi urteotan herrialdeka aritu behar dugu, behetik gorako kanpainak egiten, NBEn herrialde gehiagoren sostengua lortzeko». «Kontua ez da arma batzuk debekatzea, armak etengabe aldatzen baitira, baizik eta lege bat ezartzea horiek etorkizunean saihesteko».

Euskal Herrian ez

Droneak izan dira gerraren hirugarren iraultzarako aitzindariak, Pere Ortega Bartzelonako Bake Ikerketarako Delas zentroko presidentearen arabera. Gatazkologia irakasten du Kataluniako Unibertsitate Irekian. «Drone militarrekin hasi zen kezka, urrutitik gidatzen direlako, eta milaka kilometrora, pantaila batean ezin duzulako ongi bereizi jomuga», esan du Ortegak. «Beraz, zibilak hil ditzakete, askotan gertatu den legez». Arazoa asko larritzen da, Ortegaren arabera, adimen artifiziala erabiltzen bada, asko handitzen delako huts egiteko aukera. Robot hiltzaileak garatzen ari direnek argudiatzen dutenez, gailuok bizitzak salbatuko dituzte, ez direlako arriskuan jarriko euren tropak. AEBetan eta Israelen, «soldaduen gorpuak heltzen hasten direneko irudi txar hori saihestu nahi dute, kostu politiko handia duelako, iritzi publikoa asaldatu egiten delako».

Gerra arautzen duten nazioarteko itunak kolokan jartzen dituzte gailuok, erabakien atzean ez dagoelako giza faktorerik. Erantzunaren proportzionaltasunaren printzipioa hausten dute makinok, baita zibilak eta militarrak bereiztearen printzipioa ere. «Genevako Itunak debekatzen du zibilez beteriko guneetan eraso militarrak egitea. Gero egiten dituzte, bai, baina debekua hor dago. Arma autonomoek arau hori hausten dute».

Ortegaren arabera, Euskal Herriko arma enpresak ez dabiltza lan egiten robot hiltzaileen eremuan. Bai, ordea, droneetan. Sener enpresa jarri du azken horien adibide gisa.

Debekatzeko «goizegi»

Miriam Struyk robot hiltzaileen gaiaz arduratzen da Herbeheretako Pax taldean (paxforpeace.nl). Genevan egon zen joan zen astean. «Etsigarria da bileraz bilera diplomazialariei entzutea 'teknologia asko aurreratzen ari da' esaldiarekin hitzaldiak hasten, baina neurririk ez hartzen», esan du. Struyken taldeak bi txosten prestatu ditu gaiaren inguruan. Keeping control txostenean, Europako herrialdeek debekuaren inguruan duten jarrera azaldu dute. Gaur, 22 herrialde daude armok debekatzearen alde, batez ere Latinoamerikakoak eta Afrikakoak. Europan Austriaren jarrera ona nabarmendu du Struyk, eta baita Irlandarena ere. Biak daude debekatzearen alde. Frantziaren aburuz, ordea, makina batek jomuga aukeratzeak eta tiro egiteak «ez du zertan nazioarteko legedia urratu». Debekatzeko goizegi dela uste du Parisek, eta antzeko jarrera du Madrilek. «Europako Legebiltzarrak adierazpen bat plazaratu du, baina gaiaren ikuspegi moraletik bakarrik. Europako Batasunak ez du ezer esan gaiaren inguruan». Datorren asteazkenean, abenduaren 6an, Belgikako Legebiltzarrean mintzatuko da Struyk robot hiltzaileen inguruan, eta debekuaren inguruko mozioa bozkatuko dute gero. «Interesa egon badago Europan, baina erabakiak ez dira hartzen ari behar bezain azkar».

Muga non jarri txostenean, armon katalogo bat egin du Struyken taldeak. «Gehien izutzen nauena zera da: armok gero eta autonomia handiagoa dutela». Ekintzaileak esan duenez, erabateko autonomiarako aurrerapena oso azkarra da. «Erabat autonomoak direnekin bakarrik du kezka jende askok, eta robot hiltzaile itxura dutenekin. Baina autonomiarako bidea continuum bat da», esan du Struykek. «Aldapa behera goaz. Muga jarri beharko da».