Az ENSZ sem tud mit kezdeni a gyilkos robotokkal

szerző
Szedlák Ádám
publikálva
2017. nov. 16., 16:20
Twitter megosztások száma
Google +1
Egyéb megosztás

Szabályozást kellene gyártani az önvezető, magától célpontot választó fegyverekre, de három év alatt még definíciót sem sikerült találni rájuk.

„Mint pusztító tűz ha emészti a rengeteg erdőt
fönn a hegyek tetején, s nagy messzire terjed a fénye:
sűrű fegyvereik ragyogása, mikor kivonultak,
úgy szállt át a magas levegőn, csillogva, az égig.”
(Íliász, Devecseri Gábor fordítása)

Minden jó, ha van már egy TLA-ja. A TLA pedig magyarul egy HBR, csak hogy mindenki tudja, miről beszélünk. Oké, abbahagyom az érthetetlen beszédet. A TLA a Three Letter Acronym, azaz a HáromBetűs Rövidítés. A hülyéskedésre az ad alkalmat, hogy Genfben épp ülésezik az ENSZ LAWS – azaz gyilkos robot – szakértői munkacsoportja, a CCW – azaz némely konvencionális fegyver – konferencia. Ugye, hogy még olvasni is pokol? Ha idáig kibírták, innentől esküszöm, érthető leszek, csak be kellett mutatni azt a nyelvet, ami mögé el van rejtve egy egészen fontos kérdés.

Az Amandeep Singh Gill indiai szakértő által vezetett munkacsoport három éve dolgozik az autonóm fegyverrendszerek kezelésének, szabályozásának lehetőségén. Autonómnak tekinthetünk minden olyan jövőbeli fegyvert, amely maga választ célt, és tüzel is rá. A mai harci drónok, amelyeket az Egyesült Államok szép számban használ, még nem merítik ki ezt a kritériumot: a drón kameráján keresztül ember néz át, a tüzelési parancsot ember adja ki.

false

 

Fotó: Senior Airman Andrew Lee/USAF

A két technológia közötti határ valójában már ma sem egyértelmű. Elég technológiai rásegítés van a rendszerekben – hiszen a pilóták több száz, több ezer kilométerre ülnek egy konténerben –, hogy ne hazudjuk nyugodtan magunknak azt, hogy nem a gép gyilkol, hanem az ember. Az autonóm fegyveres munkacsoportnak is ezzel kell először megküzdenie, momentán nem rendelkeznek olyan definícióval ezekre a robot fegyverrendszerekre, amellyel minden résztvevő elégedett lenne.

A Human Rights Watch (HRW) őrkutyaszervezet oldalán két nappal a konferencia előtt már olyan közlemény jelent meg, amely szerint a szabályozást kidolgozó csoport egy helyben toporog. Steve Goose, a HRW fegyverekkel foglalkozó szárnyának vezetője szerint a továbblépéshez arra lenne szükség, hogy az autonóm fegyverek betiltását kérő civilekre, mesterségesintelligencia-kutatókra és robotszakértőkre kezdjenek hallgatni a munkacsoport államokat képviselő tagjai, és felgyorsítsák a közös munkát. Igaz, a civilek sem egységesek. Egy, a mesterséges intelligenciát gyártó cégek vezetői által jegyzett levél nem tiltást kért, hanem azt, hogy az ENSZ „védje meg a veszélyektől” az embereket.

Fegyverré tett gondolatok

Az ENSZ-munkacsoportban végzett munka mellett van egy másik frontja is a vitának. Ez a sajtóban terjedő nyilatkozatokban és a közösségi médiatérben megosztott videókban zajlik. A vita atomfegyverei az Elon Musk- vagy Steven Hawking-nyilatkozatok, illetve az olyan jövőképvideók, amelyek a gyilkos robotok szabadon engedésének veszélyeire hívják fel a figyelmet.

A fenti klip azért különösen ügyes, mert a legnagyobb robotos közhelyet, a Terminátortól vagy Frankenstein szörnyétől való félelmet el tudja engedni. Nem a teremtője ellen forduló rejtélyes intelligenciát feltételez, hanem egyszerű kamerás célzórendszer által irányított rajt. Ráadásul a hatás is egyszerű: kinetikus energia és robbanás. Valójában ma rendelkezésünkre áll minden egy ilyen fegyver létrehozásához. Ugyanakkor nincs meg a bürokratikus kapacitás a betiltására.

false

 

Fotó: Senior Airman Larry E. Reid Jr./USAF

Másvalaki Problémája – kövesse a Magyar Narancs technológiai-társadalmi kérdésekkel foglalkozó blogját!


Másvalaki Problémája – Magyar Narancs

Nem látod, pedig ott van, és téged is érint. A Magyar Narancs új, technológiai-társadalmi kérdésekkel foglalkozó blogja.

szerző
Szedlák Ádám
publikálva
2017. nov. 16., 16:20
Twitter megosztások száma
Google +1
Egyéb megosztás
Ezt már olvasta?

Kommentek

Rendezés:
  1. 4
    rworse
    2017. november 16., csütörtök 21:55
    kelt, 3

    No persze, ha a nulladik törvényt is belevesszük, akkor még utópisztikusabb. És ugyebár, azokban a regényeiben, amelyekben szerepelnek robotok, természetszerűleg adódnak olyan esetek, amikor pusztításra, emberölésre programoznak robotokat. Vagy ugye a truváj, hogy az emberek védelmére van programozva, de ki tekintendő embernek, lásd Solaria bolygó - ha már Asimov.
  2. 3
    kelt
    2017. november 16., csütörtök 21:14
    @rworse

    Ráadásul a robotika három törvénye tovább is variálódik - nem fért már bele a posztba - mert az a játék igazából az R. Daneel Olivaw által kitalált nulladik törvénnyel válik teljessé, ami szerint a robot nem tűrheti, hogy sérüljön az emberiség. Na de mi alapján is mondjuk meg, hogy sérül-e vagy hogy általában véve adott helyzetben mi az optimális megoldás. Van helyette sokkal nehezebben kiértékelhető valóságunk.

    @yoyo

    Ha még nem tetted volna, Warren Ellis Normal című kisregényére mindenképpen nézz rá.
  3. 2
    yoyo
    2017. november 16., csütörtök 20:14
    Ez az fejlesztési irány ráadásul egyáltalán nem tartozik a high tech kategóriába, kis túlzással sufnibarkács szinten komoly eszközök hozhatók létre, sem a beszerzésük, sem az alkalmazásuk nem kontrollálható igazán. Azaz ha születik is valamilyen elhatározás a korlátozásukra, a kísértés attól csak sokkal nagyobb lesz.
    A terroristák ma már a nehezen beszerezhető fegyverek, robbanóanyagok használata helyett egyszerűen a járókelők közé hajtanak egy kamionnal, ennél is rizikó- és lebukásmentesebb lesz majd saját fejlesztésű szoftverekkel, e-bay-ről beszerzett, akár egy mobiltelefonnal irányítható gyerekjátékokkal támadásokat végrehajtani.
    Ez a veszélye annak, hogy olyan technikák terjednek el a mindennapi használatban, amik ennyire sokféleképpen terjesztik ki az ember működését.

    Nyilván ahhoz se kell túl nagy fantázia, hogy a terrorizmus számára valóságos csemege lesz, amikor hálózatban működő önvezető járművek lepik el a városok utcáit,

  4. 1
    rworse
    2017. november 16., csütörtök 19:51
    Asimov három robotikai törvénye szép utópia, nem tudom, komolyan gondolta-e, hogy megvalósulhat. A mesterségesintelligencia-fejlesztés húzóágazata már Asimov fiatalkorában is a hadászat volt - mi más is lehetett volna, az ember egy állatfaj.

Komment írásához