Mākslīgā intelekta speciālisti nobažījušies par robotslepkavu ražošanu

Kopumā šajā protestā iesaistījušies vairāk nekā 50 mākslīgā intelekta attīstīšanas eksperti, kuri ir vienisprātis, ka KAIST sadarbība ar ieroču un aizsardzības sistēmu ražotāju “Hanwha Systems” novedīs pie mākslīgā intelekta izmantošanas ļauniem mērķiem.

Boikotā iesaistītie akadēmiķi paziņojuši, ka nesadarbosies ar KAIST un “Hanwha Systems”, jo bažījas, ka šo iestāžu rīcība izvērtīsies kārtējā bruņošanās sacīkstē, kuras mērķis būs radīt autonomus ieročus – robotus, kuri paši spēs identificēt mērķus un nepieciešamības gadījumā iznīcināt tos.

Eksperti brīdina par filmas “Terminators” scenāriju

“Ir ļoti daudz lielisku lietu, ko varētu paveikt, izmantojot mākslīgo intelektu, tostarp arī glābt dzīvības. Tamdēļ atklāts paziņojums par mērķi izstrādāt kārtējo ieroci, ir pietiekams pamats sašutumam,” medijam paudis boikota organizators, Jaundienvidvelsas universitātes profesors Tobijs Valšs.

“Šī ir ļoti respektabla universitāte, kura piepeši ir izlēmusi apvienot spēkus ar pretrunīgi vērtētu kompāniju, kura regulāri pārkāpj starptautiskās normas,” piebilda akadēmiķis.

Kā ziņo "Guardian", "Hanwha Systems" ir viens no Dienvidkorejas lielākajiem ieroču sistēmu ražotājiem, kurš joprojām ražo tā dēvēto šķembu munīciju (Cluster munitions), kura ir aizliegta 120 valstīs.

Tiesa gan, Dienvidkoreja, ASV, Krievija un Ķīna attiecīgo konvenciju nav parakstījušas. Šādu ieroču ražošana Korejas pussalā vēl vairāk sarežģītu jau tā saspringto situāciju starp Dienvidkoreju un Ziemeļkoreju.

Zinātnieku boikots noorganizēts īsu laiku pirms Apvienoto Nāciju Organizācijas pārstāvju tikšanās Ženēvā. Līdz šim pret šādu robotu un tehnoloģiju attīstīšanu iestājušās vairāk nekā 20 valstis.

Mākslīgā intelekta izmantošana militārajām vajadzībām jau labu laiku izsauc bažas par situāciju, kas varētu līdzināties Holivudas trakākajām fantāzijām, piemēram, “Terminators” filmu scenārijiem.

Skeptiķi atkārtoti norāda uz risku, kāds veidojas, atļaujot autonomam mehānismam izlemt, ko iesākt ar identificētiem mērķiem. Neesot arī iespējams pilnībā izslēgt robota kļūdīšanās faktoru, kas šādā situācijā varētu būt letāla.

Universitāte mierina, ka negrasās būvēt draudīgos robotus

Dienvidkorejas universitātes Zinātnes un tehnoloģiju institūta prezidents Sungs-Chul Šins, reaģējot uz akadēmiķu boikotu, paziņojis, ka ir apbēdināts par šādu lēmumu.

“Vēlos paust, ka KAIST nav nodomu piedalīties autonomu ieroču sistēmu un tā dēvēto robotu-slepkavu ražošanā,” pauda prezidents, “mēs kā akadēmiska iestāde augstu vērtējam cilvēktiesības un vispārpieņemtos ētikas standartus un negrasāmies piedalīties pētījumos, kuros tiktu radītas sistēmas, kuras būtu pretrunā ar mūsu iepriekšminēto pārliecību.”

KAIST institūta radītie roboti darbībā:

Runājot par autonomiem ieročiem, jāpiebilst, ka Dienvidkorejas kompānija “Dodaam Systems” jau šobrīd ražo pilnībā autonomu “kaujas robotu” – statisku lielgabalu, kurš spēj identificēt pat 3 kilometru attālumā esošus mērķus.

Ražotāja klientu sarakstā ir Apvienoto Arābu Emirāti un Katara. Šī sistēma jau ir testēta militarizētajā zonā pie Dienvidkorejas-Ziemeļkorejas robežas. Kompānijas pārstāvji gan pauž, ka šīs ieroču sistēmas nespēj izšaut bez cilvēka, īpaši apmācīta sistēmas operatora palīdzības. Militārais bezpilota lidaparāts “Taranis”, kuru ražo britu kompānija “BAE Systems”, arīdzan spēj darboties pilnībā autonomi bez cilvēka iesaistīšanās.