Jānis Sārts brīdina par mākslīgā intelekta gaidāmo ietekmi nākamajās vēlēšanās
Ja Rietumi nepievērsīs pienācīgu uzmanību mākslīgā intelekta (MI) spējām ietekmēt cilvēku prātus un rīcību, mēs būsim zaudētāji iepretim autoritārām valstīm, intervijā LETA pauž NATO Stratēģiskās komunikācijas izcilības centra ("Stratcom") direktors Jānis Sārts. Tādēļ "Stratcom" veido MI laboratoriju, kurā cita starpā tiks izstrādāti risinājumi, lai aizsargātu nākamgad gaidāmās Saeimas vēlēšanas no MI veiktām ietekmēšanas operācijām. Par Ukrainas karu un miera sarunām eksperta komentārs ir īss: kamēr nebūs izmaiņu kaujas laukā, nebūs arī sarunu.
Sākšu ar aktuālo. Eiropas Savienības aizsardzības un kosmosa komisārs Andrjus Kubiļus izteicies, ka Vācijas izlūkdienestam ir pierādījumi, ka Kremlis apspriedis uzbrukumu NATO valstīm. Kā mums uz to raudzīties?
Militārā loģika liek domāt, ka Kremlis to ne tikai ir apspriedis, bet viņiem ir arī plāni, kā to darīt, ja viņi to izlemtu. Taču tas pats par sevi nav nekas pārsteidzošs un neparasts. Arī Rietumi plāno un apspriež dažādus militārus scenārijus. Redzot Krievijas kopējo retoriku, šādu potenciālu uzbrukumu apspriešana nav nekas neparasts. Es būtu pārsteigts, ja Maskava to nebūtu pārspriedusi. Vai no tā būtu jāsecina, ka Krievija reāli grasās uzbrukt? Nē! Plānu esamība ir loģiska, taču tas nenozīmē, ka krievi ir gatavi tos tūlīt īstenot. Tur ir citi faktori, ieskaitot mūsu gatavību reaģēt uz šādiem kairinājumiem. Krieviju noteikti ietekmē tā gatavība, kuru NATO var demonstrēt, mūsu spējas. Vēl jāņem vērā tādi nopietni faktori kā ASV gatavība reaģēt un tās pozīcija, kā arī kopējie ģeopolitiskie notikumi.
Pēdējā laikā Krievija ir vairākkārtīgi veikusi dažādus hibrīduzbrukumus vairākām NATO dalībvalstīm, kaut vai dronu ielidošana Polijā un iznīcinātāji, kas pārkāpa Igaunijas gaisa telpu. Analītiķi uzsver, ka tā ir NATO spēju testēšana. Vai līdzšinējā NATO atbilde uz šādiem "testiem" ir bijusi tāda, kas Putinam liktu saprast: nē, ar aliansi spēlēties nedrīkst?
Visnopietnākais uzbrukums bija dronu ielidošana Polijā un Igaunijas gaisa telpas pārkāpums 12 minūtes. Vēl jāmin potenciālie Krievijas droni dažādās Eiropas pilsētu lidostās. Visi šie pārkāpumi - droni bez kaujas galviņām un ar brīdinājumu, ka viņi lido iekšā, - ir kalibrēti tā, lai NATO pilna apmēra atbildi neizraisītu. Tie domāti, lai NATO šos incidentus apspriestu, pārrunātu savu ievainojamību utt. Taču, ja viņi šādā piesardzīgā veidā testē, tas nozīmē, ka viņi negrib izraisīt lielu un nopietnu atbildes reakciju. No otras puses, atstājot šādus "testus" bez atbildes, mēs sagaidīsim to intensificēšanos. Tas ir neizbēgami. Redzēsim, kādi būs nākamie Krievijas soļi. NATO, protams, ir adaptējusi savu militāro klātbūtni reģionā. Par droniem es vienmēr atkārtoju - pilnīga gaisa telpas drošība no dažādu dronu ielidošanas ir ilūzija. Neviena valsts, ieskaitot Izraēlu, nav spējīga tehnoloģiski nodrošināt pilna mēroga gaisa telpas aizsardzību. Incidentu riski ir augsti. Vienlaikus es nedomāju, ka Krievija būtiski apšaubītu NATO spējas, jo tad šie daudzie pārkāpumi būtu citādi kalibrēti, provokācijas būtu daudz nopietnākas. Svarīgākais - vai Krievija tic NATO vienotai atbildei.
Piedodiet par it kā muļķīgu jautājumu, bet, jūsuprāt, vai Krievijas prezidentam Vladimiram Putinam ir bail no NATO?
Es neesmu Putina psihoanalītiķis, bet viņš līdz šim nevienā NATO dalībvalstī nav iesūtījis kaujas dronus. NATO eksistenciāli svarīga ir tikai viena lieta - iebrukums kādā NATO valstī, uz kuru nav atbildes. Viss pārējais ir žonglēšana. Vienīgā sarkanā līnija ir iebrukums kādā alianses dalībvalstī, un, ja uz to nav atbildes, tad NATO gan pārstāj eksistēt. Tas ir fakts.
Oktobra sākumā Putins savā runā Valdajas diskusiju klubā veselu sadaļu veltīja tam, lai izteiktos, cik absurda ir doma, ka Krievija varētu uzbrukt NATO. Šis vēstījums primāri bija domāts ASV prezidentam Donaldam Trampam. Bet pašreizējā situācija liecina, ka šie Putina vārdi neko nenozīmē.
Putina dažādie izteikumi mēdz būt ļoti pretrunīgi. Mums jāskatās uz to, kas notiek reālajā dzīvē. Klausāmies nevis vārdos, bet skatāmies uz darbiem. Un darbos notiek NATO testēšana, kāda pirms tam nav notikusi. Tajā pašā laikā neko nopietnāku par testēšanu mēs neredzam, jo Krievijai nav daudz atlikušu militāru spēju, kas nebūtu aizņemtas Ukrainā. Krievi, un tāda bija arī militāro mācību "Zapad" jēga, mēģina izlikties par lielākiem un spēcīgākiem, nekā viņi ir.
Putins Valdajā runāja par ietekmes uz potenciālā politiskā pretinieka apziņu nozīmi jeb, citiem vārdot sakot, informatīvo karu. Domnīca "Eiropas Ārlietu padome" norādīja, ka tā ir netieša Krievijas ietekmes operāciju atzīšana. Skaidrs, ka tur tiek izmantots arī MI. Cik nopietns drauds Eiropas demokrātijām ir šīs ietekmes operācijas un MI?
Tā ir realitāte, ar kuru mēs Latvijā saskaramies jau ilgstoši. Pārējā Eiropā tas ir vērojams pēdējos desmit gadus. Mēs uz šādām ietekmes operācijām raugāmies kā uz informatīvo kara lauku. Un, līdzīgi kā citos kara laukos, arī te vislielākā loma ir tehnoloģijām. Ja līdz šim informatīvajā karā lielākā nozīme bija cilvēku talantiem un prasmēm, tad līdz ar MI tas strauji mainās. MI jau pašlaik ir liela ietekme, kas nākotnē tikai pieaugs. Vairāki starptautiskie zinātniskie pētījumi testē MI modeļu spēju pārliecināt cilvēkus. Visu pētījumu rezultāti ir vienisprātis: MI ir daudz jaudīgāks pārliecinātājs un ietekmētājs nekā cilvēks. MI spēja psiholoģiski profilēt cilvēkus, ar kuriem runā, ir ievērojama. Cilvēku spēja pretoties MI izveidotajiem modeļiem ir diezgan zema. Cilvēki sāk aizvien vairāk, tostarp arī emocionāli, uzticēties šiem modeļiem. MI spēja ietekmēt priekšstatu sistēmas un cilvēku rīcības pašlaik ir tādā jaudas pakāpē kā nekad iepriekš.
Skaidrs, ka to izmanto arī Krievija šādās ietekmēšanas operācijās. Kā jūs skaidrojat, kāpēc Moldovas vēlēšanās, kuru ietekmēšanai krievi izdeva ļoti daudz naudas, viņiem neizdevās panākt sev vēlamo rezultātu?
Krievija pašlaik izmanto tikai pašus rudimentārākos MI modeļus, un tā šajā ziņā nav ļoti nopietns spēlētājs, kas ir laba ziņa Rietumiem. Krievi, protams, izmanto MI, bet salīdzinoši vienkāršā līmenī. Turklāt Moldovā kā Eiropas nabadzīgākajā valstī digitālo līdzekļu ietekme uz sabiedrību nav tik izteikta kāt tehnoloģiski attīstītākās un pārtikušākās valstīs. Moldovā krievi vairāk pielietoja tā saucamos vecās skolas rīkus, piemēram, vēlētāju uzpirkšanu, korupciju.
Vai nav drauds, ka MI vienmēr būs jaudīgāks instruments autoritārās sistēmās, nevis demokrātijās?
Autoritārās sistēmas nav atpazīstamas kā lielu inovāciju radītājas. Protams, Ķīna ir cits stāsts. ASV ir MI attīstības priekšplānā, un es domāju, ka tā tur arī paliks, neraugoties uz masīvām Ķīnas investīcijām. Krieviju es vērā neņemtu, tie viņu modeļi ir pilnīgi smieklīgi.
Bet ja krieviem nāk talkā Ķīna?
Redziet, kur ir mūsu demokrātijas problēma - mēs neskatāmies uz MI pielietojumu cilvēku ietekmēšanā. Tā ir tipiski demokrātiska pieeja. Tikmēr autoritārās valstīs tas ir pirmais, kur raugās, kā pielietot MI modeļus. Jo autoritāro valstu būtība ir kontrolēt cilvēku prātus. Līdz ar to, ja mēs runājam par MI izmantošanu, lai radītu saturu, tad par to es neuztraucos. Vairāki zinātnieki uzskata, ka pēc pieciem gadiem 95% no interneta satura būs MI radīti. Cits stāsts ir par to, kā neļaut, lai MI modeļi sāk ietekmēt mūsu priekšstatus un mūsu pasaules redzējumu. Nesen divi Kembridžas universitātes zinātnieki publicēja savu pētījumu par "nodomu ekonomiku" (intention economy). Tajā viņi argumentē, ka MI var cilvēkā iebūvēt nodomu kaut ko darīt, viņam pašam šo iebūvēto nodomu pat neapzinoties. Tās ir lietas, par kurām es uztraucos.
Vai un ko mēs šādai ietekmēšanai un nodomu iebūvēšanai varam likt pretī?
Tā bēdīgā ziņa ir, ka cilvēks tam neko nevar likt pretī. Cita lieta, ka mēs varam attīstīt savus MI modeļus, kas palīdz stāties pretī nosacītā pretinieka modeļiem. Mēs varam radīt citus modeļus, kas mūs aizstāv pret MI ietekmēšanas mehānismiem un strādā mūsu labā. Ja nepieciešams, Rietumi varētu uztaisīt šādu modeli, kas strādā Krievijā pie sabiedrības acu atvēršanas.
Kas savstarpējo MI modeļu cīņas laukā uzvar - Ķīna vai Eiropa?
Ķīna. Savukārt, ja raugāmies uz Ķīnu un ASV, tad ASV ir priekšā, bet Eiropa aizvien vairāk atpaliek.
Cik tas ir bīstami mums? Vai mēs atkal varam paļauties uz ASV?
Ja mēs varam paļauties uz ASV, tas ir mazāk bīstami. Taču es piekrītu, ka Ķīna sāk noķert ASV. Ja starp šīm valstīm izveidosies paritāte, ir ļoti svarīgi, lai Eiropa ar ASV varētu sadarboties. Es nezinu, vai tā būs, bet es uz to ceru. Mana sāpe ir par to, ka Rietumos netiek veltīta MI tāda uzmanība, kādu tam velta Krievija un Ķīna. Rietumi var būt priekšā fundamentālajā attīstības skrējienā, bet, ja mēs nepievērsīsimies MI kognitīvajai (prātu ietekmēšanas) daļai, tad tas būs tas lauks, kurā tādas valstis kā Krievija mēģinās uzbrukt. Piemēram, sagraut vai mazināt mūsu lēmumu militāri aizsargāties.
NATO primāri ir militāra alianse. Cik liela loma tās attīstībā nākotnē būs MI?
Ļoti liela. MI ir ļoti plašs militārs pielietojums, piemēram, autonomās dronu sistēmas. 50 gadus ģeopolitisko stāvokli noteica kodolbumba, tagad to nosaka MI. Tikai atšķirībā no kodolbumbas MI ir tehnoloģija, kas nemitīgi attīstās. Visi militārie domātāji, tostarp vēl pirms mūsu ēras, ir teikuši, ka apziņas jeb gribas karš ir daļa no tradicionālā kara. Vienkārši agrāk nebija pieejami tādi instrumenti kā pašlaik. Līdz ar to NATO ir izteikti fokusējies, ka MI ir jaunā tehnoloģija, kas iezīmēs uzvarētājus. Te tiek runāts gan par lēmumu pieņemšanas ātrumu, spēju prognozēt situācijas attīstību un pieņemt kvalitatīvus lēmumus, autonomo sistēmu attīstība. Arī MI kognitīvā sadaļa ir iekļāvusies šajā arsenālā.
Cik liela nozīme MI, izņemot dronus, ir Ukrainas karā?
Par to, ka tas ir nozīmīgi, liecina tas, cik daudz vadošās Rietumu MI izstrādātājkompānijas atrodas Ukrainā. Tur notiek daudz un dažādi eksperimenti, lai gan es neteiktu, ka Ukrainas karā tiktu pielietoti paši jaunākie sasniegumi. Regulārs Ukrainas apmeklētājs ir bijušais "Google" vadītājs Eriks Šmits, kurš zināms kā viens no vadošajiem MI dažādu virzienu ietekmētājiem.
Cik liela nozīme dažādām ietekmēšanas operācijām būs nākamgad gaidāmajās Saeimas vēlēšanās, un vai tas jūs dara bažīgu?
Mani tas darba bažīgu, jo es nevaru pilnā apmērā paredzēt, kādas šīs ietekmēšanas operācijas varētu būt un cik tālu gada laikā būs attīstījušās tehnoloģijas, ko tās spēs. Vienlaikus nav jēgas tikai bažīties, tam ir jāgatavojas, tādēļ mēs veidojam MI laboratoriju. Vienu lietu gan var droši prognozēt - sintētiskais saturs mūsu gaidāmajās vēlēšanās būs ļoti plaši izplatīts un no visām pusēm.
Kas īsti notiks "Stratcom" MI laboratorijā?
Jāsāk ar to, ka tas, kas tehnoloģiski kļūst iespējams cilvēku apziņas ietekmēšanā, mainās un attīstās katru gadu. Mūsu mērķis ir MI ietekmes pielietojamībā noteikti būt priekšā Krievijai un neatpalikt no Ķīnas. Jau pašlaik mēs dažādos projektos sadarbojamies ar vadošajām Eiropas un ASV universitāšu MI laboratorijām. Mūsu MI laboratorijā viena liela tēma, pie kuras mēs strādāsim, būs MI aģentu, tostarp digitālo dvīņu, izveide (digitālajam dvīnim var veikt dažādas simulācijas, lai prognozētu, kā reālais, fiziskais objekts vai sistēma varētu reaģēt uz izmaiņām ārējā vidē - red.). Strādāsim arī pie MI autonomajām sistēmām, kas spējīgas uz ietekmes operācijām. Protams, strādāsim pie MI risinājumiem, lai aizsargātu vēlēšanas no MI uzbrukumiem. Nākamgad mēs sāksim pirmās reāla laika stratēģiskās komunikācijas mācības, kas notiks MI radītā sintētiskā informācijas vidē ar sintētiskiem, bet reālistiskiem iedzīvotājiem. Mācībās mēs trenēsim dažādu valstu stratēģisko komunikāciju komandas augstas intensitātes hibrīdkara apstākļos. Mēs varam simulēt gan informācijas telpu, gan auditorijas. Mēs jau aicinām NATO dalībvalstis veidot komandas šīm mācībām, kas būs sacensība ar uzvarētājiem un zaudētājiem. MI laboratorijas gada finansējums ir 300 000 eiro, neskaitot algas. Lauvas tiesa nāk no Latvijas valsts budžeta, bet ir arī NATO finansējums.
Par vēlēšanu aizsardzību. Krievija, izmantojot MI, var iet ar vienu konkrētu naratīvu. Mums parlamentārās demokrātijas apstākļos šāds viens ideoloģiskais naratīvs, ko likt pretī, nevar būt.
Mēs gribam saglabāt runas brīvību, dažādu ideju konkurenci. Līdztekus mums ir zema uzticība oficiālajām institūcijām, līdz ar to nebūs uzticības arī vienam "oficiālajam" naratīvam. Tās ir mūsu ievainojamības, kuras nav viegli atrisināt. Tāpēc ir jāmeklē citi risinājumi. Jāsaprot, ka ienaidnieka graujošajiem naratīviem ir nepieciešama to izplatības loģistika - robotizēti tīkli un konti, boti. Mans risinājums ir uzbrukt šai loģistikas ķēdei, lai šie naratīvi pie mums nenonāktu. Te gan ir risks - mēs varam izdarīt savu mājasdarbu, taču, ja to neizdara tā sauktās lielo valodu valstis, šie naratīvi pie mums var atnākt no citas puses. Problēma ir tā, ka šo loģistikas ķēžu ieraudzīšanai un izķeršanai ir vajadzīgas ļoti jaudīgas MI sistēmas.
Noslēdzošais jautājums par Ukrainu. Vai karš beigsies kaujas laukā vai pie sarunu galda?
Tas nav "vai nu, vai nu" jautājums. Kamēr kaujas laukā nav izmaiņu, sarunas nevar sākties.
Vai šogad tādas būs?
Fronte stagnē, un neviena puse nevar veikt milzīgu izrāvienu. Vienīgais, kas situāciju var izmainīt, ir ļoti nozīmīga jauna tehnoloģiska inovācija vai kādi notikumi citviet pasaulē, kas izmaina ģeopolitisko situāciju. Ārpus šiem faktoriem ir grūti ieraudzīt kādas izmaiņas. Ukraina nav gatava padoties, bet Putins ir gatavs iet uz priekšu. Jautājums, kurā es visu laiku esmu vīlies, ir, vai vienā brīdī Krievijas sabiedrībai nebūs gana. Bet nu tā ir absolūti blāva cerība.
