Kaujas lauks “dezinformācija”: mākslīgais intelekts cīņā pret mākslīgo intelektu

Šāda pieeja nebija nekas neparasts žurnālistikas rītausmā, arī pirmajās latviešu avīzēs netrūka neparastu ziņu, piemēram, par gaidāmo pastardienu, runājošām govīm vai dīvainu zivi ar četrām kājām, kas nozvejota Daugavā. Ar laiku šāda, kā agrāk teica – “sensacionēla” informācija periodikā gāja mazumā un pārcēlās uz tematiskiem izdevumiem, kas strādāja tieši ar šo žanru.

Tomēr dezinformācija nekur nepazuda – Padomju Savienībā visa informatīvā telpa bija ja ne viltus ziņas, tad “modificēta patiesība” par darbaļaužu brīnišķīgo dzīvi PSRS un “pūstošajiem Rietumiem”. Nu dezinformācija atkal ir devusies “uzvaras gājienā”. Dezinformācijas apjoms, kam tiek pakļauta sabiedrība, ir milzīgs, un runa vairs nav par izteiktām un aizdomīgām sensācijām, bet ikdienišķām jomām, kas skar ikvienu. To integrē dažādos, pat pavisam it kā nevainīgos ziņojumos. Daļa šīs dezinformācijas tiek radīta ar mākslīgā (MI) intelekta palīdzību, un te rodas paradokss – ar MI radītās dezinformācijas atpazīšanai tiek izmantots… tas pats mākslīgais intelekts. Mēs esam nonākuši situācijā, kad MI cīnās pret MI.

Jebkura norise un tendence sabiedrībā nepaiet bez zinātnieku un pētnieku uzmanības, un dezinformācija šajā ziņā ir ļoti “pateicīga” – to var pētīt no visdažādākajiem aspektiem. Tā pirms diviem gadiem tika izveidots pētniecības projekts “AI4Debunk” jeb “Mākslīgais intelekts dezinformācijas atmaskošanai”, ko vada Latvijas Universitāte un kurā iesaistīta starptautiska pētnieku komanda. Viņu atklātais par dezinformāciju ir gan aizraujošs, gan satraucošs. Jebkurā gadījumā mums visiem ir viela pārdomām.

Tas, uz ko pētnieki īpaši norāda, ir dezinformācijas milzīgais mērogs, straujais, pat zibenīgais izplatīšanās ātrums un ietekme. “Dezinformācijas sekas ir redzamas gan sabiedrību līmenī, gan globālā mērogā. Jaunās tehnoloģijas un sociālo mediju platformas ir dramatiski paātrinājušas dezinformācijas izplatību, ļaujot viltus ziņām dažu minūšu laikā izplatīties visā pasaulē un pastiprinot gan ārvalstu iejaukšanās, gan iekšējās polarizācijas efektus,” saka Dr. Paskalīne Gaborī, “AI4Debunk” projekta eksperte un pētniece.

“Mūs pārsteidza tas, cik multimodāla ir kļuvusi dezinformācija. Teksts, attēli, video un konteksts savstarpēji mijiedarbojas, padarot tās atklāšanu daudz sarežģītāku, nekā to spēj nodrošināt viena modeļa pieejas,” kolēģi papildina Dr. Ing. Franks van der Bents, Utrehtas Lietišķo zinātņu universitātes pētnieks, kurš arī iesaistījies “AI4Debunk”. “Tas liecina par nepieciešamību pēc atvērtas, dinamiskas atklāšanas sistēmas, kurā viegli integrēt dažādus noteikšanas moduļus.”

Vēl viens būtisks secinājums ir, ka dezinformācija netiek vērsta tikai pret konkrētām grupām – tā ietekmē visu sabiedrību kopumā. Dezinformācijas riskam vairāk ir pakļauti jaunieši – intensīvās digitālo platformu lietošanas dēļ, taču arī sociāli ievainojamas vai neapmierinātas sabiedrības grupas var kļūt par nozīmīgiem polarizējošu naratīvu izplatītājiem, īpaši tad, ja jau pastāv dziļākas sociālās problēmas, uzsver Gaborī.

Pētnieku uzmanību piesaistīja tas, cik emocionāli virzītas ir dezinformācijas ekosistēmas, turklāt emocionālās reakcijas bieži saglabājas pat pēc tam, kad nepatiesā informācija ir atmaskota. Tā teikt, pirmais iespaids ir spēcīgākais, un tam, ko saka vēlāk, sabiedrība vairs nepievērš tik lielu uzmanību. Turklāt nereti ir tā, ka atspēkojumu nomāc jau nākamais un nākamais dezinformācijas vilnis, tāpēc visu laiku sanāk cīņa ar sekām.

Pašlaik liela daļa cīņas pret dezinformāciju joprojām notiek jau pēc tās parādīšanās. Bet vai ir iespējams dezinformāciju apsteigt? “Lielākā daļa pašreizējo sistēmu joprojām ir reaktīvas – tās analizē saturu pēc tā publicēšanas,” piekrīt Franks van der Bents. “Prevencija teorētiski ir iespējama, taču tā prasa nepārtrauktu monitoringu, liela mēroga modeļu analīzi un potenciāli nepatiesu naratīvu agrīnu identificēšanu. Tas savukārt rada izaicinājumus saistībā ar privātumu, mērogojamību un kļūdaini pozitīviem rezultātiem.”

“Mākslīgais intelekts piedāvā arī preventīvu potenciālu,” norāda Paskalīne Gaborī. “Atkarībā no tā, kā tas tiek izstrādāts un pārvaldīts, MI var palīdzēt atklāt aizdomīgus modeļus, identificēt koordinētas manipulācijas kampaņas un iezīmēt kaitīgus naratīvus, pirms vēl tie sasniedz plašu auditoriju. Šajā ziņā MI var kļūt par aizsargmehānismu, taču tā efektivitāte pilnībā ir atkarīga no tā, cik atbildīgi tas tiek izstrādāts un izmantots.”

Van der Bents uzskata: “Dezinformācija nav tikai mākslīgā intelekta problēma – tā ir sistēmiska problēma. Nepatiesas informācijas atklāšana ir tikai daļa no izaicinājuma; patiesā problēma ir nodrošināt cilvēkiem ātru, skaidru un savlaicīgu atgriezenisko saiti brīdī, kad viņi sastopas ar šo informāciju. Pat ļoti precīzs MI kļūst neefektīvs, ja rezultāti tiek sniegti pārāk lēni, neskaidri vai slikti integrēti cilvēku informācijas patēriņa paradumos.”

Projektā “AI4Debunk” pētnieki aptaujāja iedzīvotājus un veica plašākas sabiedrības analīzes, lai labāk saprastu, kā cilvēki uztver, interpretē un iesaistās dezinformācijā. Iegūtie dati rāda, ka dezinformācija kļūst arvien personalizētāka, adaptīvāka un ciešāk integrēta ikdienas platformās. “Visvairāk mūs pārsteidza tas, cik multimodāla ir kļuvusi dezinformācija. Teksts, attēli, video un konteksts savstarpēji mijiedarbojas, padarot atklāšanu daudz sarežģītāku, nekā to spēj nodrošināt viena modeļa pieejas,” norāda van der Bents.

Dezinformācijas kampaņas bieži izmanto emocionālas un sociālas ievainojamības. Biežākie “sprūda punkti” ir bailes, nedrošība, identitātes jautājumi, ekonomiska frustrācija, politiskā polarizācija un neuzticēšanās institūcijām, norāda pētnieki. Dažādas auditorijas reaģē uz atšķirīgiem naratīviem atkarībā no sociālā konteksta, mediju lietošanas paradumiem un personīgās pieredzes, tāpēc dezinformācijas stratēģijas kļūst arvien personalizētākas un balstītas datos.

“Daudzas tradicionālās dezinformācijas tehnikas joprojām ir efektīvas, jo tās turpina izmantot fundamentālas cilvēku emocijas – bailes, dusmas un nenoteiktību. Tomēr mainās šo metožu tehnoloģiskā sarežģītība. Ģeneratīvais MI jau ir būtiski mainījis manipulatīva satura mērogu un ticamību, tostarp sintētisku attēlu, video un tekstu radīšanā. Pamatnaratīvi var palikt līdzīgi, taču rīki, ar kuriem tie tiek pastiprināti, kļūst ievērojami jaudīgāki,” saka Paskalīne Gaborī. “Nākotnē tādas jaunās tehnoloģijas kā kvantu skaitļošana var radīt pilnīgi jaunus tehnoloģiskus satricinājumus un informācijas drošības izaicinājumus.”

Ja dezinformācijas noteikšanā tiek izmantots mākslīgais intelekts, tad iznāk, ka MI cīnās faktiski pats pret sevi. “Zināmā mērā jā. MI būtībā ir instruments, un kā jebkuru instrumentu to var izmantot gan konstruktīvi, gan destruktīvi,” piekrīt Gaborī. “Ģeneratīvais MI arvien biežāk tiek izmantots sintētiska satura radīšanai, naratīvu manipulēšanai un dezinformācijas kampaņu paātrināšanai. Tajā pašā laikā MI tiek izmantots arī, lai atklātu MI radītu saturu, identificētu manipulācijas modeļus un atbalstītu faktu pārbaudes un verifikācijas procesus. Daudzējādā ziņā mēs patiešām piedzīvojam “MI pret MI” dinamiku informācijas telpā.”

Franks van der Bents gan ir noskaņots visai pesimistiski. “Tā nav līdzvērtīga cīņa. MI ļauj ātri un salīdzinoši lēti radīt pārliecinošu dezinformāciju, savukārt aizsardzības sistēmām jābūt arī izskaidrojamām, uzticamām un atbildīgām, kas padara tās būtiski sarežģītākas un lēnākas. Tāpēc “MI pret MI” situācija nav līdzsvarota. Tā drīzāk ir spriedze starp ātrumu un uzticēšanos.”

Pētnieks arī uzskata, ka “labais” MI nekad neuzvarēs. “Šī problēma ir dinamiska – līdz ar atklāšanas tehnoloģiju attīstību attīstās arī dezinformācija. Galīga risinājuma nav,” viņš norāda. “Tas, ko MI var paveikt, ir palēnināt izplatīšanos, palielināt caurspīdīgumu un palīdzēt cilvēkiem pieņemt labāk informētus lēmumus. Galu galā mērķis nav pilnībā izskaust dezinformāciju, bet gan padarīt to mazāk efektīvu un grūtāk mērogojamu. Galvenais ir nodrošināt ātru un saprotamu informāciju īstajā brīdī – lai cilvēki padomātu divreiz, pirms dalīties ar saturu.”

Kolēģim piekrīt Dr. Gaborī: “Neviena tehnoloģija viena pati pilnībā neizskaudīs dezinformāciju. Arī pats MI var veicināt problēmu, paātrinot nepatiesa vai manipulatīva satura radīšanu un izplatīšanu. Tomēr MI var kļūt par spēcīgu sabiedroto demokrātisko procesu, zinātniskās integritātes un sabiedrības uzticēšanās aizsardzībā, īpaši, ja tas tiek apvienots ar cilvēku uzraudzību, medijpratību, ētisku pārvaldību un stiprām demokrātiskām institūcijām. Galu galā cīņa pret dezinformāciju nav tikai tehnoloģisks jautājums – tā ir arī sociāla, politiska un izglītojoša cīņa.”

Mediju atbalsta fonda ieguldījums no Latvijas valsts budžeta līdzekļiem. Par publikācijas "Kaujas lauks “dezinformācija”: mākslīgais intelekts cīņā pret mākslīgo intelektu" atbild Izdevniecība Rīgas Viļņi.