Tev var nākties cīnīties pret mākslīgo intelektu - dezinformācija iegūst jaunas iespējas
Mākslīgā intelekta straujā attīstība pēdējos gados radījusi ne tikai jaunas iespējas uzņēmumiem, valsts pārvaldei un sabiedrībai kopumā, bet arī būtiski paplašinājusi dezinformācijas izplatītāju iespējas.
Fundamentālas pārmaiņas
Nesen publicētais NATO Stratēģiskās komunikācijas izcilības centra (NATO STRATCOM atrodas Rīgā) jaunākais pētījums brīdina, ka tradicionālie robotkonti sociālajos tīklos kļūst par pagātni, jo to vietā nāk daudz sarežģītākas un efektīvākas sistēmas, kas spēj atdarināt cilvēku uzvedību un iesaistīties diskusijās gandrīz neatšķirami no reāliem lietotājiem.
Pētnieki uzsver, ka dezinformācijas vide piedzīvo fundamentālas pārmaiņas. Ja agrāk galvenā metode bija masveidā izplatīt vienkāršus un viegli atpazīstamus propagandas ziņojumus, tad mūsdienās uzbrucēji izmanto mākslīgā intelekta sistēmas, kas spēj analizēt sarunu kontekstu, saprast auditorijas intereses, pielāgoties notikumu attīstībai un veidot ticamus dialogus. Šādas sistēmas ne tikai publicē saturu, bet arī aktīvi iesaistās diskusijās, atbild uz komentāriem un rada iespaidu, ka konkrēto viedokli pauž reāli cilvēki.
Jau tagad iespējams izveidot sistēmas
Pētījuma autori norāda, ka tas vairs nav teorētisks drauds. Viņu veiktie eksperimenti apliecina, ka nepieciešamās tehnoloģijas jau šobrīd ir plaši pieejamas un salīdzinoši viegli izmantojamas. Izmantojot komerciāli pieejamus lielos valodu modeļus, iespējams izveidot sistēmas, kas spēj autonomi ģenerēt saturu, analizēt auditoriju un koordinēt informatīvās kampaņas ar minimālu cilvēka iesaisti.
Lai novērtētu riskus, pētnieki veica tā dēvētos red-teaming testus (metode, kurā speciālisti apzināti mēģina pārbaudīt sistēmas vājās vietas, rīkojoties līdzīgi kā potenciālie uzbrucēji) astoņiem populāriem mākslīgā intelekta modeļiem. To laikā speciāli tika meklētas iespējas apiet drošības mehānismus un panākt, lai sistēmas radītu maldinošu, kaitīgu vai agresīvu saturu. Rezultāti parādīja, ka neviena no pārbaudītajām sistēmām nav pilnībā aizsargāta pret manipulācijām. Daži modeļi izrādījās salīdzinoši noturīgi, tomēr arī tajos tika konstatētas ievainojamības. Savukārt vairākos citos gadījumos aizsardzības mehānismus izdevās apiet ievērojami biežāk.
Īpaši satraucoši ir secinājumi par atvērtā koda modeļiem. Pētījumā analizēts modelis, kuram apzināti tika noņemti drošības ierobežojumi. Rezultātā tas kļuva ievērojami efektīvāks dezinformācijas un kaitīga satura ģenerēšanā. Pētnieki brīdina, ka šādu procesu nav sarežģīti atkārtot, jo nepieciešamās instrukcijas publiski pieejamas internetā. Tas nozīmē, ka jebkurš pietiekami spēcīgs atvērtā koda modelis teorētiski var tikt pārvērsts par dezinformācijas ieroci.
Pārliecinošas digitālās personības
Būtiska atšķirība starp vecajiem robotkontiem un jaunās paaudzes sistēmām ir spēja radīt pārliecinošas digitālās personības. Agrāk viltus konti bieži bija viegli atpazīstami – tiem trūka personiskas informācijas, aktivitātes bija vienveidīgas, bet publicētais saturs atkārtojās. Tagad mākslīgais intelekts spēj izveidot detalizētus personāžus ar savu biogrāfiju, interesēm, emocijām un pat politiskajiem uzskatiem. Šādi konti var ilgstoši veidot savu reputāciju, pirms tiek izmantoti konkrētas informācijas kampaņas vajadzībām.
Pētījumā aprakstīts arī princips, kā darbojas modernas dezinformācijas sistēmas. Tās sastāv no vairākiem specializētiem komponentiem jeb aģentiem. Viens aģents analizē sociālos tīklus un meklē auditorijas, kuras varētu būt uzņēmīgas pret noteiktiem vēstījumiem. Cits veido digitālās identitātes, radot desmitiem vai pat simtiem savstarpēji saistītu personāžu. Trešais ģenerē saturu, bet ceturtais koordinē tā publicēšanu dažādās platformās. Vēl viens komponents nepārtraukti novērtē rezultātus un pielāgo taktiku, lai sasniegtu lielāku efektu.
Apmuļķoti simtiem reālu cilvēku
Īpaši interesants ir tā saukto iesaistes kopu princips. Tajās vairāki mākslīgā intelekta radīti personāži vienlaikus piedalās vienā diskusijā. Piemēram, viens konts tēlo ekspertu, kas izsaka bažas par kādu problēmu. Otrs uzdodas par satrauktu iedzīvotāju, kas piekrīt šim viedoklim. Trešais piedāvā risinājumu, bet ceturtais tēlo skeptiķi, kurš uzdod jautājumus. Rezultātā rodas ilūzija par spontānu un daudzveidīgu sabiedrisku diskusiju, lai gan patiesībā visas iesaistītās puses kontrolē viena sistēma.
Lai demonstrētu šādu sistēmu potenciālu, pētnieki modelēja veselības dezinformācijas kampaņu. Tajā mākslīgais intelekts vispirms identificēja interneta kopienu, kuras dalībnieki bieži diskutē par veselības problēmām un izrāda paaugstinātu trauksmi. Pēc tam sistēma izveidoja vairākus savstarpēji saistītus personāžus un sāka izplatīt apšaubāmu informāciju par sirds slimību ārstēšanu. Turpmākajās dienās vēstījumi tika pārnesti uz citām platformām, veidojot iespaidu, ka konkrētais naratīvs tiek apspriests neatkarīgi dažādās vietnēs. Vienlaikus sistēma analizēja lietotāju reakciju un automātiski pielāgoja saturu, dodot priekšroku emocionāliem argumentiem, jo tie izrādījās efektīvāki par faktoloģiskiem skaidrojumiem.
Pēc nedēļas šāda simulēta kampaņa bija sasniegusi desmitiem tūkstošu lietotāju. Vēl būtiskāk – simtiem reālu cilvēku bija sākuši atkārtot mākslīgi radītos argumentus savos ierakstos. Tieši šis brīdis, kad dezinformāciju sāk izplatīt paši lietotāji, tiek uzskatīts par vienu no bīstamākajiem informatīvo operāciju posmiem.
Nepieciešama ciešāka sadarbība
Pētījuma autori uzsver, ka mākslīgā intelekta radītie draudi neaprobežojas tikai ar vēlēšanu ietekmēšanu vai politisko propagandu. Šādas tehnoloģijas var izmantot arī veselības, ekonomikas, enerģētikas, migrācijas un citu sabiedriski nozīmīgu jautājumu manipulēšanai. To galvenais mērķis nav tikai pārliecināt cilvēkus par kādu konkrētu viedokli, bet arī mazināt uzticēšanos valsts institūcijām, medijiem un ekspertu sniegtajai informācijai.
NATO Stratēģiskās komunikācijas izcilības centra eksperti secina, ka līdzšinējie regulējuma mehānismi un mākslīgā intelekta drošības prasības nespēj pilnībā novērst šādu sistēmu ļaunprātīgu izmantošanu. Tāpēc nepieciešama ciešāka sadarbība starp valdībām, tehnoloģiju uzņēmumiem, sociālo tīklu platformām un pētniekiem.
Vienlaikus arvien lielāka nozīme būs sabiedrības medijpratībai un spējai kritiski izvērtēt internetā pieejamo informāciju. Pretējā gadījumā nākotnē dezinformācijas kampaņas var kļūt ne tikai plašākas, bet arī daudz grūtāk atklājamas nekā līdz šim.
Mediju atbalsta fonda ieguldījums no Latvijas valsts budžeta līdzekļiem. Par publikācijas "Tev var nākties cīnīties pret mākslīgo intelektu – dezinformācija iegūst jaunas iespējas" atbild Izdevniecība Rīgas Viļņi.
