Pētnieks uzteic darbu mākslīgā intelekta gigantā "Anthropic", brīdinot par briesmām. "MI līdz dekādes beigām var iznīcināt cilvēci!"

Mākslīgā intelekta pētnieks Džeikobs Koksons, aptuveni trīs gadus nodarbojās ar modeļu iepriekšējās apmācības izpēti uzņēmumos "OpenAI" un "Anthropic". Sociālajā tīklā X viņš abus uzņēmumus apsūdzēja bezatbildīgā sacensībā, cenšoties radīt superintelektu, kas pats sevi pilveido. Koksona domām, uzņēmumi rīkojas nepiesardzīgi un “spēlē azartspēli ar mūsu dzīvībām”, cenšoties pēc iespējas ātrāk izstrādāt arvien jaudīgākas sistēmas.

"Es šodien aizgāju no darba uzņēmumā "Anthropic". Pēdējos trīs gadus es strādāju ar mākslīgā intelekta modeļu sākotnējās apmācības izpēti gan uzņēmumā "OpenAI", gan "Anthropic". Neviens no šiem uzņēmumiem nerīkojas atbildīgi," brīdina pētnieks.

"Šie uzņēmumi steidzas radīt superintelektu, tādējādi riskējot ar mūsu dzīvībām," norāda Koksons, aicinot nenovērtēt par zemu šīs tehnoloģijas spēku. "Drīzumā sistēmas kļūs pārākas par cilvēku un tās spēs uzlauzt jebko, vienā naktī radikāli pārveidot jebkuru nozari un iegūstot reālu varu un resursus."

“Cilvēki, kuri izstrādā MI sistēmas, no tiesas uzskata, ka tas līdz desmitgades beigām varētu iznīcināt cilvēkci. Un manis teiktais nav nekāds reklāmas triks. Daudzi uzņēmumu vadītāji un vadošie pētnieki publiski izvēlas piesardzīgus formulējumus, lai izklausītos saprātīgi, taču privātās sarunās es nereti dzirdu šos pašus cilvēkus paužam bailes," pauž pētnieks, norādot, ka neviena cita cilvēku darbība nerada tik lielu apdraudējumu cilvēcei.

Skaidrojot, kādēļ uzņēmumi turpina attīstīt tehnoloģiju, neraugoties uz iespējamo apdraudējumu, Koksons norādīja uz atšķirīgu situāciju "OpenAI" un Anthropic. Pēc viņa teiktā, daudzi "OpenAI" darbinieki vēl neesot pilnībā aptvēruši, cik nopietnas sekas šī tehnoloģija var radīt civilizācijai. Savukārt Anthropic iekšienē apdraudējums tiekot labi izprasts, tomēr uzņēmums ir iesaistījies sacensībā, lai sasniegtu mērķi pirmais. "Viņi uzskata, ka neviens negrasās rīkoties atbildīgi, un tādēļ viņiem jāstrādā pie šo sistēmu radīšanas pašiem, par spīti riskiem."

“Samierināties ar šo sacensību un iesaistīties tās izšķirošajā posmā nozīmē uzņemties nepamatotu risku. Šādu lēmumu nedrīkst pieņemt privāta uzņēmuma sarakstē," secina pētnieks.

Koksons norāda, ka kopvērtējumā ir noskaņots "optimistiski", tomēr pauž bažas, ka "valstis pašlaik nevirzās uz globālās sacensības novēršanu". "Lai to apturētu, varētu būt nepieciešami dārgi un sarežģīti pasākumi, piemēram, pagaidu aizliegums turpināt uzlabot modeļu spējas," pauž pētnieks.

Viņš aicina visus savus kolēģus MI jomā pārdomāt, kādi patiesībā būšot turmpākie gadi."“Vai jūs tiešām vēlaties sākt superintelekta apmācību, līdz galam nesaprotot, kā tas darbojas? Vai klusēsiet, samierinoties ar domu, ka ‘tas tik un tā notiks’, vai izmantosiet šo brīdi, lai pieprasītu drošāku un atbildīgāku rīcību?” vaicā Koksons. Vai vēlaties sākt ar pastiprināto mācīšanos apmācīt superintelektu, pilnībā neizprotot tā domāšanu? Vai jums būtu jānolaiž galva un jāklusē, jo ‘tas tik un tā notiek’, vai arī jāizmanto šis brīdis, lai pieprasītu citādus nosacījumus?”