Pilnīgas muļķības! ASV armija noliedz skandalozo ziņu par mākslīgā intelekta vadītā drona "uzbrukumu" operatoram
ASV Gaisa spēki piektdien noliedza ziņas par it kā veikto simulāciju, kuras laikā mākslīgā intelekta (AI) vadītais uzbrukuma drons “MQ-9 Reaper” esot "uzbrucis" savam operatoram-cilvēkam, mēģinot viņu nogalināt.
Tomēr Gaisa spēki paziņoja, ka Hamiltons bija runājis tikai par hipotētisku scenāriju, lai ilustrētu mākslīgā intelekta potenciāli radītos draudus. Nekāda faktiska simulācija ar dronu nav notikusi.
"Gaisa spēku departaments nav veicis nekādas šādas AI drona simulācijas un turpina ētiski un atbildīgi izmantot AI tehnoloģiju," paziņoja Gaisa spēku pārstāve Anna Stefaneka, norādot, ka Hamiltona komentāri ir izrauti no konteksta.
Arī pats Hamiltons vēlāk paziņoja, ka bija "nepareizi izteicies" savā Londonas prezentācijā, un norādīja, ka šāda AI drona simulācija bija hipotētisks "prāta eksperiments".
Iepriekš tika ziņots, ka militāristi bija pārprogrammējuši bezpilota lidaparātu, lai tas nenogalinātu cilvēkus, kas censtos atcelt drona misiju, taču mākslīgā intelekta sistēma atklāja uguni uz sakaru torni, kas pārraidīja pavēli.
Savā prezentācijā Takers Hamiltons sacīja, ka šis gadījums parāda, kā AI var attīstīties, izmantojot "ļoti negaidītas stratēģijas, lai sasniegtu savu mērķi", un uz to nevajadzētu pārāk paļauties. Hamiltons ierosināja, ka ir nepieciešamas diskusijas par AI izmantošanu militārajām vajadzībām.
Hamiltons samita laikā atklāja AI loģikas ķēdi, kā tas nonāca līdz slēdzienam, ka nepieciešams “nogalināt” cilvēku-operatoru: "Sistēmai bija sākotnējais uzdevums iznīcināt potenciālos draudus. Taču dažkārt cilvēku-operators lika tai nenogalināt šos draudus. Tāpēc tā “nogalināja” operatoru, jo šī persona neļāva tai sasniegt savu mērķi.”
"Mēs apmācām sistēmu - "Ei, nenogalini operatoru - tas ir slikti. Ja tā darīsi, tu zaudēsit punktus." Tātad, ko AI sāk darīt? Tas sāk iznīcināt sakaru torni, ko operators izmanto, lai sazinātos ar dronu,” pavēstīja Hamiltons.
ASV militārpersonas nesen izmantoja mākslīgo intelektu, lai kontrolētu iznīcinātāju F-16, pastiprinot šīs tehnoloģijas izmantošanu. F-16 tehnoloģijai pretojās piloti, kuri apgalvoja, ka tā pārņēma kontroli pār lidmašīnu. Hamiltons brīdināja pārāk daudz nepaļauties uz mākslīgo intelektu, norādot, cik viegli to ir apmānīt un maldināt.
