Kao i mnogi drugi snimci, oni izgledaju realno na prvi pogled.
Ksenija Turkova, novinarka Ruskog servisa Glasa Amerike, sedi za stolom i gleda direktno u kameru. Ona nosi sako i predstavlja gosta koji će pričati o softveru za trgovanje kriptovalutama. Turkova liči na sebe, i zvuči kao ona.
Jedini problem je što ovaj video nije stvaran. To je "dipfejk"— lažni video koji je kreirala veštačka inteligencija da bi izgledao autentično.
To je takođe zabrinjavajući primer korišćenja veštačke inteligencije za kreiranje video snimaka u kojima pravi voditelji vesti izveštavaju o lažnim pričama, fenomen za koji stručnjaci kažu da nosi rizik širenja dezinformacija i rast nepoverenja u medije.
Ruski servis Glasa Amerike u petak je saznao da se na Fejsbuku širi lažni video koji koristi logo VOA i glas i izgled Turkove generisanih veštačkom inteligencijom. Umesto vesti, video je promovisao trgovački proizvod.
Kada je Turkova prvi put videla snimak u petak, kaže da joj je trebalo nekoliko trenutaka da shvati da je lažan.
„Moja prva reakcija je bila: Ne sećam se toga. Nisam to rekla", rekla je ona. „Onda sam shvatila da je to dipfejk. Nikada nisam doživela tako nešto.”
Daleko od toga da je Glas Amerike jedini medij koji je bio meta ove vrste taktike — čija je sveprisutnost razlog za zabrinutost među stručnjacima za veštačku inteligenciju i dezinformacije. To je relativno nov trend, ali novinari u novinskim kućama, uključujući CNN, CBS i BBC, takođe su bili predmet "dipfejka", koje obično imaju za cilj širenje lažnih informacija.
Your browser doesn’t support HTML5
Zakoni "kaskaju" za dipfejk tehnologijom pred izbore 2024.
Poreklom iz Moskve, Turkova je radila kao novinarka u Rusiji i Ukrajini pre nego što se preselila u Sjedinjene Države 2017. da radi za Glas Amerike. Rekla je da je više zabrinuta zbog potencijalnih budućih "dipfejkova" njenog glasa i pojave, nego zbog ovog konkretnog snimka.
„Dobro je da je to bila reklama. Ali šta će se desiti sledeći put? Šta ako lažiraju snimak na kojem govorim da podržavam Putinov rat u Ukrajini, na primer, ili kažem da podržavam terorističke napade? Ili će to biti porno sadržaj? Osećala sam se ranjivo i bojim se da moja reputacija i koredibilitet novinarke mogu biti u opasnosti“, dodala je Turkova.
U snimku Turkova prvo čita najavu na ruskom. Ali većina video snimka se sastoji od govora Jurija Milnera, izraelskog preduzetnika rođenog u Sovjetskom Savezu, takođe generisanog veštačkom inteligencijom. Milner hvali trgovačku platformu Kuantum AI u reklami. Nejasno je da li je platforma za trgovanje legalna.
Video je postavljen na Fejsbuk nalog argentinske komunikacijske agencije Digit Estudio, koja izgleda kao neaktivna od 2021. Glas Amerike nije mogao da utvrdi ko je napravio video. Nalog na Fejsbuku, kao ni video snimci, više se ne vide.
Glas Amerike je poslao poruku na broj telefona naveden na LinkedIn nalogu Digit Estudija, ali nije dobio odgovor. Meta, vlasnik Fejsbuka, nije odgovorila na zahtev Glasa Amerike za komentar.
Glas Amerike je prošle nedelje podneo žalbu Fejsbuku u vezi sa snimkom, ali ništa nije rešeno, rekla je portparolka Glasa Amerike Emili Veb u saopštenju.
„Veoma smo zabrinuti zbog pretnje koju veštačka inteligencija predstavlja za misiju Glasa Amerike da pruža nepristrasno i činjenično izveštavanje“, dodala je Veb.
Do nedavno, pravljenje lažnih video snimaka za vesti bilo je previše skupo, zahtevalo je vreme i resurse, kaže za Glas Amerike Džon Skot-Railton, koji istražuje dezinformacije u Citizen Lab.
„To više nije slučaj. Činjenice su u nepovoljnom položaju, a deo cene koju plaćamo za ovo je nepoverenje u stare medije i prave novinske kuće", rekao je on.
"Važno je zapamtiti da poenta dezinformacija često nije da ubedi ljude da razmišljaju na ovaj ili onaj način", rekao je za Glas Amerike Pol Baret, zamenik direktora Stern centra za biznis i ljudska prava Univerziteta u Njujorku.
„Oni ne pokušavaju da vam promene mišljenje. Oni pokušavaju da potkopaju vašu veru u ono što vidite, čujete i čitate tako da biste bili zbunjeni. Kada to izgleda kao da ste Glas Amerike ili CNN, to je savršen način da zbunite ljude", kaže Baret.
Usavršavanje praćenja vesti može biti efikasna strategija dezinformisanja jer su voditelji vesti - lica kojima verujemo u konvencionalnim medijima“, rekao je Bil Dreksel, koji radi na veštačkoj inteligenciji u Centru za novu američku bezbednosnu istraživačku centralu u Vašingtonu.
Oni koji se služe ovom vrstom dezinformacija „u suštini otimaju“ verodostojnost i legitimitet vesti, dodao je on.
„Čini se da je korišćenje voditelja vesti jedna od efikasnijih metoda za širenje laži i dezinformacija koje smo do sada videli“, rekao je Dreksel.
Za Bareta, "dipfejk" snimci vesti izazivaju potrebu za vladinom regulacijom veštačke inteligencije. Američki predsednik Džo Bajden potpisao je u ponedeljak izvršnu uredbu kojom se postavljaju početne zaštite za kompanije koje rade sa veštačkom inteligencijom.
Ne propustite: Bajden potpisao prvu uredbu o regulisanju veštačke inteligencijeBaret je rekao da su novi propisi sveobuhvatni, ali je upozorio da ne postoji naredba koju Bela kuća može izdati kako bi sprečila strane vlade ili druge aktere da zloupotrebe sisteme veštačke inteligencije.
„To je aspekt uvođenja nove tehnologije koji zahteva od onih koji tu tehnologiju prave da preduzmu korake kako bi bili sigurni da se njihovim proizvodima ne može manipulisati“, rekao je Baret.
Turkova takođe brine o tome kako bi se dipfejkovi mogli koristiti protiv nje u budućnosti.
„Ne želim da poverenje publike bude u opasnosti“, rekla je ona. "Sve je tako krhko."