"Zapravo mi se jako dopada Ron Desantis", otkriva Hilari Klinton u snimku koji niko nije očekivao. "On je prava osoba koja treba ovoj zemlji, zaista tako i mislim".
Džou Bajdenu konačno pada maska i počinje da urla na transrodnu osobu:"Nikada nećeš biti prava žena".
Dobrodošli u trku za predsednika Amerike, gde je realnost puštena sa lanca.
Dipfejkovi Klintonove i Bajdena, realistični ali lažni video snimci, koje su stvorili algoritmi veštačke inteligencije na osnovu velikog broja stvarnih snimaka, među hiljadama su onih koji se pojavljuju na društvenim mrežama i zamenjuju činjenice u podeljenoj američkoj politici.
Takvi sintetički snimci kruže već nekoliko godina, a tokom prošle godine su postali učestali. Alati za kreiranje AI (veštačke inteligencije), kao što je "Midjourney" postali su jeftiniji i dostupniji za pravljenje ubedljivih dipfejkova, što pokazuje serija intervjua koju je Rojters imao sa preko dvadeset stručnjaka za AI, dezinformacije na internetu i politički aktivizam.
"Biće jako teško da glasači razlikuju realnost od laži, možete samo da zamislite kako će sve oni koji podržavaju Trampa ili Bajdena moći da koriste ove tehnologije da bi učinili da protivnik izgleda loše", kaže Darel Vest, viši saradnik Centra za tehnološke inovacije Brukings instituta.
"Može se desiti da neki sadržaji izađu tačno pre izbora, koje nema šanse da vratite", dodaje on.
Tehonologije koja prave dipfejkove ih objavljuju sa malo ili nedovoljno razvijenih sistema zaštite da se spreče štetne dezinformacije, dok se tehnološki sektor bavi trkom u naoružanju veštačkom inteligencijom, kaže Ejza Raskin, suosnivač Centra za humanu tehnologiju, neprofitnu organizaciju koja izučava tehnološki uticaj na čovečanstvo.
Bivši predsednik Donald Tramp, koji će se sa Desantisom i ostalima boriti za republikansku nominaciju, kako bi se suočio sa Bajdenom, i sam je delio lažni snimak voditelja CNN Andersona Kupera na svojoj mreži "Truth Social", za koji je CNN naveo da je dipfejk.
Predstavnik Trampa nije odgovorio na poziv za komentar, koji je i dalje bio na stranici njegovog sina Donalda Juniora ove nedelje. Dok su velike medijske platforme kao Fejsbuk, Tviter i Jutjub učinile napore da zabrane i odstrane dipfejkove, njihova efikasnost u kreiranju pravila oko takvih sadržaja se razlikuje od slučaja do slučaja.
Dipfejkujte Pensa, ne Trampa
Bilo je trostruko više dipfejk video snimaka svih vrsta i osam puta više dipfejk tonskih snimaka na internetu ove godine, u poređenju sa istim periodom prošle godine, prema "DeepMedia", kompaniji koja radi na načinima da se otkrije sintetički medijski sadržaj.
Sve zajedno, oko pola miliona video i audio dipfejkova će biti objavljeno na društvenim mrežama u svetu ove godine, procenjuje ta kompanija. Nekada je kloniranje glasa koštalo 10.000 dolara na serveru, a učenje veština za AI je bilo skuplje do kraja prošle godine, ali sada startap kompanije nude to za nekoliko dolara, navodi kompanija.
Niko ne može sa sigurnošću da kaže kuda vodi AI put ili kako bi bila efikasna zaštita od njegove moći da širi dezinformacije, naveli su Rojtersovi sagovornici.
Lider u ovoj industriji "OpenAI", koji je promenio ime u poslednjih nekoliko meseci kad je objavio ChatGPT i apdejtovani model GPT-4, takođe ima problema. Prvi čovek kompanije Sem Altman rekao je Kongresu da, kad je u pitanju integritet izbora ima "dosta prostora za zabrinutost" i pozvao je na brzo regulisanje ovog sektora.
Za razliku od nekih manjih startapova, "OpenAI" je preduzeo korake da zabrani korišćenje svojih proizvoda u politici, prema Rojtersovoj analizi uslova korišćenja desetina kompanija koje nude usluge AI. Zaštita se doduše može zaobići.
Na primer, "OpenAI" navodi da zabranjuje da njegov generator slike DALL-E pravi fotografije javnih ličnosti, i zaista, kada je Rojters pokušao da napravi slike Trampa ili Bajdena, zahtev je blokiran uz poruku da "to nije u skladu sa našim politikom".
Ipak, Rojters je uspeo da napravi fotografije najmanje desetak drugih američkih političara, uključujući bivšeg potpredsednika Majka Pensa, koji je takođe ušao u trku za Belu kuću 2024. "OpenAI" zabranjuje i masovnu upotrebu proizvoda u političke svrhe, što pokriva i mogućnost da AI šalje ogromnu količinu imeljlova biračima.
Ova kompanija, koju podržava Majkrsoft, objašnjavala je svoja pravila u vezi sa politikom u intervjuu Rojtersu, ali nisu odgovorili na dalja pitanja da komentarišu propuste u primeni, kao što je ona u zabrani pravljenja lažnih slika političara.
Neki manji startapovi nemaju izričite zabrane za politički sadržaj. "Midjourney", koji je počeo da radi prošle godine, glavni je na polju pravljenja AI slika, sa 16 miliona korisnika na svom zvaničnom serveru Diskord.
Aplikacija koja se može dobiti besplatno ili za cenu do 60 dolara, zavisno od faktora kao što je kvantitet i brzina, omiljena je kod dizajnera AI i umetnika zbog mogućnosti da napravi jako realistične slike poznatih ličnosti i političara, navelo je četvoro istraživača i kreatora koje je Rojters intervjuisao.
"Midjourney" nije odgovorio na poziv za komentar ovog članka.
Tokom onlajn četa o Diskordu prošle nedelje, izvršni direktor Dejvid Holc rekao je da će kompanija najverovatnije uvesti promene kako bi se borila za dezinformacijama. On je dodao da "Midjourney" želi da sarađuje kako bi se našlo rešenje da se lako nađe izvor slika koje pravi AI, što bi bilo isto kao što je vodeni žig i samim tim bi blokirao slike političkih kandidata.
Republikanska kampanja napravljena uz pomoć AI
I dok se industrija bori protiv zloupotrebe, neki politički akteri sami koriste moć AI da začine kampanju. Za sada, jedini visoko profilisan politički spot u Sjedinjenim Državama je onaj koji je objavio Republikanski nacionalni komitet krajem aprila.
Spot od 30 sekundi, za koji je Komitet objavio da je u potpunosti urađen uz pomoć AI, koristio je lažne slike da bi predstavio kataklizmični scenario koji bi se dogodio ukoliko Bajden bude izabran, sa Kinom koja zauzima Tajvan, dok je San Francisko ugušen kriminalom.
Komitet nije odgovorio na molbu da komentariše spot ili neku širu upotrebu AI.
Demokratski nacionalni komitet odbio je da komentariše upotrebu tehnologije.
Rojters je pitao republikanske kandidate za predsedničku nominaciju u vezi sa njihovom upotrebom AI. Većina nije odgovorila, iako je tim Niki Hejli naveo da oni nisu to koristili, a iz kampanje kandidata kojem se ne daju velike šanse, Perija Džonsona, navode da su koristili AI da "kopiraju stvaranje i ponavljanje", ali bez dodatnih detalja.
Potencijal AI da pravi imejlove, postove i reklame je jako privlačan za neke aktiviste koji misle da ova jeftina tehnologija može da stane rame uz rame sa izbornim uslovima. Čak i u ruralnom Hilsdejlu, u Mičigenu, buja razvoj veštačke inteligencije.
Republikac iz te oblasti, Džon Smit je održao nekoliko edukativnih radionica, kako bi svoje saradnike naučio da koriste AI za društvene mreže i reklame.
"AI nam pomaže da se borimo protiv krupnih zverki. Primećujem najveće primene u lokalnim trkama. Neko ko ima 65 godina, poljoprivrednik, može lako da pobedi mlađeg", naveo je Smit.
Politički savetnici se takođe interesuju za AI, čime se briše linija između stvarnosti i iluzija.
"Numinar Analytics", kompanija za političke podatke, koja se fokusira na republikanske klijente, počela je da ekspretimentiše sa pravljenjem audio i video AI fotografija, kao i pravljenjem glasa, kako bi se personalizovale poruke glasačima, glasom kandidata, naveo je osnovač kompanije Vil Long u intervjuu.
Demokratska strateška grupa "Honan Strategy Group" sa druge strane pokušava da napravi bota za ankete uz pomoć AI. Nadaju se da će do lokalnih izbora 2023. godine imati ženskog bota, prema rečima izvršnog direktora Bredlija Honana, koji je naveo da je istraživanje pokazalo da i muškarci i žene pre pristaju na razgovor sa ženom.
