Tehnologija specijalnih efekata zabilježila je pravi procvat u posljednjih nekoliko desetljeća, a CGI se prebacio iz rudimentarno sirovog i primitivnog u gotovo nerazlučiv od stvarnosti. Sada, dok stvaranje verisimilitudinskih slika postaje sve uobičajenije, politički stručnjaci i stručnjaci za kazneno pravo predviđaju paniku oko takozvane 'duboke lažne' tehnologije, koja potencijalno može dodatno zakomplicirati tekuću međunarodnu raspravu o 'lažnim vijestima'. Ali što je zapravo 'duboka lažnica' i koliku će prijetnju predstavljati ova tehnologija u budućnosti?
Tehnologija dubokog lažnog (ponekad stiliziranog kao 'deepfake') odnosi se na sintetizirane i / ili superponirane slike i / ili videozapise stvorene umjetnom inteligencijom pomoću postojećih slika i videozapisa. Koristeći strojno učenje, ova bi tehnologija teoretski mogla stvoriti uvjerljive snimke osobe koja izvodi radnju koja se u stvarnom životu nikada nije dogodila.
Owen Williams, profesionalni softverski inženjer i umjetnik vizualnih efekata, ponudio je jednostavno objašnjenje.
'To je način korištenja automatiziranog softverskog sustava za zamjenu lica osobe u videozapisu drugim licem koje je mnogo automatizantnije i uvjerljivije nego što je to bilo moguće s prethodnom tehnologijom', rekao je Williams Oxygen.com .
obitelj zatvorena u podrumu 18 godina
Williams je primijetio da su se popularni filmovi poput 'Jurassic Park' i 'Blade Runner: The Final Cut' koristili računalnim softverom za određene scene na načine koji su mogli biti preteča dubokih lažnih djela: 'U filmskoj industriji to je stvarno uobičajeno. Recimo da imate lik koji treba izvesti štos i radije biste da im se vidi lice. Klasično rješenje bilo bi to da biste ih vidjeli samo straga ili bi im kosa bila na licu pa ne biste mogli reći da je riječ o dvojniku. Ali postoji prilično uključena povijest filmaša koji koriste računala kako bi glumačko lice stavili preko glumačkog dvojnika. '
'Nekad je to bio vrlo ručni postupak', nastavio je Williams. 'Sad, s dubokom lažnom tehnologijom, računalu hranite dvije stvari: prvo video koji ćete zamijeniti, a zatim hrpu unosa lica kojima ćete zamijeniti. Morate dobiti dovoljno slika osobe koja izražava različite izraze lica i iz različitih kutova. Stvarate knjižnicu kako lice ove osobe može izgledati u različitim situacijama, a zatim računalo prolazi i gleda video. Ne treba ni točno podudaranje. Može mljackati i preoblikovati ono što ima u knjižnici kako bi odgovaralo onome što treba. Ono što je nekada zahtijevalo desetke umjetnika stotinama sati da pokušaju izvršiti stvarno komplicirani efekt, sada je samo pritiskanje gumba.
Značajka ove tehnologije koja zabrinjava ljude je da osoba ne mora nužno dragovoljno predati svoje lice da bi se taj postupak izvršio, s obzirom na to koliko slika postoji na mreži većine ljudi - posebno poznatih i političkih ličnosti.
'Dovoljno je slika bilo koje slavne osobe pod dovoljnim kutom da možete stvoriti tu knjižnicu [bez pristanka]', rekao je Williams. 'Za to je potreban određeni rad, ali za bilo koju marginalno popularnu figuru te će stvari postojati. Mislim da je manje vjerojatno da bi to bilo moguće za običnu osobu. '
Prvi duboki lažni videozapisi pojavili su se na Reddit forumima krajem 2017. godine, prema Variety . Korisnik je tvrdio da je koristio svoje računalo za stvaranje vrlo realističnih pornografskih videozapisa raznih poznatih osoba koje su se bavile seksualnim aktivnostima, a koje se zapravo nisu dogodile u stvarnom životu. Korisnik je tvrdio da je na svoje računalo hranio tisuće fotografija zvijezda, s kojih je AI mogao stvarati izraze lica i pokrete. Aplikacija koju su koristili duboki lažni kreatori i koja se dijeli na Redditu na kraju je preuzeta više od 100.000 puta. (Reddit će na kraju nastaviti zabranjivati ovakav sadržaj, rekavši da krši njihovu politiku o 'nehotičnoj pornografiji') prema The Vergeu .)
Williams sumnja u realizam koji ovaj medij trenutno može postići.
'Ako ste ikada zapravo gledali jedan od ovih dubokih lažnih ... tamo postoji određena doza', rekao je Williams. »Nisu uglačani. Vjerojatno će biti sve bolje, pogotovo zato što je Hollywood zainteresiran za to da to automatizira, a ne da plaća skupe umjetnike. '
Slično tome, Williams je pretpostavio da usprkos panika oko duboke lažne pornografije , promjena kulturnih stavova oko prirode stvari poput osvete pornografije ili procurivih golišavih slika znači da će vjerojatno ljudi koji stvaraju ovu vrstu medija biti osuđeni i neće biti proslavljeni, čak ni u industriji zabave za odrasle.
'Nikad neće biti mainstream', teoretizirao je Williams. 'Poslije' Fappening 'stvar se dogodila na Redditu, ljudi su uspjeli promijeniti razgovor i reći:' Ovo nije skandal, to je seksualni zločin. ' Tako da jednostavno ne vidim da ovo postaje toliko skandal koliko ljudi misle da hoće. Ljudi također mogu prilično lako pronaći originalnu pornografiju od koje je stvorena duboka lažnjaka, što znači da je prilično lako razotkriti. '
Ali to ne izaziva samo zabrinutost, jer bi se moglo koristiti za stvaranje lažne pornografije slavnih. Ljudi su zabrinuti i zbog političkih posljedica.
Politički stručnjaci počeli su pisati o razmnožavanju dubokih krivotvorina 2018. godine. Članak Guardiana od studenog te godine primijetio je virusno širenje videozapisa koji navodno prikazuje predsjednika Donalda Trumpa koji potiče državu Belgiju da se povuče iz Pariškog klimatskog sporazuma. To je kataliziralo širu raspravu o mogućnosti različitih vlada da koriste ovu tehnologiju u masovnim kampanjama dezinformacija, razgovor koji je već započet zahvaljujući tekućoj istrazi o ruskom sudjelovanju u predsjedničkim izborima u Sjedinjenim Državama 2016. godine.
Panika oko dubokih krivotvorina čak je nadahnula uredništvo Bloomberg Media Group da iznese o tome sročeno mišljenje.
'Video dokazi postali su stup kazneno-pravosudnog sustava ... upravo zato što se film čini tako pouzdanim zapisom nečijeg govora ili djela. Duboke lažnice mogle bi izvedivo učiniti takve dokaze sumnjivima, ' napisali su u lipnju 2018. 'Glavni će izazov biti prepoznavanje i prozivanje ovih krivotvorina - ako je to moguće.'
Williams se složio da priroda dubokih lažnih prijetnji ugrožava naše pojmove o 'stvarnosti' s obzirom na video dokaze, ali napomenuo je da ta zakonska močvara nije jedinstvena za naš suvremeni digitalni krajolik.
'To se nekako svodi na ideju da ljudi imaju taj video jednak istini, što nikada nije bio slučaj. Znali smo to od Rodneya Kinga nadalje. Ili, razmislite Eric Garner : Ljudi su mislili da je [policajac koji ga je ubio] nevin bez obzira na to kakav video incident predviđao. Meni se [mnogi strahovi oko dubokih lažnih djela] čine donekle neutemeljenima. '
Williams je nabrojao nekoliko drugih incidenata koji nisu uključivali duboku lažnu tehnologiju, a koji su pokazali načine na koje se video smjelo manipulira kako bi se iskrivilo javno mnijenje o nečemu, poput Kontroverzno uklanjanje ACORN-a Jamesa O'Keefea i nedavni skandal koji uključuje doktorski snimak koji navodno prikazuje reportera CNN-a Jima Acoste kako napada zaposlenika Bijele kuće .
što se dogodilo s jake harris smrtonosni ulov
Krajnji zaključak Williamsa bio je da je histerija oko dubokih lažnih donekle prenapuhana.
'Ono što vidim da se događa jest da će funkcionirati u oba smjera. Ako video izlazi i stvaran je, ljudi će tvrditi da je lažan. Ako izađe video i lažan je, ljudi će tvrditi da je stvaran. Svaki slučaj pretpostavlja određenu količinu istine koja je dodijeljena videu [samom]. Teško je znati u kojem će smjeru sve ovo ići Vrpca za mokrenje zapravo izašao, na primjer, znate točno što bi se dogodilo: Pola ljudi bi reklo: 'Ovo su bikovi - t, to je neki glumac!' a pola ljudi bi reklo: 'Eto! To je stvarno!' Tako se zapravo ništa ne bi promijenilo. To se obično događa s novom tehnologijom: stvari se ne mijenjaju toliko koliko ljudi misle. '
[Foto: SAUL LOEB / AFP / Getty Images]
