Nedavno je internet preplavila lavina fotografija kreiranih uz pomoć veštačke inteligencije. Trend se pogotovo proširio na Instagramu i Tiktoku. Kako to funkcioniše? Aplikacija traži pristup jednoj vašoj fotografiji, a za uzvrat dobijate rezultat kako biste izgledali da ste lik iz crtanog filma. Nešto poput već odomaćenih i popularizovanih filtera, ali kvalitetnije i mnogo uverljivije. Sve ovo u svrhu zabave.
Međutim, kao i većinu alata, i ovaj je, bez obzira koliko bio koristan, moguće iskoristiti u pogrešne svrhe
Osumnjičeni kreirao pornografski sadržaj koristeći fotografije dece preuzete sa društvenih mreža
U Španiji je nedavno uhapšen čovek koji je koristeći veštačku inteligenciju stvarao veliku količinu pornografskog sadržaja koji je bio baziran na fotografijama i videima dece koje je prikupio na internetu. Policija je zaplenjen sadržaj opisala kao veoma uznemirujuć.
„Dokazi su duboko potresli naše analitičare jer prikazuju scenarije stvarnih devojčica silovanih od strane nesrazmerno velikih polnih organa i seks igračaka“, rekao je portparol španske nacionalne policije.
Šta je deepfake?
Pornografija generisana veštačkom inteligencijom koja prikazuje lica pojedinaca na telima koja nisu njihova, bez njihovog pristanka postala je sve češća pojava na internetu. Ovako generisan sadržaj naziva se „deepfake pornography“ odnosno dipfejk pornografija.
Prema istraživanju koje je sprovela Genevieve Oh, analitičarka za lajv stiminge, broj deepfake pornografskih video snimaka dostupnih na internetu naglo se povećao, skoro se udvostručujući svake godine od 2018.
U 2018. godini, na poznatoj deepfake striming stranici bilo je nešto više od 1800 videa, ali je do 2022. ovaj broj porastao na više od 13.000 videa sa preko 16 miliona pregleda mesečno.
Žrtve su pre svega bile poznate ličnosti, a potom nepoznati ljudi i deca čije su fotografije bile dostupne na internetu
Prve žrtve ovog fenomena bile su poznate ličnosti. Njihova lica bila bi montirana na tela glumaca koji snimaju pornografski sadržaj, i taj bi materijal bio proširen internetom kao legitiman. Nakon poznatih ličnosti, na red su došle različite internet persone poput influensera, youtubera i twitch strimera, a potom i nepoznati ljudi i njihova deca.
Fotografije žena i dece prikupljane su putem društvenih mreža i korišćene za pravljenje pornografije. Ovaj vid kreiranja sadržaja se posebno popularizovao jer može da se pravi po porudžbini. Na jednom forumu čak postoji upit oca koji traži da mu se napravi deepfake video gde će u glavnoj ulozi biti njegova ćerka.
Kreatori deepfake pornografije se ne plaše zakona
Glavna odbrana kreatora ovakvog sadržaja je da prilikom njegove izrade „niko nije povređen niti iskorišten“. Iako fizički niko nije zlostavljan, postojanje ovakvih videa normalizuje materijal koji prikazuje seksualno zlostavljanje dece i narušava dostojanstvo i identitet osobe koja je na njemu prikazana. Nemogućnost dokazivanja da neko nije zaista na snimku ili fotografiji može da ostavi velike posledice na mentalno zdravlje osobe čije su fotografije iskorišćene.
Ričard Kolard (The National Society for the Prevention of Cruelty to Children) izjavio je da ga zabrinjava činjenica da „počinioci zlostavljanja postaju sve više i više tehnološki potkovani, što znači da opasnost od seksualnog zlostavljanja stalno raste.“ Kolard je takođe pozvao vlasnike društvenih mreža na odgovornost.
„Bez obzira da li se radi o fotografijama generisanim veštačkom inteligencijom ili ne, društvene mreže imaju moralnu i pravnu odgovornost da intervenišu i uklone štetan materijal koji se deli na njihovim platformama.“
Odgovornost imaju i države koje će uskoro morati da donesu zakone i podzakonske akte koji će regulisati ovu oblast. Internet svakim danom nudi sve više mogućnosti i odgovornost svih nas je da uradimo sve što je u našoj nadležnosti i moći kako bismo zaštitili decu i mlade od potencijalnog zlostavljanja.
Izvori i materijal za dalje informisanje:
https://inhope.org/EN/articles/what-is-a-deepfake https://www.staffsscb.org.uk/what-are-deepfakes-protect-yourself-and-our-children/
