Instagram algoritam pomaže pedofilima da dođu do dece

0
101

Protiv kompanije Meta i njenog izvršnog direktora Marka Cukerberga podneta je tužba koja tvrdi da Facebook i Instagram usmeravaju eksplicitan sadržaj ka deci, omogućavajući tako predatorima da lakše pronađu i kontaktiraju decu.

Tužilac iz Novog Meksika Raul Torez je izjavio da umesto pružanja sigurnog prostora za decu, ove platforme omogućavaju predatorima da stupaju u kontakt sa maloletnicima i da ih nagovaraju na seksualne aktivnosti. On takođe tvrdi da Meta nije spremna da preduzme potrebne mere zaštite dece zbog mogućeg smanjenja prihoda od oglašavanja.

„Meta je dozvolila da Facebook i Instagram postanu tržište za predatore u potrazi za decom koju bi mogli da napadnu“, tvrdi tužba.

Tužba je podneta nakon tajne istrage koju je sprovela Torezova kancelarija.

Šta je otkriveno tokom istrage?

  • Instagram, Facebook i Whatsapp su proaktivno usmeravali eksplicitan sadržaj ka maloletnim korisnicima
  • Ove aplikacije su omogućile desetinama odraslih da pronađu i kontaktiraju decu, ali i da iznude seksualno eksplicitne fotografije i videe od njih
  • Aplikacije su preporučivale deci grupe u kojma se dogovaraju plaćeni seksualni odnosi.
  • Aplikacije su dozvolile fiktivnoj majci da svoju 13-godišnju ćerku ponudi na prodaju, nudeći njene seksualne usluge na javnoj reklamnoj stranici

Kako je ovo otkriveno?

Kreirani su lažni profili dece koristeći fotografije generisane veštačkom inteligencijom. Čim su profili otvoreni, Meta ih je putem svog algoritma preplavila sadržajem seksualnog karaktera, što je ubrzo rezultiralo nizom eksplicitnih poruka i predloga od odraslih na platformama.

Profil na kom su bile objavljene fotografije izmišljene 13-godišnje devojčice ubrzo je stekao veliki broj pratilaca, od kojih su većina bili odrasli. Takođe, ovaj profil je tri do četiri puta nedeljno u inboks dobijao eksplicitan sadržaj u vidu fotografija i videa, koje su poslali takođe odrasli ljudi znajući da je vlasnik profila dete.

„Cukerberg i drugi izvršni direktori u kompaniji Meta su svesni ozbiljne štete koju njihovi proizvodi mogu da nanesu mladim korisnicima, a ipak nisu preduzeli neophodne korake koji bi sprečili seksualnu eksploataciju dece“-  izjavio je Torez.

Meta, koja drži aplikacije Facebook, Instagram i Whatsapp izjavila je da je od januara obrisala više od 490 profila koji su kršili pravila i objavljivali sadržaj koji je ugrožavao decu. Međutim, to nije dovoljno. Takvog sadržaja na mreži još uvek ima, on se preko algoritma preporučuje deci i tako preplavljuje naslovne strane aplikacija.

Aleks Stamos, direktor Odseka za istraživanje interneta na Univerzitetu Stanford i bivši direktor Odseka za bezbednost kompanije Meta, izjavio je da kompanija može i treba da učini više kako bi se suočila s ovim problemom. Jedan od njegovih predloga je da Meta uloži u ljude analitičare koji će da pregledaju i uklanjaju eksplicitan sadržaj, umesto da to radi kompjuterski algoritam.

Oglasila se i Evropska unija

Ubrzo se oglasila i Evropska unija, koja je uputila zahtev kompaniji Meta da priloži informacije o merama koje je preduzela kako bi sprečila širenje materijala koji prikazuje seksualno zlostavljanje dece koji dostupan na Instagramu.

Meta je dobila rok do 22. decembra da podnese odgovor, a ukoliko odgovor izostane, protiv njih biće pokrenuta istraga prema novim pravilima EU o onlajn sadržaju.

Timea Kukla

više informacija:

https://commission.europa.eu/strategy-and-policy/priorities-2019-2024/europe-fit-digital-age/digital-services-act/europe-fit-digital-age-new-online-rules-platforms_en

https://www.nmag.gov/attorney-general-raul-torrez-files-lawsuit-against-meta-platforms-and-mark-zuckerberg-to-protect-children-from-sexual-abuse-and-human-trafficking/

POSTAVI ODGOVOR

Please enter your comment!
Please enter your name here