„Deepfake“ nuogos nuotraukos naudojamos patyčioms tyčiotis iš paauglių

Jos bendraklasis naudojo dirbtinį intelektą, kad padarytų netikrus jos nuogos atvaizdus. Ekspertai sako, kad tai nėra neįprasta.

2023 m. spalį, kitą rytą po Elliston Berry namų šventės, Šiaurės Teksaso vidurinės mokyklos moksleivė gavo žinutę: mokykloje plinta jos nuogos nuotraukos.

Tačiau vaizdai nebuvo tikri. Klasės draugas, naudodamasis dirbtiniu intelektu, sukūrė gilias klastotes ir fotošopu pritaikė nuogo kūno nuotraukas prie Berry „Instagram“ nuotraukų. Tuo metu jai buvo 14 metų.

„Tą rytą atsibudau ir visas mano gyvenimas apsivertė aukštyn kojomis“, - sako dabar 15-metė. „Aš esu daugiau nei tik tos nuotraukos. Bet tomis akimirkomis jaučiausi taip, tarsi žmonės matytų tik tai“.

Psichikos sveikatos ir kibernetinio saugumo ekspertai sako, kad tai, ką išgyveno Berry, vis dažniau tampa paauglių patirties dalimi.

Kaip teigiama naujoje ne pelno siekiančios bendrovės „Thorn“, kuri rūpinasi vaikų saugumu internete, ataskaitoje, vienas iš aštuonių 13-17 metų paauglių asmeniškai pažįsta žmogų, kuris nukentėjo nuo netikrų nuotraukų. Ataskaitoje nustatyta, kad „deepfake nude“ technologija tampa vis labiau prieinama paaugliams. Dirbtinio intelekto turinys dažnai neatskiriamas nuo tikrų vaizdų ir naudojamas kaip prievartos ir priekabiavimo įrankis, kuris neproporcingai nukreiptas prieš paaugles mergaites ir moteris.

Patyčios su deepfakes vis tiek yra patyčios

Pirmasis paveikslėlis buvo išsiųstas pirmadienį, o antradienį jų jau buvo daugiau. Berry sako, kad vienas mokinys sukūrė aštuonių kitų mergaičių deepfake atvaizdus ir išplatino juos per anoniminį Snapchat slapyvardį.

Tai įvyko ne mokyklos teritorijoje, o pareigūnai neturėjo jokios instrukcijos, kuria galėtų vadovautis, todėl mergaitės ir jų šeimos ištisus mėnesius neturėjo atsakymų, kas buvo kaltininkas. Ji prisimena, kad trys iš nukentėjusių mergaičių pakeitė mokyklą.

Kiekvieną dieną Berry eidavo į mokyklą su nerimu, kad prieš pamokas ar pakeliui į tinklinio treniruotę nesusidurs su nežinomu smurtautoju. Paprastai ji buvo iš tų mokinių, kurie koridoriuje aukštai pakeldavo kojas draugams ir pasivydavo žmones per pertraukas, tačiau praėjus keliems mėnesiams po incidento ji nenorėjo išeiti iš savo miegamojo.

„Jos psichologinis skausmas ir asmenybės pasikeitimas buvo labai trikdantis“, - sako Berry mama Anna McAdams. Ji stebėjo, kaip jos dukra iš burbuliuojančios ekstravertės virto intraverte.

Technologijomis paremtos prievartos poveikis atitinka tradicinių seksualinės prievartos atvejų poveikį - gėda, kaltė, baimė dėl pasekmių ir galimas ilgalaikis poveikis psichikos sveikatai, sako Jennifer Simmons Kaleba, organizacijos RAINN (Rape, Abuse and Incest National Network) komunikacijos viceprezidentė.

Tačiau dėl technologinio išnaudojimo pobūdžio prievarta tampa visagalė. Nežinia, kiek kartų buvo dalijamasi Berry ir jos draugų vaizdais ir ar tai iš tiesų buvo sustabdyta.

„Žala yra nuolatinė, nes kiekvieną kartą, kai pasirodo atvaizdas ir paskambina draugas ir sako: „Mačiau tave internete“, tai naujas nusižengimas, nauja gėda“, - sako RAINN viešosios politikos viceprezidentas Stefanas Turkheimeris.

Ar mums pagaliau tai rūpės? Taylor Swift dirbtinio intelekto nuotraukos išryškina giliai suklastotos pornografijos siaubą.

Nemažai paauglių pažįsta ką nors, kas nukentėjo nuo dirbtinio intelekto nuotraukų
Thorno atlikta 1 200 jaunuolių apklausa parodė, kad kas aštuntas 13-17 metų paauglys pažįsta ką nors, kas tiesiogiai nukentėjo nuo deepfake nuogybių, o vienas iš 17 paauglių teigė, kad buvo tiesioginė auka.

„Viena iš svarbiausių ataskaitos išvadų yra ta, kad visuomenėje būtina skubiai atkreipti dėmesį į tai, kad toks elgesys nėra leistinas ir kad jis kenkia asmeniui, prieš kurį nukreiptas, - sako Melissa Stroebel, Thorn tyrimų ir įžvalgų viceprezidentė.

„Turėtume sutelkti dėmesį į nesavanorišką pakartotinį dalijimąsi atviru atvaizdu ir iš to kylančias pasekmes, nesvarbu, ar kuriant atvaizdą buvo naudojamos dirbtinio intelekto technologijos, ar ne.

Nors Berry papasakojo tėvams apie tai, kas nutiko, daugelis paauglių kenčia tylėdami. Thorn atliktoje apklausoje maždaug pusė respondentų ieškojo tam tikros paramos neprisijungus prie interneto, o 34 % aukų nurodė, kad apie tai papasakojo tėvams ar globėjams.

„Buvau tik 14-metė mergaitė, ir visi mato mano kūną, ir nors tai ne mano kūnas, jis kelia tokią pačią gėdą ir kaltę, kaip ir tikra nuotrauka“, - sako Berry.

Šios išvados yra dalis didesnės tendencijos, susijusios su generatyvinio dirbtinio intelekto vaidmeniu kuriant seksualinės prievartos prieš vaikus medžiagą. Pasak Nacionalinio dingusių ir išnaudojamų vaikų centro (National Center for Missing and Exploited Children, NCMEC) vykdomosios direktorės Lauren Coffren, Nacionalinio dingusių ir išnaudojamų vaikų centro (NCMEC) išnaudojamų vaikų skyriaus vykdomosios direktorės, 2023 m. pavasarį pradėtas vidinis generatyvinio dirbtinio intelekto stebėjimas. Pranešimų apie generatyvinį dirbtinį intelektą, naudojamą prievartos seksualiniam turiniui kurti, padaugėjo nuo 4 700 2023 m. iki 67 000 2024 m.

Paauglystė yra pagrindinis kūno įvaizdžio, savigarbos raidos laikotarpis
Mokinių vidurinės ir aukštosios mokyklos metai yra toks laikotarpis, kai dėl lytinio brendimo pradeda vystytis didesnis savarankiškumas, abstraktus sprendimų priėmimas ir reikšmingi fiziniai pokyčiai.

Paaugliai žvelgia į savo šeimas ir draugus, kad pradėtų nustatinėti, kas jie yra didesnės bendraamžių grupės atžvilgiu, teigia Shadeen Francis, licencijuota santuokos ir šeimos psichoterapeutė, kuri specializuojasi sekso terapijos ir emocinio intelekto srityje.

„Trauma šiuo metu, ypač atsižvelgiant į tai, kad trauma sutrikdo mūsų pasitikėjimo savimi ir kitais jausmą, gali iš tiesų sutrikdyti jauno žmogaus savęs suvokimą“, - sako Š. Fransis.

Ankstyva prievartos patirtis turi ilgalaikį poveikį paauglių gebėjimui užmegzti sveikus santykius ir pasitikėti kitais svarbiais žmonėmis vėliau gyvenime. Aukoms gali išsivystyti nerimas, depresija ir potrauminio streso sutrikimas.

Berry nerimavo, kad žmonės nesužinotų, jog nuotraukos yra suklastotos, ir baiminosi, kad ateityje jos gali išlįsti, kai ji kreipsis į koledžą ar darbą. Blogiausia, anot jos, yra tai, kad nuotraukos šmeižia jos asmenybę ir vaizduoja ją seksualiai be jos sutikimo. Ji užaugo pamaldžia krikščione ir sako, kad tėvai ją mokė niekada nesiųsti nuogų nuotraukų.

„Nenorėjau, kad žmonės galvotų: „O, štai koks ji buvo žmogus“, - sako Berry. „Jis atėmė iš manęs nekaltumą ir išsiuntė šiuos vaizdus, kad visi pamatytų mane tokią pažeidžiamą, silpną.“

Mokykloje ji dėvėjo megztinius ir sportines kelnes, kad paslėptų savo figūrą, nes nenorėjo, kad kas nors realiame gyvenime į ją žiūrėtų taip, kaip žiūrėjo į tas nuotraukas.

Padaugėjus klastočių, išteklių ir teisės aktų trūksta

Pirmą kartą į viešumą deepfakes pateko 2018 m. vasarį, kai „Reddit“ sustabdė r/deepfakes - 90 000 sekėjų turinčio subreddito grėsmę, kuriame naudotojai kūrė netikras pornografines nuotraukas ir vaizdo įrašus. Tuo metu giluminei klastotei sukurti dažnai prireikdavo tūkstančių nuotraukų, todėl pagrindiniu taikiniu tapdavo vieši asmenys. Šiandien juos galima sukurti turint vos kelis vaizdus.

2024 m. sausio mėn. naudotojai sukūrė netikrus seksualinio pobūdžio vaizdus, kuriuose buvo užfiksuota Taylor Swift futbolo rungtynėse. Pasak Seksualinio smurto išteklių centro, šie vaizdai plito kaip „miškų gaisras“, nors labai aiškiai pažeidė X platformos politiką.

D. McAdams sako, kad jos dukros tapimas auka jai sukėlė šoką. „Tai, ką girdėjau, buvo susiję su kino žvaigždėmis ar kuo nors iš Holivudo, o ne su vaiku“, - sako ji. „Nebuvau informuota apie tai, kas gali būti padaryta.“

Berry mokykloje nukentėjusių mergaičių tėvai 2024 m. sausio mėn. pateikė IX antraštinės dalies tyrimą, o kaltininkas buvo apkaltintas A klasės nusižengimu dėl žalingos medžiagos platinimo. Pasak RAINN Turkheimerio, šiuo metu nėra federalinio įstatymo, pagal kurį interneto platformos būtų įpareigotos pašalinti intymias nuotraukas be sutikimo, todėl tėvai ir mokyklos neturi išteklių, kaip elgtis deepfake atvejais.

Daugiau nei aštuonis mėnesius McAdamsas negalėjo priversti „Snapchat“ pašalinti nuotraukų. Pasak jos, tik po to, kai senatoriaus Tedo Kruzo (R-Teksasas) biuras asmeniškai kreipėsi į „Snapchat“, nuotrauka buvo pašalinta.

Daugiau: Melania Trump sako, kad seksualinių nuotraukų be sutikimo pasekmės yra „skaudžios“.

Berry yra viena iš advokatų, skatinančių įstatymų leidėjus priimti įstatymą „Take it Down Act“, kuriuo kriminalizuojamas „nesantuokinių, seksualiai išnaudojančių vaizdų, įskaitant dirbtinio intelekto sukurtus giluminius klastojimus, skelbimas“. Tai apima „skaitmenines klastotes“, sukurtas naudojant dirbtinio intelekto programinę įrangą, ir reikalauja, kad technologijų platformos pašalintų turinį, apie kurį pranešta, per 48 valandas nuo pagrįsto prašymo gavimo.

Pirmoji ponia Melania Trump kovo 3 d. pasisakė už šį įstatymą, kurį vienbalsiai priėmė Senatas. Šalia pirmosios ponios sėdėjusi Berry pasidalijo savo istorija su įstatymų leidėjais.

„Skaudu matyti, kaip jauni paaugliai, ypač mergaitės, susiduria su didžiuliais iššūkiais, kuriuos kelia kenkėjiškas internetinis turinys, pvz., klastotės“, - sako D. Trumpas.

Būkite saugūs ir sveiki: Užsiprenumeruokite „USA TODAY“ naujienlaiškį „Keeping it Together“, kad gautumėte daugiau sveikatingumo naujienų.

Štai ką turėtų žinoti paaugliai ir tėvai

Coffrenas sako, kad grobuonys, kuriantys seksualizuotus atvaizdus, nėra naujiena, tačiau dėl „laukinių, laukinių, vakarų“ naujų deepfake technologijų turinį kurti lengviau, o aptikti sunkiau.

Jei tapote deepfake nuogybių auka, įspėkite valdžios institucijas naudodamiesi NCMEC kibernetine linija adresu report.cybertip.org arba skambinkite telefonu 1-800-843-5678. Ekspertai sako, kad svarbu neištrinti visų platformų, kuriose tai įvyko, nes tai gali būti naudingas įrodymų pėdsakas.

Pradėti pokalbius apie „deepfakes“ - tiek apie atvaizdų kūrimo rimtumą, tiek apie galimybę nukentėti nuo jų - reikėtų taip pat, kaip tėvai kalba su vaikais apie sutikimą ir tradicinę seksualinę prievartą.

McAdams sako, kad buvo „atsilikusi“, kai sužinojo apie „deepfake“ atvaizdus, bet dėkoja, kad jos dukra jautėsi pakankamai patogiai, kad kreipėsi į ją, ir ragina kitus paauglius padaryti tą patį, jei jiems taip nutiktų.

„Pasikalbėkite su savo vaikais apie tai. Jie turi žinoti, kad gali pas jus ateiti ir nebijoti“, - sako D. McAdams.