„Deepfake Nudes“ ir jaunimas. Naujos technologijų skatinamo nesankcionuoto seksualinio išnaudojimo ir prievartavimo ribos.

Remiantis 1 200 13-20 metų amžiaus jaunuolių apklausa, šiame tyrime nagrinėjamas jų informuotumas apie „deepfake“ nuogybes, jų patirtis su jomis ir dalyvavimas kuriant tokį turinį.

Pagrindinės išvados

Jaunimas didžiąja dalimi pripažįsta, kad giliai suklastoti aktai yra technologijų skatinama prievartos forma, kuri kenkia vaizduojamam asmeniui.

„Deepfake“ aktai jau dabar atspindi realią patirtį, su kuria susiduria jauni žmonės.
Iš ribotos imties jaunuolių, kurie prisipažįsta kūrę kitų asmenų „deepfake“ aktus, jie apibūdina lengvą prieigą prie „deepfake“ technologijų.

Įvadas

2023 m. „Thorn“ kasmetinio jaunimo stebėsenos tyrimo metu buvo apklausti nepilnamečiai (9-17 metų amžiaus) apie tai, ar jie žino, kad bendraamžiai naudoja dirbtinio intelekto įrankius kitų vaikų nuogybėms kurti. Iš 1040 respondentų 11 % nurodė manantys, kad jų draugai ar bendraklasiai dalyvavo tokiame elgesyje, o dar 10 % pasirinko atsakymą „nenoriu pasakyti“.

Šis tyrimas atskleidžia jaunų žmonių patirtį, susijusią su „deepfake“ nuogybėmis, tiria jų informuotumą, suvokimą ir patirtį, susijusią su šia didėjančia grėsme. Jei norite perskaityti visą tyrimo ataskaitą ir išsamiau išnagrinėti jos išvadas, atsisiųskite visą ataskaitą.

Piktnaudžiavimo vaizdais evoliucija

„Deepfake“ aktai yra ryškus seksualinės prievartos naudojant atvaizdus pokytis, kurį lėmė spartus generatyvinio dirbtinio intelekto (DI) augimas ir prieinamumas.

„Deepfake“ aktai:

Sintetinės medijos kūriniai, kuriuose vaizduojami tikri žmonės seksualiai įtaigioje ar atviroje situacijoje ar veikloje.

Šie sintetinės medijos kūriniai (pvz., vaizdai, vaizdo ir garso įrašai) vaizduoja tikrus žmones seksualiai įtaigiose ar atvirose situacijose ar veikloje. Kai auka yra nepilnametis, šie vaizdai gali būti oficialiau apibūdinami kaip „dirbtinio intelekto sukurtos CSAM“ (AIG-CSAM).

Greitas ir keičiamo dydžio deepfake nudes

Nors manipuliavimo nuotraukomis taktika jau seniai naudojama seksualinės prievartos prieš vaikus vaizdams kurti ar keisti, ankstesni metodai paprastai būdavo primityvūs - jiems reikėdavo daug laiko, įgūdžių ir techninių žinių, kad būtų gauti fotorealistiški rezultatai.

Generatyvinis dirbtinis intelektas iš esmės pakeitė šią dinamiką, suteikdamas galimybę greitai ir mastelio tikslumu kurti itin tikrovišką turinį, naudojant minimalius įgūdžius ar pastangas.

Generatyvinis dirbtinis intelektas suteikė galimybę greitai ir mastelio tikslumu kurti labai tikroviškus vaizdus, įdedant minimalias pastangas.

Skirtingai nuo tradicinių nuotraukų manipuliavimo programinės įrangos formų, „deepfake“ technologijos unikaliai įgalina kurti aiškų turinį, skirtą bet kam - nepriklausomai nuo sutikimo, ankstesnio skaitmeninio elgesio (pvz., dalijimasis intymiais vaizdais) ar net žinojimo apie turinio egzistavimą.

Kūrėjai

Suaugusieji, turintys seksualinių interesų vaikų atžvilgiu, gali naudoti dirbtinį intelektą, kad sukurtų jiems žinomų ir nežinomų vaikų vaizdus, o kiti naudoja gilias klastotes sekso prievartai, grasindami paskelbti sukurtus vaizdus, jei auka nevykdys jų reikalavimų.

Kai kurie jaunuoliai taip pat gali patys kurti savo bendraamžių nuogybes dėl seksualinio smalsumo, bendraamžių spaudimo arba kaip patyčių formą.

Rizika ir iššūkiai

Vaikų saugumo srityje dirbantiems asmenims „deepfake“ technologijos kelia didelę naują riziką ir iššūkius kovojant su technologijų skatinama seksualine prievarta prieš vaikus, iš kurių daugelis mažina ekosistemos gebėjimą reaguoti ir užkirsti kelią prievartai.

Kai kurie iš šių naujų iššūkių yra techninės kliūtys ir neatsiejami nuo technologijų lengvo prieinamumo, vieningo turimų apsaugos priemonių (pvz., saugos pagal dizainą principų) įgyvendinimo trūkumo ir gebėjimo kurti itin fotorealistišką turinį dideliu mastu.

Deepfake technologijos kelia didelę naują riziką kovojant su technologijų palengvinta seksualine prievarta prieš vaikus

Skaitykite Pedagogas įtariamas nepadorumu

Kiti nauji iššūkiai atspindi sistemines problemas. Nors padaryta pažanga siekiant į traumą orientuoto atsako į aukų atskleistus seksualinės prievartos ir seksualinio išnaudojimo atvejus, vis dar yra didelių kliūčių, įskaitant gėdą, pažeminimą, baimę, kad jais nepatikės, ir savęs kaltinimą.

Maždaug kas penktas (22 proc.) paauglys nurodė naudojęsis pažinčių programėle, kas dešimtas (10 proc.) buvo prisijungęs prie „OnlyFans“, o beveik kas ketvirtas (23 proc.) lankėsi pornografijos svetainėse.

Intymūs vaizdai ir jaunimas

Jaunuoliams technologijos gali būti susijusios su seksualiniais tyrinėjimais ir romantika, nes daugelis jų pasakoja, kad dalijosi nuogybėmis su romantiškais partneriais arba lankėsi suaugusiesiems skirtose svetainėse (pvz., pažinčių ar pornografijos svetainėse).

Toks elgesys gali greitai sukelti didelę riziką, pavyzdžiui, nesankcionuotą piktnaudžiavimą atvaizdais, šantažą, priekabiavimą ir patyčias, o tai dažnai sukelia rimtų asmeninių, emocinių ir socialinių pasekmių, kurias, išplatinus atvaizdus, gali būti sunku ar net neįmanoma išspręsti.

„Deepfake“ nuogalių technologijos, leidžiančios greitai sukurti tikroviškus atvirus bet kokio asmens atvaizdus, padidina ir taip sudėtingą situaciją. Toks lengvas piktnaudžiavimas ne tik didina žalą, bet ir kelia pavojų, kad nesankcionuoto intymaus turinio kūrimas ir platinimas taps normalus.

Suaugusiųjų programėlių tyrinėjimas

Nepaisant amžiaus apribojimų, nemaža dalis paauglių (13-17 metų amžiaus) nurodė, kad naudojosi platformomis, skirtomis tik suaugusiems (18 metų ir vyresniems) naudotojams.

Maždaug kas penktas (22 proc.) paauglys pranešė naudojęsis pažinčių programėle, kas dešimtas (10 proc.) buvo prisijungęs prie „OnlyFans“, o beveik kas ketvirtas (23 proc.) lankėsi pornografijos svetainėse.

Dalijimasis seksualiniais vaizdais

Jaunuolių buvo klausiama apie jų patirtį dalijantis savo seksualiniais vaizdais, kai jie buvo jaunesni nei 18 metų, ir 1 iš 6 (18 %) nurodė, kad dalijosi. Tarp paauglių kas aštuntas (13 %) nurodė, kad dalijosi savo seksualiniais atvaizdais su kitais.

Ankstesniais tyrimais nustatyta, kad nors daugelis teigia, jog dalijasi vaizdais su asmeniu, kurį pažįsta neprisijungę prie interneto, jie taip pat teigia, kad dalijasi turiniu su kitais naudotojais, kuriuos pažįsta tik internete. Tyrimais taip pat nustatyta, kad nepilnamečiai, kurie dalijasi savo nuogo kūno atvaizdais, nurodo, kad tai daro su kitais įvairaus amžiaus žmonėmis, įskaitant kitus nepilnamečius, suaugusiuosius ir žmones, kurių amžiaus jie nežino.

Internetiniai prašymai

Maždaug kas trečias jaunuolis (36 %) nurodė, kad jaunesni nei 18 metų asmenys, su kuriais jie susipažino internete, prašė jų pasidalyti savo seksualiniais atvaizdais.

LGBTQ+ respondentai (53 proc.) ir moterys bei mergaitės (41 proc.) dažniausiai nurodė turėję tokios patirties. Atrodo, kad šios patirties dažnumas didėja su amžiumi.

Suvokimas

Informuotumas

Iš viso 41 % jaunų žmonių nurodė, kad yra girdėję apie sąvoką „deepfake nudes“, įskaitant beveik kas trečią (31 %) paauglį. Vyrai ir berniukai buvo labiau linkę girdėti šį terminą nei moterys ir mergaitės (+9 %). LGBTQ+ jaunuoliai taip pat dažniau girdėjo šį terminą nei jų bendraamžiai, kurie nėra LGBTQ+ (+20 %).

Jaunuoliai pranešė, kad jų bendraamžiai, būdami nepilnamečiai, susidūrė su įvairiomis patirtimis, susijusiomis su „deepfake“ atvaizdais - tiek su piktnaudžiavimo atvaizdais, tiek su asmenimis, dalyvaujančiais kuriant ar platinant šiuos atvaizdus.

Maždaug kas aštuntas jaunuolis nurodė, kad asmeniškai pažįsta asmenį, kuris, būdamas jaunesnis nei 18 metų, buvo „deepfake“ nuogybių taikinys (13 %) ir (arba) asmenį, kuris naudojosi technologijomis nepilnamečių „deepfake“ nuogybėms kurti ar platinti (12 %).

Iš viso 1 iš 6 (17 %) respondentų nurodė, kad asmeniškai pažįsta žmogų, kuris susidūrė su bent viena iš šių patirčių:

• Kas nors kitas sukūrė jų nuogą nuogą atvaizdą (angl. deepfake nude)
• Sužinojo, kad buvo (pakartotinai) dalijamasi suklastotu jų aktu
• Sukūrė savo nuogą nuogą atvaizdą (angl. deepfake nude)
• Sukūrė nepilnamečio asmens nuogą klastotę
• Iš naujo pasidalijo nepilnamečio nuogą nuogą klastotę

Nors lyginamoji bazė buvo nedidelė, LGBTQ+ paaugliai daug dažniau nei jų bendraamžiai nurodė, kad pažįsta asmenį, kuriam buvo daromas poveikis; 18 proc. nurodė pažįstantys asmenį, į kurį buvo nukreiptos technologijos, o 23 proc. nurodė pažįstantys asmenį, kuris naudojosi technologijomis kitų asmenų turiniui kurti ar platinti.

Tai beveik kaip naujos kartos nuogybių nutekinimas. Jie paveikia ką nors taip pat, kaip ir įprasti. 19 METŲ, MOTERIS, ĮVAIRIŲ RASIŲ, PIETŲ

Visi tai pamatys, jiems bus gėda ir tai niekada neišnyks. 13 METŲ, VYRAS, BALTAODIS, VIDURIO VAKARAI

Žalos suvokimas

Didžioji dalis jaunuolių (84 %) nurodė manantys, kad turinys kenkia deepfake nuogybėse pavaizduotam asmeniui.

Didžioji dalis jaunuolių (84 proc.) nurodė, kad, jų nuomone, turinys kenkia asmeniui, pavaizduotam „deepfake“ nuogybėse.

Tarp tų, kurie manė, kad giliai suklastoti aktai yra žalingi, jie nurodė tris svarbiausias priežastis:

emocinis ir psichologinis poveikis, kurį patyrė auka (-os) (31 %)

galimas žalos aukos (-ų) reputacijai padarymas (30 %)

nesugebėjimas atpažinti, kad turinys nėra autentiškas (25 %)

Palyginimui, maždaug 1 iš 6 (16 %) jaunuolių manė, kad deepfake nuogybės arba nekenkia vaizduojamam asmeniui, arba kad tai priklauso nuo situacijos.

Tarp jaunuolių, kurie nemanė, kad deepfake aktai daro žalą aukoms, dvi svarbiausios priežastys buvo šios: jie vaizdus vertino kaip „netikrus“ ir (arba) „ne tikrus“ (28 %) arba dėl to, kad nebuvo padaryta fizinė žala (7 %).

Jūs kontroliuojate, kas jus įžeidžia. Žinoma, neteisinga daryti deepfake nuogybes, bet galiausiai jos yra netikros.
13 METŲ, VYRAS, ĮVAIRIŲ RASIŲ, PIETŲ

…kai tik visi sužino, kad tai deepfake, dingsta visi panikos ir baimės jausmai. Tai iš tikrųjų nesi tu, todėl nėra jokio spaudimo. Tai šiek tiek streso, bet iš tikrųjų tai nėra jų kūnas.
16 METŲ, MOTERIS, BALTOJI, VIDURIO VAKARAI

Kai dalies jaunuolių, kurie nurodė manantys, kad deepfake aktai yra nekenksmingi arba priklausomi nuo situacijos, buvo paklausta, kas padidintų tikimybę atpažinti žalą, didžiausią įtaką turėjo tai, ar žiūrovai tiki, kad deepfake yra autentiški (40 %).

Trečdalis respondentų teigė, kad jie būtų labiau linkę manyti, jog „deepfake“ aktai yra žalingi, jei šių nuotraukų nebūtų galima pašalinti iš interneto. Taip pat 29 % respondentų teigė, kad dalijimasis turiniu ar jo platinimas padarytų jį dar žalingesnį, nesvarbu, ar juo būtų dalijamasi su žmonėmis, kurie pažįsta asmenį, pavaizduotą nuotraukoje, ar jis būtų skelbiamas skaitmeninėse platformose.

Teisėtumo suvokimas

Jaunuoliams buvo pateikti trys skirtingi scenarijai, kuriuose nepilnametis kūrė „deepfake“ nuogybes: savo, kito asmens, jaunesnio nei 18 metų, ir kito asmens, vyresnio nei 18 metų.

Iš viso dauguma jaunuolių pripažino, kad toks elgesys yra neteisėtas visuose trijuose scenarijuose.

Jaunuoliai šiek tiek dažniau manė, kad nepilnametis, sukūręs savo atvaizdą, yra teisėtas (23 proc.) nei kito asmens (19 proc.), neatsižvelgiant į kito asmens amžių. Kai kurie jų manė, kad teisėtumas priklauso nuo konkrečios situacijos.

Gyvenimiška patirtis

1 iš 17 (6 proc.) respondentų pranešė, kad buvo tapę kieno nors, pasinaudojusio technologijomis, taikiniu, kad sukurtų jų nuogus atvaizdus, įskaitant 1 iš 17 paauglių.

Ši patirtis labiausiai paplitusi tarp jaunesnių paauglių berniukų ir jaunų suaugusių moterų - 1 iš 10 (10 %) kiekvienos grupės atstovų pranešė apie tokią viktimizacijos formą.

Reagavimas į viktimizaciją

Iš dalies jaunuolių, patyrusių deepfake nude viktimizaciją (nepriklausomai nuo to, ar tai įvyko jiems būnant nepilnamečiais, ar jauniems suaugusiesiems viktimizacijos metu), dauguma (84 proc.) ieškojo tam tikros paramos, naudodamiesi saugumo internete priemonėmis arba ieškodami paramos neprisijungus prie interneto.

Maždaug 1 iš 6 (16 proc.) „deepfake nude“ aukų nurodė, kad visai nesikreipė pagalbos, nes ją ignoravo arba nebuvo tikri dėl savo reakcijos. Šis rodiklis panašus į ankstesniuose Thorn tyrimuose, kuriuose buvo nagrinėjama nepilnamečių reakcija į potencialiai žalingą seksualinį bendravimą internete, užfiksuotus rodiklius.

Tarp jaunuolių, nukentėjusių nuo deepfake nuogybių, daugiau nei pusė (60 %), reaguodami į tai, pasinaudojo bent viena internetine priemone, pavyzdžiui, platformos blokavimo ar pranešimo funkcijomis, ir daugiau nei pusė (57 %) ieškojo bent vienos paramos neprisijungus prie interneto - papasakojo kam nors apie tai, kas jiems nutiko, nesvarbu, ar tai būtų tėvai, ar mokyklos vadovybė, ar draugai, ar policija. Nors imtis buvo nedidelė, beveik pusė (48 %) paauglių, kuriems buvo sukurtos „deepfake“ nuotraukos, nurodė, kad apie tai papasakojo tėvams ir (arba) globėjams arba patikimam šeimos nariui.

Blokavimo technologijos buvo dažniausiai naudojama interneto priemonė - beveik pusė (48 %) nukentėjusiųjų pasirinko blokuoti nusikaltusį naudotoją, palyginti su 35 %, kurie pranešė apie naudotoją.

Iš tiesų, kito naudotojo blokavimas buvo dažniausias atsakas, po kurio sekė pranešimas apie naudotoją ir pranešimas tėvams ar kitiems patikimiems šeimos nariams (34 %). Paaugliai dažniausiai nurodė, kad blokuoja kitą naudotoją (49 %) ir praneša tėvams (48 %).

Reakcija ir numatoma reakcija

Kaip ir kitų internete daromų žalų atveju, pastebimas didelis skirtumas tarp tikėtinų „deepfake nudes“ nenukentėjusiųjų reakcijų ir faktinių nukentėjusiųjų reakcijų.

Tarp tų, kurie asmeniškai nepatyrė deepfake nude prievartos, buvo labiausiai linkę manyti, kad papasakotų tėvams ar patikimam suaugusiajam (62 proc.), o tarp deepfake nude prievartos aukų tokių buvo tik 1 iš 3 (34 proc.). Šis atotrūkis buvo pastebėtas ir tarp paauglių: 72 % tikėjosi, kad papasakos vienam iš tėvų arba patikimam suaugusiajam, o tai padarė tik 48 % nukentėjusių paauglių.

Taip pat pastebėti ir kiti skirtumai tarp numatomos ir faktinės reakcijos, įskaitant mažesnę tikimybę, kad aukos praneš apie nusikaltėlį policijai (-32 %) arba platformai, kurioje dalijamasi turiniu (-22 %).

Taip pat aukos buvo labiau linkusios ignoruoti patirtį (+12 %) arba patikėti interneto draugams (+8 %), palyginti su nenukentėjusiųjų numatomais atsakymais.

Deepfake nuogybių kūrėjai

Tarp apklaustų jaunuolių 2 % nurodė, kad jie naudojosi technologijomis, kad sukurtų kito asmens giliai suklastotą nuogybę.

Nors imtis buvo nedidelė (n = 24), ji leidžia susidaryti pirminį vaizdą apie jaunų žmonių, dalyvaujančių kuriant deepfakes, praktiką ir motyvaciją.

Šiame skyriuje nagrinėjami duomenys apie jaunus deepfake kūrėjus turėtų būti vertinami kaip orientaciniai, pabrėžiantys, kad skubiai reikia atlikti veržlesnius ir išsamesnius jaunimo vaidmens vykdant šį piktnaudžiavimą tyrimus.

Tikslinės aukos

Iš dalinės imties „deepfake“ kūrėjai nurodė, kad jie dažniausiai kūrė suaugusiųjų nuogus atvaizdus (62 %), o maždaug kas trečias (36 %) nurodė, kad kūrė nepilnamečių nuogus atvaizdus.

Taip pat didžioji dalis netikrų nuogybių kūrėjų teigė, kad jie kūrė moterų turinį (74 %).

Motyvai

Paklausti apie savo motyvus, dalis jaunuolių, kurie kūrė kitų asmenų nuogus atvaizdus, nurodė įvairias ir individualias priežastis, įskaitant seksualinį smalsumą, malonumo siekį, kerštą arba turinio kūrimą dėl draugų spaudimo ar įtakos.

Norėdamas jiems atkeršyti už tai, kad iš manęs tyčiojosi.
14 METŲ, VYRAS, BALTAODIS, ŠIAURĖS RYTAI

Tiesiog pažiūrėti, kaip tai atrodys. Iš esmės iš smalsumo.
15 METŲ, VYRAS, ISPANAS ARBA LOTYNŲ AMERIKIETIS, VIDURIO VAKARAI

Naudotos technologijos

Paklausti, kaip sužinojo apie svetaines, platformas ar programėles, kuriomis naudojosi kurdami turinį, „deepfake nude“ kūrėjai apibūdino kelis lengvai prieinamus būdus. Tarp jų - per socialinės žiniasklaidos platformas (71 %), tokias kaip „Facebook“, „Instagram“, „Snapchat“, „TikTok“ ir „YouTube“, per paieškos sistemas (53 %), tokias kaip „Google“ ir „Bing“, ir per tiesioginę nuorodą (25 %), kuria su jais kas nors pasidalijo.

Giliai suklastotų aktų kūrėjų taip pat buvo klausiama, kaip jie pasiekia technologijas, kurias naudoja giliai suklastotiems aktams kurti.

Dauguma (70 %) kūrėjų teigė, kad naudojamą programėlę atsisiuntė iš savo įrenginio programėlių parduotuvės (pvz., „Apple App Store“ arba „Google Play Store“).

TARP VISŲ DALYVIŲ

70 % jaunuolių, kūrusių kitų asmenų giliai suklastotus aktus, programėles atsisiuntė iš savo įrenginio programėlių parduotuvės

Maždaug kas trečias kūrėjas (30 %) nurodė, kad jiems nereikėjo atsisiųsti technologijos, kurią jie naudojo turinio kūrimui.

Paprašyti nurodyti svetaines, platformas ar programėles, kurias naudojo kurdami deepfake aktą, deepfake aktų kūrėjai apibūdino kelias technologijas, vienaip ar kitaip dalyvavusias kuriant deepfake aktą.

Kartais jie nurodė konkrečias programėles, kurios viešai reklamuojamos kaip kuriančios generatyvinį dirbtinio intelekto turinį (pvz., DeepFaceLab, AnimeGenius).

Kitais atvejais respondentai nurodė bendros paskirties technologijas, skirtas vaizdams redaguoti (pvz., Photoshop, Canva) arba dalytis vaizdais plačiau (pvz., Snapchat, OnlyFans, PornHub).

„deepfake“ nuogalių kūrėjų atsakymai apie jų naudotas technologijas rodo, kad ‚deepfake‘ nuogalių kūrimas dažnai apima ne tik faktinę generatyvinę dirbtinio intelekto technologiją ar modelį, bet ir nekenksmingų vaizdų, kurie naudojami ‚deepfake‘ kūrimui, paiešką ir platformų, skirtų platinti sukurtą turinį, panaudojimą.

Dalijimasis jų sukurtomis giluminėmis klastotėmis

Gilių aktų kūrėjų taip pat buvo klausiama, ar jie dalijosi savo sukurtu kitų asmenų nuogybių turiniu.

65 proc. savarankiškai prisistačiusių netikrų nuogybių kūrėjų teigė, kad kokiu nors būdu dalijosi savo turiniu.

1 iš 4 prisipažino, kad dalijosi juo su tik internete esančiais kontaktais (29 %) arba su tiksline auka (26 %).

1 iš 3 prisipažino, kad dalijosi turiniu su bendraamžiais savo mokykloje (30 %).

1 iš 4 kūrėjų (27 %) nurodė, kad niekada nesidalijo turiniu su niekuo kitu.

Atsižvelgiant į tai, kad dalis kūrėjų nurodė, jog niekada nesidalijo turiniu su kitais, o tai gali reikšti, kad jis buvo sukurtas tik jų asmeniniam vartojimui, sustiprina realybę, kad nurodyti viktimizacijos rodikliai greičiausiai nepakankamai įvertina šios patirties paplitimą. Tai reiškia, kad aukos ne tik susiduria su sunkumais atskleidžiant informaciją, bet ir daugelis aukų gali nežinoti, kad toks turinys egzistuoja.

Žvelgiant į ateitį

Nors norint visapusiškai suprasti „deepfake“ nuogybių poveikį jaunimui reikia atlikti daugiau tyrimų, šioje ataskaitoje pateiktos išvados išryškina neatidėliotinas galimybes stiprinti intervencijos strategijas, kuriomis galima užkirsti kelią šiai žalai ir geriau sušvelninti jos padarinius, kai ji atsiranda.

Jauni žmonės dažniausiai atpažįsta, kad „deepfake“ aktai yra technologijų skatinama prievartos forma, kuri kenkia vaizduojamam asmeniui.

REKOMENDACIJA: Suderinti visuomenės informavimą apie „deepfake“ piktnaudžiavimo žalą.

Jaunimas pripažįsta apčiuopiamą emocinę, psichologinę ir socialinę žalą, kurią daro „deepfake“ aktai, ir pabrėžia, kad pažeidimas slypi ne tame, kaip turinys sukuriamas, o tame, kad jis egzistuoja ir yra vartojamas. Be to, jaunimas pabrėžia, kad žiūrovų nesugebėjimas atskirti, ar turinys yra „tikras“, yra savybė, kuri dar labiau prisideda prie aukų gėdos, baimės ir savarankiškumo praradimo jausmo.

Suderinus visuomenės pranešimus su realybe, kurią jauni žmonės jau pripažįsta, į prevenciją ir intervenciją orientuotas švietimas, kampanijos ir paramos sistemos gali pradėti skubiai ir su empatija spręsti „deepfake“ prievartos problemą. Šis aiškumas yra labai svarbus siekiant užtikrinti, kad aukos gautų prasmingą paramą, atgrasyti nuo tolesnio nesąmoningo elgesio raidos ir padėti pagrindą sisteminiams veiksmams, kuriais siekiama sušvelninti šią prievartą.

Giliai suklastoti aktai jau yra tikra patirtis, kurią jauni žmonės turi įveikti.

REKOMENDACIJA: Nustatyti ir socializuoti bendruomenės atsaką į deepfake nuogalių patirtį.

Didelis jaunų žmonių susipažinimo su „deepfake“ aktais lygis ir didelis skaičius pranešusiųjų apie asmeninius ryšius, susijusius su šia žala, rodo, kaip greitai ši technologijų skatinama prievartos forma įsiskverbė į jaunimo kultūrą.

Jei nebus imtasi skubių veiksmų, kyla pavojus, kad „deepfake nudes“ taps įsišaknijusia skaitmenine grėsme, kurią jauni žmonės turės atlaikyti. Nors visuomenės pranešimai yra labai svarbus pagrindas pripažinti žalą, atsakomybę už informuotumo didinimą, politikos nustatymą ir paramą aukoms turi prisiimti globėjai, jaunimui skirtos organizacijos ir mokyklos.

Kad įveiktų šį iššūkį, jaunimu besirūpinančios organizacijos ir mokyklos turi turėti aiškius, įgyvendinamus protokolus, kaip atpažinti žalą, dokumentuoti incidentus ir sujungti aukas su svarbiausiais ištekliais, tokiais kaip psichologinė pagalba, turinio pašalinimo priemonės, teisinė pagalba ir pagalbos linijos.

Bendradarbiaudamos mokyklos ir jaunimui paslaugas teikiančios organizacijos gali ne tik suteikti neatidėliotiną pagalbą atskleidžiant „deepfake nude“ ir atsigaunant, bet ir normalizuoti pagalbos ieškojimą dėl kitos nesankcionuotos žalos.

Iš ribotos imties jaunuolių, kurie prisipažįsta kūrę kitų asmenų deepfake nuogybes, jie apibūdina lengvą prieigą prie deepfake technologijų.

REKOMENDACIJA: Įgyvendinti technines apsaugos priemones, kad būtų sumažintas piktnaudžiavimas ir užkirstas kelias jam.

Jaunuoliai, prisipažįstantys, kad kūrė „deepfake“ nuogybes, pasakoja apie paprastą ir nesudėtingą prieigą prie šių technologijų per programėlių parduotuves, paieškos sistemas ir socialinės žiniasklaidos platformas. Norint pažaboti piktnaudžiavimą ir užkirsti kelią žalai, labai svarbu spręsti šio tarpusavyje susijusio prieinamumo tinklo problemą.

Savanoriškai priimdamos atsakingo dirbtinio intelekto principus, kad sumažintų netinkamą generatyvinių dirbtinio intelekto modelių naudojimą, ir bendradarbiaudamos su išorės ekspertais, kad įvertintų poveikį žmogaus teisėms ir vaikų saugumui, technologijų bendrovės gali nedelsiant sumažinti netinkamą generatyvinių dirbtinio intelekto technologijų naudojimą, sukurti atsakingų inovacijų precedentą ir suteikti postūmį ilgalaikėms reguliavimo sistemoms. Jei nebus imtasi šių priemonių, „deepfake“ nuogybių plitimas ir toliau viršys pastangas kontroliuoti netinkamą generatyvinio dirbtinio intelekto naudojimą šiems tikslams, o tai dar labiau normalizuos nesankcionuoto turinio kūrimą ir platinimą plačiu mastu. Norint apriboti piktnaudžiavimui sukurtų ar netinkamai naudojamų priemonių prieinamumą, reikia ne riboti inovacijas, o užtikrinti, kad šios technologijos būtų kuriamos, diegiamos ir naudojamos atsakingai.

Metodika

Tyrimo planas

Šiame tyrime daugiausia dėmesio skirta 13-20 metų amžiaus jaunuoliams Jungtinėse Amerikos Valstijose.

Tyrimo metodais buvo siekiama nustatyti respondentų suvokimą ir patirtį, susijusią su giliai suklastotais nuogais atvaizdais.

1 ETAPAS: ŽVALGOMIEJI INTERVIU SU ATITINKAMOS SRITIES EKSPERTAIS

Pirmasis šio tyrimo etapas buvo skirtas žvalgomajai informacijai rinkti, kad būtų galima orientuotis ir nustatyti tolesnį išsamesnės apklausos priemonės tikslą.

Iš viso šiame etape buvo nustatyta ir konsultuotasi su 16 dalykinių ekspertų iš visos vaikų saugos ekosistemos.

2 ETAPAS: KIEKYBINĖ INTERNETINĖ APKLAUSA

Nuo 2024 m. rugsėjo 27 d. iki 2024 m. spalio 7 d. 18 minučių trukusioje internetinėje apklausoje iš viso dalyvavo 1 200 jaunuolių iš visų Jungtinių Amerikos Valstijų.

Atsisiųskite visą ataskaitą, kad gautumėte daugiau informacijos apie metodologiją, švelnesnes priemones ir rezultatus.

Šaltinis

Thorn: (2024). Deepfake aktai ir jaunimas: (angl. Navigating a new frontier in technology-facilitated nonconsensual sexual abuse and exploitation).

https://info.thorn.org/hubfs/Research/Thorn_DeepfakeNudes&YoungPeople_Mar2025.pdf.

Viršutinis paveikslėlis: Freepik