Šešėlinė dirbtinio intelekto paslauga tūkstančius moterų nuotraukų pavertė netikrais nuogais atvaizdais: „Paverskite fantaziją realybe“

Internete laisvai prieinama dirbtinio intelekto paslauga buvo panaudota daugiau nei 100 000 moterų atvaizdų pavertimui nuogomis nuotraukomis be jų žinios ar sutikimo, įskaitant ir jaunesnių nei 18 metų merginų. Tai sukėlė nuogąstavimus dėl naujos žalingų „giliųjų klastočių“ (angl. deepfakes) bangos, kurios galėtų būti naudojamos priekabiavimui ar šantažui.

Kaip veikia paslauga

Automatinės paslaugos vartotojai gali anonimiškai pateikti apsirengusios moters nuotrauką ir gauti pakeistą versiją, kurioje drabužiai pašalinti. Dirbtinio intelekto technologija, apmokyta naudojant dideles tikrų nuogų nuotraukų duomenų bazes, gali generuoti klastotes, pasižyminčias stulbinančiu tikroviškumu, atitinkančiu odos atspalvį ir pakeičiančiu krūtis bei lytinius organus ten, kur anksčiau buvo drabužiai.

Moterų veidai lieka aiškiai matomi, o prie vaizdų nepridedama jokių žymų, nurodančių, kad tai klastotės. Kai kuriuose originaliuose atvaizduose matyti merginos, jaunesnės nei 18 metų.

Šią paslaugą, leidžiančią žmonėms teikti naujus užsakymus per automatinį „pokalbių robotą“ (angl. chatbot) šifruotoje susirašinėjimo programėlėje „Telegram“, pirmą kartą atrado „Sensity“ – Amsterdamo kibernetinio saugumo startuolio – tyrėjai, kurie pasidalino savo išvadomis su „The Washington Post“.

Tyrėjai nustatė, kad pokalbių robotą ir kelis kitus susijusius kanalus naudojo daugiau nei 100 000 narių visame pasaulyje. Vidinėje apklausoje roboto vartotojai teigė, kad maždaug 63 procentai žmonių, kuriuos jie norėjo „išrengti“, buvo merginos ar moterys, kurias jie pažinojo realiame gyvenime.

Giliosios klastotės ir pažeidžiamumas

Dirbtinio intelekto sugeneruoti vaizdo įrašai, kuriuose matomas vieno asmens veidas ant kito kūno, vadinami „giliosiomis klastotėmis“. Jas vis lengviau sukurti ir panaudoti prieš moteris.

Giorgio Patrini, grupės vadovas, teigė, kad pokalbių robotas rodo niūrų poslinkį technologijos naudojime: nuo įžymybių ir žinomų asmenų atvaizdų klastojimo iki nieko neįtariančių moterų, esančių toli nuo viešumos, taikinio.

„Faktas yra tas, kad dabar kiekvienas iš mūsų, tiesiog turėdami socialinės žiniasklaidos paskyrą ir viešai skelbdami savo nuotraukas bei savo gyvenimo akimirkas, esame pavojuje“, – interviu sakė Patrini. „Tiesiog turint internetinį personažą, tampame pažeidžiami tokio tipo atakoms.“

Pokalbių roboto augimas rodo, kaip greitai klastotų atvaizdų technologija tapo visur paplitusi.

Prieš dešimt metų, norint sukurti panašiai įtikinamą klastotę, būtų reikėję pažangių nuotraukų redagavimo įrankių ir didelių įgūdžių. Net prieš keletą metų, norint sukurti tikrovišką netikrą nuogą atvaizdą naudojant DI technologiją – pavyzdžiui, „giliųjų klastočių“ pornografinius vaizdo įrašus, kuriuose garsios moterys, žurnalistės ir kitos moterys buvo įmontuotos į sekso scenas – reikėjo didelių vaizdo duomenų kiekių ir skaičiavimo resursų.

Tačiau su pokalbių robotu, sukurti nuogą žmogaus kūno atvaizdą yra taip pat lengva, kaip išsiųsti nuotrauką iš telefono. Paslauga taip pat surenka visus naujai sugeneruotus netikrus nuogus atvaizdus į nuotraukų galerijas, kurios atnaujinamos kasdien; daugiau nei 25 000 paskyrų jau užsiprenumeravo kasdienius atnaujinimus.

Vartotojų bazė ir kainodara

Remiantis vidinėmis apklausomis, didžiausia roboto vartotojų bazė yra Rusijoje, nors nariai taip pat kilę iš Jungtinių Valstijų, Europos, Azijos ir Pietų Amerikos.

Nauji vartotojai gali nemokamai paprašyti kelių pirmųjų netikrų nuogų atvaizdų, tačiau yra skatinami mokėti už tolesnį naudojimą. Pradedančiųjų tarifas siūlo naujiems vartotojams 100 netikrų nuotraukų per septynias dienas už 100 Rusijos rublių, arba apie 1,29 JAV dolerio. „Mokami premium“ nariai gali prašyti, kad netikros nuogos nuotraukos būtų sukurtos be vandens ženklo ir paslėptos nuo viešojo kanalo.

Administratoriaus gynyba ir etinės dilemos

Pokalbių roboto administratorius, kurį „The Post“ žurnalistai interviuavo pirmadienį per „Telegram“ žinutes, atsisakė nurodyti savo vardo, tačiau gynė įrankį kaip nekenksmingą seksualinio vojerizmo formą ir teigė, kad jo operatoriai neprisiima atsakomybės už moteris, į kurias nukreipta vartotojų bazė. Kaip aliuzija į „vaikinai bus vaikinai“ poziciją, paslaugos logotipuose pavaizduotas besišypsantis vyras ir moteris, į kurią žiūrima rentgeno akiniais.

Tačiau technologijų ir teisės ekspertai teigia, kad programinė įranga ginkluoja pačių moterų nuotraukas prieš jas, seksualizuoja moteris bevardei nepažįstamųjų grupei ir pranašauja naują suklastoto keršto pornografijos erą.

Kai kurios technologijų gigantės pasisakė prieš giliąsias klastotes ir kitą „manipuliuotą mediją“. Tačiau, kadangi sistemos pirminis kodas jau yra plačiai išplatintas internetinių kopijų kūrėjų, ekspertai nemato aiškaus būdo sustabdyti panašią programinę įrangą nuo netikrų nuogų atvaizdų kūrimo, talpinimo ir dalijimosi nereglamentuojamame tinkle.

Poveikis aukoms

Kai kurios iš moterų, į kurias nukreipta ši paslauga, yra populiarios pramogų pasaulio atstovės arba socialinės žiniasklaidos influencerės, turinčios didelę auditoriją. Tačiau daugelis tų, kurios matomos viešai prieinamose roboto sukurtose nuotraukose, yra paprastos darbuotojos, koledžo studentės ir kitos moterys, kurių atvaizdai dažnai paimami iš jų asmenukių ar socialinės žiniasklaidos paskyrų tokiose svetainėse kaip „TikTok“ ir „Instagram“.

Danielle Citron, Bostono universiteto teisės profesorė, tyrinėjanti „intymaus privatumo“ eroziją internete, teigė, kad ji interviuavo dešimtis moterų apie patirtį, kai jų tikri ar sukurti nuogi atvaizdai buvo dalijami internete. Daugelis teigė jautusios didelį sielvartą dėl to, kaip jų atvaizdus matė ir išsaugojo nepažįstamieji internete – ir, galbūt, jų bendradarbiai bei klasės draugai.

„Jūs paėmėte mano tapatybę ir pavertėte ją pornografija... Tai jaučiasi taip instinktyviai, žalinga, neteisinga“, – sakė Citron. „Jūsų kūnas yra paimtas ir nuogas be jūsų leidimo, ir yra tai patvirtinantys dokumentiniai įrodymai... Intelektualiai, [jūs] žinote, kad tai neįvyko. Bet kai [jūs] tai matote, atrodo, kad įvyko, ir jūs žinote, kad kiti ne visada žinos“, kad tai klastotė.

„Pažeidžiamumas, kurį tai sukuria jūsų saugumo pasaulyje jausmui: kai tai atimate iš žmogaus, labai sunku tai atgauti“, – pridūrė ji.

Robotas pataria vartotojams, kaip teikti užklausas, rekomenduodamas, kad originalios nuotraukos būtų nukreiptos į moterų krūtis ir jose būtų matomas apatinis trikotažas ar maudymosi kostiumėlis, kad būtų pasiekti geriausi rezultatai. Tačiau daugelyje atvaizdų moterys matomos nedaug atskleidžiančiais mokyklos drabužiais ar kasdieniais drabužiais, pavyzdžiui, marškinėliais ir džinsais. Bent viena moteris buvo nufotografuota vestuvine suknele.

Viena jauna moteris pateikė kelias savo nuotraukas šiai paslaugai, kai kuriose iš jų buvo grubiai įterptas netikras bikinio viršus ant jos įprastų drabužių – tikėtina, siekiant pagerinti roboto veikimą.

Tačiau automatinė paslauga veikia tik su moterimis: pateikus vyro – ar negyvo objekto – atvaizdą, jis bus transformuotas taip, kad apimtų krūtis ir moteriškus lytinius organus. (Viename pateiktame katės veido atvaizde jos akys buvo pakeistos tuo, kas atrodė kaip speneliai.)

Administratoriaus tolesnė gynyba

Roboto administratorius, kalbėdamas rusiškai, pirmadienį privačiame pokalbyje „The Post“ žurnalistams teigė, kad neprisiima atsakomybės už tai, kaip užklausų teikėjai naudojo programinę įrangą, kuri, jų teigimu, vis tiek buvo laisvai prieinama. „Jei žmogus nori apnuodyti kitą, jis tai padarys be mūsų, ir jis bus atsakingas už savo veiksmus“, – rašė administratorius.

„Sensity“ tyrėjai suskaičiavo daugiau nei 104 000 moterų atvaizdų, pakeistų taip, kad atrodytų nuogi, ir pasidalintų viešaisiais kanalais. Paslaugos svetainė rodo, kad šis skaičius yra daug didesnis: 687 322 „apnuogintos merginos“ ir 83 364 „patenkinti vyrai“. Tačiau administratorius teigė, kad šis skaičius yra atsitiktinis ir naudojamas tik reklamai, nes jie nelaiko apdorotų nuotraukų statistikos.

Roboto taisyklės teigia, kad jis neleidžia kurti nuogų nepilnamečių mergaičių atvaizdų. Tačiau viešai matomose paslaugos kolekcijose yra paauglės, įskaitant populiarią „TikTok“ asmenybę, kuriai yra 16 metų.

Administratorius teigė, kad sistema buvo sukurta tik vartotojų fantazijoms įgyvendinti ir kad kiekvienas, kuris pamatytų atvaizdus, suprastų, jog tai klastotės.

„Jūs labai perdėjote tikroviškumą“, – sakė administratorius. „Kiekvienoje nuotraukoje, priartinus, matosi daug pikselių. Viskas, ką ji leidžia padaryti, tai paversti fantaziją realybe, vizualizuoti ir suprasti, kad tai nėra tikra.“

Administratorius taip pat teigė, kad paslauga „per visą mūsų darbo laikotarpį negavo nė vieno merginos skundo“, ir bandė perkelti kaltę ant klastočių aukų už tai, kad jos skelbė savo atvaizdus internete.

„Norint dirbti su neuroniniu tinklu, reikalinga nuotrauka su maudymosi kostiumėliu arba su minimaliu drabužių kiekiu. Mergina, kuri įkelia nuotrauką su maudymosi kostiumėliu į internetą, kad visi matytų – kokiu tikslu ji tai daro?“, – rašė administratorius. „90% šių merginų skelbia tokias nuotraukas, siekdamos pritraukti dėmesį, pabrėždamos seksualumą.“

Tačiau po „The Post“ reporterio klausimų administratorius teigė, kad jie išjungė roboto pokalbių ir galerijos funkcijas dėl „daugybės skundų dėl turinio“. Paslauga naujiems vaizdams kurti ir anksčiau sugeneruotiems vaizdams liko internete.

„Telegram“ atstovai, siūlantys šifravimą nuo galo iki galo ir privačių pokalbių funkcijas, pirmadienį neatsakė į prašymus pakomentuoti.

Technologijos kontekstas ir etinės problemos

Britt Paris, Rutgerso universiteto docentė, tyrinėjusi giliąsias klastotes, teigė, kad manipuliatoriai dažnai apibūdina savo darbą kaip eksperimentavimą su naujomis technologijomis lengvabūdiškai. Tačiau, jos teigimu, tokia gynyba patogiai ignoruoja, kokie mizoginistiniai ir niokojantys gali būti šie atvaizdai.

„Šios mėgėjų bendruomenės internete visada kalba apie tai, tarsi: „Mes tiesiog... žaidžiame su nuogų merginų atvaizdais dėl pramogos“, – sakė Paris. „Tačiau tai nuslepia visą problemą, kad tiems žmonėms, kurie yra nukreipti šiuo būdu, tai gali sutrikdyti jų gyvenimus daugybe labai žalingų būdų.“

Robotas buvo sukurtas naudojant atvirojo kodo „vaizdo į vaizdą vertimo“ programinę įrangą, žinomą kaip „pix2pix“, kurią 2018 m. pirmą kartą pristatė Kalifornijos universiteto Berklyje dirbtinio intelekto tyrėjai. Pateikus sistemai didžiulį kiekį realių vaizdų, ji gali atpažinti vizualinius modelius ir, savo ruožtu, sukurti savo klastotes, transformuojant kraštovaizdžio nuotraukas iš dienos į naktį, arba iš juodai baltos į spalvotą.

Programinė įranga remiasi DI proveržiu, žinomu kaip generuojantys priešiški tinklai (angl. Generative Adversarial Networks, arba GANs), kurie pastaraisiais metais išpopuliarėjo dėl savo gebėjimo apdoroti didelius duomenų kiekius ir generuoti tikroviškus vaizdo įrašus, paveikslėlius ir teksto ištraukas.

„Pix2pix“ kūrėjai džiaugėsi jos potencialia nauda menininkams ir vizualiniams kūrėjams. Tačiau praėjusiais metais anoniminis programuotojas apmokė pagrindinę programinę įrangą tūkstančiais nuogų moterų nuotraukų, efektyviai išmokydamas sistemą paversti moteris iš apsirengusių į nuogas.

Po to, kai technologijų tinklaraštis „Motherboard“ praėjusiais metais rašė apie programėlę, pavadintą „DeepNude“, kūrėjas atsakė į internetinį pasipriešinimą, pašalindamas nemokamai atsisiunčiamą programėlę iš interneto, sakydamas: „Tikimybė, kad žmonės ja piktnaudžiaus, yra per didelė.“

Gilaus mokymosi pradininkas Andrew Ng praėjusiais metais pavadino „DeepNude“ „viena iš labiausiai pasibjaurėtinų DI programų“, pridurdamas: „DI bendruomenei: Jūs turite supergalių, ir tai, ką kuriate, yra svarbu. Prašome naudoti savo galias vertiems projektams, kurie stumia pasaulį į priekį.“

Tačiau pokalbių roboto egzistavimas rodo, kad bus praktiškai neįmanoma visiškai išnaikinti šios programinės įrangos. Originalios programėlės pirminis kodas buvo išsaugotas ir plačiai išplatintas internete, įskaitant pelno siekiančias svetaines, kurios siūlo generuoti vaizdus už nedidelį mokestį.

Hany Farid, Kalifornijos universiteto Berklyje kompiuterių mokslininkas, kuris specializuojasi skaitmeninių vaizdų teismo ekspertizėje ir nebuvo įsitraukęs į originalų „pix2pix“ tyrimą, teigė, kad netikrų nuogų atvaizdų sistema taip pat pabrėžia, kaip vyrų homogeniškumas DI tyrimuose dažnai paliko moteris susidurti su jo tamsesne puse.

DI tyrėjai, jo teigimu, ilgai puoselėjo naivų technoutopinį pasaulėvaizdį, kurį dabar sunku pagrįsti, atvirai skelbdami nereglamentuotus įrankius, neatsižvelgdami į tai, kaip jie galėtų būti netinkamai naudojami realiame pasaulyje.

„Tai tiesiog dar vienas būdas, kurį žmonės rado, kaip ginkluoti technologijas prieš moteris. Kai tai patenka į internetą, viskas. Kiekvienas potencialus vaikinas ar mergina, jūsų darbdavys, jūsų šeima gali tai pamatyti“, – sakė Farid. „Tai baisu, ir moterys patiria didžiausią žalą.

„Ar laboratorija, kurioje nedominuotų vyrai, būtų buvusi tokia beatodairiška ir neatsargi dėl rizikos?“, – pridūrė jis. „Ar [DI tyrėjai] būtų buvę tokie beatodairiški, jei tie blogi [dalykai] būtų nutikę jiems, o ne kokiai nors moteriai gatvėje?“

Aukų pasakojimai

Ši problema jau yra realybė daugeliui moterų visame pasaulyje. Viena moteris, į kurią nukreipta šio roboto veikla, meno studentė Rusijoje, kuri prašė likti anonime, nes nenorėjo įsitraukti su šiais „kvailais žmonėmis“, pamatė, kaip jos nuotrauka su marškinėliais be rankovių, paimta iš jos „Instagram“ paskyros, buvo paversta netikru nuogu atvaizdu.

Interviu ji palygino klastotę su jos vardo juodinimu, tačiau teigė esanti dėkinga, kad pakankamai žmonių ją pažinojo, kad suprastų, jog tai greičiausiai nebuvo tikra.

„Sukčiai, kurie daro tokią nešvankybę, nepasieks sėkmės“, – sakė ji. „Tikiu karma, ir tai, kas jiems sugrįš, nebus švaresnis už jų pačių veiksmus.“