Дипфејк и нудификација – како ВИ индустријализује дигитално злостављање

Милиони људи широм света креирају и деле такозване дипфејк фотографије нагих особа на Телеграму, апликацији за безбедну размену порука, показала је анализа британског листа Гардијан. Истовремено све је више упзорења да ширење напредних алата вештачке интелигенције индустријализује злостављање жена у онлајн простору.

Гардијан је идентификовао најмање 150 Телеграм канала – великих шифрованих групних ћаскања популарних због безбедне комуникације – који изгледа имају кориснике у многим земљама, од Велике Британије до Бразила, од Кине до Нигерије, Русије до Индије.

Неки од канала нуде фотографије или видео-записе уз накнаду: корисници могу да отпреме фотографију било које жене, а вештачка интелигенција ће им направити видео-клип те жене у сексуалним активностима.

Много више канала нуди непрегледан низ слика на којима су познате личности, инфлуенсери на друштвеним мрежама и анонимне жене, које је вештачка интелигенција разголитила или креирала тако да обављају сексуалне радње. Пратиоци такође користе канале да деле савете о доступним алатима за прављење дипфејк садржаја (deepfake, на енглеском спојеница настала од речи дубоко учење – deep learning и лажно – fake).

Иако већ дуго постоје Телеграм канали посвећени дистрибуцији правих интимних фотографија стварних жена, које су најчешће снимљене без пристанка, лака доступност вештачке интелигенције значи да свако може постати предмет графичког сексуалног садржаја који могу да виде милиони.

Алати за нудификацију, начини за одузимање права да кажете „Не“

На каналу на руском језику који рекламира дипфејк „процуреле интимне садржаје“ блогера и познатих личности, објава о Телеграм боту за нудификацију (nudification, на енглеском манипулација сликама ради стварања голотиње) помоћу вештачке интелигенције обећала је „неуронску мрежу која не познаје реч 'Не'“.

„Бирајте позе, грађу и локације. Радите са њом све што не можете у стварном животу“, наводи се у опису алата за дигитално разодевање.

На Телеграм каналу на кинеском језику са скоро 25.000 претплатника, мушкарци су делили видео-снимке својих „првих љубави“ или „најбоље пријатељице своје девојке“, у којима је, уз помоћ вештачке интелигенције, генерисан приказ како изгледају док се скидају.

Мрежа Телеграм канала усмерена на нигеријске кориснике шири дипфејк садржаје поред стотина украдених фотографија нагих особа или њихових интимних слика.

Телеграм је безбедна апликација за размену порука која омогућава корисницима да креирају групе или канале за емитовање садржаја неограниченом броју контаката. Према условима коришћења платформе, корисници не могу да објављују „нелегални порнографски садржај“ на „јавно видљивим“ каналима и за манипулацију ботовима, нити да се „укључују у активности које су признате као илегалне у већини земаља“.

Преглед података независне службе Telemetr.io указује на то да је компанија „Телеграм“ затворила бројне канале намењене нудификацији.

У „Телеграму“ за Гардијан кажу да су дипфејк порнографија и алати за њено креирање експлицитно забрањени условима коришћења, додајући да се „такав садржај рутински уклања кад год се открије. Модератори оспособљени посебно прилагођеним алатима заснованим на ВИ проактивно прате јавне делове платформе и прихватају пријаве како би уклонили садржај који крши наше услове коришћења, укључујући подстицање креирања дипфејк порнографије“.

У свом саопштењу, „Телеграм“ је навео да је уклоњено више од 952.000 комада увредљивог материјала током 2025. године.

Скидање у бикини уз неколико кликова

Последњих недеља, употреба алата за генерисање сексуализованих дипфејк садржаја и понижавање жена експлодирала је у јавном дискурсу. То се дешава након што је Грок, четбот заснован на генеративној вештачкој интелигенцији на платформи Икс (некадашњи Твитер), друштвеном медију у власништву Илона Маска, замољен да креира хиљаде слика жена у купаћим костимима или са минимално одеће, без њиховог пристанка.

Масовно негодовање навело је Маскову компанију "xAI" да објави да ће престати да дозвољава Гроку да манипулише фотографијама правих особа тако да на крају остану у бикинију. Британски регулатор медија, Ofcom, такође је најавио истрагу о Иксу.

Међутим, постоји мноштво форума, веб-сајтова и апликација, укључујући Телеграм, који милионима људи омогућавају лак приступ графичком, тзв. непријатељском садржају и да генеришу и деле овај садржај на захтев, без знања жена које су њиме угрожене.

Извештај који је у уторак објавио Пројекат транспарентности технологије (Tech Transparency Project) открио је да су десетине апликација за дигитално разодевање доступне у Гугл плеј продавници (Google Play Store) и „Епловој“ продавници апликација (Apple App store) и да су заједно имале 705 милиона преузимања.

Портпарол компаније „Епл“ рекао је да је компанија уклонила 28 од 47 апликација за нудификацију које је Пројекат транспарентности технологије идентификовао у својој истрази, док је портпарол компаније „Гугл“ рекао да је „већина таквих апликација“ на њиховом сервису суспендована и да је истрага у току.

Канали на Телеграму главни су терен ширег интернет екосистема посвећеног креирању и ширењу интимних слика које су направљене без пристанка, рекла је Ан Кранен, истраживачица фокусирана на родно засновано насиље у лондонском Институту за стратешки дијалог.

Они омогућавају корисницима да избегну контроле већих платформи као што је „Гугл“ и да деле савете о томе како да заобиђу заштитне мере које спречавају моделе вештачке интелигенције да генеришу такав садржај.

„Међутим, ширење и популаризација таквих материјала је друга прича. Ширење таквих садржаја са другим мушкарцима и хвалисање њиме, и та слављеничка димензија, то је такође веома важно. То заиста показује мизогине подтонове. Они покушавају да казне жене или да их ућуткају“, објашњава Ан Кранен.

Прошле године, „Мета“ је угасила италијанску групу на Фејсбуку у којој су мушкарци делили интимне слике својих партнерки и жена које ништа нису слутиле. Пре него што је уклоњена, група Mia Moglie (што значи „моја жена“) имала је приближно 32.000 чланова.

Међутим, истраживачки билтен Индикатор открио је да „Мета“ није успела да заустави доток реклама за алате за нудификацију на својим платформама и идентификовала је најмање 4.431 такву рекламу на својим платформама од 4. децембра прошле године, иако су неке изгледале као преваре. Портпарол „Мете“ је рекао да се уклањају рекламе које крше политике фирме.

Алати засновани на ВИ појачали су глобални пораст насиља над женама у онлајн простору, омогућавајући скоро свакоме да прави и дели увредљиве слике и снимке. У многим деловима света, укључујући већи део јужног дела планете (Африка, Јужна Америка, делови Азије), постоји мало правних начина да се починиоци позову на одговорност.

Мање од 40 одсто земаља има законе који штите жене и девојчице од сајбер узнемиравања или сајбер праћења, показују подаци Светске банке из 2024. године. УН процењује да 1,8 милијарди жена и девојчица и даље нема правну заштиту од онлајн узнемиравања и других облика злостављања које омогућава технологија.

Онлајн злостављање све креативније

Недостатак регулативе је само један од разлога зашто су жене и девојчице у земљама са ниским приходима посебно рањиве, указују активисти. Проблеми попут лоше дигиталне писмености и сиромаштва могу додатно повећати ризике између друштвених слојева. 

Угочи Ихе, сарадница у групи "TechHer", организацији са седиштем у Нигерији која подстиче жене и девојчице да уче и раде са технологијом, каже да је наишла на случајеве у којима су жене које позајмљују новац од апликација за кредите постале жртве уцене од „бескрупулозних мушкараца који користе вештачку интелигенцију. Сваког дана је злостављање све креативније“.

Последице дигиталног злостављања у стварном животу су разарајуће, укључујући потешкоће у менталном здрављу, изолацију и губитак посла.

„Овакве ствари ће сигурно уништити живот младе девојке“, рекла је Мерси Мутеми, адвокатица из Кеније која заступа четири жртве злостављања путем дипфејка. Неке од њених клијенткиња одбијене су на конкурсу за посао и подвргнуте су дисциплинским саслушањима у школи, како наводи, због дипфејк слика које су дељене без њиховог пристанка.

Мерси Мутеми наглашава да је њена организација решавала жалбе жена које су породице изопштиле након што су биле жтрве уцењивача који су претили да ће објавити њихове интимне снимке преузете са Телеграм канала. „Када се то објави, нема повратка достојанства, идентитета. Чак и ако починилац дође да каже: 'То је био дипфејк', не можете рећи колико је људи то видело. Штета по репутацију је непоправљива“, поручила је адвокатица Мутеми.