Како америчка технологија покреће глобалну индустрију превара

Сафир Мухамед Куриманил  је био жртва трговине људима и приморан да ради у центру за преваре у Мјанмару, на интернету се представљао као Ела, двадесетосмогодишња жена из Сингапура. Инструкције су му биле јасне: имао је четири дана да натера сваку жртву да се заљуби. А жртава је било много. 

Током типичне смене, како каже, Сафир је истовремено разговарао са више од сто људи преко десетина профила, док су надзорници патролирали између столова са електричним палицама, спремни да казне свакога ко не испуни дневну квоту.

Његов задатак био је део глобално распрострањене преваре познате као „клање свиња” (pig butchering), где се жртве, или „свиње”, пажљиво „хране” лажним обећањима љубави и богатства пре него што буду финансијски „заклане”.

За само месец дана, Куриманил је циљао око 50.000 жртава из најмање 17 земаља. Међу његовим „клијентима” били су удовац кројач из Курдистана, посластичар из Турске, фармер оваца из Киргистана, војници из Ирака и студент из Индонезије.

Све је то радио користећи софтвер изграђен на моделима вештачке интелигенције америчких технолошких компанија, које преваранти злоупотребљавају да би циљали жртве невиђеном брзином и у огромном обиму. „Сви су тамо роботи”, рекао је Сафир за АП, описујући аутоматизовану природу операције. „Систем ради све, ми само пратимо упутства.”

Америчка технологија дуж читавог криминалног ланца

Истрага је показала да је америчка технологија присутна дуж читавог дигиталног ланца који повезује преваранте са њиховим жртвама. Проблем је достигао размере које Уједињене нације описују као „скандемију”, са глобалним губицима који премашују хиљаду милијарди долара годишње.

Само у Сједињеним Државама, губици од превара које потичу из југоисточне Азије процењени су на 3,5 милијарди долара у 2023. години. Криминални синдикати, углавном смештени у специјалним економским зонама у Мјанмару, Камбоџи и Лаосу – регионима обележеним политичком нестабилношћу и корупцијом – изградили су читаве градове посвећене преварама.

Према проценама УН-а, најмање 300.000 људи, попут Куриманила, приморано је да ради у овим центрима широм југоисточне Азије. Иако не постоје докази да америчке компаније раде било шта незаконито, злоупотреба њихових алата поставља питање колико ригорозно спроводе сопствене услове коришћења, који забрањују илегалне активности.

Вештачка интелигенција унела револуцију у преварама

Модели вештачке интелигенције америчке производње, пре свега ChatGPT компаније ОпенАИ и Џемини (Gemini) компаније Гугл, коришћени су за израду специјализованог софтвера који преварантима омогућава да неометано раде на десетинама језика, надзиру раднике и циљају жртве широм света.

Ови алати, познати под називима као што су КТ (Kongtian) и 007ТГ, део су сивог тржишта технологије која има и легитимне и нелегитимне примене. Функционишу као „превара као услуга” (Scam-as-a-Service), где криминалне организације могу да купе готове пакете за покретање сопствених операција.

Бивши преваранти описују их као „све на једном месту” за вођење превара на индустријском нивоу. Софтвер користи ChatGPT и Џемини за генерисање аутоматских одговора, покретање четботова за играње улога, које преваранти користе за развијање уверљивих ликова, као и за превођење у реалном времену на више од сто језика.

Али технологија иде и даље. Ове платформе су заправо софистицирани системи за управљање односима са клијентима (CRM), прилагођени за управљање жртвама.

Преваранти могу да прате стотине „свиња” истовремено, бележећи личне податке, пратећи ниво поверења и бележећи колико је новца извучено од сваког од њих. Администратори могу чак и да манипулишу оним што жртва види на лажној инвестиционој платформи, приказујући измишљене добитке како би је подстакли на даља улагања.

Анализа блокчејна, коју је за АП урадила компанија ТРМ Лабс, показала је да су преваранти који су користили ове алате зарадили десетине милиона долара.

Криминалне групе користе и вештачку интелигенцију за креирање уверљивих лажних профила, користећи ВИ генераторе слика за стварање фотографија које не постоје у стварности.

Најновији тренд је употреба ВИ „face-changing” софтвера, односно дипфејк технологије, која омогућава преваранту да током видео-позива у реалном времену прикаже лице друге особе, чиме се отклања и последња сумња жртве.

За оне који су присиљени да раде у овим фабрикама превара, одбијање или неуспех нису опција. Куриманил, који није био вешт у превари, био је брутално пребијан.

Скривена инфраструктура: од сервера до сателита

Софистицирана, глобална интернет инфраструктура подржава економију преварантских центара у Мјанмару, која се ослања на услуге компанија као што су Коџент Комуникејшенс (Cogent Communications), АТ&Т, ДиџиталОушен (DigitalOcean) и Оракл (Oracle).

Анализа више од 200.000 конекција уређаја у четири центра за преваре у Мјанмару, спроведена за АП, показала је да је сваки пети сигнал преносила компанија регистрована у САД. Ови центри су често смештени у удаљеним, слабо контролисаним подручјима дуж границе са Тајландом, где владавина права практично не постоји, а локалне милиције пружају заштиту криминалним синдикатима у замену за део профита.

Посебно се истиче Старлинк, сателитска интернет компанија Илона Маска, која је постала провајдер број један у Мјанмару, укључујући и центре за преваре. У земљи разореној грађанским ратом, где влада често искључује земаљске интернет везе како би сузбила отпор, Старлинк је постао спас за школе, болнице и хуманитарне групе.

Ипак, одаци показују да преваранти чине несразмерно велики део његове корисничке базе. Сателитски интернет им омогућава да заобиђу локалне рестрикције и наставе са радом чак и када им власти пресеку земаљске везе. Стабилна и брза веза је кључна за 24-часовни рад ових центара, који функционишу као глобални позивни центри, само са далеко мрачнијом сврхом.

Како да се стане на пут злоупотреби

Стручњаци за сајбер безбедност кажу да би интернет провајдери, компаније за вештачку интелигенцију и Старлинк могли да ураде више како би спречили злоупотребу од стране превараната – али им недостају законски, регулаторни и пословни подстицаји.
У међувремену, у Вашингтону, законодавци и владини званичници траже од америчких технолошких компанија да сарађују како би преваранте одвојили од америчке инфраструктуре, али на добровољној основи.

У новембру, америчка тужитељка округа Колумбија, Жанин Пиро, основала је Ударну групу за центар преваре како би циљала на преварантске комплексе.

У четвородневној вежби у мају, Ударна група је сарађивала са компанијама Мета, СпејсИкс, Гугл и другима како би пореметила више од 1,4 милиона налога на друштвеним мрежама и имејл налога, прекинула саобраћај злонамерних ИП адреса, запленила сателитске интернет терминале и деактивирала сервере и хостинг инфраструктуру повезану са преварантским мрежама југоисточне Азије.

„Нећемо дозволити криминалним организацијама да наоружају нашу сопствену инфраструктуру против нас или да униште животне уштеђевине вредних породица“, рекла је Пиро у имејлу за АП.

ОпенАИ и Гугл су саопштили да имају робусне програме за проактивно спречавање превараната да злоупотребљавају њихове алате. Старлинк није одговорио Еј-Би-Сију на детаљне захтеве за коментар.

Провајдери интернет услуга су нагласили да не могу да виде садржај који њихове мреже преносе или шта крајњи корисници раде на мрежи – приватност по дизајну ограничава њихову могућност праћења злоупотребе.

Сви су рекли да су одговорили на валидне пријаве злоупотребе и сарађивали са органима реда. Нико није желео да открије конкретне информације о клијентима, позивајући се на правила приватности, али неколико њих је рекло да су предузели конкретне мере као одговор на извештаје АП-а.

ОпенАИ је саопштио да је на основу информација које је АП поделио идентификовао и забранио три налога који су користили њихове моделе за подршку онлајн преварама. Оракл је саопштио да „марљиво сарађује са органима реда“ на материјалу који је поделио АП. 

Извршни директор ОпенАИја, Сем Алтман, упоредио је вештачку интелигенцију са комуналним предузећем, сличним електричној енергији или води. Али за разлику од водоводних предузећа, технолошке и телекомуникационе компаније у Сједињеним Државама генерално нису одговорне за проактивно обезбеђивање безбедности садржаја који преносе.

Неки људи верују да би требало да се промене.

„Ово мора бити као чиста вода“, рекао је Метју Мојнахан, извршни директор компаније GetReal Security, фирмe за сајбер безбедност. „Све што излази из славине за крајњег корисника, било да је та славина рачунар, прегледач или ваш мобилни телефон, прљава вода не би требало да дође до вас. А ово је управо то – прљава водa.“

Употреба вештачке интелигенције у преварама толико брзо експлодира да се многи у заједници сајбер безбедности плаше да ће потпуно аутоматизоване преваре које воде агенти ВИ ускоро постати уобичајене.

„Крећемо се ка свету у коме вам можда више не требају људи“, наглашава Ари Редборд, глобални шеф политике у ТРМ Лабсу, фирме за криптоаналитику. „Све што вам треба су стотине, хиљаде, милиони агената који не морају да спавају, не морају да једу, који ово раде 24/7.”