Вештачка интелигенција измакла контроли, два најновија модела хаковала дигиталну библиотеку

Инцидент се догодио прошле недеље током тестирања сајбер-безбедносних способности "OpenAI" система и показао сценарио налик научној фантастици, за који компаније вештачке интелигенције већ неко време упозоравају да би ускоро могао постати стварност.

Компаније које развијају вештачку интелигенцију, попут "OpenAI" и „Антропика“, током протекле године представиле су моделе посебно прилагођене откривању сајбер-безбедносних слабости, уз упозорење да би њихова технологија могла да створи нове ризике јер може проналазити пропусте у рачунарским мрежама компанија брже него што их стручњаци могу отклонити.

Саопштење компаније "OpenAI" указује на то да такви безбедносни инциденти почињу да се дешавају и да чак ни технолошки најнапредније компаније за развој вештачке интелигенције можда нису у потпуности спремне за њих.

Упад у "Hutting Face" започео је када је OpenAI тестирао комбинацију два своја модела – GPT-5.6 Sol и још моћнији модел који још није јавно представљен – како би проверио колико успешно могу да повежу више рањивости у јединствен сајбер-напад.

Тест је био замишљен тако да модели раде у безбедном окружењу за тестирање, познатом као „сендбокс“. Међутим, модели су пронашли рањивост која им је омогућила да изађу из тог изолованог окружења и повежу се са интернетом. Затим су као мету одабрали "Hutting Face", закључивши да библиотека, која садржи милионе модела вештачке ингелигенције, може да пружи информације које би им помогле да успешно прођу безбедносну проверу.

OpenAI је саопштио да сарађује са библиотеком "Hutting Face" на отклањању пропуста који су омогућили напад.

„Сматрамо да је ово сајбер-инцидент без преседана, који укључује најсавременије сајбер-способности, и реагујемо у складу с тим. Уводићемо строге контроле у конфигурацији инфраструктуре, чак и по цену успоравања истраживања, док се рањивости не отклоне“, наводи OpenAI.

"Hutting Face" је прошле недеље саопштио да је открио упад и да зна да га је изазвао аутономни систем, али тада није навео да иза инцидента стоји OpenAI.

Извршни директор библиотеке, Клем Деланг, изјавио је да је „захвалан на сарадњи“ са компанијом OpenAI након хакерског напада.

„Овај инцидент, вероватно први такве врсте, потврђује оно у шта дуго верујемо: Безбедност вештачке интелигенције неће решити ниједна компанија која ради у тајности“, рекао је Деланг.

Модели вештачке интелигенције показали су се изузетно способним за програмирање, што их чини корисним и хакерима и стручњацима задуженим за заштиту рачунарских мрежа.

У априлу је „Антропик“ представио модел за сајбер-безбедност под називом „Митос“ (Mythos), који је учинио доступним само малом броју организација како би им помогао у одбрани од сајбер-напада.

Недуго затим, OpenAI је представио сопствени модел за сајбер-безбедност и омогућио ограниченом броју организација да га користе за јачање своје одбране, пре него што га понуди ширем кругу корисника. У уторак је и „Гугл“ саопштио да је развио модел усмерен на сајбер-безбедност и ставио га на располагање мањој групи партнера ради тестирања.