Вештачка интелигенција прети опстанку човечанства, како је ограничити

Вештачка интелигенција представља егзистенцијални ризик за човечанство и мора се зауздати пре него што буде прекасно - порука је са прве седнице Савет безбедности. Представници земаља чланица Уједињених нација анализирали су механизме за ограничење њене употребе. Докле се у регулацији стигло, колика је вероватноћа да ће се користити у војне сврхе и може ли имати последице и по људска права?

„Оно што у последње време видимо јесте један пробој у домену вештачке интелигенције, нарочито у разумевању природног језика и имамо читав талас нове генеративне ВИ која може да манипулише текстом, попут четботова. Може и да генериште фото и видео формате, па и да клонира глас“, каже Слободан Марковић, саветник за дигиталне технологије у УНДП-у.

Ти нови аспекти, у комбинацији са старим, доносе нове могућности, али и простор за злоупотребу.

„Тај текст, фотографија или видео формат могу да се користе и за генерисање дезинформација, промовисање различитих теорија завере. Уз клонирање гласа може да се злоупотреби и за веома напредне преваре. Пошто се ВИ користи већ постојећим информацијама, она може да пати од пристрасности и доведе до дискриминације“, наводи Марковић.

Тема седнице УН-а била је коришћење ВИ у потпуно аутономним војним системима.

Због тога је генерални секретар УН-а апеловао да до 2026. дође до обавезујућег међународног споразума којим би се забранила употреба потпуно аутономне вештачке интелигенције у војним системима и оружју.

„Вештачка интелигенција неће заменити људе, али ће у великој мери променити начин на који функционишемо. Међутим, ризици о којима смо причали су реални и има смисла договорити одређена правила и ограничења“, истиче Марковић.

Европска унија је највише одмакла са уређивањем коришћења вештачке интелигенције.

„Од потпуне забране коришћења у неким областима, попут препознавања и праћења људи, коришћење биометрије, система који манипулишу људским осећањима… Са друге стране, примена је такође ограничена у неким другим сегементима, попут транспарентности података којима је обучавана“, каже Марковић.