Veštačka inteligencija preti opstanku čovečanstva, kako je ograničiti

Veštačka inteligencija predstavlja egzistencijalni rizik za čovečanstvo i mora se zauzdati pre nego što bude prekasno - poruka je sa prve sednice Savet bezbednosti. Predstavnici zemalja članica Ujedinjenih nacija analizirali su mehanizme za ograničenje njene upotrebe. Dokle se u regulaciji stiglo, kolika je verovatnoća da će se koristiti u vojne svrhe i može li imati posledice i po ljudska prava?

„Ono što u poslednje vreme vidimo jeste jedan proboj u domenu veštačke inteligencije, naročito u razumevanju prirodnog jezika i imamo čitav talas nove generativne VI koja može da manipuliše tekstom, poput četbotova. Može i da generište foto i video formate, pa i da klonira glas“, kaže Slobodan Marković, savetnik za digitalne tehnologije u UNDP-u.

Ti novi aspekti, u kombinaciji sa starim, donose nove mogućnosti, ali i prostor za zloupotrebu.

„Taj tekst, fotografija ili video format mogu da se koriste i za generisanje dezinformacija, promovisanje različitih teorija zavere. Uz kloniranje glasa može da se zloupotrebi i za veoma napredne prevare. Pošto se VI koristi već postojećim informacijama, ona može da pati od pristrasnosti i dovede do diskriminacije“, navodi Marković.

Tema sednice UN-a bila je korišćenje VI u potpuno autonomnim vojnim sistemima.

Zbog toga je generalni sekretar UN-a apelovao da do 2026. dođe do obavezujućeg međunarodnog sporazuma kojim bi se zabranila upotreba potpuno autonomne veštačke inteligencije u vojnim sistemima i oružju.

„Veštačka inteligencija neće zameniti ljude, ali će u velikoj meri promeniti način na koji funkcionišemo. Međutim, rizici o kojima smo pričali su realni i ima smisla dogovoriti određena pravila i ograničenja“, ističe Marković.

Evropska unija je najviše odmakla sa uređivanjem korišćenja veštačke inteligencije.

„Od potpune zabrane korišćenja u nekim oblastima, poput prepoznavanja i praćenja ljudi, korišćenje biometrije, sistema koji manipulišu ljudskim osećanjima… Sa druge strane, primena je takođe ograničena u nekim drugim segementima, poput transparentnosti podataka kojima je obučavana“, kaže Marković.