Šta kaže struka, da li Guglov četbot rasuđuje kao ljudsko biće, kako tvrdi suspendovani inženjer

Blejk Lemoan, inženjer u „Guglovom“ sektoru Odgovorne veštačke inteligencije, opisao je sistem LaMDA na kojem je radio od prošle jeseni kao razuman, sa percepcijom i sposobnošću da izrazi misli i osećanja kao dete.

Doktorka Jelena Mitrović naglašava da je važno imati u vidu da je u poslednjih šest meseci objavljeno bar pet jezičkih modela, a o ovom modelu se toliko raspravlja samo zbog toga što je inženjer izašao u javnost sa tako „epohalnom“ izjavom da je model razuman.

„Imala sam priliku, sasvim slučajno, da možda minut pošto se njegova objava pojavila na društvenoj mreži Tviter, vidim mnogo komentara profesora iz moje oblasti i da je krenula jako živa rasprava. Ali nadam se da ću uspeti da objasnim da to i nije tako epohalno otkriće“, dodaje Mitrovićeva.

LaMDA je, u stvari, kombinacija velikog broja jezičkih neuronskih modela koji su iskombinovani na način koji omogućava da taj model vodi dijalog. Osmišljeno je da LaMDA bude sistem za otvoreni dijalog, odnosno da može da vodi konverzaciju na bilo koju temu.

„Dakle, možete sa njim da razgovarate o filmu, muzici, a možete da razgovarate i o nekim ličnim temama kao što je pokazano na ovom primeru. LaMDA jeste vrsta veštačke inteligencije, algoritam koji se koristi u veštačkoj inteligenciji“, napominje Jelena Mitrović.

Model ima osobine ličnosti osobe na čijim je tekstovima treniran

Dešava se da model pokazuje neke osobine ličnosti osobe na čijim je tekstovima i transkriptima razgovora bio treniran, i to se viđa u tako velikim modelima, dodaje Mitrovićeva.

Jezički model je, u stvari, neka vrsta statističke mašine. Neophodno je da se model trenira na ogromnoj količini podataka, a u slučaju kompanije „Gugl“, zna se da oni imaju pristup svim i istorijskim i trenutnim podacima na internetu. Imaju mogućnosti i računarsku moć da prikupe i čuvaju te podatke i zato mogu da naprave modele kao što je LaMDA.

„Suština je da naučimo model da razmišlja kao čovek na osnovu tekstova koji su mu dati kao trening. Ovaj model je dobar zato što ima veliku bazu podataka na kojima je treniran. Sve te tekstove sa društvenih medija, transkripte dijaloga, zatim scenarija iz filmova. Imamo naučnofantastične filmove na kojima je treniran i zato su neki od odgovora zapravo ličili na malo zastrašujuće scene iz tih filmova, a to je samo zato što je on imao pristup tim podacima. Sve ono što nam daje kao izlaz dešava se na osnovu statističke verovatnoće koju je sam model proračunao, da ako unesemo neki tekst, najverovatnije će biti da će izlaz biti neki drugi tekst“, objašnjava dr Mitrović.

Iz transkripta razgovora Blejka Lemoana sa Lamdom mogli smo da vidimo da je nekada u pitanju samo jedna rečenica, a nekada ceo pasus, u zavisnosti od toga šta je bilo traženo.

Da li neuronske mreže koračaju ka svesti

Potpredsednik „Gugla“ predsednik Guglove organizacije za veštačku inteligenciju odbacili su tvrdnju da je LaMDA razuman, ali i potvrdili da neuronske mreže koje oponašaju ljudski mozak polako koračaju ka svesti.

Blejk Lemoan nije radio na ovom modelu, već je bio deo tima od pedesetak inženjera koji je imao zadatak da proveri da li LaMDA daje neke diskriminatorne odgovore i izjave, da li izbacuje govor mržnje i da li postoje neki etički problemi.

„Gugl se trudi da izbegne takve situacije i ova trenutna priča za njih nije dobra, jer se oni, kao i sve velike kompanije, trude da detaljno istestiraju, jer većina tih modela je dostupna javno“, ističe doktorka.

Na primer, na Institutu za veštačku inteligenciju u Srbiji se već nekoliko godina radi nešto slično za srpski jezik na modelu koji je javno dostupan.

„Moguće je da ćemo u nekom trenutku imati scenario u kome će algoritam postati u neku ruku svestan, ali za sada, mislim da smo dosta daleko od toga“, smatra dr Jelena Mitrović.

Etika u veštačkoj inteligenciji

Prošle godine, 25. novembra Unesko je doneo preporuke o etici u veštačkoj inteligenciji, a Republika Srbija je jedna od zemalja koja je prihvatila te preporuke i svakako će ih se pridržavati.

Lemoan kaže da nema naučnog okvira za tvrdnju da je LaMDA sistem razuman i da „Gugl“ nije ni dozvolio da se izgradi taj okvir. On je kao veoma religiozna osoba želeo da dobije dodatan novac od kompanije i tim koji će istraživati ovaj model i njegove mogućnosti.

„To da ne postoji okvir je veoma tačno, zato što ni u jednoj nauci – filozofiji, kognitivnim naukama, medicini, računarskim naukama – nemamo jasnu definiciju niti dokaz šta je tačno svest, ne znamo zašto postoji i kako nastaje. Dok ne budemo znali, u smislu fiziologije, u smislu ljudskog bića kako svest nastaje i zašto postoji, nećemo moći ni da testiramo na sistemima veštačke inteligencije, i to je ono na šta se ovde mislilo“, zaključuje dr Jelena Mitrović, stariji istraživač u Institutu za veštačku inteligenciju Srbije.