Emocionalna veza, četbot i veštačka inteligencija – dosta razloga za brigu

OpenAI je objavio da je zabrinut da bi ljudi mogli početi previše da se oslanjaju na ChatGPT za druženje, što bi potencijalno moglo da dovede do „zavisnosti“, zbog njegovog novog glasa koji deluje isuviše "ljudski".

U novom izveštaju OpenAI o bezbednosnom pregledu alata, koji je počeo da se primenjuje za plaćene korisnike prošle nedelje, i velikog jezičkog VI modela na kome radi, pomenut je i problem emocionalnog vezivanja.

Napredni glasovni režim ChatGPT-a zvuči neverovatno realistično. Reaguje u realnom vremenu, može da se prilagodi da bude prekinut, pravi zvukove koje ljudi prave tokom razgovora kao što su smeh ili „hmm“. Takođe može da proceni emocionalno stanje govornika na osnovu njegovog tona glasa.

U roku od nekoliko minuta nakon što je OpenAI najavio novu funkciju na događaju ranije ove godine, upoređivan je sa VI digitalnim asistentom u filmu Ona iz 2013. u koju se protagonista zaljubljuje, i ostaje slomljenog srca.

Sada, OpenAI je očigledno zabrinut da je nešto to je izmišljena priča previše blizu da postane stvarnost, nakon što iz kompanije kažu da je kod korisnika primećeno kako razgovaraju sa ChatGPT-ovim glasovnim režimom na jeziku koji „izražava zajedničke veze“.

Na kraju, „korisnici bi mogli da formiraju društvene odnose sa veštačkom inteligencijom, smanjujući njihovu potrebu za ljudskom interakcijom – što može biti od koristi usamljenim pojedincima, ali može uticati na zdrave odnose“, navodi se u izveštaju.

Dodaje se da bi slušanje informacija od bota koji zvuči kao čovek moglo navesti korisnike da veruju alatu više nego što bi trebalo, s obzirom na sklonost VI da pogreši.

Izveštaj naglašava veliki rizik u vezi sa veštačkom inteligencijom: tehnološke kompanije se utrkuju da brzo uvedu u alate veštačke inteligencije za koje kažu da bi mogli da promene način na koji živimo, radimo, družimo se i pronalazimo informacije. Ali, oni to rade pre nego što iko zaista shvati koje su tu implikacije moguće. Kao i kod mnogih tehnoloških napretka, kompanije često imaju jednu ideju o tome kako njihovi alati mogu i treba da se koriste, ali korisnici dolaze do čitavog niza drugih potencijalnih primena, često sa neželjenim posledicama.

Neki ljudi već formiraju ono što opisuju kao romantične veze sa AI četbotovima, što izaziva zabrinutost stručnjaka za socijalne odnose.

„Velika je odgovornost na kompanijama da zaista vode poaso na etički i odgovoran način, a sve je trenutno u fazi eksperimentisanja. Zabrinuta sam za ljude koji stvaraju zaista duboke veze sa tehnologijom koja možda neće postojati na duži rok i koja se stalno razvija i menja",rekla je Lajzel Šarabi, profesorka Univerziteta u Arizoni koja proučava tehnologiju i ljudsku komunikaciju. 

OpenAI navodi da interakcije ljudskih korisnika sa glasovnim režimom ChatGPT-a takođe mogu vremenom uticati na ono što se smatra normalnim u društvenim interakcijama.

Za sada, iz OpenAI navode da su posvećeni izgradnji AI na „bezbedan način“ i da planiraju da nastave da proučavaju potencijal „emocionalnog oslanjanja“ korisnika na njegove alate.