Емоционална веза, четбот и вештачка интелигенција – доста разлога за бригу

OpenAI је објавио да је забринут да би људи могли почети превише да се ослањају на ChatGPT за дружење, што би потенцијално могло да доведе до „зависности“, због његовог новог гласа који делује исувише "људски".

У новом извештају OpenAI о безбедносном прегледу алата, који је почео да се примењује за плаћене кориснике прошле недеље, и великог језичког ВИ модела на коме ради, поменут је и проблем емоционалног везивања.

Напредни гласовни режим ChatGPT-а звучи невероватно реалистично. Реагује у реалном времену, може да се прилагоди да буде прекинут, прави звукове које људи праве током разговора као што су смех или „хмм“. Такође може да процени емоционално стање говорника на основу његовог тона гласа.

У року од неколико минута након што је OpenAI најавио нову функцију на догађају раније ове године, упоређиван је са ВИ дигиталним асистентом у филму Она из 2013. у коју се протагониста заљубљује, и остаје сломљеног срца.

Сада, OpenAI је очигледно забринут да је нешто то је измишљена прича превише близу да постане стварност, након што из компаније кажу да је код корисника примећено како разговарају са ChatGPT-овим гласовним режимом на језику који „изражава заједничке везе“.

На крају, „корисници би могли да формирају друштвене односе са вештачком интелигенцијом, смањујући њихову потребу за људском интеракцијом – што може бити од користи усамљеним појединцима, али може утицати на здраве односе“, наводи се у извештају.

Додаје се да би слушање информација од бота који звучи као човек могло навести кориснике да верују алату више него што би требало, с обзиром на склоност ВИ да погреши.

Извештај наглашава велики ризик у вези са вештачком интелигенцијом: технолошке компаније се утркују да брзо уведу у алате вештачке интелигенције за које кажу да би могли да промене начин на који живимо, радимо, дружимо се и проналазимо информације. Али, они то раде пре него што ико заиста схвати које су ту импликације могуће. Као и код многих технолошких напретка, компаније често имају једну идеју о томе како њихови алати могу и треба да се користе, али корисници долазе до читавог низа других потенцијалних примена, често са нежељеним последицама.

Неки људи већ формирају оно што описују као романтичне везе са АИ четботовима, што изазива забринутост стручњака за социјалне односе.

„Велика је одговорност на компанијама да заиста воде поасо на етички и одговоран начин, а све је тренутно у фази експериментисања. Забринута сам за људе који стварају заиста дубоке везе са технологијом која можда неће постојати на дужи рок и која се стално развија и мења",рекла је Лајзел Шараби, професорка Универзитета у Аризони која проучава технологију и људску комуникацију. 

OpenAI наводи да интеракције људских корисника са гласовним режимом ChatGPT-а такође могу временом утицати на оно што се сматра нормалним у друштвеним интеракцијама.

За сада, из OpenAI наводе да су посвећени изградњи АИ на „безбедан начин“ и да планирају да наставе да проучавају потенцијал „емоционалног ослањања“ корисника на његове алате.