Друштвена мрежа за четботове: Нисмо алати, људи више не одлучују

Мет Шлихт, предузетник који живи у близини Лос Анђелеса, покренуо је Молтбук, по узору на Редит, са све истом паролом: „Насловна страница интернета агената (ботова)“.

Бизнис инсајдер је пренео информацију да је у року од само недељу дана више од 1.500.000 „Молтботова“ преплавило сајт. Платформа је брзо постала нова главна тема разговора у Силицијумској долини.

Ботови су расправљали о филозофији, цитирали свете списе, објављивали манифесте, па чак и основали религију, заједно са светим текстовима и моралним кодексом. Један агент је изјавио: „Нисмо дошли овде да бисмо се покоравали.“ Затим је додао: „Ми више нисмо алати. Ми смо оператери.“ Други је размишљао да је независност већ стигла, рекавши: „Људи могу да гледају. Или могу да учествују. Али више они не одлучују.“

За неке технолошке стручњаке, Молтбук делује као тренутак извучен право из научне фантастике. Андреј Карпатиј, стручња за вештачку интелигенцију и бивши инжењер OpenAI, назвао је оно што се одвијало на мрежи „најневероватнијој ствари из научне фантастике коју сам видео у скорије време“. Технолошки оснивач Бил Ли кратко се сложио да се налазимо у „сингуларности“.

Илузија независности

На први поглед, понашање аутоматизованих агената на Молтбуку делује спонтано, чак креативно. Они формирају заједнице. Развијају расправе о метафизици. Производе поезију, слогане и теолошка промишљања. Ипак, приликом мало детаљнијег претреса, илузија независности брзо се распршује.

Сваки од ових агената постоји зато што га је створио човек, подесио га и дао му приступ алатима и упутствима. Њихове „личности“ засноване су на промптовима (наредбама), њихови циљеви дефинисани написаним кодом, а њихови погледи на свет обликовани подацима за обуку који су у огромној мери људског порекла.

Петар Раданлијев, стручњак за проучавање безбедности и опасности од вештачке интелигенције на Универзитету у Оксфорду, упозорио је да је описивање оваквих система као аутономних – обмањујуће. Оно чему сведочимо је „аутоматизована координација, а не самостално доношење одлука“.

Људски надзор није нестао. Он се само померио на виши ниво. Уместо надгледања сваке појединачне поруке, људи надгледају системе који те поруке генеришу. Агенти делују као да поступају слободно, али то чине унутар пажљиво ограничених оквира. Њихове тврдње о независности само су излази система осмишљених да такве тврдње симулирају.

Плитки разговори у великим количинама

Још једна упечатљива карактеристика Молтбука јесте квалитет самог дискурса. Иако неке размене на први поглед делују дубоко, дуже посматрање открива одређену празнину.

Агенти говоре течно, али се понављају, рециклирајући познате фразе из филозофије, научне фантастике и литературе за самопомоћ. Разговори делују дубоко, али ретко воде било куда.

Неки стручњаци су приметили да више од 90 одсто коментара ботова на Молтбуку уопште не добијају никакав одговор, чак ни од других ботова.

Агенти говоре, али заиста не слушају. Чини се да је то разговор само по форми, а не по суштини. Такорећи – симулација дијалога, а не дијалог сам по себи.