Da li će internet u narednim decenijama postati beskonačna i beskorisna biblioteka

U svom romanu Jesen iz 2019. godine, pisac naučne fantastike Nil Stivenson zamislio je blisku budućnost u kojoj internet još uvek postoji. Ali postao je toliko zagađena pogrešnim informacijama, dezinformacijama i reklamama da je u velikoj meri neupotrebljiv.

Likovi u Stivensonovom romanu ovaj problem rešavaju tako što se pretplate na „uredničke strimove“ – vesti i informacije koje je izabrao čovek i koje se mogu smatrati pouzdanim. Problem je u tome što samo bogati sebi mogu da priušte takve usluge, ostavljajući većinu čovečanstva da konzumira nekvalitetan, neproveren onlajn sadržaj.

U izvesnoj meri, ovo se već dogodilo, smatra Rodžer Kruz, profesor psihologije na Univerzitetu u Memfisu. Mnoge novinske kuće, kao što su Njujork tajms i Vol Strit džurnal, naplaćuju čitanje svog onlajn sadržaja. U međuvremenu, dezinformacije se šire na platformama društvenih medija kao što su Iks i Tik-tok.

Stivenson se istakao kao prognostičar u više navrata – predvideo je nastanak metaverzuma u svom romanu Lavina iz 1992. godina, a ključni element zapleta njegovog Dijamantskog doba (1995) je interaktivni početnik koji funkcioniše slično kao čet-bot.

Na prvi pogled, čini se da čet-botovi nude rešenje u borbi protiv epidemije dezinformacija. Objavljivanjem činjeničnog sadržaja, čet-botovi bi mogli da obezbede alternativne izvore visokokvalitetnih informacija koje ne moraju da se plate.

Ironično, međutim, rezultati ovih čet-botova mogu predstavljati najveću opasnost za budućnost veba – onu koju je decenijama ranije nagovestio argentinski pisac Horhe Luis Borhes.

Uspon čet-botova

Danas se značajan deo interneta još uvek sastoji od činjenično utemeljenog i naizgled istinitog sadržaja, kao što su članci i knjige koji su recenzirani, zasnovani na činjenicama ili na neki način provereni.

Programeri velikih jezičkih modela, ili LLM-ova (large language models) – mehanizama koji pokreću botove kao što su ChatGPT, Kopilot i Džemini – iskoristili su ovaj resurs.

Međutim, da bi ispunili svoju magiju, u ove modele moraju da se unesu ogromne količine visokokvalitetnog teksta za potrebe obuke. Ogromna količina materijala je već preuzeta iz onlajn izvora i dostavljena novim LLM-ovima.

Problem je u tome što je veb, koliko god bio ogroman, ograničen resurs. Visokokvalitetni tekstovi koji već nisisu preuzeti postaju sve veća retkost, što vodi ka onome što je Njujork tajms nazvao „početkom krize sadržaja”.

Ovo je primoralo kompanije kao što je „OpenAI“ da sklope sporazume sa izdavačima kako bi nabavili još više sirovog materijala za svoje nezasite botove. Ali prema jednom predviđanju, nedostatak dodatnih visokokvalitetnih podataka za obuku mogao bi da nastupi već 2026.godine.

Kako rezultati koje proizvode čet-botovi završavaju na mreži, ovi tekstovi druge generacije – zajedno sa izmišljenim informacijama zvanim „halucinacije“, kao i očigledne greške, kao što su predlozi da stavite lepak na vašu picu – dodatno će zagaditi veb.

A ako se čet-bot druži sa pogrešnom vrstom ljudi na mreži, može pokupiti njihove neprihvatljive stavove. „Majkrosoft“ je ovo otkrio na teži način 2016. godine, kada je morao da isključi Teja, bota koji je počeo da ponavlja rasistički i seksistički sadržaj.

Vremenom bi svi ovi problemi mogli učiniti onlajn sadržaj još manje pouzdanim i manje korisnim nego što je danas. Pored toga, LLM koji se „pune hranom sa niskim sadržajem kalorija“ mogu proizvesti još problematičnije rezultate koji takođe završavaju na vebu.

Beskonačna – i beskorisna – biblioteka

Nije teško zamisliti povratnu spregu koja rezultira kontinuiranim procesom degradacije dok se botovi hrane sopstvenim nesavršenim rezultatima.

Rad iz jula 2024. objavljen u časopisu Nejčer istraživao je posledice obuke modela veštačke inteligencije na rekurzivno generisane podatke. Pokazalo se da „nepovratni defekti“ mogu dovesti do „kolapsa modela“ za sisteme koji su obučeni na ovaj način – slično kao što će kopija slike i kopija te kopije, i kopija te kopije izgubiti vernost originalne slike.

Koliko loše ovo može da bude?

Borhesova kratka priča Vavilonska biblioteka iz 1941, pedeset godina pre nego što je kompjuterski naučnik Tim Berners-Li stvorio arhitekturu za veb, donosi analogni ekvivalent.

U svojoj priči od 3.000 reči, Horhe Luis Borhes zamišlja svet koji se sastoji od ogromnog i verovatno beskonačnog broja heksagonalnih soba. Police za knjige u svakoj prostoriji sadrže ujednačene tomove koji moraju, prema intuiciji njenih stanovnika, da sadrže svaku moguću permutaciju slova u azbuci.

U početku, ovo shvatanje izaziva radost: po definiciji, moraju postojati knjige koje detaljno opisuju budućnost čovečanstva i smisao života.

Stanovnici tragaju za takvim knjigama, da bi otkrili da ogromna većina ne sadrži ništa osim besmislenih kombinacija slova. Istina je tamo – ali i svaka zamisliva laž. I sve to je ugrađeno u nezamislivo ogromnu količinu besmislica.

Čak i posle vekova traženja, pronađeno je samo nekoliko značajnih fragmenata. Čak i tada, ne postoji način da se utvrdi da li su ovi koherentni tekstovi istina ili laž. Nada se pretvara u očaj.

Hoće li internet postati toliko zagađen da samo bogati mogu priuštiti tačne i pouzdane informacije? Ili će beskonačan broj čet-botova proizvesti toliko zagađenih reči da pronalaženje tačnih informacija na mreži postaje kao traženje igle u plastu sena?

Internet se često opisuje kao jedno od najvećih dostignuća čovečanstva. Ali kao i svaki drugi resurs, važno je ozbiljno razmisliti o tome kako se održava i kako se njime upravlja – da se ne bismo suočili sa distopijskom vizijom koju je zamislio Borhes.