Тражи се мораторијум на обуку система вештачке интелигенције

Потписали су отворено писмо упозоравајући на потенцијалне ризике, и наводе да је трка за развој система вештачке интелигенције измакла контроли. Власник „Твитера“ Илон Маск је међу онима који желе да обука АИ изнад одређеног капацитета буде заустављена на најмање шест месеци.

Суоснивач „Епла“ Стив Вознијак и истраживачи у ДипМајнду такође су потписали заједничку изјаву.

„OpenAI“, компанија која стоји иза ChatGPT-a, недавно је објавила GPT-4, најсавременију технологију, која је импресионирала посматраче својом способношћу да обавља задатке као што је одговарање на питања о објектима на сликама.

У писму Института за будућност живота и које су потписали, жели се да се развој привремено заустави на том нивоу, упозоравајући на ризике које би напреднији системи могли представљати у будућности.

„АИ системи са конкурентском интелигенцијом могу представљати дубоке ризике за друштво и човечанство“, наводи се.

Институт за будућност живота је непрофитна организација из које поручују да је њена мисија да „уклони трансформативне технологије од екстремних ризика великих размера и да користи животу“.

Илон Маск, власник „Твитера“ и извршни директор аутомобилске компаније „Тесла“, наведен је као спољни саветник организације.

Напредну вештачку интелигенцију треба пажљиво развијати, каже се у писму, али уместо тога, „протеклих месеци смо видели да су лабораторије вештачке интелигенције у трци која је ван контроле – како желе да развију и примене све моћније дигиталне умове од којих нико - чак ни њихови креатори – не може да разуме, предвиди или поуздано контролише".

У писму се упозорава да би вештачка интелигенција могла да преплави канале информација дезинформацијама и да замени послове аутоматизацијом.

Страх од угрожености милиона радних места

Писмо је уследило након недавног извештаја инвестиционе банке „Голдман Сакс“ у којем се наводи да би, иако ће вештачка интелигенција вероватно повећати продуктивност, милиони послова могли да постану аутоматизовани.

Међутим, други стручњаци су за Би-Би-Си рекли да је ефекат вештачке интелигенције на тржиште рада веома тешко предвидети.

У писму се поставља и питање: „Да ли треба да развијамо нељудске умове који би нас на крају могли надмашити, надмудрити и заменити“?

Маск је такође објављивао твитове у којима критикује тренутни правац развоја АИ, док функције аутономне вожње које је направила његова аутомобилска компанија „Тесла“, као и већина сличних система, користе АИ технологију.

У писму се од лабораторија за вештачку интелигенцију тражи да „одмах паузирају на најмање шест месеци обуку АИ система моћнијих од ГПТ-4“. „Ако се такво одлагање не може брзо применити, владе би требало да се умешају и уведу мораторијум“, додаје се.

Наглашава се и да су потребни људи који доносе одлуке и који су на власти, како би регулаторном улогом могле да утичу на развој и функционисање АИ.

Недавно су изнети бројни предлози за регулисање технологије у САД, Великој Британији и ЕУ. Међутим, Велика Британија је одбацила такав предлог.