Пет главних сценарија како би ВИ могла да убије све људе

Недавно је истраживач вештачке интелигенције Џејкоб Коксон напустио је компанију „Антропик“ после само четири месеца рада. У објави на мрежи Икс навео је: „Људи који развијају вештачку интелигенцију искрено верују да би она могла све да нас убије до краја ове деценије.“

Један од водећих људи у „Антропику“, Еван Хубингер, заправо се сложио са Коксоном, додајући да лично сматра да је вероватноћа да се то догоди у наредној деценији већа од 10 одсто.

Разумљиво, ове изјаве изазвале су велику пажњу. Сада се много говори о успоравању истраживања вештачке интелигенције и повећању „људске контроле“ над том технологијом.

Али како би тачно вештачка интелигенција могла све да нас убије? Не мањка фантастичних сценарија, а већина њих подразумева концепт „суперинтелигентне“ ВИ – односно вештачке интелигенције способније од људи.

Професор Тоби Волш, аутор књиге Божја вештачка интелигенција: бум или пропаст? Шта очекивати када нас машине надмудре, свео је те сценарије на пет главних и поређао их, отприлике, од најнеодређенијег до најконкретнијег, односно листа је поређана од најмање до највише вероватног сценарија.

1. Никада нећемо сазнати

Они који упозоравају на могућу пропаст човечанства због вештачке интелигенције често своју забринутост оправдавају помало иритантним парадоксом типа „квака 22“: како уопште можемо да замислимо шта би суперинтелигенција могла да уради како би елиминисала мање интелигентна бића попут нас?

Морали бисмо и сами да будемо суперинтелигентни да бисмо могли да предвидимо за шта би суперинтелигенција била способна. То је као да од свог пса тражите да замисли термонуклеарни рат.

Добра вест је да је суперинтелигенција вероватно још прилично далеко. Садашњи модели вештачке интелигенције веома су добри у решавању одређених проблема, али то није исто што и бити интелигентнији од човека у свим областима.

Међутим, ВИ је недавно решила један од седам најтежих познатих математичких проблема. По свему судећи, приближава се решењу и других, што би могло да умањи оптимизам у вези са овим питањем.

2. Спајалице

Суперинтелигентна ВИ вероватно би била изузетно способна да остварује своје циљеве. Али могла би да буде потпуно равнодушна према опстанку човечанства.

Класичан пример такве равнодушности потиче од оксфордског филозофа Ника Бострома, који је замислио суперинтелигентну ВИ направљену тако да оптимизује производњу спајалица. Да би произвела што више тог канцеларијског материјала, она брзо претвара сву расположиву материју – укључујући људе, планете и звезде – у спајалице.

Овде имамо савршено извршење погрешно дефинисаних циљева. Вештачка интелигенција не мрзи човечанство; она једноставно препознаје да смо сачињени од атома који би могли боље да се искористе за прављење спајалица. Ништа лично.

Добра вест је да се у овом сценарију интелигенција меша са моћи. Суперинтелигентна ВИ не мора нужно да има моћ да оствари своје циљеве. Претварање планете у фабрике спајалица захтевало би грађевинске дозволе.

Чак и када би добила те дозволе, изградња превеликог броја фабрика спајалица неизбежно би изазвала негодовање јавности. Интересне групе покушале би да зауставе поступак пред судовима. Еколошки активисти блокирали би булдожере.

У свету постоји много препрека које чак и веома интелигентне спречавају да наметну своју вољу свима осталима. Заправо, данашњи дата-центри могли би се посматрати као својеврсно оличење теоријског сценарија са спајалицама. А људи се све више противе претварању планете у простор за дата-центре.

3. Биолошко оружје

Човечанство би могла да уништи суперинтелигентна ВИ тако што би направила и у атмосферу пустила неко ново, опасно биолошко оружје. То је, заправо, један од исхода сценарија „ВИ 2027“, који је израдио непрофитни пројекат AI Futures Project, посвећен предвиђању утицаја напредне вештачке интелигенције.

Тај ризик је прошлог месеца постао конкретнији, када су истраживачи Универзитета Станфорд објавили да су помоћу генетичког језичког модела ВИ синтетисали 16 нових вируса.

Забрињавајуће је што су генетске секвенце једноставно послали лабораторији која ради по наруџбини, а она им је вирусе послала назад у епруветама. Цео експеримент коштао је највише неколико стотина хиљада долара.

Добра вест је да је изузетно тешко убити баш све људе новим вирусом. За то је потребан вирус који се веома лако преноси како би се проширио што даље. Али једно од правила биологије јесте да су вируси који се лако шире обично мање смртоносни. Насупрот томе, ако је вирус веома смртоносан, његова преносивост обично опада, јер многи заражени умру пре него што стигну да пренесу инфекцију.

Ковид је усмртио мање од један одсто човечанства. Најсмртоноснија пандемија у забележеној историји била је Црна смрт, када је куга усмртила више од трећине становништва Европе у 13. веку. Међутим, чак би и куга данас вероватно била много мање смртоносна захваљујући већем медицинском знању и бољим санитарним условима.

4. Нуклеарни рат

Шта ако би ВИ успела да продре у ланац нуклеарног командовања и контроле и покрене нуклеарни рат? Током протеклих 50 година неколико пута смо се грешком нашли близу нуклеарног рата.

Тврди се да су системи нуклеарног командовања и контроле потпуно одвојени од интернета. Међутим, као што смо видели 2010. године, иранске нуклеарне центрифуге онеспособио је компјутерски црв Стакснет, за који се верује да је у систем унет преко УСБ меморије. Вештачка интелигенција такође може војсци да пружи лажне обавештајне податке, што би могло да доведе до неповратних потеза.

Добра вест је да су нуклеарни арсенали смањени. Али и даље их има довољно да би, можда, могли да усмрте половину човечанства.

И то не би било последица самих нуклеарних експлозија, већ глади током нуклеарне зиме која би уследила.

5. Други људи

Можда је највероватнији ризик да сами себе уништимо. А вештачка интелигенција би могла да убрза тај процес.

Замислите – а за то није потребно много маште – да ВИ доведе до масовног губитка радних места, преплави информациони простор дезинформацијама, додатно подели политичку сцену и уништи међуљудске односе лажним, синтетичким облицима дружења.

Друштво би лако могло да се уруши. Полако, али сигурно, престали бисмо да будемо способни да одржавамо људски живот у великим размерама.

Шта, дакле, можемо да закључимо из свих ових сценарија? Свакако постоје ствари због којих би требало да будемо забринути. Али вероватно не и претерано забринути.