Чет-бот писао говор посланику: Вештачка интелигенција може да се употреби за масовно уништење

Посланик у аустралијском парламенту Џулијан Хил позвао је са говорнице на истрагу о ризицима и предностима вештачке интелигенције.

Хил је у јутрошњем говору упозорио да би употреба вештачке интелигенције могла довести до губитка послова, да студенти и ђаци варају, као и дискриминације, дезинформација, па и неконтролисаних војних активности.

Посланик је при састављању свог говора користио упутства које му је дао ChatGPT, чет-бот који је направио пометњу у научним круговима, али и у заједницама аутора било каквог садржаја.

Од вештачке интелигенције, Хил је тражио да „резимира недавне медијске извештаје о ученицима који користе вештачку интелигенцију у Аустралији да варају и објасни зашто су наставници забринути због овога“ и да „објасни у два минута ризике и користи за Аустралију од вештачке интелигенције“ и да од тога направи делове говора.

Како расте употреба софтвера за вештачку интелигенцију заснованог на тексту, Нови Јужни Велс и Квинсленд су забранили његову употребу у школама.

„Технологија вештачке интелигенције, попут паметног софтвера који може да пише есеје и генерише одговоре на питања, постаје приступачнија ученицима, омогућавајући им да заврше задатке и тестове без стварног разумевања материјала. То изазива забринутост код наставника због утицаја на интегритет образовног система“, рекао је Хил.

„ChatGPT је ово написао“ 

Такође, Хил је указао на то да би ученици могли да „ефикасно заобиђу образовни процес и стекну неправедну предност“, док наставници нису у могућности да „идентификују и спрече варање“ пре него што је признао да оно што говори није сам написао.

„У ствари, ниједан човек то није написао. Велики језички модел ChatGPT је то написао“, рекао је Хил пред Парламентом.

У другом сегменту говора који је написао чет-бот, Хил је скренуо пажњу на „опасност од губитка радних места“, као и да би вештачка интелигенција „могла да продуби постојеће предрасуде и дискриминацију“ и да би „могла да се користи у злонамерне сврхе, као што су сајбер напади и кампање дезинформисања“.

Употреба модела ChatGPT има и предности, као што је „потенцијал вештачке интелигенције да доведе до револуционарног развоја многих индустрија, укључујући здравствену заштиту, транспорт и финансије повећањем ефикасности, смањењем трошкова и побољшањем доношења одлука“.

Џулијан Хил, најактивнији аустралијски политичар на друштвеној мрежи Тик-ток, написао је сам део говора у којем је истакао да вештачка интелигенција може донети ризике који би по друштво и човека били разарајући, катастрофални и егзистенцијални.

„(Вештачка интелигенција) има потенцијал да унапреди наш свет на начине које још не можемо да замислимо, али ако она надмаши људску интелигенцију, могла би нанети значајну штету човечанству ако њени циљеви и мотивације нису усклађени са нашим“, нагласио је Хил.

Ако људи успеју да успоставе контролу над вештачком интелигенцијом пре „експлозије интелигенције“, објашњава Хил, то би могло да трансформише науку, привреду, нашу околину и друштво напретком у свим областима људских настојања.

„Међутим, оно што све више забрињава људе далеко паметније од мене је мала вероватноћа да ће људи моћи да контролишу вештачку интелигенцију или, пак, да злонамерни актер искористи вештачку интелигенцију за масовно уништење“, поручује посланик.

Вештачка интелигенција на листи ризика по човечанство 

Хил је рекао да научници који процењују ризике „све чешће“ рангирају вештачку интелигенцију испред астероида, климатских промена, супервулкана, нуклеарне експлозије у атмосфери Сунца (Сунчеве бакље) или пандемија високе смртности“.

Вештачка интелигенција има потенцијал да „трансформише ратове какаве му знамо", са „озбиљним“ импликацијама по националну безбедност, оценио је Хил додајући да уколико вештачка надмаши људску интелигенцију, то би могло представљати претњу војсци и учинити да тренутне одбрамбене способности буду застареле.

Хил је напоменуо да „баш као што је свет – коначно и са закашњењем – почео да делује колективно у вези са климатским променама, ми морамо да заједно и хитно усвојимо заједнички акт о вештачкој интелигенцији“.

„Многи мисле да су изазови колективног деловања на вештачку интелигенцију међу земљама упоредиви са вишедеценијским напорима против ширења нуклеарног наоружавања или међународним споразумима о клими. Дакле, морамо почети сада“, подвукао је аустралијски политичар.

Хил је позвао на „усклађено, озбиљно, хитно размишљање о регулацији“ почевши од 2023. године.

Професор Стјуарт Расел, оснивач америчког Центра за вештачку интелигенцију компатибилну са људима на Универзитету у Калифорнији, рекао је 2021. године да су стручњаци „престрашени“ напретком вештачке интелигенције, упоређујући то са развојем атомске бомбе, те је позвао на увођење регулативе.

Оснивач „Тесле“ Илон Маск позвао је још 2014. на регулацију у области вештачке интелигенције, упозоравајући да је сматра најозбиљнијом претњом опстанку људске расе.