Како су лопови из Лувра искористили људску психологију – и шта то открива о вештачкој интелигенцији

Све док се у Лувру није огласио аларм, посетиоци су наставили да разгледају. Обезбеђење није реаговало, а лопови су нестали у градском саобраћају пре него што је ико схватио шта се догодило.

Истражитељи су касније открили да су лопови носили светлосне прслуке, прерушени у грађевинске раднике. Стигли су камионом са дизалицом, што је уобичајен призор у уским париским улицама, и помоћу ње се успели до балкона са погледом на Сену. Обучени као радници, изгледали су као да ту припадају.

Ова стратегија је функционисала зато што свет не видимо објективно. Видимо га кроз категорије – кроз оно што очекујемо да видимо.

Лопови су разумели друштвене категорије које ми доживљавамо као „нормалне“ и искористили су их да би избегли сумњу. Многи системи вештачке интелигенције (ВИ) раде на исти начин и као резултат тога су подложни истим врстама грешака.

Социолог Ервинг Гофман би описао ово што се догодило у Лувру користећи свој концепт презентације себе: људи „обављају“ друштвене улоге усвајајући знакове које други очекују. Овде је перформанс нормалности постао савршена камуфлажа, објашњавају Винсент Чарлс предавач на Универзитету у Белфасту и Татијана Герман, професорка на Универзитету Нортамптон у чланку објављеном на порталу Конверзејшн.

Социологија перцепције

Људи стално спроводе менталну категоризацију како би разумели свет око себе. Када нешто одговара категорији „обичног“, не привлачи нашу пажњу.

Системи вештачке интелигенције који се користе за задатке као што су препознавање лица и откривање сумњивих активности у јавном простору функционишу на сличан начин. За људе, категоризација је културолошки условљена, за вештачку интелигенцију, она је математичка.

Али оба система се ослањају на научене обрасце, а не на објективну стварност. Пошто вештачка интелигенција учи из података о томе ко изгледа „нормално“, а ко „сумњиво“, она апсорбује категорије уграђене у своје податке за обуку. А то је чини подложном пристрасности.

Пљачкаши Лувра нису сматрани опасним јер се уклапају у поуздану категорију. У вештачкој интелигенцији, исти процес може имати супротан ефекат: људи који се не уклапају у статистичку норму постају видљивији и превише испитивани.

То може значити да систем за препознавање лица несразмерно означава одређене расне или родне групе као потенцијалне претње, док другима дозвољава да прођу незапажено.

ВИ учи од нас

Социолошка перспектива нам помаже да видимо да ово нису одвојена питања. Вештачка интелигенција не измишља своје категорије; она учи наше.

Када се систем рачунарског посматрања обучава на снимцима безбедносних камера где је „нормално“ дефинисано одређеним телима, одећом или понашањем, он репродукује те претпоставке.

Баш као што су чувари музеја незаинтересовано прошли поред лопова јер су им изгледали као да ту припадају, вештачка интелигенција може да гледа поред одређених образаца док претерано реагује на друге.

Категоризација, било људска или алгоритамска, је мач са две оштрице. Помаже нам да брзо обрадимо информације, али такође кодира наше културне претпоставке. И људи и машине се ослањају на препознавање образаца, што је ефикасна, али несавршена стратегија.

Социолошки поглед на вештачку интелигенцију третира алгоритме као огледала: они одражавају наше друштвене категорије и хијерархије. У случају Лувра, огледало је окренуто ка нама.

Пљачкаши су успели не зато што су били невидљиви, већ зато што су виђени кроз сочиво нормалности. У терминима вештачке интелигенције, прошли су тест класификације.

Од музејских сала до машинског учења

Ова веза између перцепције и категоризације открива нешто важно о нашем све више алгоритамском свету. Било да је у питању чувар који одлучује ко изгледа сумњиво или вештачка интелигенција која одлучује ко изгледа као „лопов у продавници“, основни процес је исти: распоређивање људи у категорије на основу знакова који делују објективно, али су културно научени.

Када се систем вештачке интелигенције опише као „пристрасан“, то често значи да превише верно одражава те друштвене категорије. Пљачка Лувра подсећа нас да ове категорије не само да обликују наше ставове, већ обликују и оно што се уопште примећује.

Након крађе, француски министар културе обећао је нове камере и јачу безбедност. Али без обзира на то колико ти системи постану напреднији, они ће се и даље ослањати на категоризацију.

Неко, или нешто, мора да одлучи шта се сматра „сумњивим понашањем“. Ако та одлука почива на претпоставкама, исте слепе тачке ће остати.

Пљачка Лувра ће се памтити као једна од најспектакуларнијих музејских крађа у Европи. Лопови су успели јер су савладали социологију изгледа: разумели су категорије нормалности и користили их као алате.

И тиме су показали како и људи и машине могу погрешно да усвоје конформизам као безбедност. Њихов успех усред бела дана није био само тријумф планирања. Био је то тријумф категоричког размишљања, исте логике која је у основи и људске перцепције и вештачке интелигенције.

Лекција је јасна: пре него што научимо машине да боље виде, прво морамо научити да преиспитујемо како видимо.