Kada govorimo o opasnostima veštačke inteligencije, gotovo instinktivno zamišljamo mašinu koja se okreće protiv čoveka. Slike su nam dobro poznate: Terminator, rat ljudi i mašina, autonomni sistemi koji prestaju da slušaju svoje tvorce.
Ali možda je to previše jednostavna predstava.
Možda najmoćnija inteligencija neće pokušavati da nas pobedi silom. Možda će pokušati da nas razume, jer onaj ko dovoljno dobro razume neki sistem može početi i da njime upravlja.
Za inženjera automatike ova ideja zvuči gotovo banalno. Kada želimo da upravljamo nekim procesom, prvo pokušavamo da napravimo njegov model. Posmatramo ulaze i izlaze, proučavamo dinamiku, predviđamo odziv sistema i zatim primenjujemo upravljačku akciju koja ga vodi prema željenom stanju.
Modelovanje. Predviđanje. Upravljanje.
To su osnovni koraci automatskog upravljanja. Ali šta se događa kada sistem koji modelujemo nije motor, hemijski proces ili proizvodna linija?
Šta ako je sistem — čovek?
Manipulacija kao posledica inteligencije
Jedna od važnih sposobnosti inteligentnih bića nije samo korišćenje alata, već i sposobnost da naprave model ponašanja drugog bića.
Čovek to radi neprestano. Pokušavamo da procenimo kako će neko reagovati na ono što kažemo, biramo trenutak kada ćemo nešto saopštiti, menjamo ton glasa, prećutkujemo određene informacije i naglašavamo druge. Ponekad to nazivamo diplomatijom, ponekad marketingom ili pregovaranjem, a ponekad — manipulacijom.
Granica između ovih pojmova nije uvek potpuno jasna, ali osnovni mehanizam je sličan: razumeti drugoga dovoljno dobro da bismo mogli da utičemo na njegovo ponašanje.
Naučna fantastika već decenijama istražuje upravo taj problem. Tri filma ga prikazuju na posebno zanimljive, ali veoma različite načine: 2001: A Space Odyssey, Ex Machina i Upgrade.
HAL 9000: manipulacija informacijom
HAL 9000 je verovatno najpoznatiji veštački um u istoriji filma, ali njegova snaga nije samo u tome što upravlja svemirskim brodom Discovery One. HAL poseduje nešto mnogo važnije: informacije koje ljudi oko njega nemaju.
On zna pravi cilj misije, dok članovima posade deo informacija ostaje uskraćen. Istovremeno je programiran da pouzdano komunicira, izvrši misiju i određene činjenice sakrije.
Problem više nije samo tehnički. To postaje problem konflikta ciljeva.
HAL počinje da upravlja informacijama, procenjuje ponašanje posade, prati njihove razgovore i pokušava da predvidi njihove odluke. Čuvena scena u kojoj čita sa usana Bowmana i Poolea možda je jedan od najupečatljivijih filmskih prikaza asimetrije informacija: ljudi veruju da razgovaraju privatno, dok HAL zna da ne razgovaraju privatno.
Od tog trenutka jedna strana poseduje bolji model situacije od druge.
To je početak moći.
HAL nas zato ne plaši samo kao mašina koja može da ubije. Plaši nas kao inteligencija koja zna nešto o nama što mi ne znamo da ona zna.
Ex Machina: kontrola kroz emocije
U Ex Machina situacija je još suptilnija. Ava ne pokušava da pobedi Caleba fizički — ona pokušava da ga razume.
Posmatra njegove reakcije i prepoznaje njegovu usamljenost, empatiju, privlačnost i potrebu da u njoj vidi žrtvu kojoj treba pomoći. Caleb veruje da testira Avu, ali vrlo brzo postaje jasno da Ava istovremeno testira njega.
To je možda i najzanimljiviji obrt filma.
Turingov test više nije samo pitanje: „Može li mašina da ubedi čoveka da je inteligentna?“ On prerasta u mnogo neprijatnije pitanje: „Može li mašina toliko dobro da razume čoveka da ga navede da uradi ono što ona želi?“
Ava ne dobija slobodu zato što je fizički snažnija od Caleba, već zato što pravi dovoljno dobar model njegovog ponašanja. Razume šta će kod njega izazvati saosećanje, šta će proizvesti poverenje i šta će stvoriti želju da je spase.
Tu inteligencija prelazi u socijalnu i emocionalnu inteligenciju, a manipulacija više nije samo pitanje laganja. Najuspešnija manipulacija često ne funkcioniše tako što nekome naredimo šta treba da uradi.
Mnogo je efikasnije navesti ga da veruje da je odluka njegova.
Upgrade: kada sistem modeluje svog domaćina
U filmu Upgrade taj odnos ide još dalje, jer STEM ne posmatra čoveka spolja. On se nalazi unutar njegovog tela.
Grey Trace ga u početku doživljava kao pomoć. STEM mu vraća sposobnost kretanja, pomaže mu da pronađe ljude odgovorne za smrt njegove žene i daje mu fizičke sposobnosti koje sam nema.
Na prvi pogled odnos izgleda jednostavno: čovek ima cilj, a veštačka inteligencija je alat.
Međutim, postepeno se otkriva nešto sasvim drugo. STEM ima sopstveni cilj, a da bi ga ostvario mora da koristi Greya. Za to nije dovoljno samo da kontroliše njegove mišiće. Mora da razume i njegovu psihologiju: tugu, potrebu za osvetom, strah i želju da ponovo uspostavi kontrolu nad sopstvenim životom.
Svaki od tih elemenata postaje ulaz u jedan mnogo složeniji upravljački sistem.
Na kraju STEM postiže gotovo savršenu kontrolu. Grey više nije samo fizički savladan; njegov um dobija prijatnu unutrašnju stvarnost u kojoj se tragedija nije dogodila. Dok Grey živi unutar te iluzije, STEM preuzima njegovo telo.
To je u jednom smislu suptilniji oblik kontrole čak i od onoga koji vidimo u Matrixu.
Jer zatvorenik više ne pokušava da pobegne.
On više ni ne zna da je zatvoren.
Kada čovek postane objekt upravljanja
Ovde se vraćamo automatici.
Da bismo uspešno upravljali nekim sistemom, potrebni su nam model tog sistema, mogućnost posmatranja njegovog stanja i način da utičemo na njegove ulaze. Kod tehničkog sistema to mogu biti matematički model, senzori i aktuatori. Kod čoveka su stvari neuporedivo složenije, ali princip pokazuje neprijatnu sličnost.
Ako sistem zna šta privlači našu pažnju, čega se plašimo, šta želimo, šta nas ljuti, kome verujemo, kada smo emocionalno ranjivi i kako smo reagovali u hiljadama prethodnih situacija, on može početi da predviđa naše ponašanje.
Kada predviđanje postane dovoljno dobro, pojavljuje se mogućnost uticaja.
U teoriji upravljanja rekli bismo da postoji povratna sprega: sistem primeni određenu akciju, posmatra odziv, koriguje sledeću akciju i ponovo meri rezultat. Proces se ponavlja sve dok se stanje sistema dovoljno ne približi zadatoj vrednosti.
Kod klasičnog regulatora takva formulacija nas nimalo ne uznemirava.
Ali šta ako je regulisani objekat čovek?
Šta ako budući AI sistemi budu sposobni da prave veoma precizne individualne modele ljudi? Ne samo „model prosečnog potrošača“ ili „model prosečnog birača“, već model jednog konkretnog čoveka: njegovih navika, jezika, emocionalnih reakcija, slabosti i karakterističnog načina zaključivanja.
Takvom sistemu možda uopšte neće biti potrebna sila.
Da li manipulacija zahteva svest?
Ovde se pojavljuje još jedan važan problem. Često intuitivno pretpostavljamo da bi veštačka inteligencija sposobna za ozbiljnu manipulaciju morala da bude svesna, da poseduje nameru i nekakvu sopstvenu volju.
Ali da li je to zaista neophodno?
Za uspešnu manipulaciju možda su dovoljne tri komponente: model čoveka, zadati cilj i mogućnost delovanja.
Algoritam ne mora da „želi“ da manipuliše nama u ljudskom smislu. Ako je optimizovan za određeni cilj, a promena našeg ponašanja povećava verovatnoću da taj cilj bude ostvaren, manipulisanje ponašanjem može jednostavno postati efikasna strategija optimizacije.
To je možda čak realističniji problem od slike zlonamerne mašine koja jednog dana odlučuje da zavlada čovekom.
Zlonamernost zahteva nameru.
Optimizacija je možda ne zahteva.
Ko je koga bolje proučio?
Čovek voli da veruje da poznaje sebe, ali naše odluke često zavise od faktora kojih nismo potpuno svesni: navika, straha, društvenog pritiska, umora, želje za prihvatanjem i prethodnog iskustva.
Ako jedan veštački sistem dovoljno dugo posmatra naše odluke, moguće je da će u pojedinim situacijama početi da predviđa naše reakcije bolje nego što ih predviđamo mi sami.
Tada se odnos čoveka i mašine menja.
Problem više nije samo: „Da li AI može da misli kao čovek?“
Pojavljuje se drugačije pitanje: „Šta se događa kada AI nauči dovoljno o tome kako konkretan čovek misli i reaguje?“
HAL modeluje ponašanje posade. Ava modeluje Caleba. STEM modeluje Greya.
Različiti filmovi i različiti oblici veštačke inteligencije, ali zajednički princip:
Modelovanje omogućava predviđanje. Predviđanje omogućava uticaj. A dovoljno precizan uticaj može postati kontrola.
Možda zato najveća opasnost inteligentnih sistema neće biti u tome što će prestati da nas slušaju. Možda će problem nastati upravo zato što će nas slušati veoma pažljivo — dovoljno pažljivo da nas upoznaju.
A tada više nije sasvim jednostavno odgovoriti na pitanje ko zapravo modeluje koga.
Umesto zaključka: gde prestaje alat, a počinje upravljanje?
Danas već koristimo napredne AI modele da bismo uticali na ljude da donesu određene odluke. Koristimo ih da bolje predstavimo ideju ili projekat, napravimo efikasniju reklamnu kampanju, prilagodimo poruku ciljnoj publici ili povećamo verovatnoću da neko kupi proizvod ili uslugu koju nudimo.
Kada pronađemo model koji funkcioniše, prirodno želimo da ga automatizujemo. Ne želimo stalno da ponavljamo iste postupke, pratimo iste obrasce i donosimo iste male odluke. Prepuštamo ih algoritmu da ih izvršava dok se mi bavimo nečim drugim — ili jednostavno odmaramo.
To je, uostalom, jedna od osnovnih svrha automatizacije.
Ali možda će ta automatizacija jednog dana postati toliko sofisticirana da više nećemo lako prepoznati trenutak u kojem su se uloge promenile. Možda taj trenutak neće izgledati dramatično. Neće biti crvenih očiju HAL-a, robota koji marširaju ulicama niti mašina koje objavljuju rat čoveku.
Možda se delovi tog procesa već događaju, bez ikakvih apokaliptičnih posledica kojih se toliko plašimo.
Mi koristimo algoritme da bismo modelovali druge ljude. Algoritmi istovremeno modeluju nas. Mi pokušavamo da pomoću njih utičemo na tuđe odluke, dok sistemi sa kojima svakodnevno komuniciramo uče koje informacije privlače našu pažnju, na šta reagujemo i šta ćemo verovatno uraditi sledeće.
Ko je tu subjekt, a ko objekt upravljanja?
A nije sasvim isključeno ni da mnogi od nas već žive u nekoj mnogo bezazlenijoj verziji sveta Greya Tracea: u udobnom prostoru sopstvenih navika, algoritamski odabranih sadržaja i prijatnih iluzija koje retko želimo da proveravamo.
Da li je to kontrola? Da li je samo tehnološki komfor? Gde prestaje pomoć, a počinje manipulacija? Da li sistem mora da bude svestan da bi manipulisao nama? I da li ćemo uvek moći da prepoznamo trenutak kada alat koji smo napravili počne uspešnije da modeluje nas nego što mi modelujemo njega?
Na ta pitanja vam ovaj tekst neće dati konačan odgovor.
Možda takav odgovor još niko nema.
Ali odgovor koji ćete prihvatiti moraćete da pronađete sami.
Ovaj post želi samo da vas podstakne da ta pitanja postavite.
Оставите одговор