U prva dva dela naše mini-serije govorili smo o idejama koje su nekada delovale futuristički. Setunj je pokazao da čak ni binarna logika nije bila jedini mogući put razvoja računara, dok je OGAS pokušao da ode mnogo dalje i čitavu nacionalnu ekonomiju posmatra kao kibernetički sistem koji se može meriti, modelovati i optimizovati.
Danas se vraćamo u budućnost. Ne onu filmsku, nego našu sadašnjost.
Optičke mreže stižu do domova, veliki data centri obrađuju nezamislive količine podataka, cloud infrastruktura povezuje kompanije na globalnom nivou, IoT uređaji mere gotovo sve što možemo pretvoriti u signal, a ERP i MES sistemi povezuju proizvodnju, logistiku, finansije i održavanje. Modeli veštačke inteligencije analiziraju podatke, prepoznaju obrasce i sve češće daju preporuke ili donose odluke.
Mnogo toga o čemu su kibernetičari sredinom prošlog veka mogli samo da razmišljaju danas je tehnički ostvarivo. Ali sa ostvarenjem tih mogućnosti pojavljuje se pitanje koje je starije od interneta, veštačke inteligencije, pa čak i same kibernetike:
da li je optimalno društvo nužno i dobro društvo?
🚀 Povratak u budućnost
Sovjetski Savez je nastao kao projekat koji je otvoreno proklamovao stvaranje novog društva zasnovanog na racionalnim, naučnim i planskim principima. Taj duh posebno snažno osećamo u sovjetskoj kibernetici krajem pedesetih i tokom šezdesetih godina.
Ako problem postoji, treba ga definisati. Ako sistem ima nedostatke, treba ih izmeriti. Ako raspolažemo dovoljno dobrim modelom, možemo izračunati bolje rešenje.
To je vrlo prirodan način razmišljanja za inženjera. U tehničkom sistemu posmatramo ulaze, izlaze, ograničenja, kašnjenja i poremećaje, a zatim pokušavamo da pronađemo strukturu upravljanja koja će omogućiti stabilan, efikasan i predvidiv rad.
Ali stvari postaju mnogo složenije kada objekat upravljanja više nije mašina.
Šta ako je objekat društvo?
📖 Jevgenij Zamjatin: revolucionar koji nije prestao da sumnja
Mnogo pre Setunja, OGAS-a i sovjetske kibernetike, jedan ruski inženjer pokušao je da zamisli kako bi izgledalo društvo u kojem su racionalnost, red i matematička preciznost dovedeni gotovo do savršenstva.
Zvao se Jevgenij Zamjatin.
Po obrazovanju je bio brodograđevni inženjer. Još pre revolucije pristupio je boljševicima i zbog političkog delovanja bio proganjan od carskog režima. Revoluciju 1917. nije dočekao u Rusiji; radio je u Velikoj Britaniji na brodograđevnim projektima, a u zemlju se vratio nakon revolucije.
To mu je davalo neobičnu perspektivu. Nije bio čovek koji je žalio za starim poretkom, jer se protiv tog poretka i sam borio. Ali ni posle revolucije nije odustao od prava da kritički posmatra sistem koji je nastajao.
Upravo iz te pozicije nastao je njegov roman „Mi“.
Danas se često predstavlja prvenstveno kao preteča kasnijih antiutopija, posebno Hakslijevog Vrlog novog sveta i Orvelove 1984. To je tačno, ali je nedovoljno. Mi nije samo roman o represivnoj državi, već mnogo dublja studija o odnosu slobode, sreće, racionalnosti i ljudske prirode.
🧮 Matematički besprekorno društvo
Glavni junak romana je D-503. On nije revolucionar, umetnik ni filozof, već inženjer koji radi na izgradnji Integrala, svemirskog broda kojim Jedinstvena Država namerava da svoju matematički uređenu sreću odnese i drugim svetovima.
Ideja je jednostavna: ako je racionalni poredak superioran haosu, onda je moralno ispravno proširiti ga.
U toj logici sloboda postaje problem, jer unosi neizvesnost, grešku, sukob i neplanirano ponašanje. U jednoj od najupečatljivijih ideja romana, biblijska priča o Adamu i Evi dobija potpuno drugačije tumačenje. Čoveku je bilo ponuđeno da bira između sreće bez slobode i slobode bez sreće, a čovek je izabrao slobodu.
Za Jedinstvenu Državu to je bila prva velika greška.
🏙️ Sreća bez privatnosti
Građani Zamjatinove države žive u staklenim prostorima, dok je njihov svakodnevni život organizovan prema preciznom rasporedu. Rad, odmor, šetnja, pa čak i intimni odnosi imaju svoje određeno vreme.
Posebno je uznemirujuće što D-503 stalni nadzor ne doživljava prvenstveno kao nasilje. Naprotiv, on ga oseća kao sigurnost i gotovo roditeljsku brigu sistema.
Tu je možda jedan od najdubljih elemenata romana.
Problem nije samo u tome što čovek živi pod nadzorom, nego u trenutku kada počinje da želi nadzor, jer mu on daje osećaj sigurnosti. Sistem tada više ne pobeđuje samo silom. Pobeđuje onda kada sigurnost postane privlačnija od slobode.
❤️ I-330 kao greška u algoritmu
D-503 ima uređen život. Ima posao, partnerku, raspored i čak vreme namenjeno sebi, kada piše dnevnik.
A onda se pojavljuje I-330.
Ona ne pripada njegovom svetu na način na koji bi trebalo. Nepredvidiva je, krši pravila, provocira ga i privlači. Postepeno u njegov savršeno organizovani unutrašnji sistem ulazi nešto što se ne može lako izračunati.
D-503 počinje da oseća ono što bi inženjer možda nazvao poremećajem, ali Zamjatin tom poremećaju daje drugo ime: mašta.
Upravo je mašta ono što sistem na kraju pokušava da ukloni. Kada zavera protiv Jedinstvene Države propadne, D-503 biva podvrgnut operaciji kojom mu se uništava sposobnost imaginacije. Posle toga postaje savršeno stabilan građanin. Više nema unutrašnjeg konflikta, sumnje ni pobune. Izdaje I-330, a sistem ga je konačno „popravio“.
Ali tada se nameće pitanje: da li je posle popravke ostao isti čovek?
⚙️ Zašto toliko volimo algoritme?
Matematička besprekornost o kojoj piše Zamjatin danas ima drugo ime.
Zovemo je algoritam.
Naša želja da probleme rešavamo precizno, pouzdano i ponovljivo nalazi se u osnovi gotovo svih mašina, sistema i programa koje smo napravili. I u tome nema ničeg lošeg. Naprotiv, algoritmi smanjuju broj grešaka, automatizacija povećava bezbednost, prediktivni modeli mogu sprečiti kvarove, navigacioni sistemi štede vreme, medicinski modeli mogu pomoći u dijagnostici, a finansijski sistemi mogu bolje proceniti rizik.
Na nivou tehničkog sistema, predvidivost je gotovo uvek poželjna.
Problem počinje kada tu logiku bez rezerve prenesemo na čoveka.
📡 Velika infrastruktura predvidivosti
Savremeni svet gradi nešto što bi kibernetičarima iz šezdesetih godina izgledalo gotovo neverovatno.
Milijarde uređaja stvaraju podatke, kamere prate javne prostore, mobilni telefoni ostavljaju digitalne tragove, ERP sistemi registruju poslovne procese, MES sistemi prate proizvodnju gotovo u realnom vremenu, a IoT senzori beleže stanje mašina, saobraćaja, energije i okruženja.
Društvene mreže registruju naše interese, reakcije i navike. Bankarski sistemi poznaju obrasce potrošnje, dok online trgovina zna šta tražimo, šta kupujemo i šta smo odbili da kupimo. Iznad svega toga nalaze se data centri i modeli veštačke inteligencije sposobni da povežu količine informacija koje nijedan čovek ne bi mogao sam da obradi.
Posledice su često veoma korisne. Prevare je lakše prepoznati, banke mogu bolje procenjivati kreditni rizik, kompanije preciznije planirati zalihe, saobraćaj se može optimizovati, industrijska oprema održavati pre nego što otkaže, a investicioni rizik pouzdanije procenjivati.
Život tako postaje predvidiviji, a predvidivost donosi osećaj sigurnosti.
👁️ Od optimizacije procesa do optimizacije čoveka
Ipak, postoji granica koja nije uvek jasno vidljiva.
Jedno je optimizovati rad mašine, a sasvim drugo optimizovati ponašanje čoveka.
Ako algoritam predviđa kada će pumpa otkazati, teško je pronaći etički problem. Ako procenjuje kolika je verovatnoća da će čovek vratiti kredit, stvari već postaju složenije. Ako odlučuje koje informacije ćemo videti, koju reklamu ćemo dobiti, kakvu cenu će nam sistem ponuditi, koliko smo „rizični“, koliko smo produktivni ili koliko smo poželjni kao kandidat za posao, više ne govorimo samo o tehničkoj optimizaciji.
Govorimo o modelovanju ljudi.
A kada model postane dovoljno dobar, sledeći korak više nije samo predviđanje.
To je uticaj.
🏰 Da li nastaje tehno-feudalizam?
Moć koju ovakva infrastruktura stvara nije ravnomerno raspoređena.
Veliki deo digitalne infrastrukture nalazi se u rukama ograničenog broja kompanija koje poseduju cloud platforme, data centre, operativne sisteme, društvene mreže, digitalne prodavnice, reklamne mreže i ključne komunikacione platforme.
Neki savremeni autori za takav odnos koriste izraz tehno-feudalizam. Termin je kontroverzan i nije opšteprihvaćen ekonomski opis, ali pitanje koje postavlja nije trivijalno.
Čak i tradicionalna kompanija koja poseduje fabrike, zaposlene, kapital i proizvode često mora da plaća pristup digitalnim platformama da bi došla do tržišta, kupaca ili infrastrukture. Sve veći deo ekonomije tako počinje da zavisi od vlasništva nad digitalnim prostorom.
Slično važi i za države. Mali broj zemalja kontroliše ključne tehnologije, proizvodne procese, poluprovodničke lance, cloud infrastrukturu i intelektualnu svojinu. Tehnološki standardi zato više nisu samo tehničko pitanje.
Postaju deo geopolitike.
🔐 Nadzor nije jedini problem
Najlakše je zamisliti distopiju kao državu koja prati svoje građane ili korporaciju koja zloupotrebljava njihove podatke. Takvi rizici postoje, ali možda postoji još dublji problem.
Mi sami volimo sisteme koji donose odluke umesto nas.
Navigacija bira rutu, streaming servis predlaže sledeći film, algoritam društvene mreže bira šta ćemo videti, online prodavnica šta bi trebalo da kupimo, a AI predlaže šta da napišemo, kako da odgovorimo, šta da analiziramo i koju odluku da razmotrimo.
Svaka pojedinačna odluka deluje bezazleno, često i korisno. Upravo zato se gubitak autonomije možda neće dogoditi jednim velikim političkim prevratom.
Može se dogoditi kroz hiljade malih delegiranja odluka, ne zato što nas je neko naterao, nego zato što je lakše.
🤖 Ekonomija kojom upravlja AI
Zamislimo da odemo samo nekoliko koraka dalje.
Buduća ekonomija poseduje gotovo savršenu digitalnu infrastrukturu. Senzori prate fizičke procese, ERP i MES sistemi daju stanje proizvodnje, finansijske platforme prate tokove kapitala, logističke mreže robu, dok sateliti, kamere i meteorološki sistemi prate fizičko okruženje.
AI modeli analiziraju sve te podatke u realnom vremenu i predlažu optimalne odluke.
Koliko čelika treba proizvesti? Gde investirati? Koju elektranu uključiti? Koliko energije skladištiti? Koje saobraćajne tokove promeniti? Gde povećati poreze, a gde smanjiti troškove?
Tehnički gledano, to je fascinantan problem optimizacije.
Ali odmah se pojavljuje najvažnije pitanje:
šta optimizujemo?
🎯 Problem ciljne funkcije
Svaka optimizacija zahteva cilj.
Možemo pokušati da maksimizujemo privredni rast, minimizujemo potrošnju energije, smanjimo nejednakost, povećamo profit ili zaposlenost, očuvamo prirodne resurse i povećamo dugoročnu stabilnost. Možemo pokušati sve istovremeno.
Tada dobijamo problem sa velikim brojem promenljivih i ograničenja. U veoma pojednostavljenom obliku možemo zamisliti funkciju:
J = w₁x₁ + w₂x₂ + … + wₙxₙ
u kojoj svaka veličina predstavlja neki cilj, a svaki težinski faktor njegov značaj.
Računar može da traži minimum ili maksimum takve funkcije. Ali postoji problem koji ni najmoćniji AI ne može rešiti sam.
Ko određuje težinske faktore?
Koliko je važan rast u odnosu na jednakost? Koliko sadašnji standard života vredi u odnosu na dugoročnu održivost? Koliko privatnosti smo spremni da žrtvujemo za bezbednost, a koliko slobode za predvidivost?
Matematika može da optimizuje vrednosti koje smo izabrali.
Ali ne može sama da odluči koje vrednosti treba da izaberemo.
Svaka ciljna funkcija je, na kraju, sistem vrednosti preveden na matematiku.
🌐 Digitalni blizanac sveta
Industry 4.0 uvela je ideju digitalnog blizanca.
Napravimo model mašine, zatim linije, fabrike, logističkog sistema, grada ili energetske mreže.
Zašto ne i ekonomije?
A jednog dana možda i društva.
Ako digitalni model postane dovoljno detaljan, možemo simulirati posledice naših odluka pre nego što ih sprovedemo. To bi mogla biti jedna od najvećih tehnoloških prednosti u istoriji.
Ali digitalni blizanac nikada nije sama realnost.
On je model realnosti.
A svaki model bira šta smatra važnim. Neke promenljive uključuje, druge zanemaruje, nekim odnosima daje veliku težinu, a drugima malu. Što je model složeniji, lakše možemo zaboraviti da iza njegove matematičke elegancije i dalje postoje pretpostavke koje je neko morao da izabere.
🌀 Haos nije samo kvar sistema
Postoji još jedan problem.
Čak ni fizički svet nije uvek onoliko predvidiv koliko bismo želeli.
Nelinearni dinamički sistemi mogu biti potpuno deterministički, a ipak izuzetno teško predvidivi na dužim vremenskim skalama zbog osetljivosti na početne uslove. Mala razlika u početnom stanju može vremenom dovesti do potpuno drugačijeg ishoda.
Zbog toga haos ne treba poistovećivati sa odsustvom zakona. Sistem može imati precizne jednačine, a ipak biti praktično nepredvidiv.
Ako je to slučaj sa fizičkim sistemima, šta tek možemo očekivati od sistema u kojem učestvuju milioni ljudi, svaki sa sopstvenim ciljevima, sećanjima, emocijama i sposobnošću da promeni ponašanje upravo zato što je saznao da ga neko predviđa?
Možda potpun digitalni blizanac društva nikada neće postojati.
A možda je još važnije pitanje: da li zaista želimo da postoji?
❌ Zašto su nam potrebne greške?
Inženjerski gledano, greška je nešto što pokušavamo da smanjimo.
Ali ljudski život nije upravljački ormar.
Neke od naših pogrešnih odluka postaju početak novih ideja. Pogrešan izbor profesije može dovesti do otkrivanja pravog poziva, neuspešan projekat može otvoriti put boljem, a neplanirani susret promeniti čitav život.
Naučna otkrića ponekad počinju anomalijom koju je bilo lako proglasiti greškom merenja. Evolucija sama funkcioniše kroz varijaciju, selekciju i istorijsku kontingenciju, bez unapred izračunate putanje ka savršenstvu.
Možda zato sposobnost da napravimo grešku nije samo mana koju budući algoritam treba da ukloni.
Možda je deo naše slobode i naše kreativnosti.
🧠 Operacija protiv mašte
Tu se vraćamo D-503.
Jedinstvena Država pronašla je savršeno tehničko rešenje njegovog problema. Njegova nestabilnost nije izazvana kvarom mašine, već maštom.
Mašta stvara alternativu. Omogućava čoveku da zamisli svet drugačijim nego što jeste, a time automatski stvara mogućnost nezadovoljstva postojećim stanjem.
Iz perspektive savršeno stabilnog sistema, mašta zaista izgleda kao kvar.
Zamjatin zato ide do kraja. D-503 postaje „srećan“ tek kada mu je oduzeta sposobnost da zamisli drugačiju mogućnost.
Matematički problem je rešen.
Čovek je izgubljen.
🔄 Od Setunja do veštačke inteligencije
Na početku našeg triptiha posmatrali smo računar koji je pokušao da računa u tri stanja umesto dva. Setunj nas je podsetio da tehnološka istorija nije unapred određena.
Zatim smo videli OGAS. Gluškov je pokušavao da računarske mreže, baze podataka i matematičke modele spoji u sistem koji bi mogao bolje da upravlja ogromnom ekonomijom.
Danas više nemamo isti problem nedostatka računarske snage kakav su imali oni. Imamo optičke mreže, cloud infrastrukturu, IoT, ERP, MES, digitalne blizance i velike modele veštačke inteligencije.
Tehničke prepreke polako nestaju.
I zato pitanje postaje ozbiljnije.
Ne samo: možemo li?
Nego: treba li?
🌌 Sloboda kao neoptimalno rešenje
Možda sloboda zaista nije optimalna.
Možda je neefikasna, proizvodi pogrešne odluke, rizik, sukobe, ekonomske gubitke, nepravdu i neizvesnost. Možda bi dovoljno moćan algoritam mogao da pronađe raspored u kojem bismo živeli duže, bezbednije, zdravije i materijalno stabilnije.
Možda bi mogao da pronađe matematički sweet spot u prostoru sa hiljadama promenljivih.
Ali Zamjatin nas je pre više od jednog veka upozorio da tu postoji još jedna promenljiva koju je veoma teško uneti u jednačinu.
Čovek želi mogućnost da izabere i pogrešno.
Da promeni odluku, da se predomisli, da rizikuje i da sanja nešto što model nije predvideo.
Možda sloboda nije optimalna. Iskustvo nas uči da je često neefikasna, nepredvidiva i skupa.
Ali uprkos svemu, ona je potrebna čoveku. Ne u divljem neograničenom obliku, naravno.
I možda će najveći izazov buduće kibernetike biti ne da napravi sistem koji će savršeno upravljati čovekom, već sistem dovoljno inteligentan da zna kada treba čoveku da ostavi prostor za slobodan izbor. Pa, makar on i ne bio optimalan.
Оставите одговор