Pogrešena logika u srcu fantastike o automatizaciji

Tehnologija ne rješava povjerenje, odgovornost ili rad - prebacuje odgovornost sa sustava na pojedince.

U privatnom, javnom i neprofitnom sektoru primjenjuje se uobičajeni recept za rastuće zalihe podataka: interoperabilnost → integracija → optimizacija → automatizacija.

Obećavajući uvođenje u doba "pametnih gradova", "učinkovitih usluga" i "neograničenog slobodnog vremena", automatizacija je fantazija koja pokreće trenutnu revoluciju u poslovanju i birokraciji.

Preplavljeni ogromnom količinom informacija (koje se mogu osobno prepoznati i na drugi način) generirane vašim operacijama u digitalnom dobu? Da se ne bojimo, ovdje je doba automatizacije.

Jedna hrpa koja ih sve rješava

Automatizacija obećava (jeftino) poštivanje. Štuje se na oltaru učinkovitosti. Oslikava vaše opake probleme kao ispravljanje, a vaše složene sustave, kao niz linearnih uzročno-posljedičnih veza koji čekaju da ih razdvojimo. Ne razlikuje vrste problema i procese s kojima se suočavaju privatne i javne institucije. Ne samo da će ukloniti vaše podatke za dijamante, već će i sjeći i polirati kamenje. Jednostavno rečeno, to će "promijeniti svijet."

Organizacije ne aktiviraju samo vlastite podatke. Najbolji uvidi dolaze iz analize ogromnih podataka iz različitih izvora. Zbog toga agencije u javnom sektoru objedinjuju podatke putem usluga i zašto tvrtke potrošača uvećavaju osobne podatke svojih kupaca. Kako navodi New York Times, američke su kompanije u 2018. godini potrošile blizu 20 milijardi dolara na pribavljanje i obradu podataka o potrošačima. Obećana logika te potrošnje ide ovako:

U koraku 1, interoperabilnost, podaci su strojno čitljivi i probavljivi. Dani su ručno digitalizirali PDF-ove. Rastuća hrpa alata, uključujući skenere, računalni vid i algoritme za obradu prirodnog jezika, postaje sve bolja u skupljanju čak i najslabijih podloga podataka i regeneraciji izvađenih i sastavljenih podataka, zrelih za analizu. Uz analizu grafova, čak i najrazličitiji skupovi podataka mogu se slojevito razmnožavati.

U koraku 2, integracija, podaci iz zasebnih sustava pridružuju se i čine im dostupnima preko sučelja, nadzorne ploče i baze podataka. Uzdužni istraživači, radujte se! Silosi su raspoređeni. Grafikoni se analiziraju. Prethodno se neviđeni odnosi modeliraju i vizualiziraju. Trendovi se najavljuju, rastvaraju njihova snaga i usmjerenost i poslužuju kao „uvid“.

U trećem koraku, optimizacija, algoritmi su slojeni na hrpu koja obećava da će učiniti stvari poput "preporučiti", "personalizirati" i "predvidjeti" mnogo bolje nego što to iko može ikada ikada mogao. Umjesto kompliciranog angažmana dionika s njegovim neurednim raspravama o vrijednostima, ovi algoritmi bacaju pažnju na logiku naših prošlih odluka i dominantnih narativa - od kapitalizma i neoliberalnog institucionalizma. Oni vode prema učinkovitosti. Voze prema rastu. Ako su sustavi prethodnika koji su generirali svoje unose povijesnih podataka bili održivi, ​​pravični ili pošteni, algoritmi bi mogli biti previše. Ako ne, naprijed - ubrzajte kolaps.

U koraku 4, automatizacija, novi algoritmi dobivaju se nove odgovornosti. Gradeći na hrpi koja već tvrdi da bolje razumiju dinamiku i odnose sustava, oni sada nude reorganizaciju mehanizama odgovornosti i struktura odlučivanja. Oni određuju kreditnu sposobnost. Raspoređuju zdravstvene beneficije. Oni predviđaju pristup javnim uslugama - na prethodno ortogonalno ponašanje ili na nečijoj sposobnosti dokazivanja svog identiteta.

Jao. U najmanju ruku, obećana zemlja izgleda kao pokušaj stvaranja DHS digitalnog računa u Arkansasu, a nažalost nije lijep.

"Budućnost je već ovdje - samo neravnomjerno raspoređena"

S mog trenutnog stanja u filantropiji vidim kako se promjena događa svugdje - različitim brzinama na različitim mjestima, mijenjajući sam temelj za posao koji želimo raditi u sektorima i regijama - ponekad podmuklo, uvijek neumoljivo.

U prošlosti sam radio u javnom sektoru (DoD-ov Cebrowski institut), privatnom sektoru (sindicirano istraživanje tehnološke budućnosti) i u međusektorskom savjetovanju (razvijajući inovacijske ekosustave za nagradna natjecanja za poticanje). U relativno kratkom vremenu naišao sam na puni krug od entuzijasta za tehnološkim angažmanom (u dobi od 24 godine opisao sam se u prijavi za posao kao "nosivi evangelizator") do opreznog skeptika u mogućnosti tehnologije da pozitivno intervenira u ljudskim sustavima.

Prošle godine sam bio na sastanku u Sand Hill Rd., Udarajući po bubnju o etičnosti i pravednosti centriranja u razvoju automatiziranih sustava javnog sektora, kada je entuzijasta koji osniva i financira podatke vrlo ozbiljno pitao: „Zašto to nastavljaš - kao, što bi moglo poći po zlu? "

U ovom trenutku, iz moje perspektive, manje je toga što bi moglo poći po zlu, a više onoga što već ima. Nešto je trulo u središtu fantazije o automatizaciji.

Automatizacija se odvija pod mnogim imenima ("umjetna inteligencija", "algoritamsko odlučivanje" itd.), Ali voli sakriti svoju istinsku prirodu. Evo nekoliko od mnogih lica koja nosi.

Smeće unutra, Smeće van.

A najveći dio je smeće.

Sigurno je da „veliki podaci“ otkrivaju povezanosti i odnose koji omogućuju unovčavanje, stvaranje vrijednosti i poboljšane usluge (možda manje nego što mislite). Ali to je uglavnom usprkos kvaliteti i istinitosti podataka, a ne zbog toga.

Da citiram jednog od mnogih nesretnika, ono što gradimo zapravo nije umjetna inteligencija, to je (mana) ljudske inteligencije na ljestvici industrijske društvene mehanizacije - da, čovjek iza zavjese još uvijek se zavrti na civilizacijskim ručicama. I da, to je doista bijelac koji nosi teretne gaćice s čarapama i sandalama u Palo Altu.

Planiranje se često prikriva kao predviđanje.

Na skali, algoritmi stvaraju budućnost koju prognoziraju.

Kad strojevi precizno predviđaju, to je trijumf statusa quo, a ne predviđanja.

Češće, kao i s ljudima, oni čine samoispunjavajuća se proročanstva. Poslužit će se više istog, brže ovaj put, preciznije i uz manje vašeg unosa. Za preporuku što sljedeće gledati na Netflixu, ovo je zaista sjajno. Ne želim prestati voljeti znanstveno-fantastične filmove s jakim ženskim ulogom. (U slučaju da nije probio vaš filter filter, nemojte spavati na trenutnom kampu klasične piramide.)

Ali kad je riječ o pružanju usluga u javnom sektoru i sustavima koji imaju stvarni utjecaj na obitelji i sredstva za život, to je drugačija priča. Zašto bismo namjerno modelirali buduće odlučivanje o prošlim obrascima, za koje znamo da su sustavno pristrasni, nepošteni, neravnopravni, diskriminatorni, a u mnogim slučajevima i ideološki neodgovorni, ako ne i opasni? Naravno, algoritmi su prilično dobri u učenju iz prošlih obrazaca do projiciranja budućih odluka. Ali u bezbroj sustava to je zadnje što bismo trebali poželjeti.

Trenje je motor stabilnosti - i napretka.

Zdravi sustavi uspevaju na rubu kaosa.

Automatizacija stiže pod znakom „napretka“, ali otkriva se kao agent stagnacije.

Trenje - borba - teoretizira se kao pokretačka snaga biološke evolucije, upotrebe alata i razvoja tehnologije, uspješnog imunološkog sustava i još mnogo toga. A ipak, u knjizi recepata za automatizaciju, prvo je na popisu supstitucija sastojaka.

Bolesno što morate sami raditi? Algoritmi će nabiti ogromne zalihe informacija, tako da ne morate. Bolesno čekate u redu? Algoritmi mogu optimizirati vrijeme vašeg dolaska. Bolestan sastavljanja odgovora kao dijela osnovne ljudske komunikacije? Algoritmi mogu sugerirati odgovor koji je nepristojan baš na vama.

Ali što je ulog u ovom žurbi za podmazivanje svake (trans) akcije? Što se može izgubiti kada više ne moramo čekati, trpjeti dosadu, boriti se, razmišljati o tome ili čak pokušati?

Optimizacija i utjecaj suptilni su oblici kontrole.

Posuđujući se iz ad-tech poslovnih modela, krajnja igra automatizacije u kapitalističkom društvu nije samo prodaja više stvari, već zapravo oblikovanje ljudskog ponašanja.

Automatizacija rudarstva podataka koja se temelji na automatizaciji nadzora ona je koja podržava nadzorni kapitalizam i želi zamutiti našu agenciju, osloboditi nas svetišta i izbrisati našu nepredvidivost. Kao što Shoshana Zuboff kaže: "Zaboravite na kliše da ste proizvod - ako niste besplatni, niste proizvod, već samo besplatni izvor sirovina od kojeg se proizvode proizvodi za prodaju i kupnju ... Vi niste proizvod, vi su napušteni lešinci. "

U “Algoritmu i bluesu: Tiranija dolazeće pametne tehnike utopije”, Brett Frischman opisuje neke od ideologija u srcu “pametne tehnologije” i automatizacije:

„Navodno će pametni telefoni, rešetke, automobili, kuće, odjeća i tako dalje učiniti naš život lakšim, boljim, sretnijim. Te su tvrdnje duboko ukorijenjene u pametno-tehnološkoj utopijskoj viziji koja se temelji na prethodnim tehno-utopijskim vizijama kao što je kiber-utopijanizam, ali i ekonomsko-utopijskim vizijama poput Coaseanove ideje o tržištima bez trenja, savršeno učinkovitim tržištima i taylorističkoj viziji znanstveno upravljanih, savršeno produktivnih radnika. U našem suvremenom digitalnom umreženom svijetu te vizije znatno prevazilaze originalni kontekst idealiziranog interneta, tržišta i radnih mjesta. Smart-tech može upravljati mnogo više naših života. "

U mašinskom učenju nema magije.

Samo one i nule, grafikoni i korelacije.

Nema strojnog učenja u strojnom učenju, samo kaskadan tijek abdiciranog donošenja odluka (a time i odgovornosti). Naravno, neravnoteže moći koje su svojstvene svijetu u kojem neki ljudi donose odluke u ime drugih ljudi (da ništa ne govorimo o nečovjecima) dosta su problematične, no jesmo li doista toliko sigurni da će glorificirane matematičke jednadžbe učiniti bolji posao?

Razgovarajući s New York Timesom, djed računalnog programiranja Donald Knuth nedavno je priznao: „Zabrinut sam što algoritmi postaju previše istaknuti u svijetu. Ispočetka su se računalni znanstvenici brinuli da nas nitko ne sluša. Sada se brinem da previše ljudi sluša. "

Jasno je da su mnogi donositelji odluka već umislili da su strojevi prikladniji za odabir nego mi. Kodeks je nadležan za važne sustave i odluke, u mnogim slučajevima bez razmišljanja o postupcima za naknadu štete ili presude. Tko si može priuštiti dugu pravnu bitku za traženje pravnog sredstva nakon što algoritam buge negira zdravstvo? Ironično je da samo oni čiji prihod im onemogućuje da uopće trebaju pristup javnim uslugama.

Tko pobjeđuje - a tko gubi - u automatiziranom svijetu?

Automatizacija obećava da će uvesti potpuno nove oblike nejednakosti.

Sve se više prodaje pristup uslugama koje izričito ljudsko lice stavljaju na automatizaciju pružanja usluga. A u automatiziranom svijetu privatnost i utočište su privilegije koje plaćate.

„Bolje nikad ne znači bolje za sve. Za neke to uvijek znači i gore. " - Margaret Atwood

Za pregled tko planira pobijediti u dugoj igri, pogledajte neke od najglasnijih zagovornika automatizacije: + Međamerička razvojna banka (IDB) promovira upotrebu prediktivne analitike u javnom sektoru, što je dio tekućeg fetiša poznata i kao "podaci za razvoj". + Za IBM su podaci novo ulje. Za tvrtke koje se bave softverskim softverom, automatizacija je za večeru, a javni sektor je veliko tržište u nastajanju. + Kao što smo čuli od Marka Zuckerberga iz Facebooka kada je (slabo) Kongres izazvao gotovo svaki problem s platformom koja sada posreduje u globalnoj potrošnji informacija (u početku dizajnirana da smanji trenje povezano s odjavom prvašića): algoritmi će to popraviti. + Velike konzultantske tvrtke poput Accenture imaju koristi od onoga što nazivaju "tehnološkom vizijom". McKinsey je ovog tjedna pod vatrom zbog pomaganja i legitimiranja autoritarnih vlada.

U osnovi, kompromisi se podrazumijevaju u automatiziranoj budućnosti. Prodaju nam se roba na temelju pretpostavljene vrijednosti učinkovitosti, ali čine nevidljive kompromise u kapitalu. Obećana nam je sloboda od trenja, ali na kraju gubimo serendipity. Naši sustavi optimiziraju raspodjelu resursa, ali samo time što nas čine kontinuirano anketiranim i sve odgovornijim za upravljanje našim interakcijama sa sustavom. Radujemo se budućnosti u kojoj se droga vrši strojno, ali se borimo za zamišljanje držanja ljudskog dostojanstva i značajnih života. Zavedeni smo logikom izravnog mjerenja i procjene, ali zaboravimo da se ne može mjeriti sve što je važno.

Strukturna nejednakost čvrsto stoji u analitičkom slijepom mjestu automatizacije.

Prekomjerno oslanjanje na analizu podataka funkcionalno daje prednost korelacijama koje linearna algebra dobro uočava - ali ne one koje proizlaze iz složene dinamike sustava.

Do sada su pristrani algoritmi dobro poznati problem. Budući da se oslanjaju na prošle podatke, oni podliježu kodifikaciji loših obrazaca, temeljenih na lošem prikupljanju podataka, nepravičnoj povijesnoj distribuciji usluga (a time i nadzoru nad malim dohotkom i manjinskim stanovništvom) te unaprijed utvrđenim pretpostavkama. Dokaze ove pristranosti možemo vidjeti u rasističkim i seksističkim ishodima napora automatizacije kroz sektore.

Ali uz sav fokus na uvođenju pravednosti, odgovornosti i transparentnosti u strojno učenje, još uvijek ne vidimo šumu za drveće. Konkretno, pokušaji ispravljanja pristranosti u algoritmima obično ne uzimaju u obzir strukturne nejednakosti. Budući da je ukorijenjena i rođena iz povijesnih podataka, automatizacija zna samo kako produbiti brazde postojećih obrazaca, vrednujući samo one varijable koje su izolirane za mjerenje i potom smislene zbog svog odnosa prema drugim mjernim podacima.

Ali upravo ćemo strukturni ekosustav u kojem se koristi automatizacija morati problematizirati i pozabaviti ako želimo pokupiti obećanje analitičkih alata. Legitimno otporna na statističke analize, voda u kojoj plivamo - bogata gulaša puna pripovijesti o dominaciji, ideologijama rasta i potrošnje, temeljnim lažnim dihotomijama, bespoštednom udruživanju, sveprisutnim dezinformacijama i ekološkom fatalizmu - nešto je što možemo vidjeti na rubovima ali jedva nadmašuju.

S automatizacijom, transcendencija nije u ponudi. Optimizacija, da. Ublažavanje, možda. Rješenja, samo u ime. Umjesto toga, fantazija automatizacije nosi etos izuzetnosti i arogantne privlačnosti „kraja povijesti“. Maštarija o automatizaciji sugerira upotrebu analitike koja će se zaključati u strukturama statusa quo. To je posebno gledište "napretka". Stvari bi mogle biti mnogo bolje, sugerira, sve dok distribucija snage i resursa na visokoj razini ostane gotovo jednaka.

Gledajući algoritme koji obećavaju revoluciju u zdravstvu, Shannon Mattern piše:

Štoviše, slijepa vjera da će sveprisutno prikupljanje podataka dovesti do "otkrića koja imaju koristi svima" zaslužuje skepticizam. Empirijske studije velikih razmjera mogu pojačati razlike u zdravstvu, posebno ako demografske analize nisu utemeljene na specifičnim hipotezama ili teorijskim okvirima. Etičarka Celia Fisher tvrdi da studije poput Human Project-a trebaju jasno definirati "šta znači klasa, rasa i kultura, uzimajući u obzir kako te definicije neprekidno oblikuju i redefiniraju društvene i političke snage", te kako su određene grupe marginalizirane, čak i patologiziran, u medicinskom diskursu i praksi. Istraživači koji izvode zaključke na temelju promatranih korelacija - neeteriziranih, a ne historiciziranih - riskiraju, „kaže, da zdravstvene probleme dodaju genetskim ili kulturološkim sklonostima u marginaliziranim skupinama, a ne politikama koje održavaju sustavne političke i institucionalne nejednakosti u zdravstvu. - Shannon Mattern, "Podaci u kodnom prostoru"

Automatizacija prebacuje teret odgovornosti s sustava na ljude.

Mit o neograničenom slobodnom vremenu kroz automatizaciju već zvuči lažno.

U automatiziranom svijetu procesi su redizajnirani kako ne poboljšati korisničko iskustvo, već povećati profitnu maržu i / ili smanjiti rashode za ljudski kapital.

No, kako pokazuju istraživanja Karen Levy o kamionima, automatizacija ne zamjenjuje ljude onoliko koliko ih napada. Poput nasilnog bivšeg partnera, on vrši ankete, napada, kontrolira i manipulira, dok zahtijeva intiman pristup tijelu i zahtijeva sve veći pristup uma.

Bez intervencije oni koji su već na marginama bit će dodatno marginalizirani. A kada se automatizacija koristi u službi statusa quo, vrijednost se uzima i / ili nevidljiv rad zahtijeva od svake osobe koja komunicira s automatiziranim sustavima.

Pacijentica je sada koordinatorica i zagovornica vlastite skrbi. Potrošač se aktivno troši u tekućem ciklusu potrošnje. Građanin je sada arbitar vlastite istine i kustos vlastitog značenja. Širom sektora nevidljiva (i neplaćena) radna snaga koja je sada nužna da bismo upravljali sustavima u koje smo neraskidivo uključeni otkrivaju nam - pojedinca - sve odgovornijom i sve komoditiranijom u aktima potrošnje, građanstva i potrage za zdravljem i dobrobiti.

Nema takve stvari kao što je neutralna tehnologija.

U fraktalnoj hijerarhiji tehnologije automatizacije nevidljive vrijednosti ugrađene su svuda gdje pogledate.

Postoje vrijednosti - moralne vrijednosti - u svakom izboru dizajna, svakom procesu implementacije, svakoj promjeni organizacijske kulture i u svakom utjecaju na odlučivanje krajnjeg korisnika.

Uokvirivanje automatizacije kao "tehničkog popravka" ili neizbježne primjene tehnologije zatamnjuje drevne filozofske i moralne osnove algoritama strojnog učenja koji su implicitni u automatizacijskom skupu, a prečesto se izvodi na automatskom pilotu umjesto teških i inkluzivnih razgovora o vrijednostima koje se odupiru kvantifikaciji i mjerenju.

Kada je riječ o tehnologiji automatizacije, nikada ne bismo trebali pretpostaviti neutralnost, a kamoli pozitivan napredak. To je posebno važno kada je u pitanju integracija podataka i automatizacija u javnom sektoru. Ista tehnička infrastruktura izgrađena za podršku transparentnosti vlade može se lako implementirati za društvenu kontrolu. Isti slojevi analitike koji obećavaju pravedniji pravni sustav također se mogu koristiti za punjenje privatnih zatvora s marginaliziranim građanima. I isti mehanizmi nadzora koji obećavaju poboljšati javnu sigurnost mogu se mobilizirati da ograniče pristup građanima uslugama.

Kina promovira svoj sustav socijalnih kredita, doslovno temeljeno na vladinoj frazi „nekad nepouzdan, uvijek ograničen“, kao način za poboljšanje povjerenja građana u vladu. Kineski su se dužnosnici prošle godine sastali s kolegama u najmanje 36 zemalja, posebno kako bi podijelili svoj pristup „novim medijima ili upravljanju informacijama“ (čitaj: digitalna kontrola). U Meksiku, gdje već samo 2% građana vjeruje da živi u punoj demokratiji, transparentnost ubrzava odgovornost, ostavljajući za sobom ne samo istinu, već i cinizam i odvojenost. U Brazilu se poznati i ekspanzivan javni integrirani sustav podataka, izgrađen radi automatizacije pružanja socijalnih usluga, povezuje s podacima o zaposlenosti u privatnom sektoru, baš kao što hardliner dolazi na dužnost koji je romantično govorio o vojnoj diktaturi. U Keniji vlada je namjerila katalogizirati geome i geometriju ušiju svakog građanina. U Sjedinjenim Državama se grade javni integrirani podatkovni sustavi koji će uskoro dotaknuti većinu građana.

Da budemo jasni, mnogi posvećeni državni službenici koji upravljaju našim javnim službama s pravom pozdravljaju integraciju podataka; čak je i pristup nadzornim pločama podataka u stvarnom vremenu unutar vlastite agencije još uvijek uvjerljiv potencijal u mnogim okruzima. No, treba upotrijebiti korisnu razliku između podataka koji se koriste za poboljšanje ishoda istraživanjem nasuprot podacima koji se koriste za upravljanje pojedinačnim slučajevima, prediktivnom analitikom, podrškom odlukama i automatiziranim pružanjem usluga. Zabrinut sam što tehnološke tvrtke prodaju javni sektor na viziji automatizacije čiji alati ugrađuju vrijednosti kapitalizma, a ne održivosti; učinkovitost, a ne pravičnost; status quo, a ne pravda. I da napomenem, bez obzira na to koliko se najboljih praksi slijedi u dizajnu i primjeni (kao što je bilo u integriranom podatkovnom sustavu u okrugu Allegheny, PA), u svakoj su priči o automatizaciji barem dvije strane.

Sve slike ovdje su iz ljubaznosti Daniela Rehna na Flickru

Na svakom mjestu koje pogledate, fantazija automatizacije pronalazi kupnju i plodno tlo kako bi posadili svoje sjeme. Unatoč gromoglasnom preljubu koji dolazi od tvrtki koje se bave tehnologijom, to najčešće rade tiho, podmuklo i strateški.

Zajednice koje imaju utjecaja ostaju nesvjesne do prvog kontakta s buggy procesom ili besnim korisničkim iskustvom. Sveučilišni IRB-ovi su stvar za kojom su dugo željeli i još davno zaboravljeni u žurbi s brodom. Sustavi se podižu na veliko iz jednog konteksta, s bijelom oznakom i prelijevaju se u drugi. Prodani obećanjem modernizacije i napretka, naši se čelnici obvezuju osigurati komercijalnu izvanmrežnu društvenu kontrolu.

Želim naglasiti da ništa od ovoga ne osuđuje integraciju podataka, analizu grafova ili strojno učenje. Ovo su vrijedni alati u kompletu koji također moraju uključivati ​​društvene znanosti i angažman dionika. Ali kontekst u kojem su raspoređeni ovi alati postavlja ovisnost o putu. Maštarija koja pokreće kupovinu i namjenu ovih alata zaslužuje pažljiv nadzor. Poslovni modeli koje podržavaju, ugrađene vrijednosti koje kodiraju, stupanj usredsređenosti na osobu, način na koji oni suptilno prebacuju odgovornost između dionika i strukturne nejednakosti za koje prijete da se duboko ugrade. A trenutni kontekst u kojem se prodaju i razmještaju alati za automatizaciju duboko je pogrešan.

Obveze prema angažmanu u zajednici, metodologiji oblikovanja usmjerenoj na osobu i implementacijskim pristupima, rigoroznom i stalnom etičkom pregledu, zadanom uključivanju društvenih znanstvenika i umjetnika u razvojne procese, algoritamsku reviziju i eksplicitnu i sveobuhvatnu raspravu o tome koje se vrijednosti ugrađuju u alate (posebno zrele) za reviziju: neizgovoreni socijalni dogovori između građana i trgovačkih / pravnih mehanizama upravljanja) mogli bi ići dug put prema osiguravanju da automatizacija nije aromatizirana autoritarnošću, ali ne i ako zaspimo za volanom ovog automobila koji se vozi.

Nešto je trulo u središtu sna, a mi se hitno trebamo probuditi - prije nego što automatizirana izgovorena obećanja naše prošlosti prebacimo u samu tkaninu naše budućnosti.