Pogrešena logika u srcu fantastike za automatizaciju

Tehnologija se ne rješava za povjerenje, odgovornost ili rad - prebacuje odgovornost sa sustava na pojedince.

U privatnom, javnom i neprofitnom sektoru primjenjuje se uobičajeni recept za rastuće zalihe podataka: interoperabilnost → integracija → optimizacija → automatizacija.

Obećavajući ulazak u doba "pametnih gradova", "učinkovitih usluga" i "neograničenog slobodnog vremena", automatizacija je fantazija koja pokreće trenutnu revoluciju u poslovanju i birokraciji.

Preplavljeni ogromnom količinom informacija (koje se mogu osobno prepoznati i na drugi način) koje su generirale vaše operacije u digitalnom dobu? Da se ne bojimo, ovdje je doba automatizacije.

Jedna hrpa koja ih sve rješava

Automatizacija obećava (jeftino) poštivanje. Štuje se na oltaru učinkovitosti. Oslikava vaše opake probleme kao ispravljanje, a vaše složene sustave, kao niz linearnih uzročno-posljedičnih veza koji čekaju da ih razdvojimo. Ne razlikuje vrste problema i procese s kojima se suočavaju privatne i javne institucije. Ne samo da će ukloniti vaše podatke za dijamante, već će i sjeći i polirati kamenje. Jednostavno rečeno, to će "promijeniti svijet."

Organizacije ne aktiviraju samo vlastite podatke. Najbolji uvidi dolaze iz analize ogromnih podataka iz različitih izvora. Zbog toga agencije iz javnog sektora objedinjuju podatke putem usluga i zašto tvrtke potrošača gube osobne podatke svojih kupaca. Kako navodi New York Times, američke su kompanije u 2018. godini potrošile blizu 20 milijardi dolara na nabavu i obradu podataka o potrošačima. Obećana logika te potrošnje ide ovako:

U koraku 1, interoperabilnost, podaci su strojno čitljivi i probavljivi. Dani su ručno digitalizirali PDF-ove. Rastuća hrpa alata, uključujući skenere, računalni vid i algoritme za obradu prirodnog jezika, postaje sve bolja u skupljanju čak i najneprozirnijih podloga podataka i regurgitaciji izvađenih i sastavljenih podataka, zrelih za analizu. Uz analizu grafova, čak i najrazličitiji skupovi podataka mogu se slojevito razmnožavati.

U koraku 2, integracija, podaci iz zasebnih sustava pridružuju se i čine dostupnima putem sučelja, nadzorne ploče i baze podataka. Uzdužni istraživači, radujte se! Silosi su raspoređeni. Grafikoni se analiziraju. Prethodno se neviđeni odnosi modeliraju i vizualiziraju. Trendovi se najavljuju, rastvaraju njihova snaga i usmjerenost i poslužuju kao „uvid“.

U trećem koraku, optimizacija, algoritmi se postavljaju na hrpu koja obećava da će učiniti stvari poput "preporučiti", "personalizirati" i "predvidjeti" mnogo bolje nego što to iko može ikada ikada mogao. Umjesto kompliciranog angažmana dionika s njegovim neredovitim raspravama o vrijednostima, ovi algoritmi bacaju pažnju na logiku naših prošlih odluka i dominantnih narativa - od kapitalizma i neoliberalnog institucionalizma. Oni vode prema učinkovitosti. Voze prema rastu. Ako su sustavi prethodnika koji su generirali svoje unose povijesnih podataka bili održivi, ​​pravedni ili fer, algoritmi bi mogli biti previše. Ako ne, naprijed - ubrzajte kolaps.

U koraku 4, automatizacija, novi algoritmi dobivaju se nove odgovornosti. Gradeći na hrpi koja već tvrdi da bolje razumiju dinamiku i odnose sustava, oni sada nude reorganizaciju mehanizama odgovornosti i struktura donošenja odluka. Oni određuju kreditnu sposobnost. Raspoređuju zdravstvene beneficije. Oni predviđaju pristup javnim uslugama - na prethodno ortogonalno ponašanje ili na nečijoj sposobnosti dokazivanja svog identiteta.

Jao. U najmanju ruku, obećana zemlja izgleda kao da pokušava stvoriti DHS digitalni račun u Arkansasu, a nažalost nije lijep.

"Budućnost je već ovdje - samo neravnomjerno raspoređena"

S mog trenutnog stanja u filantropiji vidim kako se promjena događa svugdje - različitim brzinama na različitim mjestima, mijenjajući sam temelj za posao koji želimo raditi u sektorima i regijama - ponekad podmuklo, uvijek neumoljivo.

U prošlosti sam radio u javnom sektoru (DoD-ov Cebrowski institut), privatnom sektoru (sindicirano istraživanje tehnološke budućnosti) i u međusektorskom savjetovanju (razvijajući inovacijske ekosustave za nagradna natjecanja za poticaj). U relativno kratkom vremenu ušao sam u puni krug od entuzijasta za tehnički angažman (u dobi od 24 godine, opisao sam sebe u prijavi za posao kao „nosivog evanđelista“) do opreznog sumnjičavog u sposobnost tehnologije da pozitivno intervenira u ljudskim sustavima.

Prošle godine sam bio na sastanku u Sand Hill Rd., Udarajući po bubnju o etičnosti i pravednosti centriranja u razvoju automatiziranih sustava javnog sektora, kad je entuzijasta koji osniva i financira podatke vrlo ozbiljno pitao: "Zašto to nastavljaš - kao, što bi moglo poći po zlu? "

U ovom trenutku, iz moje perspektive, manje je onoga što bi moglo poći po zlu i više od onoga što već imamo. Nešto je trulo u središtu fantazije o automatizaciji.

Automatizacija se odvija pod mnogim imenima ("umjetna inteligencija", "algoritamsko odlučivanje" itd.), Ali voli sakriti svoju istinsku prirodu. Evo nekoliko od mnogih lica koja nosi.

Smeće unutra, Smeće van.

A najveći dio je smeće.

Naravno, "veliki podaci" otkrili su korelacije i odnose koji omogućuju unovčavanje, stvaranje vrijednosti i poboljšanu isporuku usluge (možda manje nego što mislite). Ali to je uglavnom usprkos kvaliteti i istinitosti podataka, a ne zbog toga.

Da citiram jednog od mnogih nesretnika, ono što gradimo zapravo nije umjetna inteligencija, to je (pogrešna) ljudska inteligencija na skali industrijske društvene mehanizacije - da, čovjek iza zavjese još uvijek se vrti na civilizacijskim ručicama. I da, to je doista bijelac koji nosi teretne gaćice s čarapama i sandalama u Palo Altu.

Planiranje se često prikriva kao predviđanje.

Na skali, algoritmi stvaraju budućnost koju prognoziraju.

Kad strojevi precizno predviđaju, to je trijumf statusa quo, a ne predviđanja.

Češće, kao i s ljudima, oni čine samoispunjavajuća se proročanstva. Poslužit će vam se više istog, brže ovaj put, preciznije i uz manje vašeg unosa. Za preporuku što sljedeće gledati na Netflixu, ovo je zaista sjajno. Ne želim prestati voljeti znanstveno-fantastične filmove s jakim ženskim ulogom. (U slučaju da nije probio vaš filter filter, nemojte spavati na instant kampu Klasična piramida.)

Ali kad je riječ o pružanju usluga u javnom sektoru i sustavima koji imaju stvarni utjecaj na obitelji i sredstva za život, to je drugačija priča. Zašto bismo namjerno modelirali buduće odlučivanje o prošlim obrascima, za koje znamo da su sustavno pristrasni, nepošteni, neravnopravni, diskriminatorni, a u mnogim slučajevima i ideološki neodgovorni, ako ne i opasni? Naravno, algoritmi su prilično dobri u učenju iz prošlih obrazaca do projiciranja budućih odluka. Ali u bezbroj sustava to je zadnje što bismo trebali poželjeti.

Trenje je motor stabilnosti - i napretka.

Zdravi sustavi uspevaju na rubu kaosa.

Automatizacija stiže pod znakom „napretka“, ali otkriva sebe kao agent stagnacije.

Trenje - borba - smatra se da je pokretačka snaga biološke evolucije, upotrebe alata i razvoja tehnologije, uspješnog imunološkog sustava i još mnogo toga. Pa ipak, u knjizi recepata za automatizaciju, to je prvo na popisu supstitucija sastojaka.

Bolesno što morate sami raditi? Algoritmi će pribaviti ogromne zalihe informacija, tako da ne morate. Bolesno čekate u redu? Algoritmi mogu optimizirati vrijeme vašeg dolaska. Bolestan sastavljanja odgovora kao dijela osnovne ljudske komunikacije? Algoritmi mogu sugerirati odgovor nepristojno upravo vi.

Ali što je ulog u ovom žurbi za podmazivanje svake (trans) akcije? Što se može izgubiti kada više ne moramo čekati, trpjeti dosadu, boriti se, razmišljati o tome ili čak pokušati?

Optimizacija i utjecaj suptilni su oblici kontrole.

Posuđujući iz ad-tech poslovnih modela, krajnja igra automatizacije u kapitalističkom društvu nije samo prodaja više stvari, već zapravo osmišljavanje ljudskog ponašanja.

Automatizacija rudarstva podataka koja se temelji na automatizaciji nadzora ona je koja podržava nadzorni kapitalizam i želi zamutiti našu agenciju, osloboditi nas svetišta i izbrisati našu nepredvidivost. Kao što Shoshana Zuboff kaže: "Zaboravite na kliše da ste proizvod - ako niste besplatni, niste proizvod, već samo besplatni izvor sirovina od kojih se proizvodi prodaju i kupuju ... Vi niste proizvod, vi su napušteni lešin. "

U “Algoritmu i bluesu: Tiranija dolazeće pametne tehnike utopije”, Brett Frischman opisuje neke od ideologija u srcu “pametne tehnologije” i automatizacije:

„Navodno će pametni telefoni, rešetke, automobili, kuće, odjeća i tako dalje učiniti naš život lakšim, boljim, sretnijim. Te su tvrdnje duboko ukorijenjene u pametno-tehnološkoj utopijskoj viziji koja se temelji na prethodnim tehno-utopijskim vizijama kao što je kiber-utopijanizam, ali i ekonomsko-utopijskim vizijama poput Coaseanove ideje o tržištima bez trenja, savršeno učinkovitim tržištima i taylorističkoj viziji znanstveno upravljanih, savršeno produktivnih radnika. U našem suvremenom digitalnom umreženom svijetu te vizije znatno prevazilaze originalni kontekst idealiziranog interneta, tržišta i radnih mjesta. Smart-tech može upravljati mnogo više naših života. "

U mašinskom učenju nema magije.

Samo one i nule, grafikoni i korelacije.

Ne postoji magija u strojnom učenju, samo kaskadan tijek abdiciranog donošenja odluka (a time i odgovornosti). Naravno, neravnoteže moći koje su svojstvene svijetu u kojem neki ljudi donose odluke u ime drugih ljudi (da ništa ne govorimo o nečovjecima) dosta su problematične, no jesmo li doista toliko sigurni da će glorificirane matematičke jednadžbe učiniti bolji posao?

Razgovarajući s New York Timesom, djed računalnog programiranja Donald Knuth nedavno je priznao: "Zabrinut sam što algoritmi postaju previše istaknuti u svijetu. Ispostavilo se da su se računalni znanstvenici brinuli da nas nitko ne sluša. Sada se brinem da previše ljudi sluša. "

Jasno je da su mnogi donositelji odluka već pomislili kako su strojevi prikladniji za odabir nego mi. Kodeks je nadležan za važne sustave i odluke, u mnogim slučajevima bez razmišljanja o postupcima za naknadu štete ili presude. Tko si može priuštiti dugu pravnu bitku za traženje naknade nakon što algoritam buge negira zdravstvo? Ironično je da samo oni čiji prihod im onemogućuje da uopće trebaju pristup javnim uslugama.

Tko pobjeđuje - a tko gubi - u automatiziranom svijetu?

Automatizacija obećava da će uvesti potpuno nove oblike nejednakosti.

Sve se više prodaje pristup uslugama koje eksplicitno ljudsko lice stavljaju na automatizaciju pružanja usluga. A u automatiziranom svijetu privatnost i utočište su privilegije koje plaćate.

„Bolje nikad ne znači bolje za sve. Za neke to uvijek znači i gore. "- Margaret Atwood

Za pregled tko planira pobijediti u dugoj igri, pogledajte neke od najglasnijih zagovornika automatizacije:
+ Međamerička razvojna banka (IDB) promovira uporabu prediktivne analitike u javnom sektoru, što je dio tekućeg fetiša koji se također naziva "podacima za razvoj".
+ Za IBM su podaci novo ulje. Za poslovne softverske tvrtke automatizacija je ono što je večera, a javni sektor je veliko tržište u nastajanju.
+ Kao što smo čuli od Facebooka Marka Zuckerberga kad ga je (slabo) izazvao Kongres o gotovo bilo kojem problemu s platformom koja sada posreduje u globalnoj potrošnji informacija (u početku dizajnirana da smanji trenje povezano s odjavom prvašića): algoritmi će to popraviti.
+ Velike konzultantske firme poput Accenture imaju koristi od onoga što nazivaju "tehnološkom vizijom". McKinsey je ovog tjedna pod vatrom zbog pomaganja i legitimiranja autoritarnih vlada.

U osnovi, kompromisi se podrazumijevaju u automatiziranoj budućnosti. Prodaju nam se roba na temelju pretpostavljene vrijednosti učinkovitosti, ali čine nevidljive kompromise u kapitalu. Obećana nam je sloboda od trenja, ali na kraju gubimo serendipity. Naši sustavi optimiziraju raspodjelu resursa, ali samo time što nas čine kontinuirano anketiranim i sve odgovornijim za upravljanje našim interakcijama sa sustavom. Radujemo se budućnosti u kojoj se droga vrši strojno, ali se borimo za zamišljanje držanja ljudskog dostojanstva i značajnih života. Zavedeni smo logikom izravnog mjerenja i procjene, ali zaboravimo da se ne može mjeriti sve što je važno.

Strukturna nejednakost čvrsto stoji u analitičkoj blistavoj automati.

Prekomjerno oslanjanje na analizu podataka funkcionalno daje prednost korelacijama koje linearna algebra dobro uočava - ali ne i one koje proizlaze iz složene dinamike sustava.

Do sada su pristrani algoritmi dobro poznati problem. Budući da se oslanjaju na prošle podatke, oni podliježu kodificiranju loših obrazaca, temeljenih na prikupljanju loših podataka, nepravičnoj povijesnoj raspodjeli usluga (a time i nadzoru nad malim dohotkom i manjinskim stanovništvom) te unaprijed utvrđenim pretpostavkama. Dokaze ove pristranosti možemo vidjeti u rasističkim i seksističkim ishodima napora automatizacije kroz sektore.

Ali uz sav fokus na uvođenju pravednosti, odgovornosti i transparentnosti u strojno učenje, još uvijek ne vidimo šumu za drveće. Konkretno, pokušaji ispravljanja pristranosti u algoritmima obično ne uzimaju u obzir strukturne nejednakosti. Budući da je ukorijenjena i rođena iz povijesnih podataka, automatizacija zna samo kako produbiti brazde postojećih obrazaca, vrednujući samo one varijable koje su izolirane za mjerenje i potom smislene zbog svog odnosa prema drugim mjernim podacima.

Ali upravo ćemo strukturni ekosustav u kojem se koristi automatizacija morati problematizirati i pozabaviti ako želimo ispuniti obećanje analitičkih alata. Legitimno otporna na statističke analize, voda u kojoj plivamo - bogata gulaša puna pripovijesti o dominaciji, ideologijama rasta i potrošnje, temeljnim lažnim dihotomijama, bespoštednom udruživanju, sveprisutnim dezinformacijama i ekološkom fatalizmu - je nešto na čemu možemo vidjeti rubove ali jedva nadmašuju.

S automatizacijom, transcendencija nije u ponudi. Optimizacija, da. Ublažavanje, možda. Rješenja, samo u ime. Umjesto toga, fantazija automatizacije nosi etos izuzetnosti i arogantne privlačnosti „kraja povijesti“. Fantastizacija automatizacije sugerira uvođenje analitike u zaključke u strukturama statusa quo. To je poseban pogled na "napredak". To bi moglo biti puno bolje, sugerira sve dok distribucija moći i resursa na visokoj razini ostane gotovo jednaka.

Gledajući algoritme koji obećavaju revoluciju u zdravstvu, Shannon Mattern piše:

Štoviše, slijepa vjera da će sveprisutno prikupljanje podataka dovesti do "otkrića koja imaju koristi svima" zaslužuje skepticizam. Empirijske studije velikih razmjera mogu pojačati razlike u zdravstvu, posebno ako demografske analize nisu utemeljene na specifičnim hipotezama ili teorijskim okvirima. Etičarka Celia Fisher tvrdi da studije poput Human Project-a trebaju jasno definirati "što znači klasa, rasa i kultura, uzimajući u obzir kako te definicije neprekidno oblikuju i redefiniraju društvene i političke snage", te kako su određene grupe marginalizirane, čak i patologiziran, u medicinskom diskursu i praksi. Istraživači koji izvode zaključke na temelju promatranih korelacija - neeteriziranih, a ne historiciziranih - riskiraju, „kaže, da zdravstvenim problemima pripisuju genetske ili kulturne sklonosti u marginaliziranim skupinama, a ne politikama koje održavaju sistemske političke i institucionalne nejednakosti u zdravstvu.“ - Shannon Mattern, "Podaci u kodnom prostoru"

Automatizacija prebacuje teret odgovornosti s sustava na ljude.

Mit o neograničenom slobodnom vremenu kroz automatizaciju već zvuči lažno.

U automatiziranom svijetu procesi su redizajnirani kako ne poboljšati korisničko iskustvo, već povećati profitnu maržu i / ili smanjiti rashode za ljudski kapital.

No, kako pokazuju istraživanja Karen Levy o kamionima, automatizacija ne zamjenjuje ljude onoliko koliko ih napada. Poput nasilnog bivšeg partnera, on nadgleda, napada, kontrolira i manipulira, dok zahtijeva intiman pristup tijelu i zahtijeva sve veći pristup uma.

Bez intervencije oni koji su već na marginama bit će dodatno marginalizirani. A kada se automatizacija koristi u službi statusa quo, vrijednost se uzima i / ili nevidljiv rad zahtijeva od svake osobe koja komunicira s automatiziranim sustavima.

Pacijentica je sada koordinatorica i zagovornica vlastite skrbi. Potrošač se aktivno troši u tekućem ciklusu potrošnje. Građanin je sada arbitar vlastite istine i kustos vlastitog značenja. Širom sektora nevidljiva (i neplaćena) radna snaga koja je sada nužna da bismo upravljali sustavima u koje smo neraskidivo uključeni otkrivaju nam - pojedinca - sve odgovornijom i sve više komodiziranom u aktima potrošnje, građanstva i potrage za zdravljem i dobrobiti.

Nema takve stvari kao što je neutralna tehnologija.

U fraktalnoj hijerarhiji tehnologije automatizacije nevidljive vrijednosti ugrađene su svuda gdje pogledate.

Postoje vrijednosti - moralne vrijednosti - u svakom izboru dizajna, svakom procesu implementacije, svakoj promjeni organizacijske kulture i u svakom utjecaju na odlučivanje krajnjeg korisnika.

Uokvirivanje automatizacije kao "tehničkog popravka" ili neizbježne primjene tehnologije zatamnjuje starovjekovne filozofske i moralne osnove algoritama strojnog učenja implicitnih u skupu automatizacije, prečesto se izvodeći na automatskom pilotu umjesto teških i inkluzivnih razgovora o vrijednostima koje se odupiru kvantifikaciji i mjerenju.

Kada je riječ o tehnologiji automatizacije, nikada ne bismo trebali pretpostaviti neutralnost, a kamoli pozitivan napredak. To je posebno važno kada je u pitanju integracija podataka i automatizacija u javnom sektoru. Ista tehnička infrastruktura izgrađena za podršku transparentnosti vlade može se lako implementirati za društvenu kontrolu. Isti slojevi analitike koji obećavaju pravičnost kaznenih pravosudnih sustava također se mogu koristiti za punjenje privatnih zatvora s marginaliziranim građanima. I isti mehanizmi nadzora koji obećavaju poboljšati javnu sigurnost mogu se mobilizirati da ograniče pristup građanima uslugama.

Kina promovira svoj sustav socijalnih kredita, doslovno temeljeno na vladinoj frazi „nekad nepouzdan, uvijek ograničen“, kao način za poboljšanje povjerenja građana u vladu. Kineski su se dužnosnici prošle godine sastali s kolegama u najmanje 36 zemalja, posebno kako bi podijelili svoj pristup „novim medijima ili upravljanju informacijama“ (čitaj: digitalna kontrola). U Meksiku, gdje već samo 2% građana vjeruje da živi u punoj demokratiji, transparentnost napreduje ispred odgovornosti, ostavljajući za sobom ne samo istinu, već i cinizam i odvojenost. U Brazilu se poznati i ekspanzivan javni integrirani sustav podataka, izgrađen radi automatizacije pružanja socijalnih usluga, povezuje s podacima o zaposlenosti u privatnom sektoru, baš kao što hardliner dolazi na dužnost koji je romantično govorio o vojnoj diktaturi. U Keniji je vlada postavila katalogizirati genom i geometriju ušiju svakog građanina U Sjedinjenim Državama se grade javni integrirani podatkovni sustavi koji će uskoro dotaknuti većinu građana.

Da budemo jasni, mnogi posvećeni državni službenici koji upravljaju našim javnim službama s pravom pozdravljaju integraciju podataka; čak je i pristup nadzornoj ploči s podacima u stvarnom vremenu unutar vlastite agencije još uvijek uvjerljiv potencijal u mnogim okruzima. No, treba upotrijebiti korisnu razliku između podataka koji se koriste za poboljšanje ishoda istraživanjem nasuprot podacima koji se koriste za upravljanje pojedinačnim slučajevima, prediktivnom analitikom, podrškom odlukama i automatiziranim pružanjem usluga. Zabrinut sam što tehnološke tvrtke prodaju javni sektor na viziji automatizacije čiji alati ugrađuju vrijednosti kapitalizma, a ne održivosti; učinkovitost, a ne pravičnost; status quo, a ne pravda. I da napomenem, bez obzira na to koliko se najboljih praksi slijedi u dizajnu i primjeni (kao što je bilo u integriranom podatkovnom sustavu u okrugu Allegheny, PA), svaka priča o automatizaciji ima najmanje dvije strane.

Sve slike ovdje su iz ljubaznosti Daniela Rehna na Flickru

Na svakom mjestu koje pogledate, fantazija automatizacije pronalazi kupnju i plodno tlo kako bi posadili svoje sjeme. Unatoč groznom hypeu koji dolazi od tvrtki koje se bave tehnologijom, to najčešće rade tiho, podmuklo i strateški.

Zajednice koje imaju utjecaja ostaju nesvjesne do prvog kontakta s buggy procesom ili besnim korisničkim iskustvom. Sveučilišni IRB-ovi su stvar za kojom su dugo željeli i još davno zaboravljeni u žurbi s brodom. Sustavi se podižu na veliko iz jednog konteksta, s bijelom oznakom i prelijevaju se u drugi. Prodani obećanjem modernizacije i napretka, naši se čelnici obvezuju na isporuku komercijalne izvanmrežne društvene kontrole.

Želim naglasiti da ništa od ovoga ne osuđuje integraciju podataka, grafičku analizu ili strojno učenje. Ovo su vrijedni alati u kompletu koji također moraju uključivati ​​društvene znanosti i angažman dionika. Ali kontekst u kojem su raspoređeni ovi alati postavlja ovisnost o putu. Maštarija koja pokreće kupovinu i namjenu ovih alata zaslužuje pažljiv nadzor. Poslovni modeli koje podržavaju, ugrađene vrijednosti koje kodiraju, stupanj usredsređenosti na osobu, način na koji oni suptilno prebacuju odgovornost između dionika i strukturne nejednakosti za koje prijete da se duboko ugrade. A trenutni kontekst u kojem se prodaju i razmještaju alati za automatizaciju duboko je pogrešan.

Obveze prema angažmanu u zajednici, metodologiji oblikovanja usmjerenoj na osobu i pristupima provedbi, rigoroznom i trajnom etičkom pregledu, zadanom uključivanju društvenih znanstvenika i umjetnika u razvojne procese, algoritamsku reviziju i eksplicitnu i sveobuhvatnu raspravu o tome koje su vrijednosti ugrađene u alate (posebno zrele) za reviziju: neizgovoreni društveni dogovori između građana i trgovačkih / pravnih mehanizama upravljanja) mogli bi ići dug put prema osiguravanju da automatizacija nije aromatizirana autoritarnošću, ali ne i ako zaspimo za volanom ovog automobila koji se vozi.

Nešto je trulo u središtu sna, i mi se hitno trebamo probuditi - prije nego što automatizirana izgovorena obećanja naše prošlosti prebacimo u samu tkaninu naše budućnosti.