Cambridge Analytica: Studija slučaja biheviorizma Run Amok

Fotografirao Jefferson Santos na Unsplash-u

Korištenje podataka o ljudima kako bi ih manipulirali nije ništa novo. Psiholozi nazivaju teoriju uma kao sposobnost pripisivanja različitih mentalnih stanja drugima. Jednom kada počnemo razvijati teoriju uma, vrlo brzo se koriste informacije koje smo stekli o drugima u našu korist. Iako ovo nije jedinstveno ljudska sposobnost, naša sposobnost jezika i veliki mozak omogućili su nam da iskoristimo daleko veće prednosti od bilo koje druge vrste na planeti.

Jedan pokazatelj teorije uma je sposobnost obmane. Životinje to rade stalno. U nekim slučajevima obmana se evolucijom zapravo utječe u biologiju bića. Čak i u insektima i biljkama možemo pronaći primjere lažnih signala kojima je cilj prenijeti poruku potencijalnim grabežljivcima da su otrovni ako u stvari nisu. Ali kad je u pitanju lubanja, čovječanstvo može dostići razinu sofisticiranosti koju druge vrste nisu ni mogle ni zamisliti, a kamoli primijeniti.

Najnoviji primjer upotrebe informacija izvađenih iz našeg društvenog okruženja i iskorištenih u štetne svrhe uključuje uporabu podataka prikupljenih od oko 50 milijuna korisnika Facebooka od strane Cambridge Analytica, tvrtke specijalizirane za ciljanje birača i potrošača u ime klijenata kako bi se „ pokreni ih u akciju. "

Ako ste tek stigli s Marsa, možda će vam biti oprošteno što mislite da je možda tvrtka iz Londona sa podacima o akademskim vezama s jednim od najpoznatijih engleskih sveučilišta prva koja je ozbiljno poduzela pokušaj namjerne manipulacije milijunima ljudi bez ikakvog znanja ili znanja pristanak. Međutim, takva manipulacija igra sve jaču ulogu u našem društvu od početka 20. stoljeća.

Od avenije Madison do političkih prijestolnica širom svijeta, najnovije ideje psihologije o tome zašto ljudi vjeruju i ponašaju se onako kako ponašaju se povećavaju fascinaciju od najmanje prvog svjetskog rata. Uostalom, ništa ne zahtijeva dobar prodajni teren više od rata protiv čega se bori iz razloga koji su neprozirni poput krvi muljevitog blata Somme i Verduna.

Propagandni plakat iz Prvog svjetskog rata

U svojoj knjizi Kako djeluje propaganda, filozof Jason Stanley ovako opisuje propagandnu privlačnost:

Propaganda nije jednostavno zatvaranje racionalne rasprave pozivanjem na emocije: često su emocije racionalne i prate razloge. Radije uključuje zatvaranje rasprave "emocijama odvojenim od ideja." Prema tim klasičnim karakteristikama propagande, formiranim u razmišljanju o dva velika rata dvadesetog stoljeća, propaganda zatvara raspravu zaobilazeći racionalnu volju ... Propaganda je manipulacija racionalne volje za zatvaranjem rasprave.

Biheviorizam je bio među prvim nefreudovskim teorijama koje su se pojavile na području psihologije u razvoju. Ideje nisu toliko zatvorene koliko su skrojene prema napretku bilo kojeg pojma koji se dogodi, bez brige ni za njegovu valjanost ni za etičke implikacije. John Watson, utemeljitelj biheviorizma, bio je živi testament amoralnog karaktera nauke o ljudskoj prirodi koji je promovirao. Njegovi su eksperimenti mogli biti okrutni, ali činilo se da to čini kako opravdava sredstva u njegovu umu. Iako sam po sebi oblik propagande, bihevioristički linearni mehanistički pojmovi ljudske motivacije učinili su ga savršenom psihološkom teorijom kako za vlade tako i za industrije koja sve više traže „znanstvena“ sredstva masovne manipulacije.

Za razliku od Freudovaca i Jungijanaca koji su mu prethodili, Watson je vidio ljude kao odmjerene i pomalo sofisticirane verzije Pavlovih pasa. Možda nismo pljuvali kao očito kad smo čuli poslovično zvono, ali naši odgovori na podražaje obično nisu bili manje uvjetovani. Što je još važnije, iz perspektive oglašivača, političara, obavještajnih agencija i drugih zainteresiranih strana, Watson-ova teorija o ljudskoj prirodi učinila nas je predvidljivima i došla je bez neurednih i često zbunjujućih interpretacija ljudske psihe po kojima su poznati muškarci poput Freuda i Jung-a.

Kako bi demonstrirao da se ljudi u konačnici ne razlikuju od Pavlovih poznatih očnjaka, Watson je eksperimentirao na jednomjesečnom mjesecu nazvanom "mali Albert". Ovo je novorođenče bilo uvjetovano strahom od štakora, iako se pokazalo da je test imao druge učinke koji su izvan onoga što je čak Watson mogao predvidjeti. Tim Wu u časopisu The Trade Merchants, pisac medija i tehnologije opisuje eksperiment "Little Albert" na sljedeći način:

„[Watson je izazvao fobiju štakora] udarajući metalnu šipku čekićem iza djetetove glave svaki put kada mu se pokazao bijeli štakor. Nakon sedam tjedana kondicioniranja, dijete, u početku prijateljski raspoloženo prema glodavcu, počelo ga se bojati, puknuvši od suza kad ga je vidio. Dijete se, zapravo, počelo bojati bilo čega bijelog i krznenog - Watson se hvalio da se "sada boji čak i Djeda Mraza."
Film još uvijek iz pokusa Little Albert prikazuje bebu Alberta s kunićem, na čelu s dr. Johnom Watsonom i Rosalie Rayner. (Wikimedia)

Treba biti očigledno zašto biheviorizam ima veliku privlačnost u oglašivačkoj industriji i određenim profesionalnim političkim kampanjama željnim pronaći prečicu do srca i umora biračke javnosti. Ako u stvari možemo biti uvjetovani da odgovorimo na određenu poruku ili signal kupnjom određenog proizvoda ili glasajući na određeni način, osoba ili tvrtka koja će pronaći najbolje sredstvo za kondicioniranje većine ljudi će se doslovno obogatiti prodajom ove usluge najvišim ponuđač.

Do danas se previdi činjenica da „mali Albert“ nije razvio samo fobiju štakora, već i druge stvari. U siromašnom Albertovom umu bezopasni zečevi i dobroćudni, ako izmišljeni likovi poput Djeda Božja imaju dovoljno sličnih nejasnih svojstava da izazovu anksioznost. Drugim riječima, Watson nije toliko dokazao da kondicioniranje djeluje na ljude - ili barem na ljude u najranijim fazama emocionalnog i kognitivnog razvoja - koliko pokazuju da kondicioniranje proizvodi sve vrste nenamjernih odgovora osim namjeravanih. To potencijalno ostavlja prediktivnu moć biheviorizma podmućenom i neučinkovitom kao homeopatski lijek. Također postavlja brojna trnovita etička pitanja koja se tiču ​​njegove primjene na pojedince i velike skupine.

Da sav biheviorizam u konačnici pokazuje je da će, pod „ispravnim“ okolnostima, ljudi početi povezivati ​​dvije ili više međusobno nepovezanih stvari, nije ga spriječilo da ima snažan placebo efekt na korporacije i kandidate uvjerene žalbom na pojednostavljene formularne pristupe do ljudske složenosti. Upravo je takva vrsta žalbe Cambridge Analytica uspjela iskoristiti.

Dajte mi desetak zdravih novorođenčadi, dobro oblikovanog i moj vlastiti određeni svijet da ih odgajim i garantiram da ću ga nasumično odvesti i osposobiti ga da postane bilo koji specijalist kojeg bih odabrao - liječnika, pravnika, umjetnika, trgovački načelnik i da, čak i prosjak-lopov, bez obzira na talente, sklonosti, sklonosti, sposobnosti, zvanja i rasu svojih predaka. ~ John Watson
Rad Cambridge Analytice na Trumpovoj kampanji jasan je primjer kako marketinške tehnike usmjerene na podatke mogu promijeniti ponašanje u ciljanoj populaciji. Primijenjene u komercijalnom sektoru, ove tehnike mogu strateški angažirati vašu ključnu publiku, poboljšavajući stope pretvorbe i povećavajući prodaju. ~ Web stranica Cambridge Analytica

Vijest je već duže vrijeme prepuna priča o sposobnosti društvenih medija da pruže uvid u ljudsko stanje koje inače ne bismo imali. Do sada smo svi čuli ili čitali o potencijalu da Googleovi trendovi pretraživanja otkriju sve, od pandemije gripa do naših tajnih seksualnih želja i zastoja. Ove priče uvjerile su velik dio javnosti, kao i industrije, vlada i drugih institucija moć društvenih medija kao analitičkog alata.

Nije da Google pretraživanja ne govore ništa o nama. Samo što gotovo sve što radimo govori nešto o nama. Da bismo doista došli do srži materije, moramo se uz korelaciju pozabaviti i izrazitošću i kontekstom. To zahtijeva pravo istraživanje i takav napor zahtijeva novac. Zato je tako malo onih koji su spremni sudjelovati na istinski smislene načine s podacima koje društveni mediji bilježe.

Evo samo nekoliko pitanja koja bismo trebali postaviti:

  • Što točno otkriva određena točka podataka i kako je treba odmjeriti sa svim ostalim radnjama koje osoba poduzme tijekom svog dana?
  • U kojoj su mjeri dva ili više ljudi koji kliknu na ikonu palca gore pod istom pričom pokazatelj da ti pojedinci imaju iste ili slične osobine ličnosti?
  • U mjeri u kojoj su ljudi mogli biti uvjetovani da „vole“ (ili ne vole) nešto u tradicionalnijem smislu ili u kontekstu društvenih medija, u kojoj su mjeri isti okolišni i društveni utjecaji uvjetovali da to učine?

Kao i u ostatku života pojedinca, i popis varijabli koje utječu na čovjekov izbor na internetu brzo se dobiva. Da biste saznali kakvi su, nužno će uključivati ​​i više od pretraživanja podataka samo za uzorke. Uključit će daljnje intervjue ili druge oblike izravnog doprijevanja do znanja s velikim brojem ljudi koji u prvom redu daju podatke. Ikona "like" na Facebooku ne dopušta osobi da označi koliko je osoba na skali od 1 do 10 voljela dotični post. Ni Facebook ne pruža padajući izbornik koji ljudi mogu upotrijebiti za odabir onoga što ih je motiviralo da im se svidi. Možda su imali jaču povezanost s osobom koja je dijeli nego što je to činio sam sadržaj. Tko zna? Svakako da se nijedna od tvrtki tamo ne postavlja kao čarobni algoritam koji otkriva odgovore na ta pitanja.

Ali ni posebno znanstveni integritet niti etički standardi nisu bili visoko na listi prioriteta Cambridge Analytice kada su dobili pristup Facebook navikama 50 milijuna korisnika i počeli pretraživati ​​podatke za uzorke. Kao što je to obično slučaj kada je riječ o upotrebi velikih podataka, fokus je gotovo u cijelosti na korelaciji s malo i malo napora koji se ulaže u naknadno istraživanje potrebno za utvrđivanje što, ako ništa drugo, korelacije pronađene u podacima zapravo znače ,

I stopa kriminala i potrošnja sladoleda povećavaju se ljeti, ali ne slijedi da kriminalci poput sladoleda ili da konzumiranje sladoleda uzrokuju kriminal. Osim toga, piratstvo je opadalo kako su se globalne temperature povisile. Treba li zaključiti da su klimatske promjene stoga povezane sa padom piratstva? Ovo su blesavi primjeri, ali ne blesaviji od mnogih onih koje zapravo tvrtke za analizu podataka nude kao dokaz koncepta. Web stranica Cambridge Analytica zapravo ukratko navodi povezanost koju su pronašli između vlasništva automobila i povijesti glasovanja, hvaleći se da je to vrsta informacija koju kandidat može očekivati ​​u svojoj ogromnoj bazi podataka. To nema razloga vjerovati da će nam znanje o tome što osoba vozi reći nešto smisleno u vezi s njihovim problemima kao građanin, izgleda da čak nije ni došlo Cambridgeu Analytici, niti očito njihovim klijentima.

Bez obzira na to, ne bismo li imali mnogo kandidata koji pregledavaju dosjee koji opisuju kako se zapravo osjećamo u pogledu obrazovanja, zdravstva i okoliša, umjesto da analiziramo naše evidencije o vlasništvu automobila i vozačke navike zbog tragova o tome kako smo skloni glasati u sljedećem izbori? Nažalost za nas, niti Cambridge Analytica niti druge ciljne tvrtke ne brinu mnogo o znanosti koja stoji iza njih. Čini se da ih još manje brine, ako je to moguće, o građanima. Kao i John Watson prije njih, oni iskreno vjeruju da su ljudi uistinu programibilni strojevi od kojih se može ponašati na poseban način ako samo oni mogu prepoznati odgovarajuće tipke za povezivanje koje moraju pritisnuti. Za njih nismo građani, supružnici, roditelji, braća i sestre ili prijatelji. Svi smo samo njihovi mali Alberti.

Tim Wu ističe u trgovcima s pažnjom da ciljanje nije baš nov fenomen. Da možemo dati određene pretpostavke o ljudima prema mjestu gdje žive, časopisi na koje se pretplaćuju, bilo da oni tjedno posjećuju crkvu ili ne, odavno se tvrdi.

Naravno da ove tvrdnje nisu u potpunosti bez temelja na razini stanovništva. Međutim, nikad nije sigurno pretpostaviti da samo zato što osoba živi na određenom mjestu ili pripada određenoj skupini dijele iste stavove ili uvjerenja koja se u prosjeku mogu poistovjetiti s grupom kao cjelinom. Svaka zajednica ima svoje odmetnike. U mnogočemu su ti odmetnici daleko zanimljiviji i informativniji nego što se većina nalazi bliže vrhunac krivulje zvona. U skladu s tim, imamo naziv da izrađujemo pretpostavke o ljudima na temelju stvarnih ili opaženih karakteristika koje su se povezale s njihovom skupinom. Zove se stereotipiziranje. To što tvrtke koje se bave stereotipiziranjem vole nazivati ​​„ciljanje“, ne čine je manje štetnom ili pogrešnom.

Wu nam govori da je posao poznat kao "Claritas" bio "vjerojatno prva moderna ciljana tvrtka." Claritas je izgrađen oko koncepta poznatog kao „fragmentacija publike“, referenca na termin kablovske televizije koji se koristi u toj novonastaloj industriji za opisivanje sve prepoznatljivijih segmenata na tržištu kablovske televizije. Kablovska televizija tek je postala popularna jer je Claritas svoja vrata otvorio u kasnim 70-ima. „Naravno,“ ističe Wu, „nikada nije bilo potpuno jasno koristi li se„ fragment “kao glagol ili imenica: Jesu li [kabelske] mreže reagirale na podijeljenu publiku ili su ih u stvari fragmentirale?“ Wu zaključuje da "retrospektivno rade i jedno i drugo."

Problem je tada bio, tako što je sada to što ciljanje na ljude na određenim područjima, na posebne načine, vrlo geografski i ideološki dijeli model ciljane tvrtke pretpostavlja da već postoji rizik da se stvori ili poveća. Uzrok i posljedica postaju teški za razlikovanje kad se upuštanje u čin ciljanja već proizvodi svjetske tvrdnje o ciljanju.

Biheviorizam je možda pokazao da, do određenog trenutka, možemo uvjetovati ljude da vjeruju i rade sve vrste ludih stvari. Međutim, kako pokazuju okrutni eksperimenti Johna Watsona na Malom Albertu, nikada nije ozbiljno prestalo razmatrati hoćemo li ili ne treba li ograničiti njegovu primjenu ili ne. Upravo zato što oglašavanje, društveni mediji i ciljanje imaju moć stvaranja i jačanja (tj. Uvjetavanja) okruženja za koje njihovi algoritmi tvrde da otkrivaju da etika i znanost moraju biti središnji u svakoj procjeni metoda i tehnologija koje ove industrije koriste , Podaci se ne oblikuju i često iskrivljuju našu vlastitu perspektivu. U mjeri u kojoj to drugi aktivno koriste bez našeg pristanka za određivanje informacija, proizvoda, usluga i izbora koji će nam se ponuditi, preoblikovat će svijet tako da odgovara svjesnim i nesvjesnim planovima, da bi nam moglo biti bolje bez ,

Cambridge Analytica samo je posljednja posljedica vjerovanja da su ljudi prazne ploče; laka oznaka za dodatne eksperimente kondicioniranja pomoću modernog ekvivalenta zvona i metalnih šipki da bismo natjerali da žudimo ili se bojimo određenih proizvoda ili grupa. Madison avenija i političke kampanje desetljećima nam prikazuju i šalju ciljani materijal koji je implicitno racionaliziran ovom premisom. Rast društvenih medija i moderna računalna moć koju oni koriste dodali su novu žurnost potrebi da se kritički promišljaju promašene psihološke teorije i amoralne filozofije koje stoje iza prakse.

Na aveniji Madison i profesionalnim političkim operativcima nikad se neće ozbiljno razmišljati o etičkim posljedicama koje proizlaze iz njihovog ciničnog i pojednostavljenog pogleda na ljudsko stanje, bez obzira na to. Zato moramo. Bez obzira odlučite li izbrisati svoj Facebook račun kao odgovor na najnoviji skandal, veliki broj nas zapravo prvi put ozbiljno uzima taj izbor signalizira ponovnu spremnost da proaktivno oblikuje svoj vlastiti svijet, umjesto da ga oblikuje prema nama drugi. Možda će Silicijska dolina barem shvatiti da su vrste koje su ocjenjivali pomoću svojih algoritama X faktor koji i dalje zadržava sposobnost iznenađenja.

Slijedite Craiga na Twitteru ili ga pročitajte na 71Republic.com

Ostale priče Craiga Axforda koje bi vam se mogle svidjeti:

  • Čak i nakon Obamacare, američki zdravstveni sustav i dalje je težak
  • Granica ne nestaje, jednostavno nije tamo gdje smo mislili da je
  • Konzervacija nudi razloge za uvjetni optimizam, ali čini se da preferiramo osjećaj nejasnoće