Cambridge Analytica: Studija slučaja biheviorizma Run Amok

Fotografirao Jefferson Santos na Unsplash-u

Korištenje podataka o ljudima kako bi ih manipulirali nije ništa novo. Psiholozi nazivaju teoriju uma kao sposobnost pripisivanja različitih mentalnih stanja drugima. Jednom kada počnemo razvijati teoriju uma, upotreba informacija koje smo stekli o drugima u našu korist slijedi vrlo brzo. Iako ovo nije jedinstveno ljudska sposobnost, naš kapacitet jezika i veliki mozak omogućili su nam da ga iskoristimo daleko više nego bilo koja druga vrsta na planeti.

Jedan pokazatelj teorije uma je sposobnost obmane. Životinje to rade stalno. U nekim slučajevima prevara zapravo evolucijom unosi u biologiju bića. Čak i u insektima i biljkama možemo pronaći primjere lažnih signala kojima je cilj prenijeti poruku potencijalnim grabežljivcima da su otrovni ako u stvari nisu. Ali kada je u pitanju lubanja, čovječanstvo može doseći razinu sofisticiranosti, a druge vrste ne bi mogle ni zamisliti, a kamoli primijeniti.

Najnoviji primjer upotrebe informacija izvađenih iz našeg društvenog okruženja i iskorištenih u gadne svrhe uključuje uporabu podataka prikupljenih od oko 50 milijuna korisnika Facebooka od strane Cambridge Analytica, tvrtke specijalizirane za ciljanje birača i potrošača u ime klijenata kako bi se „ pokreni ih u akciju. "

Ako ste tek stigli s Marsa, možda će vam biti oprošteno što mislite da je možda tvrtka iz Londona sa podacima o akademiji koja je vezana za jedno od najpoznatijih engleskih sveučilišta bila prva koja je ozbiljno poduzela pokušaj namjerne manipulacije milijunima ljudi bez ikakvog znanja ili pristanak. Međutim, takva manipulacija igra sve jaču ulogu u našem društvu od početka 20. stoljeća.

Od avenije Madison do političkih prijestolnica svijeta, najnovije ideje psihologije o tome zašto ljudi vjeruju i ponašaju se onako kako ponašaju se povećavaju fascinaciju od najmanje prvog svjetskog rata. Uostalom, ništa ne zahtijeva dobar prodajni tok više od rata protiv čega se bori iz razloga koji su neprozirni poput krvi s blato Somme i Verduna.

Propagandni plakat iz Prvog svjetskog rata

U svojoj knjizi Kako djeluje propaganda, filozof Jason Stanley ovako opisuje propagandnu privlačnost:

Propaganda nije jednostavno zatvaranje racionalne rasprave pozivanjem na emocije: često su emocije racionalne i prate razloge. Radije uključuje zatvaranje rasprave "emocijama odvojenim od ideja." Prema tim klasičnim karakteristikama propagande, formirane u razmišljanju o dva velika rata dvadesetog stoljeća, propaganda zatvara raspravu zaobilazeći racionalnu volju ... Propaganda je manipulacija. racionalna volja za zatvaranjem rasprava.

Biheviorizam je bio među prvim nefreudovskim teorijama koje su se pojavile u području psihologije u razvoju. Ideje nisu toliko zatvorene koliko su skrojene prema napretku bilo kojeg pojma koji se dogodi, bez brige za njegovu valjanost ili etičke implikacije. John Watson, utemeljitelj biheviorizma, bio je živi testament amoralnog karaktera nauke o ljudskoj prirodi koji je promovirao. Njegovi su eksperimenti mogli biti okrutni, ali činilo se da njegova tvrdnja opravdava sredstva u njegovom umu. Iako sam po sebi oblik propagande, bihevioristički linearni mehanistički pojmovi ljudske motivacije učinili su ga savršenom psihološkom teorijom kako za vlade, tako i za industrije koja sve više traže „znanstvena“ sredstva masovne manipulacije.

Za razliku od Freudovaca i Jungijanaca koji su mu prethodili, Watson je vidio ljude kao odmjerene i pomalo sofisticirane verzije Pavlovih pasa. Možda nismo pljuvali kao očito kad smo čuli poslovično zvono, ali naši odgovori na podražaje obično nisu bili manje uvjetovani. Što je još važnije, iz perspektive oglašivača, političara, obavještajnih agencija i drugih zainteresiranih strana, Watson-ova teorija o ljudskoj prirodi učinila nas je predvidljivima i došla je bez neurednih i često zbunjujućih interpretacija ljudske psihe po kojima su muškarci poput Freuda i Jung-a bili poznati.

Kako bi demonstrirao da se ljudi u konačnici ne razlikuju od Pavlovih poznatih očnjaka, Watson je eksperimentirao na jednomjesečnom mjesecu nazvanom "Mali Albert." Tim Wu u časopisu The Trade Merchants, pisac medija i tehnologije opisuje eksperiment "Little Albert" na sljedeći način:

„[Watson je izazvao fobiju štakora] udarajući metalnu šipku čekićem iza djetetove glave svaki put kada mu se pokazao bijeli štakor. Nakon sedam tjedana kondicioniranja, dijete, u početku prijateljski prema glodavcu, počelo ga se bojati, puknuvši od suza kad ga je vidio. Dijete se, zapravo, počelo bojati bilo čega bijelog i krznenog - hvalio se Watson koji se "sada boji čak i Djeda Mraza."
Film još uvijek iz pokusa Little Albert prikazuje bebu Alberta s kunićem, na kojem su dr. John Watson i Rosalie Rayner. (Wikimedia)

Treba biti očigledno zašto biheviorizam ima veliku privlačnost u oglašivačkoj industriji i određenim profesionalnim političkim kampanjama željnim pronaći prečicu do srca i umora biračke javnosti. Ako u stvari možemo biti uvjetovani da odgovorimo na određenu poruku ili signal kupnjom određenog proizvoda ili glasajući na određeni način, osoba ili tvrtka koja će pronaći najbolje sredstvo za kondicioniranje većine ljudi će se doslovno obogatiti prodajom ove usluge najvišim ponuđač.

Do danas se previdi činjenica da „mali Albert“ nije razvio samo fobiju štakora, već i druge stvari. U siromašnom Albertovom umu bezopasni zečevi i dobroćudni ako izmišljeni likovi poput Djeda Božja imaju dovoljno slične nejasne kvalitete da izazovu anksioznost. Drugim riječima, Watson nije toliko dokazao da kondicioniranje djeluje na ljude - ili barem na ljude u vrlo ranim fazama emocionalnog i kognitivnog razvoja - koliko pokazuju da kondicioniranje proizvodi sve vrste nenamjernih odgovora osim namjeravanih. To potencijalno ostavlja prediktivnu moć biheviorizma podmućenom i neučinkovitom kao homeopatski lijek. Također postavlja brojna trnovita etička pitanja koja se tiču ​​njegove primjene na pojedince i velike skupine.

Da sav biheviorizam u konačnici pokazuje je da će, pod „ispravnim“ okolnostima, ljudi početi povezivati ​​dvije ili više međusobno nepovezanih stvari, nije ga spriječilo da ima snažan placebo učinak na korporacije i kandidate uvjerene žalbom na pojednostavljene formularne pristupe do ljudske složenosti. Upravo je takva vrsta žalbe Cambridge Analytica uspjela iskoristiti.

Dajte mi desetak zdravih dojenčadi, dobro oblikovanih i moj vlastiti određeni svijet da ih odgajim i jamčim da ću ga nasumično odvesti i osposobiti ga da postane bilo koji specijalist kojeg bih odabrao - liječnika, pravnika, umjetnika, trgovac-šef i da, čak i prosjak-lopov, bez obzira na talente, sklonosti, sklonosti, sposobnosti, zvanja i rasu svojih predaka. ~ John Watson
Rad Cambridge Analytice na Trumpovoj kampanji jasan je primjer kako marketinške tehnike vođene podacima mogu promijeniti ponašanje u ciljanoj populaciji. Primijenjene u komercijalnom sektoru, ove tehnike mogu strateški angažirati vašu ključnu publiku, poboljšavajući stope pretvorbe i povećavajući prodaju. ~ Web stranica Cambridge Analytica

Vijest je već duže vrijeme puna priča o sposobnosti društvenih medija da pruže uvid u ljudsko stanje kakvo inače ne bismo imali. Do sada smo svi čuli ili čitali o potencijalu da Google trendovi pretraživanja otkriju sve, od pandemije gripa do naših tajnih seksualnih želja i zastoja. Ove priče uvjerile su velik dio javnosti, kao i industrije, vlada i drugih institucija moć društvenih medija kao analitičkog alata.

Nije da Google pretraživanja ne govore ništa o nama. Samo da gotovo sve što radimo govori nešto o nama. Da bismo doista došli do srži materije, moramo se uz korelaciju pozabaviti i izrazitošću i kontekstom. To zahtijeva pravo istraživanje i takav napor zahtijeva novac. Zato je tako malo onih koji su se spremni angažirati na istinski smislene načine s podacima koje društveni mediji bilježe.

Evo samo nekoliko pitanja koja bismo trebali postaviti:

  • Što točno otkriva određena točka podataka i kako je treba odmjeriti sa svim ostalim radnjama koje osoba poduzme tijekom svog dana?
  • U kojoj su mjeri dva ili više ljudi koji kliknu na ikonu palca gore pod istom pričom pokazatelj da ti pojedinci imaju iste ili slične osobine ličnosti?
  • U mjeri u kojoj su ljudi mogli biti uvjetovani da „vole“ (ili ne vole) nešto u tradicionalnijem smislu ili u kontekstu društvenih medija, u kojoj su mjeri isti utjecaji okoliša i društva uvjetovali da to učine?

Kao i ostatak života pojedinca, popis varijabli koje utječu na nečiji izbor na internetu brzo se ubrzava. Da biste saznali kakvi su, nužno će biti uključeno više od pretraživanja podataka samo za uzorke. Uključit će daljnje intervjue ili druge oblike izravnog doprijevanja do znanja s velikim brojem ljudi koji u prvom redu daju podatke. Ikona "like" na Facebooku ne dopušta osobi da označi koliko je osoba na skali od 1 do 10 voljela sporni post. Ni Facebook ne pruža padajući izbornik koji ljudi mogu upotrijebiti za odabir onoga što ih je motiviralo da im se svidi. Možda su imali jaču povezanost s osobom koja je dijeli nego što je to činio sam sadržaj. Tko zna? Svakako da se nijedna od tvrtki tamo ne postavlja kao čarobni algoritam koji otkriva odgovore na ova pitanja.

Ali ni posebno znanstveni integritet niti etički standardi nisu bili visoko na popisu prioriteta Cambridge Analytice kad su dobili pristup Facebook navikama 50 milijuna korisnika i počeli pretraživati ​​podatke za uzorke. Kao što je to obično slučaj kada je riječ o upotrebi velikih podataka, fokus je gotovo u cijelosti na korelaciji s malo ili malo napora koji se ulaže u naknadno istraživanje potrebno za utvrđivanje što, ako ništa drugo, korelacije pronađene u podacima zapravo znače ,

I stopa kriminala i potrošnja sladoleda povećavaju se ljeti, ali ne slijedi da kriminalci poput sladoleda ili da konzumiranje sladoleda uzrokuju kriminal. Osim toga, piratstvo je opadalo kako su se globalne temperature povisile. Treba li zaključiti da su klimatske promjene stoga povezane sa padom piratstva? Ovo su blesavi primjeri, ali ne blesaviji od mnogih onih koje zapravo neke tvrtke za analizu podataka nude kao dokaz koncepta. Web stranica Cambridge Analytica zapravo ukratko navodi povezanost koju su pronašli između vlasništva automobila i povijesti glasovanja, hvaleći se da je to vrsta informacija koju kandidat može očekivati ​​u svojoj ogromnoj bazi podataka. To nema razloga da vjerujemo da će nam znanje o tome što osoba vozi reći bilo šta smisleno o njihovim zabrinutostima kao građanin, čak nije ni došlo Cambridgeu Analytici, ili očito njihovim klijentima.

Bez obzira na to, ne bismo li puno bolje imali kandidate koji bi pregledavali dosjee koji opisuju kako se zapravo osjećamo u pogledu obrazovanja, zdravstva i okoliša, umjesto da analiziramo naše evidencije o vlasništvu automobila i vozačke navike radi traganja o tome kako smo skloni glasati u sljedećem izbori? Nažalost za nas, niti Cambridge Analytica niti druge ciljne tvrtke ne brinu mnogo o znanosti koja stoji iza njih. Čini se da ih još manje brine, ako je to moguće, o građanima. Kao i John Watson prije njih, oni istinski vjeruju da su ljudska bića doista programibilni strojevi koji se mogu natjerati da se ponašaju na poseban način ako samo mogu prepoznati odgovarajuće tipke za povezivanje koje moraju pritisnuti. Za njih nismo građani, supružnici, roditelji, braća i sestre ili prijatelji. Svi smo samo njihovi mali Alberti.

Tim Wu ističe u trgovcima pažnje da ciljanje nije baš nova pojava. Da možemo dati određene pretpostavke o ljudima prema mjestu gdje žive, časopisi na koje se pretplaćuju, bilo da posjećuju crkvu ili ne, itd., Odavno se tvrdi.

Naravno da ove tvrdnje nisu u potpunosti bez temelja na razini stanovništva. Međutim, nikada nije sigurno pretpostaviti da samo zato što osoba živi na određenom mjestu ili pripada određenoj skupini dijele iste stavove ili uvjerenja koja se u prosjeku mogu poistovjetiti s grupom kao cjelinom. Svaka zajednica ima svoje odmetnike. U mnogočemu ti su odmetnici daleko zanimljiviji i informativniji nego što se većina nalazi bliže vrhunac krivulje zvona. U skladu s tim, imamo naziv da izrađujemo pretpostavke o ljudima na temelju stvarnih ili opaženih karakteristika koje su se povezale s njihovom skupinom. Zove se stereotipiziranje. To što tvrtke u stereotipnom poslu vole to nazivati ​​„ciljanje“, ne čine ih manje štetnim ili pogrešnim.

Wu nam govori da je posao poznat kao "Claritas" bio "vjerojatno prva moderna tvrtka za ciljanje". Claritas je izgrađen oko koncepta poznatog kao "fragmentacija publike", što upućuje na pojam kablovske televizije koji se koristi u toj novonastaloj industriji kako bi se sve više opisivao prepoznati segmenti na tržištu kablovske televizije. Kablovska televizija tek je postala popularna jer je Claritas svoja vrata otvorio u kasnim 70-ima. „Naravno,“ ističe Wu, „nikada nije bilo potpuno jasno koristi li se„ fragment “kao glagol ili imenica: Jesu li [kabelske] mreže reagirale na podijeljenu publiku ili su ih u stvari fragmentirale?“ Wu zaključuje da su "retrospektivno gledali i jedno i drugo".

Tada je problem bio taj što sada ciljanje na ljude na određenim područjima, na poseban način, samo geografski i ideološki dijeli model ciljane kompanije pretpostavlja da već postoji opasnost da se stvori ili poboljša. Uzrok i posljedice je teško razlikovati kad se uključivanje u čin ciljanja već proizvodi svjetske tvrdnje o ciljanju.

Biheviorizam je možda pokazao da, do određenog trenutka, možemo uvjetovati ljude da vjeruju i rade sve vrste ludih stvari. Međutim, kako pokazuju okrutni eksperimenti Johna Watsona na Malom Albertu, nikada nije ozbiljno prestalo razmatrati hoćemo li i trebamo li ograničiti njegovu primjenu ili ne. Upravo zato što oglašavanje, društveni mediji i ciljanje imaju moć stvaranja i jačanja (tj. Uvjetavanja) okruženja za koje njihovi algoritmi tvrde da otkrivaju da etika i znanost moraju biti središnji u svakoj procjeni metoda i tehnologija koje ove industrije koriste , Podaci ne predstavljaju samo oblik i često iskrivljuju našu perspektivu. U mjeri u kojoj ga drugi bez našeg pristanka aktivno koriste kako bi odredili informacije, proizvode, usluge i izbore koji će nam se ponuditi, preoblikovat će svijet kako bi odgovarao dnevnim i svjesnim i nesvjesnim, tako da će nam vjerojatno biti bolje bez ,

Cambridge Analytica samo je posljednja posljedica vjerovanja da su ljudi prazne ploče; laka oznaka za dodatne eksperimente kondicioniranja pomoću modernog ekvivalenta zvona i metalnih šipki da bismo natjerali da žudimo ili se bojimo određenih proizvoda ili grupa. Madison avenija i političke kampanje desetljećima nam pokazuju i šalju ciljani materijal koji je implicitno racionaliziran ovim pretpostavkama. Rast društvenih medija i moderna računalna moć koju oni koriste dodali su novu žurnost potrebi da se kritički promišljaju promašene psihološke teorije i amoralne filozofije koje stoje iza prakse.

Na aveniji Madison i profesionalnim političkim operativcima nikad se neće ozbiljno razmišljati o etičkim posljedicama koje proizlaze iz njihovog ciničnog i pojednostavljenog pogleda na ljudsko stanje, bez obzira na to. Zato moramo. Bez obzira odlučite li izbrisati svoj Facebook račun kao odgovor na najnoviji skandal, veliki broj nas zapravo prvi put ozbiljno uzima taj izbor signalizira ponovnu spremnost da proaktivno oblikuje svoj vlastiti svijet, umjesto da ga oblikuje prema nama drugi. Možda će Silicijska dolina barem shvatiti da su vrste koje su ocjenjivali pomoću svojih algoritama X faktor koji i dalje zadržava sposobnost iznenađenja.

Slijedite Craiga na Twitteru ili ga pročitajte na 71Republic.com

Ostale priče Craiga Axforda koje bi vam se mogle svidjeti:

  • Čak i nakon Obamacare, američki je zdravstveni sustav i dalje težak
  • Granica ne nestaje, samo nije onamo gdje smo mislili da je
  • Konzervacija nudi razloge za uvjetni optimizam, ali čini se da preferiramo osjećaj nejasnoće