Cybertech vs. de mens?
Tristan Harris wil dat Silicon Valley volgens gezonde principes gaat werken. Hij maakt mensen bewust van het gebruik van sociale media en AI. Zijn inzicht is belangrijk voor iedereen die veel online is.
Digitaal activist Tristan Harris is medeoprichter van de Amerikaanse non-profitorganisatie ‘Center for Humane Technology’.
Digitaal activist Tristan Harris is medeoprichter van de Amerikaanse non-profitorganisatie ‘Center for Humane Technology’.
Tristan Harris werkte voorheen als design-ethicus bij een van ’s werelds grootste internetbedrijven. Nu gaat hij door het leven als digitaal activist en is hij bekend als medeoprichter van de Amerikaanse non-profitorganisatie ‘Center for Humane Technology’. Hij meldt zich via zijn smartphone in de videocall. Het is goed te zien dat hij niet aan een stoffig kantoor is gebonden. Hij oogt ontspannen, vrolijk zelfs. “Als iedereen dit geweldige uitzicht toch eens zou kunnen zien. De bergen van Arizona, de lucht en de wolken. Ik voel dat mijn batterij nu wordt opgeladen.” Digitalisering kan een zegen zijn. Ze brengt flexibiliteit en creëert nieuwe mogelijkheden in ons leven en werk. Maar, en dat is waar Harris steeds op hamert, als we niet voorzichtig zijn, raken we die vrijheid kwijt voor we goed en wel beseften dat we die hadden.
De toekomst is er al
Sciencefictionscenario’s spelen al tientallen jaren in op de angst voor een wereld waarin kunstmatige intelligentie, ook bekend als AI (artificial intelligence), alles bepaalt. “Daarin hebben we ook geleerd dat er een boze kracht nodig is die ons wil overheersen,” zegt Harris. “Als ik mijn tegenstander in een hoek wil duwen, moet ik de sterkere zijn.”
Wat Harris echter als kind al besefte toen hij goocheltrucs deed, is dat het helemaal geen moeite kost om de controle over te nemen. Tijdens zijn onderzoek in het Persuasive Technology Lab van de Stanford universiteit zag hij dit bevestigd. “Hoe creëer je een illusie? Je hoeft alleen maar iets over de psyche van het publiek te weten waar het zelf geen weet van heeft. Dat volstaat om hun gedrag te manipuleren. Je hoeft niet eens hun sterke kanten uit te dagen. Kies voor hun zwakke plekken.”
Volgens Harris is dit precies de modus operandi achter de meeste socialmediakanalen, e-mailprogramma’s en apps die nu integraal onderdeel zijn van het leven van miljarden mensen. “We lopen niet simpelweg met smartphones rond, maar met robots die hetzelfde effect op ons neurologisch beloningssysteem hebben als kansspelautomaten in casino’s.”
Als kind leerde Tristan Harris goocheltrucjes die hij op verjaardagspartijtjes uitvoerde. Hij doorzag al snel hoe gemakkelijk mensen zijn te beïnvloeden.
Als kind leerde Tristan Harris goocheltrucjes die hij op verjaardagspartijtjes uitvoerde. Hij doorzag al snel hoe gemakkelijk mensen zijn te beïnvloeden.
De informatiekloof wordt breder
Als wij als gebruikers niet beseffen dat onze hersenen gelukshormonen produceren als reactie op variabele beloningen, zijn we vanzelfsprekend een makkelijke prooi voor de zeer ervaren cybertechbedrijven. Zoals Harris zegt: “Een variabele beloning is niets anders dan een hendel overhalen en er de ene keer iets voor terugkrijgen – oh, spannend! – en de andere keer niet.”
Een simpel voorbeeld van hoe onze primitiefste hersenfuncties tegen ons gebruikt worden: als we onze berichtenfeed bekijken, naar beneden swipend om te refreshen, hopen we op een beloning. Is dit nog wel bewust mediagebruik te noemen? En kiezen we dan echt zelf wat we met onze tijd doen? Als je dit aan Tristan Harris en veel andere onderzoekers vraagt, is het antwoord luid en duidelijk ‘nee’.
“Aanbieders van videostreams, contact- en netwerkapps en nieuwsportals vechten allemaal om onze aandacht,” weet Harris. Dat is de kern van het probleem. Technologie ontwikkelt zich immers niet in het wilde weg. Elke innovatie is het antwoord op een andere innovatie van een concurrent. De snelle verspreiding van nepnieuws is een van de vervelende bijeffecten van deze vicieuze cirkel. “Boosheid levert meer schermtijd op dan tevredenheid,” aldus Harris. Items waar we verontwaardigd over zijn, delen we vaker met vrienden, zoeken we vaker op en volgen we met enige verbetenheid. De bijbehorende algoritmen detecteren dat ook en leveren ons dus meer overeenkomstige content.
Dat hoeft niet per se nepnieuws te zijn, maar één ding is zeker: om in onze feeds en in onze tijdlijnen te verschijnen, doet het er helemaal niet toe dat de inhoud feitelijk juist is. “Bedenk dat een persoonlijke nieuwsfeed niet door mensen wordt gemaakt, maar door algoritmen,” waarschuwt Harris. “En die zijn er niet op geprogrammeerd om ons te tonen wat waar of goed is voor ons, maar op wat onze aandacht het langste vasthoudt.”
“We hebben weer een Verlichting nodig, nu een digitale”
Wat kunnen we doen?
Is er iets aan dit lastige dilemma te doen? Harris denkt van wel. “Om te beginnen moeten we allemaal beseffen wat de zwakke plekken van ons brein zijn. Dan kunnen we ongezonde impulsen beter weerstaan.” De design-ethicus roept in feite op tot een tweede Verlichting, nu in een digitale variant. “Daarnaast moet de verantwoordelijkheid ergens anders komen te liggen,” vervolgt Harris. “Ik bedoel dat die bij de beslissers in de controleruimtes van de bigtechbedrijven hoort. Zij moeten hun handelen kunnen verantwoorden.”
En tot slot pleit hij voor een “echte designrenaissance”, een idee waar steeds meer tech-CEO’s voor te porren zijn. Consumentenbescherming heeft dan topprioriteit, maar dit gaat ook over de macht teruggeven aan gebruikers of hen hun tijd beter te laten gebruiken. Er is een gemeenschappelijk doel nodig. Wat willen gebruikers nou echt uit hun dagelijkse socialmediagebruik halen? Eindeloos video’s kijken en aan opgefokte discussies deelnemen? Of is het belangrijker om mensen actief te ondersteunen bij het nuttig besteden van hun kostbare tijd?
Er is een “race naar de bodem van onze hersenstam” gaande, vertelde Harris zijn publiek in zijn keynote tijdens de Audi MQ! Innovation Summit 2020.
Er is een “race naar de bodem van onze hersenstam” gaande, vertelde Harris zijn publiek in zijn keynote tijdens de Audi MQ! Innovation Summit 2020.
Verantwoordelijkheden en kansen
Zowel in positieve als negatieve zin ‘optimaliseert’ kunstmatige intelligentie ons gedrag, weet wat we willen en hoe we denken en voorspelt en manipuleert onze wensen. Harris twijfelt er niet over dat AI ons al lang de baas is en dat er geen weg meer terug is. In plaats daarvan moeten we de basiswaarden vastleggen, als alternatief voor de huidige advertentieveiling van maximale gebruikersaandacht voor de hoogste bieder. Harris formuleert het zo: “Ook artsen en advocaten weten veel meer dan hun patiënten en cliënten. Maar hun beroepsethos verlangt dat zij in het beste belang van patiënten en cliënten handelen.”
Harris denkt dat een paradigmaverandering in de techwereld onvermijdelijk is. Vanzelfsprekend samenvallend met verantwoord en voorzichtig gebruikersgedrag. Met dat in het achterhoofd neemt hij afscheid van ons met een praktisch advies: “We hoeven sociale media niet te negeren. Ga er gewoon bewust mee om en zorg ervoor dat je gedurende de dag genoeg offline bent. Ga iets leuks doen, iets spannends, iets ontspannends.” Dat is immers ook een manier om ons inwendige beloningssysteem te stimuleren.
