Tech-filosofe Alix Rübsaam

Op het afgelopen MIE drukte Alix Rübsaam bezoekers op het hart om het menselijk brein vooral niet te vergelijken met een computer. De toekomst, verzekert zij ons, behoort wel degelijk aan de mens. En ook aan de menselijke marktonderzoeker.

Ze heeft nooit iets met marketing gehad. Toch ontdekte Alix Rübsaam als keynotespreker op het MIE raakvlakken met haar publiek. ‘Marketing is op dit moment bij uitstek een datagestuurde industrie. Onder het publiek was een enorme interesse in wat we in data kunnen vangen. Dat betekent dat we ons menselijk handelen, onze keuzes, ons leven, op een kwantificeerbare manier representeren en definiëen. Het voelt voor mij alsof een keerpunt is bereikt. Ging het voorheen simpelweg om het hebben van data, nu is de vraag meer: Ja, en wat dan? Wat missen we?

Rübsaam vertelt dat technologieën in het verleden een beeld gaven van hoe we op dat moment tegen onze eigen menselijkheid aankijken, om dat vervolgens naar het heden te vertalen. ‘Momenteel zien we het menselijk bestaan als een soort informatieverwerker. Neem ons liefdesleven; dat definiëren we nu zo dat er ergens binnen ons een soort liefdes-algoritme plaatsvindt. Dat we uit data over andere mensen – hoe ze ruiken, zich gedragen, enzovoort – bepalen of er wel of geen aantrekkingskracht is. Pas als ik dat voorbeeld geef, zien veel mensen dat er een grens is aan wat je aan menselijkheid kunt vangen in een data-gedreven systeem.’

Input-output

De zelfverklaarde sciencefition-fanate vindt dat in het tijdperk van kunstmatige intelligentie (AI) ons brein vaak abusievelijk wordt vergeleken met een computer. We gebruiken snel ongepaste computer-metaforen als ‘Ik heb het even niet opgeslagen’ of ‘Bij mij begint het al een beetje te roesten’. Onderzoeker Robert Epstein noemt dat de ‘information processing metaphor’. Het beeld van onszelf als informatieverwerker zit volgens Rübsaam heel diep. ‘Kijk naar stappentellers of apps voor calorieën- inname. We zijn geneigd onszelf te begrijpen op een input-output-achtige manier. We gaan op een heel machinale wijze om met ons eigen dagelijkse zijn.’ Niet alleen leggen we ons eigen ‘zijn’ zo uit, anderen doen dat ook voor ons. Complete businessmodellen zijn immers gebouwd op analytics en insights die uit bijvoorbeeld social media- en surfgedrag worden gehaald. Denk aan Spotify of Amazon. ‘En die businessmodellen werken ook nog eens!’, zegt ze bijna verwonderd. ‘Dat is het verneukeratieve. Ze boeken resultaten dus het zal wel kloppen. Maar in de tijd van de oude Grieken genazen artsen ook mensen op basis van volstrekt verkeerde aannames over ons lichaam. Door de tijden heen waren er veel manieren om de wereld om ons heen uit te leggen. En die leken soms heel lang passend.’

Kleuring

Een van de actuele misverstanden die Rübsaam aankaart is dat technologie neutraal is. Ze legt uit: ‘Technologie an sich is neutraal, maar het bestaat of opereert per definitie nooi in neutraliteit. Als je zegt dat technologie neutraal is dan ben je alleen met het idee ervan bezig en niet met de praktijk.’ Ook binnen analytics en geautomatiseerd onderzoek moeten we ons volgens haar bewust zijn van de culturele context waarbinnen ze gecreëerd zijn. ‘Het is wat mij betreft een van de grootste gevaren om te denken dat we iets kunnen uitbesteden aan technologie en dan verwachten dat het objectief wordt opgelost. Er is te veel vertrouwen in de objectieve oplossingen van technologie. Dat kan bijvoorbeeld leiden tot een veel ongelijkere verdeling van onze grondstoffen.’Vertaald naar onderzoek: kleurt de vraagsteller, of de software die we de vraag laten stellen, ook het antwoord? ‘Behoorlijk’, vindt ze. ‘Het is belangrijk om in het achterhoofd te houden dat marketingonderzoek lange tijd niet streefde naar objectiviteit maar naar effectiviteit. Dat is misschien wel prima, zolang je die twee tenminste niet gelijktrekt. Bij het raken van zoveel mogelijk mensen neem je voor lief dat er een paar buiten de boot zullen vallen. Zolang je je daarvan bewust bent, en je vindt het oké, dan ben je nog niet zo onethisch bezig. Zodra je gaat zeggen: hiermee vangen we iedereen, wordt het anders. Dan zeg je tegen mensen die erbuiten vallen: jij hoort er niet bij. En dat kan weer politieke of culturele implicaties hebben. Dat lijkt mij iets waar iedereen zich mee bezig moet houden. Maar als er één industrie in staat is om te gaan met zulke kleuring, dan moet dat deze toch zijn.’

Rode loper

Ze schreef een hoofdstuk in het boek Augmented Intelligence: The Future of Work and Learning (2017). Menige beroepsgroep maakt zich zorgen over robotisering, maar voor de marktonder-zoeker ziet Rübsaam voorlopig plek op de arbeidsmarkt. ‘Machine learning-systemen kunnen nooit objectief handelen. Bovendien zijn er veranderingen en verschuivingen in de maatschappij die niet vooraf ingeprogrammeerd kunnen worden. Daarom zullen er altijd mensen moeten zijn die waken voor wat er door de mazen van het net glipt. Wel zijn dat waarschijnlijk minder mensen dan nu. Voor de marketing is het heel moeilijk te voorspellen maar het lijkt me een behoorlijk flexibele industrie die niet ongewapend is tegen veranderingen in de maatschappij. Het wordt heel interessant om te zien hoe ze ermee omgaan, temeer omdat het een industrie is waarin automatisering, met data-gedreven systemen en analytics, zo’n grote rol speelt.’ Met name in de ‘vermenselijking’ van data, de interpretatie, verwacht ze dat insights-leveranciers een rol blijven spelen. ‘Dat hoop ik althans. Want als we de interpretatie van data aan computers gaan uitbesteden, dan rollen we de rode loper uit voor een te binaire benadering van wat wel of niet een mens is.’ «

Ontastbaar onderzoek

Alix Rübsaam doet onderzoek op het terrein van posthumanisme en de filosofie an technologie. De promovendus aan de Universiteit van Amsterdam werkt momenteel voor de Amsterdam School for Cultural Analysis. Tijdens haar bachelor Engelse taal en cultuur specialiseerde zij zich in scienceficton-literatuur, en daarbinnen in de technologie ervan. Omdat deze futuristische stroming vaak meer zegt over het tijdperk waarin de verhalen geschreven zijn, wilde Rübsaam ook verkennen wat technologie buiten de sf-literatuur zegt over mensen. ‘Technologie als een cultureel object of antropologisch artefact’, verduidelijkt ze. Zo raakte zij gespecialiseerd in het vakgebied philosophy of technology. Ze studeerde in 2015 af in het Global Solutions Program van de Californische Singularity University, een denktank/incubator die zich toelegt op het gebruik van technologie om mondiale problemen op te lossen. ‘Mijn onderzoeksobject is een beetje ontastbaar,’ geeft ze toe, ‘het gaat over niet-menselijke entiteiten die menselijke activiteiten uitvoeren. En daarmee de grens tussen wat menselijk en niet-menselijk is heel erg vertroebelen.’

 

Dit artikel is overgenomen uit Clou magazine© nr 87, april 2018

Aanmelden Cloutoday