AI en privacy: Europa versus Silicon Valley

Als artificial intelligence de toekomst van marktonderzoek en data-analytics bepaalt, dan staat Europa misschien al 0-1 achter. Door onze strengere privacywetgeving zouden ontwikkelingen in de VS en China veel harder gaan. Maar is dat ook echt zo?

Tekst Robert Heeg

Dat de AVG (of GDPR) belangrijk is voor de burger, dat zal niemand betwisten. Dat het diensten soms bemoeilijkt is ook bekend; denk alleen aan het woud van cookiemeldingen waar we ons dagelijks doorheen moeten worstelen. Artificial intelligence (AI) en het aanpalende machine learning zijn bij uitstek terreinen waar innovatie weleens botst op privacybelangen. Daar wordt immers slimme, zelflerende software ingezet om vanuit de interactie met mensen steeds meer inzicht te krijgen in onze voorkeuren en ons gedrag – nu en in de toekomst. En dat roept talloze privacyvragen op. Begin dit jaar publiceerde de sectie Innovation, Privacy & Technology (IP&T) van advocaten- en notarissenkantoor Pels Rijcken, een serie blogs over digitale transformatie. Speciale aandacht daarin voor AI en machine learning. Cruciaal is volgens Pels Rijcken bijvoorbeeld wie verwerkingsverantwoordelijke is en wie de verwerker. Een vraag die in de context van AI niet gemakkelijk valt te beantwoorden, aldus auteurs Marte van Graafeiland en Janneke Verburg: ‘Levert een opdrachtgever bijvoorbeeld de data aan op basis waarvan de ontwikkelaar – ten behoeve van de opdrachtgever – een zelflerend algoritme ontwikkelt, dan zou de opdrachtgever de verwerkingsverantwoordelijke kunnen zijn en de ontwikkelaar de verwerker. Maar maakt een (ingeschakelde) ontwikkelaar (ook) gebruik van zijn ‘eigen’ data, dan zou het goed kunnen dat die ontwikkelaar doorgaans (ook) als verwerkingsverantwoordelijke kwalificeert.’

Gebakken lucht

SanderNagtegaalLeveren zulke kleine Europese lettertjes inderdaad concurrentievoordeel op voor Amerikaanse en Chinese insights innovators? Hoeven verzamelaars van consumenteninformatie die met AI en machine learning werken, zich buiten Europa aan minder vertragende regels te houden? Jurist en filosoof Mireille Hildebrandt onderschrijft die stelling, op z’n zachtst gezegd, niet. ‘Nee, die aanname is gebaseerd op de gebakken lucht. Van mensen die niets van AI begrijpen.’ Hildebrandt is onderzoeks- hoogleraar Interfacing Law and Technology aan de Vrije Universiteit in Brussel en deeltijdhoogleraar Smart Environments, Data Protection and the Rule of Law aan de Radboud Universiteit. Haar specialiteit is het functioneren van de rechtstaat in cyberspace en ze is een felle verdediger van privacy.

Vanuit Berkeley, onder de (schone) rook van Silicon Valley, meldt ze: ‘Het toepassen van machinaal leren op gedragsgegevens is een hachelijke zaak. Ten eerste werkt het niet echt; mensen zijn veel onvoorspelbaarder en veel intelligenter dan speltheorie en gedragseconomie ons graag doen geloven. Dat blijkt ook uit het feit dat grote spelers die zich terugtrekken uit datagestuurd adverteren, zoals Procter & Gamble, hun advertentie-inkomsten omhoog zien gaan in plaats van omlaag. Ten tweede leidt dit soort AI tot een verknutselde informatie-omgeving, gevuld met extreme content, fake news en wat dies meer zij.’

Dodelijk voor innovatie

Ondanks Hildebrandts kritische kijk, wordt AI wel een grote toekomst toegedicht in de insights-industrie. Hoe verloopt die opmars in de dagelijkse praktijk? Stokt door de strenge regelgeving de ontwikkeling van AI binnen de EU? Bijvoorbeeld bij een startup als Unless, een personalisatieplatform waarmee websites zich scherper kunnen richten op de individuele bezoeker? CEO en medeoprichter Sander Nagtegaal stelt dat hij zeker geen tegenstander is van het Europese beleid. ‘Natuurlijk zijn er in Europa sinds de GDPR meer regels van toepassing dan daarbuiten. Dat is niet per se een probleem, want die wetten zijn niet voor niets gemaakt. Bescherming van privacy is tenslotte belangrijk.’ Er hangt alleen wel een prijskaartje aan, voegt hij toe. ‘Ik hoor veel data-scientists van grote bedrijven klagen dat projecten niet van de grond komen omdat de juridische afdeling bang is fouten te maken. Het is hun werk om risico’s in te perken, maar die angst is natuurlijk dodelijk voor innovatie. Kleinere bedrijven hebben weer te maken met ingewikkelde eisen vanwege de ketenverantwoordelijkheid voor verwerkers.’

En dat merken ze ook bij Unless, aldus Nagtegaal. ‘De regelgeving voor verwerkers versus verantwoordelijken is natuurlijk vooral van toepassing op het midden- en kleinbedrijf. Dat zijn bedrijven die niet zelf een batterij data-scientists in huis hebben, maar liever gebruik maken van externe, gespecialiseerde SaaS-diensten (software as a service, red.) zoals wij. Technisch gezien kun je met Unless vrijwel meteen aan de slag met personalisatie op basis van machine learning. We zijn een Europees bedrijf, dus we hebben daar de standaard-overeenkomsten voor die nodig zijn volgens de GDPR.’ Daar zit ook een voordeel aan, voegt hij toe. ‘Het goede nieuws is dat de concurrentie van buiten de EU er best wel moeite mee heeft om dit goed te doen. Wij doen het daarentegen in de VS heel goed, want ook daar vinden mensen privacy belangrijk.’ Toch concludeert Nagtegaal:‘Helaas heeft de nieuwe wetgeving tot gevolg dat veel grotere klanten eerst uitgebreid zelf onderzoek doen en vervolgens schermen met hun eigen overeenkomsten. Dat kost enorm veel tijd en geld. Dat is fijn voor advocaten, maar niet voor ons. Liever had ik die tijd gespendeerd aan innovatie.’

Blind paard

Vanuit de VS ziet Hildebrandt dat ook de Amerikaanse AI-bedrijven rekening moeten houden met vertragende regeltjes. ‘Omdat de meeste grote spelers mee willen doen op de Europese markt zal Big Tech zich daar sowieso aan moe- ten houden. Kijk ook naar de CCPA (California Consumer Privacy Act, red.) die op sommige terreinen mogelijk nog strenger zal zijn dan de AVG. De wet van de remmende voorsprong leert dat hardlopers doodlopers zijn, dus die vertraging wordt een competitief voordeel voor Europa, dat zich vanwege de AVG niet kan permitteren als een blind paard door te galopperen met A/B-testen waar geen hout van klopt.’

Juist vanwege de wetgeving gelooft Hildebrandt dat de ontwikkeling van AI hier robuuster zal zijn. ‘Het is meer gefocust op wat echt werkt, waar het bij kan dragen aan het oplossen van problemen in plaats van het creëren ervan. Bedenk dat het WWW in Europa is uitgevonden, zonder patenten en bedrijfsgeheim. En bedenk dat álle verdienmodellen van Big Tech voortbouwen op die Europese uitvinding. We moeten er van af Big Tech te verafgoden en een eigen Europese koers durven varen.’

Dit artikel is overgenomen uit Clou magazine© nr 93, juli 2019.

Aanmelden Cloutoday