Totta data lab en VKA lanceren eerste keurmerk voor algoritmes

Totta data lab en Verdonck, Klooster & Associates (VKA) lanceren een keurmerk voor de ontwikkeling en het gebruik van algoritmes. ‘Voor het vertrouwen in algoritmes is het cruciaal dat deze op een correcte manier worden toegepast’, aldus Adriaan Ackers, partner van Totta data lab.

Het nieuwe keurmerk biedt organisaties dit vertrouwen.

Het gebruik van algoritmes, wiskundige modellen die worden ingezet voor patroonherkenning, maakt besluitvorming efficiënter en effectiever. Algoritmes ontstijgen eenvoudige beslisregels die voor mensen nog te begrijpen zijn. Maar als algoritmes zo complex zijn, hoe weet je dan of het algoritme doet wat het moet doen? Totta data lab en VKA signaleren een groeiende behoefte aan zekerheid en transparantie in de maatschappij als het gaat om algoritmes. Men maakt zich zorgen over mogelijke vooroordelen – oftewel bias - in de resultaten, privacy van de betrokkenen, en discriminatie.

Een onafhankelijk toetsingskader

Totta data lab en VKA hebben samen een toetsingskader ontwikkeld, waarmee getoetst kan worden of het algoritme goed is gebouwd, goed wordt beheerd en goed wordt gebruikt. ‘We vinden het belangrijk dat er zorgvuldig wordt omgegaan met algoritmes, maar moderne algoritmes zijn moeilijk te doorgronden’, aldus Ackers. ‘Tegelijkertijd merken we dat de behoefte groeit om besluitvormingsprocessen intern te kunnen verklaren en extern te kunnen verantwoorden’, vult Andre Hendriks, partner van VKA, aan. Juist hier zien VKA en Totta data lab kansen. Organisaties zouden algoritmes op correcte wijze moeten gebruiken, en tevens in staat zijn om uit te leggen wat deze algoritmes doen. Ackers legt uit: ‘Ons product helpt besluitvormers om op een zorgvuldige manier de kracht van algoritmes te benutten voor de organisatie’.

Het keurmerk dat Totta data lab en VKA lanceren is het eerste keurmerk voor algoritmes op de Nederlandse markt. Hiermee hopen zij ook een bijdrage te kunnen leveren aan de discussie rondom de verantwoorde toepassing van algoritmes. ‘Er is op dit moment nog geen beleid vanuit de overheid voor het gebruik van algoritmes. We hebben ervoor gekozen om deze regelgeving niet af te wachten, maar om zelf een onafhankelijk toetsingskader te creëren’, aldus Hendriks.

Maatschappelijk debat

De discussie rondom algoritmes en datagedreven informatieverwerking is actueel, met name als gekeken wordt naar de politiek en de wetenschap. Neem bijvoorbeeld de motie van Verhoeven, die onlangs voor veel ophef heeft gezorgd. In deze motie wordt gesteld dat gebruikte algoritmes openbaar moeten zijn en dat gebruikte algoritmes voorzien moeten worden van een audit.

Ook binnen de wetenschap lijkt men zich steeds meer te bekommeren over maximale transparantie als het gaat om algoritmes. Zo heeft de Universiteit Utrecht onlangs een onderzoek gepubliceerd waarin de invloed van algoritmes op onze grondrechten wordt onderzocht. De onderzoekers stellen dat de twee voornaamste oorzaken van ongelijke behandeling bij besluitvorming, bias in de data en bias in de gebruikte algoritmes zijn. Dit wordt veroorzaakt door de inzet van Big Data technieken. ‘Dat het belang van transparantie van algoritmes naar voren komt in zowel de politiek als de wetenschap, benadrukt hoe belangrijk dit is’, licht Hendriks toe. ‘Dat algoritmes doen waar ze voor bedoeld zijn en hier zo transparant mogelijk over zijn, is van cruciaal belang’.

VKA en Totta data lab zijn momenteel in gesprek met de eerste potentiële afnemers van het keurmerk. Naar verwachting wordt eind september het eerste keurmerk uitgereikt. VKA is een organisatieadviesbureau met veel ervaring op zowel het gebied van audits en privacy als datagedreven werken. Totta data lab is een data science bureau dat al veel algoritmes heeft ontwikkeld, onder andere voor het opsporen van bijstandsfraude.

Bron: Persbericht VKA, 12 september 2018

Aanmelden Cloutoday