Achter de digitale matrix: de rol van onafhankelijke audits bij het waarborgen van algoritmische transparantie
Zakelijk-nieuws-landelijk
Het woord ‘algoritme’ wordt steeds vaker genoemd. Toch hebben veel mensen niet door hoe groot de rol van algoritmes is geworden. Het is echter zo dat heel veel dingen die online plaatsvinden gebruikmaken van één of meerdere algoritmes. Omdat ze steeds meer ingeburgerd raken, is er behoefte aan regels en bescherming voor de consument.
In de goksector zijn onafhankelijke audits niets nieuws
Bedrijven die kansspelen uitvoeren in Nederland doen dit op basis van strikte voorwaarden. Om een vergunning te mogen ontvangen, moeten ze aan een groot scala aan regels voldoen. Een van die regels voor het online casino Nederland is dat ze onafhankelijke audits laten uitvoeren. Die audits zijn onder andere bedoeld voor de spellen die worden aangeboden. Men moet er namelijk van op aan kunnen dat die spellen altijd een uitslag hebben die volstrekt willekeurig is. Dat wordt bepaald door de Random Number Generator, maar die wordt wel getest aan de hand van een onafhankelijke test.
Het belang van transparante algoritmes
Het belang van transparantie in algoritmes is makkelijk uit te leggen: gebruikers van een bepaalde website hebben er recht op dat ze weten hoe die systemen werken en welke informatie ze gebruiken. In Europa is men al jaren bezig om de privacy en veiligheid van mensen beter te maken. Zo is er de Digital Services Act (DSA) en de Algemene Verordening Gegevensbescherming (AVG) van de Nederlandse overheid.
Deze verordeningen zijn in het leven geroepen omdat er een grote vraag was naar overkoepelende Europese regels die iedereen binnen de Europese Unie beschermen. De verordeningen zorgen er niet alleen voor dat men regels moet naleven om de consument veilig te houden en hun privacy te bewaren, ze moeten ook inzage geven in wat ze doen en welke informatie ze opslaan. Weten welke algoritmes gebruikt worden en waarvoor ze dienen, geeft mensen de nodige inzichten. Het geeft mensen meer vertrouwen en duidelijkheid. Bovendien kan men hierdoor beoordelen of er geen illegale activiteiten plaatsvinden.
Algoritmeregistratie
Een belangrijk hulpmiddel voor het garanderen van transparante algoritmes is de algoritmeregistratie. Het is een register waarin opgenomen wordt hoe algoritmes worden ingezet. In de database neemt men op wie binnen de organisatie verantwoordelijk is voor het specifieke algoritme, wat de doelstelling is en welke data werd gebruikt om het algoritme te trainen. Het algoritmeregister heeft twee hoofddoelen.
Betere interne controle
Een van de doelen van het algoritmeregister is het realiseren van betere controle op het algoritme. Het gaat hier om interne controle. Men wil ervoor zorgen dat mensen in alle fases van het implementeren van een algoritme gecontroleerd worden, van de beginfase tijdens de
ontwikkeling tot de uitvoering en aanpassing. Een belangrijk punt dat gecontroleerd moet worden, is de naleving van het werk. Het blijkt dat organisaties meer nadenken over het gebruik van algoritmes nu er een algoritmeregister is.
Externe controle
Het tweede doel van het algoritmeregister is het verbeteren van de controle door partijen van buitenaf. Doordat er meer informatie over een algoritme bekend is, kan iedereen controleren of wat men doet wel klopt. Een gebruiker van het platform kan de informatie bekijken, maar ook journalisten en juridische diensten. Een bijkomend voordeel is dat bedrijven van elkaar kunnen zien wat ze doen en ervan kunnen leren.
De achtergrond van de audit op algoritmen
Audits op algoritmes bestonden altijd al, maar in 2024 trad er een wet in die het verplicht maakt. De Europese AI-Act is bedoeld om te voorkomen dat AI-gestuurde systemen oneerlijk zijn of discrimineren. Volgens de wet moeten die systemen zelf audits uitvoeren; ter controle worden externe auditors ingezet. Tijdens de audit wordt beoordeeld of het algoritme technisch goed werkt, maar ook of het goed omgaat met de data die het verwerkt. Hier hoort ook een stukje veiligheid bij.
Een van de belangrijkste redenen om audits uit te voeren is om te voorkomen dat mensen gediscrimineerd worden. Zo zullen leningverstrekkers steeds vaker een algoritme gebruiken om te bepalen of klanten een lening mogen ontvangen. Voor het bedrijf is het een handige optie, omdat het hun processen sneller kan maken. In de praktijk kan het er echter voor zorgen dat mensen uit een bepaalde groep worden buitengesloten. Als het algoritme vaststelt dat mensen afkomstig uit het Oostblok minder vaak hun leningen terug kunnen betalen, kan het algoritme dit overnemen en al deze mensen buitensluiten. Dit gaat tegen de wettelijke regelgeving in.
Hier wordt een algoritme op gecontroleerd
Bij een audit van een algoritme wordt gekeken of het wel eerlijk is. De zogenaamde eerlikheidsmaat wordt gebruikt om te bepalen of het algoritme bepaalde groepen benadeelt. Er wordt beoordeeld of religie of etniciteit gebruikt wordt om onderscheid te maken. Als dit het geval is, is er sprake van discriminatie.
De kans dat een algoritme discrimineert is vrij groot. Dat heeft te maken met het feit dat algoritmes bezig zijn met onderscheid maken. Kortom, het systeem is in principe gemaakt om bepaalde groepen uit te sluiten, wat vrij snel kan leiden tot discriminatie van specifieke groepen. Om audits zonder discriminatie te laten verlopen, is het in veel gevallen nodig dat mensen bepaalde zaken zelf beoordelen.
Naast het controleren op discriminatie wordt er tijdens een audit gekeken naar de organisatorische kant. Men wil weten of er duidelijke richtlijnen zijn voor het gebruik van het algoritme en of alle beslissingen over het systeem wel gecontroleerd worden.
Uitdagingen rondom audits
Algoritmes worden pas een paar jaar veelvuldig gebruikt. Hierdoor zijn auditors er pas sinds een tijdje mee bezig. Omdat de ontwikkeling van een goede manier van controle nog gaande is, ontbreekt het nu vaak aan de nodige expertise. Er zijn verschillende softwareprogramma’s die gebruikt kunnen worden voor een audit, maar die programma’s zijn nog niet volledig.
Een andere uitdaging is het feit dat wetgevers en toezichthouders nog steeds niet eenduidig zijn over de regels. Er is Europese wetgeving, maar hoe men hiermee omgaat en op welke manier toezicht gehouden wordt, bepalen landen zelf. De normen waar een algoritme zich aan moet houden, moeten nog duidelijker worden. De drie thema’s technologie, recht en ethiek moeten beter verduidelijkt worden.
