Algo-Rights

Algoritmes spelen een steeds grotere rol in besluiten van de overheid. Ze berekenen belastingen, kennen toeslagen toe, beoordelen vergunningsaanvragen en schatten risico's op fraude in. Dat maakt overheidsprocessen efficiënter, maar brengt ook risico's met zich mee, zoals discriminatie en ongelijke behandeling.

Een fout in het algoritme lijkt vaak klein, maar krijgt grote gevolgen zodra het onopgemerkt blijft en zich telkens herhaalt bij verschillende mensen. Zo kan enkele fout uitgroeien tot een patroon van misstanden. Voor problemen in de openbare ruimte bestaat al een meldpunt, zoals de Meldingenkaart van de gemeente Amsterdam. Voor de digitale ruimte ontbreekt zo'n meldpunt nog, waardoor fouten en misstanden vaak onder de radar blijven. Het verzamelen, delen en onderzoeken van ervaringen met algoritmes helpt om bredere patronen te herkennen en is daarom belangrijk. 

De Europese Unie stelt ook steeds strengere eisen aan transparantie rond geautomatiseerde besluitvorming. Overheden publiceren informatie in het algoritmeregister en burgers krijgen bij bepaalde toepassingen meer rechten, zoals het recht op uitleg. Toch is die informatie vaak moeilijk te vinden of te begrijpen. Bovendien weten mensen lang niet altijd dat een algoritme meespeelde bij een besluit dat hen heeft geraakt.

Een meldpunt voor algoritmische problemen

Waag Futurelab ontwikkelt daarom binnen het project Algo-Rights een meldpunt voor algoritmische problemen. Dit meldpunt moet uiteindelijk zowel professionals als burgers ondersteunen bij het uitoefenen van hun rechten rondom algoritmische besluitvorming. 

In dit project vervullen digitale inclusiewerkers een sleutelrol. Sociaal werkers, digimaatjes, bibliotheekmedewerkers en gemeentelijke dienstverleners ondersteunen Amsterdammers dagelijks bij digitale vragen en zien vaak als eerste waar mensen vastlopen. Toch beschikken zij niet altijd over de kennis of hulpmiddelen om deze signalen op de juiste plek onder de aandacht te brengen. Het meldpunt voorziet hierin, zodat hun kennis van de leefwereld van inwoners bijdraagt aan het zichtbaar maken van wat er misgaat. Daarnaast biedt het meldpunt een overzicht van overheidsorganisaties waar mensen informatie over algoritmes kunnen opvragen, en legt het uit waarom het indienen van een verzoek voor informatie belangrijk kan zijn. Waag onderzoekt bovendien hoe deze aanpak een plek kan krijgen in de werkwijze van de gemeente Amsterdam en de Autoriteit Persoonsgegevens. 

Het project richt zich in eerste instantie op inclusiemedewerkers in de gemeente Amsterdam. Op termijn wordt het meldpunt rechtstreeks toegankelijk voor iedereen, inclusief informatie over meldingen die al zijn gedaan. Zo groeit het van een hulpmiddel voor professionals naar een voorziening voor alle Amsterdammers.