Succes Algoritmeregister mede dankzij Amsterdam

Met inmiddels meer dan dertienhonderd gepubliceerde algoritmes en vijfhonderd deelnemende overheidsorganisaties bereikte het landelijke Algoritmeregister afgelopen jaar een belangrijke mijlpaal. Dat succes is onder meer te danken aan de rol van de gemeente Amsterdam. Zij geldt al jaren als koploper en inspiratiebron op het gebied van algoritmische transparantie.

Van slimme verkeerslichten, voorspellers van drukte op de weg en risicoprofilering tot selectie van belastingaangiftes ter controle: het gebruik van algoritmes door de overheid staat sinds enkele jaren volop in de belangstelling. De Toeslagenaffaire maakte pijnlijk duidelijk wat er mis kan gaan als geautomatiseerde systemen zonder voldoende toezicht, transparantie en menselijke maat worden ingezet. Sindsdien is er veel in beweging gekomen. Een van de belangrijkste instrumenten om het vertrouwen van burgers te herstellen in die overheidssystemen is het landelijke Algoritmeregister. Daarin maken overheden inzichtelijk welke algoritmes zij gebruiken, met welk doel en welke waarborgen daarbij gelden.

Van lokale innovatie naar landelijke standaard

Het landelijke Algoritmeregister kwam niet uit de lucht vallen. Al in 2019 zette Amsterdam, samen met de stad Helsinki, als eerste stad ter wereld een openbaar algoritmeregister op. Daarmee liep de gemeente vooruit op nationale en internationale discussies over de verantwoordelijke inzet van data en algoritmes. “Daar zijn we nog steeds trots op,” zegt Lisette Kalshoven, teamlead Digitale Rechten en Ethiek bij de gemeente Amsterdam. “Ons doel was om op gemeentelijk niveau transparanter te worden over hoe we technologie inzetten. Dat ons model later de basis werd voor een landelijke standaard, is eigenlijk het grootste compliment dat we konden krijgen.”

Na de val van kabinet-Rutte III in 2021, als direct gevolg van de Toeslagenaffaire, nam de roep om meer toezicht en transparantie sterk toe. Op verzoek van de Tweede Kamer ontwikkelde het ministerie van Binnenlandse Zaken en Koninkrijksrelaties (BZK), in samenwerking met ICTU, een landelijk Algoritmeregister. Hierin kunnen burgers, journalisten en toezichthouders zien welke algoritmes de overheid gebruikt en welke rol die spelen in besluitvorming en dienstverlening.

Fundament van vertrouwen

Het doel van het landelijk Algoritmeregister is groter dan alleen openheid. Volgens Suzie Kewal, afdelingshoofd AI & Algoritmebeleid overheid bij BZK, draait het uiteindelijk om betrouwbaarheid van de overheid. “Door inzicht te geven in algoritmegebruik vergroten we de controleerbaarheid van overheidsorganisaties. Burgers en bedrijven krijgen een sterkere positie, omdat algoritmische besluiten beter uitlegbaar worden. En toezichthouders hebben een eerste aanknopingspunt om te beoordelen of processen zorgvuldig zijn ingericht.”

BZK stuurt er daarom nadrukkelijk op aan dat registraties niet alleen technisch correct zijn, maar ook begrijpelijk. Overheden beschrijven hun algoritmes met burgers in gedachten: wat doet het algoritme, waar wordt het toegepast en wat is de impact ervan op inwoners? Inmiddels hebben al 181 gemeenten in het landelijk Algoritmeregister gepubliceerd en zijn nog eens 103 gemeenten aangesloten. Vrijwel elke dag komen er nieuwe algoritmebeschrijvingen online. Dat laat zien dat overheden hieraan willen bijdragen en dit als een gezamenlijk, overheidsbreed project zien. Dit sluit aan bij de koers die met de Nederlandse Digitaliseringsstrategie (NDS) is ingeslagen.

Waarom Amsterdam transparantie zo belangrijk vindt

De betrouwbaarheid van de overheid was een van de redenen waarom Amsterdam inzette op meer transparantie over het gebruik van haar algoritmes, vertelt Kalshoven. “Geslotenheid wekt wantrouwen. Als burgers zien dat de gemeente open en eerlijk is over haar technologiegebruik, draagt dat bij aan vertrouwen in beleid en uitvoering. Transparantie gaat niet alleen over informatie delen, maar ook over het betrekken van burgers en maatschappelijke organisaties bij de ontwikkeling en evaluatie van algoritmes.”

Als ander argument voor transparantie noemt Kalshoven democratische verantwoording. “De overheid neemt beslissingen namens burgers of die burgers raken. Als algoritmes daarbij helpen, bijvoorbeeld bij het toekennen van uitkeringen, vergunningen of toezicht, dan moeten mensen kunnen begrijpen hoe die besluiten tot stand komen. Zonder transparantie is controle onmogelijk en kunnen burgers zich niet goed verweren als er iets misgaat.”

Verder speelt ook gelijke behandeling een belangrijke rol. Data en algoritmes zijn nooit volledig neutraal en kunnen onbedoeld leiden tot discriminatie, bijvoorbeeld wanneer ze zijn getraind op niet-representatieve datasets. “Door open te zijn over hoe een algoritme werkt, dwing je jezelf als organisatie om kritisch te blijven,” aldus Kalshoven. “Je herijkt processen aan actuele wet- en regelgeving en nodigt externe partijen uit om mee te kijken. Dat helpt om te toetsen of uitkomsten eerlijk en rechtvaardig zijn.”

Sleutelspeler in het landelijke Algoritmeregister

Toen de Tweede Kamer opriep tot een landelijk Algoritmeregister, was het vanzelfsprekend om Amsterdam daarbij vanaf het begin te betrekken. “De gemeente had al zoveel ervaring opgedaan met hun eigen algoritmeregister,” vertelt Kewal. “Daarnaast hadden zij intern al stappen gezet in bewustwording rondom verantwoorde inzet van algoritmes. Die combinatie was belangrijke inspiratie voor het landelijke Algoritmeregister waaraan we werkten.”

Per 1 januari 2025 is het Amsterdamse algoritmeregister opgegaan in het landelijke Algoritmeregister. Dat was immers efficiënter en scheelde de gemeente beheerkosten. Daarmee is één centrale plek ontstaan waar overheden hun algoritmes kunnen publiceren. Ook daarin blijft Amsterdam vooroplopen: met 65 gepubliceerde algoritmes is de gemeente momenteel de grootste bijdrager. Volgens Talar Kalayciyan, coördinator algoritmen bij Amsterdam, is de overstap een positieve ontwikkeling. “Door mee te gaan in het landelijke Algoritmeregister profiteren we van gestandaardiseerde processen, kennisdeling tussen overheden en centrale doorontwikkeling door BZK. We kijken ook nadrukkelijk naar wat andere organisaties publiceren. Dat brengt het juiste gesprek op gang.”

Publiceren alleen is niet genoeg

Zowel BZK als Amsterdam benadrukken dat het Algoritmeregister geen doel op zich is. “Het is een instrument om de democratie te versterken,” zegt Kewal. “Registreren is een startpunt. Het echte werk zit in het gesprek over waarborgen, risico’s en verantwoordelijkheden. Heb je bijvoorbeeld tijdig een impact assessment uitgevoerd? Moet je bepaalde toepassingen misschien stoppen? Dat gesprek moet op alle niveaus worden gevoerd, niet alleen landelijk.”

Ook Amsterdam kwam al vroeg tot de conclusie dat alleen publiceren onvoldoende is. In 2020 ontwikkelde de gemeente een algoritmebeheerskader, met concrete instrumenten om te toetsen of een algoritme verantwoord kan worden ingezet. Denk aan checks op privacy, bias en rechtmatigheid. Dit kader wordt continu doorontwikkeld. Na onderzoek van de Rekenkamer Amsterdam-Zaanstad kijkt de gemeente nu ook kritisch naar oudere systemen en processen. “Nieuwe projecten zijn goed ingericht,” zegt Kalshoven, “maar algoritmes worden al jaren gebruikt. Het is ingewikkelder om inzicht te krijgen in wat er vroeger is gedaan en of dat nog compliant is.”

Ethiek centraal in digitalisering

Een belangrijk hulpmiddel binnen de gemeente zijn de Quality Assurance Acceptatiecriteria (QAA). Deze tool begeleidt directies stap voor stap langs kwaliteitseisen op het gebied van digitalisering, waaronder algoritmes, privacy en security. “Het begint altijd met de ethische vraag: moeten we dit wel willen?” legt Kalayciyan uit.

Daarnaast ontwikkelde Amsterdam de zogeheten ‘Ethische Bijsluiter’, die openbaar beschikbaar is via OpenResearch. Met deze methode gaat de gemeente in gesprek met projectteams over de waarden die door technologie worden versterkt of juist onder druk komen te staan. “Niet alles wat technisch mogelijk en juridisch toegestaan is, moet je ook doen,” aldus Kalayciyan. “Wij werken vanuit mensgerichte technologie, met mensenrechten als uitgangspunt. Samen kijken we hoe we negatieve effecten kunnen beperken of verzachten.”

De menselijke kant

Verantwoord algoritmegebruik draait volgens Kalshoven dan ook uiteindelijk niet alleen om techniek. “Je hebt kennis nodig van ethiek, recht, data en menselijk gedrag. Daarom richten onze beheersmaatregelen zich sterk op de menselijke kant. Het helpt enorm als medewerkers begrijpen hoe technologie werkt, wat de mogelijkheden zijn en waar de grenzen liggen.”

Tegelijkertijd blijft ook Amsterdam leren, vooral als het gaat om communicatie richting burgers. “Een registratie in een register is een goede eerste stap, maar echte transparantie vraagt om begrijpelijke uitleg,” zegt Kalshoven. “Wat doet het algoritme, welke data gebruikt het en wat is de impact op inwoners? Bovendien verandert die informatie gedurende de levenscyclus van een algoritme. Actualiteit is essentieel.”

Bewustwording binnen de organisatie is daarbij cruciaal, benadrukt Kalayciyan. “Proceseigenaren zijn verantwoordelijk voor hun processen, inclusief algoritmes. Dat is niet iets van een apart algoritmeteam. Daarom investeren we in compliance awareness en integratie met andere disciplines.”

Op weg naar volwassen transparantie

Voor de toekomst zijn de ambities groot. BZK hoopt in 2026 de grens van tweeduizend gepubliceerde algoritmebeschrijvingen te bereiken en tegelijkertijd de kwaliteit ervan verder te verhogen. “Transparantie is meer dan zeggen dát je een algoritme gebruikt,” aldus Kewal. “Het gaat ook om uitleggen hoe het werkt, waar het in het proces zit en welke waarborgen burgers beschermen tegen bijvoorbeeld discriminatie.”

Om dat te bereiken heeft BZK de Auditdienst Rijk gevraagd om te onderzoeken hoe organisaties het publiceren momenteel ervaren en hoe consistent registraties worden ingevuld. De uitkomsten moeten helpen om de aansturing en ondersteuning verder te verbeteren. Daarnaast blijft BZK actief overheden stimuleren om zich aan te sluiten, onder meer via kennisuitwisseling binnen groeiende AI-communities, waarin overheden elkaar inspireren en van elkaar kunnen leren. Daarnaast helpt het om afspraken te maken met overheidsorganisaties. Zo hebben de ministeries afgesproken al hun hoog-risico AI-systemen en impactvolle algoritmes in het Algoritmeregister op te nemen.

“We zijn er nog niet,” concludeert Kewal. “Maar we hebben een stevig fundament gelegd. We bewegen van bewust onbekwaam naar bewust bekwaam. Dat is een gezamenlijke transitie, en we mogen trots zijn op wat we hebben bereikt. De inzet en voortrekkersrol van Amsterdam hebben daar onmiskenbaar aan bijgedragen.”

Lees het artikel op Digitale Overheid.