Burgers te weinig beschermd tegen digitaal genomen besluiten

Steeds vaker gebruikt de overheid computers voor het nemen van besluiten. Vaak gaat het daarbij om geld, zoals het verlenen van kinderbijslag, de AOW, toeslagen, het opleggen van motorrijtuigenbelasting of de aanslag inkomstenbelasting. Maar hoe die besluiten precies genomen worden, is niet duidelijk. Bovendien leunen overheden ook op elkaars computerbesluiten. De burger is daardoor onvoldoende juridisch beschermd.

Dit blijkt uit het promotie-onderzoek dat Marlies van Eck onlangs heeft afgerond aan de Universiteit van Tilburg (Tilburg University). Zij promoveert op 9 februari 2018.

Marlies van Eck concludeert op basis van het onderzoek dat de inzet van technologie bij het nemen van besluiten wel degelijk voordelen heeft voor burgers. Het verzamelen van alle gegevens vindt zorgvuldig plaats. Ook krijgen mensen vaak van tevoren te zien welke gegevens de overheid heeft, wat de transparantie ten goede komt. Een ander voordeel is dat de computer alle gelijke gevallen ook echt gelijk behandelt.

Maar er zijn ook nadelen. De instructies aan de computer (de beslisregels en de algoritmen) zijn niet beschikbaar voor de burgers die het besluit krijgen. Ook zijn er geen onafhankelijke instanties die deze instructies controleren op juistheid. In een rechtszaak over het besluit kan de rechter dus niet controleren of de overheid de wet goed interpreteert. Bovendien blijven aannames die de programmeur heeft gehad onzichtbaar. Als niet precies duidelijk is waarom de computer een besluit neemt, weet niemand of het besluit eigenlijk wel juist is.

Een ander nadeel is dat overheidsorganen zwaar op elkaar leunen bij het nemen van computerbesluiten. Een besluit van het ene overheidsorgaan werkt door in het besluit van een ander overheidsorgaan. Maar als er iets fout gaat, is het voor de burger erg lastig om de fouten die al verspreid zijn, te herstellen. Zeker als het met terugwerkende kracht verbeterd moet worden, is dit voor de systemen moeilijk. Dit betekent dat de burger niet altijd de juridische bescherming krijgt waar hij recht op heeft.

Marlies van Eck doet een aantal voorstellen om de bescherming van burgers te verbeteren. Zij stelt voor dat iedereen met problemen met computerbesluiten een ‘loods’ krijgt: een ambtenaar die gaat helpen het probleem op te lossen. Op deze manier ligt de last van de gespecialiseerde en ingewikkelde uitvoering weer bij de overheid in plaats van bij de burger. Daarnaast moeten de instructies aan de computer (de algoritmen) niet alleen openbaar en toegankelijk worden, maar ook te begrijpen zijn door mensen die geen verstand hebben van programmeren en zeker ook te begrijpen zijn door rechters.

Geef een reactie