Kafka in de polder?

De overheid heeft immers meer mankracht en middelen, en de regels en procedures zijn voor de burger vaak lastig te begrijpen. Dit is een al langer bestaande zorg met betrekking tot de toenemende bureaucratisering van de samenleving, maar met de opkomst van artificiële intelligentie in het bestuursrecht krijgt dit vraagstuk een nieuwe lading. Wat immers als een computerprogramma op basis van een grote verzameling gegevens en voorspellingen een burger als fraudeur of risicogeval aanmerkt? Sommigen waarschuwen zelfs voor een situatie waarin de rechtshandhavers enkel met een beroep op een algoritme dat zij zelf niet begrijpen hun handelen verdedigen.⁴ Dit artikel bespreekt daarom de rol van artificiële intelligentie in het bestuurs-recht. Daarbij wordt zowel aandacht besteed aan de voordelen als aan de gevaren die met het toepassen van deze technieken gepaard gaan. Om te beginnen eerst wat achtergronden bij de huidige stand van zaken wat betreft het gebruik van AI door de overheid.

Huidige Situatie Bestuursrecht

In de huidige maatschappij moet de overheid op grote schaal besluiten nemen, en beslissen over aanvragen van burgers. Denk bijvoorbeeld aan de jaarlijkse belastingaangifte, maar ook aanvragen voor studiefinanciering of zorgtoeslag. Deze hoeveelheid besluiten neemt alleen maar toe naarmate de overheidstaken ook toenemen. Tegelijkertijd nemen de technische mogelijkheden om overheidsbesluiten (gedeeltelijk) door middel van ICT-systemen te nemen ook toe.

Zeker wanneer het gaat om een groot aantal soortgelijke aanvragen kunnen computersystemen behulpzaam zijn. Omdat het computersysteem opgesteld wordt aan de hand van vaste beslisregels maakt dit de uitkomst ook objectiever en voorspelbaarder, minder afhankelijk van de ‘grillen’ van een ambtenaar aan wie niets menselijks vreemd is.⁵ Bovendien zijn zogeheten zelflerende algoritmes goed in het ontdekken van patronen in grote hoeveelheden data, en het combineren van verschillende gegevens. Dit kan helpen bij het opsporen van fraude en het opstellen van risicoprofielen.

Van Straat-Niveau Naar Systeem-Niveau

Sinds de jaren ’90 maken overheden steeds meer gebruik van geautomatiseerde beslis-systemen. In de literatuur wordt deze ontwikkeling binnen de bredere overgang van ‘street-levelbureaucratie’ naar ‘system-levelbureaucratie’ geplaatst. In de bureaucratie op ‘straatniveau’ hadden de ambtenaren direct contact met de burgers over wiens aanvragen ze besloten. Ze konden ze als het ware op straat tegen het lijf lopen. Hun ruime discretionaire bevoegdheid (de bevoegdheid om zo nodig naar eigen inzicht te handelen) konden ze gebruiken om in individuele gevallen recht te doen aan de specifieke omstandigheden van het geval. De wet stelde dus kaders, maar zorgde er ook voor dat de ambtenaren voldoende beslissingsruimte hadden.⁶

Door de tijd heen veranderde de ‘streetlevel’ bureaucratie naar een bureaucratie op ‘systeem-niveau’. In zo’n bureaucratie houden de ambtenaren zich veel minder bezig met het behandelen van individuele gevallen. Ze richten zich daarentegen op het optimaliseren van het systeem van besluitvorming. De besluiten zelf worden vrijwel volledig voorbereid door algoritmische systemen of soms zelfs zonder menselijke tussenkomst door de computer genomen.⁷ In deze vorm van bureaucratie is de vrije beslissingsruimte van ambtenaren bijna helemaal verdwenen en opgevuld door de algoritmes. Dit betekent dat de wettelijke vrije beslissingsruimte door de data-specialisten die de algoritmes opstellen vertaald is naar de taal van computersystemen. Vaak gaat dit in de vorm van uitgebreide beslisbomen, die met allerlei uiteenlopende mogelijkheden rekening houden. Wanneer er gebruik gemaakt wordt van ‘zelflerende’ systemen is het in zekere zin het systeem zelf dat de discretionaire bevoegdheid krijgt. Denk dan bijvoorbeeld aan een computerprogramma dat erop getraind is om verbanden in grote hoeveelheden data te ontdekken, en op basis daarvan de kans vaststelt dat iemand een fraudeur is. Binnen de Nederlandse overheid is AI vooral actief in het voorbereiden van besluiten, en niet bij de daadwerkelijke beslissing. Die wordt altijd door een ambtenaar genomen. In de praktijk blijkt echter dat de ambtenaar vaak de aanbevelingen van de computer volgt.⁸

Weber Over De Bureaucratie

De Duitse socioloog Max Weber (1864-1920) was een van de eersten die zich bezighield met de moderne overheidsorganisatie zoals die in het begin van de twintigste eeuw ontstond. Hoewel hij de komst van de computer en AI niet kon voorspellen, merkte hij wel op dat de overheidsorganisatie steeds uitgebreider werd, en ambtenaren steeds meer besluiten moesten gaan nemen, volgens vooraf opgestelde regels.

Weber noemt de voorspelbaarheid van besluiten een belangrijk kenmerk van de bureaucratie. Deze dient namelijk de rechtszekerheid: als burger moet je er van op aan kunnen dat de ‘spelregels’ van de samenleving helder zijn, en de overheid die niet opeens of met terugwerkende kracht verandert. Integendeel, het handelen van de overheid moest juist voorspelbaar zijn. Voor het indienen van een vergunningsaanvraag betekent dit bijvoorbeeld dat de voorwaarden waaraan voldaan moet worden helder zijn, zodat je er als burger vanuit kunt gaan dat de aanvraag gehonoreerd wordt wanneer aan de voorwaarden voldaan is.

Objectiviteit Van De Overheid

Hier hangt een tweede belangrijk element van overheidsbesluiten mee samen: objectiviteit. De overheid moet de burgers ‘zonder aanzien des persoons’ behandelen, volgens de regels die daar vooraf voor opgesteld zijn. Weber stelde dat, om deze voorspelbaarheid en objectiviteit te bereiken, de betreffende ambtenaren hun emoties zoveel mogelijk moesten uitschakelen. Emoties vertroebelen immers vaak het zicht op de werkelijkheid, en nopen ertoe om oneigenlijke redenen af te wijken van de regels. Dat brengt de voorspelbaarheid en objectiviteit van het overheidshandelen in gevaar. Het feit dat een ambtenaar van de gemeente bijvoorbeeld gebrouilleerd is met een burger, mag geen reden zijn om zijn vergunningsaanvraag te weigeren, wanneer deze wel aan alle wettelijke criteria voldoet.

Hierom pleitte Weber ervoor dat ambtenaren zich specialiseren en zich richten op een bepaalde handeling of onderdeel van een besluit, om zo efficiënt te kunnen werken. Hoe complexer het probleem, hoe meer er een ‘losmaking’ van menselijke betrokkenheid nodig is, om het probleem logisch en rationeel op te kunnen lossen. In de moderne tijd moeten (bestuurlijke) vraagstukken dus zoveel mogelijk ‘ontmenselijkt’ worden. Ambtenaren moeten als het ware hun gevoel uit kunnen zetten. Weber bespeurde echter ook weerstand tegen het idee van de ambtenaar als ‘rechtspraakmachine’. Ondanks zijn nadruk op het belang van objectieve regels moet daarom ook een persoonlijke aanpak mogelijk blijven. Deze aanpak moet echter wel altijd voldoende beredeneerd zijn vanuit de doelen en belangen die de betreffende wetgeving probeert te dienen.

AI En De Toeslagenaffaire

Het hoogtepunt van de ontwikkeling zoals Weber die beschrijft is een situatie waarin alle overheidsbesluiten een logisch en voorspelbaar uitvloeisel van het recht zijn, dat op iedereen op dezelfde wijze wordt toegepast. De overheidsorganisaties zijn dan niet veel anders meer dan ‘beslisfabrieken’, en ambtenaren zijn machines geworden die mechanisch uitvoeren wat hen (door de wetten) opgedragen wordt. Weber noemde dit wel de ‘legaal-rationele’ autoriteit. Daarin is het verschil tussen een ambtenaar of een computersysteem niet zo groot meer.⁹ De gevaren van zo’n onpersoonlijke, en ‘legaal-rationele’ aanpak bleken recent bij de Toeslagenaffaire. De algoritmes die de Belastingdienst gebruikte voor de controle van verschillende toeslagen bleken een groot aantal mensen onterecht als fraudeur aan te merken.¹⁰ Vervolgens was er binnen de overheidsinstanties onvoldoende corrigerend vermogen aanwezig om de negatieve gevolgen van deze onderliggende fout te voorkomen. Integendeel, de harde, algemene regels van de fraudebestrijding werden zonder onderscheid of aandacht voor de soms bijzonder schrijnende gevolgen doorgezet.

De Voordelen Van AI In Het Bestuursrecht

De uitwassen die onder andere plaatsvonden bij de Toeslagenaffaire hoeven echter niet meteen te leiden tot een volledige uitbanning van AI uit het overheidshandelen. Veel van wat fout ging bij de toepassing van algoritmen berust uiteindelijk op menselijke fouten: er werd te weinig kritisch gereflecteerd op de gebruikte computersystemen en signalen dat het beleid in de praktijk tot uitwassen leidde, werden niet opgepikt. AI en menselijke intelligentie zijn dus niet per definitie elkaars tegenpolen. Wel is het belangrijk om te reflecteren op de verhouding tussen de mens in het bestuursrecht en de algoritmische besluitvorming.¹¹

Hierboven is aan de hand van het werk van Weber al gewezen op voorspelbaarheid en objectiviteit als belangrijke eigenschappen van overheidsbesluiten. Het gebruik van automatische beslissystemen kan het gevaar van een willekeurige (en dus onvoorspelbare) invulling van de vrije beleidsruimte van ambtenaren tegengaan, door deze zoveel mogelijk vast te leggen in ‘regels’ voor een computerprogramma.¹²

Het is echter de vraag in hoeverre dit wenselijk is. Het perfectioneren van het legaliteitsbeginsel (het overheidshandelen wordt bepaald door vooraf vastgestelde normen) dient niet altijd de rechtvaardigheid van het overheidsoptreden. Een blinde toepassing van de wet kan juist leiden tot willekeur, omdat er geen rekening wordt gehouden met de omstandigheden van het individuele geval. Hier komt nog bij dat, wanneer er in het invullen van de discretionaire ruimte gebruikgemaakt wordt van zelflerende artificiële intelligentie, het in zekere zin de beslissystemen zelf zijn die de discretionaire bevoegdheid krijgen. Dit kan tot gevolg hebben dat het systeem voor de ambtenaren die de uiteindelijke beslissing moeten nemen onnavolgbaar wordt en ze uiteindelijk weinig anders kunnen dan de aanbevelingen van het systeem maar op te volgen.¹³

Altijd Menselijke Controle

Een van de mogelijkheden om kwalijke uitwassen te voorkomen is de redelijkheids-toets in individuele gevallen. Ambtenaren controleren dan of een bepaalde beslissing, die weliswaar wettelijk legaal en passend is, in een concreet geval geen onredelijk zware belasting voor de burger oplevert. De menselijke beslissing dient dan als ‘back-up’. Ook de Raad van State adviseert dit in haar ongevraagde advies over de effecten van de digitalisering voor de rechtstatelijke verhoudingen.¹⁴

Er bestaat een blijvende spanning tussen de ruimte die de wet biedt om rekening te houden met de menselijke maat en de omstandigheden van het individuele geval enerzijds, en de mogelijkheid om deze ruimte te vertalen naar AI-systemen anderzijds.¹⁵ De programmeertaal waarmee AI-systemen opgebouwd worden, lijkt het fenomeen van een vrije beslissingsruimte moeilijk te kunnen overnemen. De Raad van State schrijft dat de essentie van het binair digitaliseren is dat alles tot zwart-wit tegenstellingen gereduceerd wordt.¹⁶ Er kunnen dus wel uitgebreide beslisbomen opgetuigd worden om bijvoorbeeld invulling te geven aan de discretionaire ruimte, maar dat is nog steeds iets anders dan het openlaten van de mogelijkheid dat zich een nieuw geval voordoet waar het systeem niet op berekend is. Dat is iets waar menselijke beslissers zich over moeten buigen. Vaak wordt ervan uitgegaan dat algoritmes objectief zijn omdat ze gebaseerd zijn op computermatige berekeningen. In de vakliteratuur klinkt ook kritiek op de nadruk op rationalisering en het geloof in wiskundige regels in computertaal. De overtuiging dat je hiermee de samenleving zou kunnen begrijpen reduceert die samenleving tot een spel, tot een puzzel die alleen nog maar opgelost hoeft te worden door middel van berekeningen.¹⁷ Zowel voor morele vraagstukken als voor individuele personen geldt echter dat zij niet volledig te vatten zijn via rationalisering in computercode en de verzameling van data.¹⁸

Zinvol Contact Met De Overheid

Het is onder andere dit gegeven dat de Raad van State in zijn advies over de effecten van de digitalisering ertoe bracht om het recht op toegang tot en zinvol contact met de overheid op te nemen als nieuw beginsel van behoorlijk bestuur.¹⁹ De beginselen van behoorlijk bestuur zijn een aantal uitgangspunten waar de overheid zich in het contact met burgers altijd aan moet houden. Belangrijke beginselen zijn: zorgvuldige voorbereiding en motivering van besluiten, rechtszekerheid en het gelijkheidsbeginsel. Door het recht op zinvol contact met de overheid hieraan toe te voegen hoopt men te voorkomen dat de burger zich machteloos voelt tegenover een overheid die hij niet ziet, hoort of spreekt, maar alleen ontmoet in de vorm van digitale formulieren en automatisch gegenereerde besluiten. De Raad van State stelt dat dit zinvol contact gezien kan worden als een uitvloeisel van de menselijke waardigheid als een van de centrale publieke waarden.²⁰

Zinvol contact met de overheid vanuit de overtuiging dat ieder mens het waard is om door de overheid serieus genomen te worden is een goed aanknopingspunt om schadelijke uitwassen van AI in de rechtstoepassing te voorkomen.²¹ Het maakt het mogelijk dat het bestuur via de ambtenaren en rechters die de besluiten nemen nog eens goed het besluit heroverweegt, en op een verantwoordelijke en gewetensvolle wijze te werk gaat.

Conclusie

Artificiële intelligentie biedt het bestuursrecht dus zowel kansen als uitdagingen. Het kan de dienstverlening van de overheid sneller en efficiënter maken, waar de burgers mee gebaat zijn. Bovendien kan geautomatiseerde besluitvorming helpen om willekeur te voorkomen en juist meer één lijn aan te brengen in het overheidsbeleid. Anderzijds zijn er ook nadelen verbonden aan het gebruik van AI. Uit de Toeslagenaffaire bleek dat het vooral gevaarlijk wordt wanneer er vrijwel geen menselijke controle meer is op besluiten die door computersystemen voorbereid worden. Bovendien brengt de uniformering die verbonden is aan automatisch gegenereerde besluiten het gevaar met zich mee dat er geen ruimte meer is om in individuele gevallen af te kunnen wijken van de wettelijke voorschriften. Het gebruik van AI in het bestuursrecht moet daarom zo vormgegeven worden dat er altijd ruimte is voor een menselijke heroverweging in individuele gevallen. Dit volgt uit de erkenning dat het niet mogelijk is alle morele vraagstukken rondom de toepassing van het recht volledig te vatten in algoritmische regels en strakke wetten. En burgers hebben, als uitvloeisel van hun menselijke waardigheid, recht op zinnig contact en toegang tot de overheid. Op die manier kunnen situaties van ongekend onrecht en ‘Kafka in de polder’ in de toekomst voorkomen worden.

Bronnen

1 Deze titel is ontleend aan Kafka in de rechtstaat van E. Pasman (Amsterdam 2021).

2 F. Kafka (vert. W. van Toorn) Het proces (Amsterdam 2021), p. 9.

3 https://nos.nl/artikel/2356771-advocaattoeslagenaffaire-doet-denken-aan-kafkaliep-tegen-muur-aan

4 L. van den Berge, ‘Recht en bureaucratie: Kafka en de toeslagenaffaire’, AA, 2022/0658, p. 658-661; K. Crawford, [cursief:] Atlas of AI. Power, Politics and the Planetary Costs of Artificial Intelligence (Londen 2021), p. 196, 197.

5 A. Meuwese, ‘Artificiële intelligente en bestuursrecht: menselijk én digitaal’, NTB 2022/37, p. 56-66.

6 M. Bovens, M. van Eck & S. Zouridis, ‘Algoritmische rechtstoepassing in de democratische rechtsstaat’, NJB 2018/2101, p. 3008-3017; M. Bovens & S. Zouridis, ‘From Street-Level to System-Level Bureaucracies: How Information and Communication Technology Is Transforming Administrative Discretion and Constitutional Control’, Public Administration Review 2002/2, p. 174-184.

7 Bovens & Zouridis 2002, p. 177-180.

8 Meuwese 2022, p. 4.

9 Bovens & Zouridis 2002, p. 181.

10 https://www.uva.nl/shared-content/faculteiten/nl/faculteit-derrechtsgeleerdheid/nieuws/2023/02/deonthulling-van-het-kinderopvangtoe slagschandaal-kan-betekenen-datnederland-vooroploopt.html?cb

11 Meuwese 2022, p. 9.

12 Bovens & Zouridis 2002, p. 181.

13 Bovens & Zouridis 2002, p. 180-182; Ongekend onrecht 2020, p. 7; Lessen uit de kinderopvangtoeslagzaken 2021, p. 46; Bovens, Van Eck & Zouridis 2018, p. 3-7.

14 Bovens, Van Eck & Zouridis 2018, p. 9, 10; Ongevraagd advies 2018, p. 2, 14.

15 Meuwese 2022, p. 6.

16 Ongevraagd advies 2018, p. 5.

17 Crawford 2021, p. 211-215.

18 Crawford 2021, p. 111-115; boyd & Crawford 2012, p. 663-666.

19 Ongevraagd advies 2018, p. 3, 19, 20.

20 Ongevraagd advies 2018, p. 19.

21 E. Hirsch Ballin, Mensenrechten als ijkpunten van artificiële intelligentie, Wetenschappelijke Raad voor het Regeringsbeleid Working Paper no. 46, Den Haag 2021, p. 39, 40.

Deze tekst is geautomatiseerd gemaakt en kan nog fouten bevatten. Digibron werkt voortdurend aan correctie. Klik voor het origineel door naar de pdf. Voor opmerkingen, vragen, informatie: contact.

Op Digibron -en alle daarin opgenomen content- is het databankrecht van toepassing. Gebruiksvoorwaarden. Data protection law applies to Digibron and the content of this database. Terms of use.

Printen