Is er meer tussen mens en machine?

door Ingezonden op 26/06/2013

in Bestuursrecht, Grondrechten

Post image for Is er meer tussen mens en machine?

Dagelijks horen we over nieuwe technologie als google glass, hangouts, vinen en de CIA die je e-mail en andere virtuele activiteiten kan zien. We krijgen dan het idee dat de technologische sky de limit is. Het vertrouwen in de mogelijkheden van informatietechnologie is erg groot. Je ziet de über alfageschoolde rechter al verbaasd naar je kijken als je als vertegenwoordiger van de overheid op een zitting komt: ‘kunnen uw computers dit dan niet? Bestanden kunnen toch gekoppeld worden of zo?’ om vervolgens in zijn papieren dossier te bladeren. Een dossier vol met ‘printscreens’ en informatie over ‘batches’ en ‘klantbeelden’.

Kijk eens rond bij een gemiddeld bedrijf of overheidsinstelling en je zult systemen zien die verdacht veel lijken op de versies van je personal computer in de vorige eeuw. Zwart beeld en een knipperend grijs blokje. Retro is hip, maar bij computersystem vooral traag en niet flexibel (dit heet ‘robuust’). Automatisering heeft grote voordelen. Zaken gaan snel en kosten weinig.  Computers discrimineren niet en hebben geen last van een ochtendhumeur. Maar het wordt tijd dat we inzien dat automatisering van de uitvoering zo zijn grenzen heeft. En dat we weer zelf moeten gaan nadenken. Want ergens gedurende de automatisering lijkt dat gestopt te zijn; het zelf nadenken. We vertrouwen inmiddels op wat de machine zegt over een mens. Maar er is meer tussen mens en machine.

De zaak Dolmatov maakt pijnlijk duidelijk hoe automatisering een bepalende grip op de werkelijkheid heeft gekregen. Uit het rapport van de Inspectie Veiligheid en Justitie blijkt onder andere het volgende. Aleksandr Dolmatov was een Russische activist die deel nam aan een massale demonstratie tegen Poetin op 6 mei vorig jaar. Hij wordt voor deze deelname opgepakt. Na zijn vrijlating duikt hij onder op verschillende adressen. In Rusland zitten nog steeds mensen gevangen die deelnamen aan de demonstratie. Dolmatov reist via een omweg naar Nederland. Lezers van het boek van de met plutonium vergiftigde Litvinenko (Terreur van binnenuit) zijn al bekend met dit fenomeen; een directe vlucht boeken is te gevaarlijk als je Rusland snel wilt verlaten. Eenmaal in Nederland en na gesprekken met zijn moeder over de actuele situatie in Rusland, vraagt Dolmatov asiel aan . Hij vertelt zijn verhaal op de radio en in kranten in Nederland en België. In een interview voor een Belgisch nieuwsblad zegt hij te beseffen dat hij een doelwit is en dat hij zich in Nederland ‘min of meer’ veilig voelt. Inmiddels informeert men op hoog niveau naar de komst van Dolmatov (door het ministerie van Buitenlandse zaken).  De IND laat minister weten dat hij op de hoogte gehouden zal worden over het vervolg. De aanvraag van Dolmatov wordt afgewezen. Dit wordt persoonlijk door de IND en de minister besproken. Meer over Dolmatov in: http://olafkoens.nl/tag/dolmatov/

Vanaf dan gaat de automatisering een grote rol spelen. Het systeem van de IND lijkt zo te zijn gebouwd dat iemand wiens aanvraag is afgewezen, automatisch na 4 weken ‘verwijderbaar’ wordt. Dit is een vertaling van vrij ingewikkelde wettelijke bepalingen uit de Vreemdelingenwet 2000. In deze bepalingen staat dat iemand na 4 weken Nederland dient te verlaten en dat iemand 4 weken de tijd heeft om beroep aan te tekenen bij een rechter. Er staat ook dat de werking van het besluit (‘je moet terug’) gedurende deze 4 weken wordt opgeschort. Bovendien geldt dat als iemand gedurende de beroepstermijn tijdig beroep aantekent, hij de beslissing van de rechter in Nederland mag afwachten. Dit alles lijkt dus vertaald te zijn in deze rekenregel: datum van het besluit + 4 weken=verwijderbaar. Waarom klopt dit niet?

Ten eerste gaat deze regel alleen op als iemand geen beroep aantekent en de IND dat weet binnen 4 weken. Ik denk niet dat het waarschijnlijk is dat mensen eerst om politieke redenen hun land verlaten en daarna geen beroep aantekenen tegen een afwijzing om verblijf. Maar goed, strikt genomen klopt deze rekenregel dus voor een bepaalde categorie gevallen: bij mensen die een afwijzing kregen en direct vermelden dat zij afzien van rechtsmiddelen. Door de wijze van automatisering echter gaat deze voor iedereen gelden; er ontstaat hiermee een verschil tussen het recht en de informationele werkelijkheid.

Als tweede reden geldt dat in de praktijk een afwijzing van een aanvraag zelden het eindstation is. Als aanvrager kun je in beroep gaan bij de rechtbank. Dit is een belangrijker pijler in een rechtsstaat, een beslissing van de overheid kunnen voorleggen aan een onafhankelijk rechter. In de zaak Dolmatov tekent de advocaat van Dolmatov tijdig beroep aan. Juridisch gezien mocht Dolmatov vanaf dat moment in Nederland de beslissing van de rechter afwachten. Feitelijk betekent dit meestal dat iemand ongeveer een jaar langer mag blijven. Bij alle termijnen is het vrij gebruikelijk dat deze volledig worden benut. Zo ook bij beroepstermijnen. Dus, uitgaande van deze praktijk is de rekenregel wel een versimpeling van de praktijk: datum van besluit + vier weken = verwijderbaar. Versimpeling omdat nog tot 24.00 uur op de laatste dag beroep mag worden ingediend.  Met andere woorden; iemand mag tot 24.00 van de laatste dag blijven en dit wordt verlengd als voor 24.00 uur beroep is ingediend. Dit betekent dus dat er een rekenregel wordt gebruikt waarin alleen een hoofdregel is vastgelegd en niet de (hoofd)uitzondering.

De derde reden is dat een beroep niet bij de IND zelf wordt ingediend. Dit gebeurt bij een rechtbank; een andere organisatie met een ander informatiesysteem. De fax met het beroepschrift wordt eerst door de rechtbank verwerkt (ingeboekt) en daarna bekend gemaakt aan de IND. Dit zijn dus extra stappen die gezet moeten worden.  Belangrijke stappen omdat de fax vanaf het moment van indiening zorgt voor de juridische verlenging van verblijf . Ook als op dat moment iedereen van de rechtbank al naar huis is. En ook als dit op dat moment niet bekend is bij de IND.

De vierde reden waarom ik vind dat dit een verkeerde rekenregel is, is dat de IND selectief heeft geautomatiseerd. Want als er beroep is ingediend en dit bekend raakt bij de IND (in de zaak Dolmatov zo’n 4 dagen na het feitelijk indienen van het beroep) leidt dit juist niet automatisch tot een recht op verblijf. Ook hier ontstaat dus een verschil tussen het recht en de informationele werkelijkheid. Terwijl dit nou juist een vrij eenvoudig te programmeren algoritme lijkt; als beroep tijdig dan niet verwijderbaar. Vervolgens zou deze termijn pas moeten eindigen op het moment dat er een uitspraak is of beter nog, als deze gezag van gewijsde heeft.  De oplossing van de IND is een vinkje dat door een medewerker moet worden opgevoerd. In dat geval wordt de termijn van ‘niet verwijderbaar zijn’ met twee weken verlengd. Dit is bij Dolmatov niet gebeurd.

Als men een handmatige oplossing verzint voor een probleem dat geautomatiseerd ontstaat, is het opletten geblazen. Een organisatie neemt dan bewust het risico dat medewerkers dit vergeten. Erger is dat het essentiële punt- er is verkeerd geprogrammeerd- niet weggenomen wordt . Ook dit is een bekend fenomeen en geldt net als bovenstaande niet alleen voor de IND. Wijzigingen (‘changes’) in een bestaand systeem hebben geen prioriteit (‘prio’). Dit heeft ook te maken met de kosten van een wijziging en de mogelijke uitwerking op de andere applicaties. Vervolgens krijg je dan fouten die men bereid is te accepteren (de ‘known errors’). En probeert men door middel van werkinstructies dit te verhelpen (de ‘noodverbandjes’). Probleem hierbij is echter weer dat de medewerkers dan wel moeten weten dat het systeem  fouten veroorzaakt. Dat was bij Dolmatov niet het geval. Er bestond namelijk bij de IND ‘onduidelijkheid’ over dit punt. Juridisch gezien was de zaak glashelder.

De consequentie van een onjuist gegeven over een persoon in een bestand dat maar door enkele mensen gebruikt wordt, kan meevallen. Het gegeven kan bijvoorbeeld genegeerd worden. Maar door het koppelen van bestanden en het gezamenlijk gebruiken van dezelfde informatie over groepen van mensen, wordt het probleem als een olievlek verder verspreidt. De ‘keten’ veroorzaakt een kettingreactie die niet meer te stoppen is. Niet alleen in een individueel geval is verzet haast onmogelijk. Ook door de massaliteit is het gevolg groot. Volgens de minister van V&J zijn bijvoorbeeld door deze fout in het systeem iets minder dan 300 mensen onterecht aangemerkt als ‘verwijderbaar’.

Toen Dolmatov in verwarde toestand om sociale redenen werd ‘ingesloten’, dacht de Vreemdelingenpolitie op basis van de gegevens van de IND dat hij Nederland moest verlaten. Het systeem zei ‘verwijderbaar’ en daarom werd hij aangehouden. Daarom ook werd hij, toen het weer beter met hem leek te gaan, niet naar het AZC gebracht maar in vreemdelingenbewaring geplaatst. Daar pleegde hij zelfmoord.

Zo werd Aleksandr Dolmatov van gespreksonderwerp tussen hoofd IND en de verantwoordelijk minister, een verwijderbare vreemdeling in een cel op basis van onjuiste informatie. De transformatie van mens naar machine leidde tot een dermate grote versimpeling dat er geen aandacht meer was voor de mens. Bovendien waren de juridische waarborgen niet goed geïmplementeerd in het systeem. Het zou te makkelijk zijn om de dood van Dolmatov te wijten aan een fout van de computer. Maar deze zaak maakt nog iets duidelijk. Er is niet alleen een verkeerde rekenregel geprogrammeerd. Ook ons vertrouwen in de automatisering is te groot. Wie ervaring heeft met het vreemdelingenrecht en de diversiteit aan verblijfstitels en de mate waarin deze op een  later tijdstip met terugwerkende kracht weer kunnen veranderen, weet dat dit ongelooflijk ingewikkelde materie is. Misschien is het tijd te accepteren dat we de grenzen van de automatiseringsmogelijkheden bereikt hebben.

In ieder geval wordt het tijd voortaan om te twijfelen aan de informationele werkelijkheid zoals het systeem die laat zien. Ons blinde vertrouwen in het ‘systeem’ en de mogelijkheden daarvan moet veranderen. Zo erkende de minister van V&J over het systeem van de IND dat er een kwetsbaarheid zit in het systeem die structureel is. Dit is een stap in de goede richting. Deze kwetsbaarheden zou iedereen moeten kennen, niet alleen de medewerkers en de ketenpartners. Ook de mensen die het betreft en de rechtbanken moeten op de hoogte zijn van de kwetsbaarheden en de ‘foutmarges’ die zijn geaccepteerd .

Op de vraag ‘is er meer tussen hemel en aarde?’ antwoorden veel mensen in de trant van: ‘ja er is wel iets, wat weet ik niet precies.’

Mijn hoop is dat we voortaan ook zo omgaan met de vraag ‘is er meer tussen mens en machine?’ Het antwoord op deze vraag is veel makkelijker dan op die andere vraag: ja, er is altijd en in elk geval meer. Zowel in de feiten en het recht.

Marlies van Eck
Overheidsjurist
Deze bijdrage verscheen eerder op haar eigen weblog

{ 2 reacties… read them below or add one }

1 Richard Westerbek 28/06/2013 om 17:09

Zeer goede analyse. Het is goed dat dit hier wordt benoemd, want in het debat in de Tweede Kamer miste ik een dergelijke analyse volkomen. Ik kan alleen maar hopen dat betreffende Kamerleden, bewindslieden en ambtenaren dit ook lezen.

Hetzelfde probleem speelt zowiezo bij vele automatisering waarbij (o.a. juridische) regelgeving in software wordt omgezet. Software loopt al snel achter op de werkelijkheid, en dat wordt niet altijd goed ondervangen door werkinstructie.

En weer een weblog erbij om te volgen.

2 a.zecha 05/07/2013 om 15:22

Tot twee maal toe stelt de auteur dat de IND een systeem “lijkt” te hanteren die al dan niet in hun computer programmatuur is verankerd.
Indien deze vaststelling waar is dan wordt het zeer plausibel dat de IND meerdere asielaanvragers onterecht en onwettelijk uitwijzen, respectievelijk in detentie houden.

Een tweede bemerking die kan worden gemaakt is dat de afwijzing van de asielaanvrage van Dalmatov door de IND met de minister persoonlijk is besproken: begin cit. “De aanvraag van Dolmatov wordt afgewezen. Dit wordt persoonlijk door de IND en de minister besproken” einde cit..
Indien dit waar is dan heeft de IND programmatuur in de zaak Dalmatov geen beslissende rol gespeeld.
a.zecha

Reactie achterlaten

Vorige post:

Volgende post: