Anders denken: ja en neen

De laatste vier jaar werk ik vanuit de Vrije Universiteit Brussel en de Radboud Universiteit in Nijmegen met een team van juristen en informatici aan ICT in het recht, oftewel de inzet van ‘legal tech’ in de rechtspraktijk. Ik noem dat hieronder voor het gemak ‘juridische technologie’, hoewel de technologie natuurlijk niet juridisch is. Het is ‘jargon’ voor technologie die juridische beslissingen neemt, ondersteunt of voorbereidt. Meestal wordt er met ‘legal tech’ niet verwezen naar het digitaliseren van de rechtsorde, wat niet meer en niet minder is dan het digitaal beschikbaar maken van juridische bronnen, besluiten en processtukken. In plaats daarvan gaat het om vormen van zogenaamde kunstmatige intelligentie.

Je moet dan denken aan ‘legal search’ ofwel juridische zoekmachines, in Nederland bijvoorbeeld ‘Legal Intelligence’ en ‘Rechtsorde’, die inmiddels beide zijn opgekocht door twee grote uitgevers die samen de markt bepalen en daarmee de toegang tot de rechtsbronnen. Wat als de aanbieders van juridische zoekmachines het niet de moeite waard vinden om bepaalde tijdschriften op te nemen in hun aanbod, of als hun tarieven voor de meest complete pakketten alleen betaalbaar zijn voor grote kantoren (Big Law) op de Zuidas?

Of je kunt denken aan het voorspellen van rechterlijke uitspraken. Op basis van die voorspellingen zou een rechtsbijstandsverzekering kunnen besluiten de kosten van rechtsbijstand niet te vergoeden: “Uw zaak maakt geen kans (aldus ons algoritme dat in 84% van de gevallen ‘gelijk’ heeft).”

Tenslotte kan het gaan over het vertalen van wettelijke bepalingen naar computercode, zodanig dat beslissingen kunnen worden genomen door of met die code, wat veel geld en mankracht zou schelen. De Belastingdienst werkt bijvoorbeeld met RegelSpraak, een mooi voorbeeld van de automatisering van de uitvoering van het recht.

Het is mij al veel langer duidelijk dat het modelleren van menselijk gedrag met behulp van gigantische datasets een hachelijke zaak is. Niet alleen omdat het mensen manipulabel zou maken of het eenvoudiger maakt om mensen op geraffineerde en moeilijk te achterhalen wijze te discrimineren. Het gaat er ook om dat de betreffende systemen meestal helemaal niet doen wat de verkoper beweert. Er gaapt een grote kloof tussen de functionaliteit die geclaimd wordt en hetgeen zo’n technologie wel of niet kan. Precies dat punt onderzoeken wij nu ten aanzien van juridische technologie. De bevindingen stemmen niet gerust. PR en advertising zijn dik in orde, de functionaliteit is vaak niet indrukwekkend. Het is niet zozeer een kwestie van het kaf van het koren scheiden, maar eerder een kwestie van doorvragen of het koren bij nader inzien geen kaf blijkt te zijn en bezinnen op de vraag wanneer zo’n technologie onder het koren zou vallen.

Het ‘algoritmiseren’ van het recht is nog hachelijker dan gedraggestuurd adverteren (mijn autocomplete maakt hier liefst ‘gedragsgestoord’ van, toch wel humor die software). Rechtsvinding en recht scheppen naar algoritmisch inzicht veronderstelt dat het recht ‘gewoon’ gelijk kan worden gesteld aan een klont gedragsdata waar je met veel wiskunde de juiste wetmatigheden uit kunt abstraheren, die je vervolgens machinaal kunt gaan toepassen. Of het veronderstelt dat rechtsregels samenvallen met het toepassen van een specifieke logica, alsof het mogelijk zou zijn om de interpretatie van de regel vast te schroeven voordat er sprake is van een geval dat onder de regel valt. Het probleem is dat je beide aannames kunt ‘aanhangen’ ook als ze niet kloppen, en vervolgens met een blij hoofd aan de slag kunt gaan. Dat lijkt mij geen goed idee, en het omarmen van dit type technologie lijkt mij dan ook op gespannen voet te staan met de grondslagen van de rechtsstaat. Sommigen zeggen dat het zo’n vaart niet zal lopen, want ‘er is een grote markt voor investeringen in juridische technologie, maar geen serieuze markt voor het gebruik ervan’. Laten we hopen dat Nederlandse nuchterheid ons beschermt tegen mega-investeringen in technologie die altijd meer investeringen vraagt (updates, beveiligingssoftware, aanpassingen omdat het recht nu eenmaal voortdurend verandert, etc.).

Betekent dit alles nu dat ik ‘tegen’ juridische technologie ben? Integendeel, ik denk dat er veel winst geboekt kan worden met het beter stroomlijnen van processen en het snel en correct uitwisselen van informatie. Ik zou dat willen vatten onder de term ‘digitalisering van de rechtsorde’. Dat is niet spectaculair maar wel broodnodig. Het gaat niet om het voorspellen van de uitkomst van rechtszaken en het veronderstelt geen machtsconcentratie bij de aanbieders van juridische portals. Het vraagt wel uitstekende softwareontwikkelaars en een goed plan voor het onderhoud van die software, inclusief bescherming tegen het hacken van de code en/of de data. Dat is niet goedkoop en helaas ook niet altijd eenvoudig. Omdat de digitalisering van de rechtsorde direct raakt aan de rechtsstaat, zijn transparantie en narekenbaarheid een eerste vereiste. Het gaat hier om een publieke taak die de voorwaarden moet scheppen voor een betrouwbare overheid en voor gerechtvaardigd vertrouwen van burgers in elkaar. We moeten er in beginsel van uit kunnen gaan dat de software doet wat die behoort te doen, in overeenstemming met het recht dat erin wordt vervat. Maar we moeten ook kunnen achterhalen of dat klopt, blind vertrouwen hoort niet thuis in een democratische rechtsstaat.

Is mijn denken hierover veranderd? Ja en neen. Neen, ik heb nooit gedacht dat je juridische problemen met technische oplossingen kunt adresseren. Ja, ik ben minder optimistisch over het vermogen van verschillende soorten ‘kunstmatige intelligentie’ om maatschappelijke problemen op te lossen zonder heel veel nieuwe problemen te scheppen. Ja, mijn denken over computationeel denken heeft zich verdiept en verder ontwikkeld. Meer aandacht voor het belang van wat zich niet laat berekenen en hoe dat zich verhoudt tot wat zich wel in cijfers en variabelen laat vatten.