Afgelopen week las ik het prikkelende essay Doe zelf normaal van Maxim Februari. Wat mij het meest is bijgebleven is zijn perspectief op de maatschappelijke implicaties van technologische ontwikkelingen. Voor hem draait het niet om de manier waarop we technologie kunnen reguleren, maar om de fundamentelere vraag hoe de opmars van nieuwe technologieën de rechtstaat zelf verandert. Of in zijn woorden: 'Niet de greep van het recht op de technologie, maar de invloed van de technologie op het recht en het functioneren daarvan in de samenleving en de staat.'
|
Dat klinkt abstract, maar Februari maakt het concreet met veel mooie voorbeelden. Neem bijvoorbeeld het toekomstbeeld van wat hij een ‘magisch schild’ noemt: de ontwikkeling waarin auto’s uitgerust met een ‘intelligente snelheidsassistent’ automatisch langzamer gaan rijden als ze een 30-kilometer zone binnenrijden. Dat lijkt een gradueel verschil met hoe het nu geregeld is: aan de rand van de woonstraat staat een verkeersbord en als het goed is verlaagt de bestuurder dan zijn snelheid. Doet hij dat niet, dan riskeert hij een boete, al dan niet na een radarcontrole.
|
|
|
Maxim Februari is schrijver en rechtsfilosoof (foto: Niek Stam)
|
Automatisering van de deugd
Toch zijn de twee situaties wezenlijk anders. De verkeersregel in de digitale snelheidsassistent is namelijk omgezet in softwarecode die de regel automatisch uitvoert. De automobilist heeft niet langer de keuze om het gebod al dan niet op te volgen. Het gewenste gedrag wordt nu technologisch afgedwongen. De mogelijkheid tot een eigen morele afwegingen wordt hem ontnomen, inclusief een eventuele discussie met de rechter over de interpretatie van de regels achteraf.
De bestuurder hoeft niet eens te weten dat er een snelheidsbeperking geldt. In de woorden van Februari: ‘de automatisering van de deugd’ tast hier de morele autonomie van de burger aan. Daarbij komt dat de beheerder de regels ook eenzijdig aan kan passen, opnieuw zonder dat daar discussie over wordt gevoerd. Vanochtend geldt 30 kilometer per uur, rond de lunch 50 en na 16:00 uur wordt de straat überhaupt niet meer getoond in het navigatiesysteem.
|
|
|
Toekomstmuziek? Tomtom bouwt nu al zulke intelligente ‘snelheidsassistenten’. (beeld:
TomTom)
|
Algoritmes als private regulators
Er zijn denkers, bestuurders en techneuten die dit een positief scenario vinden. Ze zien een toekomst voor zich waarin ‘slimme’ systemen hun regels steeds aanpassen aan de hand van realtime-data. Hoe druk is het op de ringweg? Gaan de scholen bijna uit? Hoe zit het met fijnstofniveaus? Met data en kunstmatige intelligentie kunnen systemen ook zelf nieuwe regels bedenken om de stad of de planeet beter te organiseren. Belangrijk punt: het zijn ook niet alleen overheden die dergelijke regels opstellen en implementeren. Ook tech bedrijven stellen soortgelijke regels op, bijvoorbeeld via de algoritmes van hun platformen. Zij nemen een rol van
private regulators aan.
Februari vindt dit scenario een regelrechte ondermijning van de rechtstaat, waarin een constitutie plaats maakt voor een dashboard met indicatoren die het gedrag in de samenleving aansturen. Zulk algoritmisch management lijkt objectief, maar dat is het natuurlijk niet. Want voor welke doelen is het systeem geoptimaliseerd? Wie heeft dat bepaald? Wie levert de data en hoe worden die dan gecategoriseerd? Het probleem is dat dergelijke systemen een normgedrag vaststellen, op basis van ondoorzichtige onderliggende principes. Die norm vertalen zij in onzichtbare codes die ons gedrag sturen, ontmoedigen of onmogelijk maken, vaak zonder dat we het in de gaten hebben.
|
Van normen naar gemeenschap
Februaris pleidooi is dat deze ontwikkeling indruist tegen het centrale idee van de rechtstaat, namelijk dat we democratische instituties en het recht hebben uitgevonden om het vooral ook met elkaar oneens te zijn, en voortdurend met elkaar in gesprek te kunnen zijn over wat nu de norm is. In alle 'rechtszalen, leesclubs, cafés, praatprogramma's en praathuizen die we parlementen noemen' waar dat gesprek plaats vindt, worden niet alleen normen gevormd, maar ook de morele gemeenschap en de rechtsgemeenschap.
Met andere woorden: democratische debat is niet alleen een manier om tot normen te komen, het brengt ons ook bij elkaar als de gemeenschap. Ook dat verliezen we wanneer ons gedrag wordt genormeerd door externe systemen op basis van hyperindividuele dataprofielen. En wat ook verdwijnt is de mogelijkheid om de norm te interpreteren en onze eigen afwegingen te maken. Als in: ‘eigenlijk mag ik niet’ harder dan 30, maar ik ben nu met mijn zwangere vrouw op weg naar het ziekenhuis.
|
|
