RECAST #06

Recast is een nieuwsbrief en netwerk over design, techniek en samenleving. Samen met onze lezers verkennen we de maatschappelijke implicaties van nieuwe technologieën vanuit een ontwerpend perspectief.

Deze week de zesde aflevering:

Digitale soevereiniteit:
Hoe organiseren we de zeggenschap over ons online leven?

 Martijn de Waal, Lector Civic Interaction Design, Hogeschool van Amsterdam

Afgelopen week bezocht ik de Digital Society Conferentie 2022 in Utrecht. Ik hoorde daar twee heel verschillende verhalen, die uiteindelijk over hetzelfde thema gingen: soevereiniteit in de digitale wereld. Oftewel het vraagstuk van zeggenschap en eigenaarschap over gegevens en gedrag in de digitale wereld.

Afhankelijk van Amerika en China
Hoogleraar Security, Privacy en Identity Bart Jacobs (Radboud Universiteit Nijmegen) vatte dit thema het krachtigst samen tijdens een panelgesprek over veiligheid: “We hebben ons afhankelijk gemaakt van Amerikaanse software die draait op Chinese hardware.” 

Die afhankelijkheid is om uiteenlopende redenen problematisch:

• Amerikaanse bedrijven nemen het niet altijd even nauw met Europese regels en de onderliggende waarden waarop die gebaseerd zijn. Op de dag van de conferentie kreeg Meta nog een boete van 265 miljoen opgelegd voor schending van Europese privacyregels;
• Tijdens de crisis in Oekraïne bleek hoe riskant het is afhankelijk te zijn van een buitenlandse leverancier voor cruciale infrastructuur - hoe fijn goedkoop gas op korte termijn ook kan zijn voor de economie;
• Via achterdeurtjes in de hardware kunnen buitenlandse overheden of inlichtingendiensten meekijken; 
• Als overheid of publieke instelling wil je niet afhankelijk zijn van softwaremonopolisten. Je wilt zeggenschap over de data die je via hun systemen verzamelt.

"We hebben ons afhankelijk gemaakt van Amerikaanse software die draait op Chinese hardware."
Bart Jacobs tijdens de Digital Society Conferentie 2022.

Waarom gebeurt er zo weinig?
Voldoende reden om het thema hoog op de agenda te zetten, zou je zeggen. Maar dat valt tegen, zeggen Jacobs en mede-panelisten Bernold Nieuwesteeg (cybersecurity-expert) en Bert Hubert (ICT-deskundige). Volgens hen hebben overheden en andere publieke instellingen weinig interesse om hun zeggenschap over systemen te vergroten. “We zouden kunnen beginnen bij de universiteiten”, zei Jacobs. “Maar er is nog niet eens het begin van een wens is om zoiets te doen.”

Waarom gebeurt er zo weinig? Enerzijds bestaat het idee dat de overheid zich niet te veel moet bemoeien, omdat de markt het allemaal zelf kan oplossen. Anderzijds spelen discussies over veiligheid een rol. Zijn alternatieven als open source wel goed te beveiligen? En wie is daar dan voor verantwoordelijk?

1-procentregeling voor open source

Jacobs zou het graag anders zien en deed een concreet voorstel om te werken aan meer soevereiniteit. Zoals er bij grote bouwprojecten in de fysieke wereld een klein percentage van de bouwkosten bestemd wordt voor kunst, zou bij grote digitale bouwopdrachten 1 procent van de kosten gereserveerd moeten worden voor de ontwikkeling en het beheer van opensource-software. Zo zouden Nederlandse gemeenten bijvoorbeeld gezamenlijk eigen software kunnen ontwikkelen en beheren, waar zij volledige zeggenschap over hebben.

Het is een interessante gedachte, die ook uitnodigt om verder na te denken over het ontwikkelingsmodel van dergelijke software. Hebben we hier ook een nieuw type institutie voor nodig, dat de ontwikkeling en het ‘stewardship’ van publieke open source software voor haar rekening kan nemen? De Foundation for Public Code experimenteert hier al mee.

Kerstcadeau van het jaar: bescherm jezelf tegen je mobiele telefoon

Terwijl deze paneldiscussie ging over zeggenschap van publieke instituties over software en data, werd datzelfde thema eerder op de dag belicht vanuit het perspectief van burgers. Hoogleraar Mediastudies Trine Syvertsen (Universiteit van Oslo) besprak het thema aan de hand van twee beelden van het Zweedse ‘kerstcadeau van het jaar’ – een gimmick van het Zweedse instituut voor de detailhandel.

In 1994 (!) was dit kerstcadeau de mobiele telefoon. In 2019 was het een simpel doosje waarin meerdere mobiele telefoons tijdelijk opgeborgen konden worden. Het idee van deze simpele gadget is telefoonbezitters tegen zichzelf in bescherming nemen, door ze tijdelijk af te schermen van alle piepjes, meldingen en andere aandachttrekkerij van hun apparaten.

Kerstcadeau van het jaar 2019, volgens het Zweedse instituut voor detailhandel.

Hoewel digitale media ons leven op veel manieren gemakkelijker maken, is het voor de meeste mensen ook heel lastig om de roep om aandacht van deze apparaten en bijbehorende platformen te negeren. Dat is ook niet zo gek: voormalig Google design-ethicus Tristan Harris wijst ons via zijn non-profit Center for Humane Technology op het feit dat digitale platformen uit Silicon Valley dezelfde tactieken gebruiken als de ontwerpers van gokautomaten uit Las Vegas om onze aandacht vast te houden.

Wie is verantwoordelijk voor online gedrag?

Nu is kritiek op nieuwe technologieën en hun corrumperende effect niet nieuw, vertelde Syvertsen. Al bij de invoering van het alfabet werd geklaagd dat het ons geheugen aan zou tasten. Toch is er dit keer meer aan de hand. We zijn in ons hele doen en laten afhankelijk geworden van digitale technologieën. Ze worden altijd en overal als de oplossing gepresenteerd. We kunnen er moeilijk aan ontsnappen. En dat terwijl een groot gedeelte van die apps wordt ontwikkeld om geld te verdienen aan onze aandacht.

Gek genoeg zien we dat als een individueel probleem, zei Syvertsen. Terwijl veel platforms ontworpen zijn om ons gedrag op allerlei (onbewuste) manieren te sturen, wordt het als onze eigen verantwoordelijkheid gezien om onze soevereiniteit te bewaken. We falen als individu als we de verleidingen niet weerstaan.

Ook dit inzicht roept interessante vragen op. Hoe is dit proces van individuele verantwoordelijkheid om te draaien? Voldoet het beleidsinstrumentarium van marktregulering? Of moeten we op zoek naar alternatieve institutionele vormen en praktijken die het internet als publieke sfeer vrijwaren van dark patterns?

Waarom ik dit interessant vind?

Technologische soevereiniteit is de afgelopen jaren uitgegroeid tot een breed thema. De verschillende discussies komen allemaal neer op zelfbeschikking en eigenaarschap over infrastructuur, data en gedrag in de digitale wereld. Uiteenlopende organisaties zoals Bits of Freedom, TNO en Waag zetten het op de agenda en inmiddels wordt het thema ook in het Europese Parlement besproken.

In heel Europa wordt gedebatteerd over de voorwaarden voor soevereiniteit. Zo besloot Frankrijk bijvoorbeeld gratis clouddiensten als Microsoft 365 en Google Workspace niet meer gebruikt mogen worden in het onderwijs. Eén van de redenen is dat dit soort diensten gegevens van burgers opslaan in de Amerikaanse cloud. Deze discussie speelt ook in Nederland. Al gaat onze overheid nog niet zo ver als de Franse. Wel zei staatssecretaris Alexandra van Huffelen tijdens de Digital Society Conferentie opnieuw dat zij het belangrijk vindt alternatieven voor dominante socialemediaplatformen te ontwikkelen in Nederland.

Startpunt voor ontwerp

Deze discussies gaan niet alleen over zeggenschap over de infrastructuur, maar ook over de manier waarop gedrag op internet wordt gestuurd. Terwijl we dat laatste nu vaak zien als individuele verantwoordelijkheid, zouden we ook moeten kijken naar het ontwerp van het systeem. Het idee van 1-procentregeling voor open source en de opbergbox voor smartphone kunnen startpunten zijn om als designers bij te dragen aan digitale soevereiniteit.

Komende jaren gaan we op zoek naar manieren om die digitale soevereiniteit te ontwerpen, organiseren en reguleren. Hoe kunnen we een alternatieve digitale infrastructuur ontwerpen vanuit publieke waarden? Wat voor nieuwe instituties en organisaties zijn daarvoor nodig? Hoe verhouden die zich tot marktpartijen? En hoe kunnen verschillende perspectieven op soevereiniteit worden afgestemd? Soevereiniteit voor individuele burgers kan namelijk op gespannen voet komen staan met zeggenschap van de Staat.

Europese denkkaders

Voor die discussie is het belangrijk de juiste denkkaders en metaforen te vinden. Wat dat betreft bood Syvertsen nog een eye-opener. Zij merkte op dat in debatten over de digitale wereld veelal wordt teruggegrepen op metaforen en denkwijzen uit Silicon Valley. Daarbij staan marktdenken en het libertair ideaal van individuele vrijheid centraal.

Gek genoeg wordt er veel minder vaak teruggegrepen op vergelijkingen die voor Europa relevant zijn. Denk bijvoorbeeld aan de debatten rond de regulering van publieke omroepen: met een beroep op publieke waarden is het recht om het spectrum te gebruiken allereerst voorbehouden aan publieke tv-zenders. Toen dat recht later werd uitgebreid naar commerciële omroepen, moeten deze marktpartijen zich nog altijd houden aan regels die publieke belangen waarborgen. Bijvoorbeeld door regels over maximale zendtijd voor reclame of een verbod op sluikreclame.

Misschien moeten we veel meer op zo’n manier naar het ontwerp en de regulering van ons digitale medialandschap kijken. Dan zien we digitale media niet langer als een markt, maar in de eerste plaats als een publieke infrastructuur met bijbehorende instituties voor het beheer, regulering en toezicht. Marktpartijen mogen daarvoor diensten ontwikkelen, maar de zeggenschap en eigenaarschap blijven uiteindelijk bij publieke instanties. Hoe zouden instituties eruit kunnen zien die software ontwikkelen, beheren en ook zorgen voor het borgen van publieke belangen in online omgevingen? Volstaan de bestaande toezichthouders daarvoor? Is het aangekondigde algoritmeregister een eerste stap in de goede richting? Dit gaan belangrijke ontwerpvragen worden voor het media- communicatie- en softwarebeleid van het komend decennium.

Hoe denk jij over dit thema? Deel je gedachtes, initatieven en voorbeelden  met het Recast-netwerk!

Gezien, gelezen en gemaakt in ons netwerk

Herovering van het internet
Ook op de HvA houden verschillende onderzoeksgroepen zich bezig met technologische soevereiniteit en ‘responsible technology’. Afgelopen weken was Geert Lovink volop in het nieuws vanwege zijn oratie als hoogleraar Kunst en Netwerkcultuur. Hij pleit voor een herovering van het internet op big tech en de bouw van een alternatieve infrastructuur op basis van publieke waarden. Vrij Nederland publiceerde afgelopen week een mooi interview met hem.

Organismes als onderdeel van het ontwerpproces
De Next Nature Eco Coin Award gaat dit jaar naar bio-designer Emma van de Leest. Zij verkent hoe levende organismes zoals bacteriën en schimmels onderdeel kunnen zijn van het ontwerpproces. Eco Coin zelf is trouwens een inspirerend initiatief om met een eigen munteenheid duurzaam gedrag te bevorderen.

Emma van de Leest is onder andere ontwerpers van de Microbial Vending Machine . In deze automaat zit geen frisdranken of snoep, maar iets wat volgens Van de Leest veel meer waarde heeft in de toekomst: micro-organismen.

Samen repareren we het internet

Publieke waarden en soevereiniteit zijn ook belangrijke thema’s in de Massive Open Online Course (MOOC) Samen repareren we het internet. Deze cursus wordt geleid door HvA-professor Marleen Stikker en Sander van der Waal van De Waag. Zij behandelen de belangrijkste problemen waarmee internet wordt geconfronteerd en zoeken alternatieve oplossingen. Recast-lezers kunnen de cursus gratis volgen met de code InternetxHvA100.

Positieve invloed van data(regulering)

Het Ada Lovelace Institute publiceerde afgelopen maand een nieuw rapport met de titel Rethinking data and rebalancing digital power. Het is een verkenning hoe data en regulering ervan een positieve bijdrage kunnen leveren aan de samenleving.

Agenda

Deel publicaties, events of andere activiteiten met het Recast-netwerk!
Mail of post ze op onze LinkedIn-pagina

5 december | Solving for Trust: Innovations in Smart Urban Governance

Eric Gordon en Tomás Guarna organiseren om 18:00 onze tijd een online seminar over de vraag hoe overheden bij het inzetten van digitale tools vertrouwen op kunnen bouwen met burgers. Zij schreven hier ook een interessant rapport over. Volg hier het seminar.

6 december | System Error, please restart.

Nanda Piersma houdt haar intreerede als lector Responsible IT. Daarin spreekt zij over hoe we verantwoorde IT-systemen kunnen bouwen. Zij ziet digitale integriteit, digitaal comfort en de menselijke maat als belangrijke richtlijnen. De livestream is hier te volgen. Afgelopen week verscheen ook een interview met haar.

6 december | Burger centraal in de digitale stad

Deze speciale editie van Tech for Society is onderdeel van de  Digital Rights Day 2022. Tijdens deze gratis bijeenkomst komen initiatieven uit Amsterdam aan het woord die het belang van de burger dienen in de digitale wereld. Hoe dragen deze initiatieven bij aan het beter waarborgen van mensenrechten in het digitale domein? In Pakhuis de Zwijger, Amsterdam.

9 december  | Winter Unconference

ThingsCon is een conferentie over het verantwoordelijke Internet of Things (IoT). De wintereditie is een ‘unconference’. Brace for semi-structured chaos, but let’s all keep trusting the process! In Het Nieuwe Instituut (Rotterdam).

9 december | Stadsontwerp en kunstmatige intelligentie

Hoe kan zogenaamde Urban Artificial Intelligence ons helpen steden te bouwen die beter aansluiten op de behoefte van burgers en de planeet? Hoe kan een stad niet alleen gebruik maken van ecosystemen, maar ze ook actief opbouwen? Met een openingswoord van econoom Kate Raworth, oprichter van Doughnut Economics Action Lab. Livebijeenkomst in Amsterdam, gratis is deelname.

9 december t/m 28 mei | Playing Architecture – het spel om de stad

Deze tentoonstelling gaat over verborgen boodschappen en verhalen in analoge en digitale spellen en wat deze voor de architectuur kunnen betekenen. Gecureerd door cultureel antropoloog Mélanie van der Hoorn en vormgegeven door architect Dafne Wiegers (AHH). Te zien bij Arcam in Amsterdam.

12 december  | Wat is de rol van ontwerpers in de metaverse?

Welke rol kunnen – of misschien wel zelfs moeten – ontwerpers spelen in de bouw van de metaverse? DesignDigger zoekt kritische reflecties op dit thema in de vorm van artikelen, podcasts en beeldessays. Het beste voorstel krijgt 500 euro werkbudget.

16 december | Programmavoorstellen voor Mozfest 2023

MozFest is deels een kunst-, tech- en maatschappelijke bijeenkomst, deels een (digitaal) makersfestival. Tot 16 december kun je programmavoorstellen doen in allerlei categorieën. Lees meer over de onderwerpen en voorwaarden.

Doorlopend  | KIEM financiert samenwerking

Heb je ideeën voor projecten of samenwerkingen? De regeling KIEM financiert en stimuleert samenwerkingsverbanden tussen het mkb, de publieke sector en hogescholen of universiteiten. Mogelijke uitkomsten van projecten zijn prototypes, (business)modellen en netwerkactiviteiten. Meer over de aanmelding.