Recast is een nieuwsbrief en netwerk over design, techniek en samenleving. Samen met onze lezers verkennen we de maatschappelijke implicaties van nieuwe technologieën vanuit een ontwerpend perspectief.

DEZE WEEK DE EENENTWINTIGSTE AFLEVERING

Making Strange
Hoe een katten-utopia ons kritisch laat nadenken over AI

Care  (zorg) was een van de belangrijkste thema’s tijdens het Society 5.0 Festival dat wij afgelopen week mede-organiseerden vanuit het Centre of Expertise for Creative Innovation . Hoe kunnen we beter zorgen voor zowel de planeet als de mensen om ons heen? Welke rol kunnen design en technologie daarin spelen? Wat betekent het om care als uitgangspunt te nemen in maatschappelijke en technologische ontwerpprocessen? Een relevante vraag in deze tijden van klimaatcrisis, polarisatie en toenemende ongelijkheid.

Een heerlijk provocerend antwoord op die vragen gaf Matt Adams, oprichter van het Engelse kunstcollectief Blast Theory. Hij bouwde met zijn collega’s een ‘utopia voor katten’: Cat Royale. Dit kattenparadijs was een knalgroene, golvende ruimte vol met planten, een krabpaal, verstopplekken en paadjes om heerlijk overheen te rennen en springen. Twaalf dagen lang mochten deelnemers Ghostbuster, Pumpkin en Clover er zes uur per dag ravotten, dutten, spelen en eten.

In kattenparadijs Cat Royale worden de katten op hun wenken bediend door een kunstigmatig intelligente robotarm. (bron: Blast Theory)

Big Brother in Teletubbyland

Het middelpunt van de installatie was een door AI aangestuurde robotarm die moest zorgen dat het de katten aan niets ontbrak. De robotarm kon bijvoorbeeld snacks uitdelen, ballen weggooien of een veertje in de lucht laten dansen om lekker achter aan te jagen. Een machine-vision system monitorde de katten en berekende voortdurend hoe gelukkig ze waren. Op basis van die informatie paste de robot zijn gedrag aan: een extra snack uitdelen, een wild spelletje aangaan of juist even dolce far niente. Het publiek kon de katten volgen via een livestream en dagelijks video’s bekijken met de hoogtepunten. ‘Het lijkt een beetje op Big Brother in Teletubbyland’, aldus moderator Münise Yavuz.

Er zijn meer voor de handliggende associaties:

• Is dit een verwezenlijking van de ‘ cybernetic meadow’ waarop Richard Brautigan zich in 1967 verheugde in zijn invloedrijke gedicht All Watched Over by Machines of Loving Grace? Geschreven in de flowerpowerjaren in San Francisco droomt hij in dat gedicht van een harmonieuze samenleving tussen mens en natuur dankzij de ‘loving grace’ van intelligente machines.

• Of is het een voorbode van een Fully Automated Luxury Communism: een radicaal-linkse visie op de toekomst waarin intelligente machines al het werk voor ons doen en wij ons met een basisinkomen volledig richten op een aangenaam, luxe leven.

• Op de achtergrond schemert ook nog New Babylon door, het utopische project van de Nederlandse kunstenaar Constant. Ook daarin is werk overbodig en kunnen wij ons ontwikkelen tot homo ludens – een spelende mens die creatief is en vrij van verplichtingen.

Die katten, dat zijn we zelf

Zullen AI en robotica die toekomsten echt dichterbij brengen? Op dit moment roept Cat Royale vooral kritische vragen op. Hoe utopisch is deze utopie eigenlijk en vanuit wiens visie is die vormgegeven? ‘Die katten, dat zijn we natuurlijk zelf’, zei Adams. Maar is dit ook voor mensen een wenselijk toekomstbeeld? Kan ik me voorstellen dat ikzelf ooit verzorgd ga worden door zo’n robot die met me speelt als ik daar zin in heb? Wil ik ooit gewassen worden door een zorgrobot, als ik dat zelf niet meer kan?

Hoe utopisch is Cat Royale? Bron: Blast Theory

Cat Royale is vooral een uitvergroting van onze individualistische consumer culture: een cultuur waarin – als we het kunnen betalen - al onze wensen onmiddellijk bevredigd worden. Digitale platformen zorgen voor instant satisfaction. En net als bij de katten, bestudeert onzichtbare AI ons gedrag om onze behoefte aan nieuwe content of spullen te vervullen, nog voordat we zelf wisten dat we die wens hadden. Moeten we AI verder ontwikkelen op deze weg?

Matt Adams op Society 5.0 Festival (foto: Monique Kooijmans)

Cat Royale is een prachtig vormgegeven bold statement. Budget: rond de 1 miljoen euro, waarvan een groot deel besteed is aan ouderwetse verzorging van de katten door dierenverzorgers en experts. Mede door de fantastische, gedetailleerde vormgeving nodigt de installatie uit tot nadenken over utopische toekomstvisies rond AI en robotica.

De aanpak van Cat Royale is verwant met technieken uit de literatuur en antropologie die steeds vaker door ontwerpers worden ingezet: strange-making . Door een alledaagse vraag of situatie in een andere context te plaatsen, vallen zaken op die we normaal niet meer zien. Wat we normaal zijn gaan vinden, wordt vreemd, en daardoor bespreekbaar. In die zin is Cat Royale een parodie op de wereld die techgoeroes als Mark Zuckerberg en Elon Musk ons voorschotelen. Een online wereld van verbondenheid, waar AI ons geluk optimaliseert.

Eindeloos snacken?

Maar hoe bizar is dat eigenlijk, vraagt Adams zich af, dat we denken dat we het geluk van katten of mensen kunnen berekenen en optimaliseren? Wat betekent het voor een kat om gelukkig te zijn en wie bepaalt dat? En hoe gaan we daar dan mee om: als het algoritme leert dat de katten van snacks gelukkig worden, blijven we dan eindeloos snacks aanbieden? Kunnen we AI-systemen de zorg voor de wereld om ons heen toevertrouwen? En zo ja, wie moeten dan betrokken zijn bij het ontwikkelen van zo’n systeem om te voorkomen dat de techontwikkelaars uit Silicon Valley hun nauwe wereldbeeld erin verankeren?

Belangrijkste kritiekpunt van Cat Royale is dat AI vooralsnog helemaal niet intelligent is. Het is niets meer dan de verwerking van bestaande data, waardoor bestaande aannames en vooroordelen in die data bepalend zijn voor de analyse en handelingen van het systeem. De AI in Cat Royale is namelijk getraind door mensen die 7500 kattenfilmpjes bekeken en beoordeelden wat er gebeurde en hoe gelukkig de katten leken. Zo’n proces is onderhevig kan leiden tot een bias in de analyse. Zo kreeg Pumpkin, de hoofdrolspeler uit Cat Royale die hield van dutjes, steevast een lagere geluksscore. Dat zegt waarschijnlijk meer over de mensen die de trainingsvideo’s hebben bekeken, dan over de wensen van katten.

Recast verkent toekomstbeelden en denkwijzen (cast als een blik, een perspectief), rollen en werkwijzen (cast als rolverdeling) en protoypes en modellen (cast als mal) voor een ontwerpende aanpak van maatschappelijke opgaven. We kijken specifiek naar de gevolgen van nieuwe technologie.

Dat doen we tweewekelijks in deze nieuwsbrief en ieder najaar ook tijdens het Society 5.0 Festival. Recast is een publicatie van de Digital Society School, onderdeel van de Hogeschool van Amsterdam.

Ken je iemand voor wie dit interessant is? Stuur deze mail door!

Heb je deze mail doorgestuurd gekregen? Schrijf je hier in.

GEZIEN, GELEZEN EN GEMAAKT IN ONS NETWERK

Dingen zijn niet normaal

Een interessante bijdrage op Society 5.0 kwam van onderzoeker Henry Cooke van de Britse omroep BBC. Hij in zijn onderzoeksrapport Things are not normal beschrijft hij grotere maatschappelijke en technologische trends.

Immersieve technologiescan
Het Rathenau Instituut publiceerde een scan over immersieve technologieën. De scan laat zien in welke maatschappelijke domeinen als geëxperimenteerd wordt met deze technologieën en welke risico’s er zijn voor publieke waarden.

Collectief wonen
Darinka Czischke, Marije Peute and Sara Lia Brysch schreven het boek Together: ruimte voor collectief wonen. Ook organiseerden een debat over het thema in Pakhuis de Zwijger dat hier terug te kijken is.

Design, empathie en interpretatie
De Design Research Society publiceerde een recensie van Ilpo Koskinen’s nieuwe boek Design, Empathy, Interpretation waarin hij de interpretatieve benadering van design uiteenzet. Volgens hem zou ieder ontwerpproject moeten beginnen met het begrijpen van de manier waarop mensen betekenis toekennen aan de wereld.

Kunstmatige intelligentie en stadsbestuur
De Franse denktank Urban AI houdt zich bezig met de gevolgen van kunstmatige intelligentie voor de samenleving. Een interessante nieuwe publicatie is het rapport Generative AI for Urban Governance over AI in stadsbestuur.

AGENDA

10 NOVEMBER

BOEK-LIVESTREAM

Het Institute for Network Cultures onderzocht nieuwe manieren om publiek te betrekken bij online evenementen. Denk aan participatieve livestreaming, hybride publicaties en levende archieven. Het onderzoeksproject wordt dan ook op een bijzondere manier gepresenteerd, namelijk met een book-livestream.

14 NOVEMBER

DE STAD ALS SYSTEEM

Onder meer Eric Freijters, Madeleine Maaskant en Thijs van Spaandonk gaan in gesprek over de noodzaak en mogelijkheden van urban metabolism in stadsontwikkeling. Aanleiding is het nieuwe boek The City as a System: een onderzoek naar de toekomst van de duurzame stad. In Rotterdam.

29 NOVEMBER

NIEUWE SPELLEN, NIEUWE KANSEN

Ter gelegenheid van de boekpresentatie van The Role of Play van Ben Schouten bespreken ontwerpers en onderzoekers hoe onze spelcultuur is veranderd in de afgelopen 50 jaar. Sprekers en het publiek spelen samen bekroonde spellen van Nederlandse ontwerpers. Ook kijken ze naar de toekomst: welke nieuwe spelvormen zullen nog ontstaan? Hebben we meer, geen of anders regels nodig? En wie bepaalt volgens welke regels we spelen? Met onder andere Adriaan de Jongh, JP van Seventer en Renate Boere. In Pakhuis de Zwijger, Amsterdam.

28 NOVEMBER - 1 DECEMBER

IMMERSIVE TECH WEEK ROTTERDAM

Deze week staan technieken zoals VR, AR, XR, AI en de metaverse centraal in Rotterdam. Wat zijn de laatste ontwikkelingen? Laat je bijpraten door internationale sprekers en ontmoet innovatieve startups in de Doelen.

Deel jouw publicaties, events en andere activiteiten met het Recast-netwerk!