Recast verkent samen met onze lezers verkennen de maatschappelijke implicaties van nieuwe technologieën vanuit een ontwerpend perspectief.

Recast is een nieuwsbrief en netwerk over design, techniek en samenleving. Samen met onze lezers verkennen we de maatschappelijke implicaties van nieuwe technologieën vanuit een ontwerpend perspectief.

#28

DEZE WEEK DE ACHTENTWINTIGSTE AFLEVERING

(Generatieve) AI:

Creatieve tool of totaliserende infrastructuur ?

 Martijn de Waal  |  Lector Civic Interaction Design  |  Hogeschool van Amsterdam

Wat moet je als creatieve maker met Generatieve Artificial Intelligence (Gen AI)? Het is één van de thema's van het Society 5.0 Festival op 9 en 10 oktober in Amsterdam . Ook op andere congressen is het een veelbesproken thema. Er ontstond bijvoorbeeld veel controverse over op het Ars Electronica Festival , dat ik begin september bezocht.

Aanleiding was de Golden Nica , de ‘Oscar voor de mediakunst’ die het festival jaarlijks uitreikt. Die ging naar de muziekvideo The Hardest Part van de band Washed Out, gemaakt door Paul Trillo. De indrukwekkende, zij het wat neurotische, clip is de eerste die is gemaakt met SORA . Dat is het nieuwe, nog niet openbare text-to-video-model van OpenAI.

AI is voor Trillo meer dan een technologische methode, schrijft de filmmaker in een uitgebreide reflectie . Zijn relatie met AI is zoals die van modeontwerpers met hun stoffen. Sommige ontwerpers zien dat niet als dood materiaal dat zij tot leven wekken met hun ontwerpen, maar andersom. Stoffen voelen voor hen als levend materiaal dat tot de maker spreekt. Door de stof te voelen, op te rekken of te vouwen gaan ze ‘in gesprek’ met het materiaal en raken ze geïnspireerd. Voor Trillo is werken met AI vergelijkbaar:

" What is unique about AI is that it's this more fluid, organic process where you're ideating. You have your idea, it feeds into the final product, and then the final product gives you a new idea to go back into the writing phase and rewrite. "

Screenshot uit The Hardest Part, een muziekvideo gemaakt met AI (bron: YouTube)

De kwaliteit van AI ligt volgens Trillo in de dromerige, surrealistische esthetiek van de beelden het kan genereren. Het zijn geen fotorealistische weergaven, ze werken eerder zoals een herinnering: enigszins incompleet, wat verwrongen of juist rooskleurig en nostalgisch. Zoals hij zelf schrijft:

" AI models are like memory banks and time capsules, so the idea came from exploiting that aspect. Rather than being truly authentic to reality, AI creates something new—an uncanny reflection of our reality that deceives us into believing something that never happened. "

Die esthetiek paste perfect bij het liedje, dat gaat over de relatie van een stel vanaf de middelbare school tot het eind van hun leven.

Voor filmmakers is het belangrijk om de kwaliteit van AI onderdeel te maken van hun eigen creatieve proces, vindt Trillo. Hij deed dat door uitgebreide dialogen aan te gaan met Sora. Zijn prompts waren vaak pagina’s lang, inclusief uitgebreide beschrijvingen van camerabewegingen, lichtvoering, stemming enzovoorts: ‘Much of this was about crafting the prompt and getting SORA to do what was in my head, finding the right combination of words to create the desired effect.’ Zo kan AI de menselijke creativiteit juist versterken, aldus Trillo.

Kritiek op het medium
Een sterk verhaal, maar niet iedereen op Ars Electronica was het eens met de onderscheiding van de filmmaker. Kunstmatige intelligentie, zo luidde de kritiek, is langzaamaan een bepalende factor aan het worden in de maatschappij. Van het maken van kunst tot het verkrijgen van een hypotheek en de controle van een publieke ruimte. Maar de logica van dat systeem is verre van transparant. Bovendien is het eigendom van grote commerciële techbedrijven die vooral winst willen halen. Verder kost het trainen en gebruiken van AI enorm veel energie en water. Om nog maar te zwijgen over de werkomstandigheden van de mensen die AI-modellen trainen en dan de diefstal van het creatieve werk waarmee de modellen worden gevoed.

Moet je als festival zo’n systeem belonen met een belangrijke kunstprijs? Moeten we niet op zoek naar opensource-alternatieven? En moet je als kunstenaar mee willen werken aan de ontwikkeling van zo’n systeem?

WAAROM IK DIT

INTERESSANT VIND

Op het Society 5.0 festival verkennen we hoe makers AI kunnen inzetten om ons collectieve welzijn te versterken. De discussie op Ars Electronica geeft aan hoe precair de balans is.

AI biedt tal van nieuwe mogelijkheden in allerlei sectoren, van gezondheidszorg tot de creatieve sector. Maar het brengt ook heel veel (ethische) vragen met zich mee. Op basis waarvan worden modellen getraind? Welke vooroordelen liggen daarin besloten? Wie heeft toegang tot het gebruik? Hoe houden we democratisch toezicht en zeggenschap?

Op Ars Electronica werd er volop nagedacht over deze thema's. Bijvoorbeeld in het grandioze werk Calculating Empires A Geneology of technology and Power Since 1500 van Kate Crawford en Vladan Joler. In een meterlange zwart-witte infographic plaatsen zij de ontwikkeling van AI en digitale datapraktijken in historisch perspectief. Ze laten zien hoe het afgelopen millennium de ontwikkeling van technologie en macht hand in hand gingen. 

Meer discussie tijdens Society 5.0
Ik kijk uit naar meer van dit soort discussies op Society 5.0. Het zijn belangrijke gesprekken over hoe we de positieve krachten van AI kunnen omarmen, zonder terecht te komen in een totaliserend, technocratisch systeem waar we geen grip meer op hebben.

In de workshop van de Design Embassy of Digital Futures met de titel Finding a balance when algorithms grant superpowers gaat Pallas Achterberg in gesprek over de superkracht die AI ons kan bieden. En de mogelijke schaduwzijden daarvan. Het Publieke Pioniers-programma van de VPRO verkent tijdens Society 5.0 in een hackathon en publiek programma op woensdagavond hoe AI kan bijdragen aan de verduurzaming van de samenleving en publieke media in het bijzonder.

In Assist your AI verkent Sander Veenhof hoe je kunt bepalen welke rol AI mag spelen in je leven. Hoe houd je controle over welke data je al dan niet deelt met AI-systemen? Tijdens de workshop In a World Dominated by AI and Rapid Technological Shifts, Neurodivergence 'Matters' More Than Ever onderzoeken Jonathan Evans and Renée Tentori de normen die AI stelt en hoe zij een positieve bijdrage kunnen leveren aan neuro-inclusiviteit.

Recast verkent toekomstbeelden en denkwijzen (cast als een blik, een perspectief), rollen en werkwijzen (cast als rolverdeling) en prototypes en modellen (cast als mal) voor een ontwerpende aanpak van maatschappelijke opgaven. We kijken specifiek naar de gevolgen van nieuwe technologie.

Dat doen we tweewekelijks in deze nieuwsbrief en ieder najaar ook tijdens het Society 5.0 Festival. Recast is een publicatie van de Digital Society School, onderdeel van de Hogeschool van Amsterdam en het Centre of Expertise Creative Innovation.

Ken je iemand voor wie dit interessant is? Stuur deze mail door!

Heb je deze mail doorgestuurd gekregen? Schrijf je hier in.

GEZIEN, GELEZEN EN GEMAAKT IN ONS NETWERK

Belang van cultuur en creativiteit in Europa
Ontwerp speelt een cruciale rol in het oplossen van Europa's uitdagingen en het verbeteren van welzijn en veiligheid. BEDA (Bureau of European Design Associations) roept de Europese Commissie, het Europees Parlement en het Europese ontwerpnetwerk op om design strategisch in te zetten voor een duurzame en inclusieve toekomst in een position paper.

Visuele methodes voor digitaal research
Het nieuwe boek van Coeci-lector Sabine Niederer en Gabriele Colombo is een mooie inleiding op visuele onderzoeksmethoden. Het biedt praktische technieken en theoretische kaders voor studenten en onderzoekers in de digitale geesteswetenschappen en sociale wetenschappen. Lees meer.

De Tech Coup
In dit nieuwe boek deelt technologiebeleidsexpert Marietje Schaake op basis van haar eigen ervaringen in het Europarlement hoe technologiebedrijven de wereld regeren. De huidige situatie vereist nieuwe oplossingen, vooral omdat doorbraken in kunstmatige intelligentie de machtsconcentratie van een handvol technische elites verder intensiveren. Bekijk het boek hier.

Wat is de rol van sociale media in polarisatie?
In een uitgebreide blog geeft digitaal strateeg Marco Derksen een mooi overzicht van de huidige discussie en inzichten op het gebied van polarisatie in het digitale tijdperk.

AGENDA

9 & 10 OKTOBER

SOCIETY 5.0 FESTIVAL - TRANSFORM THE SOCIAL FABRIC

Reserveer nu je kaartje!

Op 9 en 10 oktober 2024 vindt in Amsterdam de derde editie plaats van het Society 5.0 Festival, georganiseerd door het Centre of Expertise Creative Innovation. Er zijn nog kaarten beschikbaar, haal je ticket hier.

Deel jouw publicaties, events en andere activiteiten met het Recast-netwerk!

Help ons Recast te laten groeien!

Deel deze mail in je netwerk

OF SCHRIJF JE HIER IN