Debat: kan kunstmatige intelligentie mensen in rouw ondersteunen?

Het debat op ChatGPT en generatieve AI's blijft herstellen, dankzij de nieuwe toepassingen die het slechts een paar maanden na de lancering genereert. Een recente documentaire van Special Envoy over France 2 (27 april 2023) presenteerde een applicatie die GPT-3 gebruikt en waarmee de gebruiker een dialoog met vermiste personen kan herscheppen.

"Project december (simuleer de doden)" is ongetwijfeld een extreem geval van het gebruik van een gespreksmiddel uit GPT-3, maar vertelt ons veel over het gebrek aan benchmarks van zogenaamde westerse samenlevingen om rouw op een collectieve manier te vergemakkelijken en in de tijd te kaderen zoals beschavingen hebben gedaan die ons voorgingen.

Chatten met onze dierbare overledenen

Met "Project December" kan iedereen voor 10 dollar een account openen en chatten met een (gepatenteerd) artificieel intelligentieprogramma dat de woorden van een overleden persoon simuleert voor maximaal honderd uitwisselingen en een duur van een uur.

Om dit te doen, moet u een lange vragenlijst invullen die uit twee hoofdgedeelten bestaat: identiteit van de persoon (naam, bijnaam, data, plaatsen, beroepen en indien nodig zelfs de naam van de hond), persoonlijkheidskenmerken (beschreven in een zeer binaire manier: vb: zeker /zelfverzekerd/stabiel vs bezorgd/nerveus/gestoord) waaraan een tekstfragment is toegevoegd dat is gemaakt door deze overleden personen.

Het rapport vancorrespondent toont zo een man die net zijn moeder heeft verloren en die zijn synthetische avatar elke dag vragen stelt, vragen die hij haar voor haar dood niet had kunnen stellen.

Ten behoeve van het rapport organiseert de maker van de applicatie ook, in het gezelschap van de journalist, een dialoog met de gesprekspartner boven het graf van de Amerikaanse filosoof, dichter en natuuronderzoeker Henry David Thoreau gebruikmakend van een van zijn beroemdste citaten: "de beste regering is degene die het minst regeert", in overeenstemming met zijn libertaire ideologie om altijd te pleiten voor "minder overheid" - een ideologie die ook die van Silicon Valley.

Via de applicatie kunstmatig ondervraagd over het mogelijke giftige gebruik van de "Project December" -tool, antwoordt de gesimuleerde avatar van Thoreau dat alle verantwoordelijkheid bij de gebruiker ligt, zoals in het geval van een autofabrikant die niet verantwoordelijk kan worden gehouden voor het gedrag van slecht chauffeurs.

Een minachting voor het rouwproces?

Le technologisch solutionisme zo genoemd door de onderzoeker Evgeny Morozov, in zijn ontwrichtende momentum, lijkt elke gedachte weg te vagen die ook maar een klein beetje wordt beargumenteerd over de psychische of culturele gevolgen van een dergelijke behandeling van de relatie met de doden.

Hij veracht de antropologische kwesties van rouwproces en alle kennis over dit proces, zowel ontwikkeld door de psychologie als door de studie van tradities.

Als de psychoanalyse rouw beschouwt als een psychisch proces waarbij een persoon erin slaagt zich los te maken van de vermiste en betekenis te geven aan dit verlies, dragen de feesten van de doden in oude tradities bij aan een soortgelijk proces, om het leven weer zin te geven.

Neem het voorbeeld van de Dag van de Doden in Mexico: die duurt twee dagen en bestaat uit een bezoek aan het graf waar de overledene van de familie rust, een maaltijd eromheen, op muziek. Afhankelijk van het geval wordt er de hele nacht een wake georganiseerd. Bij deze gelegenheid zijn de begraafplaatsen gevuld met families, een grote hoeveelheid oranje bloemen en kaarsen. Dit alles zorgt voor een bijzonder levendige sfeer. Gezinnen zetten thuis ook tijdelijk een altaar op met de portretten van de overledenen, bloemen, eten, kaarsen, etc.

Uit deze rituelen komen drie sociale en psychische dimensies naar voren:

1. het feest van de doden – rouw – is een collectieve uitnodiging,

2. het contact dat gezocht wordt met de overledene heeft niets spiritueels, we stellen geen specifieke vragen

3. het festival van de doden heeft een welbepaalde duur.

Deze drie aspecten helpen om de zorg te begrijpen die wordt gegeven aan de individuele en collectieve geestelijke gezondheid van samenlevingen. De herinnering aan de doden wordt gerealiseerd in een kader van sociale ontmoetingen en protocollen die helpen verankeren in het leven.

Een rouwproces zonder tussenpersoon

In onze westerse samenlevingen hebben het christendom en therapieën dit rouwproces in toch al verzwakte vormen overgenomen. Christelijke rituelen hebben de neiging opraken – in 2018 wil 48% van de Fransen een religieuze ceremonie als ze sterven – hoewel de priester een belangrijke bemiddelende rol blijft spelen, ook voor niet-gelovigen. De therapeuten doen dit werk tegen betaling, terwijl de medische staf zich in een positie bevindt om deze rouwmomenten tot ver buiten hun taken om te gaan.

Daarentegen lijkt de app "Project December" geen enkele verantwoordelijkheid te nemen voor het plaatsen van mensen in een eenzame relatie met gesprekken die de gedachten van de overledene simuleren. Als er inderdaad een vorm van bemiddeling is – in dit geval die van kunstmatige intelligentie – gaat die voorbij elk collectief kader, met het risico de fantasieruimte te vergroten.

Iedereen wordt overgelaten aan zijn lijden, zijn angsten, die de gesprekspartner moet blokkeren of aanmoedigen met antwoorden, die altijd erg banaal zijn. De gebruiker die getuigt in het rapport vancorrespondent vertelt over zijn gewone leven of uit zijn gevoelens tegenover zijn moeder. Hij praat tegen haar alsof ze niet is overleden, waardoor zijn kinderen bang zijn dat hij opgesloten blijft in deze "relatie".

Bij deze overgangsrituelen moeten de woorden echter zorgvuldig worden gekozen om een ​​plaats te vinden, die van hemzelf en die van de overledene. Daarom worden in alle tradities tussenpersonen gemobiliseerd. Zelfs als de gebruiker niet voor de gek wordt gehouden en de applicatie hem aanmoedigt om zich uit te drukken, heeft het de neiging om menselijke bemiddelaars uit te schakelen, zonder vangnet: een riskante manier om priesters, sjamanen en therapeuten te 'uberiseren'...

De nodige tijd van stilte

Bij riten of rouwtherapie zijn momenten van stilte essentieel. Rituelen bepalen een specifieke tijd voor rouw of herdenking van de overledene, waardoor het dagelijks leven wordt bevrijd van deze relatie. De op GPT-3 gebaseerde AI laat de gebruiker nooit in stilte achter, het is een onberouwvolle prater, een antwoordapparaat. Ze is niet in staat om diep te luisteren, maar draait, zelfs in een lus, om de afwezigheid te compenseren, de ondraaglijke leegte die eigenlijk het grootste drama van rouw is.

De eenzame opsluiting in een gesimuleerde dialoog, gebaseerd op een paar realistische aanwijzingen met behulp van probabilistische statistische modellen van de taal, heeft iets obsceens: het versterkt onze commercieel aangemoedigde neigingen om in een 'nepwereld' te leven, gebaseerd op narratieve kaders gearticuleerd met advertentiecodes.

Nogmaals, het zijn de artefacten (interfaces en algoritmen) die een schreeuwend gebrek aan intersubjectiviteit, sociale band, dynamiek van authentieke uitwisselingen zouden moeten opvullen. Deze vervangende objecten worden echter kritiek in geval van rouw en mogen niet onzorgvuldig worden behandeld. Conversatieagenten van het GPT-type gedijen echter op het onvermogen van onze zogenaamde rationele samenlevingen om advies te geven over een vraag die zo fundamenteel is voor de menselijke ziel. zoals de antropoloog Benedict Anderson opmerkte.

Toepassingen zoals Project December weerspiegelen een anti-institutionele laissez-faire-houding die in alle bedrijven in Silicon Valley te vinden is via hun slogan "Rough Consensus and Running Code", een uitdrukking van John Perry Barlow in zijn manifest voor de onafhankelijkheid van cyberspace van 1996.

Volgens deze doctrine zijn ontwikkelingsbeslissingen voor applicaties, standaarden en diensten gebaseerd op een vage consensus tussen belanghebbenden en mag de productie van code nooit stoppen, wat ontwrichtende innovaties mogelijk maakt die niet anticiperen op hun sociale en culturele gevolgen.

Deze ontmanteling van de AI ten opzichte van sociale en organisatorische principes en zijn claim om alles opnieuw te vinden op basis van de kracht van zijn probabilistische berekeningen die alles optimaliseren, vind je hier in dit spel met de geest van de doden. We jongleren met relaties met de doden zoals we jongleren met woorden.

Hoe deze onverantwoordelijke "lopende code" te reguleren, aangezien deze zo gemakkelijk te reproduceren is en de grenzen van de staten op geen enkele manier voldoende zijn om de onmiddellijke acceptatie ervan in alle landen te beteugelen, zonder respect voor enige bestaande wetgeving?

Alleen grote institutionele groepen die ook grote markten zijn, zoals Europa, hebben de nodige macht om al deze AI's en hun toepassingen te dwingen "voorafgaande toestemming voor het op de markt brengen" aan te vragen, zoals wordt gedaan voor de meeste producten van de industrie, van voedsel tot medicijnen, inclusief de auto. I'IA wet ook in Europa gevalideerd de Biden-administratie moeten deze antropologische belangen in hun pogingen tot regulering meten, aangezien zelfs onze relaties met de doden erdoor kunnen worden beïnvloed, terwijl ze constitutief zijn voor onze menselijke gevoeligheid.

Dominique Boulier, emeritus hoogleraar sociologie. Onderzoeker bij het Centre for European Studies and Comparative Politics, Sciences Po et Rebecca Alfonso Romero, PhD student culturele geografie, Sorbonne-universiteit

Dit artikel is opnieuw gepubliceerd vanaf The Conversation onder Creative Commons-licentie. Lees deorigineel artikel.

Afbeelding tegoed: Shutterstock/Sheri Armstrong