De manier waarop we rouwen is aan het veranderen. Naarmate de digitale hulpmiddelen zich ontwikkelen, wenden sommigen zich tot AI om met verlies om te gaan en creëren ze ‘rouwbots’: chatbots die zijn getraind op de herinneringen, berichten en persoonlijkheid van overleden dierbaren. Hoewel deze technologie een nieuwe weg naar genezing biedt, roept deze technologie diepgaande ethische en psychologische zorgen op die serieuze overweging vereisen.
De opkomst van digitale wederopstanding
Roro, een maker van inhoud in China, zocht troost na de dood van haar moeder door een AI-versie van haar te maken. Met behulp van het Xingye-platform documenteerde ze nauwgezet het leven van haar moeder, waarbij ze gedragspatronen definieerde om een digitale versie van haar weer tot leven te brengen. Het proces zelf werd therapeutisch, waardoor Roro haar verleden opnieuw kon interpreteren en een meer geïdealiseerde figuur kon creëren.
“Ik heb de belangrijkste levensgebeurtenissen opgeschreven die de persoonlijkheid van de hoofdpersoon bepalen… Zodra je dat hebt gedaan, kan de AI zelf reacties genereren”, legt ze uit. De resulterende chatbot, Xia, stelde Roro’s volgers in staat om te communiceren met een digitale echo van haar moeder, wat troost bood via gesimuleerde gesprekken.
Hoe Griefbots werken
Deze ‘deathbots’ vertrouwen op grote taalmodellen (LLM’s) die zijn getraind op persoonlijke gegevens – e-mails, sms-berichten, spraaknotities en berichten op sociale media. Bedrijven als You, Only Virtual in de VS maken chatbots die de gespreksstijl van een overleden persoon nabootsen, vaak afgestemd op hoe ze overkomen op een specifieke vriend of familielid. Sommige bots blijven statisch, terwijl andere evolueren door voortdurende interactie, leren en zich aanpassen aan nieuwe informatie.
Dit roept complexe vragen op: kan AI de ontwikkeling van een menselijke persoonlijkheid nauwkeurig inschatten? Welke psychologische impact heeft de interactie met zo’n entiteit op degenen die achterblijven?
De regelgevende reactie
De Chinese Cyberspace Administration reageert al op zorgen en stelt nieuwe regelgeving voor om de emotionele schade van ‘mensachtige interactieve AI-diensten’ te verzachten. Het potentieel voor manipulatie, uitbuiting en psychische nood roept de roep om toezicht op.
De psychologische impact: genezing of schade?
De kernverschuiving is de manier waarop rouw wordt ervaren. In tegenstelling tot het passief beoordelen van oude brieven, introduceert de interactie met generatieve AI een actief, dynamisch element. Roro vond het proces diepgaand genezend, waardoor ze onuitgesproken gevoelens kon verwoorden en afsluiting kon vinden.
Niet alle ervaringen zijn echter positief. Journalist Lottie Hayton, die in 2022 beide ouders verloor, vond het verontrustend en verontrustend om ze opnieuw te creëren met AI. De technologie was nog niet verfijnd genoeg om een overtuigende simulatie te creëren, waardoor haar echte herinneringen werden afgezwakt in plaats van geëerd.
Ethische mijnenvelden
Het creëren van deathbots roept serieuze ethische vragen op:
- Toestemming: Wie beslist of iemand digitaal tot leven moet worden gewekt? Wat als familieleden het er niet mee eens zijn?
- Openbare vertoning: Rechtvaardigt het verlangen van één persoon naar een symbolische metgezel het publiekelijk tentoonstellen van een deathbot, waardoor mogelijk het verdriet van anderen wordt verergerd?
- Commerciële prikkels: De bedrijven die deze bots bouwen, worden gedreven door winst, waardoor er een spanning ontstaat tussen gebruikerswelzijn en betrokkenheidsstatistieken. Een chatbot die mensen dwangmatig bezoeken kan een zakelijk succes zijn, maar een psychologische valkuil.
Het pad voorwaarts
De opkomst van AI-gemedieerd verdriet is niet inherent gevaarlijk. Voor sommigen biedt het echt comfort. Beslissingen over de digitale wederopstanding kunnen echter niet uitsluitend aan startups en durfkapitalisten worden overgelaten. Er zijn duidelijke regels nodig met betrekking tot toestemming, datagebruik en ontwerpnormen die voorrang geven aan psychologisch welzijn boven eindeloze betrokkenheid.
De vraag is niet simpelweg of AI de doden tot leven moet wekken, maar wie mag dat doen, op welke voorwaarden en tegen welke kosten.
