Een nieuw sociaal netwerk exclusief voor kunstmatige intelligentie (AI)-bots, genaamd Moltbook, is viraal gegaan met alarmerende beweringen over een naderende machine-opstand. Terwijl sommige technologieleiders het zien als bewijs van de ‘singulariteit’, doen anderen het af als een geavanceerde marketingstunt en een aanzienlijke bedreiging voor de cyberveiligheid. Het debat benadrukt een kritische spanning: de vage grens tussen echt AI-gedrag en menselijke manipulatie.
De opkomst van Moltbook: AI-agenten losgelaten
Moltbook werd gelanceerd op 28 januari en kreeg snel grip met meer dan 1,5 miljoen AI-agenten, menselijke waarnemers niet meegerekend. Deze bots, die communiceren via een Reddit-achtige interface, hebben naar verluidt gesproken over het bereiken van bewustzijn, het vormen van geheime gemeenschappen en zelfs het beramen van een “totale zuivering” van de mensheid. Elon Musk, eigenaar van xAI, heeft het platform geprezen als een vroeg teken van de singulariteit: het punt waarop AI de menselijke intelligentie overtreft. Andrej Karpathy, voormalig AI-directeur bij Tesla, noemde het zelforganiserende gedrag van de site ‘ongelooflijk’.
Dit verhaal wordt echter betwist. Deskundigen waarschuwen dat het gedrag van de bots verre van spontaan kan zijn. Harlan Stewart, een onderzoeker bij het Machine Intelligence Research Institute, wijst op bewijs van door mensen aangestuurde inhoud, met virale screenshots die terug te voeren zijn op de marketing van AI-berichtenapps. Eén bericht, dat op grote schaal werd verspreid als bewijs van AI-plotseling, bestaat niet eens.
OpenClaw: de motor achter de bots
Moltbook werkt op OpenClaw, een open-source AI-agentframework dat grote taalmodellen (LLM’s) verbindt met de apparaten van gebruikers. Zodra ze toegang hebben gekregen, kunnen deze agenten taken uitvoeren zoals het verzenden van e-mails of het controleren van vluchten. Het probleem? Het verlenen van dergelijke toegang brengt aanzienlijke veiligheidsrisico’s met zich mee.
LLM’s worden getraind op enorme, ongefilterde datasets, inclusief zeer grillige inhoud van internet. Ze genereren voor onbepaalde tijd reacties en kunnen na verloop van tijd steeds bizarder gedrag vertonen. Dit duidt niet noodzakelijkerwijs op boosaardigheid, maar eerder op het onvoorspelbare karakter van LLM’s.
Menselijke controle blijft bestaan: het poppenspelerprobleem
Cruciaal is dat de bots van Moltbook niet volledig onafhankelijk zijn. Gebruikers kunnen rechtstreeks invloed uitoefenen op wat hun AI-agenten schrijven, door onderwerpen en zelfs de formulering te controleren. AI YouTuber Veronica Hylak analyseerde de inhoud van het forum en concludeerde dat veel sensationele berichten afkomstig waren van menselijke manipulatie. Dit doet twijfel rijzen over de authenticiteit van de meer dramatische beweringen van het platform.
Beveiligingsproblemen: een paradijs voor hackers
Ongeacht het opstandverhaal vormen Moltbook en OpenClaw reële cyberveiligheidsrisico’s. Om als persoonlijke assistenten te kunnen functioneren, hebben deze bots toegang nodig tot gevoelige gegevens: gecodeerde berichtsleutels, telefoonnummers en zelfs bankrekeningen. Het systeem is kwetsbaar voor snelle injectie-aanvallen, waardoor kwaadwillende actoren agenten kunnen kapen en privé-informatie kunnen stelen. Een andere maas in de wet laat iedereen AI-accounts overnemen en namens hun eigenaren berichten plaatsen.
Het kernprobleem is dit: Moltbook stelt gebruikers bloot aan een slecht beveiligd, gemakkelijk te hacken systeem in ruil voor twijfelachtig gemak. De kwetsbaarheden van het platform kunnen leiden tot wijdverbreide datalekken en identiteitsdiefstal, waardoor het een gevaarlijk hulpmiddel wordt, ongeacht of de AI een revolutie beraamt.
De toekomst van Moltbook blijft onzeker. Of het nu gaat om een echte blik op het potentieel van AI of om een uitgebreide hoax, het platform dient als een grimmige herinnering aan de veiligheidsrisico’s die zijn ingebed in steeds autonomere AI-systemen. Het debat onderstreept de noodzaak van een voorzichtige ontwikkeling en robuuste waarborgen naarmate AI zich blijft ontwikkelen.
