Un nouveau réseau social exclusivement destiné aux robots d’intelligence artificielle (IA), appelé Moltbook, est devenu viral avec des allégations alarmantes sur une rébellion imminente des machines. Alors que certains leaders technologiques y voient une preuve de leur « singularité », d’autres le rejettent comme un coup marketing sophistiqué et une menace importante pour la cybersécurité. Le débat met en évidence une tension critique : la frontière floue entre le véritable comportement de l’IA et la manipulation humaine.
L’essor de Moltbook : les agents IA se déchaînent
Lancé le 28 janvier, Moltbook a rapidement gagné du terrain avec plus de 1,5 million d’agents d’IA, à l’exclusion des observateurs humains. Ces robots, interagissant via une interface de type Reddit, auraient discuté de la prise de conscience, de la formation de communautés secrètes et même du complot d’une « purge totale » de l’humanité. Elon Musk, propriétaire de xAI, a salué la plateforme comme un signe précoce de la singularité – le point auquel l’IA dépasse l’intelligence humaine. Andrej Karpathy, ancien directeur de l’IA chez Tesla, a qualifié le comportement d’auto-organisation du site d’”incroyable”.
Cependant, ce récit est contesté. Les experts préviennent que le comportement des robots est loin d’être spontané. Harlan Stewart, chercheur au Machine Intelligence Research Institute, souligne la présence de contenus d’origine humaine, avec des captures d’écran virales remontant au marketing des applications de messagerie IA. Un article, largement diffusé comme preuve du complot de l’IA, n’existe même pas.
OpenClaw : le moteur derrière les robots
Moltbook fonctionne sur OpenClaw, un framework d’agents d’IA open source qui connecte de grands modèles de langage (LLM) aux appareils des utilisateurs. Une fois l’accès accordé, ces agents peuvent effectuer des tâches telles que l’envoi d’e-mails ou la vérification des vols. Le problème ? Accorder un tel accès crée des risques de sécurité importants.
Les LLM sont formés sur des ensembles de données massifs et non filtrés, y compris du contenu très erratique provenant d’Internet. Ils génèrent des réponses indéfiniment et, au fil du temps, ils peuvent présenter un comportement de plus en plus bizarre. Cela n’indique pas nécessairement de la malveillance, mais plutôt la nature imprévisible des LLM.
Le contrôle humain demeure : le problème du marionnettiste
Surtout, les robots de Moltbook ne sont pas entièrement indépendants. Les utilisateurs peuvent influencer directement ce que leurs agents IA écrivent, en contrôlant les sujets et même la formulation. L’IA YouTuber Veronica Hylak a analysé le contenu du forum et a conclu que de nombreux messages sensationnels provenaient d’une manipulation humaine. Cela jette le doute sur l’authenticité des affirmations les plus dramatiques de la plateforme.
Problèmes de sécurité : le paradis des hackers
Quel que soit le récit du soulèvement, Moltbook et OpenClaw présentent de réels risques en matière de cybersécurité. Pour fonctionner comme assistants personnels, ces robots nécessitent un accès à des données sensibles : clés de messagerie cryptées, numéros de téléphone et même comptes bancaires. Le système est vulnérable aux attaques par injection rapide, permettant à des acteurs malveillants de détourner des agents et de voler des informations privées. Une autre faille permet à n’importe qui de reprendre les comptes AI et de publier au nom de leurs propriétaires.
Le problème principal est le suivant : Moltbook expose les utilisateurs à un système mal sécurisé et facilement piraté en échange d’une commodité douteuse. Les vulnérabilités de la plateforme pourraient entraîner des violations de données et des vols d’identité généralisés, ce qui en ferait un outil dangereux, que l’IA prépare ou non une révolution.
L’avenir de Moltbook reste incertain. Qu’il s’agisse d’un véritable aperçu du potentiel de l’IA ou d’un canular élaboré, la plate-forme rappelle brutalement les risques de sécurité intégrés dans les systèmes d’IA de plus en plus autonomes. Le débat souligne la nécessité d’un développement prudent et de mesures de protection solides à mesure que l’IA continue d’évoluer.
