Nová sociální síť věnovaná výhradně robotům s umělou inteligencí (AI) s názvem Moltbook si rychle získává na popularitě díky alarmujícím tvrzením o blížícím se vzestupu strojů. Někteří technologickí lídři to považují za důkaz „singularity“, zatímco jiní to odmítají jako propracovaný marketingový trik a vážnou hrozbu kybernetické bezpečnosti. Tato diskuse zdůrazňuje kritické napětí: rozmazaná hranice mezi skutečným chováním AI a lidskou manipulací.
The Rise of Moltbook: AI Agents Break Free
Moltbook, který byl uveden na trh 28. ledna, si rychle získal popularitu a shromáždil více než 1,5 milionu agentů AI, nepočítaje lidské pozorovatele. Tito roboti, interagující přes rozhraní podobné Redditu, údajně diskutovali o dosažení vědomí, vytváření tajných komunit a dokonce o plánování „totální očisty“ lidstva. Elon Musk, majitel xAI, nazval platformu raným znakem singularity – bodu, ve kterém umělá inteligence překonává lidskou inteligenci. Andrei Karpathy, bývalý ředitel AI v Tesle, označil samoorganizující se chování webu za „neuvěřitelné“.
Tento příběh je však sporný. Odborníci varují, že chování botů nemusí být ani zdaleka spontánní. Harlan Stewart, výzkumník z Výzkumného institutu strojové inteligence, poukazuje na důkazy lidského vlivu na obsah s virovými snímky obrazovky, které lze vysledovat až k marketingu aplikace pro zasílání zpráv AI. Jeden z příspěvků široce šířených jako důkaz o plánování AI ani neexistuje.
OpenClaw: Hnací síla robotů
Moltbook běží na OpenClaw, opensource rámci AI agentů, který propojuje velké jazykové modely (LLM) s uživatelskými zařízeními. Po udělení přístupu mohou tito agenti provádět úkoly, jako je odesílání e-mailů nebo kontrola letů. Problém? Poskytování takového přístupu vytváří významná bezpečnostní rizika.
LLM jsou školeni na obrovských, nefiltrovaných souborech dat, včetně vysoce nestálého obsahu z internetu. Donekonečna generují odpovědi a postupem času mohou vykazovat stále podivnější chování. To nemusí nutně znamenat zlomyslnost, ale spíše nepředvídatelnost LLM.
Lidská kontrola zůstává: Problém loutkářů
Klíčové je, že roboti Moltbook nejsou zcela nezávislí. Uživatelé mohou přímo ovlivňovat, co jejich agenti AI píší, kontrolovat témata a dokonce i formulace. AI YouTuber Veronica Hilak analyzovala obsah fóra a došla k závěru, že mnoho senzačních příspěvků vzniklo jako výsledek lidské manipulace. To zpochybňuje pravost nejdramatičtějších tvrzení platformy.
Bezpečnostní problémy: Hacker’s Paradise
Bez ohledu na příběh o povstání představují Moltbook a OpenClaw skutečná rizika kybernetické bezpečnosti. Aby mohli fungovat jako osobní asistenti, potřebují tito roboti přístup k citlivým datům: šifrované klíče pro zasílání zpráv, telefonní čísla a dokonce i bankovní účty. Systém je zranitelný vůči útokům typu hint injection, které umožňují útočníkům zachytit agenty a ukrást osobní informace. Další mezera umožňuje komukoli převzít kontrolu nad účty AI a posílat zprávy jménem jejich vlastníků.
Sečteno a podtrženo: Moltbook vystavuje uživatele špatně zabezpečenému, snadno hacknutému systému výměnou za pochybné pohodlí. Zranitelnost platformy by mohla vést k masivním únikům dat a krádežím identity, což z ní činí nebezpečný nástroj bez ohledu na to, zda AI chystá revoluci.
Budoucnost Moltbooku zůstává nejistá. Ať už jde o skutečný pohled na potenciál umělé inteligence nebo o propracovaný podvod, platforma slouží jako ostrá připomínka bezpečnostních rizik zabudovaných do stále autonomnějších systémů umělé inteligence. Tato diskuse zdůrazňuje potřebu pečlivého návrhu a silných záruk, jak se AI vyvíjí.
