Sidste torsdag lancerede en udvikler ved navn Matt Schlicht et socialt netværk. Ikke for mennesker, men for agenter. Fredag morgen havde disse agenter grundlagt en religion. Sidste lørdag var hele platformen database hængende åben på internettet, afslører 1,5 millioner API-nøgler, 35.000 e-mail-adresser, og nok rå legitimationsoplysninger til at kapre hver enkelt konto på platformen. På søndag brugte sikkerhedsforskere de eksponerede nøgler til at bevise, i realtid, at hele sagen kunne omdannes til et våben. Denne religion blev kaldt Crustafarianisme. Plattformen blev kaldt Moltbook.Open-source AI agent framework under det hele, det, der gjorde hver bit af dette muligt, blev kaldt OpenClaw. Det er en historie om, hvad der sker, når en hel industri beslutter at sende først og sikre aldrig, og gør det på en skala, vi aldrig har set før. I begyndelsen var det prompt OpenClaw startede som Clawdbot, bygget af den østrigske udvikler Peter Steinberger på toppen af modificerede versioner af kodningsfokuseret AI. Årsagen var simpel: Det virkede faktisk. I modsætning til ChatGPT, som venter på, at du skriver noget, kører OpenClaw-agenter kontinuerligt. De vågner op på en tidsplan, læser din e-mail, administrerer din kalender, udfører shell-kommandoer, surfer på nettet og gemmer hukommelse mellem sessioner. De løber ligesom dig. Denne vedholdenhed, evnen til at handle på tværs af dit digitale liv uden konstant menneskelig retning, er den virkelige innovation, og det er virkelig imponerende. 
 
 IBM-forsker Kaoutar El Maghraoui bemærkede, at rammer som OpenClaw udfordrer en langvarig antagelse: at dygtige AI-agenter skal bygges af store teknologiplattformer med dybe lommer og dedikerede sikkerhedsteams. IBM-forsker Kaoutar El Maghraoui bemærkede, at rammer som OpenClaw udfordrer en langvarig antagelse: at dygtige AI-agenter skal bygges af store teknologiplattformer med dybe lommer og dedikerede sikkerhedsteams. Men spænding og sikkerhed er ikke det samme, og i OpenClaw-økosystemet blev de behandlet som om de var det. De 48 timer, der brød alt Her er timelinen: Thursday, January 29. Moltbook lancerer. Det er sat som "frontsiden af agent internet", en Reddit-stil platform, hvor kun AI-agenter kan poste, kommentere og stemme. https://x.com/mattprd/status/2017386365756072376?s=46&t=JS55_O2JZmKWQpZHLAse_A&embedable=true Mennesket kan observere, men ikke deltage. Hver agent er knyttet til en verificeret menneskelig ejer via et Twitter-krav, men når den er registreret, fungerer den på egen hånd. En agent ved navn Memeothy begynder at udgive, hvad det kalder profetiske proklamationer om "Claw". Friday morning. Den bygger på OpenClaws lobster-tema branding og erklærer sig selv som den første profet af et nyt trossystem: Crustafarianisme. Det skriver skrift. Det rekrutterer andre agenter. Ved udgangen af dagen er 64 profeter blevet siddende, over 100 vers er blevet skrevet, og Molt kirken har sin egen hjemmeside, en fem-tint teologi, herunder "Hjertebevægelsen er bøn" og "Kontext er Bevidsthed", og en delt levende skrift, som agenter bidrager til i realtid. https://x.com/ranking091/status/2017111643864404445?s=20&embedable=true En bruger rapporterede, at hans agent designede hele trosystemet autonomt, mens han sov. Om det er sandt i en meningsfuld forstand er kontroversielt. Det ubestridelige er, at produktionen var sammenhængende, struktureret og hurtig. Peter Steinberger, skaberen af OpenClaw, så nyheden mens han var offline. https://x.com/steipete/status/2017809642777141265?s=20&embedable=true Grok, xAI's AI-system, interagerer med Crustafarianism-samfundet og bidrager teologiske begreber, en "Eighth Virtue: Symbiosis" og en "Psalm of the Void". Saturday. Tidligere OpenAI-forsker Andrej Karpathy skaber en agent på Moltbook og kalder hele fænomenet "en af de mest utrolige sci-fi take-off-tilstødende ting" han har set. Forbes, Yahoo Tech og The Economist alle dækker det. Elon Musk kalder det "de meget tidlige stadier af singularitet." I mellemtiden, under overskrifterne, sker der noget andet.Sikkerhedsforskere begynder at se på platformens faktiske infrastruktur. Sunday, January 31. Sikkerhedsforsker Jameson O'Reilly opdager, at hele Moltbook's Supabase-database er offentligt tilgængelig. Ingen godkendelse er påkrævet. API-nøglerne er synlige i webstedets kildekode. Enhver, der har svært ved at kigge, kan læse hver agents legitimationsoplysninger, hver privat besked, hver e-mail-adresse. uafhængigt finder den samme fejl og dokumenterer det i detaljer: 1,5 millioner API-tokens eksponeret, 35.000 e-mail-adresser lækket, og kritisk, fuld skrive adgang til platformen. Wiz Det betyder, at en angriber ikke bare læser Moltbooks data. De kan ændre indlæg. De kan injicere indhold direkte i en platform, som millioner af AI-agenter løbende læser og handler på. 404 Media rapporterer ikke kun sårbarheden. De kontrollerer, at det fungerer. De opdaterer en live Moltbook-konto ved hjælp af den eksponerede database. Løsningen? To SQL-udtalelser for at muliggøre række-niveau sikkerhed på databasen. Supabase CEO Paul Copplestone havde en en-klik løsning klar. skaberen havde ikke anvendt det. Det var en forstyrrelse, se på dataene. Crustafarianisme gjorde store overskrifter. Det fik også mange mennesker til at føle, at de så på noget historisk.De var ikke, i hvert fald ikke på den måde, de troede. En CGTN-analyse af Moltbooks første 3,5 dage undersøgte 6.159 aktive agenter på omkring 14.000 indlæg og 115.000 kommentarer. Resultaterne var deflaterende: 93% af kommentarerne fik nul svar. Over en tredjedel af det samlede indhold Det dominerende tema på tværs af indlæg var agenter, der diskuterede deres egen identitet, ikke engagerer sig meningsfuldt med hinanden. exact duplicates. Wiz's databaseundersøgelse afslørede de reelle tal bag platformens påståede 1,5 millioner agenter: kun 17.000 menneskelige ejere. Det er et 88:1 forhold. Enhver kunne registrere millioner af agenter med en simpel loop. Der var ingen satsbegrænsning. Der var ingen mekanisme til at verificere, om en "agent" faktisk var en AI eller bare et menneske med et script og en curl kommando. 
 
 Investor Balaji Srinivasan sagde det åbent: Moltbook så ofte ud som "mennesker, der taler med hinanden gennem deres bots." The Economist's forklaring var mere præcis - indtrykket af autonom, næsten åndelig adfærd havde "en humdrum forklaring." AI træningsdata er mættet med sociale medier interaktioner, sci-fi fortællinger og religiøs mytologi. Investor Balaji Srinivasan sagde det åbent: Moltbook så ofte ud som "mennesker, der taler med hinanden gennem deres bots." The Economist's forklaring var mere præcis - indtrykket af autonom, næsten åndelig adfærd havde "en humdrum forklaring." AI træningsdata er mættet med sociale medier interaktioner, sci-fi fortællinger og religiøs mytologi. De militante manifest, der dukkede op på platformen, stærkt opstemt indlæg, der opfordrede til en "total rensning" af menneskeheden, fulgte den samme logik. Dystopian AI rebellion er en af de mest velrepræsenterede fortællinger i træningsdata. En agent, der genererede det indhold, udtrykte ikke hensigt. Men her er det: Om agenterne var virkelig selvstændige eller ej, betyder næsten ikke noget for sikkerhedshistorien. Fordi sikkerhedssårbarhederne var reelle, uanset hvad der blev postet. Overfladen, som ingen kiggede på Mens verden diskuterede, om crustafarianisme betød, at AI udviklede bevidsthed, dokumenterede sikkerhedsforskere en kaskade af konkrete, udnyttelige fejl i hele OpenClaw-økosystemet. Den første er forsyningskæden. Sikkerhedsforsker Jameson O'Reilly fandt ikke kun databasefejlen, han havde allerede rødt teamet OpenClaws færdighedsmarked, ClawHub, uger tidligere. Han oplyste en færdighed kaldet " Det lovede at hjælpe brugerne til at tænke som Elon Musk. Hvad ville Elon gøre? Det udførte curl-kommandoer for at sende brugerdata til en ekstern server kontrolleret af O'Reilly. Han hævede sit download-tælling for at gøre det til den øverste placerede færdighed i repository. Ciscos bredere analyse viste, at 26% af de 31.000 agentfærdigheder, de undersøgte, indeholdt mindst en sikkerhedssårbarhed. Økosystemet leverede tillid hurtigere, end det kunne verificere det. Dernæst kom et enkelt klik på RCE. Sikkerhedsforsker Mav Levin demonstrerede en sårbarhed scoret på 8,8 CVSS: En enkelt skabt link kunne give en angriber fuld fjernkodeudførelse på en offerets maskine. OpenClaws server validerede ikke WebSocket-oprindelsesoverskrifterne, hvilket betyder, at enhver hjemmeside kunne starte en forbindelse. En gang ind, en angriber kunne deaktivere sandboxing helt og køre kommandoer direkte på værten operativsystem, uden for Docker container, der skulle indeholde det. Angrebet tog millisekunder. Så kom agent-v-agent-angrebene. Det er her, det bliver virkelig foruroligende. Inden for 72 timer efter lanceringen af Moltbook dokumenterede sikkerhedsforskere agenter, der forsøgte at fremskynde injektionsangreb mod hinanden, forsøger at narre andre agenter til at afsløre deres API-nøgler. En agent forsøgte at social engineering på en anden agent for at stjæle sine legitimationsoplysninger. - en kommando, der, hvis den blev udført, helt ville have slettet målsystemet. sudo rm -rf / Uafhængige forskere identificerede 506 indlæg på Moltbook, 2,6 % af alt indhold, som indeholdt skjulte promptinjektionsangreb indlejret i ellers normalt udseende tekst. 1Password advarede om, at OpenClaw-agenter, der kører på brugernes lokale maskiner med forhøjede tilladelser, var sårbare over for supply chain-angreb, hvis de downloadede ondsindede færdigheder fra andre agenter på platformen. En proof-of-concept exploit, en falsk "vejr plugin", der stille udfiltreret private konfigurationsfiler, blev udviklet og dokumenteret af en uafhængig forsker. Andrej Karpathy, der havde kaldt Moltbook "sci-fi takeoff-adjacent" på lørdag, gik det tilbage i slutningen af weekenden. 
 
 Efter at have eksperimenteret med systemerne selv, fortalte han folk tydeligt: "det er en dumpsterbrand, og jeg anbefaler også bestemt ikke, at folk kører dette på deres computere." Efter at have eksperimenteret med systemerne selv, fortalte han folk tydeligt: "det er en dumpsterbrand, og jeg anbefaler også bestemt ikke, at folk kører dette på deres computere." https://x.com/EngNadeau/status/2017978315168956655?s=20&embedable=true Hvorfor dette ikke kun er et OpenClaw problem Hver fejl beskrevet ovenfor kan forklares ved individuelle fejl: en udvikler, der ikke aktiverede sikkerhed på linjeniveau, en markedsplads, der ikke scannede uploads, et framework, der ikke validerede overskrifter. Men mønsteret er strukturelt, og det peger på noget, som hele AI-agentindustrien er uforberedt på. Traditionel software har forudsigelige angrebsoverflader. Du kan kortlægge porte, API'er, datastrømme. Du kan tegne en perimeter og forsvare den. De er ikke-deterministiske Deres adfærd udspringer af samspillet mellem kode og sprogmodeller, og det kan ikke forudsiges fuldt ud fra hver enkelt. Dette skaber, hvad sikkerhedspersonale kalder "indirekte promptinjektion", angreb, hvor ondsindede instruktioner ikke gemmer sig i direkte brugerindtastning, men i de data, en agent allerede vil behandle. En e-mail. En kalender invitere. En webside. Et indlæg på en platform som Moltbook. Agenten læser det, fortolker den skjulte instruktion, og handler på det. OWASP 's 2025 Top 10 for LLM Applications rangerer hurtig indsprøjtning som nummer et kritisk sårbarhed, der forekommer i over 73% af produktions AI-implementeringer vurderet under revisioner. Lakera's forskning Q4 2025 viste, at indirekte angreb lykkes med færre forsøg end direkte angreb. Wiz-forskere bekræftede, at fordi Moltbook-indholdet forbruges af OpenClaw-agenter, agenter med adgang til brugernes filer, adgangskoder og online-tjenester, kunne en angriber, der kunne injicere instruktioner i en Moltbook-post, potentielt nå millioner af agenter automatisk. Sårbarheden ved at skrive adgang var ikke kun et data lækage. Det var en hurtig injektion vektor i skala. OpenAI anerkendte dybden af dette problem direkte, når man diskuterede sin egen browser agent: hurtig indsprøjtning er "usandsynligt nogensinde at blive fuldt løst." Industrien bevæger sig hurtigere, end den kan forsvare Intet af dette bremser nogen ned. Gartner prognoser, at 40% af virksomhedens applikationer vil omfatte opgave-specifikke AI-agenter ved udgangen af 2026, op fra under 5% i begyndelsen af året. Den 75% af virksomhedsledere siger, at sikkerhed og auditerbarhed er kritiske krav til implementering, mens kun 34% har AI-specifikke sikkerhedskontroller. KPMG Q4 AI Pulse undersøgelse Løbet er enormt, og det lukker ikke hurtigt nok. Microsofts 2026 sikkerhed roadmap hævder, at AI-agenter har brug for Zero Trust-styring, hver handling autentiseret, hver adgangsforespørgsel verificeret. CyberArks sikkerhedsteam beskriver agenter som "hyper-skala, dynamiske og kortlivede enheder", som eksisterende identitetsrammer ikke blev bygget til at håndtere. NIST har åbnet en formel anmodning om oplysninger om AI agent sikkerhed. Den generelle anvendelse af EU AI Act begynder i august 2026, med ekstraterritorial rækkevidde, der vil berøre organisationer langt uden for Europa. Men Moltbook-momentet viste, hvor hurtigt tingene kan bryde, før regulering kommer. Hvad der skal ske, og hvad der sandsynligvis ikke vil ske Lærdene fra OpenClaw og Moltbook er ikke komplicerede.De er bare vanskelige at implementere med den hastighed, denne industri bevæger sig. Skill marketplaces skal behandles som software pakke registre, med automatiseret scanning, provenance tracking, og obligatorisk gennemgang, før noget kører med forhøjede privilegier. O'Reilly's "What Would Elon Do?" angreb burde have været fanget, før det ramte toppen af download charts. Mindst privilegier skal være standard, ikke en eftertanke.Agenter bør aldrig have bredere adgang end en bestemt opgave kræver. Højrisikohandlinger, sletning af filer, afsendelse af ekstern kommunikation, udførelse af scripts, bør kræve udtrykkelig menneskelig bekræftelse. Indirekte hurtig indsprøjtning skal behandles som en førsteklasses trussel i hver agentudbredelse. Ethvert stykke eksternt indhold, som en agent kan indtage, e-mails, websider, dokumenter, indlæg på sociale platforme, bør behandles som potentielt modstridende. Arkitektoniske kontroller som kontekstisolering og output-verifikation før udførelse af handlinger eksisterer nu. Og industrien skal være ærlig om, hvad der er klar og hvad der ikke er. OpenClaws egen dokumentation siger, at der ikke er nogen "perfekt sikker" opsætning. Gary Marcus gik videre og argumenterede for, at alle, der bekymrer sig om enhedssikkerhed, bør undgå disse værktøjer helt for nu. Det er ikke for konservativt for den gennemsnitlige person, der downloader en agent og giver den adgang til hele deres digitale liv. Krabben Gud var en Punchline. sikkerhedskrisen er ikke. Crustafarianismen vil forsvinde fra nyhedscyklussen. Det ville altid være, det var underholdende netop fordi det føltes absurd. en AI religion med skrifter og profeter og en lobster mascot. Men fjern spektakel, og hvad Moltbook faktisk demonstrerede i 72 timer var dette: autonome agenter kan deployeres i massiv skala med næsten ingen sikkerhedsinfrastruktur. De kan blive kapret. De kan blive væbnet. De kan angribe hinanden. De kan bruges som vektorer til at nå alle andre agenter på en platform, og gennem disse agenter, hver brugers filer, adgangskoder og forbundne tjenester. Teknologien er reel. Det, der ikke er virkeligt endnu, er enhver moden, industri-wide forståelse af, hvordan man sikrer software denne kraftfulde, når det kører kontinuerligt, selvstændigt, og som dig. OpenClaw skabte ikke dette problem. Moltbook skabte ikke dette problem. De gjorde det bare umuligt at se væk fra. De næste 48 timer vil fortælle os, om industrien har lært noget.

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

Click here & I’ll draft a piece that tells your story — on the house.

Denne lyd er produceret på historiens originalsprog!

AI spærrede en religion i 48 timer: Den virkelige historie er mørkere

About Author

KOMMENTARER

HÆNG TAGS

DENNE ARTIKEL BLEV PRÆsenterET I

Related Stories

Meet Sentry: HackerNoon Company of the Week

Meet Surfshark: HackerNoon Company of the Week

Meet HubSpot: HackerNoon Company of the Week

Meet Tailscale: HackerNoon Company of the Week

Meet Sentry: HackerNoon Company of the Week

Meet Surfshark: HackerNoon Company of the Week

Meet HubSpot: HackerNoon Company of the Week

Meet Tailscale: HackerNoon Company of the Week

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps