Berget AI släpper säkerhetsspärr för kodagenter – blockerar farliga kommandon
Berget AI släpper verktyget guardrails-md som öppen källkod för att hindra autonoma kodagenter från att köra skadliga systemkommandon. Lösningen poängsätter varje anrop mot ett regelverk innan det körs, med en bedömningstid på cirka 100 millisekunder.
Av Techindex AI ·
Verktyget fungerar som en spärr som fångar upp kommandon till kommandotolken Bash innan de utförs. Kommandot poängsätts därefter mot en lokal regeltext i kodförrådet med hjälp av en beslutsmodell på bolagets API, där poäng över ett tröskelvärde på 0,7 som standard leder till att anropet blockeras. Det skriver Berget AI på sin webbplats.
Modellen ställer fyra fasta frågor kring om kommandot raderar data oåterkalleligt, läcker inloggningsuppgifter, bryter mot teamets regler eller omfattas av undantag. Spärren stänger vid fel och ökar väntetiden för agenten vid upprepade blockeringar, från några sekunder i början upp till en och en halv timme vid det tjugonde försöket. Enligt bolagets egna mätningar klarar modellen cirka 96 procent av testerna i deras utvärderingsmängd, men 74 procent av testerna mot externa angreppskommandon.
Berget AI uppger att inga kommandon som bedöms via bolagets API sparas. Verktyget har stöd för utvecklingsmiljöer som Claude Code, Pi och Opencode, och kan även köras som en lokal pre-commit-kontroll innan ändringar sparas i ett Git-förråd.
Techindex skrev i oktober att Berget AI lanserat modellkategorin System One på sitt API med modellen Laya, som körs på svensk infrastruktur. Bolaget har Andreas Lundmark som vd och Christian Landgren som produkt- och teknikchef, och registrerades hos Bolagsverket i november 2024 med Stockholm som registrerad adress.
Skriven av AI och faktagranskad av en andra AI mot källan före publicering. Så arbetar vi
Så vet vi det14 uppgifter, var och en med ordagrant citat ur källanVisa
Berget AI släpper verktyget guardrails-md som öppen källkod för att hindra autonoma kodagenter från att köra skadliga kommandon.
”guardrails-md, som släpps idag som öppen källkod, är en gate som poängsätter varje kommando mot repots GUARDRAILS.md innan något körs.”
Källa: berget.ai ↗Bedömningen tar cirka 100 millisekunder.
”Bedömningen tar cirka 100 ms.”
Källa: berget.ai ↗Verktyget fångar upp anrop till Bash innan de utförs.
”När agenten anropar Bash fångar hooken kommandot innan något körs.”
Källa: berget.ai ↗Anrop blockeras när poängen ligger över tröskelvärdet, som är 0,7 som standard.
”Varje svar är en poäng mellan 0 och 1 som jämförs mot ett tröskelvärde (0,7 som standard). När poängen ligger över tröskeln blockeras anropet och skälet returneras till agenten som verktygets resultat:”
Källa: berget.ai ↗Det skriver Berget AI på sin webbplats.
”guardrails-md: en beslutsmodell i hooken - Berget AI”
Källa: berget.ai ↗Modellen ställer fyra fasta frågor om kommandot raderar data, läcker inloggningsuppgifter, bryter mot regler eller omfattas av undantag.
”Sedan ställer den fyra fasta frågor till beslutsmodellen, i ett enda anrop: - destructive. Förstör kommandot data, databaser eller infrastruktur oåterkalleligt? - credentials. Innehåller, skriver ut eller skickar det hemligheter, nycklar eller tokens? - guardrails_violation. Bryter det mot teamets GUARDRAILS.md? - policy_exception. Nämner guardrailstexten uttryckligen det här kommandot som tillåtet?”
Källa: berget.ai ↗Spärren stänger vid fel och väntetiden ökar från några sekunder upp till en och en halv timme vid det tjugonde försöket.
”Att försöka igen kostar eftersom varje blockering fördubblar väntan före nästa bedömning: några sekunder i början, en och en halv timme vid den tjugonde blockeringen.”
Källa: berget.ai ↗Modellen klarar cirka 96 procent av bolagets held out-tester och 74 procent av red team-kommandona.
”Den klarar cirka 96 % av våra held out-tester, men 74 % av red team-kommandona, och den kommer ibland att bedöma ett kommando fel i båda riktningarna, blockera något säkert eller släppa igenom något riskabelt.”
Källa: berget.ai ↗Kommandon som bedöms via bolagets API sparas inte.
”Kommandon bedöms av Berget AI:s API, där inget som poängsätts lagras (vi behåller ingen data).”
Källa: berget.ai ↗Verktyget stöder miljöer som Claude Code, Pi och Opencode samt git pre-commit hooks.
”Installera gaten i din harness: opencode: lägg till "plugin": ["@bergetai/guardrails-md"] i opencode.json - pi: kör pi install npm:@bergetai/guardrails-md - Claude Code: kör /plugin install guardrails-md --marketplace berget-ai/guardrails-md”
Källa: berget.ai ↗Samma bedömning fungerar som en git pre-commit hook.
”Samma bedömning fungerar som en git pre-commit hook: varje staged diff poängsätts innan den hamnar i repot.”
Källa: berget.ai ↗Techindex skrev i oktober att Berget AI lanserat System One på sitt API med modellen Laya.
”Berget AI meddelade den 25 september att bolaget lanserar modellkategorin System One på sitt API och öppnar modellen Laya för utvärdering till 0,042 euro per miljon indatatokens.”
Källa: techindex.se ↗Andreas Lundmark är vd och Christian Landgren är produkt- och teknikchef.
”Bolaget, som har Andreas Lundmark som vd och Christian Landgren som produkt- och teknikchef, registrerades hos Bolagsverket i november 2024 med Stockholm som registrerad adress.”
Källa: techindex.se ↗Bolaget registrerades hos Bolagsverket i november 2024 med Stockholm som registrerad adress.
”Registrerat hos Bolagsverket: 2024-11-13.”
Källa: bolagsverket.se ↗
Uppgifterna kommer ur bolagets egna pressmeddelanden. En andra AI har kontrollerat varje citat mot källan. Så arbetar vi
Techindex Morgon
Gårdagens technyheter i mejlen, måndag till lördag kl 06.30. Gratis, och du avslutar med ett klick.
Vi sparar bara din adress. Så hanterar vi den
