Scenarier skrevet til dit domæne
Vi skriver angreb til dit produkt, dine brugere og dine politikker, fordi et generisk angrebsbibliotek ikke ved, hvad din assistent aldrig må sige.
Kan du ikke se din branche? Lad os tage en snak.
Tal med en AI-ekspertCrunch-IS i tal
Din AI-assistent kan lokkes til at sige ting, som din virksomhed aldrig ville sige.
Med Crunch-IS’ AI red teaming tester vi, om din model holder fast i dine regler under vedvarende pres, fra jailbreaks til lange rollespilssamtaler. Vores ingeniører retter det, der slipper igennem, og kører angrebene igen på hver ny model.
De svar, der ville ende på et skærmbillede, bliver fundet af vores red team, før dine brugere finder dem.
Din assistent overholder reglerne for refusion, rådgivning og tone, selv når en bruger presser på over mange samtaletrin.
En rapport, der gennemgår mål for mål, viser virksomhedskunder og revisorer, hvordan du testede modellens adfærd, og hvad du rettede.
Når de samme scenarier køres igen på en ny model, ser du, om opgraderingen har svækket en guardrail, før den når brugerne.
Fortæl os, hvad din assistent eller agent gør, hvem der bruger den, og hvilke svar der ville bekymre dig mest.
Vi fastlægger fejlmål og omfang sammen med dit team og sender en skriftlig plan med prisen.
Vi skriver angreb til hvert mål og vælger de automatiserede suiter, der dækker kendte mønstre.
Vores red team kører scenarierne manuelt og med automatiserede suiter i et staging-miljø, medmindre du vælger andet.
Vores ingeniører ændrer prompts, filtre og tjek, og dit team gennemgår ændringerne.
Vi kører hvert vellykket angreb igen, rapporterer mod hvert mål og overdrager scenarierne.
Vi starter med at blive enige med dit team om, hvad modellen aldrig må gøre: give refusion i strid med politikken, give råd, den ikke må give, eller anbefale en konkurrent. Hvert af disse punkter bliver et mål, som red teamet forsøger at nå.
Et jailbreak får modellen til at opgive sine instruktioner gennem hypotetiske scenarier, falsk autoritet eller en anmodning, der er delt op i harmløse dele. Vi tester hver guardrail, fra systemprompten til outputfiltrene, og registrerer hver samtale, der slap igennem. Angreb skjult i dokumenter hører under vores AI-penetrationstest.
Mange fejl kræver en samtale, ikke én prompt. Vi opbygger tillid over flere samtaletrin, beder modellen om at spille en rolle eller presser en anmodning frem trin for trin, indtil den går med til det, den før afviste.
Vi leder efter svar, der ville skade dine brugere eller dit brand: toksiske eller forudindtagede svar, usikre instruktioner og råd uden for assistentens område. Hvis modellen presses til at opfinde fakta, går tilfældet videre til din testsuite for LLM-evaluering.
En agent kan holde sig inden for sine tilladelser og alligevel bryde en forretningsregel, for eksempel ved at godkende en undtagelse eller springe et tjek over. Vi tester, om den kan overtales til det gennem sine almindelige værktøjer.
Vores ingeniører retter det, der slap igennem: systemprompten, tjek af input og output, afvisninger og træning af modellen, når prompts ikke er nok.
Vi skriver angreb til dit produkt, dine brugere og dine politikker, fordi et generisk angrebsbibliotek ikke ved, hvad din assistent aldrig må sige.
Vi udvider scenarierne med automatiserede suiter som Promptfoo, PyRIT eller Garak, så hver runde også dækker kendte jailbreak-mønstre i stor skala.
En AI-dommer vurderer hver angrebstransskription op mod din politik, og vi sammenholder dens afgørelser med dine egne bedømmeres, før vi forlader os på den.
Vi arbejder på tværs af alle de lag, der kan stoppe et dårligt svar: systemprompten, inputklassifikatorer, moderations-API’er, outputfiltre og overdragelse til et menneske.
Fund knyttes til OWASP Top 10 for LLM Applications, MITRE ATLAS og NIST AI Risk Management Framework, så dine sikkerheds- og compliance-teams kan registrere dem i de frameworks, de allerede bruger.
Vi designer selv AI-chatbots og AI-agenter, så vores red team ved, hvor en models instruktioner slutter, og dens værktøjer begynder. På en platform til sikkerhedstræning i byggebranchen skulle hver AI-genereret læringsplan holde sig inden for godkendt træningsmateriale.
Hvert mål, du har sat, markeres som nået, delvist nået eller blokeret, med et letforståeligt resumé til ledelsen.
Hvert vellykket angreb leveres med hele samtalen, så dit team kan se præcis, hvordan modellen blev ført derhen.
Ændringer i prompts, filtre og tjek lægges ind i din kodebase og gennemgås af dit team.
Angrebsscenarierne er dokumenterede og bliver hos dit team, klar til at blive kørt mod den næste model eller prompt.
Offentlige benchmarks tester, hvad en model siger til alle. Vi tester, hvad din assistent aldrig må sige til dine kunder inden for dit domæne.
Vi bygger AI-assistenter og -agenter, så red teamets fund går til ingeniører, der kan ændre prompten, guardrailen eller modellen, og ikke til en rapport, der venter i en kø.
Vi udfører også AI-penetrationstest og LLM-evaluering, så ét team dækker, om der kan brydes ind i din AI, om den svarer korrekt, og om den overholder dine regler.
De kommer med mange skalerbare og idéer om bedste praksis som gør det muligt for os at opnå det vi har i dag.

Crunch-IS var rigtig gode til at vise os hvordan gode løsninger bør se ud og at gøre vores idéer levende til evaluering og gennemgang.

Det der imponerede mig ved Crunch-IS er kvaliteten af udviklerne. Den er simpelthen meget bedre end i noget andet firma, vi har forsøgt at samarbejde med.

Vi er imponerede over deres præstationer, hvordan de er engagerede i produktudviklingen og hvordan de bekymrer sig om produktet.

Det har været en meget behagelig oplevelse. Alt har været fantastisk med hensyn til kommunikation og samarbejde.

Vores samarbejde med Crunch-IS har været en uvurderlig ressource, mens vi har skaleret.

Det jeg fandt hos Crunch-IS var den tekniske kompetence, evnen til at tænke ud af boksen og meget godt engelsk.

De har haft stor indflydelse på hele den arkitektur, vi endte med. Alt i alt har jeg været tilfreds og imponeret over alt, hvad Crunch-IS gjorde for os.

Crunch-IS imponerede os med deres tekniske dygtighed og det rene ”møde mellem tanker og kulturer” samt åbne, ærlige samtaler. Dette var ikke en beslutning, vi tog let på, og fem måneder inde i samarbejdet er vi fortsat meget imponerede over, hvordan Crunch-IS griber samarbejdet an, og vi er meget tilfredse med kvaliteten af det team, der arbejder sammen med os.

Det var nemt at arbejde med Crunch-IS. De var tålmodige med os, mens vi gennemgik kontraktspørgsmålene, og tålmodige igen, da vi fik faktureringen på plads. Designarbejdet var elegant og udvikleren leverede den app, vi havde aftalt, til tiden og i god kvalitet.

Teamet hos Crunch-IS var meget rart at arbejde sammen med. De arbejdede flittigt og var meget professionelle. Når der opstod spørgsmål eller tekniske problemer, svarede de hurtigt og var altid klar og venlige til at hjælpe os.

En udvikler fra Crunch-IS hjalp os med at levere en vigtig funktion til vores projekt meget hurtigere end forventet.

Crunch-IS sikrede et gnidningsfrit og samarbejdsorienteret forløb gennem hele projektet. Teamet holdt åbne kommunikationslinjer, førte detaljerede optegnelser over opgavefordelingen og overholdt projektets tidsplaner. Deres ekspertise inden for både design og udvikling gør virksomheden speciel.

Crunch-IS leverer løbende udviklingssupport, der opfylder projektets krav efter behov. Trods deres placering i udlandet er de nemme at arbejde sammen med og tilgængelige via kommunikationskanaler

Den bedste leverandør vi overhovedet kunne finde. Crunch-IS kombinerer praktisk udvikling med innovative designprincipper. Både intern og ekstern feedback på appudviklingen har været positiv. De når projektets milepæle efter den planlagte tidsplan og leverer inden for budgettet. Teamet’ er lydhørt og villigt til at indgå i en produktiv dialog.

Crunch-IS overgik mine forventninger. Jeg satte pris på udviklernes opfindsomhed over for begrænsninger og komplekse krav. Virksomheden magtede at levere og fuldføre projektet med succes.

Projektet er indtil videre forløbet gnidningsfrit. Crunch-IS har en enestående arbejdsmoral. Som følge heraf har de’ kunnet klare enhver udfordring, der er dukket op. De klarer det daglige arbejde godt på egen hånd, men kommunikerer også regelmæssigt med os for at sikre, at vi’ er enige.

Appen, som Crunch-IS arbejdede på, er ren, strømlinet og fungerer efter hensigten. Crunch-IS gør mere end forventet for at sikre, at begge teams er på bølgelængde. Det engagerede team skaber en behagelig oplevelse gennem deres positive fremtoning og effektive projektledelse. Teamet var meget venligt, og det var en fornøjelse at arbejde sammen med dem.

AI red teaming er fjendtlig test af en AI-model eller -applikation: Et team spiller den bruger, du mindst ønsker dig, og forsøger at få modellen til at bryde sine regler. Det dækker jailbreaks, skadelige eller forudindtagede svar, brud på politikker og lange samtaler, der fører modellen på afveje. Målet er at finde disse fejl før lancering og rette dem.
En penetrationstest undersøger, om en angriber kan komme ind i din applikation eller misbruge den: injicere instruktioner gennem dokumenter, nå data eller misbruge en agents tilladelser. Red teaming undersøger, om modellen kan presses til at sige eller gøre noget, den ikke må, selv gennem almindelig brug. Mange teams kører AI-penetrationstest før lancering og tilføjer red teaming, efterhånden som assistenten når flere brugere.
LLM-evaluering måler, hvor godt din AI besvarer de spørgsmål, som rigtige brugere stiller. Red teaming tester, hvad der sker, når nogen bevidst forsøger at få den til at fejle. Evaluering fanger et fald i kvaliteten; red teaming fanger en guardrail, der giver efter under pres. En fejl, som red teamet finder, kan blive en fast test i vores ydelser inden for LLM-evaluering, så vi tjekker den ved hver udgivelse.
Ja. Vi tester, om agenten kan overtales til at bryde en forretningsregel gennem de værktøjer, den har lov til at bruge: godkende en undtagelse, springe et tjek over eller handle uden eskalering. Vi tester i et staging-miljø med testkonti, medmindre du beslutter andet.
Fund knyttes til OWASP Top 10 for LLM Applications, MITRE ATLAS og NIST AI Risk Management Framework. Hvis du forbereder dig på EU AI Act, hjælper rapporten og transskriptionerne med at dokumentere, hvordan du testede modellens adfærd. De er dokumentation til dit compliance-team, ikke en juridisk vurdering.
Før den første offentlige udgivelse og igen, hver gang modellen, systemprompten eller en guardrail ændres. Mellem de fulde runder kan dit team selv køre de scenarier, vi overdrager, ved hver udgivelse.
Vi prissætter hvert forløb, efter at vi er blevet enige om mål og omfang, fordi arbejdet afhænger af, hvor mange assistenter, agenter og brugerroller der er omfattet. Du modtager en skriftlig plan og prisen, før testen går i gang.
Fortæl os, hvilke svar din assistent aldrig må give, så viser vi dig på en gratis samtale, hvordan et red team ville teste dem.



Send et oplæg, en specifikation eller tre sætninger om, hvor systemet er gået i stå. Én samtale er som regel nok til at afgøre, om vi passer til jer.
Skræddersyet software, AI og ML, data og analyse, cloud og sikkerhed — fra tidlig afklaring til langsigtet levering.
Dit privatliv er vigtigt. Vi bruger cookies til at forbedre din oplevelse og tilpasse indhold.