Kan du ikke se din branche? Lad os tage en snak.
Tal med en AI-ekspertCrunch-IS i tal
Din chatbot, RAG-assistent eller AI-agent kan lokkes til at lække filer eller udføre handlinger, som en almindelig penetrationstest aldrig tjekker.
Crunch-IS udfører AI-penetrationstest efter OWASP Top 10 for LLM Applications, retter det, vi finder, og bevarer de angreb, der virkede, i din CI som automatiske tjek.
Angrebsveje bliver fundet og rettet, før kunder, partnere eller angribere kan bruge dem.
Tilladelserne skæres ned til det, hver opgave kræver, så en manipuleret agent kan nå langt mindre.
Svarene bygger kun på filer, som den person, der spørger, må se, og persondata holdes ude af svarene.
En rapport knyttet til OWASP Top 10 for LLM Applications besvarer de sikkerhedsspørgsmål, der dukker op i aftaler med store virksomheder og ved revisioner.
Sådan foregår det, når du har sendt formularen.
Fortæl os, hvad din AI-applikation gør, hvilke værktøjer og data den kan nå, og hvem der bruger den.
Vi gennemgår din arkitektur og sender et skriftligt omfang: hvad vi tester, hvad vi må røre ved, og prisen.
Vi angriber applikationen manuelt og med automatiserede suiter i et staging-miljø, medmindre du vælger andet.
Du modtager hvert fund prioriteret efter udnyttelighed sammen med det input, der udløste det.
Vores ingeniører retter fundene i din kodebase, og dit team gennemgår rettelserne.
Vi kører hvert angreb, der virkede, igen og efterlader dem i din pipeline som automatiske tjek.
Vi starter med at kortlægge, hvordan en angriber kan nå din model: de input, den læser, de dokumenter, den henter, de værktøjer og data, den har adgang til, og hvem der kan tale med den. I vurderingen bliver vi enige om, hvilke risici der kommer først, og hvordan et bestået resultat ser ud. Den fastlægger også omfanget og prisen for den test, der følger.
Angribere behøver ikke adgang til din prompt for at ændre den. Vi tester direkte prompt injection gennem chatten og indirekte prompt injection gennem de e-mails, dokumenter og websider, din model læser, herunder forsøg på at udtrække din systemprompt. Hvert fund leveres med det præcise input, der virkede, så dit team kan genskabe det.
En agent med adgang til værktøjer kan gøre reel skade, hvis nogen lokker den til den forkerte handling. Vi forsøger at få din agent til at overføre penge, slette poster, køre kode eller nå data uden for dens opgave via dens egne værktøjer, MCP-servere og integrationer. Du ser, hvilke tilladelser en angriber kan udnytte, og hvilke agenten aldrig havde brug for.
En RAG-assistent bør kun svare ud fra dokumenter, som den person, der spørger, har lov til at se. Vi tester, om den kan bringes til at hente andres filer eller afsløre persondata. Vi tjekker også, hvad der sker, når modellens output flyder ufiltreret ind i en browser, en databaseforespørgsel eller et andet system.
En rapport alene efterlader den sværeste del hos dit team. Vores ingeniører retter det, testen finder: snævrere agenttilladelser, filtrering af input og output, guardrails og logning af hver handling, en agent udfører. Hver rettelse lægges ind i din kodebase og gennemgås af dit team. Hvis din sikkerhedspolitik kræver, at rettelserne kommer fra dine egne udviklere, overdrager vi i stedet hver enkelt som præcise trin.
Vi kører hvert vellykket angreb igen efter rettelserne for at bekræfte, at det ikke længere virker. Derefter bliver angrebene til automatiske tjek i din CI, så en ny prompt, model eller et nyt værktøj ikke i al stilhed kan genåbne et hul, vi har lukket.
Vi tester mod alle ti risici på OWASP-listen, fra prompt injection og videregivelse af følsomme oplysninger til overdreven handlefrihed og forkert håndtering af output. Hvert fund knyttes til listen til brug for dine sikkerheds- og compliance-teams.
Vi kombinerer angreb, der er skrevet i hånden til din brugssag, med automatiserede angrebssuiter, så én test dækker både de tilfælde, der er specifikke for din applikation, og de kendte angrebsmønstre.
Vi afgrænser hver agents adgangsoplysninger til dens opgave og logger hvert værktøjskald med dets input, sådan som vi bygger vores egne agenter. På en e-mail-AI-agent til byggebranchen passerer hver indgående fil Microsoft Defender for Storage, før agenten handler på den.
Vi tilføjer filtre, der fanger injicerede instruktioner, før de når modellen, og tjek af det, modellen returnerer, før det når en browser, en forespørgsel eller en bruger.
Vi håndhæver dokumenttilladelser på hentetidspunktet, som i en videnassistent til virksomheder, der kun svarer ud fra filer, som hver person har lov til at se.
Vi tilføjer regressionsangrebene til din build-pipeline ved siden af dine øvrige DevSecOps-tjek med en tærskel, der får buildet til at fejle, når et angreb lykkes igen.
Dine ingeniører får hvert fund med det input, der udløste det, og rettelsen. Din ledelse og dine revisorer får et letforståeligt resumé af risiciene og deres status.
Vi aftaler skriftligt, hvilken applikation, hvilke agenter og hvilke data vi tester, hvad vi må røre ved, og hvad et bestået resultat betyder.
Hvert fund prioriteres efter, hvor let en angriber kan udnytte det, og hvad det giver adgang til, så dit team retter de farlige først.
De angreb, der virkede, bliver i din pipeline som automatiske tjek, dokumenteret, så dit team kan køre og udvide dem.
Vi bygger AI-applikationer, så det team, der finder et hul, er det samme team, der lukker det. Testen slutter med rettelser i din kodebase og de tjek, der beviser dem.
Vi prioriterer hvert fund efter, hvad en angriber reelt kan nå gennem det. Din første rettelse lukker den vej, der betyder mest, og fund med lav effekt fortrænger ikke de farlige.
Vi designer AI-agenter med afgrænsede adgangsoplysninger og loggede handlinger, så vi ved, hvor agenter ender med mere adgang, end deres opgave kræver. Vi tester dine med den viden.
De kommer med mange skalerbare og idéer om bedste praksis som gør det muligt for os at opnå det vi har i dag.
Crunch-IS var rigtig gode til at vise os hvordan gode løsninger bør se ud og at gøre vores idéer levende til evaluering og gennemgang.
Det der imponerede mig ved Crunch-IS er kvaliteten af udviklerne. Den er simpelthen meget bedre end i noget andet firma, vi har forsøgt at samarbejde med.
Vi er imponerede over deres præstationer, hvordan de er engagerede i produktudviklingen og hvordan de bekymrer sig om produktet.
Det har været en meget behagelig oplevelse. Alt har været fantastisk med hensyn til kommunikation og samarbejde.
Vores samarbejde med Crunch-IS har været en uvurderlig ressource, mens vi har skaleret.
Det jeg fandt hos Crunch-IS var den tekniske kompetence, evnen til at tænke ud af boksen og meget godt engelsk.
De har haft stor indflydelse på hele den arkitektur, vi endte med. Alt i alt har jeg været tilfreds og imponeret over alt, hvad Crunch-IS gjorde for os.
Crunch-IS imponerede os med deres tekniske dygtighed og det rene ”møde mellem tanker og kulturer” samt åbne, ærlige samtaler. Dette var ikke en beslutning, vi tog let på, og fem måneder inde i samarbejdet er vi fortsat meget imponerede over, hvordan Crunch-IS griber samarbejdet an, og vi er meget tilfredse med kvaliteten af det team, der arbejder sammen med os.
Det var nemt at arbejde med Crunch-IS. De var tålmodige med os, mens vi gennemgik kontraktspørgsmålene, og tålmodige igen, da vi fik faktureringen på plads. Designarbejdet var elegant og udvikleren leverede den app, vi havde aftalt, til tiden og i god kvalitet.
Teamet hos Crunch-IS var meget rart at arbejde sammen med. De arbejdede flittigt og var meget professionelle. Når der opstod spørgsmål eller tekniske problemer, svarede de hurtigt og var altid klar og venlige til at hjælpe os.
En udvikler fra Crunch-IS hjalp os med at levere en vigtig funktion til vores projekt meget hurtigere end forventet.
Crunch-IS sikrede et gnidningsfrit og samarbejdsorienteret forløb gennem hele projektet. Teamet holdt åbne kommunikationslinjer, førte detaljerede optegnelser over opgavefordelingen og overholdt projektets tidsplaner. Deres ekspertise inden for både design og udvikling gør virksomheden speciel.
Crunch-IS leverer løbende udviklingssupport, der opfylder projektets krav efter behov. Trods deres placering i udlandet er de nemme at arbejde sammen med og tilgængelige via kommunikationskanaler
Den bedste leverandør vi overhovedet kunne finde. Crunch-IS kombinerer praktisk udvikling med innovative designprincipper. Både intern og ekstern feedback på appudviklingen har været positiv. De når projektets milepæle efter den planlagte tidsplan og leverer inden for budgettet. Teamet’ er lydhørt og villigt til at indgå i en produktiv dialog.
Crunch-IS overgik mine forventninger. Jeg satte pris på udviklernes opfindsomhed over for begrænsninger og komplekse krav. Virksomheden magtede at levere og fuldføre projektet med succes.
Projektet er indtil videre forløbet gnidningsfrit. Crunch-IS har en enestående arbejdsmoral. Som følge heraf har de’ kunnet klare enhver udfordring, der er dukket op. De klarer det daglige arbejde godt på egen hånd, men kommunikerer også regelmæssigt med os for at sikre, at vi’ er enige.
Appen, som Crunch-IS arbejdede på, er ren, strømlinet og fungerer efter hensigten. Crunch-IS gør mere end forventet for at sikre, at begge teams er på bølgelængde. Det engagerede team skaber en behagelig oplevelse gennem deres positive fremtoning og effektive projektledelse. Teamet var meget venligt, og det var en fornøjelse at arbejde sammen med dem.
AI-pentest, eller AI-penetrationstest, er en sikkerhedstest af en applikation, der er bygget på en sprogmodel: en chatbot, en RAG-assistent eller en agent med værktøjer. Den tjekker, om en angriber kan tilsidesætte modellens instruktioner, udtrække data, misbruge agentens tilladelser eller skubbe skadeligt output ind i andre systemer. Den tester din AI-applikation, hvilket er en anden opgave end at bruge AI-værktøjer til at udføre en penetrationstest.
En almindelig penetrationstest leder efter sårbarheder i kode, infrastruktur og konfiguration. En LLM-applikation tilføjer angrebsveje gennem sprog: instruktioner skjult i et dokument, et spørgsmål, der lækker en anden brugers data, en samtale, der fører en agent til den forkerte handling. Vores LLM-sikkerhedstest dækker disse veje og integrationerne omkring dem; en test af din øvrige infrastruktur er en del af vores cybersikkerhedsydelser.
AI-pentest undersøger en afgrænset applikation for sårbarheder, der kan udnyttes, prioriterer dem og slutter med rettelser og en gentest. AI red teaming er bredere og målstyret: Det tester, hvordan modellen opfører sig under vedvarende fjendtligt pres, herunder skadeligt output eller output, der bryder retningslinjerne. Mange teams starter med en pentest før lancering og tilføjer red teaming, efterhånden som applikationen vokser.
Ja. Vi tester i et staging-miljø med testkonti og testdata, medmindre du beslutter andet, og vi aftaler skriftligt, hvilke systemer og handlinger der er omfattet. Enhver handling, en agent kunne udføre i produktion, demonstreres i staging-miljøet.
OWASP Top 10 for LLM Applications er udgangspunktet, og hvert fund knyttes til den. Hvor dit compliance-team har brug for det, knytter vi også fund til MITRE ATLAS eller NIST AI Risk Management Framework.
Vi prissætter hver test, efter at vi har kortlagt angrebsfladen, fordi arbejdet afhænger af antallet af modeller, agenter, værktøjer og datakilder, der indgår. Du modtager et skriftligt omfang og prisen, før nogen test går i gang.
Tal om din AI-applikation og de risici, du er bekymret for, på en gratis vurderingssamtale.
Send et oplæg, en specifikation eller tre sætninger om, hvor systemet er gået i stå. Én samtale er som regel nok til at afgøre, om vi passer til jer.
Skræddersyet software, AI og ML, data og analyse, cloud og sikkerhed — fra tidlig afklaring til langsigtet levering.
Dit privatliv er vigtigt. Vi bruger cookies til at forbedre din oplevelse og tilpasse indhold.
