Finner du ikke din bransje? Start med en samtale.
Snakk med en AI-ekspertCrunch-IS i tall
Chatboten din, RAG-assistenten din eller AI-agenten din kan overtales til å lekke filer eller utføre handlinger som en vanlig penetrasjonstest aldri sjekker.
Crunch-IS utfører AI-penetrasjonstesting mot OWASP Top 10 for LLM Applications, retter det vi finner, og legger angrepene som virket, inn i CI-en din som automatiserte kontroller.
Angrepsveier blir funnet og rettet før kunder, partnere eller angripere kan utnytte dem.
Tillatelsene krympes til det hver oppgave krever, slik at en manipulert agent når langt mindre.
Svarene bygger bare på filer personen som spør, har lov til å se, og personopplysninger holdes utenfor svarene.
En rapport koblet til OWASP Top 10 for LLM Applications besvarer sikkerhetsspørsmålene som dukker opp i avtaler med store virksomheter og i revisjoner.
Dette skjer etter at du har sendt skjemaet.
Fortell oss hva AI-applikasjonen din gjør, hvilke verktøy og data den har tilgang til, og hvem som bruker den.
Vi gjennomgår arkitekturen din og sender et skriftlig omfang: hva vi tester, hva vi har lov til å røre, og prisen.
Vi angriper applikasjonen manuelt og med automatiserte angrepssuiter, i et staging-miljø med mindre du velger noe annet.
Du mottar hvert funn rangert etter utnyttbarhet, med inputen som utløste det.
Ingeniørene våre retter funnene i kodebasen din, og teamet ditt gjennomgår rettelsene.
Vi kjører hvert angrep som virket, på nytt og lar dem ligge igjen i pipelinen din som automatiserte kontroller.
Vi starter med å kartlegge hvordan en angriper kan nå modellen din: inputene den leser, dokumentene den henter, verktøyene og dataene den har tilgang til, og hvem som kan snakke med den. I vurderingen blir vi enige om hvilke risikoer som skal prioriteres først, og hvordan et bestått resultat ser ut. Den fastsetter også omfanget og prisen for testen som følger.
Angripere trenger ikke tilgang til prompten din for å endre den. Vi tester direkte prompt injection gjennom chatten og indirekte prompt injection gjennom e-postene, dokumentene og nettsidene modellen din leser, inkludert forsøk på å hente ut systemprompten din. Hvert funn leveres med nøyaktig den inputen som virket, slik at teamet ditt kan gjenskape det.
En agent med tilgang til verktøy kan gjøre reell skade hvis noen overtaler den til feil handling. Vi prøver å få agenten din til å sende penger, slette poster, kjøre kode eller nå data utenfor oppgaven sin, gjennom dens egne verktøy, MCP-servere og integrasjoner. Du ser hvilke tillatelser en angriper kan utnytte, og hvilke agenten aldri trengte.
En RAG-assistent skal bare svare ut fra dokumenter som personen som spør, har lov til å se. Vi tester om den kan fås til å hente andres filer eller avsløre personopplysninger. Vi sjekker også hva som skjer når output fra modellen flyter ufiltrert inn i en nettleser, en databasespørring eller et annet system.
En rapport alene overlater den vanskeligste delen til teamet ditt. Ingeniørene våre retter det testen finner: snevrere tillatelser for agenter, filtrering av input og output, guardrails og logging av hver handling en agent utfører. Hver rettelse legges inn i kodebasen din og gjennomgås av teamet ditt. Hvis sikkerhetspolicyen din krever at rettelsene kommer fra dine egne utviklere, overleverer vi hver av dem som nøyaktige trinn i stedet.
Etter rettelsene kjører vi hvert vellykket angrep på nytt for å bekrefte at det ikke lenger virker. Deretter blir angrepene automatiserte kontroller i CI-en din, slik at en ny prompt, en ny modell eller et nytt verktøy ikke i det stille kan åpne igjen et hull vi har lukket.
Vi tester mot alle de ti risikoene på OWASP-listen, fra prompt injection og lekkasje av sensitiv informasjon til overdreven handlefrihet og mangelfull håndtering av output. Hvert funn kobles til listen for sikkerhets- og compliance-teamene dine.
Vi kombinerer angrep skrevet for hånd for ditt bruksområde med automatiserte angrepssuiter, slik at én test dekker både tilfellene som er spesifikke for applikasjonen din, og de kjente angrepsmønstrene.
Vi begrenser legitimasjonen til hver agent til akkurat oppgaven den har, og logger hvert verktøykall med inputene, slik vi bygger våre egne agenter. I en AI-agent for e-post i byggebransjen går hver innkommende fil gjennom Microsoft Defender for Storage før agenten handler på den.
Vi legger til filtre som fanger opp injiserte instruksjoner før de når modellen, og kontroller av det modellen returnerer, før det når en nettleser, en spørring eller en bruker.
Vi håndhever dokumenttillatelser i det øyeblikket dokumentene hentes, som i en kunnskapsassistent for virksomheter som bare svarer ut fra filer hver person har lov til å se.
Vi legger regresjonsangrepene inn i byggepipelinen din ved siden av de andre DevSecOps-kontrollene dine, med en terskel som stopper bygget når et angrep lykkes igjen.
Ingeniørene dine får hvert funn med inputen som utløste det, og rettelsen. Ledelsen og revisorene dine får en lettfattelig oppsummering av risikoene og statusen deres.
Vi blir skriftlig enige om hvilken applikasjon, hvilke agenter og hvilke data vi tester, hva vi har lov til å røre, og hva et bestått resultat betyr.
Hvert funn rangeres etter hvor lett en angriper kan utnytte det, og hva det gir tilgang til, slik at teamet ditt retter de farlige først.
Angrepene som virket, blir værende i pipelinen din som automatiserte kontroller, dokumentert slik at teamet ditt kan kjøre og utvide dem.
Vi bygger AI-applikasjoner, så teamet som finner et hull, er det samme teamet som lukker det. Testen avsluttes med rettelser i kodebasen din og kontrollene som beviser at de virker.
Vi rangerer hvert funn etter hva en angriper faktisk kan nå gjennom det. Den første rettelsen din lukker angrepsveien som betyr mest, og funn med lav innvirkning fortrenger ikke de farlige.
Vi designer AI-agenter med avgrenset legitimasjon og loggførte handlinger, så vi vet hvor agenter ender opp med mer tilgang enn oppgaven krever. Den kunnskapen bruker vi når vi tester dine.
De kommer med mange skalerbare og ideer om beste praksis som gjør det mulig for oss å oppnå det vi har akkurat nå.
Crunch-IS var flinke til å vise oss hvordan gode løsninger bør se ut og gjøre ideene våre levende for evaluering og gjennomgang.
Det som imponerte meg mest ved Crunch-IS, er kvaliteten på utviklerne. Den er rett og slett mye bedre enn i noe annet selskap vi har prøvd å samarbeide med.
Vi er imponert over deres prestasjoner, hvordan de engasjerer seg i produktutviklingen, og hvordan de bryr seg om produktet.
Det har vært en veldig hyggelig opplevelse. Alt har vært fantastisk, både når det gjelder kommunikasjon og samarbeid.
Vårt samarbeid med Crunch-IS har vært en uvurderlig ressurs i takt med at vi har utvidet virksomheten.
Det jeg la merke til hos Crunch-IS, var teknisk kompetanse, evnen til å tenke utenfor boksen og svært gode engelskkunnskaper.
De har hatt en stor innvirkning på den endelige arkitekturen vi endte opp med. Totalt sett har jeg vært fornøyd og imponert over alt Crunch-IS har gjort for oss.
Crunch-IS imponerte oss med sin tekniske dyktighet og det rene «møtet mellom tanker og kulturer» samt den åpne og ærlige kommunikasjonen. Dette var ikke en beslutning vi tok på lett grunn, og fem måneder inn i samarbeidet er vi fortsatt svært imponert over hvordan Crunch-IS tilnærmer seg samarbeidet, og vi er svært fornøyde med kvaliteten på teamet vi jobber sammen med.
Det var enkelt å samarbeide med Crunch-IS. De viste tålmodighet overfor oss da vi gikk gjennom spørsmålene knyttet til kontrakten, og var tålmodige igjen da vi skulle få på plass faktureringsordningen. Designarbeidet var elegant, og utvikleren leverte appen vi hadde avtalt i tide og i god kvalitet.
Det var veldig hyggelig å samarbeide med teamet hos Crunch-IS. De jobbet flittig og var svært profesjonelle. Når det oppstod spørsmål eller tekniske problemer, svarte de raskt og var alltid villige og imøtekommende når det gjaldt å hjelpe oss.
En utvikler fra Crunch-IS hjalp oss med å levere en viktig funksjon til prosjektet vårt mye raskere enn forventet.
Crunch-IS sørget for et sømløst og samarbeidsorientert forløp gjennom hele prosjektet. Teamet opprettholdt åpen kommunikasjon, førte detaljerte oversikter over oppgavefordelingen og overholdt prosjektets tidsplaner. Deres kompetanse innen både design og utvikling gjør selskapet til noe helt spesielt.
Crunch-IS tilbyr løpende utviklingsstøtte som tilfredsstiller prosjektets behov etter behov. Til tross for at de befinner seg i utlandet, er de enkle å samarbeide med og lett tilgjengelige via kommunikasjonskanaler
Den beste leverandøren vi kunne tenke oss. Crunch-IS kombinerer praktisk utvikling med innovative designprinsipper. Tilbakemeldingene på apputviklingen, både internt og eksternt, har vært positive. De fullfører prosjektmilepælene i henhold til tidsplanen og leverer innenfor budsjettet. Teamet er imøtekommende og villig til å delta i en produktiv dialog.
Crunch-IS overgikk mine forventninger. Jeg satte stor pris på utviklernes oppfinnsomhet i møte med begrensninger og komplekse krav. Selskapet klarte å levere og fullføre prosjektet på en vellykket måte.
Prosjektet har hittil forløpt uten problemer. Crunch-IS har en enestående arbeidsmoral. Takket være dette har de klart å takle alle utfordringer som har dukket opp. De håndterer det daglige arbeidet godt på egen hånd, men kommuniserer også jevnlig med oss for å sikre at vi er på samme bølgelengde.
Appen som Crunch-IS har utviklet, er oversiktlig, strømlinjeformet og fungerer som den skal. Crunch-IS går langt utover det forventede for å sikre at begge teamene er på bølgelengde. Det engasjerte teamet skaper en hyggelig opplevelse gjennom sin positive holdning og effektive prosjektledelsesferdigheter. Teamet var svært vennlig, og det var en glede å samarbeide med dem.
AI-pentesting, eller AI-penetrasjonstesting, er en sikkerhetstest av en applikasjon bygget på en språkmodell: en chatbot, en RAG-assistent eller en agent med verktøy. Den sjekker om en angriper kan overstyre modellens instruksjoner, hente ut data, misbruke agentens tillatelser eller presse skadelig output inn i andre systemer. Den tester AI-applikasjonen din, og det er en annen oppgave enn å bruke AI-verktøy til å gjennomføre en penetrasjonstest.
En vanlig penetrasjonstest leter etter sårbarheter i kode, infrastruktur og konfigurasjon. En LLM-applikasjon legger til angrepsveier gjennom språk: instruksjoner skjult i et dokument, et spørsmål som lekker en annen brukers data, en samtale som leder en agent til feil handling. LLM-sikkerhetstestingen vår dekker disse angrepsveiene og integrasjonene rundt dem; en test av den bredere infrastrukturen din er en del av våre cybersikkerhetstjenester.
AI-pentesting sjekker en avgrenset applikasjon for sårbarheter som kan utnyttes, rangerer dem og avsluttes med rettelser og en ny test. AI red teaming er bredere og målstyrt: det tester hvordan modellen oppfører seg under vedvarende fiendtlig press, inkludert skadelig output eller output som bryter retningslinjene. Mange team starter med en pentest før lansering og legger til red teaming etter hvert som applikasjonen vokser.
Ja. Vi tester i et staging-miljø med testkontoer og testdata med mindre du bestemmer noe annet, og vi blir skriftlig enige om hvilke systemer og handlinger som omfattes. Enhver handling en agent kan utføre i produksjon, demonstreres i staging-miljøet.
OWASP Top 10 for LLM Applications er grunnlaget, og hvert funn kobles til den. Når compliance-teamet ditt trenger det, kobler vi også funnene til MITRE ATLAS eller NIST AI Risk Management Framework.
Vi priser hver test etter å ha kartlagt angrepsflaten, fordi arbeidet avhenger av hvor mange modeller, agenter, verktøy og datakilder som inngår. Du mottar et skriftlig omfang og prisen før noen testing starter.
Snakk med oss om AI-applikasjonen din og risikoene som bekymrer deg, i en gratis vurderingssamtale.
Send en skisse, en spesifikasjon eller tre setninger om hvor systemet har stoppet opp. Vanligvis er én samtale nok til å finne ut om vi er det rette valget for deg.
Skreddersydd programvare, AI og ML, data og analyse, sky og sikkerhet – fra tidlig prosjektavgrensning til langsiktig levering.
Personvernet ditt er viktig. Vi bruker informasjonskapsler for å forbedre opplevelsen din og tilpasse innhold.
