Scenario’s geschreven voor uw domein
We schrijven aanvallen voor uw product, uw gebruikers en uw beleid, omdat een generieke aanvalsbibliotheek niet weet wat uw assistent nooit mag zeggen.
Staat uw branche er niet bij? Begin met een gesprek.
Praat met een AI-expertCrunch-IS in cijfers
Uw AI-assistent kan worden overgehaald om dingen te zeggen die uw bedrijf nooit zou zeggen.
De AI-red-teamingdiensten van Crunch-IS testen of uw model zich onder aanhoudende druk aan uw regels houdt, van jailbreaks tot lange rollenspelgesprekken. Onze engineers lossen op wat erdoorheen komt en voeren de aanvallen bij elk nieuw model opnieuw uit.
De antwoorden die in een screenshot zouden belanden, vindt ons red team voordat uw gebruikers ze vinden.
Uw assistent houdt zich aan de regels voor terugbetalingen, advies en toon, ook als een gebruiker vele beurten lang blijft aandringen.
Een rapport per doel laat grote zakelijke klanten en auditors zien hoe u het gedrag van het model hebt getest en wat u hebt opgelost.
Door dezelfde scenario’s opnieuw uit te voeren op een nieuw model, ziet u of de upgrade een guardrail heeft verzwakt voordat die uw gebruikers bereikt.
Vertel ons wat uw assistent of agent doet, wie hem gebruikt en welke antwoorden u de meeste zorgen zouden baren.
We leggen met uw team vast welke fouten we proberen uit te lokken en wat binnen de scope valt, en sturen een schriftelijk plan met de prijs.
We schrijven aanvallen voor elk doel en kiezen de geautomatiseerde suites die bekende patronen afdekken.
Ons red team voert de scenario's handmatig en met geautomatiseerde suites uit, in een stagingomgeving tenzij u anders kiest.
Onze engineers passen prompts, filters en controles aan, beoordeeld door uw team.
We voeren elke geslaagde aanval opnieuw uit, rapporteren per doel en dragen de scenario's over.
We spreken eerst met uw team af wat het model nooit mag doen: geld terugbetalen buiten het beleid om, advies geven dat het niet mag geven, een concurrent aanbevelen. Elk van die punten wordt een doel dat het red team probeert te bereiken.
Een jailbreak brengt het model ertoe zijn instructies los te laten, via hypothetische scenario’s, gespeelde autoriteit of een verzoek dat in onschuldige stukjes is opgedeeld. We testen elke guardrail, van de systeemprompt tot de outputfilters, en leggen elk gesprek vast dat erdoorheen kwam. Aanvallen die in documenten verborgen zitten, vallen onder onze AI-penetratietestdiensten.
Veel zwakke plekken komen pas in een gesprek aan het licht, niet met één prompt. We bouwen over meerdere beurten vertrouwen op, vragen het model een personage te spelen of duwen een verzoek stap voor stap door, totdat het instemt met wat het eerst weigerde.
We zoeken naar antwoorden die uw gebruikers of uw merk zouden schaden: toxische of bevooroordeelde reacties, onveilige instructies, advies dat buiten het takenpakket van de assistent valt. Wordt het model ertoe gebracht feiten te verzinnen, dan gaat die casus naar de testsuite van uw LLM-evaluatie.
Een agent kan binnen zijn rechten blijven en toch een bedrijfsregel overtreden, bijvoorbeeld door een uitzondering goed te keuren of een controle over te slaan. We testen of hij daartoe kan worden overgehaald via zijn gewone tools.
Onze engineers lossen op wat erdoorheen kwam: de systeemprompt, input- en outputcontroles, weigeringen, en training van het model wanneer prompts niet volstaan.
We schrijven aanvallen voor uw product, uw gebruikers en uw beleid, omdat een generieke aanvalsbibliotheek niet weet wat uw assistent nooit mag zeggen.
We vullen de scenario’s aan met geautomatiseerde suites zoals Promptfoo, PyRIT of Garak, zodat elke ronde ook bekende jailbreakpatronen op grote schaal afdekt.
Een AI-beoordelaar scoort elk aanvalstranscript aan de hand van uw beleid, en we toetsen zijn oordelen aan die van uw eigen reviewers voordat we erop vertrouwen.
We werken in elke laag die een slecht antwoord kan tegenhouden: de systeemprompt, inputclassifiers, moderatie-API’s, outputfilters en de overdracht aan een mens.
Bevindingen worden gekoppeld aan de OWASP Top 10 for LLM Applications, MITRE ATLAS en het NIST AI Risk Management Framework, zodat uw beveiligings- en complianceteams ze kunnen vastleggen binnen kaders die ze al gebruiken.
We ontwerpen zelf AI-chatbots en AI-agents, dus ons red team weet waar de instructies van een model ophouden en zijn tools beginnen. Bij een trainingsplatform voor veiligheid in de bouw moest elk door AI gegenereerd leerplan binnen het goedgekeurde trainingsmateriaal blijven.
Elk doel dat u hebt gesteld, wordt gemarkeerd als bereikt, gedeeltelijk bereikt of geblokkeerd, met een heldere samenvatting voor het management.
Bij elke geslaagde aanval hoort het volledige gesprek, zodat uw team precies ziet hoe het model daar is gebracht.
Wijzigingen in prompts, filters en controles komen in uw codebase terecht, beoordeeld door uw team.
De aanvalsscenario’s worden gedocumenteerd en blijven bij uw team, klaar om te draaien tegen het volgende model of de volgende prompt.
Publieke benchmarks testen wat een model tegen iedereen zegt. Wij testen wat uw assistent nooit tegen uw klanten mag zeggen, in uw domein.
Wij bouwen AI-assistenten en -agents, dus de bevindingen van het red team gaan naar engineers die de prompt, de guardrail of het model kunnen aanpassen, niet naar een rapport dat in een wachtrij blijft liggen.
We voeren ook AI-penetratietests en LLM-evaluatie uit, zodat één team nagaat of er in uw AI kan worden ingebroken, of die correct antwoordt en of die zich aan uw regels houdt.
Ze komen met veel schaalbare en best-practice-ideeën waarmee wij konden bereiken wat we nu hebben.

Crunch-IS was uitstekend in het laten zien van hoe goed eruit hoort te zien en in het tot leven brengen van onze ideeën voor evaluatie en beoordeling.

Wat mij aan Crunch-IS is bijgebleven, is de kwaliteit van de ontwikkelaars. Die is simpelweg veel beter dan bij elk ander bedrijf waarmee we hebben geprobeerd samen te werken.

We zijn onder de indruk van hun prestaties, van hoe ze betrokken zijn bij de productontwikkeling en van hoe ze om het product geven.

Het is een heel plezierige ervaring geweest. Alles is fantastisch verlopen op het vlak van communiceren en samenwerken.

Onze samenwerking met Crunch-IS is een onmisbare hulpbron geweest terwijl wij opschaalden.

Wat ik bij Crunch-IS aantrof, was de technische competentie, het vermogen om buiten de gebaande paden te denken en heel goed Engels.

Ze hebben een grote invloed gehad op de hele architectuur waarmee we uiteindelijk zijn uitgekomen. Al met al ben ik tevreden over en onder de indruk van alles wat Crunch-IS voor ons heeft gedaan.

Crunch-IS maakte indruk op ons met hun technische excellentie en met de echte ontmoeting van denkwijzen en culturen en open, eerlijke uitwisselingen. Dit was geen besluit dat we lichtvaardig namen, en vijf maanden na de start zijn we nog steeds erg onder de indruk van hoe Crunch-IS de samenwerking aanpakt. We zijn blij met het niveau van het team dat voor ons werkt.

Werken met Crunch-IS ging makkelijk. Ze waren geduldig toen we de contractvragen doorliepen en opnieuw geduldig toen we onze facturatie inrichtten. Het ontwerpwerk was elegant en de ontwikkelaar leverde de app waarvoor we hadden getekend op tijd en van goede kwaliteit.

Het was heel prettig samenwerken met het team van Crunch-IS. Ze werkten nauwgezet en waren zeer professioneel. Als er vragen of technische problemen opkwamen, beantwoordden ze die snel en waren ze altijd bereid en vriendelijk om ons te helpen.

De ontwikkelaar van Crunch-IS hielp ons een belangrijke functie op te leveren voor ons project, veel sneller dan verwacht.

Crunch-IS zorgde gedurende het hele project voor een soepele, gezamenlijke inspanning. Het team hield de communicatielijnen open, legde de toewijzing van taken nauwkeurig vast en hield zich aan de projectplanning. Hun expertise op het gebied van zowel ontwerp als ontwikkeling onderscheidt het bedrijf.

Crunch-IS levert doorlopende ontwikkelondersteuning die voldoet aan de projectvereisten wanneer dat nodig is. Ondanks hun offshorelocatie is het prettig met ze samenwerken en zijn ze goed bereikbaar via de communicatiekanalen

De beste leverancier die we konden vinden. Crunch-IS combineert praktische ontwikkeling met innovatieve ontwerpprincipes. De interne en externe feedback op de app-ontwikkeling is positief geweest. Ze halen projectmijlpalen volgens de afgesproken planning en leveren binnen budget. Het team is responsief en bereid tot een constructief gesprek.

Crunch-IS overtrof mijn verwachtingen. Ik waardeerde de vindingrijkheid van de ontwikkelaars bij beperkingen en complexe eisen. Het bedrijf wist het project succesvol op te leveren en af te ronden.

Het project verloopt tot nu toe soepel. Crunch-IS heeft een uitzonderlijke werkethiek. Daardoor hebben ze elke uitdaging die op hun pad kwam kunnen aanpakken. Ze regelen het dagelijkse werk goed zelfstandig, maar overleggen ook regelmatig met ons om te zorgen dat we op één lijn zitten.

De app waaraan Crunch-IS heeft gewerkt is strak, gestroomlijnd en functioneert zoals bedoeld. Crunch-IS doet er alles aan om ervoor te zorgen dat beide teams op elkaar zijn afgestemd. Het bevlogen team zorgt voor een plezierige ervaring door hun positieve houding en effectieve projectmanagementvaardigheden. Het team was heel vriendelijk en het was een genoegen om met ze samen te werken.

AI red teaming is het vijandig testen van een AI-model of -applicatie: een team speelt de gebruiker die u het minst wilt hebben en probeert het model zijn regels te laten breken. Het omvat jailbreaks, schadelijke of bevooroordeelde antwoorden, beleidsschendingen en lange gesprekken die het model van koers brengen. Het doel is die fouten vóór de release te vinden en op te lossen.
Een penetratietest onderzoekt of een aanvaller uw applicatie kan binnendringen of misbruiken: instructies injecteren via documenten, bij data komen of de rechten van een agent misbruiken. Red teaming onderzoekt of het model ertoe kan worden gebracht iets te zeggen of te doen wat niet mag, zelfs bij normaal gebruik. Veel teams voeren vóór de lancering AI-penetratietests uit en voegen red teaming toe naarmate de assistent meer gebruikers bereikt.
LLM-evaluatie meet hoe goed uw AI de vragen beantwoordt die echte gebruikers stellen. Red teaming test wat er gebeurt wanneer iemand die AI bewust probeert te laten falen. Evaluatie signaleert een daling in kwaliteit; red teaming signaleert een guardrail die onder druk bezwijkt. Een fout die het red team vindt, kan een vaste test worden in onze LLM-evaluatiediensten, zodat we die bij elke release controleren.
Ja. We testen of de agent kan worden overgehaald om een bedrijfsregel te overtreden via de tools die hij mag gebruiken: een uitzondering goedkeuren, een controle overslaan of handelen zonder escalatie. Tenzij u anders beslist, testen we in een stagingomgeving met testaccounts.
Bevindingen worden gekoppeld aan de OWASP Top 10 for LLM Applications, MITRE ATLAS en het NIST AI Risk Management Framework. Als u zich voorbereidt op de EU AI Act, helpen het rapport en de transcripten vast te leggen hoe u het gedrag van het model hebt getest. Ze vormen bewijs voor uw complianceteam, geen juridisch advies.
Vóór de eerste publieke release, en opnieuw telkens wanneer het model, de systeemprompt of een guardrail verandert. Tussen volledige rondes door kan uw team de scenario’s die we overdragen bij elke release opnieuw uitvoeren.
We bepalen de prijs van elke opdracht nadat we de doelen en scope hebben afgesproken, omdat het werk afhangt van het aantal assistenten, agents en gebruikersrollen binnen de scope. U ontvangt een schriftelijk plan en de prijs voordat het testen begint.
Vertel ons welke antwoorden uw assistent nooit mag geven, en in een gratis gesprek laten we zien hoe een red team die zou testen.



Stuur een opzet, een specificatie of drie zinnen over waar het systeem is vastgelopen. Eén gesprek is meestal genoeg om te weten of we bij elkaar passen.
Maatwerksoftware, AI & ML, data en analytics, cloud en security — van de eerste afbakening tot langdurige levering.
Uw privacy is belangrijk. We gebruiken cookies om uw ervaring te verbeteren en content te personaliseren.