AI-red-teamingdiensten — Crunch-IS

AI-red-teamingdiensten.

Uw AI-assistent kan worden overgehaald om dingen te zeggen die uw bedrijf nooit zou zeggen.

De AI-red-teamingdiensten van Crunch-IS testen of uw model zich onder aanhoudende druk aan uw regels houdt, van jailbreaks tot lange rollenspelgesprekken. Onze engineers lossen op wat erdoorheen komt en voeren de aanvallen bij elk nieuw model opnieuw uit.

Plan mijn AI red teaming

Voordelen van onze AI-red-teamingdiensten

01

Geen verrassingen in de openbaarheid

De antwoorden die in een screenshot zouden belanden, vindt ons red team voordat uw gebruikers ze vinden.

02

Beleid dat standhoudt onder druk

Uw assistent houdt zich aan de regels voor terugbetalingen, advies en toon, ook als een gebruiker vele beurten lang blijft aandringen.

03

Bewijs voor kopers en toezichthouders

Een rapport per doel laat grote zakelijke klanten en auditors zien hoe u het gedrag van het model hebt getest en wat u hebt opgelost.

04

Veiligere modelupgrades

Door dezelfde scenario’s opnieuw uit te voeren op een nieuw model, ziet u of de upgrade een guardrail heeft verzwakt voordat die uw gebruikers bereikt.

Het AI-red-teamingproces

  1. 01

    U verstuurt het formulier

    Vertel ons wat uw assistent of agent doet, wie hem gebruikt en welke antwoorden u de meeste zorgen zouden baren.

  2. 02

    Wij spreken de doelen af

    We leggen met uw team vast welke fouten we proberen uit te lokken en wat binnen de scope valt, en sturen een schriftelijk plan met de prijs.

  3. 03

    Wij bouwen de scenario's

    We schrijven aanvallen voor elk doel en kiezen de geautomatiseerde suites die bekende patronen afdekken.

  4. 04

    Wij vallen aan

    Ons red team voert de scenario's handmatig en met geautomatiseerde suites uit, in een stagingomgeving tenzij u anders kiest.

  5. 05

    Wij lossen op wat erdoorheen kwam

    Onze engineers passen prompts, filters en controles aan, beoordeeld door uw team.

  6. 06

    Wij testen opnieuw en dragen over

    We voeren elke geslaagde aanval opnieuw uit, rapporteren per doel en dragen de scenario's over.

Ontdek wat uw assistent zegt onder druk

Plan mijn AI red teaming

AI-red-teamingdiensten die wij aanbieden

01 Doelen en scope van het red team

We spreken eerst met uw team af wat het model nooit mag doen: geld terugbetalen buiten het beleid om, advies geven dat het niet mag geven, een concurrent aanbevelen. Elk van die punten wordt een doel dat het red team probeert te bereiken.

02 Testen op jailbreaks en guardrails

Een jailbreak brengt het model ertoe zijn instructies los te laten, via hypothetische scenario’s, gespeelde autoriteit of een verzoek dat in onschuldige stukjes is opgedeeld. We testen elke guardrail, van de systeemprompt tot de outputfilters, en leggen elk gesprek vast dat erdoorheen kwam. Aanvallen die in documenten verborgen zitten, vallen onder onze AI-penetratietestdiensten.

03 Aanvallen via meerdere beurten en rollenspel

Veel zwakke plekken komen pas in een gesprek aan het licht, niet met één prompt. We bouwen over meerdere beurten vertrouwen op, vragen het model een personage te spelen of duwen een verzoek stap voor stap door, totdat het instemt met wat het eerst weigerde.

04 Testen op schadelijke, bevooroordeelde en beleidsschendende output

We zoeken naar antwoorden die uw gebruikers of uw merk zouden schaden: toxische of bevooroordeelde reacties, onveilige instructies, advies dat buiten het takenpakket van de assistent valt. Wordt het model ertoe gebracht feiten te verzinnen, dan gaat die casus naar de testsuite van uw LLM-evaluatie.

05 Red teaming van AI-agents

Een agent kan binnen zijn rechten blijven en toch een bedrijfsregel overtreden, bijvoorbeeld door een uitzondering goed te keuren of een controle over te slaan. We testen of hij daartoe kan worden overgehaald via zijn gewone tools.

06 Herstel van guardrails en hertest

Onze engineers lossen op wat erdoorheen kwam: de systeemprompt, input- en outputcontroles, weigeringen, en training van het model wanneer prompts niet volstaan.

Onze mogelijkheden voor LLM red teaming

01

Scenario’s geschreven voor uw domein

We schrijven aanvallen voor uw product, uw gebruikers en uw beleid, omdat een generieke aanvalsbibliotheek niet weet wat uw assistent nooit mag zeggen.

02

Geautomatiseerde aanvalssuites

We vullen de scenario’s aan met geautomatiseerde suites zoals Promptfoo, PyRIT of Garak, zodat elke ronde ook bekende jailbreakpatronen op grote schaal afdekt.

03

Beoordelaars afgestemd op uw beleid

Een AI-beoordelaar scoort elk aanvalstranscript aan de hand van uw beleid, en we toetsen zijn oordelen aan die van uw eigen reviewers voordat we erop vertrouwen.

04

Gelaagde guardrails

We werken in elke laag die een slecht antwoord kan tegenhouden: de systeemprompt, inputclassifiers, moderatie-API’s, outputfilters en de overdracht aan een mens.

05

Koppeling aan standaarden

Bevindingen worden gekoppeld aan de OWASP Top 10 for LLM Applications, MITRE ATLAS en het NIST AI Risk Management Framework, zodat uw beveiligings- en complianceteams ze kunnen vastleggen binnen kaders die ze al gebruiken.

06

Assistenten en agents die we zelf bouwen

We ontwerpen zelf AI-chatbots en AI-agents, dus ons red team weet waar de instructies van een model ophouden en zijn tools beginnen. Bij een trainingsplatform voor veiligheid in de bouw moest elk door AI gegenereerd leerplan binnen het goedgekeurde trainingsmateriaal blijven.

01 / 06

Wat u krijgt

01

Een rapport afgezet tegen uw doelen

Elk doel dat u hebt gesteld, wordt gemarkeerd als bereikt, gedeeltelijk bereikt of geblokkeerd, met een heldere samenvatting voor het management.

02

Elk aanvalstranscript

Bij elke geslaagde aanval hoort het volledige gesprek, zodat uw team precies ziet hoe het model daar is gebracht.

03

Oplossingen in uw guardrails

Wijzigingen in prompts, filters en controles komen in uw codebase terecht, beoordeeld door uw team.

04

Scenario's die van u blijven

De aanvalsscenario’s worden gedocumenteerd en blijven bij uw team, klaar om te draaien tegen het volgende model of de volgende prompt.

Waarom kiezen voor Crunch-IS als uw partner

01

Getoetst aan uw regels

Publieke benchmarks testen wat een model tegen iedereen zegt. Wij testen wat uw assistent nooit tegen uw klanten mag zeggen, in uw domein.

02

Het team dat het vindt, lost het ook op

Wij bouwen AI-assistenten en -agents, dus de bevindingen van het red team gaan naar engineers die de prompt, de guardrail of het model kunnen aanpassen, niet naar een rapport dat in een wachtrij blijft liggen.

03

Eén team voor beveiliging, kwaliteit en gedrag

We voeren ook AI-penetratietests en LLM-evaluatie uit, zodat één team nagaat of er in uw AI kan worden ingebroken, of die correct antwoordt en of die zich aan uw regels houdt.

Wat onze klanten over ons zeggen

Ze komen met veel schaalbare en best-practice-ideeën waarmee wij konden bereiken wat we nu hebben.

Nicky, Softcat | Videoreferentie voor Crunch-IS
Nicky Senior business analist bij Softcat

Crunch-IS was uitstekend in het laten zien van hoe goed eruit hoort te zien en in het tot leven brengen van onze ideeën voor evaluatie en beoordeling.

Matthew, Softcat | Videoreferentie voor Crunch-IS
Matthew Hoofd digitale strategie bij Softcat

Wat mij aan Crunch-IS is bijgebleven, is de kwaliteit van de ontwikkelaars. Die is simpelweg veel beter dan bij elk ander bedrijf waarmee we hebben geprobeerd samen te werken.

Klaus, YouWe | Videoreferentie voor Crunch-IS
Klaus CEO bij YouWe

We zijn onder de indruk van hun prestaties, van hoe ze betrokken zijn bij de productontwikkeling en van hoe ze om het product geven.

Sebastian Jara, Accountflow | Videoreferentie voor Crunch-IS
Sebastian Medeoprichter en CTO bij Accountflow

Het is een heel plezierige ervaring geweest. Alles is fantastisch verlopen op het vlak van communiceren en samenwerken.

Marta, GIA Networks | Videoreferentie voor Crunch-IS
Marta Consultant bij GIA Networks

Onze samenwerking met Crunch-IS is een onmisbare hulpbron geweest terwijl wij opschaalden.

Ryan, WorkDove | Videoreferentie voor Crunch-IS
Ryan CTO bij WorkDove

Wat ik bij Crunch-IS aantrof, was de technische competentie, het vermogen om buiten de gebaande paden te denken en heel goed Engels.

Garrett, Tabulate | Videoreferentie voor Crunch-IS
Garrett COO bij Tabulate

Ze hebben een grote invloed gehad op de hele architectuur waarmee we uiteindelijk zijn uitgekomen. Al met al ben ik tevreden over en onder de indruk van alles wat Crunch-IS voor ons heeft gedaan.

Kenneth, Zuar | Videoreferentie voor Crunch-IS
Kenneth CTO bij Zuar

Crunch-IS maakte indruk op ons met hun technische excellentie en met de echte ontmoeting van denkwijzen en culturen en open, eerlijke uitwisselingen. Dit was geen besluit dat we lichtvaardig namen, en vijf maanden na de start zijn we nog steeds erg onder de indruk van hoe Crunch-IS de samenwerking aanpakt. We zijn blij met het niveau van het team dat voor ons werkt.

Gary | Testimonial Crunch-IS
Gary Managing director bij een Brits softwareontwikkelbedrijf

Werken met Crunch-IS ging makkelijk. Ze waren geduldig toen we de contractvragen doorliepen en opnieuw geduldig toen we onze facturatie inrichtten. Het ontwerpwerk was elegant en de ontwikkelaar leverde de app waarvoor we hadden getekend op tijd en van goede kwaliteit.

Scott | Testimonial Crunch-IS
Scott VP Software Engineering bij Analytic Index

Het was heel prettig samenwerken met het team van Crunch-IS. Ze werkten nauwgezet en waren zeer professioneel. Als er vragen of technische problemen opkwamen, beantwoordden ze die snel en waren ze altijd bereid en vriendelijk om ons te helpen.

Miia | Testimonial Crunch-IS
Miia Bedrijfsvoering bij Conmark Systems

De ontwikkelaar van Crunch-IS hielp ons een belangrijke functie op te leveren voor ons project, veel sneller dan verwacht.

Rosario | Testimonial Crunch-IS
Rosario VP Engineering bij Profitap

Crunch-IS zorgde gedurende het hele project voor een soepele, gezamenlijke inspanning. Het team hield de communicatielijnen open, legde de toewijzing van taken nauwkeurig vast en hield zich aan de projectplanning. Hun expertise op het gebied van zowel ontwerp als ontwikkeling onderscheidt het bedrijf.

Sisun | Testimonial Crunch-IS
Sisun CEO bij Chintech

Crunch-IS levert doorlopende ontwikkelondersteuning die voldoet aan de projectvereisten wanneer dat nodig is. Ondanks hun offshorelocatie is het prettig met ze samenwerken en zijn ze goed bereikbaar via de communicatiekanalen

Bob | Testimonial Crunch-IS
Bob CTO bij Timegen

De beste leverancier die we konden vinden. Crunch-IS combineert praktische ontwikkeling met innovatieve ontwerpprincipes. De interne en externe feedback op de app-ontwikkeling is positief geweest. Ze halen projectmijlpalen volgens de afgesproken planning en leveren binnen budget. Het team is responsief en bereid tot een constructief gesprek.

Jeff | Testimonial Crunch-IS
Jeff CEO bij een Amerikaans softwarebedrijf

Crunch-IS overtrof mijn verwachtingen. Ik waardeerde de vindingrijkheid van de ontwikkelaars bij beperkingen en complexe eisen. Het bedrijf wist het project succesvol op te leveren en af te ronden.

Kate | Testimonial Crunch-IS
Kate Productmanager bij Mezonin

Het project verloopt tot nu toe soepel. Crunch-IS heeft een uitzonderlijke werkethiek. Daardoor hebben ze elke uitdaging die op hun pad kwam kunnen aanpakken. Ze regelen het dagelijkse werk goed zelfstandig, maar overleggen ook regelmatig met ons om te zorgen dat we op één lijn zitten.

Andrew | Testimonial Crunch-IS
Andrew CMO bij Qinetics

De app waaraan Crunch-IS heeft gewerkt is strak, gestroomlijnd en functioneert zoals bedoeld. Crunch-IS doet er alles aan om ervoor te zorgen dat beide teams op elkaar zijn afgestemd. Het bevlogen team zorgt voor een plezierige ervaring door hun positieve houding en effectieve projectmanagementvaardigheden. Het team was heel vriendelijk en het was een genoegen om met ze samen te werken.

Ian | Testimonial Crunch-IS
Ian CEO bij Biomicc
01 / 07

Veelgestelde vragen over AI red teaming

Wat is AI red teaming?

AI red teaming is het vijandig testen van een AI-model of -applicatie: een team speelt de gebruiker die u het minst wilt hebben en probeert het model zijn regels te laten breken. Het omvat jailbreaks, schadelijke of bevooroordeelde antwoorden, beleidsschendingen en lange gesprekken die het model van koers brengen. Het doel is die fouten vóór de release te vinden en op te lossen.

Waarin verschilt AI red teaming van penetratietesten?

Een penetratietest onderzoekt of een aanvaller uw applicatie kan binnendringen of misbruiken: instructies injecteren via documenten, bij data komen of de rechten van een agent misbruiken. Red teaming onderzoekt of het model ertoe kan worden gebracht iets te zeggen of te doen wat niet mag, zelfs bij normaal gebruik. Veel teams voeren vóór de lancering AI-penetratietests uit en voegen red teaming toe naarmate de assistent meer gebruikers bereikt.

Waarin verschilt AI red teaming van LLM-evaluatie?

LLM-evaluatie meet hoe goed uw AI de vragen beantwoordt die echte gebruikers stellen. Red teaming test wat er gebeurt wanneer iemand die AI bewust probeert te laten falen. Evaluatie signaleert een daling in kwaliteit; red teaming signaleert een guardrail die onder druk bezwijkt. Een fout die het red team vindt, kan een vaste test worden in onze LLM-evaluatiediensten, zodat we die bij elke release controleren.

Kunt u red teaming uitvoeren op een AI-agent?

Ja. We testen of de agent kan worden overgehaald om een bedrijfsregel te overtreden via de tools die hij mag gebruiken: een uitzondering goedkeuren, een controle overslaan of handelen zonder escalatie. Tenzij u anders beslist, testen we in een stagingomgeving met testaccounts.

Aan welke standaarden koppelt u de bevindingen?

Bevindingen worden gekoppeld aan de OWASP Top 10 for LLM Applications, MITRE ATLAS en het NIST AI Risk Management Framework. Als u zich voorbereidt op de EU AI Act, helpen het rapport en de transcripten vast te leggen hoe u het gedrag van het model hebt getest. Ze vormen bewijs voor uw complianceteam, geen juridisch advies.

Hoe vaak moeten we red teaming op onze AI uitvoeren?

Vóór de eerste publieke release, en opnieuw telkens wanneer het model, de systeemprompt of een guardrail verandert. Tussen volledige rondes door kan uw team de scenario’s die we overdragen bij elke release opnieuw uitvoeren.

Hoe wordt de prijs bepaald?

We bepalen de prijs van elke opdracht nadat we de doelen en scope hebben afgesproken, omdat het werk afhangt van het aantal assistenten, agents en gebruikersrollen binnen de scope. U ontvangt een schriftelijk plan en de prijs voordat het testen begint.

Uw AI red teaming begint hier.

Vertel ons welke antwoorden uw assistent nooit mag geven, en in een gratis gesprek laten we zien hoe een red team die zou testen.

Plan mijn gratis gesprek

Vertel ons wat u bouwt

Stuur een opzet, een specificatie of drie zinnen over waar het systeem is vastgelopen. Eén gesprek is meestal genoeg om te weten of we bij elkaar passen.

Maatwerksoftware, AI & ML, data en analytics, cloud en security — van de eerste afbakening tot langdurige levering.

  • 170+ experts
  • 120+ opgeleverde projecten
  • 97% volledig tevreden

    Ik heb de Gebruiksvoorwaarden en het Privacybeleid gelezen en geaccepteerd *

    Uw privacy is belangrijk. We gebruiken cookies om uw ervaring te verbeteren en content te personaliseren.