LLM-fine-tuningdiensten.

Wanneer prompts en RAG uw model niet kunnen laten antwoorden in het formaat, de toon of de terminologie die uw product nodig heeft, biedt Crunch-IS LLM-fine-tuningdiensten op uw data. We controleren eerst of fine-tuning de moeite waard is, meten het model vóór en na op uw echte praktijkgevallen en laten het achter in uw infrastructuur.

Plan mijn fine-tuning

Voordelen van onze LLM-fine-tuningdiensten

Antwoorden in uw formaat en termen

Het model volgt uw structuur, toon en woordenschat zonder lange instructies in elke prompt.

Data die in uw infrastructuur blijft

Training en inferentie draaien waar uw securityteam dat toestaat, zodat gevoelige data niet naar een externe API gaat.

Kortere prompts, slankere modellen

Gedrag dat het model heeft geleerd, hoeft niet meer in elk verzoek te worden uitgeschreven, en een kleiner model kan afgebakende taken overnemen.

Meetbare resultaten

Elke trainingsrun wordt op dezelfde praktijkgevallen vergeleken met het basismodel, zodat u weet wat de investering heeft veranderd.

Ons LLM-fine-tuningproces

Dit gebeurt er nadat u het formulier hebt verstuurd.

01

U verstuurt het formulier

Vertel ons wat uw model vandaag doet, waar de antwoorden tekortschieten en welke data u hebt.
02

We controleren of fine-tuning past

We testen uw huidige opzet op echte praktijkgevallen en adviseren de aanpak die past, met een schriftelijke scope en prijs.
03

We bereiden de data voor met uw expert

We stellen de trainingsset samen uit uw voorbeelden, en uw expert beoordeelt de gevallen die bepalen wat een goed antwoord is.
04

We trainen

We fine-tunen het model en leggen elke run vast, zodat elke versie herleidbaar is tot de data en instellingen.
05

We evalueren vóór en na

We vergelijken het gefinetunede model met het basismodel op dezelfde testset en delen de resultaten.
06

We deployen en dragen over

We deployen het model in uw infrastructuur en dragen de data, code en documentatie over aan uw team.

LLM-fine-tuningdiensten die wij aanbieden

01 Geschiktheidsanalyse voor fine-tuning

Veel problemen die om fine-tuning lijken te vragen, zijn goedkoper op te lossen met betere prompts of retrieval. We testen uw huidige opzet op uw echte praktijkgevallen en vertellen u welke aanpak past: aangepaste prompts, RAG, fine-tuning of een combinatie. Is fine-tuning het antwoord, dan legt de analyse het doel, de benodigde data en de prijs vast.

02 Voorbereiding van trainingsdata

Een gefinetuned model leert alles wat zijn voorbeelden het leren, inclusief hun fouten. We verzamelen voorbeelden uit uw documenten, tickets en eerdere output, schonen ze op en ontdubbelen ze, en laten uw domeinexpert de voorbeelden beoordelen die bepalen wat een goed antwoord is. U houdt de dataset voor elke volgende trainingsrun.

03 Supervised fine-tuning

We trainen het model op paren van inputs en de outputs die u wilt, zodat het uw formaat, toon en terminologie leert in plaats van er in elke prompt aan herinnerd te worden. Dit is het gebruikelijke startpunt wanneer het model het onderwerp kent, maar in de verkeerde vorm antwoordt.

04 LoRA-fine-tuning

Bij fine-tuning kan het hele model worden bijgewerkt, of wordt alleen een kleine LoRA-adapter erbovenop getraind. LoRA verlaagt de rekenkosten van de training en laat u meerdere gespecialiseerde versies van één basismodel aanhouden. We zetten het in wanneer u een model per taak, per klant of per taal nodig hebt, zonder voor elk daarvan een apart groot model te draaien.

05 RLHF en afstemming op voorkeuren

Wanneer het juiste antwoord een kwestie van oordeel is en niet van formaat, trainen we het model op de voorkeuren van uw experts tussen antwoorden. Zo leert een model wat uw beste reviewer zou goedkeuren.

06 Evaluatie vóór en na

Met onze LLM-evaluatiediensten draaien we dezelfde testset op het basismodel en op het gefinetunede model, zodat u ziet wat er verbeterd is en elke vaardigheid opmerkt die het model tijdens de training kwijtraakte, nog voordat er iets live gaat. De testset komt uit uw echte praktijkgevallen en blijft in uw repository, zodat dezelfde tests bij een nieuw basismodel laten zien of opnieuw trainen daarop de moeite waard is.

Onze mogelijkheden voor maatwerk-LLM's

Open modellen en API’s van aanbieders

We fine-tunen open modellen zoals Llama en Mistral op infrastructuur die u beheert, en modellen van aanbieders via hun fine-tuning-API’s, waar de aanbieder dat toestaat.

Datalabeling en review

We voeren labeling en expertreview uit in Argilla, zodat elk trainingsvoorbeeld een duidelijke bron en een reviewer heeft, zoals bij een EdTech-publicatieplatform.

Experimenttracking

We leggen trainingsruns, prompts en outputs vast in LangSmith, zodat elke modelversie herleidbaar is tot de data en instellingen waarmee ze is gemaakt.

Evaluatieframeworks

We bouwen de testsuites voor vóór en na in Promptfoo of in het framework dat uw team al gebruikt, met testcases die als code in uw repository staan.

Deployment en monitoring

We deployen het gefinetunede model met versiebeheer en rollback, en monitoren daarna de antwoorden in productie via dezelfde LLMOps-aanpak die we voor onze andere AI-systemen hanteren.

Kleinere modellen voor afgebakende taken

Waar één taak in hoog volume draait, kan een kleiner gefinetuned model een groot algemeen model vervangen, tegen lagere kosten en latency. We testen die afweging op uw praktijkgevallen voordat we haar aanbevelen.

Wat u krijgt

Scope vastgelegd vóór de start

Voordat de training begint, leggen we schriftelijk vast voor welke taak we trainen, welke data we gebruiken en welk resultaat als succes geldt.

Trainingsdata die van u is

De opgeschoonde, gecontroleerde dataset is van u, zo gedocumenteerd dat uw team hem kan uitbreiden en zonder ons opnieuw kan trainen.

Een model dat van u blijft

Gewichten, trainingscode en configuratie blijven in uw infrastructuur, zonder licentie bij of afhankelijkheid van ons.

Evaluatie die de verandering aantoont

U krijgt de resultaten van vóór en na op uw eigen praktijkgevallen, zodat de beslissing om live te gaan op bewijs rust.

Waarom kiezen voor Crunch-IS als uw partner

We zeggen het u als u het niet nodig hebt

Als LLM-fine-tuningbedrijf dat ook RAG-systemen bouwt, hebben we er niets aan om u training te verkopen die u niet nodig hebt. Lossen betere prompts of retrieval het probleem op, dan zeggen we dat voordat er een training begint.

Gemeten op uw praktijkgevallen, niet op benchmarks

Publieke benchmarks zeggen weinig over uw taak. We beoordelen elk model op hoe het uw eigen praktijkgevallen afhandelt en op de antwoorden die uw expert zou accepteren.

Uw model, uw infrastructuur

Alles wat we bouwen blijft in uw omgeving en is van u: data, gewichten, code en tests. Zo volgt het de regel voor al ons werk: klanten bezitten wat wij bouwen.

Wat onze klanten over ons zeggen

Ze komen met veel schaalbare en best-practice-ideeën waarmee wij konden bereiken wat we nu hebben.

Nicky, Softcat | Videoreferentie voor Crunch-IS

Nicky Senior business analist bij Softcat

Crunch-IS was uitstekend in het laten zien van hoe goed eruit hoort te zien en in het tot leven brengen van onze ideeën voor evaluatie en beoordeling.

Matthew, Softcat | Videoreferentie voor Crunch-IS

Matthew Hoofd digitale strategie bij Softcat

Wat mij aan Crunch-IS is bijgebleven, is de kwaliteit van de ontwikkelaars. Die is simpelweg veel beter dan bij elk ander bedrijf waarmee we hebben geprobeerd samen te werken.

Klaus, YouWe | Videoreferentie voor Crunch-IS

Klaus CEO bij YouWe

We zijn onder de indruk van hun prestaties, van hoe ze betrokken zijn bij de productontwikkeling en van hoe ze om het product geven.

Sebastian Jara, Accountflow | Videoreferentie voor Crunch-IS

Sebastian Medeoprichter en CTO bij Accountflow

Het is een heel plezierige ervaring geweest. Alles is fantastisch verlopen op het vlak van communiceren en samenwerken.

Marta, GIA Networks | Videoreferentie voor Crunch-IS

Marta Consultant bij GIA Networks

Onze samenwerking met Crunch-IS is een onmisbare hulpbron geweest terwijl wij opschaalden.

Ryan, WorkDove | Videoreferentie voor Crunch-IS

Ryan CTO bij WorkDove

Wat ik bij Crunch-IS aantrof, was de technische competentie, het vermogen om buiten de gebaande paden te denken en heel goed Engels.

Garrett, Tabulate | Videoreferentie voor Crunch-IS

Garrett COO bij Tabulate

Ze hebben een grote invloed gehad op de hele architectuur waarmee we uiteindelijk zijn uitgekomen. Al met al ben ik tevreden over en onder de indruk van alles wat Crunch-IS voor ons heeft gedaan.

Kenneth, Zuar | Videoreferentie voor Crunch-IS

Kenneth CTO bij Zuar

Crunch-IS maakte indruk op ons met hun technische excellentie en met de echte ontmoeting van denkwijzen en culturen en open, eerlijke uitwisselingen. Dit was geen besluit dat we lichtvaardig namen, en vijf maanden na de start zijn we nog steeds erg onder de indruk van hoe Crunch-IS de samenwerking aanpakt. We zijn blij met het niveau van het team dat voor ons werkt.

Gary Managing director bij een Brits softwareontwikkelbedrijf

Werken met Crunch-IS ging makkelijk. Ze waren geduldig toen we de contractvragen doorliepen en opnieuw geduldig toen we onze facturatie inrichtten. Het ontwerpwerk was elegant en de ontwikkelaar leverde de app waarvoor we hadden getekend op tijd en van goede kwaliteit.

Scott VP Software Engineering bij Analytic Index

Het was heel prettig samenwerken met het team van Crunch-IS. Ze werkten nauwgezet en waren zeer professioneel. Als er vragen of technische problemen opkwamen, beantwoordden ze die snel en waren ze altijd bereid en vriendelijk om ons te helpen.

Miia Bedrijfsvoering bij Conmark Systems

De ontwikkelaar van Crunch-IS hielp ons een belangrijke functie op te leveren voor ons project, veel sneller dan verwacht.

Rosario VP Engineering bij Profitap

Crunch-IS zorgde gedurende het hele project voor een soepele, gezamenlijke inspanning. Het team hield de communicatielijnen open, legde de toewijzing van taken nauwkeurig vast en hield zich aan de projectplanning. Hun expertise op het gebied van zowel ontwerp als ontwikkeling onderscheidt het bedrijf.

Sisun CEO bij Chintech

Crunch-IS levert doorlopende ontwikkelondersteuning die voldoet aan de projectvereisten wanneer dat nodig is. Ondanks hun offshorelocatie is het prettig met ze samenwerken en zijn ze goed bereikbaar via de communicatiekanalen

Bob CTO bij Timegen

De beste leverancier die we konden vinden. Crunch-IS combineert praktische ontwikkeling met innovatieve ontwerpprincipes. De interne en externe feedback op de app-ontwikkeling is positief geweest. Ze halen projectmijlpalen volgens de afgesproken planning en leveren binnen budget. Het team is responsief en bereid tot een constructief gesprek.

Jeff CEO bij een Amerikaans softwarebedrijf

Crunch-IS overtrof mijn verwachtingen. Ik waardeerde de vindingrijkheid van de ontwikkelaars bij beperkingen en complexe eisen. Het bedrijf wist het project succesvol op te leveren en af te ronden.

Kate Productmanager bij Mezonin

Het project verloopt tot nu toe soepel. Crunch-IS heeft een uitzonderlijke werkethiek. Daardoor hebben ze elke uitdaging die op hun pad kwam kunnen aanpakken. Ze regelen het dagelijkse werk goed zelfstandig, maar overleggen ook regelmatig met ons om te zorgen dat we op één lijn zitten.

Andrew CMO bij Qinetics

De app waaraan Crunch-IS heeft gewerkt is strak, gestroomlijnd en functioneert zoals bedoeld. Crunch-IS doet er alles aan om ervoor te zorgen dat beide teams op elkaar zijn afgestemd. Het bevlogen team zorgt voor een plezierige ervaring door hun positieve houding en effectieve projectmanagementvaardigheden. Het team was heel vriendelijk en het was een genoegen om met ze samen te werken.

Ian CEO bij Biomicc

01 / 07

Start een nieuw project

Veelgestelde vragen over LLM-fine-tuning

Moeten we een LLM fine-tunen of RAG gebruiken?

De keuze tussen RAG en fine-tuning hangt af van wat er ontbreekt. Gebruik RAG wanneer het model feiten nodig heeft die vaak veranderen of in uw documenten staan, omdat RAG ze op het moment van antwoorden ophaalt. Gebruik fine-tuning wanneer het model genoeg weet maar antwoordt in het verkeerde formaat, de verkeerde toon of de verkeerde terminologie, of wanneer een afgebakende taak goedkoper en sneller moet draaien. Veel producten combineren beide, en de geschiktheidsanalyse laat zien welke mix bij het uwe past.

Welke modellen kunt u fine-tunen?

Open modellen zoals Llama en Mistral, die u zelf kunt hosten, en modellen van aanbieders die een fine-tuning-API bieden. Sommige commerciële modellen kunnen helemaal niet worden gefinetuned; in dat geval werken we met prompts, retrieval of in plaats daarvan met een open model.

Hoeveel data hebben we nodig?

Dat hangt af van de taak. Een formaat of toon is vaak aan te leren met een bescheiden set goede voorbeelden, terwijl het aanleren van oordeelsvermogen meer data en expertreview vraagt. Tijdens de analyse bekijken we wat u hebt en vertellen we u of dat genoeg is, voordat de training begint.

Hoe houdt u onze data veilig tijdens fine-tuning?

We trainen binnen uw cloudaccount of op infrastructuur die u goedkeurt, met toegang die beperkt is tot de engineers op het project. Trainingsdata gaat zonder uw toestemming niet naar een dienst van derden.

Wie is eigenaar van het gefinetunede model?

U. De gewichten, trainingsdata, code en evaluatiesuite zijn van u en blijven in uw infrastructuur. Als u het model van een aanbieder via diens API fine-tunet, bepalen de voorwaarden van die aanbieder waar dat model draait, en we leggen de afweging uit voordat u kiest.

Wat is het verschil tussen fine-tuning en RLHF?

Supervised fine-tuning leert het model aan de hand van voorbeelden van correcte antwoorden. RLHF leert het aan de hand van de voorkeuren van mensen tussen antwoorden, wat past bij taken waarbij kwaliteit een kwestie van oordeel is. RLHF is een vorm van fine-tuning en volgt meestal op supervised fine-tuning, in plaats van die te vervangen.

Hoe wordt de prijs bepaald?

We bepalen de prijs per project na de geschiktheidsanalyse, omdat het werk afhangt van de taak, het model en hoeveel data er moet worden voorbereid. U ontvangt een schriftelijke scope en de prijs voordat de training begint.

Uw LLM-fine-tuning begint hier.

Neem een paar antwoorden die uw model fout geeft mee naar een gratis adviesgesprek, en we laten u zien hoe u ze het snelst oplost.

Plan mijn gratis gesprek

Succesverhalen van Crunch-IS

BEKIJK ALLES

LLM-fine-tuning voor contentbeheer en -creatie in EdTech

3×: nauwkeuriger prompts
40-50%: sneller van idee naar publicatie

Kennistoegang transformeren met RAG en AWS

60%: sneller werken met bedrijfsdocumenten

AI-versterkt compliance-LMS voor veiligheidstrainingen in de bouw

Blijf op de hoogte van de nieuwste trends