Tjenester for LLM-finjustering.

Når prompter og RAG ikke får modellen din til å svare i formatet, tonen eller terminologien produktet ditt trenger, tilbyr Crunch-IS tjenester for LLM-finjustering på dine egne data. Vi sjekker først om finjustering lønner seg, måler modellen på dine reelle tilfeller før og etter, og lar den bli værende i infrastrukturen din.

Planlegg finjusteringen

Fordeler med våre tjenester for LLM-finjustering

Svar i ditt format og med dine begreper

Modellen følger strukturen, tonen og vokabularet ditt uten lange instruksjoner i hver prompt.

Data som blir i infrastrukturen din

Trening og drift kjører der sikkerhetsteamet ditt tillater det, så sensitive data sendes ikke til et eksternt API.

Kortere prompter, slankere modeller

Atferd modellen har lært, trenger ikke lenger beskrives i hver forespørsel, og en mindre modell kan ta seg av smale oppgaver.

Resultater du kan måle

Hver treningsrunde sammenlignes med basismodellen på de samme tilfellene, så du vet hva investeringen endret.

Prosessen for LLM-finjustering

Dette skjer etter at du har sendt skjemaet.

01

Du sender skjemaet

Fortell oss hva modellen din gjør i dag, hvor svarene kommer til kort, og hvilke data du har.
02

Vi sjekker om finjustering passer

Vi tester dagens oppsett på reelle tilfeller og anbefaler tilnærmingen som passer, med skriftlig omfang og pris.
03

Vi klargjør dataene sammen med eksperten din

Vi bygger treningssettet fra eksemplene dine, og eksperten din går gjennom tilfellene som definerer et godt svar.
04

Vi trener

Vi finjusterer modellen og sporer hver treningsrunde, slik at hver versjon kan spores tilbake til dataene og innstillingene sine.
05

Vi evaluerer før og etter

Vi sammenligner den finjusterte modellen med basismodellen på det samme testsettet og deler resultatene.
06

Vi ruller ut og overleverer

Vi ruller ut modellen i infrastrukturen din og overleverer data, kode og dokumentasjon til teamet ditt.

Våre tjenester for LLM-finjustering

01 Forhåndsvurdering for finjustering

Mange problemer som ser ut til å kreve finjustering, er billigere å løse med bedre prompter eller gjenfinning. Vi tester dagens oppsett på dine reelle tilfeller og forteller deg hvilken tilnærming som passer: endrede prompter, RAG, finjustering eller en kombinasjon. Er finjustering svaret, fastsetter vurderingen målet, dataene som trengs og prisen.

02 Klargjøring av treningsdata

En finjustert modell lærer det eksemplene lærer den, også feilene deres. Vi samler inn eksempler fra dokumentene dine, supportsakene og tidligere resultater, renser dem og fjerner duplikater, og lar fageksperten din gå gjennom de eksemplene som definerer et godt svar. Du beholder datasettet til alle senere treningsrunder.

03 Veiledet finjustering

Vi trener modellen på par av inndata og svarene du ønsker, slik at den lærer formatet, tonen og terminologien din i stedet for å bli minnet på dem i hver prompt. Dette er det vanlige utgangspunktet når modellen kan fagområdet, men svarer i feil form.

04 LoRA-finjustering

Finjustering kan oppdatere hele modellen eller bare trene en liten LoRA-adapter oppå den. LoRA senker beregningskostnaden ved trening og lar deg beholde flere spesialiserte versjoner av én basismodell. Vi bruker det når du trenger én modell per oppgave, per kunde eller per språk uten å kjøre en egen stor modell for hver.

05 RLHF og preferansetrening

Når det riktige svaret er et spørsmål om skjønn snarere enn format, trener vi modellen på hvilke svar ekspertene dine foretrekker. Slik lærer en modell hva den beste kvalitetskontrolløren din ville godkjent.

06 Evaluering før og etter

Med tjenestene våre for LLM-evaluering kjører vi det samme testsettet på basismodellen og den finjusterte modellen, slik at du ser hva som ble bedre, og fanger opp ferdigheter modellen mistet under treningen før noe går i produksjon. Testsettet bygger på dine reelle tilfeller og blir liggende i repositoriet ditt, så når en ny basismodell kommer, viser de samme testene om det lønner seg å trene på nytt med den.

Våre kapabiliteter for tilpassede LLM-er

Åpne modeller og leverandør-API-er

Vi finjusterer åpne modeller som Llama og Mistral på infrastruktur du kontrollerer, og leverandørmodeller gjennom leverandørenes API-er for finjustering der leverandøren tillater det.

Dataannotering og gjennomgang

Vi kjører annotering og ekspertgjennomgang i Argilla, slik at hvert treningseksempel har en tydelig kilde og en kontrollør, slik som på en publiseringsplattform innen EdTech.

Sporing av eksperimenter

Vi sporer treningsrunder, prompter og resultater i LangSmith, slik at hver modellversjon kan spores tilbake til dataene og innstillingene sine.

Rammeverk for evaluering

Vi bygger testpakkene for før og etter i Promptfoo eller i rammeverket teamet ditt allerede bruker, med testtilfellene lagret som kode i repositoriet ditt.

Utrulling og overvåking

Vi ruller ut den finjusterte modellen med versjonering og mulighet for tilbakerulling, og overvåker deretter svarene i produksjon gjennom den samme LLMOps-praksisen vi bruker for de andre AI-systemene våre.

Mindre modeller for smale oppgaver

Der én oppgave kjøres i store volumer, kan en mindre finjustert modell erstatte en stor generell modell til lavere kostnad og latens. Vi tester den avveiningen på dine tilfeller før vi anbefaler den.

Hva du får

Omfang avklart før arbeidet starter

Vi blir skriftlig enige om hvilken oppgave vi trener for, hvilke data vi bruker og hvilket resultat som regnes som suksess, før treningen begynner.

Treningsdata du eier

Det rensede og gjennomgåtte datasettet er ditt, dokumentert slik at teamet ditt kan utvide det og trene på nytt uten oss.

En modell som forblir din

Vekter, treningskode og konfigurasjon blir i infrastrukturen din, uten lisens eller avhengighet til oss.

Evaluering som beviser endringen

Du får resultatene fra før og etter på dine egne tilfeller, slik at beslutningen om å gå i produksjon bygger på bevis.

Hvorfor velge Crunch-IS som din partner

Vi sier fra når du ikke trenger det

Som et selskap for LLM-finjustering som også bygger RAG-systemer, tjener vi ingenting på å selge trening du ikke trenger. Løser bedre prompter eller gjenfinning problemet, sier vi det før noen trening starter.

Målt på dine tilfeller, ikke på referansetester

Offentlige referansetester sier lite om oppgaven din. Vi vurderer hver modell ut fra hvordan den håndterer dine egne tilfeller, og ut fra svarene eksperten din ville godtatt.

Din modell, din infrastruktur

Alt vi bygger, blir i miljøet ditt og tilhører deg: data, vekter, kode og tester. Det følger regelen for alt arbeidet vårt: kundene eier det vi bygger.

Hva kundene våre sier om oss

De kommer med mange skalerbare og ideer om beste praksis som gjør det mulig for oss å oppnå det vi har akkurat nå.

Nicky, Softcat | Kundeuttalelse på video om Crunch-IS

Nicky Senior forretningsanalytiker hos Softcat

Crunch-IS var flinke til å vise oss hvordan gode løsninger bør se ut og gjøre ideene våre levende for evaluering og gjennomgang.

Matthew, Softcat | Kundeuttalelse på video om Crunch-IS

Matthew Leder for digital strategi hos Softcat

Det som imponerte meg mest ved Crunch-IS, er kvaliteten på utviklerne. Den er rett og slett mye bedre enn i noe annet selskap vi har prøvd å samarbeide med.

Klaus, YouWe | Kundeuttalelse på video om Crunch-IS

Klaus Administrerende direktør i YouWe

Vi er imponert over deres prestasjoner, hvordan de engasjerer seg i produktutviklingen, og hvordan de bryr seg om produktet.

Sebastian Jara, Accountflow | Kundeuttalelse på video om Crunch-IS

Sebastian Medgründer og teknologidirektør i Accountflow

Det har vært en veldig hyggelig opplevelse. Alt har vært fantastisk, både når det gjelder kommunikasjon og samarbeid.

Marta, GIA Networks | Kundeuttalelse på video om Crunch-IS

Marta Konsulent hos GIA Networks

Vårt samarbeid med Crunch-IS har vært en uvurderlig ressurs i takt med at vi har utvidet virksomheten.

Ryan, WorkDove | Kundeuttalelse på video om Crunch-IS

Ryan Teknisk sjef hos WorkDove

Det jeg la merke til hos Crunch-IS, var teknisk kompetanse, evnen til å tenke utenfor boksen og svært gode engelskkunnskaper.

Garrett, Tabulate | Kundeuttalelse på video om Crunch-IS

Garrett Driftsdirektør i Tabulate

De har hatt en stor innvirkning på den endelige arkitekturen vi endte opp med. Totalt sett har jeg vært fornøyd og imponert over alt Crunch-IS har gjort for oss.

Kenneth, Zuar | Kundeuttalelse på video om Crunch-IS

Kenneth Teknologidirektør hos Zuar

Crunch-IS imponerte oss med sin tekniske dyktighet og det rene «møtet mellom tanker og kulturer» samt den åpne og ærlige kommunikasjonen. Dette var ikke en beslutning vi tok på lett grunn, og fem måneder inn i samarbeidet er vi fortsatt svært imponert over hvordan Crunch-IS tilnærmer seg samarbeidet, og vi er svært fornøyde med kvaliteten på teamet vi jobber sammen med.

Gary Administrerende direktør i et britisk programvareutviklingsselskap

Det var enkelt å samarbeide med Crunch-IS. De viste tålmodighet overfor oss da vi gikk gjennom spørsmålene knyttet til kontrakten, og var tålmodige igjen da vi skulle få på plass faktureringsordningen. Designarbeidet var elegant, og utvikleren leverte appen vi hadde avtalt i tide og i god kvalitet.

Scott Visepresident for programvareutvikling hos Analytic Index

Det var veldig hyggelig å samarbeide med teamet hos Crunch-IS. De jobbet flittig og var svært profesjonelle. Når det oppstod spørsmål eller tekniske problemer, svarte de raskt og var alltid villige og imøtekommende når det gjaldt å hjelpe oss.

Miia Bedriftsledelse hos Conmark Systems

En utvikler fra Crunch-IS hjalp oss med å levere en viktig funksjon til prosjektet vårt mye raskere enn forventet.

Rosario Teknisk direktør hos Profitap

Crunch-IS sørget for et sømløst og samarbeidsorientert forløp gjennom hele prosjektet. Teamet opprettholdt åpen kommunikasjon, førte detaljerte oversikter over oppgavefordelingen og overholdt prosjektets tidsplaner. Deres kompetanse innen både design og utvikling gjør selskapet til noe helt spesielt.

Sisun Administrerende direktør i Chintech

Crunch-IS tilbyr løpende utviklingsstøtte som tilfredsstiller prosjektets behov etter behov. Til tross for at de befinner seg i utlandet, er de enkle å samarbeide med og lett tilgjengelige via kommunikasjonskanaler

Bob Teknisk sjef hos Timegen

Den beste leverandøren vi kunne tenke oss. Crunch-IS kombinerer praktisk utvikling med innovative designprinsipper. Tilbakemeldingene på apputviklingen, både internt og eksternt, har vært positive. De fullfører prosjektmilepælene i henhold til tidsplanen og leverer innenfor budsjettet. Teamet er imøtekommende og villig til å delta i en produktiv dialog.

Jeff Administrerende direktør i et amerikansk programvareselskap

Crunch-IS overgikk mine forventninger. Jeg satte stor pris på utviklernes oppfinnsomhet i møte med begrensninger og komplekse krav. Selskapet klarte å levere og fullføre prosjektet på en vellykket måte.

Kate Produktsjef hos Mezonin

Prosjektet har hittil forløpt uten problemer. Crunch-IS har en enestående arbeidsmoral. Takket være dette har de klart å takle alle utfordringer som har dukket opp. De håndterer det daglige arbeidet godt på egen hånd, men kommuniserer også jevnlig med oss for å sikre at vi er på samme bølgelengde.

Andrew Markedsdirektør hos Qinetics

Appen som Crunch-IS har utviklet, er oversiktlig, strømlinjeformet og fungerer som den skal. Crunch-IS går langt utover det forventede for å sikre at begge teamene er på bølgelengde. Det engasjerte teamet skaper en hyggelig opplevelse gjennom sin positive holdning og effektive prosjektledelsesferdigheter. Teamet var svært vennlig, og det var en glede å samarbeide med dem.

Ian Administrerende direktør i Biomicc

01 / 07

Start nytt prosjekt

Vanlige spørsmål om LLM-finjustering

Bør vi finjustere en LLM eller bruke RAG?

Valget mellom RAG og finjustering avhenger av hva som mangler. Bruk RAG når modellen trenger fakta som endres ofte eller ligger i dokumentene dine, fordi den henter dem i det øyeblikket den svarer. Bruk finjustering når modellen kan nok, men svarer i feil format, tone eller terminologi, eller når en smal oppgave må kjøres billigere og raskere. Mange produkter kombinerer begge deler, og forhåndsvurderingen viser hvilken kombinasjon som passer ditt.

Hvilke modeller kan dere finjustere?

Åpne modeller som Llama og Mistral, som du kan drifte selv, og leverandørmodeller der leverandøren tilbyr et API for finjustering. Noen kommersielle modeller kan ikke finjusteres i det hele tatt; da jobber vi i stedet med prompter, gjenfinning eller en åpen modell.

Hvor mye data trenger vi?

Det avhenger av oppgaven. Et format eller en tone kan ofte læres med et beskjedent sett gode eksempler, mens det å lære bort skjønn krever mer data og ekspertgjennomgang. Vi sjekker hva du har under forhåndsvurderingen, og sier fra om det er nok før treningen starter.

Hvordan holder dere dataene våre sikre under finjusteringen?

Vi trener i skykontoen din eller på infrastruktur du godkjenner, med tilgang begrenset til ingeniørene på prosjektet. Treningsdata sendes ikke til en tredjepartstjeneste uten ditt samtykke.

Hvem eier den finjusterte modellen?

Det gjør du. Vektene, treningsdataene, koden og evalueringspakken er dine og blir i infrastrukturen din. Finjusterer du en leverandørs modell gjennom leverandørens API, avgjør leverandørens vilkår hvor modellen kjører, og vi forklarer avveiningen før du velger.

Hva er forskjellen på finjustering og RLHF?

Veiledet finjustering lærer opp modellen med eksempler på riktige svar. RLHF lærer den opp ut fra hvilke svar mennesker foretrekker, noe som passer oppgaver der kvalitet er et spørsmål om skjønn. RLHF er én form for finjustering, og kommer vanligvis etter veiledet finjustering i stedet for å erstatte den.

Hvordan fastsettes prisen?

Vi priser hvert prosjekt etter forhåndsvurderingen, fordi arbeidet avhenger av oppgaven, modellen og hvor mye data som må klargjøres. Du får et skriftlig omfang og prisen før treningen starter.

LLM-finjusteringen din starter her.

Ta med noen svar modellen din tar feil på, til en gratis vurderingssamtale, så viser vi deg den raskeste måten å rette dem på.

Book en gratis samtale

Suksesshistorier fra Crunch-IS

VIS ALLE

Finjustering av LLM for innholdshåndtering og innholdsproduksjon i EdTech

3×: forbedring i promptnøyaktighet
40-50 %: raskere tid til innholdspublisering

Transformasjon av kunnskapstilgang med RAG og AWS

60%: raskere arbeid med firmadokumenter

AI-forbedret plattform for etterlevelses-LMS til bygg- og sikkerhetsopplæring

Hold deg oppdatert med de nyeste trendene