LLM-Fine-Tuning-Dienstleistungen.

Wenn Prompts und RAG Ihr Modell nicht dazu bringen, im Format, im Tonfall oder mit der Terminologie zu antworten, die Ihr Produkt braucht, bietet Crunch-IS LLM-Fine-Tuning-Dienstleistungen auf Basis Ihrer Daten. Wir prüfen zuerst, ob sich Fine-Tuning lohnt, messen das Modell vorher und nachher an Ihren realen Fällen und belassen es in Ihrer Infrastruktur.

Fine-Tuning planen

Vorteile unserer LLM-Fine-Tuning-Dienstleistungen

Antworten in Ihrem Format und Ihrer Terminologie

Das Modell folgt Ihrer Struktur, Ihrem Tonfall und Ihrem Vokabular – ohne lange Anweisungen in jedem Prompt.

Daten, die in Ihrer Infrastruktur bleiben

Training und Betrieb laufen dort, wo Ihr Sicherheitsteam es zulässt, sodass sensible Daten nicht an eine externe API gehen.

Kürzere Prompts, schlankere Modelle

Verhalten, das das Modell gelernt hat, muss nicht mehr in jeder Anfrage ausformuliert werden, und ein kleineres Modell kann eng umrissene Aufgaben übernehmen.

Messbare Ergebnisse

Jeder Trainingslauf wird auf denselben Fällen mit dem Basismodell verglichen, sodass Sie wissen, was die Investition verändert hat.

Unser LLM-Fine-Tuning-Prozess

So geht es weiter, nachdem Sie das Formular gesendet haben.

01

Sie senden das Formular

Beschreiben Sie, was Ihr Modell heute leistet, wo seine Antworten nicht ausreichen und welche Daten Sie haben.
02

Wir prüfen, ob Fine-Tuning passt

Wir testen Ihr aktuelles Setup an realen Fällen und empfehlen den passenden Ansatz – mit schriftlichem Leistungsumfang und Preis.
03

Wir bereiten die Daten mit Ihrem Experten auf

Wir erstellen den Trainingsdatensatz aus Ihren Beispielen, und Ihr Experte prüft die Fälle, die eine gute Antwort definieren.
04

Wir trainieren

Wir führen das Fine-Tuning des Modells durch und erfassen jeden Lauf, sodass sich jede Version auf ihre Daten und Einstellungen zurückführen lässt.
05

Wir evaluieren vorher und nachher

Wir vergleichen das feinabgestimmte Modell auf demselben Testdatensatz mit dem Basismodell und teilen die Ergebnisse mit Ihnen.
06

Wir stellen bereit und übergeben

Wir stellen das Modell in Ihrer Infrastruktur bereit und übergeben Daten, Code und Dokumentation an Ihr Team.

Unsere LLM-Fine-Tuning-Dienstleistungen

01 Prüfung der Fine-Tuning-Eignung

Viele Probleme, die nach einem Fall für Fine-Tuning aussehen, lassen sich mit besseren Prompts oder besserem Retrieval günstiger lösen. Wir testen Ihr aktuelles Setup an Ihren realen Fällen und sagen Ihnen, welcher Ansatz passt: angepasste Prompts, RAG, Fine-Tuning oder eine Kombination. Ist Fine-Tuning die Antwort, legt die Eignungsprüfung das Ziel, die benötigten Daten und den Preis fest.

02 Aufbereitung der Trainingsdaten

Ein feinabgestimmtes Modell lernt alles, was seine Beispiele ihm beibringen – auch deren Fehler. Wir sammeln Beispiele aus Ihren Dokumenten, Tickets und früheren Ergebnissen, bereinigen und deduplizieren sie und lassen die Beispiele, die eine gute Antwort definieren, von Ihrem Fachexperten prüfen. Der Datensatz bleibt bei Ihnen – für jeden späteren Trainingslauf.

03 Überwachtes Fine-Tuning

Wir trainieren das Modell mit Paaren aus Eingaben und den gewünschten Ausgaben, sodass es Ihr Format, Ihren Tonfall und Ihre Terminologie verinnerlicht, statt in jedem Prompt daran erinnert werden zu müssen. Das ist der übliche Ausgangspunkt, wenn das Modell das Thema kennt, aber in der falschen Form antwortet.

04 LoRA-Fine-Tuning

Fine-Tuning kann das gesamte Modell aktualisieren oder nur einen kleinen LoRA-Adapter darauf trainieren. LoRA senkt die Rechenkosten des Trainings und ermöglicht es Ihnen, mehrere spezialisierte Versionen eines Basismodells vorzuhalten. Wir setzen es ein, wenn Sie ein Modell pro Aufgabe, pro Kunde oder pro Sprache brauchen, ohne für jedes ein eigenes großes Modell betreiben zu müssen.

05 RLHF und Präferenz-Tuning

Wenn die richtige Antwort eher eine Frage der Beurteilung als des Formats ist, trainieren wir das Modell auf die Präferenzen Ihrer Experten zwischen verschiedenen Antworten. So lernt ein Modell, was Ihr bester Prüfer freigeben würde.

06 Vorher-Nachher-Evaluierung

Mit unseren Dienstleistungen zur LLM-Evaluierung führen wir denselben Testdatensatz auf dem Basismodell und dem feinabgestimmten Modell aus. So sehen Sie, was sich verbessert hat, und erkennen jede Fähigkeit, die das Modell im Training verloren hat, bevor etwas live geht. Der Testdatensatz stammt aus Ihren realen Fällen und bleibt in Ihrem Repository – erscheint ein neues Basismodell, zeigen dieselben Tests, ob sich ein erneutes Training darauf lohnt.

Unsere Kompetenzen für individuelle LLMs

Offene Modelle und Anbieter-APIs

Wir führen das Fine-Tuning offener Modelle wie Llama und Mistral auf Infrastruktur durch, die Sie kontrollieren, und das Fine-Tuning von Anbietermodellen über deren Fine-Tuning-APIs, sofern der Anbieter dies zulässt.

Datenannotation und Prüfung

Wir führen Annotation und Expertenprüfung in Argilla durch, sodass jedes Trainingsbeispiel eine klare Quelle und einen Prüfer hat – wie bei einer EdTech-Publishing-Plattform.

Experiment-Tracking

Wir erfassen Trainingsläufe, Prompts und Ausgaben in LangSmith, sodass sich jede Modellversion auf ihre Daten und Einstellungen zurückführen lässt.

Evaluierungs-Frameworks

Wir bauen die Vorher-Nachher-Testsuiten in Promptfoo oder dem Framework, das Ihr Team bereits nutzt, und halten die Testfälle als Code in Ihrem Repository.

Bereitstellung und Monitoring

Wir stellen das feinabgestimmte Modell mit Versionierung und Rollback bereit und überwachen seine Antworten im Produktivbetrieb mit derselben LLMOps-Praxis, die wir für unsere anderen KI-Systeme anwenden.

Kleinere Modelle für eng umrissene Aufgaben

Wo eine Aufgabe in hohem Volumen läuft, kann ein kleineres feinabgestimmtes Modell ein großes Allzweckmodell zu geringeren Kosten und mit geringerer Latenz ersetzen. Wir testen diesen Kompromiss an Ihren Fällen, bevor wir ihn empfehlen.

Was Sie bekommen

Klarer Umfang vor Arbeitsbeginn

Bevor das Training beginnt, vereinbaren wir schriftlich, für welche Aufgabe wir trainieren, welche Daten wir verwenden und welches Ergebnis als Erfolg gilt.

Trainingsdaten in Ihrem Besitz

Der bereinigte und geprüfte Datensatz gehört Ihnen und ist so dokumentiert, dass Ihr Team ihn ohne uns erweitern und neu trainieren kann.

Ein Modell, das Ihnen gehört

Gewichte, Trainingscode und Konfiguration bleiben in Ihrer Infrastruktur – ohne Lizenz und ohne Abhängigkeit von uns.

Evaluierung, die die Veränderung belegt

Sie erhalten die Vorher-Nachher-Ergebnisse auf Ihren eigenen Fällen, sodass die Entscheidung für den Go-live auf Fakten beruht.

Warum Sie Crunch-IS als Ihren Partner wählen sollten

Wir sagen Ihnen, wenn Sie es nicht brauchen

Als LLM-Fine-Tuning-Unternehmen, das auch RAG-Systeme baut, haben wir nichts davon, Ihnen Training zu verkaufen, das Sie nicht brauchen. Lösen bessere Prompts oder besseres Retrieval das Problem, sagen wir Ihnen das, bevor ein Training beginnt.

Gemessen an Ihren Fällen, nicht an Benchmarks

Öffentliche Benchmarks sagen wenig über Ihre Aufgabe aus. Wir beurteilen jedes Modell danach, wie es mit Ihren eigenen Fällen umgeht und welche Antworten Ihr Experte akzeptieren würde.

Ihr Modell, Ihre Infrastruktur

Alles, was wir bauen, bleibt in Ihrer Umgebung und gehört Ihnen: Daten, Gewichte, Code und Tests. Das folgt der Regel für unsere gesamte Arbeit: Was wir bauen, gehört unseren Kunden.

Was unsere Kunden über uns sagen

Sie entwickeln zahlreiche skalierbare und Best-Practice-Ideen, die es uns ermöglichen, das zu erreichen, was wir derzeit haben.

Nicky, Softcat | Video-Kundenstimme für Crunch-IS

Nicky Senior Business Analyst bei Softcat

Crunch-IS hat uns hervorragend dabei unterstützt, eine Vorstellung davon zu entwickeln, wie das Ergebnis aussehen sollte, und unsere Ideen zur Bewertung und Überprüfung zum Leben zu erwecken.

Matthew, Softcat | Video-Kundenstimme für Crunch-IS

Matthew Leiter der digitalen Strategie bei Softcat

Was mich bei Crunch-IS besonders beeindruckt hat, ist die Qualität der Entwickler. Sie ist einfach viel besser als in jedem anderen Unternehmen, mit dem wir bisher zusammengearbeitet haben.

Klaus, YouWe | Video-Kundenstimme für Crunch-IS

Klaus CEO bei YouWe

Wir sind beeindruckt von ihrer Leistung, davon, wie sie sich für die Produktentwicklung engagieren, und davon, wie sehr ihnen das Produkt am Herzen liegt.

Sebastian Jara, Accountflow | Video-Kundenstimme für Crunch-IS

Sebastian Mitbegründer & CTO bei Accountflow

Es war eine sehr angenehme Erfahrung. Die Kommunikation und die Zusammenarbeit waren durchweg fantastisch.

Marta, GIA Networks | Video-Kundenstimme für Crunch-IS

Marta Berater bei GIA Networks

Unsere Partnerschaft mit Crunch-IS war eine unschätzbare Ressource, während wir gewachsen sind.

Ryan, WorkDove | Video-Kundenstimme für Crunch-IS

Ryan CTO bei WorkDove

Was mir bei Crunch-IS aufgefallen ist, waren die fachliche Kompetenz, die Fähigkeit, über den Tellerrand hinauszuschauen, und sehr gute Englischkenntnisse.

Garrett, Tabulate | Video-Kundenstimme für Crunch-IS

Garrett COO bei Tabulate

Sie haben einen großen Einfluss auf die gesamte Architektur, die wir letztendlich umgesetzt haben. Insgesamt bin ich sehr zufrieden und beeindruckt von allem, was Crunch-IS für uns geleistet hat.

Kenneth, Zuar | Video-Kundenstimme für Crunch-IS

Kenneth CTO bei Zuar

Crunch-IS hat uns mit seiner technischen Exzellenz sowie dem „Zusammentreffen von Denkweisen und Kulturen“ und dem offenen, ehrlichen Austausch beeindruckt. Diese Entscheidung haben wir nicht leichtfertig getroffen, und auch nach fünf Monaten Zusammenarbeit sind wir weiterhin sehr beeindruckt davon, wie Crunch-IS die Zusammenarbeit angeht, und wir sind begeistert von der Qualität des Teams, mit dem wir zusammenarbeiten.

Gary Geschäftsführer bei einem britischen Softwareentwicklungsunternehmen

Die Zusammenarbeit mit Crunch-IS verlief reibungslos. Das Team zeigte sich geduldig, als wir die Vertragsfragen klärten, und ebenso geduldig, als wir unser Abrechnungssystem einrichteten. Die Gestaltungsarbeit war elegant, und der Entwickler lieferte die vereinbarte App pünktlich und in guter Qualität.

Scott Vizepräsident für Softwareentwicklung bei Analytic Index

Die Zusammenarbeit mit dem Team von Crunch-IS war sehr angenehm. Sie arbeiteten fleißig und waren sehr professionell. Wenn Fragen oder technische Probleme auftraten, beantworteten sie diese umgehend und waren stets bereit, uns freundlich zu helfen.

Miia Geschäftsleitung bei Conmark Systems

Ein Entwickler von Crunch-IS hat uns dabei geholfen, eine wichtige Funktion für unser Projekt viel schneller als erwartet bereitzustellen.

Rosario VP für Technik bei Profitap

Crunch-IS sorgte während des gesamten Projekts für eine reibungslose Zusammenarbeit. Das Team pflegte einen offenen Kommunikationsfluss, führte detaillierte Aufzeichnungen über die Aufgabenverteilung und hielt die Projektfristen ein. Das Unternehmen zeichnet sich durch seine Fachkompetenz sowohl im Bereich Design als auch in der Entwicklung aus.

Sisun CEO bei Chintech

Crunch-IS bietet kontinuierliche Entwicklungsunterstützung, die den jeweiligen Projektanforderungen gerecht wird. Trotz ihres Standorts im Ausland ist die Zusammenarbeit mit ihnen unkompliziert, und sie sind über verschiedene Kommunikationskanäle gut erreichbar.

Bob CTO bei Timegen

Der beste Anbieter, den wir uns vorstellen können. Crunch-IS verbindet praktische Entwicklung mit innovativen Designprinzipien. Das interne und externe Feedback zur App-Entwicklung war durchweg positiv. Das Team hält die Projektmeilensteine termingerecht ein und bleibt im Rahmen des Budgets. Es ist reaktionsschnell und stets bereit, einen produktiven Dialog zu führen.

Jeff CEO bei USA Software Company

Crunch-IS hat meine Erwartungen übertroffen. Ich schätze die Einfallsreichtum der Entwickler angesichts der Einschränkungen und komplexen Anforderungen. Das Unternehmen war in der Lage, das Projekt erfolgreich umzusetzen und abzuschließen.

Kate Produktmanager bei Mezonin

Das Projekt ist bisher reibungslos verlaufen. Crunch-IS zeichnet sich durch eine außergewöhnliche Arbeitsmoral aus. Daher konnten sie jede Herausforderung meistern, die sich ihnen in den Weg stellte. Sie bewältigen die tägliche Arbeit gut in Eigenregie, stehen aber auch regelmäßig mit uns in Kontakt, um sicherzustellen, dass wir alle auf dem gleichen Stand sind.

Andrew CMO bei Qinetics

Die App, an der Crunch-IS gearbeitet hat, ist übersichtlich, schlank und funktioniert wie vorgesehen. Crunch-IS scheut keine Mühen, um sicherzustellen, dass beide Teams auf einer Wellenlänge sind. Das engagierte Team sorgt durch seine positive Einstellung und seine effektiven Projektmanagementfähigkeiten für eine angenehme Zusammenarbeit. Das Team war sehr freundlich, und die Zusammenarbeit mit ihm war ein Vergnügen.

Ian CEO bei Biomicc

01 / 07

Neues Projekt starten

LLM-Fine-Tuning – Häufig gestellte Fragen

Sollten wir ein LLM per Fine-Tuning anpassen oder RAG nutzen?

Die Wahl zwischen RAG und Fine-Tuning hängt davon ab, was fehlt. Setzen Sie RAG ein, wenn das Modell Fakten braucht, die sich häufig ändern oder in Ihren Dokumenten liegen, denn RAG ruft sie zum Zeitpunkt der Antwort ab. Setzen Sie Fine-Tuning ein, wenn das Modell genug weiß, aber im falschen Format, Tonfall oder mit der falschen Terminologie antwortet, oder wenn eine eng umrissene Aufgabe günstiger und schneller laufen muss. Viele Produkte kombinieren beides, und die Eignungsprüfung zeigt, welche Kombination zu Ihrem passt.

Welche Modelle können Sie per Fine-Tuning anpassen?

Offene Modelle wie Llama und Mistral, die Sie selbst hosten können, sowie Anbietermodelle, deren Hersteller eine Fine-Tuning-API anbieten. Manche kommerziellen Modelle lassen sich gar nicht per Fine-Tuning anpassen; in diesem Fall arbeiten wir stattdessen mit Prompts, Retrieval oder einem offenen Modell.

Wie viele Daten brauchen wir?

Das hängt von der Aufgabe ab. Ein Format oder einen Tonfall kann man oft mit einer überschaubaren Menge guter Beispiele vermitteln, während das Vermitteln von Urteilsvermögen mehr Daten und Expertenprüfung erfordert. Wir prüfen während der Eignungsprüfung, was Sie haben, und sagen Ihnen vor Trainingsbeginn, ob es ausreicht.

Wie schützen Sie unsere Daten beim Fine-Tuning?

Wir trainieren in Ihrem Cloud-Konto oder auf Infrastruktur, die Sie freigeben, und der Zugriff ist auf die Engineers im Projekt beschränkt. Trainingsdaten gehen ohne Ihre Zustimmung nicht an einen Drittanbieterdienst.

Wem gehört das feinabgestimmte Modell?

Ihnen. Die Gewichte, Trainingsdaten, der Code und die Evaluierungssuite gehören Ihnen und bleiben in Ihrer Infrastruktur. Wenn Sie das Modell eines Anbieters über dessen API per Fine-Tuning anpassen, bestimmen die Bedingungen des Anbieters, wo dieses Modell läuft, und wir erläutern Ihnen die Vor- und Nachteile, bevor Sie sich entscheiden.

Worin unterscheidet sich Fine-Tuning von RLHF?

Überwachtes Fine-Tuning lehrt das Modell anhand von Beispielen korrekter Antworten. RLHF lehrt es anhand menschlicher Präferenzen zwischen Antworten, was sich für Aufgaben eignet, bei denen Qualität eine Ermessensfrage ist. RLHF ist eine Form des Fine-Tunings und folgt in der Regel auf überwachtes Fine-Tuning, statt es zu ersetzen.

Wie wird der Preis festgelegt?

Wir kalkulieren jedes Projekt nach der Eignungsprüfung, denn der Aufwand hängt von der Aufgabe, vom Modell und davon ab, wie viele Daten aufbereitet werden müssen. Sie erhalten vor Trainingsbeginn einen schriftlichen Leistungsumfang und den Preis.

Ihr LLM-Fine-Tuning beginnt hier.

Bringen Sie ein paar Antworten, die Ihr Modell falsch beantwortet, zu einem kostenlosen Gespräch zur Ersteinschätzung mit, und wir zeigen Ihnen den schnellsten Weg, sie zu beheben.

Kostenloses Gespräch buchen

Crunch-IS Erfolgsgeschichten

ALLE ANZEIGEN

LLM-Feinabstimmung für die Verwaltung und Erstellung von Inhalten im EdTech-Bereich

3×: Verbesserung der Prompt-Genauigkeit
40-50%: kürzere Zeit bis zur Veröffentlichung von Inhalten

Transformation des Wissenszugangs mit RAG und AWS

60%: schnellere Arbeit mit Unternehmensdokumenten

KI-unterstützte Compliance-LMS-Plattform für Bau- und Sicherheitsschulungen

Bleiben Sie auf dem Laufenden über die neuesten Trends