KI-Modelle auf Ihren Daten – betrieben auf Ihrer Infrastruktur.
Wir trainieren und betreiben KI für Ihre Prozesse: Open-Source-LLMs feinjustiert auf Ihre Daten, RAG über Ihre Dokumente oder klassische ML-Modelle – privat gehostet, ohne Datenabfluss an US-APIs.
$ bytefactory ki --daten ./dokumente ✔ Dokumente indexiert ✔ Basismodell gewählt: Open-Source-LLM $ bytefactory train --methode lora epoche 1/3 ··· ok epoche 2/3 ··· ok epoche 3/3 ··· ok evaluation ··· besser als Basismodell $ bytefactory deploy --ort eu hosting ··· eigene Infrastruktur
Ihre Daten bleiben Ihre Daten.
KI, die Ihr Wissen nutzt, ohne es aus dem Haus zu geben.
Fine-Tuning
Offene LLMs wie Llama, Mistral oder Qwen mit LoRA/QLoRA auf Ihre Sprache und Aufgaben trainiert.
RAG & Dokumente
Antworten aus Ihren eigenen Dokumenten – mit Quellenangabe statt Halluzination.
Privater Betrieb
Auf Ihrer Hardware oder in der EU – GPU-Server oder Kubernetes, ohne US-API.
Was inklusive ist.
- Daten-Check & Use-Case-Bewertung
- Fine-Tuning offener LLMs (LoRA/QLoRA)
- RAG über Ihre Dokumente
- Klassische ML- & Vision-Modelle
- Evaluation mit Ihren Testfällen
- Betrieb auf eigener oder EU-Infrastruktur
So läuft ein Projekt ab.
- Schritt 1
Use Case & Daten
Wir prüfen Ziel, Datenlage und Nutzen – ehrlich, bevor investiert wird.
- Schritt 2
Prototyp
Ein schneller Prototyp zeigt mit Ihren Daten, was funktioniert.
- Schritt 3
Training & Evaluation
Fine-Tuning oder RAG-Pipeline, gemessen an Ihren Testfällen.
- Dauerhaft
Betrieb
Privat gehostet, überwacht und bei Bedarf nachtrainiert.
KI-Modell trainieren lassen: Fine-Tuning oder RAG?
Wer ein KI-Modell trainieren lassen möchte, sollte zuerst klären, was das Modell können muss, denn davon hängt ab, ob Fine-Tuning, RAG oder beides sinnvoll ist. Bei RAG (Retrieval-Augmented Generation) werden Ihre Dokumente indexiert. Zu einer Frage sucht das System die passenden Textstellen heraus und gibt sie dem Sprachmodell als Kontext mit. Antworten lassen sich so mit Quellen belegen, und neue Dokumente stehen ohne erneutes Training zur Verfügung.
Beim Fine-Tuning werden die Gewichte eines vorhandenen Modells mit eigenen Beispielen angepasst. Das lohnt sich, wenn das Modell einen bestimmten Stil, ein Format oder eine Fachsprache zuverlässig beherrschen muss. Mit LoRA und QLoRA werden nur kleine Zusatzgewichte trainiert, was den Hardwarebedarf gegenüber vollem Fine-Tuning deutlich senkt. Um Fakten zuverlässig verfügbar zu machen, ist Fine-Tuning dagegen weniger geeignet als RAG. Oft ist die Kombination am besten. Für klassische Aufgaben wie Klassifikation oder Bilderkennung kommen zudem eigene ML-Modelle in Frage.
Die Reihenfolge ist wichtig: Zuerst prüfen wir Ziel, Datenlage und Nutzen im Daten-Check, ehrlich, bevor investiert wird. Danach zeigt ein schneller Prototyp mit Ihren Daten, was funktioniert. Erst dann folgen Training oder RAG-Pipeline, gemessen an Ihren Testfällen. Ohne eigene Testfälle lässt sich nicht sagen, ob ein Modell tatsächlich besser ist als das Ausgangsmodell. Für RAG reichen Ihre vorhandenen Dokumente. Für Fine-Tuning genügen oft einige hundert bis tausend gute Beispiele. Welche offenen Modelle wie Llama, Mistral oder Qwen infrage kommen, hängt von Sprache, Aufgabe und Hardware ab. Auch die Lizenzbedingungen der Modelle unterscheiden sich und sollten vor dem Einsatz geprüft werden. Vor einem Training sind die Daten zu bereinigen. Enthalten sie personenbezogene Angaben, sollten diese entfernt oder pseudonymisiert werden, soweit der Zweck es zulässt.
Ein mögliches Anwendungsfeld ist die Dokumentenverarbeitung. Wie weit sie sich automatisieren lässt, hängt von den Dokumenttypen, der Qualität der Vorlagen und der Fehlertoleranz im Prozess ab. Allgemein bestehen Workflows zur Dokumentenverarbeitung aus dem Erfassen eingehender Dokumente, dem Erkennen des Dokumenttyps, dem Auslesen relevanter Felder und der Weitergabe an das nächste System. Wo Fehler Folgen haben, gehört eine Prüfung durch Menschen dazu.
Datenschutz und privater Betrieb
Wer eine externe KI-Schnittstelle nutzt, überträgt Eingaben an den Anbieter, also Fragen und gegebenenfalls Ausschnitte aus Dokumenten. Enthalten diese personenbezogene Daten, stellen sich Fragen zu Auftragsverarbeitung und Drittlandübermittlung. Genau deshalb betreiben wir Modelle auf Ihrer eigenen Hardware oder auf Infrastruktur in der EU, ohne Aufrufe an US-APIs. Ihre Daten bleiben Ihre Daten.
Technisch laufen die Modelle auf GPU-Servern oder auf Kubernetes. Wie viel Hardware nötig ist, hängt von Modellgröße und Last ab: Kleinere offene Modelle können auf einer einzelnen GPU laufen, größere brauchen mehrere. Für eine Kubernetes-Umgebung gelten dieselben Anforderungen an Absicherung und Betrieb wie für jede andere Anwendung; was dazugehört, beschreibt die Seite Kubernetes-Beratung. Liegen Ihre Daten und Systeme noch in einer bisherigen Umgebung, kann vorab eine Cloud-Migration in eine EU-Region sinnvoll sein.
Bei RAG kommt ein weiterer Punkt hinzu: Berechtigungen. Nutzer sollten über das System nur Dokumente erhalten, die sie auch sonst sehen dürfen. Je nach Anwendungsfall kann außerdem die EU-KI-Verordnung relevant sein. Auch die Protokolle von Anfragen können vertrauliche Inhalte enthalten und gehören in die Betriebsplanung. Nach dem Start wird das Modell privat gehostet und überwacht und bei Bedarf nachtrainiert.
Beispiel: Dokumentenautomatisierung
Für einen gemeinnützigen Kölner Verein entstand 2025 ein maßgeschneiderter KI-Workflow, der die Dokumentenverarbeitung automatisiert und den Arbeitsalltag des Teams beschleunigt.
Haben Sie einen ähnlichen Anwendungsfall? Beschreiben Sie ihn uns kurz: Im kostenlosen Erstgespräch von 30 Minuten klären wir mit dem Ingenieur, der Ihr Modell auch betreibt, ob und wie er sich umsetzen lässt.
KI-Dokumentenautomatisierung
Ein maßgeschneiderter KI-Workflow automatisiert die Dokumentenverarbeitung und beschleunigt den Arbeitsalltag des Teams.
Häufige Fragen.
Brauchen wir Fine-Tuning oder reicht RAG?
Wenn das Modell Wissen aus Ihren Dokumenten wiedergeben soll, reicht meist RAG. Fine-Tuning lohnt sich, wenn es einen bestimmten Stil, ein Format oder eine Fachsprache zuverlässig beherrschen muss. Oft ist die Kombination am besten.
Verlassen unsere Daten das Unternehmen?
Nein, wenn Sie das nicht möchten. Wir betreiben Modelle auf Ihrer eigenen Hardware oder auf Infrastruktur in der EU – ohne Aufrufe an US-APIs.
Welche Modelle setzen Sie ein?
Offene Modelle wie Llama, Mistral oder Qwen, je nach Sprache, Aufgabe und verfügbarer Hardware. Für klassische Aufgaben wie Klassifikation oder Bilderkennung auch eigene ML-Modelle.
Wie viele Daten brauchen wir?
Für RAG reichen Ihre vorhandenen Dokumente. Für Fine-Tuning genügen oft einige hundert bis tausend gute Beispiele. Im Daten-Check sagen wir Ihnen, was realistisch ist.
Was kostet ein eigenes KI-Modell?
Das hängt vom Use Case ab. Wir starten mit einer Analysephase zum Festpreis – Daten-Check und Prototyp –, bevor größere Investitionen anfallen. Beauftragen Sie danach das Projekt, rechnen wir sie an.