Company News

23. Jul 2026

Progress: RAG oder KI-Finetuning – Welcher Ansatz lohnt sich wirklich?

Köln, 23. Juli 2026 – Der Einsatz von KI ist für die meisten Unternehmen mittlerweile obligatorisch. Viel mehr beschäftigt sie nun die Frage, wie sie das Modell mit spezifischem Wissen ausstatten sollen: via Retrieval-Augmented Generation (RAG) oder per KI-Finetuning. Progress, ein bewährter Anbieter von KI-gestützten Digital Experiences und Infrastruktursoftware, hat dafür ein einfaches Entscheidungsframework entwickelt.

RAG oder KI-Finetuning? Unternehmen, die sich diese Frage stellen, sind bereits mitten auf dem Weg ins KI-Zeitalter. Welcher Ansatz der sinnvollere für ihren konkreten Anwendungsfall ist, das finden sie anhand von sieben einfachen Fragen heraus:

1. Ändern sich unsere Daten häufig?

Für Unternehmen, die ihre Daten regelmäßig aktualisieren – etwa, weil sie neue Produkte einführen oder sich Richtlinien ändern, ist RAG in den meisten Fällen die beste Wahl. RAG greift zur Laufzeit auf aktuelle Dokumente zu und kann neue Inhalte nahezu in Echtzeit berücksichtigen. KI-Finetuning hingegen speichert Wissen indirekt im Modell, weshalb jede relevante Änderung einen erneuten Trainingszyklus erfordert. Das bindet Zeit, Budget und operative Ressourcen. In dynamischen Geschäftsumgebungen wird KI-Finetuning somit schnell unpraktisch.

2. Muss unser KI-Modell auf Dokumente oder Datenquellen verweisen können?

Auch wenn Nachvollziehbarkeit und Quellenangaben wichtig sind, spricht das klar für RAG. Das System kann durch diese Technologie relevante Dokumente abrufen und diese als Grundlage für die Antwort verwenden. Auf diese Weise lassen sich Aussagen mit Quellen belegen und Nutzer können die Herkunft von Informationen nachvollziehen. KI-Finetuning bietet diese Fähigkeit nicht. Das Modell generiert zwar Antworten auf Basis gelernter Muster, kann jedoch in der Regel nicht zuverlässig auf ein bestimmtes Dokument verweisen oder dessen Inhalt zitieren.

3. Kommt es auf Tonalität, Stil oder Verhalten an?

Soll ein KI-Modell dauerhaft eine bestimmte Markenstimme, einen speziellen Schreibstil oder ein fest definiertes Antwortverhalten übernehmen, kann KI-Finetuning für mehr Konsistenz sorgen. Dennoch empfiehlt es sich für Unternehmen, zunächst Prompt Engineering und RAG zu testen. In vielen Projekten lassen sich gewünschte Verhaltensweisen bereits durch gute System-Prompts, Beispiele und kontextbezogene Dokumente erreichen. Das ist überdies oft deutlich schneller und kostengünstiger als durch ein eigenes KI-Training.

4. Haben wir Budget und Zeit für wiederkehrende Trainingszyklen?

Lautet die Antwort auf diese Frage „nein“, ist RAG meist die bessere Option. KI-Finetuning umfasst in der Regel weit mehr als das simple Hochladen einiger Dateien: Unternehmen müssen die Daten bereinigen, strukturieren und validieren. Anschließend folgen Training, Evaluation, Optimierung und Deployment. Dieser Prozess wiederholt sich bei neuen Anforderungen oder Datenänderungen relativ häufig. RAG erfordert zwar ebenfalls eine technische Infrastruktur, ermöglicht jedoch wesentlich schnellere Iterationen und benötigt deutlich geringere Anfangsinvestitionen.

5. Benötigen wir überprüfbare und vertrauenswürdige Antworten?

Sind die Qualität und Verifizierbarkeit von Antworten geschäftskritisch, bietet RAG erhebliche Vorteile. Da Antworten auf tatsächlich abgerufenen Dokumenten basieren, kann das KI-Modell Quellen transparent referenzieren. Das schafft Vertrauen bei Nutzern und reduziert das Risiko von Halluzinationen. KI-Finetuning kann zwar domänenspezifisches Wissen vermitteln, liefert aber keine direkte Verbindung zur ursprünglichen Informationsquelle. Nutzer müssen der Antwort vertrauen, ohne deren Grundlage direkt prüfen zu können.

6. Ist unser Anwendungsfall stark domänenspezifisch und basiert auf statischem Wissen?

In solchen Szenarien kann KI-Finetuning eine sinnvolle Investition sein. Wenn sich die zugrunde liegenden Informationen selten ändern und gleichzeitig ein sehr spezifisches Fachvokabular, bestimmte Denkweisen oder standardisierte Ausgaben erforderlich sind, kann ein feinjustiertes KI-Modell bessere Ergebnisse liefern. Beispiele sind juristische Dokumentenerstellung oder hochspezialisierte Fachanwendungen. Dennoch empfiehlt sich häufig ein RAG-Ansatz als Ausgangspunkt, da er schneller implementiert und einfacher zu warten ist.

7. Verfügen wir bereits über saubere, strukturierte und gelabelte Trainingsdaten?

Wenn nicht, ist RAG in der Regel der deutlich einfachere Weg. Erfolgreiches KI-Finetuning steht und fällt mit der Qualität der Trainingsdaten. Unternehmen müssen Datensätze bereinigen, konsistent formatieren und oft manuell prüfen. Dieser Aufwand wird häufig unterschätzt und kann Wochen oder Monate in Anspruch nehmen. RAG benötigt ebenfalls eine strukturierte Wissensbasis, stellt jedoch wesentlich geringere Anforderungen an die Aufbereitung und ermöglicht deutlich schnellere erste Ergebnisse.

„Viele Unternehmen gehen fälschlicherweise davon aus, dass sie ein KI-Modell mit ihren eigenen Daten trainieren müssen“, erklärt Thomas Schuller, Regional Director DACH bei Progress Software. „In der Praxis zeigt sich jedoch, dass RAG-Ansätze bereits einen Großteil der Anforderungen erfüllen. Für den Feinschliff im Hinblick auf die Tonalität oder ein tieferes Domänenverständnis kann ein spezielles KI-Finetuning als ergänzende Maßnahme sinnvoll sein. Dennoch ist RAG in den meisten Fällen die absolut sinnvolle Variante.“


Über Progress

Progress Software (Nasdaq: PRGS) ermöglicht es Organisationen, in Zeiten des Wandels und des Umbruchs ihren Erfolg zu steigern. Die Software von Progress erlaubt es ihnen, verantwortungsvolle, KI-gestützte Anwendungen und personalisierte digitale Erlebnisse flexibel und einfach zu entwickeln, bereitzustellen und zu verwalten. Unternehmen aller Größen erhalten mit Progress einen bewährten Anbieter, der über die passenden Produkte, das notwendige Fachwissen und die Vision verfügt, um die Umwälzungen durch KI in einen Wettbewerbsvorteil zu verwandeln. Millionen Entwickler und Technologen in Hunderttausenden von Unternehmen verlassen sich auf Progress. Weitere Informationen: www.progress.com.

Pressekontakt

PR-COM
Andrea Groß
Account Director
Tel. +49 89 59997 803
andrea.gross@pr-com.de