RAG und Fine-Tuning: 2 Methoden zur Verbesserung von generativen KI-Chatbots

Was ist ein vortrainiertes Modell?

Wenn man von KI-Modellen spricht, meint man in der Regel Algorithmen, die neuronale Netze verwenden. Diese Technologie wird von Large Language Models (LLM) wie ChatGPT oder Mistral Large, von Algorithmen zur Bilderzeugung oder zur visuellen Erkennung verwendet. Diese Modelle werden mit sehr großen Datensätzen trainiert, wodurch sie eine solide Grundlage in dem Fachgebiet erwerben, das sie später beherrschen werden. Auf den verschiedenen Schichten eines Netzwerks können viele Parameter eingestellt werden, um die Art und Weise der Informationsverarbeitung zu verändern. Man kommt auf mehrere Milliarden Parameter, wenn die Modelle wirklich umfangreich sind (genug Raum für individuelle Anpassungen…)!

Was ist Fine-Tuning und RAG?

Beim Fine-Tuning nimmt man ein vortrainiertes Modell und passt es für bestimmte Aufgaben oder Bereiche mit weniger Daten an. Mit dieser Methode kann die Leistung des Modells bei bestimmten Aufgaben verbessert werden, indem die Gewichtung der neuronalen Verbindungen und seine Parameter verfeinert wird, um den spezifischen Anforderungen besser gerecht zu werden, während das zuvor erworbene Wissen erhalten bleibt.

Bei der abrufgestützten erweiterten Generierung (Recovery Augmented Generation oder RAG) wiederum wird ein Sprachmodell mit einem System zum Abrufen von Informationen kombiniert. Bei der Generierung von Antworten verwendet das Modell eine Suchmaschine, um relevante Informationen aus einer Datenbank oder einem externen Dokumentenbestand abzurufen, und integriert diese Informationen dann in den Prozess der Texterzeugung. Ziel ist es, die Antworten des Modells mit aktuellen und spezifischen Informationen anzureichern, die nicht unbedingt in seinem ursprünglichen Training enthalten sind. Dadurch kann das Modell besser fundierte, präzisere und detailliertere Antworten geben, als ein herkömmliches Modell es könnte.

So trainiert das Fine-Tuning ein Modell in einem bestimmten Bereich, so wie ein Student, der für seine Thermodynamik-Prüfung speziell das Thema Wärmekraftmaschinen lernt. Andererseits versorgt RAG das Modell bei der Generierung der Antwort mit Informationen, ähnlich wie bei einer Thermodynamik-Prüfung, bei der das neue Konzept der Wärmekraftmaschine den Schülern zur Beantwortung der Fragen zur Verfügung gestellt wird.

Schließlich gibt es noch eine Kombination aus beiden Methoden: die RAFT-Methode. Die RAFT-Methode (Retrieval-Augmented Fine-Tuning) kombiniert die Stärken von Fine-Tuning und RAG, um die Relevanz von generativen KI-Chatbots noch weiter zu verbessern. Durch die Integration des Echtzeitzugriffs auf externe Informationen bei gleichzeitiger Verfeinerung des Modells mit spezifischen Daten ermöglicht RAFT eine präzisere Anpassung an die Bedürfnisse des Nutzers. Dieser innovative Hybridansatz maximiert die Leistung des Chatbots, indem er die Vorteile beider Techniken nutzt.

Fine-Tuning ist besonders in Bereichen nützlich, in denen das Sammeln großer Mengen an Daten teuer oder unpraktisch ist. So haben sich mit LEGAL-BERT für den Rechtsbereich, BloombergGPT für den Finanzbereich, Meditron von Meta für den Gesundheitsbereich oder Codestral von Mistral für die Programmierung zahlreiche spezialisierte Modelle herausgebildet. Der französische Akteur Mistral hat übrigens eine Schnittstelle namens „La Plateforme“ herausgebracht, auf der man seine Modelle individuell anpassen kann.

Viele große Konzerne wie Axa oder Capgemini haben RAG auch intern eingeführt, um aus ihren zahlreichen Dokumenten möglichst viel herauszuholen. Die Modelle werden auf ihren eigenen Servern gehostet, was es ihnen ermöglicht, keine Dokumente online zu teilen. So verfügen sie über einen speziell auf ihr Wissen zugeschnittenen Chatbot, was die Informationssuche erheblich vereinfacht.

Im Jahr 2024 werden die Investitionen von Amazon, Microsoft, Google und Meta in Serverfabriken auf 200 Milliarden US-Dollar geschätzt¹https://www.lemonde.fr/economie/article/2024/06/14/derriere-l-ia-la-deferlante-des-data-centers_6239694_3234.html#:~:text=Dans%20ce%20pays%2C%20les%20centres,%2C%20EirGrid%2C%20le%20RTE%20irlandais. Diese Investitionen sind größtenteils notwendig, um die Zuverlässigkeit der bestehenden Modelle zu verbessern und ihre Spezialisierung zu vertiefen.

Erfahren Sie, wie unser Team Sie bei Ihren Projekten im Zusammenhang mit Künstlicher Intelligenz begleiten kann >

Grenzen und Herausforderungen der LLM-Spezialisierung

Die Spezialisierung von KI-Modellen geht natürlich mit Herausforderungen einher. Zu den wichtigsten Herausforderungen gehören:

• Qualität und Quantität der Daten: Für das Fine-Tuning sind ausreichend viele und qualitativ hochwertige, gekennzeichnete Daten erforderlich, um die Modelle erfolgreich neu zu trainieren. Diese Datensätze sind oft mühsam zu beschaffen und zu verarbeiten.
• Overfitting: Overfitting tritt auf, wenn ein Modell lernt, sich die Trainingsdaten zu merken, anstatt die Muster zu verallgemeinern. Es sollten Vorsichtsmaßnahmen ergriffen werden, um dieses Phänomen zu vermeiden.
• Bedenken bezüglich Verzerrungen: Spezialisierte Modelle können Verzerrungen übernehmen, die in vortrainierten Modellen oder Trainingsdaten vorhanden sind, was zu unfairen oder diskriminierenden Ergebnissen führt. Unternehmen sollten beim Einsatz von KI-Systemen in realen Umgebungen Fairness, Transparenz und ethische Überlegungen in den Vordergrund stellen.
• Beschränkte Ressourcen: Fine-Tuning kann vor allem bei großen Modellen und Datensätzen rechenintensiv sein. Daher sollten die Computerressourcen und Infrastrukturkapazitäten sorgfältig bewertet werden, um eine effektive Schulung und Bereitstellung der Modelle zu gewährleisten.
• Anpassung an Datenformate : Beim Fine-Tuning mit unternehmensspezifischen Daten können Unterschiede in Formaten oder Strukturen im Vergleich zu den Standards, die in den vorab trainierten Modellen verwendet werden, Probleme verursachen. Häufig ist zusätzliche Arbeit erforderlich, um das Modell an diese Besonderheiten anzupassen und damit eine gute Integration in bestehende interne Systeme zu gewährleisten.

Im Zuge des Aufschwungs von KI stellt die Spezialisierung von trainierten Modellen einen bedeutenden Fortschritt dar. Sie ermöglicht eine stärkere Personalisierung und Effizienzsteigerung in sehr vielen Bereichen, indem sich die Modelle an den spezifischen Bedarf der Nutzer anpassen. Wenn die aktuellen Herausforderungen überwunden werden, könnten Fine-Tuning und RAG die Tür zu noch gezielteren und einschneidenden Innovationen, z. B. im Gesundheitswesen oder in der Industrie, öffnen. Die kontinuierliche Erforschung dieses Bereichs wird es uns ermöglichen, die KI weiterhin nach unseren Bedürfnissen formen und damit eine Ära der echten Zusammenarbeit zwischen Mensch und Maschine einläuten. Alcimed kann Sie bei Ihren Projekten begleiten. Zögern Sie nicht, unser Team zu kontaktieren!

Über den Autor, 

Paul-Emile, Data Scientist in Alcimeds Life Sciences Team in Frankreich