Fine-Tuning, RAG oder Prompt: der Datenschutz-Kompromiss

Es gibt drei Wege, einem allgemeinen Modell Ihre Domäne zu geben. Sie können es fine-tunen und Ihre Daten in die Gewichte einbacken. Sie können abrufen, Ihre Daten zur Laufzeit holen und dem Modell als Kontext übergeben. Oder Sie können prompten und Ihre Domäne bei jedem Aufruf in den Anweisungen beschreiben. Die meisten Teams wählen nach Fähigkeit und Kosten: Was macht das Modell am genauesten, für das wenigste Geld und den geringsten Aufwand.

Nur sind das in einem regulierten Unternehmen die nachrangigen Fragen. Die erste lautet, wo Ihre regulierten Daten am Ende leben, denn diese eine Tatsache entscheidet, ob Sie das System prüfen, die Daten einer Person auf Verlangen löschen und Ihr Fachwissen ohne Retraining-Projekt aktualisieren können. Die Wahl zwischen Fine-Tuning, RAG und Prompting ist eine Data-Governance-Entscheidung im Engineering-Kostüm. Wählen Sie allein nach Genauigkeit, können Sie sich in eine Architektur manövrieren, in der ein gewöhnliches Löschverlangen ein Modell-Retraining bedeutet.

Gut zu wählen heißt, nicht mehr zu fragen, welche Technik am leistungsfähigsten ist, sondern wo jede Ihre regulierten Daten ablegt und was dieser Ort kostet, wenn eine Aufsicht, eine Kundin oder Ihr eigener Änderungsprozess anklopft.

Wo die Daten leben: eingebacken, abgerufen oder im Kontext

Die drei Ansätze unterscheiden sich auf einer Achse, die alles Weitere bestimmt: Dauerhaftigkeit und Ort Ihrer regulierten Daten relativ zum Modell.

Fine-Tuning backt die Daten in die Gewichte. Sie nehmen Beispiele aus Ihrer Domäne, oft mit echten Datensätzen, und trainieren das Modell darauf. Nach dem Training ist diese Information über Milliarden Parameter verteilt. Es ist kein Dokument mehr, auf das man zeigen kann. Es ist ein statistischer Rückstand im Modell, und das Modell kann ihn in einer Ausgabe reproduzieren, ohne ihn je "abgerufen" zu haben, weil er nie als abrufbares Ding gespeichert war. Das ist die intimste Form des Lehrens und die am wenigsten umkehrbare.

RAG hält die Daten in einem Speicher, den das Modell zur Laufzeit liest. Ihr regulierter Inhalt bleibt in einer Datenbank oder einem Index, der Ihnen gehört. Zur Abfragezeit wird das passende Stück geholt und ins Kontextfenster gelegt, für diese eine Antwort genutzt und aus Sicht des Modells danach wieder fort. Die Gewichte des Modells ändern sich nie. Die Daten leben, wo Sie sie hingelegt haben, unter Ihren Zugriffskontrollen, und das Modell leiht sie kurz.

Prompting legt die Daten in die Anweisung, im Kontext, pro Aufruf. Nichts bleibt bestehen. Das Fachwissen wird im Prompt beschrieben oder geliefert, für diese eine Inferenz genutzt und verworfen. Es ist die flüchtigste Option: Das Modell lernt Ihre Domäne für die Dauer eines API-Aufrufs und vergisst sie danach vollständig.

Dasselbe Ziel, drei radikal verschiedene Data-Governance-Profile. Der Rest der Entscheidung folgt aus dieser einen Unterscheidung.

Prüfbarkeit und Löschrecht: die Fragen, die eine Aufsicht wirklich stellt

Zwei Pflichten legen den Unterschied scharf offen, und beide sind in einem regulierten Haus Routine.

Nehmen Sie Prüfbarkeit. Eine Aufsicht fragt: Welche Informationen hat das System für diese Entscheidung genutzt, und können Sie sie mir zeigen? Mit RAG ist die Antwort sauber. Sie haben genau diese Dokumente abgerufen, in dieser Indexversion, und die Entscheidung wurde daraus abgeleitet; die Nachweisspur nennt die Quellen. Mit Prompting ist es ebenso sauber: Der Kontext wurde aus diesen Eingaben zusammengestellt, hier sind sie. Mit einem fine-getunten Modell ist die ehrliche Antwort unbequem. Die Entscheidung schöpfte aus Wissen, das beim Training in die Gewichte diffundierte, und Sie können nicht auf den konkreten Datensatz zeigen, der sie prägte. Sie können den Trainingsdatensatz beschreiben; Sie können eine konkrete Ausgabe nicht auf eine konkrete Eingabe zurückführen. Für einen Prozess, in dem jede Entscheidung eine prüfbare Grundlage braucht, ist das ein strukturelles Problem, keine Dokumentationslücke.

Nehmen Sie nun das Löschrecht. Eine Person macht ihr Recht auf Löschung geltend. Lag ihr Datensatz in einem RAG-Speicher, löschen Sie ihn, und er ist aus künftigen Abrufen verschwunden, sofort und nachweisbar. War er nur je in Prompts, wurde er nie gespeichert; es gibt nichts zu löschen. Wurden ihre Daten aber in ein fine-getuntes Modell gebacken, ist das Löschen wirklich schwer. Die Information ist in den Gewichten verflochten, und es gibt keine saubere Operation, den Beitrag einer Person zu entfernen, außer ohne sie neu zu trainieren oder Machine-Unlearning-Techniken anzuwenden, die noch reifen und einer Aufsicht schwer zu belegen sind. Ein Recht, das Sie in Tagen erfüllen müssen, kann mit einem Modell kollidieren, das Sie in Wochen neu trainieren.

Keines davon macht Fine-Tuning falsch. Sie machen es zu einer Festlegung, deren voller Preis erst später sichtbar wird, genau dann, wenn eine regulierte Organisation eine Überraschung am wenigsten verkraftet.

Aktualisierungskosten: wie schnell kann sich Ihr Fachwissen ändern?

Es gibt eine dritte praktische Achse, und sie beißt betrieblich statt juristisch: Wie teuer ist es, zu ändern, was das Modell weiß?

Fachwissen in einem regulierten Geschäft ist nicht statisch. Eine Policy wird revidiert, eine Schwelle verschiebt sich, eine Regel wird abgelöst. Wie jeder Ansatz diese Änderung aufnimmt, unterscheidet sich um Größenordnungen. Einen RAG-Korpus zu aktualisieren ist eine Dokumentoperation: Quelle ersetzen, neu indexieren, fertig, und die Änderung gilt ab der nächsten Abfrage. Einen Prompt zu aktualisieren ist eine Textänderung und ein erneutes Ausrollen der Anweisung. Wissen zu aktualisieren, das in fine-getunten Gewichten lebt, heißt neuer Trainingslauf, Revalidierung und kontrolliertes Release einer neuen Modellversion. Die ersten beiden sind Stunden. Das dritte ist ein Projekt.

Hier wird Veraltung zum Governance-Risiko statt zur Unannehmlichkeit. Ändert sich Ihr reguliertes Wissen schneller, als Sie neu trainieren können, driftet ein fine-getuntes Modell, das dieses Wissen kodiert, zwischen den Trainingsläufen aus der Compliance, und nichts an seinem Verhalten kündigt das an. RAG und Prompting halten den schnell wechselnden, regulierten Inhalt in einer Schicht, die Sie im Tempo der tatsächlichen Regeländerungen aktualisieren können.

Ein Entscheidungsrahmen für ein reguliertes Team

Nichts davon läuft auf "nehmt immer RAG" hinaus. Es läuft darauf hinaus, die Technik daran auszurichten, was die Daten sind und wie sie sich verhalten.

Der Rahmen, der vor einem Risikoausschuss standhält, trennt zwei Dinge, die das Modell braucht. Es braucht Fertigkeiten, die stabile, allgemeine Kompetenz, ein Dokument zu lesen, ein Format einzuhalten, eine strukturierte Aufgabe zu durchdenken. Und es braucht Fakten, den konkreten, veränderlichen, oft regulierten Inhalt, über den es nachdenkt. Legen Sie beides an verschiedene Orte.

Fine-Tuning ist verteidigbar, um dauerhafte, unsensible Fertigkeiten zu lehren: einen Hausstil, ein Ausgabeschema, ein Denkmuster, das sich nicht ändert und keine personenbezogenen Daten trägt. Es ist ein schlechter Ort für Fakten und ein gefährlicher für regulierte Fakten, genau wegen Prüfbarkeit, Löschung und Aktualisierungskosten. Regulierte Fakten gehören in RAG, wo sie prüfbar, löschbar und aktuell bleiben, unter einer Zugriffskontrolle, die beim Abruf greift. Und Prompting trägt den flüchtigen Kontext pro Aufruf, der weder bleibt noch bleiben muss. Die meisten robusten regulierten Systeme nutzen alle drei bewusst, mit einer klaren Regel, welche Art von Information wo leben darf, statt nach dem zu greifen, was in einer Demo am genauesten aussah.

Die Frage, die vor der Technikwahl zu klären ist, lautet also nicht "welcher Ansatz macht das Modell am genauesten?". Sie lautet: welche regulierten Daten würde uns dieser Ansatz speichern lassen, wo würden sie liegen, und können wir sie im Tempo unserer Pflichten prüfen, löschen und aktualisieren? Beantworten Sie das zuerst, und Genauigkeit wird zu einer Wahl innerhalb eines sicheren Entwurfs statt zum Grund, in einem unsicheren gelandet zu sein.

Wenn Sie kartieren wollen, welches Fachwissen in die Gewichte, in den Abruf oder in den Prompt gehört, buchen Sie einen Termin und bringen Sie uns den Prozess mit den meisten regulierten Daten mit.