Datenkontrolle reicht über den KI-Server hinaus
Lokale Inferenz kann einen Datenweg begrenzen. Ein Portal mit externen Fehlerprotokollen zeigt, warum die übrige Anwendung ebenfalls geprüft werden muss.
Ein lokal betriebenes Sprachmodell kann eine wichtige Datengrenze ermöglichen. Wie weit diese Kontrolle reicht, hängt auch von der Anwendung ab, die das Modell aufruft. Die Eingabe kann den Modellserver korrekt erreichen und trotzdem an einer anderen Stelle außerhalb der freigegebenen Umgebung gespeichert werden.
Ein interner Modellaufruf mit einem zweiten Datenweg
In einer fiktiven Architektur fasst ein Projektportal interne Notizen über einen eigenen Modelldienst zusammen. Der reguläre Aufruf bleibt innerhalb der Unternehmensumgebung. Bei einem Verarbeitungsfehler sendet die Anwendung jedoch den vollständigen Anfrageinhalt an einen externen Fehlerdienst. Die Modellverarbeitung ist weiterhin lokal; die Notiz ist über den Fehlerpfad trotzdem nach außen gelangt. Das ist ein konstruiertes Gegenbeispiel, kein beobachteter Kundenfall.
Der Modellserver kann diese zusätzliche Übertragung im Anwendungscode nicht allein verhindern. Sie muss beim Portal und beim Fehlerdienst bewertet werden. Ein passender Entwurf kann für die Störung beispielsweise einen Fehlercode und eine Vorgangsreferenz statt des Notiztexts erfassen. Welche Ereignisse erforderlich sind, bleibt eine eigene Entscheidung; alle Protokolle abzuschalten würde die Betriebsfrage nicht lösen.
Dasselbe gilt innerhalb der Umgebung: Ein lokales Modell macht eine Notiz nicht automatisch nur für das berechtigte Projektteam sichtbar. Die Anwendung muss den Zugriff auf Eingaben und Ergebnisse begrenzen. OWASP behandelt sensible Daten ausdrücklich im Kontext der gesamten LLM-Anwendung und empfiehlt den Zugriff nach dem geringsten erforderlichen Recht. Eine Anweisung an das Modell, keine vertraulichen Daten auszugeben, ersetzt diese Zugriffskontrolle nicht.
Wann der lokale Betrieb ein starkes Argument ist
Wenn Geschäftsdaten die eigene freigegebene Umgebung nicht verlassen dürfen, kann ein dort betriebener Modelldienst genau diese Anforderung unterstützen. Voraussetzung ist, dass auch Oberfläche, Zusatzdienste, Protokolle und Sicherungen diese Grenze einhalten. Diese Kontrolle ist ein konkreter Vorteil, wenn sie tatsächlich eingerichtet und überprüft ist.
Dafür braucht das Unternehmen die Fähigkeit, Modell und Laufzeit zu aktualisieren, Zugänge zu verwalten und den Dienst nach einer Störung wiederherzustellen. Ein verwalteter Dienst verschiebt vereinbarte Betriebsaufgaben zum Anbieter. Er kann für einen freigegebenen Datenweg geeignet sein; seine Bezeichnung sagt noch nichts über die konkrete Verarbeitung und Aufbewahrung aus. Daraus folgt kein pauschaler Kosten- oder Sicherheitsgewinner.
Welche Beobachtung die Bewertung verändert
Für das Portal wäre eine nachgewiesene externe Kopie des Notiztexts ein Grund, die Aussage über den vollständig internen Datenweg zurückzunehmen. Zeigt eine Prüfung hingegen, dass regulärer Aufruf und Fehlerpfade innerhalb der Grenze bleiben und nur berechtigte Rollen auf Inhalte zugreifen, gewinnt das Argument für lokale Kontrolle an Gewicht. Die Ollama-FAQ verdeutlicht am Produktbeispiel bereits die Unterscheidung zwischen lokalen und Cloud-Funktionen; die vollständige Portalprüfung geht darüber hinaus.
Ob die skizzierte Architektur diese Bedingungen erfüllt, müsste eine Prüfung erst zeigen.
Quellen
Weiterlesen
Alle Beiträge
KI & Automatisierung mit ASES
KI-Assistenten und automatisierte Abläufe