Zum Inhalt springen

KI-Betrieb wählen: Datenwege vor dem Modellvergleich klären

Ein ausgearbeitetes Portalbeispiel zeigt, wie Sie Datenwege, Protokolle und Betriebsaufgaben für einen eigenen Modellserver und einen Cloud-Dienst vergleichen.

Nora Henning2 Min. Lesezeit
Transparenter Kartuschenrahmen mit Serverblock, Zahnradchip und Datenbanksymbol, verbunden durch eine blaue Linie.

Wählen Sie den KI-Betrieb für einen konkreten Arbeitsablauf. Ein Modell auf einem eigenen Server und ein verwalteter Modellservice unterscheiden sich bei der Verarbeitung und beim Betrieb. Welche Variante passt, zeigt erst der gesamte Weg von der Eingabe bis zum gespeicherten Ergebnis.

Aufgabe und Datengrenze festlegen

Ein fiktives Softwareunternehmen möchte im Projektportal interne Notizen zusammenfassen. Eine Person darf nur Notizen ihres freigegebenen Projekts lesen und prüft den Entwurf, bevor er gespeichert wird. Das Modell erhält keine Aufgabe, Nachrichten zu versenden oder Projektberechtigungen zu ändern.

Für das Beispielprojekt P-72 gilt eine interne Vorgabe: Unbearbeitete Kundennotizen dürfen nicht an externe Verarbeitungsdienste gehen. Das ist eine Annahme dieses Beispiels. Sie ersetzt keine Prüfung der tatsächlichen Daten und Anforderungen Ihres Unternehmens.

Den vollständigen Datenweg vergleichen

Die Tabelle beschreibt geplante Abläufe, keine getestete Installation. „Eigener Modellserver“ meint hier einen vom Unternehmen betriebenen Server innerhalb der freigegebenen Umgebung. Ein gemieteter Server kann ebenfalls selbst betrieben werden; seine Aufnahme in die freigegebene Umgebung muss gesondert geklärt werden. Der Standort allein beschreibt die Aufgabenverteilung nicht.

Schritt

Eigener Modellserver

Verwalteter Modellservice

Eingabe

Portal prüft Projektzugriff und liest die ausgewählte Notiz.

Portal prüft denselben Zugriff und liest dieselbe Notiz.

Notiz geht an den internen Modelldienst.

Notiz würde an den Anbieter gehen; unter der Beispielvorgabe gesperrt.

Protokolle

Portal, Proxy und Fehlerdienst auf Textkopien prüfen.

Zusätzlich die Verarbeitung und Protokollierung beim Anbieter klären.

Ausfall

Person fasst manuell zusammen; kein externer Ersatzaufruf.

Person fasst manuell zusammen; kein Wechsel zu einem ungeprüften Dienst.

Im geplanten Betriebslog stehen etwa requestId und status, nicht der vollständige Notiztext oder die Modellantwort. Diese eigenen Beispielattribute sind kein vollständiges Sicherheitsprotokoll. Auch Fehlerbehandlung, Supportexporte und Sicherungen müssen die festgelegte Datengrenze einhalten.

Die tatsächlich verwendete Laufzeit prüfen

Die Ollama-FAQ unterscheidet beispielsweise lokale Verarbeitung und Cloud-Modelle und beschreibt das Abschalten von Cloud-Funktionen. Das betrifft die jeweilige Laufzeit. Eine vorgeschaltete Oberfläche, eine Erweiterung oder ein separater Fehlerdienst kann weitere Verbindungen haben. Der Name des installierten Programms belegt deshalb nicht den gesamten Datenweg.

Prüfen Sie in einem freigegebenen Pilotaufbau die verwendeten Ziele, die Inhalte der anfallenden Protokolle und den Ausfallweg. Eine reine Netzwerkzielliste belegt weder die Inhalte verschlüsselter Übertragungen noch die Speicherung beim Anbieter. Für einen externen Dienst brauchen Sie auch dessen konkrete Verarbeitungs- und Aufbewahrungsangaben; eine allgemeine Cloud-Aussage genügt nicht.

Betrieb und Eignung gemeinsam entscheiden

Für den eigenen Modellserver muss Ihr Team Aktualisierung, Zugriff, Kapazität, Überwachung und Wiederherstellung übernehmen. Beim Modellservice übernimmt der Anbieter den vereinbarten Modellbetrieb; Portalrechte, Integration und eigene Protokolle bleiben Aufgaben Ihres Teams. Vergleichen Sie beide zunächst mit denselben synthetischen Eingaben und erwarteten Ergebnissen. Das gibt echte Kundennotizen noch nicht für die Verarbeitung frei. Qualität und Wartezeiten unter der benötigten Last werden im Piloten ermittelt, nicht aus dem Standort abgeleitet.

Unter der Beispielvorgabe ist der externe Modellaufruf noch nicht freigegeben. Der eigene Server kommt infrage, wenn Datenweg, Ergebnisqualität und Betrieb geprüft sind. Fehlt ein verantwortliches Betriebsteam, ist auch diese Variante noch nicht einsatzbereit. Eine andere Datenklasse oder die Freigabe eines konkreten externen Datenwegs kann die Entscheidung ändern.

Quellen

Geschrieben von

  • Nora HenningRedakteurin für IT-SicherheitNora Henning betreut bei ASES die redaktionellen Inhalte zur IT-Sicherheit. Sie schreibt über die Sicherheit von Anwendungen und erklärt, wie Zugriffsrechte und der Schutz von Unternehmensdaten zusammenhängen.

ASES folgen

Weiterlesen

Alle Beiträge

KI & Automatisierung mit ASES

KI-Assistenten und automatisierte Abläufe