Vai al contenuto

Scegliere dove eseguire l’IA: esaminare il flusso dei dati

Un esempio di portale svolto mostra come confrontare flussi di dati, log e compiti operativi di un server di modelli proprio e di un servizio cloud.

Nora Henning3 min di lettura
Involucro trasparente di una cartuccia con blocco server, chip con ingranaggio e simbolo di database collegati da una linea blu.

Scelga come eseguire l’IA per un processo preciso. Un modello su un server proprio e un servizio di modelli gestito differiscono nel trattamento e nella gestione operativa. L’opzione adatta emerge solo seguendo l’intero percorso, dall’input al risultato salvato.

Definire il compito e il perimetro dei dati

Un’azienda software fittizia vuole riassumere note interne nel proprio portale progetti. Una persona può leggere soltanto le note del progetto per cui è autorizzata e controlla la bozza prima di salvarla. Il modello non ha il compito di inviare messaggi o modificare i permessi del progetto.

Per il progetto di esempio P-72 vale una regola interna: le note dei clienti non elaborate non possono essere inviate a servizi esterni di trattamento. È un’ipotesi dell’esempio. Non sostituisce l’esame dei dati e dei requisiti reali della Sua azienda.

Confrontare l’intero percorso dei dati

La tabella descrive flussi previsti, non un’installazione collaudata. Qui «server di modelli autogestito» indica un server gestito dall’azienda nell’ambiente approvato. Anche un server noleggiato può essere autogestito; la sua inclusione in quell’ambiente deve essere valutata separatamente. La posizione da sola non descrive la ripartizione dei compiti.

Passaggio

Server di modelli autogestito

Servizio di modelli gestito

Input

Il portale verifica l’accesso al progetto e legge la nota selezionata.

Il portale verifica lo stesso accesso e legge la stessa nota.

La nota raggiunge il servizio di modelli interno.

La nota raggiungerebbe il fornitore; la regola dell’esempio impedisce questo invio.

Log

Verificare la presenza di copie del testo nel portale, nel proxy e nel servizio per gli errori.

Chiarire anche il trattamento e la registrazione presso il fornitore.

Interruzione

La persona riassume manualmente; nessuna chiamata esterna di riserva.

La persona riassume manualmente; nessun passaggio a un servizio non valutato.

Il log operativo previsto contiene, per esempio, requestId e status, senza il testo completo della nota o la risposta del modello. Questi attributi di esempio propri dell’applicazione non definiscono un log di sicurezza completo. Anche gestione degli errori, esportazioni per l’assistenza e backup devono rispettare il perimetro stabilito.

Esaminare l’ambiente di esecuzione effettivamente utilizzato

Le FAQ di Ollama, per esempio, distinguono l’elaborazione locale dai modelli cloud e descrivono come disattivare le funzioni cloud. Questo riguarda quell’ambiente di esecuzione. Un’interfaccia, un’estensione o un servizio separato per gli errori può avere altre connessioni. Il nome del programma installato non dimostra quindi l’intero percorso dei dati.

In un progetto pilota approvato, esamini le destinazioni utilizzate, il contenuto dei log prodotti e il comportamento in caso di interruzione. Un semplice elenco di destinazioni di rete non dimostra né il contenuto dei trasferimenti cifrati né la conservazione presso il fornitore. Per un servizio esterno servono anche informazioni precise sul trattamento e sulla conservazione; un’affermazione generale sul cloud non basta.

Decidere insieme su gestione operativa e idoneità

Per un server di modelli autogestito occorre assegnare aggiornamenti, accessi, capacità, monitoraggio e ripristino. Con un servizio di modelli, il fornitore svolge la gestione del modello concordata; permessi del portale, integrazione e log propri restano compiti del Suo team. Confronti inizialmente entrambe le opzioni con gli stessi input sintetici e risultati attesi. Questo non autorizza il trattamento di note reali dei clienti. Qualità e tempi di attesa sotto il carico richiesto si determinano nel progetto pilota, non si deducono dalla posizione.

Secondo la regola dell’esempio, la chiamata al modello esterno non è ancora autorizzata. Il server autogestito è un’opzione dopo la verifica del percorso dei dati, della qualità dei risultati e della gestione operativa. Se manca un team operativo responsabile, neppure questa opzione è pronta all’uso. Un’altra classe di dati o l’autorizzazione di un percorso esterno preciso può cambiare la decisione.

Fonti

Scritto da

  • Nora HenningRedattrice per la sicurezza informaticaNora Henning cura per ASES i contenuti redazionali sulla sicurezza informatica. Scrive della sicurezza delle applicazioni e spiega il legame tra diritti di accesso e protezione dei dati aziendali.

Seguite ASES

Continuate a leggere

Tutti gli articoli

IA & automazione con ASES

Assistenti IA e processi automatizzati