Governance AI e tutela dei dati aziendali
Con l’AI non è mai chiaro da dove vengano presi i dati e soprattutto dove possano andare a finire. Questo è un grosso problema per le aziende, un po’ meno per gli utenti privati che ormai da più di un decennio sono abituati a dare a profusioni le proprie informazioni personali, esponendo la propria vita privata sui social, per poi lamentarsi di essere spiati.
Fare AI con i propri dati, il nodo del RAG
Nel caso delle aziende il problema è davvero spinoso, perché dall’inizio non si vorrebbe che i propri dati vadano in giro, e con l’AI tutto ciò è difficile da governare. Poniamo il caso di voler esporre in qualche modo un documento o un database aziendale tramite un agente conversazionale. Stirando il contetto la ci riferiamo al cosiddetto RAG (Retrieval-Augmented Generation). Parliamo in questo caso di fare AI con i propri dati. Quindi fornire un servizio che ha come valore aggiunto un dataset che in principio non è disponibile tramite le piattaforme AI universali come ChatGTP, Gemini e Claude.
Il paradosso tra accesso ai dati e riservatezza
L’azienda che commissiona questo servizio al suo fornitore ovviamente vorrà firmare un NDA che preclude la possibilità che vengano divulgati documenti aziendali. E qui arriva il paradosso. Il RAG vuole esporre gli stessi dati che non vuole che vengano divulgati nella loro totalità. Non è un caso dissimile da quanto accadeva esponendo un catalogo su DB tramite web, ma qui purtroppo c’è l’aggravante che non so cosa e quanto verrà esposto della sorgente originale, mentre con un DB, per esempio, ho un modo quasi deterministico di selezionare l’informazione a monte.
AI generativa, guardrail e impossibilità della certezza assoluta
Viviamo nel campo dell’incertezza, a tutti i livelli, dati e risultati che derivano da questi dati, e le aziende possono accettarlo. La linea che normalmente si prende in questi casi dovrebbe essere quella di dire: l’AI generativa non è per sua natura completamente governabile, si può fare tanto in termini di quello che ora viene definito con un termine inglese ‘guardrailing’, ma la certezza del risultato non è fondamentalmente possibile.
Torno sul paradosso che citavo all’inizio, che deriva proprio da un approccio culturale alle macchine consolidato in decenni e secoli. Le macchine devono essere degli oggetti deterministici alle quali fare riferimento per avere risultati riproducibili. Nell’equazione del mio processo non posso contemplare il fatto che in alcuni stadi non ci sia un risultato certo. E invece con l’AI generativa abbiamo voluto le macchine umanoidi (qualcuno magari non le voleva) e per la loro natura ‘umana’ sono fallibili, per quanto intelligentissime e quasi onniscienti.
Proposte progettuali e contratti, cosa cambia per i fornitori AI
Dal lato di chi fornisce i servizi basati su queste tecnologie si apre un nuovo importante capitolo su come scrivere le proposte progettuali e di conseguenza i contratti. È molto facile giungere a delle pericolose impasse se non si condividono bene queste idee.
Dall’esperienza che abbiamo maturato occorre innanzitutto spiegare bene come queste tecnologie funzionano, il fatto che certi dati possono selettivamente finire sui vari servizi AI in cloud. Poi occorre disegnare con chiarezza qual è il percorso finale di questi dati, di modo da essere consci di cosa e dove potrebbe finire fuori dal controllo dell’azienda.
E infine il passaggio finale: condividere col cliente il rischio che, per quanto controllata, la macchina può parzialmente uscire dai binari. Il successo delle nuove iniziative AI è fortemente legato alla comprensione e al governo di queste dinamiche.