Dalla ricerca alla produzione: la metodologia scientifica applicata alla Cybersecurity dell’AI, tra scoperte innovative e ricerca dell’affidabilità

Perché la ricerca conta quando l’AI entra nei sistemi di business

Mai come nel caso dell’AI la ricerca scientifica può giocare un ruolo fondamentale, e non solo per portare avanti la conoscenza di questi avanzati sistemi di ragionamento, ma per far sì che possano andare in produzione in maniera sicura e controllata nei sistemi di business. Qui infatti ricerca significa anche capire e gestire la complessità, e i pericoli che questa nuova tecnologia può portare con sé.

Dal rischio “spontaneo” alla governance dei processi

Quindi se dal lato basso, quello degli utenti finali che introducono spontaneamente e in maniera incontrollata i vari sistemi conversazionali, nel loro lavoro quotidiano in ufficio, dalla parte alta della gestione dei processi aziendali occorre che si affermino presto delle architetture che siano in grado di introdurre criteri di sicurezza e protezione che non possono venire dall’organizzazione spontanea degli utenti. In questa direzione la prima preoccupazione di un CIO nella affacciarsi a questo mondo è di inquadrare tutte le forme agentiche che possono operare in azienda in una cornice che protegga i dati, i sistemi e le infrastrutture critiche dell’azienda.

Le nuove minacce nella cybersecurity ai tempi dell’AI

La Cybersecurity ai tempi dell’AI rischia di essere un bestia ancora più brutta di quella che abbiamo conosciuto fino ad oggi [1]. Per esempio sono ormai molto noti i casi di Prompt Injection e Data Poisoning, attacchi diretti ai sistemi di AI che inserendo istruzioni dannose nascoste nei dati di addestramento o nelle pagine web, manipolano i modelli per spingerli a comportarsi in modo errato o a esfiltrare dati sensibili. Oppure Malware automatizzato e polimorfico, dove l’AI viene usata per scrivere codice malevolo capace di mutare continuamente struttura e comportamento. Questa continua evoluzione permette al malware di aggirare i tradizionali sistemi di sicurezza e antivirus. O ancora Phishing potenziata da AI generativa che crea email e SMS personalizzati, privi di errori grammaticali o refusi tipici delle truffe vecchio stile. Cosa che rende i tentativi di frode e le truffe aziendali (Business Email Compromise) incredibilmente credibili e difficili da individuare. Fino ad arrivare ai famigerati Deepfake audio e video, con i quali i cyber-criminali clonano la voce e il volto di manager o familiari partendo da frammenti multimediali pubblici (social, interviste), usando poi questi falsi realistici per autorizzare bonifici fraudolenti o estorcere denaro.

Contromisure strutturali e piattaforme di sicurezza per l’agentic AI

Come si può facilmente capire, stare al passo con la ricerca in questo campo diventa un fattore di sopravvivenza delle aziende. L’AI facilità di molto il lavoro dell’hacker e occorre per questo prendere delle contromisure strutturali. Linkalab ha per questo introdotto una nuova piattaforma che si chiama AI WhiteBox. Prima di lasciare liberi gli agenti di operare occorre costruire una casa sicura per accoglierli, farli parlare tra di loro, dargli le autorizzazioni e decidere chi fa cosa ad ogni stadio dei processi di business, tracciando tutto quello che succede e includendo sempre nei passaggi critici il valore insostituibile delle decisioni umane. Abbiamo pensato alla AI WhiteBox perché l’accesso alla sicurezza deve essere immediato e alla portata di tutte le aziende, prima che si possa scatenare la partita dell’orchestrazione agentica in tutta la sua potenza.