L'intelligenza artificiale sta diventando uno strumento sempre più utilizzato all'interno delle aziende per analizzare documenti, generare contenuti, elaborare informazioni, automatizzare attività e supportare i dipendenti nelle operazioni quotidiane. Questa evoluzione offre importanti possibilità di automazione, ma introduce anche un problema che non deve essere sottovalutato: la possibilità che informazioni riservate vengano inserite all'interno di sistemi AI senza che l'azienda abbia definito preventivamente come questi dati debbano essere gestiti.
Un dipendente potrebbe, per esempio, copiare il contenuto di un contratto e inserirlo in un sistema AI per ottenere un riepilogo, caricare un documento contenente informazioni sui clienti per estrarre determinati dati oppure incollare il contenuto di una comunicazione commerciale per chiedere al modello di preparare una risposta. Dal punto di vista dell'utente l'operazione può sembrare completamente normale, ma dal punto di vista della sicurezza informatica è necessario sapere quali informazioni sono state trasferite, verso quale servizio, attraverso quale account e secondo quali condizioni vengono trattate.
Il problema non riguarda quindi solamente la possibilità che un attaccante riesca a rubare un database. Una fuga di dati può verificarsi anche attraverso un utilizzo non controllato degli strumenti di intelligenza artificiale da parte degli stessi utenti aziendali.
Cosa significa inserire dati riservati in un sistema AI
Quando un utente invia un testo, un documento o altre informazioni a un servizio AI, i dati vengono trasferiti al sistema che deve elaborarli. Le modalità di gestione dipendono dal servizio utilizzato, dal contratto sottoscritto, dalla configurazione dell'account e dalle specifiche tecniche della piattaforma.
Per questo motivo non è corretto considerare tutti i sistemi di AI come equivalenti. Utilizzare un ambiente AI aziendale configurato secondo specifiche garanzie di sicurezza non è necessariamente la stessa cosa che utilizzare un servizio pubblico con un account personale. Prima di consentire ai dipendenti di utilizzare l'AI per attività lavorative è quindi necessario stabilire quali piattaforme siano autorizzate e quali tipologie di dati possano essere elaborate.
Il problema diventa ancora più rilevante quando vengono utilizzati documenti contenenti dati personali, informazioni finanziarie, contratti, listini riservati, credenziali, codice sorgente, informazioni sui clienti o dati relativi alla strategia commerciale dell'azienda.
Il rischio dello Shadow AI
Uno dei problemi più difficili da gestire è quello dello Shadow AI, cioè l'utilizzo di strumenti di intelligenza artificiale non approvati o non conosciuti dal reparto IT. Un dipendente può utilizzare autonomamente un chatbot online per velocizzare una determinata attività senza rendersi conto che il documento fornito contiene informazioni che l'azienda considera riservate.
Questo fenomeno è particolarmente complesso perché non richiede necessariamente un comportamento intenzionalmente scorretto. Un dipendente può semplicemente voler riassumere un contratto, correggere un documento oppure analizzare una tabella e decidere di utilizzare l'AI più facilmente accessibile. Il rischio nasce dal fatto che l'azienda potrebbe non avere alcuna visibilità sull'operazione.
Una corretta strategia di sicurezza deve quindi prevedere non soltanto il blocco di eventuali applicazioni non autorizzate, ma anche una politica aziendale chiara sull'utilizzo dell'intelligenza artificiale. Gli utenti devono sapere quali strumenti possono utilizzare, quali dati possono essere inseriti e quali informazioni non devono essere trasferite verso servizi esterni.
Quali dati non dovrebbero essere inseriti liberamente nei modelli
La definizione di quali informazioni siano riservate deve essere stabilita dall'azienda in funzione della propria attività. In generale, particolare attenzione deve essere prestata ai dati personali dei clienti e dei dipendenti, alle informazioni finanziarie, ai contratti, alle credenziali di accesso, alle chiavi API, al codice sorgente, ai dati sanitari eventualmente trattati dall'organizzazione, ai documenti strategici e alle informazioni commerciali non pubbliche.
Anche un semplice documento apparentemente innocuo può contenere informazioni che non dovrebbero essere trasferite a un sistema AI esterno. Una fattura, per esempio, può contenere dati identificativi del cliente e informazioni finanziarie, mentre un preventivo può includere prezzi personalizzati e condizioni commerciali riservate.
Per questo motivo la sicurezza non dovrebbe basarsi esclusivamente sulla domanda "questo documento è importante?". È più corretto chiedersi quali informazioni contiene, chi è autorizzato a consultarle e se il sistema AI utilizzato è autorizzato a elaborarle.
L'AI aziendale deve rispettare i permessi degli utenti
Una soluzione particolarmente efficace consiste nell'utilizzare sistemi di AI integrati direttamente nell'infrastruttura aziendale e collegati alle autorizzazioni già presenti nei sistemi informatici.
Se un dipendente può accedere solamente a determinati documenti aziendali, anche l'assistente AI dovrebbe poter utilizzare esclusivamente quelle informazioni. Non avrebbe senso creare un assistente AI capace di interrogare l'intero archivio documentale se poi l'utente che lo utilizza non avrebbe normalmente il diritto di accedere a una parte di quei documenti.
Questo principio diventa fondamentale quando si realizzano assistenti AI interni collegati a documenti, CRM, gestionali e database. L'intelligenza artificiale dovrebbe ricevere solamente le informazioni necessarie per rispondere alla richiesta dell'utente e dovrebbe rispettare i livelli di autorizzazione definiti dall'infrastruttura aziendale.
Ridurre i dati inviati al modello
Un altro principio importante consiste nel non trasferire più informazioni di quelle realmente necessarie. Se l'obiettivo è analizzare una determinata clausola di un contratto, non sempre è necessario inviare l'intero archivio dei contratti aziendali. Se l'obiettivo è estrarre informazioni da una fattura, il sistema dovrebbe elaborare quel documento specifico e non avere automaticamente accesso a tutte le fatture presenti nel database.
Questa tecnica permette di ridurre la superficie di esposizione dei dati. Meno informazioni vengono rese disponibili al sistema AI, minore è il rischio che un errore di configurazione, un accesso non autorizzato o un comportamento imprevisto possa coinvolgere dati non necessari.
La minimizzazione dei dati è particolarmente importante quando l'intelligenza artificiale viene utilizzata attraverso API. L'applicazione aziendale può infatti recuperare dal database solamente i campi necessari alla richiesta e trasmetterli al modello senza esporre l'intera struttura del database.
Proteggere API e database quando l'AI è integrata nei sistemi aziendali
Quando un'azienda collega l'intelligenza artificiale al proprio gestionale o CRM, il punto di integrazione viene generalmente realizzato attraverso API. Questa architettura permette di controllare le informazioni che l'AI può leggere e le operazioni che può eseguire, ma deve essere progettata correttamente.
Non è consigliabile fornire a un modello AI un accesso diretto e illimitato al database aziendale. È preferibile utilizzare API e funzioni specifiche che permettano di definire con precisione quali informazioni possono essere recuperate e quali operazioni possono essere eseguite.
Un AI Agent che deve cercare un cliente, per esempio, dovrebbe poter chiamare una funzione applicativa specifica per effettuare la ricerca. Non dovrebbe necessariamente avere accesso diretto a tutte le tabelle del database. L'applicazione può controllare l'identità dell'utente, verificare i permessi e restituire solamente i dati autorizzati.
Questo approccio consente di trasformare la sicurezza da una semplice regola organizzativa in un controllo tecnico effettivamente applicato all'infrastruttura.
Proteggere documenti e archivi aziendali
Gli assistenti AI collegati ai documenti aziendali rappresentano una delle applicazioni più interessanti dell'intelligenza artificiale. Un dipendente può chiedere al sistema informazioni presenti nei manuali, nei contratti, nelle procedure interne o nella documentazione tecnica senza dover cercare manualmente ogni documento.
Anche in questo caso, però, l'accesso ai documenti deve essere gestito attraverso autorizzazioni precise. Una tecnica comunemente utilizzata consiste nel recuperare solamente i documenti pertinenti alla domanda dell'utente e successivamente fornire al modello il contenuto necessario per generare la risposta.
Questo tipo di architettura, spesso associata a sistemi di retrieval augmented generation, permette di utilizzare informazioni aziendali senza necessariamente addestrare il modello direttamente sui documenti interni. La differenza è importante perché il sistema può recuperare dinamicamente le informazioni necessarie al momento della richiesta, mantenendo separati il modello AI e l'archivio documentale.
Anche i prompt devono essere considerati dati aziendali
Un errore frequente consiste nel considerare riservati solamente i documenti caricati nel sistema AI. Anche il contenuto delle richieste può contenere informazioni sensibili.
Un prompt come "analizza questo cliente e indicami perché negli ultimi sei mesi ha ridotto gli ordini" potrebbe contenere informazioni commerciali riservate. Allo stesso modo, una richiesta relativa a un problema tecnico potrebbe includere indirizzi IP, nomi di server, configurazioni, credenziali o porzioni di codice.
Per questo motivo le policy aziendali sull'AI dovrebbero considerare sia gli input sia gli output. Non è sufficiente impedire il caricamento di determinati file se gli utenti possono comunque copiare manualmente le informazioni contenute negli stessi documenti all'interno del prompt.
Il problema delle credenziali e delle chiavi API
Tra le informazioni che non dovrebbero essere inserite nei sistemi AI senza adeguati controlli ci sono anche password, token, chiavi API, certificati e altre credenziali. Questi dati possono essere accidentalmente copiati all'interno di una richiesta quando un dipendente chiede al sistema di analizzare un errore applicativo o correggere un programma.
Un esempio tipico può essere rappresentato da un file di configurazione contenente una stringa di connessione al database. Un utente potrebbe inserirlo integralmente nel prompt per chiedere all'AI di individuare un errore. Se il file contiene username, password o token, queste informazioni diventano parte del contenuto inviato al servizio.
Una corretta gestione della sicurezza dovrebbe quindi prevedere la rimozione o la mascheratura delle credenziali prima dell'invio dei dati al modello. Ancora meglio, l'azienda dovrebbe utilizzare strumenti AI integrati con sistemi di gestione dei segreti e procedure tecniche che impediscano automaticamente la trasmissione di determinate informazioni.
Monitorare l'utilizzo dell'AI
La sicurezza non può essere garantita solamente attraverso una policy. Un'azienda deve anche avere la possibilità di verificare come gli strumenti AI vengono utilizzati.
Il monitoraggio può riguardare gli accessi, le applicazioni utilizzate, le API chiamate, le quantità di dati elaborate e gli eventi anomali. In ambienti più avanzati possono essere introdotti sistemi capaci di individuare automaticamente l'invio di informazioni sensibili e bloccare oppure sottoporre a verifica determinate richieste.
Il logging è particolarmente importante quando l'AI viene integrata con sistemi aziendali. Se un AI Agent modifica un cliente nel CRM, recupera un documento o crea un ordine, dovrebbe essere possibile ricostruire quale utente ha effettuato la richiesta e quale operazione è stata eseguita dal sistema.
Formare i dipendenti sulla sicurezza dell'AI
La tecnologia da sola non risolve il problema. Anche il personale deve conoscere i rischi legati all'utilizzo dell'intelligenza artificiale.
Un dipendente che sa che non deve inserire password o dati riservati in un servizio AI pubblico è già una prima barriera di sicurezza. La formazione dovrebbe però andare oltre questo principio generale e spiegare concretamente quali strumenti sono autorizzati dall'azienda, quali informazioni possono essere elaborate e come comportarsi quando è necessario utilizzare l'AI su documenti interni.
Questo permette di trasformare la sicurezza AI in una procedura operativa e non in una semplice raccomandazione. L'obiettivo non deve essere impedire ai dipendenti di utilizzare l'intelligenza artificiale, ma permettere loro di sfruttarla all'interno di un ambiente controllato.
AI Governance e prevenzione della fuga di dati
La prevenzione della fuga di dati attraverso l'intelligenza artificiale deve essere inserita all'interno di una strategia più ampia di AI Governance. L'azienda deve sapere quali strumenti AI vengono utilizzati, quali dati elaborano, quali fornitori sono coinvolti, quali utenti possono accedervi e quali integrazioni esistono con i sistemi interni.
La governance permette inoltre di stabilire responsabilità precise. Se viene introdotto un nuovo AI Agent collegato al CRM, per esempio, deve essere definito chi ne gestisce la configurazione, quali permessi possiede, quali dati può utilizzare e come vengono registrate le sue attività.
Questo diventa particolarmente importante quando l'AI non si limita a rispondere alle domande ma può eseguire operazioni. Più aumenta l'autonomia del sistema, maggiore deve essere il livello di controllo applicato alle sue autorizzazioni e ai dati ai quali può accedere.
Come utilizzare l'AI senza mettere a rischio i dati aziendali
La soluzione non consiste nel rinunciare all'intelligenza artificiale. Al contrario, l'obiettivo dovrebbe essere quello di costruire un ambiente nel quale l'AI possa essere utilizzata in modo sicuro e controllato.
Un'azienda può, ad esempio, creare un assistente AI interno collegato ai propri documenti e configurato in modo da rispettare i permessi degli utenti. Può integrare l'AI con il CRM attraverso API limitate alle sole operazioni necessarie, utilizzare sistemi di logging per tracciare le attività e applicare controlli per impedire che informazioni sensibili vengano trasferite verso servizi non autorizzati.
In questo modo l'intelligenza artificiale diventa una componente dell'infrastruttura aziendale e non un servizio esterno utilizzato senza controllo. La differenza è fondamentale perché consente di combinare automazione e sicurezza, mantenendo sotto controllo i dati che rappresentano uno degli asset più importanti dell'azienda.
AI e fuga di dati: la sicurezza deve partire dalla progettazione
La possibilità che informazioni riservate finiscano nei sistemi di intelligenza artificiale è un rischio concreto quando l'utilizzo dell'AI non viene governato correttamente. Contratti, dati clienti, informazioni finanziarie, codice sorgente, credenziali e documenti interni non dovrebbero essere inviati indiscriminatamente a qualsiasi servizio AI semplicemente perché può analizzarli.
La soluzione passa attraverso una combinazione di tecnologia, configurazione e procedure. È necessario stabilire quali sistemi AI possono essere utilizzati, limitare i dati che possono essere trasferiti, applicare correttamente le autorizzazioni, proteggere API e database, monitorare le attività e formare il personale.
Per le aziende che vogliono utilizzare l'intelligenza artificiale in modo strutturato, questo approccio permette di sfruttare le capacità dell'AI senza trasformarla in un nuovo canale di esposizione delle informazioni. In ALLIT possiamo supportare le aziende nella progettazione di soluzioni AI integrate con CRM, gestionali, database e documenti aziendali, definendo insieme le modalità di accesso ai dati, le autorizzazioni e i controlli necessari. L'obiettivo è creare sistemi di intelligenza artificiale realmente utili ai processi aziendali, ma progettati fin dall'inizio per mantenere sotto controllo le informazioni riservate.
