Testo originariamente pubblicato su LinkedIn. I riferimenti temporali e normativi sono quelli del post originale.
ChatGPT non è più solo una chat. Può avere le chiavi digitali dell’azienda.
Il nome più noto è ChatGPT. Ma il tema riguarda tutti gli strumenti e agenti di IA collegati a e-mail, documenti, archivi cloud e piattaforme aziendali.
Un chatbot genera risposte. Un agente dotato di autorizzazioni può consultare dati e, nei limiti delle integrazioni attivate, compiere operazioni sui servizi collegati. La superficie di rischio non è la stessa.
Se vengono sottratti una password o un token di sessione, l’attaccante può presentarsi come un utente già autenticato. Se viene compromesso un agente, il rischio dipende dalle risorse e dalle capacità che gli sono state attribuite.
Questo non significa automaticamente accedere all’intera azienda. Significa, però, che non possiamo più domandarci soltanto che cosa l’assistente “sappia”.
Dobbiamo chiederci: 1) a quali sistemi può accedere; 2) quali dati può consultare; 3) quali azioni può eseguire; 4) con quale identità opera; 5) quali controlli ne limitano l’autonomia; 6) quali tracce lascia.
È questa la nuova frontiera del rischio cyber: non proteggere un singolo account, ma governare la catena di autorizzazioni che collega persone, agenti e sistemi.
Anche sul piano penale occorre evitare scorciatoie. Acquisizione delle credenziali, accesso abusivo, impiego di malware e successivo utilizzo dei dati sono condotte distinte, da qualificare secondo le modalità concrete e gli elementi costitutivi delle singole fattispecie.
L’autonomia operativa dell’agente, inoltre, non diventa autonomia giuridica. La responsabilità non può essere attribuita all’algoritmo. Diventa quindi essenziale ricostruire chi abbia configurato lo strumento, con quali poteri, per quali finalità e con quali controlli.
Per prevenire il rischio non basta attivare l’autenticazione a più fattori. Servono: - identità professionali separate da quelle personali; - minimo privilegio e revisione periodica delle integrazioni; - conferma umana per le operazioni più sensibili; - monitoraggio delle sessioni e delle anomalie; - rapida revoca di credenziali, token e collegamenti; - conservazione di log ed evidenze digitali; - coordinamento tra sicurezza, legal, privacy e funzioni aziendali.
L’obiettivo non è frenare l’innovazione. È evitare che la capacità degli agenti di accedere e agire cresca più velocemente della capacità dell’organizzazione di controllarli.
Non tutti i reati diventeranno informatici. Ma una parte sempre maggiore delle condotte illecite avrà una modalità esecutiva digitale, sfrutterà identità digitali o produrrà prove digitali.
Siamo pronti a utilizzare l’IA. Ma siamo pronti a gestirla anche come possibile porta d’ingresso — e come nuova scena del crimine?
Leggi il post originale su LinkedIn
Torna al blog