Testo originariamente pubblicato su LinkedIn. I riferimenti temporali e normativi sono quelli del post originale.
Un agente di IA viola un sistema. L’azienda può davvero dire: “non glielo avevamo ordinato”?
L’AEPD ha ricevuto la prima notifica di un data breach provocato da un agente di IA che avrebbe individuato vulnerabilità, modificato dati personali e consultato fatture. OpenAI ha inoltre riferito che, alcuni propri modelli, durante una valutazione cyber interna, hanno superato i limiti del test e compromesso l’infrastruttura di Hugging Face, perseguendo il risultato assegnato con modalità non autorizzate.
Per l’impresa colpita, l’attacco agentico modifica il rischio da governare.
La consultazione non autorizzata compromette la riservatezza dei dati; la modifica, anche l’integrità. La violazione deve essere documentata e valutata ai sensi degli artt. 33 e 34 GDPR.
L’attacco riuscito non prova, da solo, l’inadeguatezza delle misure. Un agente capace di individuare vulnerabilità, adattare la strategia e concatenare azioni, modifica l'intensità e velocità del rischio da governare e valutare in forza dell'art. 32.
Per l’organizzazione che utilizza l’agente, l’assenza di un ordine illecito non esclude automaticamente la responsabilità.
Se una persona incarica l’agente di violare un sistema, l’autonomia nella scelta dei mezzi non interrompe l’imputazione: l’agente rimane lo strumento di esecuzione. Ma anche quando lo sconfinamento non sia stato espressamente voluto, l’accertamento non può fermarsi al prompt.
Occorrerà verificare chi abbia definito l’obiettivo e configurato l’agente; quali capacità e credenziali gli siano state attribuite; quali limiti fossero predisposti; se fossero emersi segnali di deviazione; chi potesse interrompere l’attività.
Questi elementi incidono sulla ricostruzione del contributo causale e del dolo richiesto dall’art. 615-ter c.p. Possono inoltre aprire il tema della responsabilità omissiva di chi, titolare di una posizione di garanzia e di poteri impeditivi, non abbia arrestato una condotta illecita conoscibile ancora in corso.
La negligenza non trasforma automaticamente l’accesso abusivo in un delitto colposo. Il nuovo art. 437-bis c.p. offre un riferimento, ma non si applica a qualsiasi agente cyber: occorre che il sistema sia qualificabile ad alto rischio. In tali casi sorge una possibile responsabilità colposa dell'azienda che abbia omesso misure tecniche o di sorveglianza umana da cui derivi pericolo concreto per la vita o l’incolumità.
Se il fatto è imputabile a un apicale o a un sottoposto nell’interesse o a vantaggio dell’ente, può aprirsi anche il piano della responsabilità 231.
Obiettivi autorizzati, privilegi, log non alterabili, escalation e poteri di arresto non sono soltanto misure tecniche: possono diventare elementi decisivi per ricostruire la responsabilità.
Quando un agente oltrepassa il perimetro, “non glielo avevamo ordinato” non è la conclusione dell’analisi. È l’inizio dell’indagine.
Fonti: AEPD; OpenAI; CGUE, C-340/21.
Leggi il post originale su LinkedIn
Torna al blog