Con la diffusione dell'intelligenza artificiale nelle aziende, le discussioni sulla sicurezza si concentrano spesso su modelli, capacità e nuove classi di rischio tecnico. Ciò che viene discusso molto meno è il problema di progettazione che questo crea: come ci si aspetta che gli esseri umani comprendano, si fidino e agiscano sulla base dei segnali prodotti da sistemi che operano in modo probabilistico e alla velocità delle macchine.
Per chi di noi lavora nel campo della sicurezza informatica, questo problema non è una novità.
Da oltre un decennio, il team UX di Vectra si concentra su un'unica sfida persistente: come rendere visibile il comportamento complesso degli aggressori in modi comprensibili, attuabili e affidabili per gli esseri umani. Molto prima che l'intelligenza artificiale diventasse una preoccupazione mainstream per le aziende, Vectra era già alle prese con sistemi opachi, segnali incerti e la necessità di supportare decisioni ad alto rischio sotto pressione.
Questa esperienza diventa particolarmente rilevante ora che l'intelligenza artificiale stessa entra a far parte del panorama delle minacce.
Dai risultati dell'intelligenza artificiale black-box al comportamento comprensibile degli aggressori
Le reti moderne generano enormi volumi di segnali che gli esseri umani non riescono a interpretare facilmente da soli. Gli strumenti sovrapposti a tali segnali spesso aggiungono ulteriori difficoltà, producendo punteggi, avvisi e rilevamenti isolati che non forniscono agli analisti il contesto necessario per agire con sicurezza.
Nel corso del tempo, un'esperienza utente efficace in materia di sicurezza si è allontanata dalla presentazione di risultati grezzi per orientarsi verso una maggiore leggibilità dei comportamenti:
- Come si svolge l'attività nel tempo
- Quali identità e sistemi sono coinvolti
- Quali sequenze di azioni creano rischio
- Perché qualcosa è importante adesso, non solo perché è successo
L'obiettivo non è mai stato quello di ottenere una certezza assoluta, bensì quello di supportare il giudizio umano in presenza di ambiguità. Ciò richiede la traduzione di input probabilistici, spesso disordinati, in narrazioni coerenti che le persone possano valutare e su cui possano agire.
Fondamentalmente, questi input raramente sono puliti o ben strutturati. Non assomigliano a fogli di calcolo o moduli. Arrivano sotto forma di frammenti che hanno senso solo se collegati, contestualizzati e interpretati.
L'UX è il livello che esegue tale traduzione.
Gli aggressori AI modificano la velocità, non il comportamento
L'introduzione di aggressori guidati dall'intelligenza artificiale modifica in modo significativo la portata e il ritmo degli attacchi. I sistemi autonomi possono aiutare gli aggressori a operare in modo continuo, ad adattarsi rapidamente e a muoversi a velocità che superano di gran lunga le capacità umane.
Ciò che non fanno è inventare categorie completamente nuove di comportamenti dannosi.
Gli aggressori AI avranno un aspetto diverso, ma si comporteranno allo stesso modo. Continueranno a:
- Indagare gli ambienti alla ricerca di punti deboli
- Abuso di identità e accesso
- Muoversi lateralmente attraverso i sistemi
- Aumentare i privilegi
- Cerca la perseveranza e l'impatto
Lo fanno all'interno di infrastrutture progettate da e per gli esseri umani: fornitori di identità, applicazioni, reti e flussi di lavoro. Anche se il ritmo accelera, i comportamenti di base rimangono riconoscibili.
Ecco perché il design incentrato sul comportamento è importante. Le interfacce costruite attorno a regole statiche o ipotesi fragili incontrano difficoltà quando gli attori si adattano più rapidamente di quanto quelle regole possano evolversi. Il comportamento rimane un'astrazione stabile perché riflette l'intento piuttosto che l'implementazione.
L'UX come livello di traduzione
Mentre il rilevamento e l'analisi avvengono sempre più rapidamente grazie alle macchine, gli esseri umani continuano ad avere la responsabilità di comprendere cosa sta succedendo e decidere come reagire. Il divario tra i sistemi automatizzati e il giudizio umano continua ad ampliarsi.
Security UX esiste proprio per colmare questa lacuna.
Il suo ruolo non è quello di eliminare l'incertezza o automatizzare il processo decisionale sottraendolo alle persone, ma di rendere comprensibile la complessità:
- Rendere comprensibile il ragionamento probabilistico senza semplificarlo eccessivamente
- Mostrare modelli invece di sommergere gli utenti con avvisi
- Fornire un contesto che spieghi perché l'attività è importante
- Sostenere l'indagine e il ragionamento, non solo la reazione
Questo livello di traduzione diventa più critico, non meno, man mano che i sistemi diventano più autonomi.
Perché è importante adesso
Mentre le organizzazioni lavorano per garantire la sicurezza delle imprese basate sull'intelligenza artificiale, molte stanno scoprendo che modelli più avanzati da soli non risolvono il problema. In alcuni casi, una maggiore sofisticazione può aumentare l'opacità e minare la fiducia.
Le lezioni apprese nel corso degli anni dal team UX di Vectra AI una prospettiva utile per questo momento. Progettare per l'IA richiede di accettare che:
- I risultati saranno non strutturati e probabilistici.
- I sistemi si adatteranno continuamente
- L'azione avverrà alla velocità della macchina
- Il giudizio umano rimarrà l'autorità finale
In questo contesto, il comportamento diventa l'interfaccia più affidabile tra macchine e persone.
Progettare per il giudizio
Il futuro della sicurezza nelle aziende che utilizzano l'intelligenza artificiale non sarà determinato esclusivamente dalle capacità di rilevamento. Dipenderà piuttosto dall'efficacia con cui gli esseri umani saranno in grado di comprendere e agire sulla base delle informazioni fornite dai sistemi automatizzati.
L'UX è il luogo in cui tale comprensione prende forma.
Man mano che l'intelligenza artificiale diventa una forza sempre più veloce e adattabile negli attacchi, la capacità di rivelare i comportamenti in modo chiaro, coerente e credibile potrebbe rappresentare una delle difese più importanti a nostra disposizione.