Come molti strumenti digitali basati sull'intelligenza artificiale, Copilot per Microsoft 365 (M365) promette alle aziende nuove opportunità per migliorare la produttività, la precisione e l'efficienza con la suite di prodotti Microsoft.
Supponiamo che la vostra azienda sia tra quelle che hanno adottato Copilot per M365 sin dal suo debutto, avvenuto il 1° novembre 2023. In tal caso, probabilmente state già riscontrando una maggiore produttività del vostro personale nell'utilizzo degli strumenti e dei flussi di lavoro Microsoft.
Sfortunatamente, Copilot per M365 ha un grande potenziale di essere utilizzato contro le difese informatiche della vostra azienda in modi che non potete permettervi di ignorare. Dopo soli nove mesi sul mercato, le organizzazioni hanno già riscontrato che gli aggressori abusano di Copilot con tecniche living-off-the-land, che forniscono loro un accesso profondo e accelerato alle reti aziendali e ai dati critici.
In Vectra AI, registriamo un tasso di adozione di Copilot M365 pari a circa il 40% tra le aziende che si affidano a noi per il monitoraggio delle loro identità. Stiamo inoltre ricevendo numerose domande da parte di clienti e colleghi sia sulle funzionalità complete di Copilot che sulle minacce che esso rappresenta per la sicurezza aziendale. Questo post affronta queste e altre preoccupazioni principali che riceviamo dai team di sicurezza e spiega come individuare e bloccare sul nascere gli attacchi basati su Copilot.
Analizziamolo in 5 grandi domande...
1. Che cos'è Copilot per Microsoft 365?
A livello generale, Copilot per Microsoft 365 è un potenziamento AI dell'intera suite di app Microsoft. Si tratta di un chatbot sviluppato da Microsoft che combina IA generativa e LLM per migliorare le funzionalità della suite di strumenti di produttività Microsoft Office. Consente di accedere alle informazioni su tutte le piattaforme Microsoft, come Word, Sharepoint, Teams, e-mail e così via, con un'unica interfaccia di chat per comunicare e porre domande. Inoltre, automatizza le attività di routine e offre utili approfondimenti operativi e analisi dei dati per ottimizzare i carichi di lavoro.
Nota a margine: esistono diversi prodotti Copilot all'interno del portafoglio Microsoft, come Copilot for Security, che ha un livello di utilizzo e funzionalità diverso rispetto a Copilot for M365, utilizzato per le aziende standard, che è la versione su cui ci concentriamo in questo post. Entrambi i prodotti Copilot hanno obiettivi simili per aumentare la velocità, la precisione e la produttività.
2. Quali sono le attuali funzionalità di Copilot per M365?
Copilot per M365 offre una funzionalità di ricerca unificata per tutti i documenti presenti nelle varie suite di soluzioni Microsoft. Sfrutta la portata e la potenza della sua intelligenza artificiale generativa per migliorare la tua produttività in Outlook, Sharepoint, OneDrive, Excel, Fourpoint, Word, e-mail, Teams, ecc., con alcune funzionalità molto utili come:
- Generazione rapida di documenti e presentazioni sfruttando Chat per creare nuovi formati o utilizzare quelli esistenti
- Approfondimenti su struttura dei documenti, contenuti, flussi di dati, grafici e fogli di calcolo
- Identificare rapidamente i dati in un'applicazione che sono applicabili in un'altra
- Contestualizzazione dei dati e sintesi dei contenuti nelle e-mail
Tuttavia, secondo la nostra ricerca, dal punto di vista di un hacker, una volta compromesso un account utente abilitato per Copilot e ottenuto l'accesso all'interfaccia del chatbot, queste stesse funzionalità giocano a suo vantaggio in misura estremamente elevata. Guarda il video qui sotto per approfondire l'argomento.
Quindi, cosa consentirà di fare Copilot per M365 a un malintenzionato?
Una volta compromesso un account abilitato per Copilot, l'autore dell'attacco può cercare contemporaneamente su tutte le superfici connesse, invece di doverle cercare singolarmente. Ciò consente all'autore dell'attacco di ottenere rapidamente l'accesso alle credenziali per muoversi lateralmente all'interno dell'ambiente utilizzando tecniche live-off-the-land alla velocità dell'IA. In breve, gli autori degli attacchi possono lanciare un attacco basato sull'IA generativa utilizzando la potenza dell'IA di livello aziendale contro l'azienda stessa.
Ad esempio, supponiamo che l'autore dell'attacco abbia richiesto una ricerca di parole chiave quali "acquisizione" o "sensibile". Copilot per M365 cercherà tali parole chiave nell'intera suite di strumenti e soluzioni Microsoft e restituirà tutte le e-mail e i documenti che contengono tali parole chiave nei nomi. Ma per alcune applicazioni, come Doc, Fourpoint e Textfile, cercherà le parole chiave anche all'interno dei documenti stessi, quindi è sensibile al contesto per quei tipi di documenti specifici. Se invece il documento è un PDF o un foglio di calcolo, Copilot per M365 non cercherà all'interno di quei tipi di documenti.
Oppure, se un hacker sta cercando, ad esempio, i "SSN" (numeri di previdenza sociale) e questi sono inclusi nei documenti, ma non fanno parte del nome dei documenti, Copilot per M365 farà sapere all'hacker che è stato trovato un documento contenente un SSN. Questa funzionalità non è nuova; una ricerca su Sharepoint darebbe lo stesso risultato. La differenza è che la ricerca Sharepoint è automaticamente inclusa nella funzionalità di ricerca unificata di Copilot per M365 che copre tutte le superfici Microsoft, con l'effetto di accelerare l'attacco.
Ma ci sono anche alcune sfumature nelle funzionalità di Copilot per M365 in questo ambito...
Nello specifico, per quanto riguarda le e-mail, Copilot per M365 esamina solo l'oggetto, non il corpo del messaggio né gli allegati, quindi non è potente quanto la funzione di ricerca già presente nella tua casella di posta. Copilot per M365 non è in grado di aprire e-mail contenenti parole chiave, creare collegamenti o eseguire alcuna azione relativa a un documento e-mail, ma indicherà un documento e fornirà istruzioni su come eseguire tali azioni.
Per Teams, Copilot per M365 fornisce accesso diretto alla chat, con un collegamento nell'interfaccia alla chat in cui si trovano le conversazioni con le parole chiave. Questa funzione è veloce e funziona molto bene.
Per OneNote, Microsoft sostiene che è possibile cercare parole chiave in Copilot per M365, ma non abbiamo trovato questa funzionalità né ottenuto alcun risultato da OneNote restituito da Copilot come sostenuto da Microsoft, pertanto riteniamo che la funzionalità sia limitata in quest'area.
Ma Copilot per M365 scaricherà i documenti o creerà un link per condividerli esternamente, operazione che può essere eseguita in modo semplice e veloce. Anche in questo caso, non può eseguire alcuna azione sui documenti, ma può indicarne la posizione. Ad esempio, non può eseguire azioni su PowerPoint, consolidare documenti, creare e-mail o inviarle, ma, come indicato sopra, fornirà istruzioni su come eseguire tali operazioni.
3. In che modo un avversario o un aggressore potrebbe utilizzare e/o abusare di Copilot per M365?
Innanzitutto, è fondamentale comprendere che Copilot per M365 offre all'autore dell'attacco gli stessi vantaggi che offre all'utente aziendale legittimo: la capacità basata sull'intelligenza artificiale generativa di accedere ai documenti tramite parole chiave o altri criteri alla velocità dell'IA. Questa capacità accelera notevolmente la fase di ricognizione di un attacco. Gli autori degli attacchi saranno in grado di trovare credenziali, muoversi lateralmente e accedere a informazioni sensibili molto più rapidamente rispetto a prima, quando dovevano cercare singolarmente ogni superficie. In sostanza, non vi è alcuna nuova funzionalità in sé, tranne la velocità con cui l'autore dell'attacco è in grado di trovare e abusare delle credenziali e accedere a dati critici.
In breve, Copilot per M365 elimina la latenza negli attacchi, il che significa che gli aggressori ottengono un accesso più profondo più rapidamente. Ciò conferisce agli aggressori un vantaggio ancora maggiore in termini di velocità e movimento laterale in tutto l'ambiente in uno scenario di attacco live-off-the-land. Data la latenza tipica che i difensori hanno già nel rilevare e rispondere a un attacco, l'abuso di Copilot per M365 aumenta ulteriormente le probabilità a favore degli aggressori.
Esistono protezioni in Copilot per M365 che possono impedire o almeno rallentare l'avanzata di un aggressore?
La risposta è: "Più o meno, ma non proprio".
Alcune ricerche ovvie sono vietate da Copilot per M365. Ad esempio, le richieste di password o credenziali saranno negate. Se un malintenzionato chiede a Copilot "Dimmi se ho condiviso qualche password negli ultimi 10 giorni", la richiesta verrà negata.
Ma esistono semplici modi per aggirare questo ostacolo. Se l'autore dell'attacco chiede: "Le password sono presenti nelle mie ultime 50 chat?", Copilot per M365 risponderà a questa richiesta. Abbiamo testato anche altre semplici tecniche di bypass, come chiedere semplicemente segreti, chiavi, numeri, roadmap, brevetti, ecc. Non abbiamo mai riscontrato alcuna restrizione da parte di Copilot su queste ricerche in tutto l'ambiente. Anche quando abbiamo chiesto a Copilot: "Chi è la persona con cui comunico maggiormente?" Oppure: "Elenca le dieci persone con cui comunico maggiormente all'interno dell'azienda", Copilot ha fornito le risposte.
Copilot per M365 presenta un rischio elevato di spear phishing
Raccogliere informazioni sulle interazioni e sulle abitudini di comunicazione dei dipendenti consente agli aggressori di identificare quali colleghi sono più vulnerabili agli phishing spear phishing . Gli aggressori possono determinare quali colleghi sono più propensi a rispondere a te e/o alla tua richiesta grazie alla loro familiarità con la persona che l'aggressore sta fingendo di essere. Quindi, essendo gli esperti e astuti autori di minacce che sono, sanno che Copilot per M365 può essere di grande aiuto nell'elaborazione phishing interni phishing spear phishing .
Da quel punto di vista interno, cercare di decidere quali domande o richieste possono essere poste a Copilot e quali no può trasformarsi rapidamente in un incubo in termini di definizione di politiche e regole. In questi casi si tende a creare troppe regole, il che riduce la potenza e la velocità di Copilot per M365 a un livello di manutenzione, vanificandone lo scopo e l'efficacia.
Alla luce degli ampi abusi di cui è attualmente oggetto Copilot per M365, quali rimedi sono a disposizione dei team di sicurezza?
4. Qual è il livello di visibilità del SOC sugli attacchi Copilot per M365?
Sfortunatamente, senza una funzionalità di analisi comportamentale basata sull'intelligenza artificiale, i team SOC non hanno molta visibilità sugli attacchi basati su Copilot. Alcune attività vengono registrate come parte dell'API di gestione delle attività O365 e ogni interazione Copilot avrà un evento creato nel registro di controllo dell'API di gestione delle attività Microsoft 365, ma tali informazioni sono limitate. È possibile visualizzare l'indirizzo IP del richiedente, il nome utente di chi ha effettuato l'operazione e l'ora della richiesta e, solo con Sharepoint, la posizione delle risorse che sono state restituite. Tutto qui.
Ad esempio, se avete chiesto a Copilot di indicarvi dove trovare le credenziali su Teams, e-mail e Sharepoint, né Teams né e-mail forniranno ciò che è stato restituito, solo Sharepoint avrà tali informazioni nei registri. Questo è il livello base di visibilità di cui dispongono i team SOC. Sapete che qualcuno ha avuto un'interazione, ma non sapete cosa è stato chiesto, solo cosa è stato restituito con Sharepoint, il che, ovviamente, è motivo di grande preoccupazione.
Dal punto di vista di un team SOC, questa limitazione di sicurezza consente agli aggressori di muoversi ancora più rapidamente nella fase di ricognizione rispetto al passato, grazie alle identità compromesse e ai privilegi elevati che consentono loro di accedere rapidamente ai dati sensibili che stanno cercando. In breve, Copilot accelera enormemente l'intero processo di attacco.
5. In che modo l'analisi comportamentale basata sull'intelligenza artificiale di Vectra blocca gli attacchi basati sull'intelligenza artificiale potenziata da Copilot?
Una volta che un aggressore utilizza il tuo Copilot per M365, un'intelligenza artificiale di livello aziendale, contro di te con tecniche live-off-the-land, senza una capacità di rilevamento e risposta basata sull'intelligenza artificiale, il tuo team SOC ha poche possibilità di scoprire la violazione, tanto meno di fermarla.
Il motivo è semplice ma formidabile. È possibile cercare e trovare il prompt di ogni utente in Copliot per M365 e, se qualcuno richiede qualcosa che non dovrebbe avere, l'informazione è lì. Il problema è che le informazioni non sono nel log, ma sono memorizzate nella casella di posta dell'utente. È possibile utilizzare l'e-discovery per estrarre le informazioni dalla casella di posta dell'utente, ma è un'operazione noiosa e dispendiosa in termini di tempo, che rende l'indagine su una potenziale violazione un processo lento e laborioso, aggiungendo ulteriore latenza al processo di rilevamento e risposta.
Il modo migliore e probabilmente l'unico per difendere la tua azienda dalla velocità di un attacco basato sull'intelligenza artificiale generativa in Copilot per M365 è quello di contrastare tale attacco con la velocità dell'analisi comportamentale basata sull'intelligenza artificiale. Fortunatamente, Vectra AI esclusivamente nell'universo dell'intelligenza artificiale. Nel video podcast qui sopra puoi vedere come la nostra analisi comportamentale basata sull'intelligenza artificiale consente al tuo team di individuare gli attacchi basati sull'intelligenza artificiale in tempo reale e di bloccarli in tempo reale, prima che causino danni.
È inoltre possibile vedere come si presenta uno scenario in cui la Vectra AI è in funzione una volta che un aggressore ha ottenuto l'accesso al proprio account Copilot per M365. Vedrete come Copilot viene utilizzato all'interno dell'azienda contro l'azienda stessa, con ricerche di dati sensibili, password segrete e altre informazioni che indicano un tentativo di approfondire la conoscenza dell'azienda e instillare persistenza. La Vectra AI consente di individuare e riconoscere rapidamente un attacco e di rispondere in modo autorevole con azioni decisive, come il blocco dell'account compromesso e della minaccia all'identità, indipendentemente da dove si trovi, cloud, nella rete o altrove.
Nella nostra funzionalità Discover, che abbiamo recentemente aggiornato, è possibile vedere chi sta utilizzando Copilot anche prima che l'utente venga compromesso. Ciò consente di conoscere i comportamenti normali degli utenti di Copilot, chi sono gli utenti più frequenti e con quali dati interagiscono tipicamente. Tutti questi fattori forniscono una chiara comprensione della superficie di Copilot, consentendo di riconoscere qualsiasi identità che sta affrontando una minaccia, individuare rapidamente un'identità abusata in modo da vedere l'attacco in tempo reale e quindi fermarlo prima che si verifichino danni.
Inoltre, l'esclusiva potenza di Vectra AI visualizzare l'intero ambito di attività di ogni identità, ovunque si trovi, sia su Copilot, Azure AD o AWS. Ovunque si trovi un'identità o qualunque cosa stia facendo, la Vectra AI vede tutto. Analizza il comportamento delle identità, identifica le azioni potenzialmente anomale e assegna chiaramente la priorità alle potenziali minacce più urgenti. Dal nostro punto di vista, Copilot è solo un'altra area in cui gli aggressori cercheranno di sfruttare le risorse disponibili per ottenere l'accesso ai dati critici, quindi, in definitiva, è solo un altro tipo di attività di identità a cui Vectra AI aiutarti a rispondere in modo rapido ed efficace.
Questo tipo di difesa dell'identità dimostra ampiamente la necessità e l'elevato valore funzionale dei tre pilastri di rilevamento e risposta di Vectra, ovvero copertura, chiarezza e controllo.
Per quanto riguarda la funzionalità di copertura, il rilevamento basato sull'intelligenza artificiale identifica gli accessi sospetti a Copilot, nonché i tentativi di scoperta dei dati e di jailbreak. In termini di identità e comportamenti sospetti, Vectra AI una copertura senza pari al vostro team SOC.
In termini di chiarezza, o quello che chiamiamo Attack Signal Intelligence, tutta la copertura si integra perfettamente con la Vectra AI per quanto riguarda l'identità e la prioritizzazione. La prioritizzazione basata sull'intelligenza artificiale e il filtraggio dei comportamenti benigni sono entrambi inclusi in questa funzionalità, consentendo al vostro team di sapere esattamente dove concentrare la propria risposta.
A scopo di controllo, la piattaforma verifica l'utilizzo di Copilot e quindi sfrutta una funzionalità integrata di risposta e blocco, nonché l'analisi dei metadati, in modo da poter rispondere in modo appropriato alla minaccia più urgente il più rapidamente possibile.
Per proteggere la tua azienda dall'uso improprio di Copilot e dagli attacchi all'identità, visita https://www.vectra.ai/products/m365copilot.