Nel 2023 l'IA generativa diventerà un fenomeno di massa, con un numero maggiore di persone che sfrutteranno questa tecnologia in tutte le regioni, i settori e i livelli di responsabilità. Nella ricerca di McKinsey "Lo stato dell'IA nel 2023: Generative AI's breakout year" di McKinsey, il 79% degli intervistati dichiara di essere stato esposto all'IA generativa per lavoro o al di fuori di esso e il 22% dichiara di utilizzarla regolarmente nel proprio lavoro.
Sebbene l'adozione e gli investimenti nell'IA generativa siano in aumento, il rapporto di McKinsey ha dimostrato che molte organizzazioni non stanno affrontando i potenziali rischi dell'IA generativa. Meno di un terzo degli intervistati ha dichiarato di aver adottato misure per ridurre l'uso di tecnologie avanzate di IA al fine di mitigare i rischi di cybersecurity.
L'ascesa dell'IA generativa nelle aziende e nella sicurezza informatica
Nel 2024, si prevede che l'IA generativa giocherà un ruolo ancora più importante nelle aziende e nella società. Secondo recenti studi, l'adozione dell'IA generativa è destinata a crescere in modo esponenziale, con un aumento previsto del 30% nell'utilizzo in vari settori. Man mano che questi sistemi intelligenti basati sull'IA e sull'apprendimento automatico diventano più radicati nella nostra vita quotidiana, il panorama della cybersicurezza è pronto ad affrontare sfide e innovazioni.
Di seguito, gli esperti di Vectra AI hanno stilato le loro previsioni generative sull'AI relative alla cybersecurity per il 2024, indicando gli elementi che tutti i team di sicurezza, i CISO e i responsabili SOC dovrebbero tenere a mente in vista del nuovo anno.
IA generativa: uno strumento per l'innovazione e una sfida per la sicurezza informatica
Prepararsi al futuro: Strategie di sicurezza informatica nell'era dell'IA
Oliver Tavakoli, Chief Technology Officer, prevede che l 'IA generativa eroderà l'efficacia della sicurezza delle e-mail. "Inoltre, l'utilizzo dell'IA generativa negli attacchi di social engineering servirà a far capire che le attuali linee di difesa della sicurezza sono inadeguate. Di conseguenza, prevedo che le organizzazioni si orienteranno verso approcci di sicurezza a valle, come ad esempio Zero Trustmicro-segmentazione e meccanismi di rilevamento e risposta".
Implicazioni politiche: Il ruolo dell'intelligenza artificiale nelle elezioni e l'integrità delle informazioni
Sohrob Kazerounian, Distinguished AI Researcher , ritiene che, in vista delle elezioni del 2024, l 'IA generativa influenzerà la sfiducia e la disinformazione elettorale. "L'ampia disponibilità di modelli di IA generativa e la loro relativa facilità d'uso avranno effetti di vasta portata, dato che gli Stati Uniti si trovano attualmente in un anno elettorale. La disinformazione su scala, con contenuti di qualità (ad esempio, audio e video falsificati di candidati, fiction prodotte in massa e mascherate da notizie, ecc. L'incapacità di fidarsi dei nostri sensi potrebbe portare alla sfiducia e alla paranoia, incrinando ulteriormente le relazioni sociali e politiche tra le persone".
Cambiamento nelle tendenze dell'IA: Diminuiscono gli LLM, aumentano i falsi profondi
Christian Borst, CTO EMEA, ritiene che l'uso diffuso degli LLM svanirà, ma le falsificazioni profonde saliranno alle stelle. "Molte organizzazioni stanno esplorando modi per utilizzare i Large Language Models (LLM) dopo l'ondata iniziale di entusiasmo di quest'anno. Ma se si va a scavare sotto la superficie, è chiaro che il fattore novità evaporerà presto. Gli LLM sono in genere piuttosto difficili da usare, perché non sono in grado di comprendere il contesto o di fornire risultati affidabili, quindi l'uso pratico più ampio degli LLM è limitato. L'anno prossimo vedremo quindi le aziende ridurre l'uso degli LLM in attesa che questi strumenti diventino più funzionali e facili da usare.
"Gli attori delle minacce si troveranno ad affrontare gli stessi problemi nell'utilizzo degli LLM, quindi probabilmente non vedremo molte attività complesse come la generazione di codice maligno da parte dell'IA. Tuttavia, possiamo aspettarci che i criminali informatici sfruttino l'IA generativa per creare deep fake più realistici e sofisticati. In questo modo avranno maggiori possibilità di ingannare gli utenti e indurli a fornire dati sensibili o a cliccare su qualcosa di dannoso attraverso esche phishing audio o visive più convincenti".
Paesaggio normativo: equilibrio tra innovazione e controllo dell'IA
Per quanto riguarda l'IA generativa (e più in generale l'IA), le normative e le politiche giocheranno un ruolo importante nel 2024. Secondo Hitesh Sheth, CEO Vectra AI , il futuro dell'IA dipenderà dalle decisioni normative. "Nel 2024, prevedo che assisteremo a progressi monumentali nella regolamentazione e nella politica dell'IA. Sulla base dell'ordine esecutivo del Presidente Biden sull'intelligenza artificiale, i responsabili delle decisioni degli enti governativi valuteranno e metteranno in atto normative più concrete per contenere i rischi dell'IA e sfruttarne i vantaggi. Poiché l'IA continua a evolversi, sarà importante che queste norme in via di sviluppo trovino un equilibrio tra la difesa della trasparenza e la promozione della continua innovazione che si sta verificando a un ritmo rapido."
Sohrob Kazerounian, Distinguished AI Researcher, è d'accordo e prevede che i dilemmi etici, giuridici e politici dell'IA saranno alla base delle controversie. "Le questioni etiche, legali e socio-politiche riguardanti l'IA non potranno che diventare più spinose. Data la paralisi politica generale negli Stati Uniti, è improbabile che emergano quadri normativi e legali solidi per la regolamentazione dell'IA con la stessa rapidità con cui sono necessari. Le cause legali riguardanti il materiale protetto da copyright utilizzato per addestrare modelli generativi di IA aumenteranno di numero".
Conclusione: Abbracciare l'IA con cautela e responsabilità
Non c'è dubbio che l'IA generativa trasformerà il panorama della cybersecurity in modo significativo. Ha il potenziale per far progredire gli strumenti di sicurezza, migliorare l'intelligence sulle minacce e trasformare i centri operativi di sicurezza. Mentre abbracciamo queste opportunità, procediamo con cautela, armati di conoscenza, resilienza e impegno per stare un passo avanti nell'intricata danza.
L'IA generativa presenta una nuova ed entusiasmante opportunità di utilizzare la tecnologia per contribuire alla lotta contro i cyberattacchi, che è la missione fondante di Vectra AI. Per saperne di più sull'intelligenza artificiale alla base di Vectra Attack Signal Intelligence, scaricate oggi stesso il nostro ultimo whitepaper.