Briefing sulle minacce: All'interno del ciclo di vita degli attacchi GenAI

In questo episodio di Threat Briefing, ci immergiamo nelle tattiche reali utilizzate dagli avversari per sfruttare i sistemi di IA generativa. Il ricercatore di sicurezza Alex Groyz si unisce a noi per spiegare come gli aggressori stiano attivamente abusando dell'infrastruttura LLM cloud, dagli endpoint di inferenza esposti e dalla Shadow AI all'iniezione di prompt, al jailbreak e all'esfiltrazione di dati guidata dall'inferenza. Analizziamo il modo in cui il framework ATLAS di MITRE si adatta a questi attacchi e discutiamo di come i difensori possano utilizzarlo per simulare il comportamento degli avversari, convalidare i rilevamenti e mettere in sicurezza l'IAgen nell'intero ciclo di vita.