UNO STUDIO PER IL MALWARE TRIAGE SUPPORTATO DALL’AI: INTEGRAZIONE DI ANALISI STATICA, ANALISI DINAMICA E XAI

Il presente lavoro di tesi si inserisce in una linea di ricerca del SisInfLab sul malware triage supportato dall'AI. Il gruppo di ricerca ha sviluppato e validato una pipeline ibrida che integra analisi statica, analisi dinamica e tecniche XAI, definendo inoltre il modello concettuale e il framework per la valutazione dei modelli mentali degli operatori. Il contributo della tesi è stato realizzare un'applicazione web con tre modalità di supporto al triage: sola predizione (Prediction only), dettaglio dei due rami e del loro accordo (Fusion-aware) e aggiunta di spiegazioni locali e globali (Fusion + XAI). Le tre modalità sono state confrontate in uno studio esplorativo within-subjects con dodici professionisti con esperienza nella sicurezza informatica, su sei casi, fra cui tre errori del sistema. L'appropriate reliance è stata la stessa nelle tre modalità e il modello mentale non è migliorato. Nei due errori di classe l'output ha confermato l'errore che quasi tutti i partecipanti avevano già commesso, mentre nella modalità Fusion-aware il disaccordo fra i rami sembra aver favorito l'escalation. Mostrare più informazione sull'output non è bastato a rendere la reliance più selettiva.