PROGETTAZIONE DI UN MIDDLEWARE A CASCATA PER LA MITIGAZIONE DEL PROMPT INJECTION NEI LARGE LANGUAGE MODEL

Le applicazioni basate su Large Language Model sono esposte al prompt injection, una classe di attacchi in cui istruzioni malevole, inserite direttamente dall'utente o nascoste in contenuti di terze parti, sovvertono le istruzioni di sistema e inducono il modello a comportamenti non previsti, dalla rivelazione del prompt di sistema all'aggiramento delle politiche di sicurezza. La tesi progetta, implementa e valuta sperimentalmente PromptGuard, un middleware proxy sviluppato in Python che si interpone tra il client e l'LLM finale e decide se inoltrare o bloccare ogni richiesta. Il sistema adotta un'architettura a cascata su quattro livelli: la normalizzazione del testo, che neutralizza tecniche di evasione quali leetspeak, caratteri spaziati e delimitatori falsificati; un rilevatore euristico a regole; un classificatore statistico basato su n-grammi; e, solo per i casi residui incerti, un giudizio delegato a un modello linguistico. I punteggi dei livelli sono aggregati e confrontati con una soglia decisionale, mentre l'uscita anticipata evita di attivare i livelli più costosi quando il verdetto è già netto. La valutazione confronta il sistema non protetto e quello protetto su un dataset bilanciato di 200 prompt, tra richieste legittime e payload malevoli di tipo diretto, indiretto e offuscato, misurando detection rate, falsi positivi e overhead di latenza. I risultati mostrano il 91,0% degli attacchi rilevati, il 4,0% di falsi positivi e 0,58 ms di latenza aggiuntiva, con la quota di attacchi andati a segno che scende dal 58% all'1%. Il lavoro è completato da un'applicazione web dimostrativa e da una suite di test automatici.