MMFCYBERDETECTOR – FRAMEWORK MULTI-MODALE PER L'IDENTIFICAZIONE, ANALISI E VALUTAZIONE DI AZIONI DI CYBERBULLISMO IN CONTENUTI MULTIMEDIALI

La diffusione di contenuti multimediali su piattaforme di messaggistica come Telegram complica la moderazione e il rilevamento di comportamenti dannosi, tra cui il cyberbullismo. L’elevato volume e la rapidità di circolazione dei media rendono insostenibile un’analisi esclusivamente manuale. Questa tesi propone MMFCyberDetector, un framework software multi-modale per l’identificazione e la valutazione di potenziali azioni di cyberbullismo in immagini e video. L’architettura, realizzata come applicazione web in Flask, trasforma dati grezzi in una valutazione del rischio interpretabile. Il sistema integra diversi moduli: uno scraper asincrono basato su Telethon acquisisce i media da canali Telegram e li archivia in MongoDB; successivamente, modelli di deep learning analizzano i contenuti. Un modello YOLO rileva oggetti sensibili, mentre YOLO-Pose estrae dati scheletrici utilizzati da un modello ST-GCN per classificare le azioni in “Violenza” o “NonViolenza”. I risultati confluiscono in un modulo di valutazione che calcola un punteggio di rischio da 0 a 100%. La validazione condotta su casi di studio ha evidenziato la capacità del sistema di rilevare minacce esplicite, ridurre i falsi positivi e mantenere coerenza in scenari ambigui. Il prototipo dimostra come un approccio multi-modale possa supportare in modo trasparente e quantitativo le attività di moderazione in contesti digitali complessi.