This thesis aims to analyze and systematize Image Captioning techniques that are not intended for simple narrative description, but for the generation of Knowledge Graphs. The objective is to explore how visual information can be extracted, structured, and injected into the training processes of Large Language Models (LLMs). In particular, the work investigates how the transition from a visual representation to a graph-based representation can enrich the LLM’s knowledge base, enhancing its capabilities in Visual Question Answering (VQA) and contextual reasoning.

Questa tesi si propone di analizzare e sistematizzare le tecniche di Image Captioning finalizzate non alla semplice descrizione narrativa, ma alla generazione di Knowledge Graph. L’obbiettivo è esplorare come le informazioni visive possano essere estratte, strutturate e iniettate nei processi di addestramento dei Large Language Model (LLM). In particolare, si indagherà come il passaggio da una rappresentazione visiva a una rappresentazione a grafo possa arricchire la base di conoscenza dell’LLM, migliorandone la capacità di Visual Question Answering (VQA) e di ragionamento contestuale.

TECNICHE DI IMAGE CAPTIONING PER LA GENERAZIONE DI KNOWLEDGE GRAPH

D'ERAMO, FRANCESCO
2024/2025

Abstract

This thesis aims to analyze and systematize Image Captioning techniques that are not intended for simple narrative description, but for the generation of Knowledge Graphs. The objective is to explore how visual information can be extracted, structured, and injected into the training processes of Large Language Models (LLMs). In particular, the work investigates how the transition from a visual representation to a graph-based representation can enrich the LLM’s knowledge base, enhancing its capabilities in Visual Question Answering (VQA) and contextual reasoning.
2024
IMAGE CAPTIONING TECHNIQUES FOR THE GENERATION OF KNOWLEDGE GRAPHS
Questa tesi si propone di analizzare e sistematizzare le tecniche di Image Captioning finalizzate non alla semplice descrizione narrativa, ma alla generazione di Knowledge Graph. L’obbiettivo è esplorare come le informazioni visive possano essere estratte, strutturate e iniettate nei processi di addestramento dei Large Language Model (LLM). In particolare, si indagherà come il passaggio da una rappresentazione visiva a una rappresentazione a grafo possa arricchire la base di conoscenza dell’LLM, migliorandone la capacità di Visual Question Answering (VQA) e di ragionamento contestuale.
Knowledge Graph
Image Captioning
Large Language Model
Object Detection
Computer Vision
File in questo prodotto:
Fulltext non presente su UNITESI – Verifica la disponibilità della tesi in formato cartaceo interrogando il Catalogo di Ateneo

I documenti in UNITESI sono protetti da copyright e tutti i diritti sono riservati, salvo diversa indicazione.

Utilizza questo identificativo per citare o creare un link a questo documento: https://hdl.handle.net/20.500.14253/68472