METODI NUMERICI PER IL CLUSTERING: DESCRIZIONE DI ALCUNE TECNICHE E RISULTATI NUMERICI DELLA LORO APPLICAZIONE

This thesis aims to investigate the mathematical principles and numerical applications of partitional clustering methods, with a specific focus on three widely used algorithms: k-means, ISODATA, and fuzzy c-means (FCM). Following a preliminary overview of clustering within the context of unsupervised machine learning, the work explores the theoretical foundations and optimization challenges underlying these approaches, highlighting their strengths and operational limitations. Special attention is given to the analysis of clustering validation criteria, such as homogeneity indices, pointwise and partitional entropy measures, cluster similarity, cluster separability metrics, and well-known validation indices (Silhouette, Davies-Bouldin, Calinski-Harabasz), which allow for a quantitative evaluation of partitioning quality. On the experimental side, numerical tests are presented using benchmark datasets, including Fisher’s Iris dataset and a wine dataset involving physicochemical measurements of different wine samples. The study illustrates how the various algorithms respond to challenges such as determining the number of clusters, the presence of outliers, or non-spherical data distributions. The experiments highlight both the effectiveness of each method in identifying cohesive groups and the possible limitations due to constraints on cluster shape, sensitivity to initial conditions, non-normalized data, and noise in the observations. The conclusions summarize the results obtained, discuss improvement prospects, and propose possible extensions to the research, including the adoption of advanced initialization techniques and more robust clustering methodologies (such as hierarchical or density-based methods), in order to better handle the wide variety of situations encountered in modern applications of Artificial Intelligence.

La presente tesi si propone di investigare i principi matematici e le applicazioni numeriche dei metodi di clustering partizionale, con un'attenzione specifica su tre algoritmi ampiamente diffusi: k-means, ISODATA e fuzzy c-means (FCM). Dopo una disamina preliminare sull'inquadramento del clustering nell'ambito dell'apprendimento automatico non supervisionato, la trattazione esplora i fondamenti teorici e le problematiche di ottimizzazione sottese a questi approcci, evidenziandone punti di forza e limitazioni operative. Un'attenzione particolare è dedicata all'analisi dei criteri di validazione della bontà del clustering, quali gli indici di omogeneità, le misure di entropia puntuale e partizionale, la similarità tra cluster, le metriche di separabilità tra cluster e i ben noti indici di validazione (Silhouette, Davies-Bouldin, Calinski-Harabasz), che consentono di valutare quantitativamente la qualità del partizionamento. Sul versante sperimentale, si presentano test numerici condotti su insiemi di dati di riferimento, tra cui l'insieme di dati Iris di Fisher e un dataset enologico riguardante misure chimico-fisiche di differenti campioni di vino. Lo studio mette in luce come i diversi algoritmi rispondano a sfide quali la scelta del numero di cluster, la presenza di outlier, o la distribuzione non sferica dei dati. Le sperimentazioni evidenziano sia l'efficacia di ciascun metodo nell'individuare gruppi coesi, sia i possibili limiti dovuti a vincoli di forma dei cluster, sensibilità alle condizioni iniziali, dati non normalizzati, e rumore nelle osservazioni. Le conclusioni riassumono i risultati ottenuti, discutono le prospettive di miglioramento e propongono possibili estensioni della ricerca, tra cui l'adozione di tecniche di inizializzazione avanzate e di metodologie di clustering più robuste (come quelle di tipo gerarchico o basate su densità), al fine di gestire al meglio la notevole varietà di situazioni che si incontrano nei moderni scenari applicativi dell'Intelligenza Artificiale.