RICERCA ITALIANA     

Teoria dell'Apprendimento e Applicazioni

Università degli Studi di Genova

Abstract

L'apprendimento e' di fondamentale importanza per svelare i meccanismi dell'intelligenza nei sistemi biologici e per la costruzione di sistemi intelligenti. L'impatto tecnologico della ricerca sull'apprendimento e' profondo e include quasi tutte le attivita' umane. Dopo lo sviluppo delle basi matematiche e dei principi computazionali dell'apprendimento da esempi degli ultimi decenni, la progettazione e implementazione di metodi efficaci e trasparenti e' un traguardo raggiungibile.

Gli scopi di questo progetto sono scientifici, tecnologici e strategici. Lo scopo scientifico e' un sostanziale passo in avanti nella ricerca sull'apprendimento da ottenersi mediante la focalizzazione degli sforzi dei partecipanti al progetto su alcuni difficili problemi importanti sia per l'intelligenza artificiale sia per le neuroscienze. Dal punto di vista tecnologico facendo leva sulle collaborazioni esistenti fra i gruppi proponenti lo scopo e' di fornire importanti contributi nei diversi campi applicativi, quali la visione artificiale, la robotica, la bioinformatica e l'informatica medica. L'obiettivo strategico e' quello di rafforzare la posizione preminente dei gruppi italiani nella ricerca sull'apprendimento a livello internazionale creando una connessione tra i gruppi italiani e americani attraverso stage, visite e simposi. Si cercheranno sinergie con iniziative quali l'Istituto Italiano di Tecnologia, il Distretto Tecnologico sui>>>

Coordinatore Scientifico del Programma di Ricerca

Alessandro VERRI, Universita' degli Studi di GENOVA

Obiettivo del Finanziamento

E' noto che il problema dell'apprendimento e' connesso a uno dei problemi piu' difficili della scienza contemporanea: la comprensione dell'intelligenza. Nell'ultimo decennio, alcuni lavori teorici basati su articoli fondamentali di V. Vapnik, T. Poggio, S. Smale e loro coautori (cfr. [Vapnik, 1992 e 1998; Girosi and Poggio, 1990; Evgeniou, Pontil and Poggio, 2000; Cucker and Smale, 2001]), hanno chiarito i fondamenti matematici di base e indicato che lo studio dell'apprendimento da esempi, inteso per molto tempo come un problema empirico, puo' e deve essere affrontato in modo matematicamente rigoroso.

Nonostante queste recenti conquiste, l'efficienza dei metodi di apprendimento proposti fino ad ora e' limitata dalla loro mancanza di trasparenza. Mentre in molte applicazioni, come nell'edutainment, nel recupero di informazioni in grandi database, nel controllo di qualita' in ambiente industriale e, in alcuni casi, anche nella visione artificiale e nella robotica, tale mancanza non ha un impatto significativo, nei problemi di origine biologica, nell'ambito delle neuroscienze e/o della genetica, essa viene percepita come una seria limitazione.

L'obiettivo scientifico di questo progetto e' quello di ottenere un miglioramento sostanziale nello stato dell'arte della ricerca nel campo dell'apprendimento dal punto di vista teorico e applicativo. Lo scopo finale e' ridurre l'attuale opacita' delle tecniche di apprendimento formulando metodi rigorosi per la), hanno chiarito i fondamenti matematici di base e indicato che lo studio dell'apprendimento da esempi, inteso per molto tempo come un problema empirico, puo' e deve essere affrontato in modo matematicamente rigoroso.

Nonostante queste recenti conquiste, l'efficienza dei metodi di apprendimento proposti fino ad ora e' limitata dalla loro mancanza di trasparenza. Mentre in molte applicazioni, come nell'edutainment, nel recupero di informazioni in grandi database, nel controllo di qualita' in ambiente industriale e, in alcuni casi, anche nella visione artificiale e nella robotica, tale mancanza non ha un impatto significativo, nei problemi di origine biologica, nell'ambito delle neuroscienze e/o della genetica, essa viene percepita come una seria limitazione.

L'obiettivo scientifico di questo progetto e' quello di ottenere un miglioramento sostanziale nello stato dell'arte della ricerca nel campo dell'apprendimento dal punto di vista teorico e applicativo. Lo scopo finale e' ridurre l'attuale opacita' delle tecniche di apprendimento formulando metodi rigorosi per laE' noto che il problema dell'apprendimento e' connesso a uno dei problemi piu' difficili della scienza contemporanea: la comprensione dell'intelligenza. Nell'ultimo decennio, alcuni lavori teorici basati su articoli fondamentali di V. Vapnik, T. Poggio, S. Smale e loro coautori (cfr. [Vapnik, 1992 e 1998; Girosi and Poggio, 1990; Evgeniou, Pontil and Poggio, 2000; Cucker and Smale, 2001]), hanno chiarito i fondamenti matematici di base e indicato che lo studio dell'apprendimento da esempi, inteso per molto tempo come un problema empirico, puo' e deve essere affrontato in modo matematicamente rigoroso.

Nonostante queste recenti conquiste, l'efficienza dei metodi di apprendimento proposti fino ad ora e' limitata dalla loro mancanza di trasparenza. Mentre in molte applicazioni, come nell'edutainment, nel recupero di informazioni in grandi database, nel controllo di qualita' in ambiente industriale e, in alcuni casi, anche nella visione artificiale e nella robotica, tale mancanza non ha un impatto significativo, nei problemi di origine biologica, nell'ambito delle neuroscienze e/o della genetica, essa viene percepita come una seria limitazione.

L'obiettivo scientifico di questo progetto e' quello di ottenere un miglioramento sostanziale nello stato dell'arte della ricerca nel campo dell'apprendimento dal punto di vista teorico e applicativo. Lo scopo finale e' ridurre l'attuale opacita' delle tecniche di apprendimento formulando metodi rigorosi per la selezione delle feature e, quindi, schemi piu' trasparenti per la classificazione e la regressione. Questo progetto punta a sviluppare un ambito coerente e unificato per lo studio e la validazione di un grande numero di tecniche di apprendimento da esempi e a estendere tale ambito al fine di includere problemi di selezione di variabili (o feature) e casi di apprendimento non supervisionato. Verranno considerati quattro domini di applicazione: la visione artificiale, la robotica, la bioinformatica e l'informatica medica. Discutiamo ora brevemente i principali obiettivi teorici e quelli relativi alle applicazioni.

Teoria dell'apprendimento

Lo sforzo teorico si concentrera' su quattro argomenti.

Apprendimento da esempi come problema inverso. Scopo principale e' estendere i risultati ottenuti finora nel caso di funzioni costo quadratiche e termine di penalita' corrispondente a una norma in uno spazio di Hilbert a nucleo riproducente (condizioni queste che conducono a un problema lineare) a un ambito piu' generale. Un secondo importante obiettivo sara' ottenere metodi oggettivi per la stima del parametro di regolarizzazione. Un obiettivo finale sara' la valutazione dell'importanza di esempi non etichettati per la stima ottimale del parametro.

Algoritmi iterativi per l'apprendimento. L'obiettivo e' ottenere una caratterizzazione matematica delle proprieta' di generalizzazione di metodi iterativi per l'apprendimento, come adaboost e schemi con proiezione. Un secondo risultato importante sara' fornire criteri oggettivi per regole di stopping ottimali.

Metodi di regolarizzazione per la selezione delle feature. Lo scopo e' arrivare a una caratterizzazione unificata delle proprieta' matematiche di vari schemi per la selezione di variabili basati su approcci di regolarizzazione proposti nell'ultimo decennio. Obiettivo piu' a lungo termine e' includere il caso in cui sono a disposizione solo esempi positivi.

Metodi adattivi per la costruzione dei kernel. Lo scopo e' fornire metodi efficienti per la stima ottimale dei kernel basati su schemi di regolarizzazione (per esempio, metodi capaci di trovare una combinazione convessa ottimale di funzioni kernel) e su un utilizzo ottimale di informazioni a priori per costruire nuove funzioni kernel.

Applicazioni

Descriviamo ora i principali obiettivi che intendiamo raggiungere in quattro differenti domini di applicazione: visione artificiale, robotica, bioinformatica e informatica medica.

Visione artificiale. Lo scopo finale e' costruire un dizionario di classificatori da utilizzare per affrontare problemi di comprensione di immagini, recupero di immagini a partire dal contenuto, descrizione di scene e, in definitiva, per la costruzione di sistemi capaci di estrarre conoscenza da informazione visiva grezza. Un secondo importante obiettivo in questo campo e' produrre metodi addestrabili capaci di costruire e utilizzare modelli view-centered di oggetti 3D e scene basate sulla combinazione di tecniche di apprendimento e conoscenze a priori sui vincoli a livello di formazione dell'immagine (sul piano sia geometrico che fotometrico).

Robotica. Il principale obiettivo scientifico e' costruire un sistema embodied capace di imparare a sviluppare capacita' percettive, motorie e di comunicazione allo scopo di effettuare compiti volti alla manipolazione. Dal punto di vista della robotica, lo scopo e' costruire un robot umanoide upper-torso con capacita' di manipolazione simili a quelle degli essere umani. Il robot sara' equipaggiato con una testa stereo controllabile, capace di fornire la localizzazione nello spazio e informazioni 3D sugli oggetti da manipolare. Il sistema braccio-mano permettera' l'esecuzione di diversi tipi di presa e traiettorie di avvicinamento. Il sistema, inizializzato con semplici sinergie motorie, apprendera', attraverso fasi successive, come (i) raggiungere gli oggetti, (ii) preparare la mano in funzione della forma dell'oggetto e (iii) avvicinare e afferrare l'oggetto a seconda della vicinanza e dell'utilizzo.

Bioinformatica. L'obiettivo e' duplice: (i) ottenere metodi che possono essere addestrati con un numero relativamente piccolo di esempi per scopi di selezione delle feature e di classificazione, e (ii) lavorare su algoritmi capaci di costruire automaticamente network di relazioni fra i dati. Applicazioni correnti includono la classificazione di dati da microarray di DNA, la rilevazione di binding site, e l'apprendimento di network di interazione fra geni a partire dall'espressione genetica e da dati di proteine. Argomenti cruciali saranno lo sviluppo di tecniche capaci di generalizzare da sole esempi positivi e di combinare sorgenti di informazione eterogenee.

Informatica medica. L'apprendimento da dati di processo - ad esempio, dati raccolti durante la somministrazione di una cura - e' una qualita' cruciale delle organizzazioni di assistenza medica. In questo progetto ci focalizzeremo sul problema dei modelli di apprendimento per gestire rischi clinici, nei termini di eventi che influenzano il rischio di sviluppare malattie, con conseguente ospedalizzazione e mortalita', e i loro costi corrispondenti. Ci occuperemo anche del problema dell'apprendimento per il workflow dei dati clinici. Infine, studieremo l'impatto della non conformita' delle linee guida della pratica clinica e la loro motivazione.

Bibliografia

F. Cucker and S. Smale, ""On the mathematical foundation of learning,"" Bull.A.M.S., 39, 1-49, 2002

T. Evgeniou, M. Pontil, and T. Poggio, ""Regularization networks and support vector machines,"" Adv. Comp. Math., 13, 1-50, 2000

T. Poggio and F. Girosi, ""Regularization Algorithms for Learning that are Equivalent to Multilayer Networks,"" Science, 247, 978-982, 1990

V. Vapnik, The nature of statistical learning theory (Springer Verlag, Berlin, 1995)

V. Vapnik, Statistical Learning Theory (Wiley, New York, 1998)]>>>

Durata

36 mesi