Profilare un Neural Language Model

Seminario interno

Nel corso degli ultimi anni, lo studio e l’analisi dei meccanismi interni dei più recenti Neural Language Models (NLMs) è diventata una delle linee di ricerca più produttive nell’ambito del Natural Language Processing (NLP). Diverse metodologie sono state ideate al fine di ottenere spiegazioni e capire come questi modelli siano in grado di codificare implicitamente competenza linguistica all’interno delle loro rappresentazioni. Il titolare del seminario presenterà un approccio ideato al fine di indagare se, sfruttando i più recenti metodi di NLP di text e author profiling e, nello specifico, di studio dei processi di evoluzione delle competenze linguistiche, sia anche possibile apprendere il comportamento dei NLMs allo stato dell’arte. Il seminario sarà diviso in due parti. Nella prima parte, verrà illustrato un approccio stilometrico per tracciare l’evoluzione delle competenze linguistiche di apprendenti L1 e L2, ricorrendo all’utilizzo di un ampio set di caratteristiche linguisticamente motivate. Nella seconda parte, invece, il titolare del seminario presenterà alcuni studi da lui effettuati al fine di indagare le competenze linguistiche implicitamente codificate dagli NLMs, a partire dallo stesso set di caratteristiche linguistiche usate negli esperimenti precedenti.

Relatore/i: Alessio Miaschi

È assegnista di ricerca presso l’ItaliaNLP Lab dell’Istituto di Linguistica Computazionale “A. Zampolli” del Consiglio Nazionale delle Ricerche. Ha conseguito il Dottorato di Ricerca in Informatica presso l’Università di Pisa nel maggio 2022 con una tesi incentrata sulla definizione di metodologie per l’interpretazione e la comprensione delle competenze linguistiche implicitamente codificate dai più recenti modelli neurali del linguaggio. Precedentemente ha conseguito la Laurea Magistrale in Informatica Umanistica presso l’Università di Pisa. I suoi interessi di ricerca riguardano principalmente lo sviluppo e l’analisi dei più recenti modelli neurali del linguaggio, nonché la definizione di tecnologie di Natural Language Processing nell’ambito della Formazione.

Opuscolo