53861 - INTELLIGENZA ARTIFICIALE A - Z

1. Conoscenza e comprensione: conoscenza dei paradigmi di sviluppo di sistemi basati su Intelligenza Artificiale (IA) classica e su apprendimento automatico, comprendendone limiti e problematiche associate; conoscenza della logica di funzionamento dei principali algoritmi di apprendimento automatico (supervisionato e non), delle reti neurali profonde e delle architetture su cui si basano gli attuali “Large Language Models”.

2. Capacità di applicare conoscenza e comprensione: gli studenti sapranno autonomamente prototipare e validare sistemi che apprendono dai dati, con particolare riferimento ai dati testuali e ai compiti di Natural Language Processing (NLP) e Natural Language Understanding (NLU). Sapranno effettuare l’allenamento di un modello da zero,  il “fine-tuning” di un modello pre-allenato, scegliendo le metriche appropriate per la valutazione delle prestazioni, in funzione del compito da apprendere.

3. Autonomia di giudizio: gli studenti sapranno valutare autonomamente se un problema può essere risolto con tecniche di apprendimento automatico; sapranno valutare, considerando i modelli e le architetture disponibili, quali siano quelli più appropriati per affrontare il problema, e interpretare criticamente i risultati ottenuti.

4. Abilità comunicative: gli studenti sapranno documentare chiaramente e con proprietà di linguaggio il problema affrontato, le caratteristiche del dataset, la configurazione del modello, e i risultati ottenuti. Saranno inoltre in grado di argomentare le scelte progettuali effettuate.

5. Capacità di apprendimento: a partire dalle nozioni apprese nel corso gli studenti saranno in grado di conoscere nuove applicazioni dell’IA leggendo la letteratura di riferimento nel settore delle Digital Humanities e di cimentarsi autonomamente nell’apprendimento di nuovi modelli e nuove librerie software.

Conoscenza del linguaggio di programmazione Python; conoscenza delle tecniche di base di pre-elaborazione dei dati testuali

Intelligenza Artificiale “classica”: Definizione di agente autonomo intelligente in relazione all’ambiente; Architettura di un sistema cognitivo.

Apprendimento automatico: Supervisionato, non supervisionato, auto supervisionato e per rinforzo. Richiami sulle basi matematiche. Classificazione e regressione. Classificatori lineari, Regressione logistica. Reti neurali: il percettrone multistrato. Il “deep learning”: cenni sulle Reti neurali convoluzionali, Architetture encoder-decoder: i Transformers. Modelli BERT-based, GPT-based e BART-based.  Metodologia di creazione, allenamento e testing dei modelli, strategie per rilevare overfitting e underfitting, metriche di valutazione; cross-validazione. Fine-tuning di modelli pre-allenati. Large Language Models. Apprendimento Zero-shot, One-shot, Few-shot. Prompt Engineering. Metriche di valutazione per IA generativa ed LLM. CLIP (Contrastive Language-Image pretraining) e il mondo multimodale.

L’ambiente Hugging Face. La libreria PyTORCH per il Deep Learning. La libreria LangChain.

Architetture ad agenti basate su LLM. “Reasoning” LLMs. Cenni su XAI (Explainable AI) e sull’Unbiasing dei modelli.

Applicazioni: Tasks di NLU, Recommender system, Sentiment analysis, Agenti conversazionali e con  “tools”. Ricerca e generazione multimodale.

Per la parte di IA classica:

Capitoli selezionati da S. Russell, P. Norvig, Artificial intelligence: a modern approach, Pearson, 2020 (4th edition). Cap. 1, pp. 1-5, 17-48; cap. 2, pp. 49-62.

Per la parte di apprendimento automatico:

J. Alammar, M. Grootendorst, Hands-On Large Language Models. Language Understanding and Generation, Sebastopol, O’Reilly Media 2024, 389 pp.

Documentazione tecnica sulle librerie di machine learning utilizzate per il progetto e disponibili sul sito di HuggingFace (https://huggingface.co/docs)

Si ricorda che, ai sensi dell’art. 171 della legge 22 aprile 1941, n. 633 e successive disposizioni, fotocopiare libri in commercio, in misura superiore al 15% del volume o del fascicolo di rivista, è reato penale.

Per ulteriori informazioni sui vincoli e sulle sanzioni all’uso illecito di fotocopie, è possibile consultare le Linee guida sulla gestione dei diritti d’autore nelle università (a cura della Associazione Italiana per i Diritti di Riproduzione delle opere dell’ingegno - AIDRO).

I testi di riferimento possono essere consultati in Biblioteca.

Prova orale

Prova pratica (sviluppo di un progetto)

Gli studenti svilupperanno un progetto, concordato con la docente, nel quale applicheranno le tecniche apprese a lezione. Il progetto dovrà essere corredato da una relazione sui risultati ottenuti e verrà presentato e discusso in sede di esame orale. Durante l’esame orale verrà presentato un articolo preventivamente scelto dal candidato/a da una selezione di articoli riguardanti applicazioni dell’IA alle Digital Humanities proposta dalla docente e verranno anche poste alcune domande riguardanti la teoria. Il progetto incide per il 50% sulla valutazione finale, la presentazione dell’articolo per il 20% e la teoria per il 30%. I criteri di valutazione del progetto includono: correttezza dell’approccio tecnico e metodologico, capacità di giustificare le scelte progettuali e i livelli di prestazione ottenuti, presenza di elementi innovativi. 

Discussione del progetto. Differenze fra apprendimento supervisionato e non supervisionato; Discussione del concetto di agente intelligente razionale ; differenze fra training from scratch e fine-tuning. Metodologie di controllo dell’overfitting di un modello. Elementi caratteristici delle architetture Transformer.