LLM Course

0. Installazione

1. Modelli Transformer

Introduzione Natural Language Processing Cosa fanno i Transformer?Come funzionano i Transformer?Modelli encoder Modelli decoder Modelli sequence-to-sequence Bias e limiti Riassunto Quiz di fine capitolo

2. Usare i 🤗 Transformers

3. Affinamento di un modello pre-addestrato

4. Condividere modelli e tokenizers

5. La libreria 🤗 Datasets

8. Come chiedere un aiuto

9. Creare e condividere demo

Join the Hugging Face community

and get access to the augmented documentation experience

Collaborate on models, datasets and Spaces

Faster examples with accelerated inference

Switch between documentation themes

to get started

Quiz di fine capitolo

In questo capitolo abbiamo parlato di molti argomenti! Non preoccuparti se non hai capito tutto nel dettaglio: i prossimi capitoli ti aiuteranno a capire come molte di queste cose funzionano dietro le quinte.

Prima di procedere, però, verifichiamo cos’hai imparato in questo capitolo!

1. Esplora l’Hub e cerca il checkpoint roberta-large-mnli . Quale compito svolge?

Riassunto testuale Classificazione testuale Generazione testuale

2. Cosa restituisce il codice seguente?

from transformers import pipeline

ner = pipeline("ner", grouped_entities=True)
ner("My name is Sylvain and I work at Hugging Face in Brooklyn.")

Restituisce un punteggio associato alla frase, con etichette del tipo "positive" o "negative". Genera e restituisce testo che completa la frase di partenza. Restituisce i termini che rappresentano persone, organizzazioni o luoghi.

3. Cosa dovrebbe rimpiazzare ”…” in questo estratto di codice?

from transformers import pipeline

filler = pipeline("fill-mask", model="bert-base-cased")
result = filler("...")

Questo <mask> aspetta te. Questo [MASK] aspetta te. Questo signore aspetta te.

4. Perché questo codice non funziona?

from transformers import pipeline

classifier = pipeline("zero-shot-classification")
result = classifier("This is a course about the Transformers library")

Questa pipeline richiede che le etichette siano fornite per poter classificare il testo. Questa pipeline richiede diverse frasi, non solo una. Come al solito, la libreria Transformer di 🤗 non funziona. Questa pipeline richiede un input più lungo. Quello fornito è troppo corto.

5. Cosa significa “transfer learning”?

Trasferire la conoscenza di un modello pre-addestrato a un nuovo modello, addestrando quest'ultimo sulla stessa banca dati. Trasferire la conoscenza di un modello pre-addestrato a un nuovo modello addestrando il secondo con i pesi del primo. Trasferire la conoscenza di un modello pre-addestrato a un nuovo modello costruendo il secondo con la stessa architettura del primo.

6. Vero o falso? Solitamente un modello linguistico non richiede etichette in fase di pre-addestramento.

Vero Falso

7. Seleziona la frase che meglio descrive i termini “modello,” “architettura,” e “pesi.”

Se un modello fosse un palazzo, l'architettura ne sarebbe il progetto e i pesi le persone che ci vivono. L'architettura è una cartina per costruire un dato modello, i cui pesi sono le città rappresentate sulla mappa. Un'architettura è una successione di funzioni matematiche usate per costruire un modello; i suoi pesi sono i parametri delle funzioni.

8. Quale dei seguenti modelli utilizzeresti per completare dei prompt con testo generato?

Un modello encoder Un modello decoder Un modello sequence-to-sequence

9. Quale dei seguenti modelli utilizzeresti per riassumere testi?

Un modello encoder Un modello decoder Un modello sequence-to-sequence

10. Quale dei seguenti modelli utilizzeresti per classificare input testuali sulla base di determinate etichette?

Un modello encoder Un modello decoder Un modello sequence-to-sequence

11. Qual è la possibile origine di un bias osservato in un modello?

Il modello è una versione affinata di un modello pre-addestrato, dal quale eredita il bias. I dati sui quali il modello è stato addetsrato contengono errori. La misura ottimizzata dal modello è errata.

Update on GitHub

←Riassunto

Next chapter

Quiz di fine capitolo 1. Esplora l’Hub e cerca il checkpoint roberta-large-mnli . Quale compito svolge?2. Cosa restituisce il codice seguente?3. Cosa dovrebbe rimpiazzare ”…” in questo estratto di codice?4. Perché questo codice non funziona?5. Cosa significa “transfer learning”?6. Vero o falso? Solitamente un modello linguistico non richiede etichette in fase di pre-addestramento.7. Seleziona la frase che meglio descrive i termini “modello,” “architettura,” e “pesi.”8. Quale dei seguenti modelli utilizzeresti per completare dei prompt con testo generato?9. Quale dei seguenti modelli utilizzeresti per riassumere testi?10. Quale dei seguenti modelli utilizzeresti per classificare input testuali sulla base di determinate etichette?11. Qual è la possibile origine di un bias osservato in un modello?