Alcune definizioni:

• Istanza (o sample, oggetto, record): un esempio, descritto da un numero di attributi
• Attributo (o campo, caratteristica, variabile): aspetto misurabile di un’istanza
• Classe (o label, target): categoria
• Modello: set di parametri $\Theta$ di una funzione $f$ che, dato uno spazio di input (istanze + attributi) $X$, effettua una predizione dallo spazio di output (classe) $Y$

Possiamo vedere questi concetti in pratica:

Assunzione IID

Si assume che i dati siano Indipendenti e distribuiti identicamente.

→ i data points sono campionati indipendentemente e dalla stessa distribuzione.

IID in teoria: l’unione di PDF può essere scritta come prodotto di PDF individuali:

IID in pratica: ogni modelli considera un sample per volta, ignorando le caratteristiche di altri samlpes.

Family tree

Relazione sister-of: