Quali sono le differenze tra i modelli di machine learning generativo e discriminativo?

In questo articolo, vedremo la differenza tra modelli generativi e discriminativi, come si contrappongono e l’un l’altro.

L’apprendimento automatico discriminativo consiste nel riconoscere l’output del rig tra le possibili scelte di output. Dato qualcosa sui dati e fatto imparando i parametri. Ciò massimizza la probabilità congiunta di P (X, Y).

La classificazione è inoltre menzionata come modellazione discriminativa. Questo è spesso per motivi; il modello deve separare le istanze delle variabili di input tra le classi. Deve scegliere o effettuare una chiamata per quanto riguarda la classe a cui appartiene una determinata istanza.

I modelli non supervisionati riassumono la distribuzione delle variabili di input. Inoltre, in grado di essere abituati a creare o generare nuove istanze all’interno della distribuzione di input. Come tali, queste varietà di modelli sono osservate come modelli generativi.

Una variabile può avere una distribuzione di dati nota come una distribuzione gaussiana.

Un modello generativo potrebbe anche essere in grado di riassumere la distribuzione dei dati. Questo viene utilizzato per generare nuove variabili che si inseriscono nella distribuzione della variabile di input.

Un modello semplice all’interno dell’impostazione generativa dovrebbe avere meno informazioni. Poi un intricato all’interno dell’impostazione discriminativa,e anche il contrario.

Lungo queste linee, i modelli discriminativi superano i modelli generativi alla previsione condizionale. Allo stesso modo, i modelli discriminatori dovrebbero regolarizzare più dei modelli generativi.

Primo esempio

Per esempio, ci sono due bambini, Tony e Marco. Entrambi hanno visitato il negozio di animali per determinare la differenza tra gatto e cane. Entrambi prestano particolare attenzione al colore, alle dimensioni, al colore degli occhi, alle dimensioni dei capelli, a una voce, che sono set di funzionalità degli animali domestici.

Due foto hanno ottenuto uno tra un gatto e uno tra un cane da marcare e ha chiesto quale è quale. Mark ha scritto diverse condizioni. Se la voce sembra miagolare e gli occhi sono blu o verdi.

Ha strisce con il colore marrone o nero, e quindi l’animale può essere un gatto.

A causa delle sue semplici regole, ha rilevato quale è un gatto e quale potrebbe essere un cane.

Ora invece di mostrare due foto a Tony, due pezzi di carta bianca e chiedergli di disegnare come sembrano un gatto e un cane. Tony disegna il disegno.

Bene ora, data una foto, Tony potrebbe anche dire quale potrebbe essere un gatto. Quale può essere un cane ha sostenuto il disegno che ha creato. Il disegno è un compito che richiede tempo per il compito di rilevamento, che potrebbe essere un gatto.

Ma se ci sono stati solo alcuni cani e gatti a sembrare per Tony e Mark significa dati di allenamento bassi. In questi casi, se una fotografia di un cane marrone con strisce con gli occhi azzurri.

C’è un’opportunità che Mark lo contrassegni come un gatto. Mentre Tony ha il suo disegno e può meglio rilevare che questa foto è di un cane.

Se Tony ascoltare più cose come caratteristiche, si creerà uno schizzo migliore. Ma, se più esempi mostrano che impiegano un set di dati di cane e gatto, Mark sarebbe meglio di Tony.

Mark è meticoloso nelle sue osservazioni. Supponiamo che tu gli chieda di ascoltare più funzioni. Creerà regole più complicate chiamate overfitting. Così la possibilità di trovare un gatto e un cane aumenterà, ma questo non accadrà con Tony.

Cosa succede se prima di visitare il negozio di animali, non vengono informati. Ci sono solo due tipi di animali che significa che non ci sono dati etichettati.

Mark fallirebbe completamente perché non saprà cosa cercare mentre Tony sarebbe comunque in grado di disegnare lo schizzo. Questo è un enorme vantaggio, a volte chiamato semi-supervisionato.

Questo mostra che Mark è per discriminativo e Tony è per Generativo.

un Altro esempio

Classificare un discorso di un modello di linguaggio.

Approccio discriminatorio che determina la differenza all’interno dei modelli linguistici. Senza imparare le lingue e quindi classificare il discorso.

L’approccio generativo significa imparare ogni lingua. Quindi classificarlo usando le conoscenze che hai acquisito.

Qual è l’equazione matematica dei modelli generativi e discriminativi?

Discriminatorio macchina di apprendimento è in realtà la formazione di un modello. Per distinguere l’output giusto tra le possibili scelte di output. Questo viene fatto imparando i parametri del modello che massimizzano la probabilità condizionale P (Y|X).

L’apprendimento automatico generativo sta addestrando un modello per apprendere i parametri massimizzando la probabilità congiunta di P(X, Y).

Quali sono i diversi tipi di algoritmi di machine learning discriminativi e generativi?

Discriminative models

• Logistic regression
• Random forests
• Support vector machine (SVM)
• Traditional neural networks
• Nearest neighbor

Generative Models

• Hidden Markov model (HMM)
• Naïve Bayes
• Bayesian Networks
• Gaussian mixture model (GMM)

What are the a seguito di domande si dovrebbe chiedere prima di portarli fuori?

• modello Che ha bisogno di meno di dati per la formazione?
• Quale modello può generare dati?
• Quando si dovrebbe usare questo tipo di modelli?
• Quale modello è più sensibile ai valori estremi?
• Quale modello è più incline a overfitting?
• Quale modello può allenarsi in meno tempo?
• Quale modello impara la probabilità condizionale?
• Quale modello è migliore in caso di incertezza?
• Quale modello è migliore quando le caratteristiche hanno una relazione?
• Quale modello è migliore quando è necessario un modello esplicativo?
• Quale modello è migliore quando si ottimizza la precisione di classificazione necessaria?
• Quale modello è migliore quando i dati etichettati non sono disponibili?
• Quale modello è migliore quando sono disponibili dati etichettati?
• Quale modello è facile e veloce da realizzare?

Come funziona il lavoro generativo e discriminativo nel deep learning?

generativa contraddittorio reti (GAN), il generatore e il discriminatore addestrati insieme. Il generatore genera un lotto di campioni-questi, insieme al set di dati reale, dato al discriminatore per la classificazione.

Quali sono gli svantaggi dei classificatori discriminatori?

It lacks the elegance of generative like priors, structure, uncertainty. Feel like black-boxes, relationships between variables don’t seem to be explicit and visualizable.

Conclusione

Generativa e Discriminatorio metodi sono due grandi approcci. Il generativo comporta la modellazione e la classificazione discriminativa. I modelli generativi sono più eleganti, hanno potere esplicativo.

La ricchezza di un modello non è sempre un vantaggio. Il montaggio di più parametri richiede più tempo, più spazio e più calcolo. I modelli discriminatori devono essere regolarizzati più dei modelli generativi.

Un modello facile all’interno dell’impostazione generativa vorrebbe meno dati di uno elegante all’interno dell’impostazione discriminativa.