Quelles sont les différences entre les modèles d’apprentissage automatique génératifs et discriminatifs ?

Dans cet article, nous examinerons la différence entre les modèles génératifs et discriminatifs, leur contraste et l’un l’autre.

L’apprentissage machine discriminatif consiste à reconnaître la sortie de la plate-forme parmi les choix de sortie possibles. Étant donné quelque chose sur les données, et fait en apprenant des paramètres. Cela maximise la probabilité conjointe de P(X, Y).

La classification est également mentionnée comme modélisation discriminante. C’est souvent sur le terrain; le modèle doit séparer les instances de variables d’entrée entre les classes. Il doit choisir ou faire un appel en ce qui concerne la classe à laquelle appartient une instance donnée.

Les modèles non supervisés résument la distribution des variables d’entrée. En outre, capable d’être habitué à créer ou à générer de nouvelles instances dans la distribution d’entrée. En tant que telles, ces variétés de modèles sont observées en tant que modèles génératifs.

Une variable peut avoir une distribution de données connue comme une distribution gaussienne.

Un modèle génératif pourrait également être capable de résumer la distribution des données. Ceci est utilisé pour générer de nouvelles variables qui s’intègrent dans la distribution de la variable d’entrée.

Un modèle simple dans le cadre génératif devrait moins d’informations. Puis un complexe dans le cadre discriminatif, et aussi l’inverse.

Dans ce sens, les modèles discriminatifs dépassent les modèles génératifs à la prédiction conditionnelle. De même, les modèles discriminatifs devraient régulariser davantage que les modèles génératifs.

Premier exemple

Par exemple, il y a deux enfants, Tony et Mark. Les deux ont visité l’animalerie pour déterminer la différence entre le chat et le chien. Les deux accordent une attention particulière à la couleur, à la taille, à la couleur des yeux, à la taille des cheveux, à la voix, qui sont des ensembles caractéristiques des animaux de compagnie.

Deux photos ont une parmi un chat et une parmi un chien à marquer et ont demandé laquelle est laquelle. Mark a écrit plusieurs conditions. Si la voix ressemble à un miaulement et que les yeux sont bleus ou verts.

Il a des rayures de couleur marron ou noire, puis l’animal peut être un chat.

En raison de ses règles simples, il a détecté lequel est un chat et lequel pourrait être un chien.

Maintenant, au lieu de montrer deux photos à Tony, deux morceaux de papier blanc et lui demander de dessiner à quoi ressemblent un chat et un chien. Tony dessine le dessin.

Eh bien maintenant, compte tenu de n’importe quelle photo, Tony peut aussi dire lequel pourrait être un chat. Lequel peut être un chien a soutenu le dessin qu’il a créé. Le dessin est une tâche fastidieuse pour la tâche de détection, que l’on pourrait être un chat.

Mais s’il n’y a eu que quelques chiens et chats à paraître pour Tony et Mark, cela signifie de faibles données d’entraînement. Dans de tels cas, si une photographie d’un chien brun avec des rayures aux yeux bleus.

Il est possible que Mark le marque en quelque sorte comme un chat. Alors que Tony a son dessin et qu’il peut mieux détecter que cette photo est celle d’un chien.

Si Tony écoute plus de choses comme des fonctionnalités, cela créera une meilleure esquisse. Mais, si d’autres exemples montrent l’utilisation d’un ensemble de données de chat et de chien, Mark serait meilleur que Tony.

Mark est méticuleux dans ses observations. Supposons que vous lui demandiez d’écouter plus de fonctionnalités. Cela créera des règles plus compliquées appelées surajustement. Ainsi, les chances de trouver un chat et un chien augmenteront, mais cela n’arrivera pas avec Tony.

Et si avant de visiter l’animalerie, ils ne sont pas informés. Il n’y a que deux types d’animaux qui ne signifient aucune donnée étiquetée.

Mark échouerait complètement parce qu’il ne saura pas quoi chercher alors que Tony serait capable de dessiner le croquis de toute façon. C’est un énorme avantage, parfois appelé semi-supervisé.

Cela montre que Mark est discriminatif et Tony est Génératif.

Un autre exemple

>

Classez un discours dans un modèle de langue.

Approche discriminatoire déterminant la différence au sein des modèles linguistiques. Sans apprendre les langues et ainsi classer le discours.

L’approche générative signifie apprendre chaque langue. Donc, le classer en utilisant les connaissances que vous avez acquises.

Quelle est l’équation mathématique des modèles génératifs et discriminatifs ?

L’apprentissage automatique discriminatif entraîne en fait un modèle. Pour distinguer la bonne sortie parmi les choix de sortie possibles. Cela se fait en apprenant les paramètres du modèle qui maximisent la probabilité conditionnelle P (Y / X).

L’apprentissage automatique génératif entraîne un modèle à apprendre des paramètres maximisant la probabilité conjointe de P(X, Y).

Quels sont les différents types d’algorithmes d’apprentissage automatique discriminants et génératifs ?

Discriminative models

• Logistic regression
• Random forests
• Support vector machine (SVM)
• Traditional neural networks
• Nearest neighbor

Generative Models

• Hidden Markov model (HMM)
• Naïve Bayes
• Bayesian Networks
• Gaussian mixture model (GMM)

What are the les questions suivantes que l’on devrait poser avant de les exécuter?

• Quel modèle a besoin de moins de données pour l’entraînement?
• Quel modèle peut générer des données ?
• Quand faut-il utiliser ce type de modèles ?
• Quel modèle est le plus sensible aux valeurs extrêmes ?
• Quel modèle est le plus enclin au sur-ajustement?
• Quel modèle peut s’entraîner en moins de temps?
• Quel modèle apprend la probabilité conditionnelle ?
• Quel modèle est le meilleur en cas d’incertitude?
• Quel modèle est le meilleur lorsque les fonctionnalités ont une relation ?
• Quel modèle est le meilleur lorsqu’un modèle explicatif est nécessaire?
• Quel modèle est le meilleur pour optimiser la précision de classification nécessaire?
• Quel modèle est le meilleur lorsque les données étiquetées ne sont pas disponibles?
• Quel modèle est le meilleur lorsque des données étiquetées sont disponibles?
• Quel modèle est facile et rapide à réaliser ?

Comment fonctionnent la génération et la discrimination dans l’apprentissage profond ?

Dans les réseaux antagonistes génératifs (GAN), le générateur et le discriminateur se sont entraînés ensemble. Le générateur génère un lot d’échantillons — ceux-ci, avec l’ensemble de données réel, donnés au discriminateur pour la classification.

Quels sont les inconvénients des classificateurs discriminants ?

It lacks the elegance of generative like priors, structure, uncertainty. Feel like black-boxes, relationships between variables don’t seem to be explicit and visualizable.

Conclusion

Les méthodes génératives et discriminatives sont deux approches générales. Le génératif implique la modélisation et la classification de résolution discriminative. Les modèles génératifs sont plus élégants, ont un pouvoir explicatif.

La richesse d’un modèle n’est pas toujours un avantage. L’ajustement de plus de paramètres prend plus de temps, plus d’espace et plus de calcul. Les modèles discriminatoires doivent être régularisés plus que les modèles génératifs.

Un modèle facile dans le paramètre génératif voudrait moins de données qu’un modèle chic dans le paramètre discriminatif.