Wat zijn de verschillen tussen generatieve en discriminerende machine learning modellen?

In dit artikel zullen we kijken naar het verschil tussen generatieve en discriminerende modellen, hoe ze contrasteren, en elkaar.

Discriminative machine learning is het herkennen van de rig output onder mogelijke output keuzes. Gegeven iets over de gegevens, en gedaan door het leren parameters. Dat maximaliseert de gezamenlijke waarschijnlijkheid van P (X, Y).

classificatie wordt bovendien vermeld als discriminatieve modellering. Dit is vaak op het terrein; het model moet instances van invoervariabelen scheiden tussen klassen. Het moet kiezen of een call maken met betrekking tot welke klasse een bepaalde instantie behoort tot.

Niet-gecontroleerde modellen vatten de verdeling van invoervariabelen samen. Ook in staat om gewend te zijn om nieuwe instanties te creëren of te genereren binnen de invoerdistributie. Als zodanig worden deze variëteiten van modellen waargenomen als generatieve modellen.

een variabele kan een bekende datadistributie hebben zoals een Gaussiaanse distributie.

een generatief model zou ook de gegevensdistributie kunnen samenvatten. Dit wordt gebruikt om nieuwe variabelen te genereren die passen in de verdeling van de invoervariabele.

een eenvoudig model binnen de generatieve setting zou minder informatie moeten hebben. Dan een ingewikkelde binnen de discriminerende setting, en ook andersom.

langs deze lijnen, discriminatieve modellen outflank generatieve modellen bij conditionele voorspelling. Ook discriminatieve modellen moeten meer regulariseren dan generatieve modellen.

Eerste voorbeeld

bijvoorbeeld, er zijn twee kinderen, Tony en Mark. Beiden bezochten de dierenwinkel om het verschil tussen KAT en hond te bepalen. Beide besteden speciale aandacht aan kleur, grootte, Oogkleur, haargrootte, een stem, die zijn voorzien van sets van de huisdieren.

twee foto ‘ s kregen één bij een kat en één bij een hond om te markeren en vroegen Wie wie is. Mark heeft verschillende voorwaarden opgeschreven. Als de stem op miauw lijkt en de ogen Blauw of groen zijn.

Het heeft strepen met de kleur bruin of zwart, en dan kan het dier een kat zijn.

door zijn eenvoudige regels ontdekte hij welke een kat is en welke een hond zou kunnen zijn.

in plaats van twee foto ‘ s aan Tony te tonen, Twee Stukken blanco papier en hem vragen om te tekenen hoe een kat en een hond eruit zien. Tony tekent de tekening.

nou, gegeven een foto, kan Tony ook vertellen welke een kat zou kunnen zijn. Welke een hond kan zijn Ondersteunde de tekening die hij maakte. Tekenen is een tijdrovende taak voor de detectietaak, die men een kat zou kunnen zijn.

maar als er slechts enkele honden en katten te lijken voor Tony en Mark betekent lage trainingsgegevens. In dergelijke gevallen, als een foto van een bruine hond met strepen met blauwe ogen.

Er is een mogelijkheid dat Mark het als een soort kat zou markeren. Terwijl Tony haar tekening heeft en hij kan beter detecteren dat deze foto van een hond is.

als Tony naar meer dingen zoals functies luistert, zal het een betere schets maken. Maar, als meer voorbeelden tonen gebruik te maken van een dataset van Kat en hond, Mark zou beter zijn dan Tony.

Mark is nauwgezet in zijn observaties. Stel dat je hem vraagt naar meer functies te luisteren. Het zal ingewikkelder regels creëren die overbevissing worden genoemd. Dus de kans op het vinden van een kat en een hond zal toenemen, maar dat zal niet gebeuren met Tony.

Wat als ze niet op de hoogte zijn voordat ze de dierenwinkel bezoeken. Er zijn maar twee soorten dieren die geen gelabelde gegevens betekenen.

Mark zou volledig falen omdat hij niet weet waar hij naar moet zoeken terwijl Tony toch de schets zou kunnen tekenen. Dit is een enorm voordeel, soms semi-gecontroleerd genoemd.

Dit laat zien dat Mark voor discriminatief is, en Tony voor generatief.

een Ander voorbeeld

het Classificeren van een spraak-taal-model.

discriminerende benadering die het verschil binnen de taalmodellen bepaalt. Zonder de talen te leren en zo de spraak te classificeren.

de generatieve benadering betekent het leren van elke taal. Dus classificeren met behulp van de kennis die je hebt opgedaan.

Wat is de wiskundige vergelijking van generatieve en discriminerende modellen?

Discriminerende machine learning is eigenlijk de opleiding van een model. Om de juiste output tussen mogelijke output keuzes uit elkaar te houden. Dit wordt gedaan door modelparameters te leren die de voorwaardelijke waarschijnlijkheid P(Y|X) maximaliseren.

generatief machine learning is het trainen van een model om parameters te leren die de gezamenlijke waarschijnlijkheid van P(X, Y) maximaliseren.

Wat zijn de verschillende soorten discriminerende en generatieve machine learning algoritmen?

Discriminative models

• Logistic regression
• Random forests
• Support vector machine (SVM)
• Traditional neural networks
• Nearest neighbor

Generative Models

• Hidden Markov model (HMM)
• Naïve Bayes
• Bayesian Networks
• Gaussian mixture model (GMM)

What are the naar aanleiding van vragen die men moet stellen voordat ze uit te voeren?

• welk model heeft minder gegevens nodig voor de opleiding?
• welk model kan gegevens genereren?
• Wanneer moet men dergelijke modellen gebruiken?
• welk model is gevoeliger voor extreme waarden?
• welk model is het meest vatbaar voor overbevissing?
• welk model kan in minder tijd trainen?
• welk model leert voorwaardelijke waarschijnlijkheid?
• welk model is beter in geval van onzekerheid?
• welk model is beter als de kenmerken een relatie hebben?
• welk model is beter wanneer een verklarend model nodig is?
• welk model is beter bij het optimaliseren van de vereiste classificatienauwkeurigheid?
• welk model is beter wanneer gelabelde gegevens niet beschikbaar zijn?
• welk model is beter wanneer gelabelde gegevens beschikbaar zijn?
• welk model is eenvoudig en snel uit te voeren?

Hoe werken generatieve en discriminerende werken in deep learning?

in generative agressarial networks (gan), de generator en discriminator die samen zijn opgeleid. De generator genereert een partij Monsters — deze, samen met de echte dataset, gegeven aan de discriminator voor classificatie.

Wat zijn de nadelen van discriminerende Classificeerders?

It lacks the elegance of generative like priors, structure, uncertainty. Feel like black-boxes, relationships between variables don’t seem to be explicit and visualizable.

Conclusie

Generatieve en Discriminerende methoden zijn twee brede benaderingen. Het generatief omvat modellering en discriminatieve oplossingsclassificatie. De generatieve modellen zijn eleganter, hebben verklarende kracht.

de rijkdom van een model is niet altijd een voordeel. Het aanpassen van meer parameters duurt langer, meer ruimte en meer berekening. Discriminerende modellen moeten meer worden geregulariseerd dan generatieve modellen.

een eenvoudig model binnen de generatieve setting zou minder gegevens nodig hebben dan een chique model binnen de discriminatieve setting.