In diesem Artikel werden wir den Unterschied zwischen generativen und diskriminativen Modellen betrachten, wie sie sich voneinander unterscheiden.
Diskriminatives maschinelles Lernen besteht darin, die beste Ausgabe unter den möglichen Ausgabeoptionen zu erkennen. Etwas über die Daten gegeben und durch Lernen von Parametern erledigt. Das maximiert die gemeinsame Wahrscheinlichkeit von P (X, Y).
Die Klassifikation wird zusätzlich als diskriminative Modellierung erwähnt. Dies liegt oft an der Begründung; das Modell muss Instanzen von Eingabevariablen klassenübergreifend trennen. Es muss auswählen oder anrufen, zu welcher Klasse eine bestimmte Instanz gehört.
Unüberwachte Modelle fassen die Verteilung der Eingangsvariablen zusammen. Kann auch verwendet werden, um neue Instanzen innerhalb der Eingabeverteilung zu erstellen oder zu generieren. Daher werden diese Modellvarianten als generative Modelle beobachtet.
Eine Variable kann eine bekannte Datenverteilung wie eine Gaußsche Verteilung haben.
Ein generatives Modell könnte auch in der Lage sein, die Datenverteilung zusammenzufassen. Dies wird verwendet, um neue Variablen zu generieren, die in die Verteilung der Eingangsvariablen passen.
Ein einfaches Modell innerhalb der generativen Einstellung würde weniger Informationen benötigen. Dann ein kompliziertes innerhalb der diskriminierenden Einstellung und auch umgekehrt.
In diesem Sinne übertreffen diskriminative Modelle generative Modelle bei der bedingten Vorhersage. Ebenso sollten diskriminierende Modelle mehr regularisieren als generative Modelle.
- Erstes Beispiel
- Ein weiteres Beispiel
- Was ist die mathematische Gleichung von generativen und diskriminativen Modellen?
- Was sind die verschiedenen Arten von diskriminativen und generativen Algorithmen für maschinelles Lernen?
- What are the folgende Fragen sollte man sich stellen, bevor man sie ausführt?
- Wie funktionieren generativ und diskriminativ im Deep Learning?
- Was sind die Nachteile von diskriminierenden Klassifikatoren?
- Fazit
Erstes Beispiel
Unsplash
Zum Beispiel gibt es zwei Kinder, Tony und Mark. Beide besuchten die Zoohandlung, um den Unterschied zwischen Katze und Hund festzustellen. Beide achten besonders auf Farbe, Größe, Augenfarbe, Haargröße, eine Stimme, die Feature-Sets der Haustiere sind.
Zwei Fotos bekamen eines unter einer Katze und eines unter einem Hund zu markieren und fragten, welches welches sei. Mark hat mehrere Bedingungen aufgeschrieben. Wenn die Stimme wie Miau aussieht und die Augen blau oder grün sind.
Es hat Streifen mit der Farbe braun oder schwarz, und dann kann das Tier eine Katze sein.
Aufgrund seiner einfachen Regeln erkannte er, welche eine Katze ist und welche ein Hund sein könnte.
Anstatt Tony nun zwei Fotos zu zeigen, nehmen Sie zwei leere Zettel und bitten Sie ihn, zu zeichnen, wie eine Katze und ein Hund aussehen. Tony zeichnet die Zeichnung.
Nun, bei jedem Foto kann Tony auch sagen, welches eine Katze sein könnte. Welcher kann ein Hund in der Zeichnung sein, die er erstellt hat. Zeichnen ist eine zeitaufwändige Aufgabe für die Aufgabe der Erkennung, die man eine Katze sein könnte.
Aber wenn es nur einige Hunde und Katzen zu sein scheinen für Tony und Mark bedeutet niedrige Trainingsdaten. In solchen Fällen, wenn ein Foto von einem braunen Hund mit Streifen mit blauen Augen.
Es besteht die Möglichkeit, dass Mark es als eine Art Katze bezeichnen würde. Während Tony ihre Zeichnung hat und er besser erkennen kann, dass dieses Foto von einem Hund ist.
Wenn Sie mehr Dinge wie Features hören möchten, wird es eine bessere Skizze erstellen. Aber, wenn mehr Beispiele zeigen, dass ein Datensatz von Katze und Hund verwendet wird, Mark wäre besser als Tony.
Mark ist akribisch in seinen Beobachtungen. Angenommen, Sie bitten ihn, weitere Funktionen anzuhören. Es wird kompliziertere Regeln schaffen, die als Überanpassung bezeichnet werden. So wird die Chance, eine Katze und einen Hund zu finden, zunehmen, aber das wird bei Tony nicht passieren.
Was ist, wenn sie vor dem Besuch der Zoohandlung nicht informiert werden. Es gibt nur zwei Arten von Tieren, die keine markierten Daten bedeuten.
Mark würde komplett versagen, weil er nicht weiß, wonach er suchen soll, während Tony die Skizze trotzdem zeichnen könnte. Dies ist ein großer Vorteil, der manchmal als halbüberwacht bezeichnet wird.
Dies zeigt, dass Mark für diskriminativ und Tony für generativ steht.
Ein weiteres Beispiel
Klassifizieren Sie eine Sprache zu einem Sprachmodell.
Diskriminativer Ansatz zur Bestimmung des Unterschieds innerhalb der linguistischen Modelle. Ohne die Sprachen zu lernen und so die Sprache zu klassifizieren.
Der generative Ansatz bedeutet, jede Sprache zu lernen. Also klassifizieren Sie es mit dem Wissen, das Sie gewonnen haben.
Was ist die mathematische Gleichung von generativen und diskriminativen Modellen?
Diskriminatives maschinelles Lernen trainiert tatsächlich ein Modell. Um die richtige Ausgabe unter den möglichen Ausgabeoptionen zu unterscheiden. Dies geschieht durch Lernen von Modellparametern, die die bedingte Wahrscheinlichkeit P (Y | X) maximieren.Generatives maschinelles Lernen trainiert ein Modell, um Parameter zu lernen, die die gemeinsame Wahrscheinlichkeit von P(X, Y) maximieren.
Was sind die verschiedenen Arten von diskriminativen und generativen Algorithmen für maschinelles Lernen?
Discriminative models
- Logistic regression
- Random forests
- Support vector machine (SVM)
- Traditional neural networks
- Nearest neighbor
Generative Models
- Hidden Markov model (HMM)
- Naïve Bayes
- Bayesian Networks
- Gaussian mixture model (GMM)
What are the folgende Fragen sollte man sich stellen, bevor man sie ausführt?
- Welches Modell benötigt weniger Daten für das Training?
- Welches Modell kann Daten generieren?
- Wann sollte man solche Modelle verwenden?
- Welches Modell reagiert empfindlicher auf Extremwerte?
- Welches Modell ist anfälliger für Überanpassung?
- Welches Modell kann in kürzerer Zeit trainieren?
- Welches Modell lernt bedingte Wahrscheinlichkeit?
- Welches Modell ist bei Unsicherheit besser?
- Welches Modell ist besser, wenn die Merkmale eine Beziehung haben?
- Welches Modell ist besser, wenn ein Erklärungsmodell benötigt wird?
- Welches Modell ist bei der Optimierung der erforderlichen Klassifizierungsgenauigkeit besser?
- Welches Modell ist besser, wenn markierte Daten nicht verfügbar sind?
- Welches Modell ist besser, wenn beschriftete Daten verfügbar sind?
- Welches Modell ist einfach und schnell durchzuführen?
Wie funktionieren generativ und diskriminativ im Deep Learning?
In generative adversarial Networks (GAN), der Generator und Diskriminator trainiert zusammen. Der Generator generiert einen Stapel von Stichproben – diese werden zusammen mit dem realen Datensatz dem Diskriminator zur Klassifizierung übergeben.
Was sind die Nachteile von diskriminierenden Klassifikatoren?
It lacks the elegance of generative like priors, structure, uncertainty. Feel like black-boxes, relationships between variables don’t seem to be explicit and visualizable.
Fazit
Generative und diskriminative Methoden sind zwei große Ansätze. Die generative beinhaltet Modellierung und diskriminative Klassifikation lösen. Die generativen Modelle sind eleganter, haben Erklärungskraft.
Der Reichtum eines Modells ist nicht immer ein Vorteil. Das Anpassen von mehr Parametern dauert länger, benötigt mehr Platz und erfordert mehr Berechnungen. Diskriminative Modelle müssen stärker reguliert werden als generative Modelle.
Ein einfaches Modell innerhalb der generativen Einstellung würde weniger Daten benötigen als ein schickes Modell innerhalb der diskriminativen Einstellung.