jakie są różnice między generatywnym a dyskryminacyjnym modelem uczenia maszynowego?

w tym artykule przyjrzymy się różnicy między modelami generatywnymi i dyskryminacyjnymi, ich kontrastom i sobie nawzajem.

rozróżniające uczenie maszynowe polega na rozpoznawaniu wyjścia rig wśród możliwych wyborów wyjścia. Biorąc pod uwagę coś o danych, i zrobić przez uczenie się parametrów. To maksymalizuje wspólne prawdopodobieństwo P (X, Y).

klasyfikacja jest dodatkowo wymieniana jako modelowanie dyskryminacyjne. Jest to często na podstawie; model musi oddzielać instancje zmiennych wejściowych pomiędzy klasami. Musi wybrać lub wykonać połączenie w odniesieniu do klasy, do której należy dana instancja.

modele bez nadzoru podsumowują rozkład zmiennych wejściowych. Ponadto może być przyzwyczajony do tworzenia lub generowania nowych instancji w dystrybucji wejściowej. Jako takie, te odmiany modeli są obserwowane jako modele generatywne.

jedna zmienna może mieć znany rozkład danych, taki jak rozkład Gaussa.

model generatywny może również być w stanie podsumować dystrybucję danych. Jest to używane do generowania nowych zmiennych, które pasują do rozkładu zmiennej wejściowej.

prosty model w ustawieniu generatywnym musiałby mniej informacji. Następnie zawiły w obrębie rozróżniającego otoczenia, a także na odwrót.

wzdłuż tych linii modele dyskryminacyjne przewyższają modele generatywne przy przewidywaniu warunkowym. Podobnie modele dyskryminacyjne powinny regulować bardziej niż modele generatywne.

pierwszy przykład

na przykład jest dwoje dzieci, tony i Mark. Oboje odwiedzili sklep zoologiczny, aby określić różnicę między kotem a psem. Obie zwracają szczególną uwagę na kolor, rozmiar, kolor oczu, rozmiar włosów, głos, które są zestawami funkcji zwierząt domowych.

na dwóch zdjęciach jeden wśród kota, a drugi wśród psa do oznaczyć i zapytać, który z nich jest który. Mark zapisał kilka warunków. Jeśli głos wygląda jak miau, a oczy są niebieskie lub zielone.

ma paski o kolorze brązowym lub czarnym, a zwierzę może być kotem.

dzięki swoim prostym zasadom wykrył, który z nich jest kotem, a który psem.

teraz zamiast pokazywać Tony ’ emu dwa zdjęcia, dwa kawałki czystego papieru i poprosić go, aby narysował, jak wygląda kot i pies. Tony rysuje rysunek.

cóż, biorąc pod uwagę każde zdjęcie, Tony może również powiedzieć, które z nich może być kotem. Który z nich może być psem wsparł stworzony przez niego rysunek. Rysowanie jest czasochłonnym zadaniem dla zadania wykrywania, którym można być kotem.

ale jeśli było tylko kilka psów i kotów, które wydają się dla Tony ’ ego i Marka oznacza niskie dane treningowe. W takich przypadkach, jeśli zdjęcie brązowego psa z paskami o niebieskich oczach.

istnieje możliwość, że Mark oznaczałby go jak Kota. Podczas gdy Tony ma jej rysunek i może lepiej wykryć, że to zdjęcie jest z psem.

Jeśli Tony posłucha więcej rzeczy takich jak funkcje, stworzy lepszy skecz. Ale jeśli więcej przykładów pokazuje wykorzystanie zestawu danych kota i psa, Mark byłby lepszy niż Tony.

Mark jest skrupulatny w swoich obserwacjach. Załóżmy, że poprosisz Go, By posłuchał więcej funkcji. Stworzy to bardziej skomplikowane zasady zwane overfitting. Tak więc szansa na znalezienie kota i psa wzrośnie, ale to nie stanie się z Tonym.

Co jeśli przed wizytą w sklepie zoologicznym nie zostaną poinformowani. Istnieją tylko dwa rodzaje zwierząt, które oznaczają brak oznaczonych danych.

Mark by się nie udało, bo nie będzie wiedział, czego szukać, a Tony i tak będzie mógł narysować szkic. Jest to ogromna zaleta, nazywana czasem pół-nadzorowaną.

To pokazuje, że Mark jest dla rozróżniającego, a Tony dla generatywnego.

inny przykład

podejście dyskryminacyjne określające różnice w obrębie modeli językowych. Bez nauki języków i tak klasyfikowania mowy.

podejście generatywne oznacza naukę każdego języka. Więc klasyfikowanie go za pomocą zdobytej wiedzy.

czym jest równanie matematyczne modeli generatywnych i dyskryminacyjnych?

dyskryminacyjne uczenie maszynowe jest w rzeczywistości szkoleniem modelu. Aby odróżnić właściwe wyjście spośród możliwych wyborów wyjściowych. Odbywa się to poprzez poznanie parametrów modelu, które maksymalizują prawdopodobieństwo warunkowe P(Y|X).

generatywne uczenie maszynowe to szkolenie modelu do nauki parametrów maksymalizujących wspólne prawdopodobieństwo P(X, Y).

jakie są różne rodzaje rozróżniających i generatywnych algorytmów uczenia maszynowego?

Discriminative models

• Logistic regression
• Random forests
• Support vector machine (SVM)
• Traditional neural networks
• Nearest neighbor

Generative Models

• Hidden Markov model (HMM)
• Naïve Bayes
• Bayesian Networks
• Gaussian mixture model (GMM)

What are the następujące pytania należy zadać przed ich wykonaniem?

• który model potrzebuje mniej danych do treningu?
• który model może generować dane?
• kiedy należy stosować takie modele?
• który model jest bardziej wrażliwy na ekstremalne wartości?
• który model jest bardziej podatny na przepełnienie?
• który model może trenować w krótszym czasie?
• który model uczy się prawdopodobieństwa warunkowego?
• który model jest lepszy w przypadku niepewności?
• który model jest lepszy, gdy cechy mają związek?
• który model jest lepszy, gdy potrzebny jest model objaśniający?
• który model jest lepszy przy optymalizacji dokładności klasyfikacji?
• który model jest lepszy, gdy oznaczone dane nie są dostępne?
• który model jest lepszy, gdy dostępne są oznaczone dane?
• który model jest łatwy i szybki do wykonania?

jak działają generatywne i dyskryminacyjne w uczeniu głębokim?

w generatywnych sieciach przeciwstawnych (Gan) generator i dyskryminator trenowali razem. Generator generuje partię próbek-te, wraz z rzeczywistym zestawem danych, podane do dyskryminatora do klasyfikacji.

jakie są wady klasyfikatorów dyskryminacyjnych?

It lacks the elegance of generative like priors, structure, uncertainty. Feel like black-boxes, relationships between variables don’t seem to be explicit and visualizable.

podsumowanie

zdjęcie Austin Distel na Unsplash

metody generatywne i dyskryminacyjne to dwa szerokie podejścia. Generatywny obejmuje modelowanie i klasyfikację dyskryminacyjną. Modele generatywne są bardziej eleganckie, mają moc objaśniającą.

bogactwo modelu nie zawsze jest plusem. Dopasowanie większej liczby parametrów zajmuje więcej czasu, więcej miejsca i więcej obliczeń. Modele dyskryminacyjne muszą być bardziej uregulowane niż modele generatywne.

prosty model w ustawieniu generatywnym chciałby mniej danych niż elegancki model w ustawieniu dyskryminacyjnym.