jaké jsou rozdíly mezi generativními a diskriminačními modely strojového učení?

v tomto článku se podíváme na rozdíl mezi generativními a diskriminačními modely, jak kontrastují a navzájem.

diskriminační strojové učení je rozpoznat výstup rig mezi možnými možnostmi výstupu. Vzhledem k tomu, něco o datech, a udělal učení parametrů. To maximalizuje společnou pravděpodobnost P (X, Y).

klasifikace je navíc uváděna jako diskriminační modelování. To je často z důvodů; model musí oddělit instance vstupních proměnných mezi třídami. Musí vybrat nebo uskutečnit hovor s ohledem na to, do jaké třídy daná instance patří.

modely bez dozoru shrnují rozdělení vstupních proměnných. Také je schopen být zvyklý vytvářet nebo generovat nové instance v rámci distribuce vstupu. Jako takové jsou tyto odrůdy modelů pozorovány jako generativní modely.

jedna proměnná může mít známou distribuci dat jako Gaussova distribuce.

generativní model by také mohl být schopen shrnout distribuci dat. To se používá ke generování nových proměnných, které zapadají do distribuce vstupní proměnné.

přímočarý model v rámci generativního nastavení by musel méně informací. Pak složitá v rámci diskriminačního prostředí a také naopak.

v tomto směru diskriminační modely překonávají generativní modely při podmíněné predikci. Stejně tak by diskriminační modely měly regulovat více než generativní modely.

První příklad

například, tam jsou dvě děti, Tony a Mark. Oba navštívili obchod se zvířaty, aby zjistili rozdíl mezi kočkou a psem. Oba věnují zvláštní pozornost barvě, velikosti, barvě očí, velikosti vlasů, hlasu, které jsou celovečerními sadami domácích mazlíčků.

dvě fotky dostal jeden mezi kočku a jeden mezi psa označit a zeptal se, který z nich je který. Mark sepsal několik podmínek. Pokud hlas vypadá jako mňau a oči jsou modré nebo zelené.

má pruhy s hnědou nebo černou barvou a zvíře může být kočka.

díky svým jednoduchým pravidlům zjistil, která z nich je kočka a která by mohla být pes.

nyní místo toho, aby Tonymu ukázal dvě fotografie, dva kusy prázdného papíru a požádal ho, aby nakreslil, jak vypadá kočka a pes. Tony kreslí kresbu.

nyní, vzhledem k jakékoli fotografii, Tony může také říct, která z nich by mohla být kočka. Který z nich může být pes podporovaný kresbou, kterou vytvořil. Kreslení je časově náročný úkol pro detekci, která by mohla být kočka.

ale pokud se pro Tonyho a Marka objevily jen některé psy a kočky, znamená to nízké údaje o výcviku. V takových případech, pokud je fotografie hnědého psa s pruhy s modrýma očima.

existuje možnost, že by to Mark označil jako kočku. Zatímco Tony má její kresbu a dokáže lépe zjistit, že tato fotka je PSA.

Pokud Tony poslouchat více věcí, jako je funkce, vytvoří lepší skicu. Ale, pokud více příkladů ukazuje použití datové sady kočky a psa, Mark by byl lepší než Tony.

Mark je ve svých pozorováních pečlivý. Předpokládejme, že ho požádáte, aby poslouchal další funkce. Vytvoří složitější pravidla zvaná overfitting. Tím se zvýší šance na nalezení kočky a psa, ale to se nestane s Tonym.

Co když před návštěvou zverimexu nejsou informováni. Existují pouze dva druhy zvířat, což znamená žádné označené údaje.

Mark by zcela selhal, protože nebude vědět, co hledat, zatímco Tony by stejně mohl nakreslit náčrtek. To je obrovská výhoda, někdy nazývaná částečně pod dohledem.

To ukazuje Mark je pro diskriminační, a Tony je pro generativní.

Další příklad:

Klasifikovat řeči jazykový model.

diskriminační přístup určující rozdíl v jazykových modelech. Bez učení jazyků a tak klasifikace řeči.

generativní přístup znamená naučit se každý jazyk. Takže to klasifikujte pomocí znalostí, které jste získali.

jaká je matematická rovnice generativních a diskriminačních modelů?

Diskriminační strojové učení je vlastně tréninkový model. Rozeznat správný výstup mezi možnými možnostmi výstupu. To se provádí učením parametrů modelu, které maximalizují podmíněnou pravděpodobnost P (Y / X).

generativní strojové učení je trénink modelu pro učení parametrů maximalizujících společnou pravděpodobnost P (X, Y).

jaké jsou různé druhy diskriminačních a generativních algoritmů strojového učení?

Discriminative models

• Logistic regression
• Random forests
• Support vector machine (SVM)
• Traditional neural networks
• Nearest neighbor

Generative Models

• Hidden Markov model (HMM)
• Naïve Bayes
• Bayesian Networks
• Gaussian mixture model (GMM)

What are the následující otázky byste se měli zeptat před jejich provedením?

• Které model potřebuje méně dat pro školení?
• který model může generovat data?
• kdy by měl člověk použít takový druh modelů?
• který model je citlivější na extrémní hodnoty?
• který model je náchylnější k nadměrnému vybavení?
• který model může trénovat za kratší dobu?
• který model se učí podmíněné pravděpodobnosti?
• který model je lepší v případě nejistoty?
• který model je lepší, když mají vlastnosti vztah?
• který model je lepší, když je potřeba vysvětlující model?
• který model je lepší při optimalizaci potřebné přesnosti klasifikace?
• který model je lepší, když značená data nejsou k dispozici?
• který model je lepší, když jsou k dispozici značená data?
• který model lze snadno a rychle provést?

jak generativní a diskriminační práce v hlubokém učení?

V generativní sporné sítí (GAN), generátor a diskriminátor spolu trénovali. Generátor generuje dávku vzorků-tyto, spolu s reálným datovým souborem, daný diskriminátoru pro klasifikaci.

jaké jsou nevýhody diskriminačních klasifikátorů?

It lacks the elegance of generative like priors, structure, uncertainty. Feel like black-boxes, relationships between variables don’t seem to be explicit and visualizable.

Závěr

Generativní a Diskriminativní metody jsou dva obecné přístupy. Generativní zahrnuje modelování a diskriminační klasifikaci řešení. Generativní modely jsou elegantnější, mají vysvětlující sílu.

bohatost modelu není vždy výhodou. Montáž více parametrů trvá déle, více prostoru a více výpočtů. Diskriminační modely musí být regularizovány více než generativní modely.

jednoduchý model v rámci generativního nastavení by chtěl méně dat než nóbl v rámci diskriminačního nastavení.