vilka är skillnaderna mellan generativa och diskriminerande maskininlärningsmodeller?

i den här artikeln kommer vi att titta på skillnaden mellan generativa och diskriminerande modeller, hur de kontrasterar och varandra.

diskriminerande maskininlärning är att känna igen riggutgången bland möjliga utgångsval. Med tanke på något om data, och gjort genom att lära parametrar. Det maximerar den gemensamma sannolikheten för P (X, Y).

klassificering nämns dessutom som diskriminerande modellering. Detta är ofta på grund; modellen måste separera instanser av inmatningsvariabler mellan klasser. Det måste välja eller ringa med avseende på vilken klass en viss instans tillhör.

oövervakade modeller sammanfattar fördelningen av ingångsvariabler. Också kunna vara vana vid att skapa eller generera nya instanser inom ingångsdistributionen. Som sådan observeras dessa sorter av modeller som generativa modeller.

en variabel kan ha en känd datafördelning som en Gaussisk distribution.

en generativ modell kan också kunna sammanfatta datadistributionen. Detta används för att generera nya variabler som passar in i fördelningen av ingångsvariabeln.

en enkel modell inom den generativa inställningen skulle behöva mindre information. Sedan en invecklad inom den diskriminerande inställningen, och också tvärtom.

längs dessa linjer överträffar diskriminerande modeller generativa modeller Vid villkorlig förutsägelse. På samma sätt bör diskriminerande modeller reglera mer än generativa modeller.

första exemplet

det finns till exempel två barn, Tony och mark. Båda besökte djuraffären för att bestämma skillnaden mellan katt och hund. Båda ägnar särskild uppmärksamhet åt färg, storlek, ögonfärg, hårstorlek, en röst, som är funktioner för husdjur.

två bilder fick en bland en katt och en bland en hund att markera och frågade vilken som är vilken. Mark har skrivit ner flera villkor. Om rösten ser ut som meow och ögonen är blå eller grön.

den har ränder med färgen brun eller svart, och då kan djuret vara en katt.

På grund av hans enkla regler upptäckte han vilken som är en katt och vilken som kan vara en hund.

nu istället för att visa två bilder till Tony, två bitar av tomt papper och be honom att rita hur en katt och en hund ser ut. Tony drar ritningen.

Tja nu, med tanke på vilket foto som helst, kan Tony också berätta vilken som kan vara en katt. Vilken kan vara en hund stödde ritningen han skapade. Ritning är en tidskrävande uppgift för detekteringsuppgiften, vilken man kan vara en katt.

men om det bara har funnits några hundar och katter som verkar för Tony och Mark betyder låg träningsdata. I sådana fall, om ett fotografi av en brun hund med ränder med blå ögon.

det finns en möjlighet att markera skulle markera det slags en katt. Medan Tony har sin ritning och han kan bättre upptäcka att det här fotot är av en hund.

om Tony att lyssna på fler saker som funktioner, kommer det att skapa en bättre skiss. Men om fler exempel visar att man använder en dataset av katt och hund, skulle Mark vara bättre än Tony.

Mark är noggrann i sina observationer. Antag att du ber honom att lyssna på Fler funktioner. Det kommer att skapa mer komplicerade regler som kallas överfitting. Således kommer chansen att hitta en katt och en hund att öka, men det kommer inte att hända med Tony.

vad händer om de inte informeras innan de besöker djuraffären. Det finns bara två typer av djur som betyder inga märkta data.

Mark skulle misslyckas helt eftersom han inte vet vad man ska leta efter medan Tony skulle kunna rita skissen ändå. Detta är en stor fördel, ibland kallad semi-övervakad.

detta visar Mark är för diskriminerande, och Tony är för generativ.

ett annat exempel

klassificera ett tal till en språkmodell.

diskriminerande tillvägagångssätt som bestämmer skillnaden inom de språkliga modellerna. Utan att lära sig språken och så klassificera talet.

det generativa tillvägagångssättet innebär att lära sig varje språk. Så klassificera det med hjälp av den kunskap du fått.

vad är den matematiska ekvationen för generativa och diskriminerande modeller?

diskriminerande maskininlärning tränar faktiskt en modell. Att skilja rätt utgång bland möjliga utgångsval. Detta görs genom att lära sig modellparametrar som maximerar den villkorliga sannolikheten P(Y|X).

generativ maskininlärning tränar en modell för att lära sig parametrar som maximerar den gemensamma sannolikheten för P(X, Y).

vilka är de olika typerna av diskriminerande och generativa maskininlärningsalgoritmer?

Discriminative models

• Logistic regression
• Random forests
• Support vector machine (SVM)
• Traditional neural networks
• Nearest neighbor

Generative Models

• Hidden Markov model (HMM)
• Naïve Bayes
• Bayesian Networks
• Gaussian mixture model (GMM)

What are the följande frågor bör man ställa innan man utför dem?

• vilken modell behöver mindre data för träning?
• vilken modell kan generera data?
• När ska man använda sådana modeller?
• vilken modell är känsligare för extrema värden?
• vilken modell är mer benägen att överfitta?
• vilken modell kan träna på kortare tid?
• vilken modell lär sig villkorlig sannolikhet?
• vilken modell är bättre vid osäkerhet?
• vilken modell är bättre när funktionerna har en relation?
• vilken modell är bättre när en förklarande modell behövs?
• vilken modell är bättre när man optimerar den klassificeringsnoggrannhet som behövs?
• vilken modell är bättre när märkt data inte är tillgänglig?
• vilken modell är bättre när märkt data är tillgänglig?
• vilken modell är enkel och snabb att utföra?

hur fungerar generativ och diskriminerande i djupt lärande?

i generativa kontradiktoriska nätverk (gan) tränade generatorn och diskriminatorn tillsammans. Generatorn genererar ett parti prover-dessa, tillsammans med den verkliga datauppsättningen, ges till diskriminatorn för klassificering.

vilka är nackdelarna med diskriminerande klassificerare?

It lacks the elegance of generative like priors, structure, uncertainty. Feel like black-boxes, relationships between variables don’t seem to be explicit and visualizable.

slutsats

generativa och diskriminerande metoder är två breda tillvägagångssätt. Generativet innebär modellering och diskriminerande lösningsklassificering. De generativa modellerna är mer eleganta, har förklarande kraft.

en modells rikedom är inte alltid en uppsida. Att montera fler parametrar tar längre tid, mer utrymme och mer beräkning. Diskriminerande modeller måste regleras mer än generativa modeller.

en enkel modell inom den generativa inställningen skulle vilja ha mindre data än en posh en inom den diskriminerande inställningen.