mitkä ovat generatiivisten ja syrjivien koneoppimismallien erot?

tässä artikkelissa tarkastellaan generatiivisten ja syrjivien mallien eroa, miten ne eroavat toisistaan, ja toisiaan.

Diskriminatiivinen koneoppiminen on rig-tuotoksen tunnistamista mahdollisten lähtövalintojen joukosta. Koska jotain tietoja, ja tehdään oppimisen parametrit. Joka maksimoi P: n(X, Y) yhteisen todennäköisyyden.

luokittelu mainitaan lisäksi diskriminatiivisena mallintamisena. Tämä on usein perusteilla; mallissa on eroteltava syöttömuuttujien esiintymät eri luokissa. Sen on valittava tai soittaa suhteen, mihin luokkaan tietty esimerkki kuuluu.

Valvomattomat mallit tiivistävät syöttömuuttujien jakauman. Myös, voi olla tottunut luomaan tai luoda uusia esiintymiä sisällä tulojakauma. Sellaisenaan näitä mallilajeja havaitaan generatiivisina malleina.

yhdellä muuttujalla voi olla tunnettu datajakauma kuten Gaussin jakaumalla.

generatiivisella mallilla voitiin myös tiivistää aineiston jakauma. Tällä luodaan uusia muuttujia, jotka sopivat tulomuuttujan jakaumaan.

suoraviivainen malli generatiivisessa ympäristössä vaatisi vähemmän informaatiota. Sitten monimutkainen yksi sisällä syrjivä ympäristössä, ja myös toisinpäin.

näillä linjoilla diskriminatiiviset mallit päihittävät generatiiviset mallit ehdollisessa ennusteessa. Samoin syrjivien mallien pitäisi säännönmukaistaa enemmän kuin generatiivisten mallien.

ensimmäinen esimerkki

esimerkiksi kaksi lasta, Tony ja Mark. Molemmat kävivät eläinkaupassa selvittämässä kissan ja koiran eroa. Molemmat kiinnittävät erityistä huomiota väriin, kokoon, silmien väriin, hiusten kokoon, ääneen, jotka ovat Lemmikkien ominaisuussarjoja.

kaksi kuvaa sai yhden kissan ja yhden koiran joukosta merkittäväksi ja kysyi, kumpi on kumpi. Mark on kirjoittanut useita ehtoja. Jos ääni näyttää miau ja silmät ovat siniset tai vihreät.

siinä on raitoja, joiden väri on ruskea tai musta, ja silloin eläin voi olla kissa.

yksinkertaisten sääntöjensä vuoksi hän havaitsi, kumpi on kissa ja kumpi voisi olla koira.

nyt sen sijaan, että Tonylle näytettäisiin kaksi valokuvaa, kaksi tyhjää paperia ja pyydettäisiin häntä piirtämään, miltä kissa ja koira näyttävät. Tony piirtää piirroksen.

no nyt, minkä tahansa kuvan perusteella, Tony saattaa myös kertoa, kumpi voisi olla kissa. Mikä niistä voi olla koira, tuki hänen luomaansa piirrosta. Piirtäminen on aikaa vievä tehtävä tunnistustehtävälle, joka voisi olla kissa.

mutta jos Tonylle ja Markille on ilmaantunut vain joitakin koiria ja kissoja, se tarkoittaa vähäistä koulutustietoa. Tällaisissa tapauksissa, jos valokuva ruskea koira raidat siniset silmät.

on mahdollisuus, että Mark merkitsisi sen tavallaan Kissaksi. Tonylla on hänen piirustuksensa ja hän huomaa paremmin, että tämä kuva on koira.

Jos Tony kuuntelee enemmän asioita, kuten ominaisuuksia, se luo paremman sketsin. Mutta, jos enemmän esimerkkejä osoittavat työllistävät tiedot kissa ja koira, Mark olisi parempi kuin Tony.

Mark on pikkutarkka havainnoissaan. Oletetaan, että pyydät häntä kuuntelemaan lisää. Se luo monimutkaisempia sääntöjä, joita kutsutaan ylilyönneiksi. Näin mahdollisuus löytää kissa ja koira kasvaa, mutta niin ei tapahdu Tonyn kanssa.

Mitä jos heille ei ennen eläinkaupassa käyntiä ilmoiteta asiasta. On vain kahdenlaisia eläimiä, mikä tarkoittaa, että ei ole merkitty tietoja.

Mark epäonnistuisi täysin, koska hän ei tiedä, mitä etsiä, kun taas Tony pystyisi piirtämään luonnoksen joka tapauksessa. Tämä on valtava etu, jota joskus kutsutaan puolivalvottu.

Tämä osoittaa, että Mark on diskriminatiiviselle ja Tony Generatiiviselle.

toinen esimerkki

luokittelee puheen kielimalliin.

Diskriminatiivinen lähestymistapa kielellisten mallien välisen eron määrittämiseen. Ilman kielten oppimista ja siten puheen luokittelua.

generatiivinen lähestymistapa tarkoittaa kunkin kielen oppimista. Luokittelet sen saamasi tiedon perusteella.

mikä on generatiivisten ja diskriminatiivisten mallien matemaattinen yhtälö?

syrjivä koneoppiminen on oikeastaan mallin kouluttamista. Voit erottaa oikean tuotoksen mahdollisten tuotosvalintojen joukosta. Tämä tapahtuu oppimismallin parametreilla, jotka maksimoivat ehdollisen todennäköisyyden P (Y|X).

generatiivinen koneoppiminen on mallin kouluttamista P: n(X, Y) yhteistodennäköisyyttä maksimoivien parametrien oppimiseen.

Mitä ovat erilaiset diskriminatiiviset ja generatiiviset koneoppimisalgoritmit?

Discriminative models

• Logistic regression
• Random forests
• Support vector machine (SVM)
• Traditional neural networks
• Nearest neighbor

Generative Models

• Hidden Markov model (HMM)
• Naïve Bayes
• Bayesian Networks
• Gaussian mixture model (GMM)

What are the seuraavat kysymykset pitäisi tehdä ennen niiden toteuttamista?

• kumpi malli tarvitsee vähemmän dataa harjoitteluun?
• mikä malli voi tuottaa dataa?
• milloin tällaisia malleja pitäisi käyttää?
• kumpi malli on herkempi ääriarvoille?
• kumpi malli on alttiimpi ylilyönneille?
• mikä malli pystyy harjoittelemaan lyhyemmässä ajassa?
• mikä malli oppii ehdollisen todennäköisyyden?
• kumpi malli on parempi epävarmuustilanteessa?
• kumpi malli on parempi, kun ominaisuuksilla on suhde?
• kumpi malli on parempi, kun tarvitaan selittävä malli?
• mikä malli on parempi optimoitaessa tarvittavaa luokittelutarkkuutta?
• kumpi malli on parempi, kun merkittyjä tietoja ei ole saatavilla?
• kumpi malli on parempi, kun merkittyjä tietoja on saatavilla?
• mikä malli on helppo ja nopea toteuttaa?

miten generatiivisuus ja syrjintä toimivat syväoppimisessa?

generatiivisissa kontradiktoriverkoissa (gan) generaattori ja syrjijä harjoittelivat yhdessä. Generaattori tuottaa erän näytteitä-nämä yhdessä todellisen aineiston kanssa, jotka annetaan erottelijalle luokittelua varten.

mitkä ovat syrjivien luokittelijoiden haitat?

It lacks the elegance of generative like priors, structure, uncertainty. Feel like black-boxes, relationships between variables don’t seem to be explicit and visualizable.

johtopäätös

generatiiviset ja syrjivät menetelmät ovat kaksijakoisia lähestymistapoja. Generatiiviin kuuluu mallintaminen ja erotteleva ratkaisuluokitus. Generatiiviset mallit ovat tyylikkäämpiä, niissä on selittävä voima.

mallin rikkaus ei ole aina kääntöpuoli. Lisäparametrien sovittaminen vie kauemmin, enemmän tilaa ja enemmän laskentaa. Syrjiviä malleja on säännönmukaistettava enemmän kuin generatiivisia malleja.

helppo malli generatiivisessa ympäristössä vaatisi vähemmän tietoa kuin posh-malli syrjivässä ympäristössä.