¿Cuáles son las diferencias entre los modelos de aprendizaje automático generativos y discriminativos?

En este artículo, veremos la diferencia entre los modelos generativos y discriminativos, cómo contrastan y entre sí.

El aprendizaje automático discriminativo consiste en reconocer la salida de la plataforma entre las posibles opciones de salida. Dado algo sobre los datos, y hecho por parámetros de aprendizaje. Que maximiza la probabilidad conjunta de P (X, Y).La clasificación

se menciona adicionalmente como modelado discriminativo. Esto es a menudo en los motivos; el modelo debe separar instancias de variables de entrada entre clases. Debe seleccionar o hacer una llamada con respecto a la clase a la que pertenece una instancia determinada.

Los modelos no supervisados resumen la distribución de las variables de entrada. Además, puede acostumbrarse a crear o generar nuevas instancias dentro de la distribución de entrada. Como tales, estas variedades de modelos se observan como modelos generativos.

Una variable puede tener una distribución de datos conocida como una distribución gaussiana.

Un modelo generativo también podría ser capaz de resumir la distribución de datos. Esto se usa para generar nuevas variables que encajan en la distribución de la variable de entrada.

Un modelo sencillo dentro del entorno generativo debería tener menos información. Luego uno intrincado dentro del entorno discriminativo, y también al revés.

En esta línea, los modelos discriminativos flanquean los modelos generativos en la predicción condicional. Del mismo modo, los modelos discriminativos deberían regularizar más que los modelos generativos.

Primer ejemplo

Por ejemplo, hay dos niños, Tony y Marca. Ambos visitaron la tienda de mascotas para determinar la diferencia entre Gato y Perro. Ambos prestan especial atención al color, el tamaño, el color de los ojos, el tamaño del cabello, una voz, que son conjuntos de características de las mascotas.

Dos fotos pusieron una entre un gato y una entre un perro para marcar y preguntaron cuál es cuál. Mark ha escrito varias condiciones. Si la voz se parece a miau y los ojos son azules o verdes.

Tiene rayas con el color marrón o negro, y luego el animal puede ser un gato.

Debido a sus simples reglas, detectó cuál es un gato y cuál podría ser un perro.

Ahora, en lugar de mostrarle dos fotos a Tony, dos hojas de papel en blanco y pídale que dibuje cómo se ven un gato y un perro. Tony dibuja el dibujo.

Bien, dada cualquier foto, Tony también puede decir cuál podría ser un gato. Cuál puede ser un perro apoyó el dibujo que creó. Dibujar es una tarea que consume mucho tiempo para la tarea de detección, que podría ser un gato.

Pero si solo ha habido algunos perros y gatos que parezcan para Tony y Mark significa bajos datos de entrenamiento. En tales casos, si una fotografía de un perro marrón con rayas con ojos azules.

Existe la oportunidad de que Mark lo marque como un gato. Mientras Tony tiene su dibujo y puede detectar mejor que esta foto es de un perro.

Si Tony escucha más cosas como características, creará un mejor boceto. Pero, si más ejemplos muestran el empleo de un conjunto de datos de gato y perro, Mark sería mejor que Tony.

Mark es meticuloso en sus observaciones. Supongamos que le pides que escuche más funciones. Creará reglas más complicadas llamadas sobreajuste. Por lo tanto, la posibilidad de encontrar un gato y un perro aumentará, pero eso no sucederá con Tony.

Qué pasa si antes de visitar la tienda de mascotas, no se les informa. Solo hay dos tipos de animales que significa que no hay datos etiquetados.

Mark fallaría completamente porque no sabría qué buscar, mientras que Tony sería capaz de dibujar el boceto de todos modos. Esta es una gran ventaja, a veces llamada semi-supervisada.

Esto muestra que Mark es para discriminativo, y Tony es para Generativo.

Otro ejemplo

Clasificar un discurso a un modelo de lenguaje.

Enfoque discriminativo que determina la diferencia dentro de los modelos lingüísticos. Sin aprender los idiomas y así clasificar el habla.

El enfoque generativo significa aprender cada idioma. Así que clasificarlo usando el conocimiento que ganaste.

¿Cuál es la ecuación matemática de los modelos generativos y discriminativos?

Discriminativo de aprendizaje de la máquina es en realidad el entrenamiento de un modelo. Para distinguir la salida correcta entre las posibles opciones de salida. Esto se hace aprendiendo parámetros del modelo que maximizan la probabilidad condicional P(Y|X).

El aprendizaje automático generativo es entrenar un modelo para aprender parámetros maximizando la probabilidad conjunta de P (X, Y).

¿Cuáles son los diferentes tipos de algoritmos de aprendizaje automático discriminativos y generativos?

Discriminative models

• Logistic regression
• Random forests
• Support vector machine (SVM)
• Traditional neural networks
• Nearest neighbor

Generative Models

• Hidden Markov model (HMM)
• Naïve Bayes
• Bayesian Networks
• Gaussian mixture model (GMM)

What are the las siguientes preguntas que uno debe hacer antes de llevarlas a cabo?

• el modelo Que necesita menos datos para el entrenamiento?
• ¿Qué modelo puede generar datos?
• Cuándo se debe utilizar este tipo de modelos?
• el modelo es más sensible a los valores extremos?
• ¿Qué modelo es más propenso a sobreajustarse?
• ¿Qué modelo puede entrenar en menos tiempo?
• ¿Qué modelo aprende la probabilidad condicional?
• ¿Qué modelo es mejor en caso de incertidumbre?
• ¿Qué modelo es mejor cuando las características tienen una relación?
• ¿Qué modelo es mejor cuando se necesita un modelo explicativo?
• ¿Qué modelo es mejor al optimizar la precisión de clasificación necesaria?
• ¿Qué modelo es mejor cuando los datos etiquetados no están disponibles?
• ¿Qué modelo es mejor cuando los datos etiquetados están disponibles?
• ¿Qué modelo es fácil y rápido de llevar a cabo?

¿Cómo funciona lo generativo y lo discriminativo en el aprendizaje profundo?

En el generador de confrontación redes (GAN), el generador y el discriminador de formación. El generador genera un lote de muestras, junto con el conjunto de datos real, que se entrega al discriminador para su clasificación.

¿Cuáles son las desventajas de los clasificadores discriminativos?

It lacks the elegance of generative like priors, structure, uncertainty. Feel like black-boxes, relationships between variables don’t seem to be explicit and visualizable.

Conclusión

Generativa y Discriminativo métodos son dos grandes enfoques. Lo generativo implica el modelado y la clasificación de soluciones discriminativas. Los modelos generativos son más elegantes, tienen poder explicativo.

La riqueza de un modelo no siempre es una ventaja. Ajustar más parámetros requiere más tiempo, más espacio y más computación. Los modelos discriminativos tienen que regularizarse más que los modelos generativos.

Un modelo fácil dentro del entorno generativo querría menos datos que uno elegante dentro del entorno discriminativo.