El presente curso es el curso basico de Machine Learning elaborado por Google pero que en este caso ha sido editado, adaptado y ampliado por juanbarrios.com
DEFINICIONES
¿Qué es el aprendizaje automático (supervisado)?
A continuación, se incluye una definición concisa:
Los sistemas de AA aprenden cómo combinar entradas para producir predicciones útiles sobre datos nunca antes vistos.
Exploremos la terminología básica del aprendizaje automático.
A.) Etiquetas Una etiqueta es el valor que estamos prediciendo, es decir, la variable y en la regresión lineal simple. La etiqueta podría ser el precio futuro del trigo, el tipo de animal que se muestra en una imagen, el significado de un clip de audio o simplemente cualquier cosa.
b.) Atributos Un atributo es una variable de entrada, es decir, la variable x en la regresión lineal simple. Un proyecto de aprendizaje automático simple podría usar un solo atributo, mientras que otro más sofisticado podría usar millones de atributos, especificados como:
En el ejemplo del detector de spam, los atributos podrían incluir los siguientes:
palabras en el texto del correo electrónico
dirección del remitente
hora del día a la que se envió
presencia de la frase «un truco increíble» en el correo electrónico
c.) Ejemplos Un ejemplo es una instancia de datos en particular, x . (La x se coloca en negrita para indicar que es un vector). Los ejemplos se dividen en dos categorías:
ejemplos etiquetados
ejemplos sin etiqueta
Un ejemplo etiquetado incluye tanto atributos como la etiqueta. Esto significa lo siguiente:
labeled examples : { features , label }: ( x , y )
Los ejemplos etiquetados se usan para entrenar el modelo. En nuestro ejemplo del detector de spam, los ejemplos etiquetados serían los correos electrónicos individuales que los usuarios marcaron explícitamente como «es spam» o «no es spam».
Por ejemplo, en la siguiente tabla se muestran 5 ejemplos etiquetados de un conjunto de datos que contiene información sobre los precios de vivienda en California:
housingMedianAge
totalRooms
totalBedrooms
medianHouseValue
15
5,612
1,283
66,900
19
7,650
1,901
80,100
17
720
174
85,700
14
1,501
337
73,400
20
1,454
326
65,500
Un ejemplo sin etiqueta contiene atributos, pero no la etiqueta. Esto significa lo siguiente:
unlabeled examples : { features , ?}: ( x , ?)
Estos son 3 ejemplos sin etiqueta del mismo conjunto de datos de viviendas, que no incluyen medianHouseValue:
housingMedianAge
totalRooms
totalBedrooms
42
1686
361
34
1226
180
33
1077
271
Una vez que el modelo se entrena con ejemplos etiquetados, ese modelo se usa para predecir la etiqueta en ejemplos sin etiqueta . En el detector de spam, los ejemplos sin etiqueta son correos electrónicos nuevos que las personas todavía no han etiquetado.
d.) Modelos Un modelo define la relación entre los atributos y la etiqueta. Por ejemplo, un modelo de detección de spam podría asociar de manera muy definida determinados atributos con «es spam». Destaquemos dos fases en el ciclo de un modelo:
Entrenamiento significa crear o aprender el modelo. Es decir, le muestras ejemplos etiquetados al modelo y permites que este aprenda gradualmente las relaciones entre los atributos y la etiqueta.Inferencia significa aplicar el modelo entrenado a ejemplos sin etiqueta. Es decir, usas el modelo entrenado para realizar predicciones útiles (y'). Por ejemplo, durante la inferencia, puedes predecir medianHouseValue para nuevos ejemplos sin etiqueta.
e.) Regresión frente a clasificación Un modelo de regresión predice valores contínuos. Por ejemplo, los modelos de regresión hacen predicciones que responden a preguntas como las siguientes:
¿Cuál es el valor de una casa en California?
¿Cuál es la probabilidad de que un usuario haga clic en este anuncio?
Un modelo de clasificación predice valores discretos. Por ejemplo, los modelos de clasificación hacen predicciones que responden a preguntas como las siguientes:
¿Un mensaje de correo electrónico determinado es spam o no es spam?
¿Esta imagen es de un perro, un gato o un hámster?
Términos clave
f.) ejercicio de evaluacion 1
a.) Aprendizaje supervisado
Explora las opciones que aparecen a continuación.
Imagina que quieres desarrollar un modelo de aprendizaje automático supervisado para predecir si un determinado correo electrónico «es spam» o «no es spam». ¿Cuáles de las siguientes afirmaciones son verdaderas?
1.) Las palabras del encabezado de asunto serán buenas etiquetas.
Las etiquetas serán solo ( SPAM o NO SPAM)
2.) Los correos electrónicos no marcados como «es spam» o «no es spam» son ejemplos sin etiqueta.
Dado que nuestra etiqueta consiste en los valores «es spam» y «no es spam», cualquier correo electrónico que todavía no se haya marcado como «es spam» o «no es spam» es un ejemplo sin etiqueta.
3.) Algunas etiquetas pueden ser poco confiables.
Indudablemente. Es probable que las etiquetas de este conjunto de datos provengan de usuarios de correo electrónico que marcan determinados mensajes como spam. Dado que muy pocos usuarios marcan cada mensaje de correo electrónico sospechoso como spam, es posible que resulte muy difícil saber concretamente si un correo electrónico es spam. Además, algunos generadores de spam o botnets podrían contaminar intencionalmente nuestro modelo al proporcionar etiquetas con fallas.
4.) Se usarán ejemplos sin etiqueta para entrenar el modelo.
g.) ejercicio de EVALUACION 2 Atributos y etiquetas
Explora las opciones que aparecen a continuación.
Imagina que una tienda de calzado en línea quiere crear un modelo de AA supervisado que proporcione a los usuarios recomendaciones personalizadas sobre zapatos. Esto significa que el modelo recomendará determinados pares de zapatos a Martín y otros pares de zapatos a Juana. ¿Cuáles de las siguientes afirmaciones son verdaderas?
1 La talla del calzado es un atributo útil.
La talla del calzado es un indicador cuantificable que probablemente tenga un fuerte impacto en el hecho de que al usuario le gusten los zapatos recomendados. 3 Por ejemplo, si Martín calza 9, el modelo no debe recomendar zapatos de talla 7.
2. Los clics del usuario en la descripción de un zapato son una etiqueta útil.
Es probable que los usuarios solo quieran leer más acerca de los zapatos que les gustan. Por lo tanto, los clics del usuario son una métrica observable y cuantificable que podría funcionar como una buena etiqueta de entrenamiento.
3. La belleza del calzado es un atributo útil.
Los buenos atributos son concretos y cuantificables. La belleza es un concepto demasiado impreciso como para representar un atributo útil. La belleza probablemente sea una combinación de determinados atributos concretos, como estilo y color. El estilo y el color serían mejores atributos que la belleza.
4. Los zapatos que le fascinan a un usuario son una etiqueta útil.
La fascinación no es una métrica observable ni cuantificable. Lo mejor que podemos hacer es buscar métricas cuantificables que aproximen lo mejor posible la fascinación.
objetivo del machine learning
A.) Regresión lineal
Es sabido que los grillos cantan con más frecuencias en los días de más calor. Durante décadas, entomólogos profesionales y aficionados han catalogado datos sobre la cantidad de cantos por minuto y la temperatura. Para tu cumpleaños, la tía Ruth te regaló su amada base de datos sobre grillos y te invita a que aprendas un modelo para predecir dicha relación.
En primer lugar, es necesario realizar una representación de los datos para examinarlos:
Figura 1. Cantos por minuto contra temperatura
Efectivamente, la representación muestra que la cantidad de cantos aumenta con la temperatura. ¿Es lineal la relación entre los cantos y la temperatura? Sí, ya que es posible dibujar una línea recta como la siguiente para representar dicha relación:
Figura 2. Una relación lineal
Si bien la línea no pasa perfectamente por cada punto, demuestra con claridad la relación entre la temperatura y los cantos por minuto para dichos puntos. Si aplicamos un poco de álgebra, podemos determinar esta relación de la siguiente manera:
donde: y = mx +b
Y: es la temperatura en grados centígrados, correspondiente al valor que intentamos predecir.
M: es la pendiente de la línea.
X: es la cantidad de cantos por minuto, correspondiente al valor de nuestro atributo de entrada.
B: es la intersección en y.
Según las convenciones del aprendizaje automático, la ecuación para un modelo se escribirá de una forma un poco diferente:
donde: Y= b+w x
Y: es la etiqueta predicha (un resultado deseado).
B: es la ordenada al origen (la intersección en y). En alguna literatura de aprendizaje automático, se hace referencia a ella como
W: es la ponderación del atributo 1. La ponderación es el mismo concepto de la «pendiente» , que se indicó anteriormente.
X: es un atributo (una entrada conocida).
Para inferir (predecir) la temperatura
para un valor nuevo de cantos por minuto , solo agrega el valor dea este modelo.
Los subíndices (p. ej.,
y) indican modelos más sofisticados que se basan en varios atributos. Por ejemplo, un modelo que se basa en tres atributos usaría la siguiente ecuación:
B.) EntrenaMIENTO un modelo simplemente necesita aprender (determinar) valores correctos para todas las ponderaciones con base en los ejemplos etiquetados. En un aprendizaje supervisado, el algoritmo de un aprendizaje automático construye un modelo al examinar varios ejemplos e intentar encontrar un modelo que minimice la pérdida. Este proceso se denomina minimización del riesgo empírico .
La pérdida es una penalidad por una predicción incorrecta. Esto quiere decir que la pérdida es un número que indica qué tan incorrecta fue la predicción del modelo en un solo ejemplo. Si la predicción del modelo es perfecta, la pérdida es cero; de lo contrario, la pérdida es mayor. El objetivo de entrenar un modelo es encontrar la combinación de parametros y otros elemetosdel modelo para lograr pérdidas bajas . Por ejemplo, la Figura 3 muestra un modelo al lado izquierdo con una pérdida alta, y al lado derecho un modelo con pérdida baja. Ten en cuenta lo siguiente con respecto a la imagen:
La flecha roja representa la pérdida.
La línea azul representa las predicciones.
Figura 3. Pérdida alta en el modelo de la izquierda; pérdida baja en el modelo de la derecha. (flechas largas implica mas distancia y por tanto mas pérdida)
Ten en cuenta que las flechas rojas en la figura izquierda son mucho más largas que las de la figura derecha. Claramente, la línea azul en la figura de la derecha es un modelo de predicción mucho más acertado que la línea azul en la figura de la izquierda.
Tal vez te preguntes si puedes crear una función matemática (una función de pérdida) que sume las pérdidas individuales de una forma que tenga sentido.
C.) Pérdida al cuadrado: Una función popular de pérdida Los modelos de regresión lineal que se examinan aquí usan una función de pérdida llamada pérdida al cuadrado (también conocida como pérdida L2 ). A continuación, se muestra la pérdida al cuadrado para un único ejemplo:
= the square of the difference between the label and the prediction
= (observation - prediction(x ))2
= (y - y')2
El error cuadrático medio (ECM ) es el promedio de la pérdida al cuadrado de cada ejemplo. Para calcular el ECM, sumamos todas las pérdidas al cuadrado de los ejemplos individuales y, luego, lo dividimos por la cantidad de ejemplos:
Si bien ECM se usa comúnmente en el aprendizaje automático, no es la única función de pérdida práctica ni la mejor para todas las circunstancias.
D.) ejercicio de EVALUACION:
Error cuadrático medio Considera las siguientes representaciones:
Explora las opciones que aparecen a continuación.
¿Cuál de los dos conjuntos de datos que se muestran en las representaciones anteriores tiene el error cuadrático medio (ECM) más alto ?
R/. El conjunto de datos a la derecha.
Los ocho ejemplos de la línea incurren en una pérdida total de 0. Sin embargo, aunque solo dos puntos están fuera de la línea, ambos están dos veces más alejados de la línea que los puntos de valores atípicos de la figura de la izquierda. La pérdida al cuadrado amplifica esas diferencias, de manera que una compensación de dos incurre en una pérdida cuatro veces mayor que una compensación de uno.
Reducción de la pérdida: A.) el Descenso de gradientes
El diagrama de enfoque iterativo (Figura 1 ) contenía un cuadro verde con afirmaciones sin fundamento llamado «Actualizar parámetros». Ahora reemplazaremos esa solución algorítmica mágica por algo más sustancial.
Supón que tuviéramos el tiempo y los recursos de cómputo para calcular la pérdida de todos los valores posibles de
. Para el tipo de problemas de regresión que hemos estado examinando, la representación resultante de pérdida frente a
Figura 2. Los problemas de regresión producen gráficas de pérdida convexa vs. pesos.
Los problemas convexos tienen un solo mínimo, es decir, un solo lugar en el que la pendiente es exactamente 0. Ese mínimo es donde converge la función de pérdida.
Calcular la función de pérdida para cada valor concebible de
en todo el conjunto de datos sería una manera ineficaz de buscar el punto de convergencia. Examinemos un mecanismo más útil, muy popular en el aprendizaje automático, denominado descenso de gradientes .
La primera etapa en el descenso de gradientes es elegir un valor de inicio (un punto de partida) para
. El punto de partida no es muy importante; por lo tanto, muchos algoritmos simplemente establecen
Figura 3. Un punto de partida para el descenso de gradientes.
Luego, el algoritmo de descenso de gradientes calcula la gradiente de la curva de pérdida en el punto de partida. En resumen, una gradiente es un vector de derivadas parciales; indica por dónde es más cerca o más lejos. Ten en cuenta que la gradiente de pérdida con respecto a un solo peso (como en la Figura 3) es equivalente a la derivada.
Obtén más información acerca de las derivadas parciales y las gradientes.
Ten en cuenta que la gradiente es un vector, de manera que tiene las dos características siguientes:
una dirección
una magnitud
La gradiente siempre apunta en la dirección del aumento más empinado de la función de pérdida. El algoritmo de descenso de gradientes toma un paso en dirección de la gradiente negativa para reducir la pérdida lo más rápido posible.
Figura 4. El descenso de gradientes se basa en gradientes negativas.
Para determinar el siguiente punto a lo largo de la curva de la función de pérdida, el algoritmo de descenso de gradientes agrega alguna fracción de la magnitud de la gradiente al punto de partida, como se muestra en la siguiente figura:
Figura 5. Un paso de la gradiente nos mueve hacia el siguiente punto en la curva de pérdida.
Luego, el descenso de gradientes repite este proceso y se acerca cada vez más al mínimo.
B.) la Tasa de aprendizaje
Como se observó, el vector de gradiente tiene una dirección y una magnitud. Los algoritmos de descenso de gradientes multiplican la gradiente por un escalar conocido como tasa de aprendizaje (o tamaño del paso en algunas ocasiones) para determinar el siguiente punto. Por ejemplo, si la magnitud de la gradiente es 2.5 y la tasa de aprendizaje es 0.01, el algoritmo de descenso de gradientes tomará el siguiente punto 0.025 más alejado del punto anterior.
Los hiperparámetros son los controles que los programadores ajustan en los algoritmos de aprendizaje automático. La mayoría de los programadores de aprendizaje automático pasan gran parte de su tiempo ajustando la tasa de aprendizaje. Si eliges una tasa de aprendizaje muy pequeña, el aprendizaje llevará demasiado tiempo:
Figura 6. La tasa de aprendizaje es muy pequeña.
A la inversa, si especificas una tasa de aprendizaje muy grande, el siguiente punto rebotará al azar eternamente en la parte inferior, como un experimento de mecánica cuántica que salió muy mal:
Figura 7. La tasa de aprendizaje es muy grande.
Hay una tasa de aprendizaje con valor dorado para cada problema de regresión. El valor dorado está relacionado con qué tan plana es la función de pérdida. Si sabes que el gradiente de la función de pérdida es pequeño, usa una tasa de aprendizaje mayor, que compensará el gradiente pequeño y dará como resultado un tamaño del paso más grande.
Figura 8. La tasa de aprendizaje es la correcta.
C.) Descenso de gradiente estocástico
En el descenso de gradientes, un lote es la cantidad total de ejemplos que usas para calcular la gradiente en una sola iteración. Hasta ahora, hemos supuesto que el lote era el conjunto de datos completo. Al trabajar a la escala de Google, los conjuntos de datos suelen tener miles de millones o incluso cientos de miles de millones de ejemplos. Además, los conjuntos de datos de Google con frecuencia contienen inmensas cantidades de atributos. En consecuencia, un lote puede ser enorme. Un lote muy grande puede causar que incluso una sola iteración tome un tiempo muy prolongado para calcularse.
Es probable que un conjunto de datos grande con ejemplos muestreados al azar contenga datos redundantes. De hecho, la redundancia se vuelve más probable a medida que aumenta el tamaño del lote. Un poco de redundancia puede ser útil para atenuar las gradientes inconsistentes, pero los lotes enormes tienden a no tener un valor mucho más predictivo que los lotes grandes.
¿Cómo sería si pudiéramos obtener la gradiente correcta en promedio con mucho menos cómputo? Al elegir ejemplos al azar de nuestro conjunto de datos, podríamos estimar (si bien de manera inconsistente) un promedio grande de otro mucho más pequeño. El descenso de gradiente estocástico (SGD ) lleva esta idea al extremo: usa un solo ejemplo (un tamaño del lote de 1) por iteración. Cuando se dan demasiadas iteraciones, el SGD funciona, pero es muy inconsistente. El término «estocástico» indica que el ejemplo único que compone cada lote se elige al azar.
El descenso de gradiente estocástico de minilote (SGD de minilote ) es un equilibrio entre la iteración de lote completo y el SGD. Un minilote generalmente tiene entre 10 y 1,000 ejemplos, elegidos al azar. El SGD de minilote reduce la cantidad de inconsistencia en el SGD, pero sigue siendo más eficaz que el lote completo.
Para simplificar la explicación, nos concentramos en el descenso de gradientes para un solo atributo. Te garantizamos que el descenso de gradientes también funciona en conjuntos de varios atributos.
D.) ejercicicio de EVALUACION: Reducción de la pérdida
Explora las opciones que aparecen a continuación.
Al realizar un descenso de gradientes en un conjunto de datos de gran tamaño, ¿cuáles de los siguientes tamaños de lotes tienen más probabilidades de ser eficaces?
a.) Un lote pequeño o incluso un lote de un ejemplo (SGD).
Sorprendentemente, realizar un descenso de gradientes en un lote pequeño o incluso un lote de un ejemplo generalmente es más eficaz que hacerlo en el lote completo. Después de todo, encontrar la gradiente de un ejemplo es mucho más económico que encontrar la gradiente de millones de ejemplos. Para garantizar una buena muestra representativa, el algoritmo recoge otro lote pequeño al azar (o un lote de uno) en cada iteración.
b.) El lote completo
TUS Primeros pasos con TensorFlow
Objetivos de aprendizaje
aprender cómo crear y modificar tensores en TensorFlow
aprender los aspectos básicos de Pandas
desarrollar código de regresión lineal con una de las API de alto nivel de TensorFlow
experimentar con la tasa de aprendizaje
A.) el Kit de herramientas de tensorflow
En la siguiente figura, se muestra la jerarquía actual de los kits de herramientas de TensorFlow:
Figura 1. Jerarquía de los kits de herramientas de TensorFlow.
En la siguiente tabla, se resumen los objetivos de las diferentes capas:
Kits de herramientas
Descripción
Estimador (tf.estimator)
API de POO de alto nivel
tf.layers/tf.losses/tf.metrics
Bibliotecas de componentes comunes del modelo
TensorFlow
API de nivel inferior
TensorFlow consiste en los siguientes dos componentes:
Estos dos componentes son análogos al compilador de Java y a la JVM. Cuando la JVM se implementa en varias plataformas de hardware, también lo hace TensorFlow (CPU y GPU).
¿Qué API debes usar? Debes usar el nivel de abstracción más alto que resuelva el problema. Los niveles de abstracción más altos son más fáciles de usar, pero también son menos flexibles (por su diseño). Te recomendamos comenzar con la API de nivel más alto y poner todo en funcionamiento. Si necesitas flexibilidad adicional por cuestiones de modelos especiales, usa un nivel más bajo. Ten en cuenta que cada nivel se crea con API de niveles inferiores, por lo que la reducción de jerarquía debería ser razonablemente directa.
B.) API de tensor flow estimator Usaremos tf.estimator en la mayoría de los ejercicios del Curso intensivo de aprendizaje automático. Todo lo que harás en el ejercicio se podría haber realizado con TensorFlow en un nivel inferior (sin procesar), pero el uso de tf.estimator disminuye considerablemente la cantidad de líneas de código.
tf.estimator es compatible con la API de scikit-learn. Scikit-learn es una biblioteca de AA de código abierto muy popular en Python, con más de 100,000 usuarios, incluso muchos en Google.
Aquí se muestra, en términos muy generales, el formato de un programa de regresión lineal implementado en tf.estimator:
import tensorflow as tf
# Set up a linear classifier.
classifier = tf . estimator . LinearClassifier ()
# Train the model on some example data.
classifier . train ( input_fn = train_input_fn , steps = 2000 )
# Use it to predict.
predictions = classifier . predict ( input_fn = predict_input_fn )
G.) Ejercicio de Playground
¿Uso excesivo de combinaciones?
Antes de mirar el vídeo o leer la documentación, completa este ejercicio que explora el uso excesivo de las combinaciones de atributos.
Regularización para lograr simplicidad
Regularización significa penalizar la complejidad de un modelo para reducir el sobreajuste.
Objetivos de aprendizaje
Aprender sobre las compensaciones entre la complejidad y la generalización
Experimentar con la regularización L2
A.) Regularización L₂
Ten en cuenta la siguiente curva de generalización , que muestra la pérdida del conjunto de entrenamiento y el conjunto de validación con respecto a la cantidad de iteraciones de entrenamiento.
Figura 1. Pérdida en los conjuntos de entrenamiento y de validación.
En la Figura 1, se muestra un modelo en el que la pérdida de entrenamiento se reduce gradualmente, pero la pérdida de validación eventualmente aumenta. En otras palabras, esta curva de generalización muestra que el modelo se sobreajusta en función de los datos en el conjunto de entrenamiento. Si aplicamos nuestra Navaja de Ockham interna, tal vez podamos prevenir el sobreajuste mediante la penalización de modelos complejos, un principio denominado regularización .
En otras palabras, en lugar de solo intentar reducir la pérdida (minimización del riesgo empírico):
ahora minimizaremos la pérdida más la complejidad, lo que se denomina minimización del riesgo estructural :
Nuestro algoritmo de optimización de entrenamiento ahora es una función de dos términos: el término de pérdida , que mide qué tan bien se ajusta el modelo a los datos, y el término de regularización , que mide la complejidad del modelo.
El Curso intensivo de aprendizaje automático se centra en dos formas comunes (y, de cierto modo, relacionadas) de interpretar la complejidad del modelo:
la complejidad del modelo como una función de las ponderaciones (o pesos) de todos los atributos que contiene
la complejidad del modelo como una función de la cantidad total de atributos con ponderaciones que no sean cero (este enfoque se trata en un módulo más adelante )
Si la complejidad del modelo es una función de ponderaciones, una ponderación de atributos con un valor absoluto alto es más complejo que una con un valor absoluto bajo.
Podemos cuantificar la complejidad mediante la fórmula de la regularización L2 , que define el término de regularización como la suma de los cuadrados de todas las ponderaciones de atributos:
En esta fórmula, las ponderaciones cerca de cero tienen poco efecto en la complejidad del modelo, mientras que las ponderaciones atípicas pueden tener un gran impacto.
Por ejemplo, un modelo lineal con las siguientes ponderaciones:
tiene un término de regularización L2 de 26.915:
B.) FUNCION Lambda
Tiempo estimado: 8 minutosPara definir el impacto general del término de regularización, los programadores de modelos multiplican su valor por un escalar conocido como lambda (también denominado tasa de regularización ). Es decir, el objetivo de los programadores de modelos es lograr lo siguiente:
La regularización L2 tiene el siguiente efecto en un modelo
Lleva los valores de las ponderaciones hacia 0 (pero no exactamente 0).
Lleva la media de las ponderaciones hacia 0, con una distribución normal (en forma de campana o gaussiana).
Aumentar el valor de lambda fortalece el efecto de la regularización. Por ejemplo, el histograma de ponderaciones para un valor alto de lambda puede verse como se muestra en la Figura 2.
Figura 2. Histograma de ponderaciones.
Reducir el valor de lambda tiende a lograr un histograma más plano, como se muestra en la Figura 3.
Figura 3. Histograma de ponderaciones producido por un valor de lambda más bajo.
Al elegir un valor de lambda, el objetivo es lograr el balance adecuado entre la simpleza y el ajuste de los datos de entrenamiento:
Si el valor de lambda es demasiado alto, el modelo será simple, pero corres el riesgo de sub ajustar los datos. El modelo no aprenderá lo suficiente sobre los datos de entrenamiento para hacer predicciones útiles.
Si el valor de lambda es demasiado bajo, el modelo será más complejo, pero corres el riesgo de sobre ajustar los datos. El modelo aprenderá demasiado sobre las particularidades de los datos de entrenamiento y no será capaz de generalizar con respecto a datos nuevos.
Nota : Si estableces el valor de lambda como cero, quitarás la regularización por completo. En este caso, el entrenamiento se centra exclusivamente en minimizar la pérdida, lo que implica el mayor riesgo posible de sobre ajuste.El valor ideal de lambda produce un modelo que generaliza sin problemas los datos nuevos, nunca antes vistos. Lamentablemente, el valor ideal de lambda, depende de los datos, por lo que deberás realizar algunos.
Haz clic aquí para obtener información sobre la regularización L2 y la tasa de aprendizaje.
Pero
(destacado en negrita arriba), con un valor al cuadrado de 25, conforma casi toda la complejidad. La suma de los cuadrados de las otras cinco ponderaciones agrega solo 1.915 al término de la regularización L2 .
C) Ejercicio de Playground
Tiempo estimado: 10 minutosEjercicio de regularización L 2
D.) Evaluación
Tiempo estimado: 5 minutosRegularización L2
1.) Explora las opciones que aparecen a continuación.
Imagina un modelo lineal con 100 atributos de entrada:
10 son muy informativas.
90 no son informativas.
Asume que todos los atributos tienen valores entre -1 y 1. ¿Cuáles de las siguientes afirmaciones son verdaderas?
a.) La regularización L2 hará que muchas de las ponderaciones no informativas sean casi (pero no exactamente) 0.0.
Sí, la regularización L2 hará que las ponderaciones sean casi 0.0, pero no exactamente 0.0.
b.) La regularización L2 puede causar que el modelo aprenda una ponderación moderada para algunos atributos no informativos.
Sorprendentemente, esto puede ocurrir cuando un atributo no informativo está correlacionado con la etiqueta. En este caso, el modelo les brinda incorrectamente a estos atributos no informativos un poco del «crédito» que les corresponde a los atributos informativos.
c.) La regularización L2 hará que la mayoría de las ponderaciones no informativas sean exactamente 0.0.
2.) La regularización L2 no tiende a forzar las ponderaciones al valor 0.0 exacto. La regularización L2 penaliza más a las ponderaciones más grandes que a las más pequeñas. A medida que una ponderación se acerca 0.0, L2 «presiona» con menos fuerza hacia el valor 0.0.
Imagina un modelo lineal con dos atributos fuertemente correlacionados, es decir, estos dos atributos son casi idénticos, pero uno contiene una inconsistencia aleatoria. Si entrenamos este modelo con la regularización L2 , ¿qué sucederá con las ponderaciones para esos dos atributos?
a.) Ambos atributos tendrán ponderaciones moderadas y casi iguales.
La regularización L2 forzará los atributos hacia ponderaciones más o menos equivalentes que sean aproximadamente la mitad de lo que habrían sido, si solo hubiera habido uno de los dos atributos en el modelo.
b.) Un atributo tendrá una ponderación grande; el otro tendrá una ponderación de casi 0.0.
La regularización L2 penaliza más a las ponderaciones grandes que a las pequeñas. Entonces, incluso si una ponderación comenzara a reducirse más rápido que la otra, la regularización L2 tendería a forzar a la ponderación más grande a que se reduzca más rápido que la más pequeña.
Inténtalo de nuevo.
c.) Un atributo tendrá una ponderación grande; el otro tendrá una ponderación de exactamente 0.0.
La regularización L2 raramente fuerza las ponderaciones a que sean exactamente 0.0. Como contrapartida, la regularización L1 (que se analizará luego) sí fuerza las ponderaciones a que sean exactamente 0.0.
Regresión logística
En lugar de predecir exactamente 0 o 1, la regresión logística genera una probabilidad, con un valor entre 0 y 1, exclusivo. Por ejemplo, supongamos que un modelo de regresión logística para la detección de spam infiere un valor de 0.932 en un mensaje de correo electrónico en particular. Esto quiere decir que la probabilidad de que el correo sea spam es del 93.2%. Más concretamente, significa que, en el límite de ejemplos de entrenamiento infinitos , el conjunto de ejemplos para los que el modelo predice 0.932 será realmente spam el 93.2% de las veces, mientras que el 6.8% restante no lo será.
A.) Cálculo de probabilidades
Muchos problemas exigen como resultado el cálculo de una probabilidad. La regresión logística es un mecanismo extremadamente eficiente para calcular probabilidades. En la práctica, puedes usar la probabilidad resultante de una de las dos maneras siguientes:
«tal cual»
convertida en una categoría binaria
Veamos cómo podemos usar la probabilidad «tal cual». Supongamos que creamos un modelo de regresión logística para predecir la probabilidad de que un perro ladre durante la noche. A esa probabilidad la llamaremos:
p(bark | night)
Si el modelo de regresión logística predice una probabilidad p(bark | night) de 0.05, en un año, los dueños de perros se despertarían aproximadamente 18 veces:
startled = p(bark | night) * nights
18 ~= 0.05 * 365
En muchos casos, representarás el resultado de la regresión logística como la solución a un problema de clasificación binaria, donde el objetivo es predecir correctamente una de dos etiquetas posibles (p. ej., «es spam» o «no es spam»). Más adelante, hay un módulo dedicado a ese tema.
Posiblemente te preguntes de qué manera un modelo de regresión logística puede garantizar un resultado que siempre esté entre 0 y 1. Como suele pasar, una función sigmoidea , definida a continuación, produce un resultado con esas mismas características:
La función sigmoidea genera la siguiente representación:
Figura 1: Función sigmoidea
Si z representa el resultado de la capa lineal de un modelo entrenado con regresión logística, la función sigmoidea (z) generará un valor (una probabilidad) entre 0 y 1. En términos matemáticos:
donde:
y’ es el resultado del modelo de regresión logística para un ejemplo en particular.
z es b + w1 x1 + w2 x2 + … wN xN
Los valores w son los pesos aprendidos del modelo, y b es la ordenada al origen.
Los valores x son los valores de atributo para un ejemplo en particular.
Debes tener en cuenta que z también se representa como logaritmo de probabilidad , porque el valor inverso de la función sigmoidea indica que zz puede definirse como el logaritmo de la probabilidad de la etiqueta «1» (p. ej., «el perro ladra») dividida por la probabilidad de la etiqueta «0» (p. ej., «el perro no ladra»):
Esta es la función sigmoidea con las etiquetas de AA:
Figura 2: Resultado de la regresión logística
B.) Entrenamiento de modelos
Tiempo estimado: 6 minutosB.1) Función de pérdida para la regresión logística La función de pérdida para la regresión lineal es una pérdida cuadrática. La función de pérdida para la regresión logística es la Pérdida logística , que se define de la siguiente manera:
donde:
(x ,y )€ D es el conjunto de datos que contiene muchos ejemplos etiquetados, en pares (x ,y ).
y es la etiqueta en un ejemplo etiquetado. Dado que se trata de regresión logística, cada valor de y debe ser 0 o 1.y’ es el valor predicho (un valor entre 0 y 1), dado el conjunto de atributos en x .
La ecuación para la Pérdida logística está íntimamente relacionada con la dimensión de la entropía de Shannon en el ámbito de la teoría de la información . También es el logaritmo negativo de la función de probabilidad , si adoptamos la distribución de Bernoulli de y . De hecho, si minimizamos la función de pérdida, obtenemos un rendimiento estimado máximo de probabilidad.
B2.) Regularización en la regresión logística La regularización es sumamente importante en el modelo de regresión logística. Sin regularización, la naturaleza asintótica de la regresión logística seguiría teniendo una tendencia de pérdida de 0 en grandes dimensiones. En consecuencia, la mayoría de los modelos de regresión logística usan una de las dos estrategias que se describen a continuación para disminuir la complejidad del modelo:
Regularización L2 .
Interrupción anticipada, es decir, limitar el número de pasos de entrenamiento o la tasa de aprendizaje.
(Hablaremos sobre una tercera estrategia —regularización de L1 — en un próximo módulo ).
Imagina que asignas un ID único a cada ejemplo y los unes a su propio atributo. Si no especificas una función de regularización, el modelo se sobreajustará por completo. El motivo es que el modelo intentará llevar las pérdidas a cero en todos los ejemplos sin conseguirlo, lo que hará que los pesos del atributo de cada indicador lleguen a +infinito o -infinito. Esto puede suceder en datos de grandes dimensiones con combinaciones de atributos, cuando hay una gran cantidad de combinaciones poco comunes que suceden solo en un ejemplo dado.
Afortunadamente, este problema se evita con el uso de L2 o interrupción anticipada.
Resumen
Los modelos de regresión logística generan probabilidades.
La Pérdida logística es la función de pérdida para la regresión logística.
Muchos practicantes usan la regresión logística de forma extensiva.
Clasificación
En este módulo, se muestra cómo la regresión logística puede utilizarse para tareas de clasificación y se explora cómo evaluar la efectividad de los modelos de clasificación.
Objetivos de aprendizaje
evaluar la precisión y la exactitud de un modelo de regresión logística
comprender las curvas ROC y AUC
A.) Umbral
La regresión logística devuelve una probabilidad. Puedes usar la probabilidad devuelta «como es» (por ejemplo, la probabilidad de que el usuario haga clic en este anuncio es 0.00023) o convertirla a un valor binario (por ejemplo, este correo electrónico es spam).
Un modelo de regresión logística que devuelve 0.9995 para un mensaje de correo electrónico en particular predice que es muy probable que sea spam. A la inversa, otro mensaje de correo electrónico con una predicción del 0.0003 en ese mismo modelo de regresión logística indica que es muy probable que no sea spam. Sin embargo, ¿qué ocurre con un mensaje de correo electrónico con una predicción de 0.6? Para asignar un valor de regresión logística a una categoría binaria, debes definir un umbral de clasificación (también denominado umbral de decisión ). Un valor por encima de ese umbral indica «es spam»; un valor por debajo indica «no es spam». Resulta tentador suponer que el umbral de clasificación siempre debe ser 0.5, pero los umbrales dependen de cada problema y, por lo tanto, son valores que se deben ajustar.
En las siguientes secciones, se observan en más detalle las métricas que puedes usar para evaluar las predicciones de un modelo de clasificación, así como el impacto de cambiar el umbral de clasificación en estas predicciones.
Nota: «Ajustar» un umbral para la regresión logística es distinto de ajustar hiperparámetros, como la tasa de aprendizaje.Parte de elegir un umbral es evaluar qué impacto tendrá cometer un error. Por ejemplo, etiquetar por error un mensaje que no es spam como tal es muy malo. Sin embargo, etiquetar por error un mensaje que es spam como que no lo es resulta molesto, pero difícilmente signifique el final de tu trabajo.
b.) Verdadero o falso y positivo o negativo
Tiempo estimado: 5 minutosEn esta sección, definiremos los componentes básicos de las métricas que utilizaremos para evaluar modelos de clasificación. Pero primero, una fábula:
Fábula de Esopo: El joven y el lobo (versión comprimida )
Un joven pastor se aburre de cuidar el rebaño del pueblo y, para divertirse, grita: «¡Lobo!», aunque no hay ningún lobo a la vista. Los vecinos corren para proteger el rebaño, pero se enojan mucho al descubrir que el joven solo estaba bromeando.
[Repite el párrafo anterior N veces].
Una noche, el joven pastor ve un lobo real acercándose al rebaño y grita: «¡Lobo!». Los vecinos se niegan a ser engañados otra vez y se quedan en sus casas. El hambriento lobo convierte el rebaño en costillas de cordero. El pueblo comienza a sentirse hambriento. A continuación, se desata el pánico.
Hagamos las siguientes definiciones:
«Lobo» es una clase positiva .
«Ningún lobo» es una clase negativa .
Podemos resumir nuestro modelo «predicción de lobos» con una matriz de confusión de 2×2 que muestra los cuatro resultados posibles:
Verdadero positivo (VP):
Realidad: La amenaza de un lobo.
El pastor dijo: «Lobo».
Resultado: El pastor es un héroe.
Falso positivo (FP):
Realidad: No hay amenaza de un lobo.
El pastor dijo: «Lobo».
Resultado: Los vecinos están enojados con el pastor por despertarlos.
Falso negativo (FN):
Realidad: La amenaza de un lobo.
El pastor dijo: «No hay un lobo».
Resultado: El lobo se comió todas las ovejas.
Verdadero negativo (VN):
Realidad: No hay amenaza de un lobo.
El pastor dijo: «No hay un lobo».
Resultado: Todos están bien.
Un verdadero positivo es un resultado en el que el modelo predice correctamente la clase positiva . De manera similar, un verdadero negativo es un resultado en el que el modelo predice correctamente la clase negativa .
Un falso positivo es un resultado en el que el modelo predice incorrectamente la clase positiva . Y un falso negativo es un resultado en el que el modelo predice incorrectamente la clase negativa .
En las siguientes secciones, observaremos cómo evaluar los modelos de clasificación con métricas derivadas de estos cuatro resultados.
E.) Exactitud
Tiempo estimado: 6 minutosLa exactitud es una métrica para evaluar modelos de clasificación. Informalmente, la exactitud es la fracción de predicciones que el modelo realizó correctamente. Formalmente, la exactitud tiene la siguiente definición:
En la clasificación binaria, la exactitud también se puede calcular en términos de positivos y negativos de la siguiente manera:
Donde VP = Verdaderos positivos, VN = Verdaderos negativos, FP = Falsos positivos y FN = Falsos negativos.
Calcularemos la precisión del siguiente modelo, que clasificó 100 tumores como malignos (la clase positiva) o benignos (la clase negativa):
Verdadero positivo (VP):
Realidad: Maligno
Predicción del modelo de AA: Maligno
Número de resultados de VP: 1
Falso positivo (FP):
Realidad: Benigno
Predicción del modelo de AA: Maligno
Número de resultados de FP: 1
Falso negativo (FN):
Realidad: Maligno
Predicción del modelo de AA: Benigno
Número de resultados de FN: 8
Verdadero negativo (VN):
Realidad: Benigno
Predicción del modelo de AA: Benigno
Número de resultados de VN: 90
La exactitud resulta ser de 0.91 o 91% (91 predicciones correctas de 100 ejemplos totales). Eso significa que nuestro clasificador de tumores está haciendo un buen trabajo en la identificación de malignidades, ¿no es cierto?
De hecho, hagamos un análisis más detallado de los positivos y negativos para conocer mejor el rendimiento de nuestro modelo.
De los 100 ejemplos de tumores, 91 son benignos (90 VN y 1 FP) y 9 son malignos (1 VP y 8 FN).
De los 91 tumores benignos, el modelo identifica correctamente 90 como benignos. Eso es bueno. Sin embargo, de los 9 tumores malignos, el modelo solo identifica correctamente 1 como maligno; este es un resultado terrible, ya que 8 de 9 malignidades no se diagnostican.
F.) Precisión y exhaustividad
F.1) Precisión La precisión intenta responder a la siguiente pregunta:
¿Qué proporción de identificaciones positivas fue correcta?
La precisión se define de la siguiente manera:
Nota : Un modelo que no produce falsos positivos tiene una precisión de 1.0.Calculemos la precisión de nuestro modelo de AA en la sección anterior que analiza tumores:
Verdaderos positivos (VP): 1 Falsos positivos (FP): 1
Falsos negativos (FN): 8 Verdaderos negativos (VN): 90
Nuestro modelo tiene una precisión de 0.5, es decir, cuando predice que un tumor es maligno, acierta el 50% de las veces.
F.2) Exhaustividad La exhaustividad intenta responder a la siguiente pregunta:
¿Qué proporción de positivos reales se identificó correctamente?
La exhaustividad se define de la siguiente manera:
Nota : Un modelo que no produce falsos negativos tiene una recuperación de 1.0.Calculemos la recuperación de nuestro clasificador de tumores:
Verdaderos positivos (VP): 1 Falsos positivos (FP): 1
Falsos negativos (FN): 8 Verdaderos negativos (VN): 90
Nuestro modelo tiene una recuperación de 0.11. Es decir, identifica correctamente el 11% de los tumores malignos.
G.) Precisión y exhaustividad: Una lucha incesante Para evaluar completamente la efectividad de un modelo, debemos examinar la precisión y la recuperación. Lamentablemente, con frecuencia hay tensión entre precisión y exhaustividad. Esto quiere decir que, al mejorar la precisión, generalmente se reduce la exhaustividad, y viceversa. Para explorar esta noción, observa la siguiente figura, que muestra 30 predicciones realizadas con un modelo de clasificación de correo electrónico. Las que se encuentran a la derecha del umbral de clasificación se clasifican como «es spam», mientras que las de la izquierda se clasifican como «no es spam».
Figura 1. Clasificación de correos electrónicos como «es spam» o «no es spam».
Calculemos la precisión y la exhaustividad en función de los resultados que se muestran en la Figura 1:
Verdaderos positivos (VP): 8 Falsos positivos (FP): 2
Falsos negativos (FN): 3 Verdaderos negativos (VN): 17
La precisión mide el porcentaje de correos electrónicos marcados como spam que se clasificaron correctamente, es decir, el porcentaje de puntos a la derecha de la línea del umbral que aparecen de color verde en la Figura 1:
La exhaustividad mide el porcentaje de correos electrónicos reales que se clasificaron correctamente, es decir, el porcentaje de puntos verdes que aparecen a la derecha de la línea del umbral en la Figura 1:
La Figura 2 muestra el efecto de aumentar el umbral de clasificación.
Figura 2. Aumento del umbral de clasificación.
El número de falsos positivos disminuye, pero los falsos negativos aumentan. Como resultado, aumenta la precisión, mientras que la exhaustividad disminuye:
Verdaderos positivos (VP): 7 Falsos positivos (FP): 1
Falsos negativos (FN): 4 Verdaderos negativos (VN): 18
A la inversa, la Figura 3 muestra el efecto de disminuir el umbral de clasificación (de su posición original en la Figura 1).
Figura 3. Disminución del umbral de clasificación.
Los falsos positivos aumentan y los falsos negativos disminuyen. Como resultado, esta vez la precisión disminuye y aumenta la exhaustividad:
Verdaderos positivos (VP): 9 Falsos positivos (FP): 3
Falsos negativos (FN): 2 Verdaderos negativos (VN): 16
Se han desarrollado diferentes métricas que se basan tanto en la precisión como en la exhaustividad. Por ejemplo, consulta el valor F .
Mientras que un 91% de exactitud podría parecer bueno a primera vista, otro modelo de clasificación de tumores que siempre predijera benigno lograría la misma exactitud (91/100 predicciones correctas) en nuestros ejemplos. En otras palabras, nuestro modelo no es mejor que otro que tenga una capacidad predictiva de cero para distinguir tumores malignos de tumores benignos.
La exactitud sola no muestra el panorama completo cuando se trabaja con un conjunto de datos desequilibrados , como este, donde hay una disparidad significativa entre el número de etiquetas positivas y negativas.
En la próxima sección, observaremos dos métricas que resultan mejores para evaluar problemas de clase desequilibrada: precisión y exhaustividad.
Documento original en:
H.) EVALUACION (exactitud, precisión, exhaustividad)
H.1) EXACTITUD Explora las opciones que aparecen a continuación.
¿En cuál de las siguientes situaciones un alto valor de exactitud sugeriría que el modelo de AA está dando buenos resultados?
a.) Un problema médico mortal pero curable afecta al 0.01% de la población. Un modelo de AA usa los síntomas como atributos y predice este problema con una exactitud del 99.99%.
Explicación porque es FALSO: La exactitud es una métrica deficiente aquí. Después de todo, incluso un modelo «tonto» que siempre predice «sin enfermedad» también tendría un 99.99% de exactitud. Predecir por error «sin enfermedad» en una persona que en realidad está enferma podría ser mortal.
b.) Un pollo robot costoso cruza una calle muy transitada mil veces por día. Un modelo de AA evalúa los patrones de tráfico y predice cuándo este pollo puede cruzar la calle de forma segura con una exactitud del 99.99%.
Un valor de exactitud del 99.99% en una calle muy transitada sugiere que el modelo de AA es considerablemente mucho mejor que el azar. Sin embargo, en algunos contextos, el costo de cometer incluso una pequeña cantidad de errores es igualmente muy alto. Una exactitud del 99.99% significa que el costoso pollo deberá reemplazarse, en promedio, cada 10 días. (Es posible que el pollo también cause daños extensos a los autos que golpee).
En el juego de la ruleta , se arroja una bola en una rueda giratoria y esta finalmente cae en una de 38 ranuras. A través de atributos visuales (el giro de la bola, la posición de la ruleta cuando se arroja la bola, la altura de la bola sobre la ruleta), un modelo de AA puede predecir la ranura en la que caerá la bola con una exactitud del 4%.
Este modelo de AA realiza predicciones mucho mejor que el azar; una suposición fortuita sería correcta 1/38 de las veces, lo que produciría una exactitud del 2.6%. Aunque la exactitud del modelo es de «solo» el 4%, los beneficios del éxito compensan en gran medida las desventajas del fracaso.
H.2) Precisión Explora las opciones que aparecen a continuación.
Considera un modelo de clasificación que separe los correos electrónicos en dos categorías: «es spam» o «no es spam». Si aumentas el umbral de clasificación, ¿qué ocurrirá con la precisión?
Probablemente disminuirá.
En general, el aumento del umbral de clasificación reduce los falsos positivos y, por lo tanto, aumenta la precisión.
Probablemente aumentará.
En general, el aumento del umbral de clasificación reduce los falsos positivos y, por lo tanto, aumenta la precisión.
Respuesta correcta.
Indudablemente aumentará.
El aumento del umbral de clasificación generalmente aumenta la precisión; no se garantiza que la precisión aumente de forma monótona a medida que se aumenta el umbral.
Indudablemente disminuirá.
En general, el aumento del umbral de clasificación reduce los falsos positivos y, por lo tanto, aumenta la precisión.
H.3) Exhaustividad Explora las opciones que aparecen a continuación.
Considera un modelo de clasificación que separe el correo electrónico en dos categorías: «es spam» o «no es spam». Si aumentas el umbral de clasificación, ¿qué ocurrirá con la recuperación?
Siempre aumentará.
El aumento del umbral de clasificación provocará lo siguiente:
El número de verdaderos positivos disminuirá o permanecerá igual.
El número de falsos negativos aumentará o permanecerá igual.
Por lo tanto, la exhaustividad nunca aumentará.
Siempre permanecerá constante.
El aumento del umbral de clasificación hará que el número de verdaderos positivos disminuya o permanezca igual, y que el número de falsos negativos aumente o permanezca igual. Por lo tanto, la exhaustividad permanecerá constante o disminuirá.
Siempre disminuirá o permanecerá igual.
El aumento del umbral de clasificación hará que el número de verdaderos positivos disminuya o permanezca igual, y que el número de falsos negativos aumente o permanezca igual. Por lo tanto, la exhaustividad permanecerá constante o disminuirá.
I.) EVALUACION : Exactitud y recuperación Explora las opciones que aparecen a continuación.
Considera dos modelos, A y B, que evalúan el mismo conjunto de datos. ¿Cuál de las siguientes afirmaciones es verdadera?
a.) Si el modelo A tiene mejor precisión y mejor exhaustividad que el modelo B, es probable que el modelo A sea mejor.
En general, es probable que un modelo que tiene mejor rendimiento con respecto a la precisión y la exhaustividad sea el mejor modelo. Desde luego, tenemos que asegurarnos de que la comparación se realice en un punto de precisión/exhaustividad que sea útil en la práctica para que esto tenga sentido. Por ejemplo, supongamos que nuestro modelo de detección de spam necesita tener una precisión del 90% como mínimo para resultar útil y evitar las falsas alarmas innecesarias. En este caso, la comparación de un modelo con {20% de precisión, 99% de exhaustividad} con respecto a otro con {15% de precisión, 98% de exhaustividad} no es particularmente instructivo, ya que ningún modelo cumple con el requisito del 90% de precisión. Pero, con esa advertencia en mente, esta es una buena forma de pensar en comparar modelos cuando se usan precisión y exhaustividad.
b.) Si el modelo A tiene mejor exhaustividad que el modelo B, el modelo A es mejor.
Aunque una mejor exhaustividad es buena, es posible que conlleve una gran reducción de la precisión. En general, tenemos que observar la precisión y la exhaustividad en conjunto, o resumir las métricas como AUC (hablaremos sobre eso a continuación).
c.) Si el modelo A tiene mejor precisión que el modelo B, el modelo A es mejor.
Aunque una mejor precisión es buena, es posible que conlleve una gran reducción de la exhaustividad. En general, tenemos que observar la precisión y la exhaustividad en conjunto, o resumir las métricas como AUC (hablaremos sobre eso a continuación).
J.) Clasificación: ROC y AUC
J.1) .) Curva ROC Una curva ROC (curva de característica operativa del recepto ) es un gráfico que muestra el rendimiento de un modelo de clasificación en todos los umbrales de clasificación. Esta curva representa dos parámetros:
Tasa de verdaderos positivos
Tasa de falsos positivos
Tasa de verdaderos positivos (TPR ) es sinónimo de exhaustividad y, por lo tanto, se define de la siguiente manera:
Tasa de falsos positivos (FPR ) se define de la siguiente manera:
Una curva ROC representa TPR frente a FPR en diferentes umbrales de clasificación. Reducir el umbral de clasificación clasifica más elementos como positivos, por lo que aumentarán tanto los falsos positivos como los verdaderos positivos. En la siguiente figura, se muestra una curva ROC típica.
Figura 4. Tasa de VP frente a FP en diferentes umbrales de clasificación.
Para calcular los puntos en una curva ROC, podríamos evaluar un modelo de regresión logística muchas veces con diferentes umbrales de clasificación, pero esto es ineficiente. Afortunadamente, existe un algoritmo eficiente basado en ordenamiento que puede brindarnos esta información, denominado AUC.
J.2.) Área bajo la curva ROC AUC significa «área bajo la curva ROC». Esto significa que el AUC mide toda el área bidimensional por debajo de la curva ROC completa (piensa en un cálculo integral) de (0,0) a (1,1).
Figura 5. AUC (área bajo la curva ROC).
El AUC proporciona una medición agregada del rendimiento en todos los umbrales de clasificación posibles. Una forma de interpretar el AUC es como la probabilidad de que el modelo clasifique un ejemplo positivo aleatorio más alto que un ejemplo negativo aleatorio. Observa, a modo de ilustración, los siguientes ejemplos, que están ordenados de izquierda a derecha en orden ascendente con respecto a las predicciones de regresión logística:
Figura 6. Predicciones en orden ascendente con respecto a la clasificación de regresión logística.
En ete caso AUC representa la probabilidad de que un ejemplo aleatorio positivo (verde) se posicione a la derecha de un ejemplo aleatorio negativo (rojo).
El AUC oscila en valor del 0 al 1. Un modelo cuyas predicciones son un 100% incorrectas tiene un AUC de 0.0; otro cuyas predicciones son un 100% correctas tiene un AUC de 1.0.
Siempre el AUC es conveniente por las dos razones siguientes:
AUC es invariable con respecto a la escala . Mide qué tan bien se clasifican las predicciones, en lugar de sus valores absolutos.
Tambien AUC es invariable con respecto al umbral de clasificación . Mide la calidad de las predicciones del modelo, sin tener en cuenta qué umbral de clasificación se elige.
Sin embargo, estas dos razones tienen algunas advertencias, que pueden limitar la utilidad del AUC en determinados casos:
La invariabilidad de escala no siempre es conveniente. Por ejemplo, en algunas ocasiones, realmente necesitamos resultados de probabilidad bien calibrados, y el AUC no nos indicará eso.Consideremopds que la invariabilidad del umbral de clasificación no siempre es conveniente. En los casos en que hay amplias discrepancias en las consecuencias de los falsos negativos frente a los falsos positivos, es posible que sea fundamental minimizar un tipo de error de clasificación. Por ejemplo, al realizar la detección de spam de correo electrónico, es probable que quieras priorizar la minimización de los falsos positivos (aunque eso resulte en un aumento significativo de los falsos negativos). El AUC no es una métrica útil para este tipo de optimización.
K.) EVALUACION: clasificacion (ROC y AUC)
Explora las opciones que aparecen a continuación.
1.) ¿Cuál de las siguientes curvas de ROC producen valores de AUC mayores que 0.5?
VERDADERA
VERDADERA
l.) AUC y ajuste de predicciones Explora las opciones que aparecen a continuación.
¿Cómo cambiaría el rendimiento de un modelo determinado al multiplicar todas las predicciones por 2.0 (por ejemplo, si el modelo predice 0.4, se multiplica por 2.0 para obtener una predicción de 0.8) según la medición del AUC?
a.) Mejoraría el AUC, porque los valores de predicción están todos más alejados.
La magnitud de dispersión entre las predicciones no tiene un impacto real en el AUC. Incluso una evaluación de predicción de un verdadero positivo obtenido al azar es solo una pequeña épsilon mayor que un negativo obtenido al azar, eso contará como un éxito que contribuye a la evaluación general del AUC.
b.) No tendría cambios. El AUC solo se ocupa de las clasificaciones de predicciones relativas.
Sí, el AUC se basa en las predicciones relativas, por lo que cualquier transformación de las predicciones que preserve la clasificación relativa no tendría efecto en el AUC. Claramente, este no es el caso para otras métricas, como el error cuadrático, la pérdida logística o el sesgo de predicción (que se analizan más adelante).
c.) Haría que el AUC fuera muy malo, debido a que los valores de predicción ahora están muy alejados.
Curiosamente, aunque los valores de predicción son diferentes (y probablemente están lejos de ser verdaderos), al multiplicarlos todos por 2.0, el orden relativo de los valores de predicción se mantendría igual. Debido a que el AUC solo se ocupa de las clasificaciones relativas, no se ve impactado por un ajuste simple de las predicciones.
M.) Sesgo de predicción
Tiempo estimado: 7 minutosLas predicciones de regresión logística no deben tener sesgo. Esto significa lo siguiente:
«promedio de predicciones» debe ser ≈ «promedio de observaciones»
El sesgo de predicción es una cantidad que mide qué tan alejados están esos dos promedios. Esto significa lo siguiente:
Nota : El «margen de predicción» es una cantidad diferente de la ordenada al origen (la b en wx + b).Un margen de predicción significativamente distinto de cero revela que hay un error en alguna parte del modelo, ya que indica que el modelo es incorrecto con respecto a la frecuencia con la que ocurren las etiquetas positivas.
Por ejemplo, supongamos que sabemos que, en promedio, el 1% de todos los correos electrónicos son spam. Si no sabemos absolutamente nada sobre un determinado correo electrónico, debemos predecir que tiene un 1% de probabilidades de ser spam. De manera similar, un buen modelo de spam debería predecir en promedio que los correos electrónicos tienen un 1% de probabilidades de ser spam. (En otras palabras, si promediamos las probabilidades predichas de cada correo electrónico individual de ser spam, el resultado debería ser 1%). Si, en lugar de eso, la predicción promedio del modelo es del 20% de probabilidad de ser spam, podemos concluir que muestra sesgo de predicción.
Las posibles causas fundamentales del sesgo de predicción son las siguientes:
conjunto de atributos incompleto
conjunto de datos contaminado
canalización con errores
muestra de entrenamiento con sesgo
regularización excesivamente fuerte
Es posible que te sientas tentado a corregir el sesgo de predicción a través de un procesamiento posterior del modelo aprendido, es decir, agregando un nivel de calibración que ajuste el resultado del modelo para reducir el sesgo de predicción. Por ejemplo, si tu modelo tiene más del 3% de sesgo, podrías agregar un nivel de calibración que reduzca la predicción media en un 3%. Sin embargo, agregar un nivel de calibración no es una buena idea, debido a las siguientes razones:
Estarás solucionando el síntoma en lugar de la causa.
Crearás un sistema frágil que deberás mantener actualizado.
En lo posible, evita los niveles de calibración. Los proyectos que usan niveles de calibración tienden a volverse dependientes de ellos y usan niveles de calibración para solucionar todos los problemas de modelo. En definitiva, mantener los niveles de calibración puede volverse una agonía.
Nota : Un buen modelo generalmente tendrá un margen cercano a cero. Dicho eso, un sesgo de predicción bajo no demuestra que el modelo sea bueno. Un modelo realmente malo podría tener un sesgo de predicción de cero. Por ejemplo, un modelo que solo prediga el valor medio de todos los ejemplos sería un modelo malo, más allá de tener un sesgo de cero.N.) Agrupamiento y sesgo de predicción La regresión logística predice un valor entre 0 y 1. Sin embargo, todos los ejemplos etiquetados son exactamente 0 (lo que significa, por ejemplo, «no es spam») o exactamente 1 (lo que significa, por ejemplo, «es spam»). Por lo tanto, cuando se evalúa el sesgo de predicción, no se puede determinar con exactitud el sesgo de predicción en función de un solo ejemplo; el sesgo de predicción se debe examinar en un «agrupamiento» de ejemplos. Esto significa que, en regresión logística, el sesgo de predicción solo tiene sentido cuando se agrupan suficientes ejemplos para poder comparar un valor predicho (por ejemplo, 0.392) con los valores observados (por ejemplo, 0.394).
Los agrupamientos se pueden formar de las siguientes maneras:
Puedes dividir de forma lineal las predicciones objetivo.
Puedes formar cuantiles.
Considera la siguiente representación de calibración de un modelo específico. Cada punto representa un agrupamiento de 1,000 valores. Los ejes tienen los siguientes significados:
El eje x representa el promedio de valores que el modelo predijo para ese agrupamiento.
El eje y representa el promedio de valores real en el conjunto de datos para ese agrupamiento.
Ambos ejes son escalas logarítmicas.
Figura 8. Curva del sesgo de predicción (escalas logarítmicas)
¿Por qué las predicciones son tan deficientes solo para parte del modelo? Aquí hay algunas posibilidades:
El conjunto de entrenamiento no representa de forma adecuada determinados subconjuntos del espacio de datos.
Algunos subconjuntos de los datos están más contaminados que otros.
El modelo está regularizado en exceso. (Considera reducir el valor de lambda )
O.) Ejercicio de programación
En el siguiente ejercicio, explorarás la regresión logística y la clasificación en TensorFlow:
Los ejercicios de programación se ejecutan directamente en tu navegador mediante Colaboratory (no es necesario configurar nada). Esta plataforma es compatible con la mayoría de los navegadores principales y se prueba minuciosamente en las versiones de escritorio de Chrome y Firefox. Si prefieres descargar y ejecutar los ejercicios sin conexión, consulta estas instrucciones para configurar un entorno local.
Regularización para lograr dispersión
Este módulo se centra en los requisitos especiales para los modelos aprendidos con vectores de atributos que tienen muchas dimensiones.
Objetivos de aprendizaje
aprender a llevar los valores de coeficientes no informativos a exactamente 0, para ahorrar memoria RAM
aprender otros tipos de regularización, además de L2
a.) Regularización para lograr dispersión: Regularización L₁
Tiempo estimado: 5 minutosLos vectores dispersos suele contener varias dimensiones. Al crear una combinación de atributos , se generan incluso más dimensiones. A partir de vectores de atributos de muchas dimensiones, el tamaño del modelo puede aumentar considerablemente y requerir una enorme cantidad de RAM.
En un vector disperso de dimensiones altas, lo ideal sería llevar, en lo posible, las ponderaciones a exactamente 0. Una ponderación de exactamente 0 básicamente quita el atributo correspondiente del modelo. Al extraer atributos, se ahorra RAM y es posible que se reduzcan las inconsistencias del modelo.
Por ejemplo, considera un conjunto de datos de viviendas que incluya no solo California sino todo el planeta. Al agrupar la latitud del mundo en minutos (60 minutos por grado), se obtienen alrededor de 10,000 dimensiones en una codificación dispersa; la longitud del mundo en minutos crea, aproximadamente, 20,000 dimensiones. Una combinación de estos dos atributos daría como resultado 200,000,000 dimensiones. Muchas de esas 200,000,000 dimensiones representan áreas con una residencia tan limitada (p. ej., el medio del océano) que resultaría difícil usar esos datos para hacer generalizaciones eficaces. Sería poco inteligente pagar el costo de RAM para almacenar esas dimensiones innecesarias. Por lo tanto, sería bueno intentar llevar las ponderaciones de las dimensiones sin relevancia exactamente a 0. Esto nos permitiría evitar pagar el costo del almacenamiento de esos coeficientes del modelo durante la interferencia.
Es posible que podamos codificar esta idea en el problema de optimización realizado durante el entrenamiento, agregando un término de regularización seleccionado de forma adecuada.
¿La regularización L2 puede completar esta tarea? Lamentablemente, no. La regularización L2 ayuda a reducir el tamaño de las ponderaciones, pero no las lleva a exactamente 0.0.
Alternativamente, se podría crear un término de regularización que penalice el conteo de valores de coeficiente que no sean cero en un modelo. El aumento de este conteo solo quedaría justificado si el modelo tuviera la capacidad de ajustar los datos. Lamentablemente, si bien este enfoque basado en el conteo es intuitivamente atractivo, convertiría nuestro problema de optimización convexa en un problema de optimización no convexa, NP complejo . (Si miras de cerca, podrás ver una conexión con el problema de la mochila). Por lo tanto, esta idea, conocida como regularización L0 , no resulta útil en la práctica.
No obstante, existe un término de regularización denominado regularización L1 que sirve como una aproximación a L0 , pero tiene la ventaja de ser convexa y, por lo tanto, eficiente para su procesamiento. Entonces, podemos usar la regularización L1 para llevar los coeficientes sin información útil en nuestro modelo a exactamente 0 y, por lo tanto, ahorrar RAM durante la interferencia.
b.) Diferencias entre regularizaciones L1 y L2 L2 y L1 penalizan las ponderaciones de diferente modo:
La L2 penaliza ponderación 2 .
L1 penaliza |ponderación |.
En consecuencia, L2 y L1 tienen diferentes derivadas:
La derivada de L2 es 2 * ponderación .
Ademas La derivada de L1 es k (una constante cuyo valor es independiente de la ponderación).
Puedes pensar en la derivada de L2 como una fuerza que quita x% de la ponderación todo el tiempo. Como ya lo sabía Zenón , incluso si quitas un porcentaje x de un número miles de millones de veces , dicho número no alcanzará nunca cero. (Zenón no estaba familiarizado con las limitaciones en la precisión del punto flotante, que podría producir exactamente cero). En cualquier caso, L2 normalmente no lleva las ponderaciones a cero.
Se puede pensar en la derivada de L1 como una fuerza que elimina algunos valores constantes de las ponderaciones todo el tiempo. Sin embargo, gracias a los valores absolutos, L1 tiene una discontinuidad en 0, que hace que las eliminaciones que superen 0 queden en ese valor. Por ejemplo, si la eliminación fuerza una ponderación de +0.1 a -0.2, L1 establece la ponderación en exactamente 0. ¡Eureka! L1 llevó la ponderación a cero.
La regularización L1 , al penalizar el valor absoluto de todas las ponderaciones, es muy eficiente para los modelos amplios.
Ten en cuenta que esta descripción es válida para un modelo de una sola dimensión.
Haz clic en el enlace para reproducir a fin de comparar el efecto de la regularización L1 y L2 en una red de ponderaciones.
C.) Regularización para lograr dispersión Ejercicio de Playground
Este ejercicio contiene un conjunto de datos de entrenamiento pequeño y ligeramente contaminado. En este tipo de conjunto, el sobreajuste representa un problema real. La regularización puede ayudar, pero ¿qué tipo de regularización?
Este ejercicio consiste en cinco tareas relacionadas. Para simplificar las comparaciones en las cinco tareas, realiza cada tarea en una pestaña independiente. Ten en cuenta que el espesor de las líneas que conectan los ATRIBUTOS con los RESULTADOS representa las ponderaciones relativas de cada atributo.
D.) Regularización para lograr dispersión: Ejercicio de programación
Tiempo estimado: 25 minutosEn el siguiente ejercicio , explorarás la regularización L1 en TensorFlow:
Los ejercicios de programación se ejecutan directamente en tu navegador mediante Colaboratory (no es necesario configurar nada). Esta plataforma es compatible con la mayoría de los navegadores principales y se prueba minuciosamente en las versiones de escritorio de Chrome y Firefox. Si prefieres descargar y ejecutar los ejercicios sin conexión, consulta estas instrucciones para configurar un entorno local.
E.) Regularización:evaluacion
Tiempo estimado: 5 minutosRegularización L1 Explora las opciones que aparecen a continuación.
Imagina un modelo lineal con 100 atributos de entrada:
10 son muy informativas.
90 no son informativas.
Asume que todos los atributos tienen valores entre -1 y 1. ¿Cuáles de las siguientes afirmaciones son verdaderas?
La regularización L1 hará que muchas de las ponderaciones no informativas sean casi (pero no exactamente) 0.0.
En general, la regularización L1 con valores de lambda suficientemente altos tiende a hacer que los atributos no informativos tengan ponderaciones exactamente de 0.0. A diferencia de la regularización L2, la regularización L1 «presiona» para alcanzar el valor 0.0, sin importar la diferencia de la ponderación con 0.0.
La regularización L1 hará que la mayoría de las ponderaciones no informativas sean exactamente 0.0.
La regularización L1 de suficientes lambdas tiende a hacer que las ponderaciones no informativas sean exactamente 0.0. Al hacerlo, esos atributos no informativas saldrán del modelo.
La regularización L1 puede causar que los atributos informativos tengan una ponderación exactamente de 0.0.
Ten cuidado, la regularización L1 puede causar que los diferentes tipos de atributos siguientes tengan ponderaciones exactamente de 0.0:
Atributos informativos débiles
Atributos informativos fuertes en diferentes escalas
Atributos informativos fuertemente correlacionados con otros atributos informativos similares
F.) Comparación entre la regularización L1 y la L2 Explora las opciones que aparecen a continuación.
Imagina un modelo lineal con 100 atributos de entrada, todas con valores entre -1 y 1:
10 son muy informativas.
90 no son informativas.
¿Qué tipo de regularización producirá el modelo más pequeño?
regularización L1
La regularización L1 tiende a reducir la cantidad de atributos. En otras palabras, la regularización L1 a menudo reduce el tamaño del modelo.
Respuesta correcta.
regularización L2
La regularización L2 raramente reduce la cantidad de atributos. En otras palabras, la regularización L2 raramente reduce el tamaño del modelo.
Introducción a las redes neuronales
Las redes neuronales son una versión mucho más sofisticada de las combinaciones de atributos. Básicamente, las redes neuronales aprenden las combinaciones de atributos correspondientes que necesitas.
A.) Anatomía
Si recuerdas la unidad Combinaciones de atributos , el siguiente problema de clasificación es no lineal:
Figura 1. Problema de clasificación no lineal.
No lineal significa que no puedes predecir con exactitud una etiqueta con un modelo de forma
. Es decir, la «superficie de decisión» no es una línea. Anteriormente, observamos las combinaciones de atributos como un posible enfoque para modelar los problemas no lineales.
Ahora, analicemos el siguiente conjunto de datos:
Figura 2. Un problema de clasificación no lineal más difícil.
El conjunto de datos que se muestra en la Figura 2 no se puede resolver con un modelo lineal.
Para ver cómo las redes neuronales pueden resolver problemas no lineales, representemos un modelo lineal como un gráfico:
Figura 3. Modelo lineal como un gráfico.
Cada círculo azul representa un atributo de entrada. El círculo verde representa la suma ponderada de las entradas.
¿Cómo podemos alterar este modelo para mejorar su capacidad para resolver problemas no lineales?
B.) Capas ocultas En el modelo que se muestra en el siguiente grafo, agregamos una «capa oculta» de valores intermedios. Cada nodo amarillo en la capa oculta es una suma ponderada de los valores de los nodos de entrada azul. El resultado es una suma ponderada de los nodos amarillos.
Figura 4. Grafo de un modelo de dos capas.
¿Este modelo es lineal? Sí, su resultado es una combinación lineal de las entradas.
En el modelo que se muestra en el siguiente grafo, agregamos una segunda capa oculta de sumas ponderadas.
Figura 5. Grafo de un modelo de tres capas.
¿Este modelo es lineal? Sí, lo es. Cuando expresas el resultado como una función de la entrada y lo simplificas, obtienes otra suma ponderada de las entradas. Esta suma no modela correctamente el problema no lineal de la Figura 2.
C.) Funciones de activación Para modelar un problema no lineal, podemos introducir directamente una no linealidad. A cada nodo de la capa oculta se puede aplicar una función no lineal.
En el modelo que se muestra en el siguiente gráfico, el valor de cada nodo en la Capa oculta 1 se transforma mediante una función no lineal antes de llegar a las sumas ponderadas de la siguiente capa. Esta función no lineal se denomina «función de activación».
Figura 6. Gráfico del modelo de tres capas con función de activación.
Ahora que agregamos una función de activación, las capas tienen más impacto. Al apilar no linealidades a no linealidades, podemos modelar relaciones muy complicadas entra las entradas y los resultados predichos. En resumen, cada capa aprende una función más compleja y de nivel más alto de las entradas sin procesar. Si deseas mejorar tu intuición de como funciona esto, mira la excelente entrada de blog de Chris Olah .
D.) Funciones de activación comunes La siguiente función de activación sigmoide convierte la suma ponderada a un valor entre 0 y 1.
A continuación se muestra una representación:gráfica
Figura 7. Función de activación sigmoide.
La siguiente función de activación de unidad lineal rectificada (abreviada como ReLU por sus siglas en inglés) a menudo funciona mejor que una función suave, como la sigmoide, y es mucho más fácil de calcular.
La superioridad de ReLU se basa en las investigaciones empíricas, probablemente debido a que ReLU tiene un rango de capacidad de respuesta más útil. La capacidad de respuesta de una función sigmoide decae relativamente rápido en ambos extremos.
Figura 8. Función de activación ReLU.
De hecho, se puede usar cualquier función matemática como función de activación. Supongamos que
representa nuestra función de activación (ReLU, sigmoide o cualquier otra). Por lo tanto, el valor de un nodo en la red se determina con la siguiente fórmula:
TensorFlow proporciona soporte inmediato con una amplia variedad de funciones de activación. Aún así, recomendamos comenzar a trabajar con ReLU.
D.) Resumen Ahora, nuestro modelo tiene todos los componentes estándar de lo que se conoce en general como «redes neuronales».
Un conjunto de nodos, análogos a las neuronas, organizados en capas.
Un conjunto de ponderaciones que representan las conexiones entre cada capa de la red neuronal y la capa inferior. La capa inferior debe ser la capa de otra red neuronal u otro tipo de capa.
Un conjunto de sesgos, una para cada nodo.
Una función de activación que transforma el resultado de cada nodo en una capa. Las diferentes capas pueden tener diferentes funciones de activación.
Un detalle a tener en cuenta es que las redes neuronales no son siempre necesariamente mejores que las combinaciones de atributos, pero son una alternativa flexible que funciona bien en la mayoría de los casos.
E ) Ejercicios de Playground
F.) Ejercicios de programación
El siguiente ejercicio demuestra cómo usar redes neuronales para aprender no linealidades:
Los ejercicios de programación se ejecutan directamente en tu navegador mediante Colaboratory (no es necesario configurar nada). Esta plataforma es compatible con la mayoría de los navegadores principales y se prueba minuciosamente en las versiones de escritorio de Chrome y Firefox. Si prefieres descargar y ejecutar los ejercicios sin conexión, consulta estas instrucciones para configurar un entorno local.
Entrenamiento de las redes neuronales
La propagación inversa es el algoritmo de entrenamiento más común en las redes neuronales. Permite que el descenso de gradientes sea factible para las redes neuronales de varias capas. TensorFlow realiza la propagación inversa automáticamente, de manera que no necesitas conocimientos específicos del algoritmo. Para tener una idea de cómo funciona, repasa la explicación visual sobre el algoritmo de propagación inversa . A medida que te desplazas por la explicación anterior, ten en cuenta lo siguiente:
Cómo fluyen los datos por el gráfico.
Cómo la programación dinámica nos permite evitar computar exponencialmente muchas trayectorias en el gráfico. Aquí, «programación dinámica» significa simplemente registrar los resultados intermedios en los movimientos hacia adelante y hacia atrás.
Objetivos de aprendizaje
aprender sobre la propagación inversa
Entrenamiento de las redes neuronales: a.) Recomendaciones
Tiempo estimado: 5 minutosEn esta sección se explican los casos de falla de la propagación inversa y la forma más común para regularizar una red neuronal.
B.) Casos de falla Existen muchas formas comunes en las que la propagación inversa puede fallar.
C.) Desaparición de gradientes Los gradientes de las capas más bajas (cercanas a la entrada) pueden volverse muy pequeños. En las redes profundas, el cómputo de estos gradientes puede implicar que se tome el producto de muchos términos pequeños.
Cuando los gradientes desaparecen hacia el 0 en las capas más bajas, estas capas de entrenan muy lentamente o no se entrenan.
La función de activación ReLU puede ayudar a prevenir que los gradientes desaparezcan.
D.) Gradientes con hipercrecimiento Si las ponderaciones de una red son muy grandes, los gradientes de las capas más bajas implican productos de muchos términos grandes. En este caso, los gradientes pueden dispararse, es decir, se vuelven demasiado grandes como para la convergencia.
La normalización del lote y la disminución de la tasa de aprendizaje pueden ayudar a prevenir el crecimiento de gradientes.
E.) Unidades ReLU inactivas Una vez que la suma ponderada de una unidad ReLU disminuye por debajo de 0, la unidad ReLU puede quedar bloqueada. Genera una activación de 0, lo cual no contribuye en nada al resultado de la red, y los gradientes ya no fluyen por ella durante la propagación inversa. Con una fuente de grandientes limitada, es posible que la entrada de ReLU nunca cambie lo suficiente como para volver a establecer la suma ponderada por encima de 0.
La disminución de la tasa de aprendizaje puede ayudar a impedir que las unidades ReLU queden inactivas.
F.) Regularización de retirados La regularización de retirados es otra forma de regularización que resulta útil para las redes neuronales. Funciona al «extraer» activaciones de unidades al azar en una red para un solo paso de gradiente. Mientras más se extraigan, mejor será la regularización.
0.0 = No hay regularización de retirados.
1.0 = Se extrae todo y no se aprende nada.
Los valores entre 0.0 y 1.0 son más útiles.
G.) Ejercicio de programación
El siguiente ejercicio se concentra en la mejora del rendimiento de la red neuronal que entrenaste en el ejercicio anterior:
Los ejercicios de programación se ejecutan directamente en tu navegador mediante Colaboratory (no es necesario configurar nada). Esta plataforma es compatible con la mayoría de los navegadores principales y se prueba minuciosamente en las versiones de escritorio de Chrome y Firefox. Si prefieres descargar y ejecutar los ejercicios sin conexión, consulta estas instrucciones para configurar un entorno local.
Redes neuronales de clases múltiples
Anteriormente, presentamos modelos de clasificación binaria que podían elegir una de dos opciones posibles, como en los siguientes casos:
Un correo electrónico dado «es spam» o «no es spam».
Un tumor dado es «maligno» o «benigno».
En este módulo, investigaremos la clasificación de clases múltiples , que puedes elegir entre posibilidades múltiples . Por ejemplo:
¿Este perro es un beagle, un basset hound o un sabueso?
¿Esta flor es una iris sibirica, hollandica, versicolor o setosa?
¿Ese avión es un Boeing 747, un Airbus 320, un Boeing 777 o un Embraer 190?
¿Esta es la imagen de una manzana, un oso, un dulce, un perro o un huevo?
Algunos problemas de clases múltiples del mundo real implican elegir entre millones de clases individuales. Por ejemplo, supongamos un modelo de clasificación de clases múltiples que pueda identificar la imagen de lo que fuera.
Objetivos de aprendizaje
comprender problemas de clasificación de clases múltiples, en particular softmax
desarrollar soluciones de softmax en TensorFlow
A.) Uno frente a todos
Uno frente a todos proporciona una manera de aprovechar la clasificación binaria. En un problema de clasificación dado con N soluciones posibles, una solución de uno frente a todos consiste en N clasificadores binarios independientes, es decir, un clasificador binario para cada resultado posible. Durante el entrenamiento, el modelo se ejecuta a través de una secuencia de clasificadores binarios, entrenando cada uno para responder una pregunta de clasificación independiente. Por ejemplo, en una foto dada de un perro, es posible entrenar cinco reconocedores diferentes, cuatro que vean la imagen como un ejemplo negativo (no es un perro) y uno, como positivo (es un perro), de la siguiente manera:
¿Esta imagen es una manzana? No.
¿Es acaso un oso? No.
¿Esta imagen es un dulce? No.
¿Podría ser un perro? Sí.
¿Talvez se acerca a un huevo? No.
Este enfoque es relativamente razonable cuando la cantidad total de clases es pequeña, pero se vuelve cada vez más ineficiente a medida que aumenta la cantidad de clases.
Podemos crear un modelo de uno frente a todos significativamente más eficiente con una red neuronal profunda en la que cada nodo de resultado represente una clase diferente. En la siguiente figura, se sugiere este enfoque:
Figura 1. Una red neuronal de uno frente a todos.
B.) Softmax
Tiempo estimado: 5 minutosRecuerda que la regresión logística genera un decimal entre 0 y 1.0. Por ejemplo, si un clasificador de correo electrónico tiene un resultado de regresión logística de 0.8, hay un 80% de posibilidad de que un correo electrónico sea spam y un 20% de que no lo sea. Claramente, la suma de las probabilidades de que un correo electrónico sea spam o no es 1.0.
Softmax lleva esta idea al plano de las clases múltiples. Es decir, softmax asigna probabilidades decimales a cada clase en un caso de clases múltiples. Esas probabilidades decimales deben sumar 1.0. Esta restricción adicional permite que el entrenamiento converja más rápido.
Por ejemplo, si volvemos a analizar la imagen de la Figura 1, softmax puede producir las siguientes probabilidades de una imagen que pertenezca a una clase particular:
Clase
Probabilidades
manzana
0.001
oso
0.04
caramelos
0.008
perro
0.95
huevo
0.001
Softmax se implementa a través de una capa de red neuronal justo antes de la capa de resultado. La capa de softmax debe tener la misma cantidad de nodos que la capa de resultado.
Figura 2. Una capa de softmax en una red neuronal
Haz clic para ver la ecuación de softmax.
C.) Opciones de softmax Considera las siguientes variantes de softmax:
Softmax completo es el softmax del que estuvimos hablando: calcula una probabilidad para cada clase posible.Muestreo de candidatos significa que softmax calcula una probabilidad para todas las etiquetas positivas, pero para solo una muestra aleatoria de etiquetas negativas. Por ejemplo, si queremos determinar si una imagen de entrada es un beagle o un sabueso, no tenemos que proporcionar probabilidades para cada ejemplo que no sea un perro.
Softmax completo es relativamente económico cuando la cantidad de clases es reducida, pero se vuelve demasiado costoso cuando aumenta la cantidad de clases. El muestreo de candidatos puede mejorar la eficiencia cuando existe una gran cantidad de clases.
D.) Una etiqueta frente a muchas Softmax presupone que cada ejemplo es un miembro de exactamente una clase. No obstante, algunos ejemplos pueden ser miembros de varias clases de manera simultánea. Para esos ejemplos:
No es recomendable usar softmax.
Debes confiar en regresiones logísticas múltiples.
Por ejemplo, supongamos que tus casos son imágenes que contienen exactamente un elemento (una fruta). Softmax puede determinar la probabilidad de que ese elemento sea una pera, una naranja, una manzana, etc. Si tus ejemplos son imágenes que contienen diferentes tipos de elementos (tazones de diferentes tipos de fruta), en su lugar deberás usar varias regresiones logísticas.
E.) Ejercicios de programación
Tiempo estimado: 38 minutosEn el siguiente ejercicio, explorarás softmax en TensorFlow mediante el desarrollo de un modelo que clasificará dígitos escritos a mano:
Los ejercicios de programación se ejecutan directamente en tu navegador mediante Colaboratory (no es necesario configurar nada). Esta plataforma es compatible con la mayoría de los navegadores principales y se prueba minuciosamente en las versiones de escritorio de Chrome y Firefox. Si prefieres descargar y ejecutar los ejercicios sin conexión, consulta estas instrucciones para configurar un entorno local.
Incorporaciones
Una incorporación es un espacio de dimensiones relativamente bajas al que se pueden trasladar vectores de dimensiones altas. Las incorporaciones permiten llevar a cabo el aprendizaje automático con más facilidad en entradas de gran tamaño, como vectores dispersos que representan palabras. Idealmente, una incorporación captura parte de la semántica de la entrada al colocar entradas con similitudes semánticas más cerca entre sí en el espacio de la incorporación. Una incorporación se puede aprender y volver a utilizar en otros modelos.
Objetivos de aprendizaje
aprender qué es una incorporación y para qué sirve
cómo es que se codifican las relaciones semánticas en las incorporaciones
aprender a usar incorporaciones
cómo entrenar incorporaciones (con word2vec, por ejemplo)
A.) Motivación del filtrado colaborativo
Tiempo estimado: 10 minutosEl filtrado colaborativo es la tarea de realizar predicciones acerca de los intereses de un usuario en función de los intereses de muchos otros usuarios. Como ejemplo, observemos la tarea de recomendación de películas. Imagina que tenemos 1,000,000 usuarios y una lista de las películas que cada uno de ellos ha mirado (de un catálogo de 500,000 películas). Nuestro objetivo es recomendar películas a los usuarios.
Para resolver este problema, se necesita un método que determine qué películas son similares entre sí. Esto se puede lograr al incorporar las películas a un espacio de dimensiones bajas, creado de manera tal que las películas similares estén cerca entre sí.
Antes de describir cómo se puede aprender la incorporación, primero exploraremos las cualidades que queremos tener en la incorporación y cómo representaremos los datos de entrenamiento para aprenderla.
A.1) Disposición de las películas sobre una línea de números de una dimensión Para desarrollar mejor la intuición sobre las incorporaciones, en un papel, intenta organizar las siguientes películas sobre una línea de números de una dimensión de tal forma que las películas que estén más cerca entre sí sean las más estrechamente relacionadas:
Película
Clasificación Descripción
Bleu R
Una viuda francesa lamenta la pérdida de su esposo y su hija después de que fallecen en un accidente de auto.
Batman: El caballero de la noche asciende PG-13
Batman intenta salvar a Gotham City de una destrucción nuclear en esta continuación de Batman: El caballero de la noche , basada en el universo de DC Comics.
Harry Potter y la piedra filosofal PG
Un niño huérfano descubre que es mago y se inscribe en el Colegio Hogwarts de Magia y Hechicería, donde se enfrenta a su primera batalla contra el maléfico Lord Voldemort.
Los Increíbles PG
Una familia de superhéroes que se ven forzados a vivir como ciudadanos comunes en los suburbios vuelve a salir a la luz para salvar a la raza de superhéroes de la amenaza de Syndrome y su robot asesino.
Shrek PG
Un adorable ogro y su burro escolta emprenden una misión para rescatar a la Princesa Fiona, que está encarcelada en un castillo por una dragona.
La guerra de las galaxias PG
Luke Skywalker y Han Solo se unen a dos androides para rescatar a la Princesa Leia y salvar la galaxia.
Las trillizas de Belleville PG-13
Cuando secuestran al ciclista profesional Champion durante el Tour de Francia, su abuela y su perro viajan para rescatarlo, con la ayuda de un trío de cantantes de jazz.
Memento R
Un hombre con amnesia busca desesperadamente resolver el asesinato de su esposa; por su falta de memoria, se tatúa las claves en su cuerpo.
Una posible solución (altamente imperfecta).
Figura 1. Una posible disposición en una dimensión
Aunque esta incorporación ayuda a capturar cuánto se orienta la película hacia los niños o los adultos, hay muchos más aspectos de una película que uno quisiera capturar al realizar recomendaciones. Avancemos un paso con este ejemplo y agreguemos una segunda dimensión de incorporación.
A.3) Disposición de las películas en un espacio de dos dimensiones Prueba el mismo ejercicio de antes, pero esta vez organiza las mismas películas en un espacio de dos dimensiones.
Otra solución posible.
Figura 2. Una posible disposición en dos dimensiones
Con esta incorporación de dos dimensiones, definimos una distancia entre las películas de manera tal que las películas estén cerca entre sí (y por lo tanto se infiere que son similares) si tienen similitud en cuanto al nivel de orientación hacia los niños o los adultos, y en cuanto a si son películas taquilleras o independientes. Desde luego, estas son solo dos de las tantas características que podrían ser importantes de las películas.
En términos más generales, lo que hicimos es asignar estas películas a un espacio de incorporación , donde se describe cada palabra mediante un conjunto de coordenadas en dos dimensiones. Por ejemplo, en este espacio, «Shrek» se asigna a (-1.0, 0.95) y «Bleu» se asigna a (0.65, -0.2). En general, al aprender una incorporación de d dimensiones, cada película se representa con d números de valores reales y cada uno de ellos proporciona la coordenada en cada dimensión.
En este ejemplo, le asignamos un nombre a cada dimensión. Al aprender las incorporaciones, las dimensiones individuales no se aprenden con nombres. En algunos casos, podemos observar las incorporaciones y asignar significados semánticos a las dimensiones, pero en otras no podemos. En ocasiones, cada dimensión recibe el nombre de dimensión latente , ya que representa un atributo que no está explícito en los datos, sino que se deduce de ella.
Finalmente, son las distancias entre las películas en el espacio de incorporación las que tienen sentido, en lugar de los valores de una sola película correspondientes a una dimensión determinada.
B.) Datos de entrada categóricos
Los datos categóricos hacen referencia a atributos de entrada que representan uno o más elementos discretos de un conjunto de opciones finito. Por ejemplo, puede ser el conjunto de películas que ha mirado un usuario, el conjunto de palabras de un documento o la ocupación de una persona.
Los datos categóricos se representan de manera más eficaz a través de tensores dispersos , que son tensores con muy pocos elementos distintos de cero. Por ejemplo, si queremos crear un modelo de recomendaciones de películas, podemos asignar un ID único a cada película posible y, luego, representar al usuario como un tensor disperso de las películas que ha mirado, tal como se muestra en la Figura 3.
Figura 3. Datos para nuestro problema de recomendación de películas.
Cada fila de la matriz en la Figura 3 corresponde a un usuario y puede ser representado con un tensor disperso, ya que cada usuario solo mira una pequeña fracción de las películas posibles. La última fila corresponde al tensor disperso [1, 3, 999999], con los índices de vocabulario que se muestran más arriba en los íconos de películas.
De igual manera, es posible representar palabras, oraciones y documentos como vectores dispersos, donde cada palabra del vocabulario cumple un papel similar a las películas de nuestro ejemplo de recomendación.
Para usar esas representaciones dentro de un sistema de aprendizaje automático, necesitamos una forma de representar cada vector disperso como un vector de números, de manera que los elementos con similitudes semánticas (películas o palabras) tengan distancias similares en el espacio vectorial. Pero ¿cómo representas una palabra como un vector de números?
La manera más simple es definir una capa de entrada gigante con un nodo para cada palabra del vocabulario, o al menos un nodo para cada palabra que aparece en los datos. Si aparecen 500,000 palabras únicas en tus datos, puedes representar una palabra con un vector de 500,000 de longitud y asignar cada palabra a una posición en el vector.
Si asignas «caballo» al índice 1247, para incluir «caballo» en tu red, puedes copiar un 1 en el nodo de entrada número 1247 y un 0 en el resto. Este tipo de representación se denomina codificación de un solo 1 , porque solamente un índice tiene un valor distinto de cero.
Por lo general, tu vector contendrá un recuento de las palabras en un fragmento de texto más grande. Esto se conoce como representación de un «grupo de palabras». En un vector de un grupo de palabras, varios de los 500,000 nodos tendrán un valor distinto de cero.
Sin embargo, aunque determines los valores distintos de cero, un nodo por palabra proporciona vectores de entrada muy dispersos , es decir, vectores muy grandes con relativamente pocos valores distintos de cero. Las representaciones dispersas tienen algunos problemas que pueden dificultar el aprendizaje eficaz de un modelo.
C.) Tamaño de la red Los vectores de entrada de gran tamaño significan una enorme cantidad de ponderaciones para una red neuronal. Si tu vocabulario tiene M palabras y hay N nodos en la primera capa de la red por encima de la entrada, tienes MxN ponderaciones para entrenar para esa capa. A su vez, una red con una gran cantidad de ponderaciones causa otros problemas:
Cantidad de datos . Cuantas más ponderaciones hay en tu modelo, más datos se necesitan para entrenar de manera eficaz.Cantidad de cómputo . Cuantas más ponderaciones, más cómputo se necesita para entrenar y usar el modelo. Esto puede causar que se supere la capacidad del hardware fácilmente.
D.) Falta de relaciones significativas entre los vectores Si incluyes los valores de píxeles de los canales RGB en un clasificador de imágenes, tiene sentido hablar sobre valores «cerrados». El azul rojizo está cerca del azul puro, tanto a nivel semántico como en cuanto a la distancia geométrica entre los vectores. Pero un vector con un 1 en el índice 1247 para «caballo» no tiene más proximidad con respecto a un vector con un 1 en el índice 50,430 para «antílope» que un vector con un 1 en el índice 238 para «televisión».
E.) La solución: Incorporaciones La solución a estos problemas es usar incorporaciones para trasladar los vectores dispersos de grandes dimensiones a un espacio de dimensiones bajas preservando las relaciones semánticas. En las siguientes secciones de este módulo, exploraremos las incorporaciones a nivel intuitivo, conceptual y de programación.
F.) Traslado a un espacio de dimensiones bajas
Las principales limitaciones al trabajar con datos de entrada dispersos se pueden resolver al asignar los datos de dimensiones altas a un espacio de dimensiones más bajas.
Como puedes ver en los ejercicios en papel, incluso un espacio pequeño de varias dimensiones proporciona la flexibilidad de agrupar semánticamente elementos similares y mantener alejados los elementos desemejantes. La posición (distancia y dirección) en el espacio vectorial codifican la semántica cuando existe una buena incorporación. Por ejemplo, las siguientes visualizaciones de incorporaciones reales muestran relaciones geométricas que capturan vinculaciones semánticas, como la relación entre un país y su capital:
Figura 4. Las incorporaciones pueden producir analogías llamativas.
Este tipo de espacios de bajas dimensiones capturan el significado y dan oportunidades a tu sistema de aprendizaje automático para que detecte patrones que podrían ayudar con la tarea de aprendizaje.
G.) Reducción de la red Aunque queremos que haya suficientes dimensiones para codificar las relaciones semánticas valiosas, también queremos un espacio de incorporaciones que sea lo suficientemente pequeño como para permitirnos entrenar nuestro sistema más rápidamente. Una incorporación útil puede estar en el orden de cientos de dimensiones. Es probable que esto sea varios órdenes de magnitud más pequeños que el tamaño de tu vocabulario para una tarea de lenguaje natural.
H.) Incorporaciones como tablas de consulta Una incorporación es una matriz en la que cada columna es el vector que corresponde a un elemento de tu vocabulario. Para obtener el vector denso de un elemento específico del vocabulario, simplemente recuperas la columna que corresponde a dicho elemento.
Pero ¿cómo trasladarías un vector de un grupo de palabras? Para obtener el vector denso de un vector disperso que representa varios elementos del vocabulario (por ejemplo, todas las palabras de una oración o un párrafo), puedes recuperar la incorporación de cada elemento individual y luego sumarlos todos.
Si el vector disperso contiene recuentos de los elementos del vocabulario, puedes multiplicar cada incorporación por el recuento de su elemento correspondiente antes de agregarlo a la suma.
Estas operaciones te pueden resultar familiares.
i.) Consulta de incorporaciones como multiplicación de matrices El proceso de consulta, multiplicación y suma que acabamos de describir es equivalente a la multiplicación de matrices. Dada una representación S dispersa de 1 X N y una tabla E de incorporaciones de N X M, la multiplicación de matrices S X E da como resultado el vector denso 1 X M.
Pero ¿cómo se obtiene E en primer lugar? En la siguiente sección, analizaremos cómo se obtienen las incorporaciones.
j.) Cómo obtenerlas
Hay muchas formas de obtener una incorporación, entre ellas, un algoritmo de última generación creado en Google.
K.) Técnicas de reducción de dimensionalidad estándar Existen muchas técnicas matemáticas para capturar los aspectos relevantes de un espacio de dimensiones altas en un espacio de dimensiones bajas. En teoría, cualquiera de estas técnicas se puede usar para crear una incorporación para un sistema de aprendizaje automático.
Por ejemplo, el análisis de componentes principales (ACP) se utiliza para crear incorporaciones de palabras. Dado un conjunto de instancias, como vectores de grupos de palabras, el ACP intenta encontrar dimensiones altamente correlacionadas que se puedan contraer en una sola dimensión.
L.) Word2vec Word2vec es un algoritmo inventado por Google para entrenar incorporaciones de palabras. Word2vec depende de la hipótesis distribucional para asignar palabras con similitudes semánticas a vectores de incorporaciones geométricamente cercanas.
La hipótesis distribucional establece que las palabras que aparecen contiguas con frecuencia tienden a ser semánticamente similares. Tanto «perro» como «gato» aparecen frecuentemente cerca de la palabra «veterinario», y este hecho refleja su similitud semántica. Como dijo el lingüista John Firth en 1957, «uno debe conocer cada palabra por aquello que la acompaña».
Word2Vec explota la información contextual al entrenar una red neuronal para que distinga grupos de palabras concomitantes de aquellas palabras agrupadas al azar. La capa de entrada toma una representación dispersa de una palabra objetivo junto con una o más palabras contextuales. Esta entrada se conecta con una sola capa oculta más pequeña.
En una versión del algoritmo, el sistema genera un ejemplo negativo al sustituir la palabra objetivo con una palabra generada al azar. Dado el ejemplo positivo «el avión vuela», el sistema podría cambiar «avión» por «trote».
La otra versión del algoritmo crea ejemplos negativos al sincronizar la palabra objetivo con una palabra generada al azar. De este modo, podría tomar los ejemplos positivos (el, avión), (vuela, avión) y los ejemplos negativos (compilado, avión), (quién, avión) y aprender a identificar qué pares realmente aparecían juntos en el texto.
Sin embargo, este clasificador no es el verdadero objetivo para cada versión del sistema. Una vez que el modelo se ha entrenado, esta incorporación se puede volver a utilizar en otros clasificadores. En general, puedes usar las ponderaciones que conectan la capa de entrada con la capa oculta para asignar representaciones de palabras dispersas a vectores más pequeños.
Para obtener más información acerca de word2vec, consulta el instructivo en tensorflow.org
m.) Entrenamiento de una incorporación como parte de un modelo más grande También puedes aprender una incorporación como parte de la red neuronal de tu tarea objetivo. Este enfoque te proporciona una incorporación personalizada para tu sistema particular, pero es posible que tome más tiempo que entrenar la incorporación por separado.
En general, cuando tienes datos dispersos (o datos densos que quisieras incorporar), puedes crear una unidad de incorporación que sea simplemente un tipo especial de unidad oculta de tamaño d . Esta capa de incorporación se puede combinar con otros atributos y capas ocultas. Como en cualquier red neuronal profunda (RNP), la capa final será la pérdida que se optimiza. Por ejemplo, supongamos que estamos realizando un filtrado colaborativo, en el que el objetivo es predecir los intereses de un usuario a partir de los de otros usuarios. Esto se puede modelar como un problema de aprendizaje supervisado al apartar (o retener) al azar como etiquetas positivas una pequeña cantidad de las películas que miró el usuario y, luego, optimizar una pérdida de softmax.
Figura 5. Una arquitectura de RNP de muestra para aprender incorporaciones de películas a partir de datos de filtrado colaborativo.
Como otro ejemplo, si quieres crear una capa de incorporación para las palabras de un anuncio de bienes raíces como parte de una RNP a fin de predecir los precios de vivienda, deberías optimizar una pérdida L2 con el precio de venta conocido de las casas en tus datos de entrenamiento como la etiqueta.
Cuando se aprende una incorporación de d dimensiones, cada elemento se asigna a un punto en un espacio de d dimensiones, de manera que los elementos similares estén cerca en este espacio. La Figura 6 ayuda a ilustrar la relación entre las ponderaciones aprendidas en la capa de incorporación y la vista geométrica. Las ponderaciones de las conexiones entre un nodo de entrada y los nodos de la capa de incorporación de d dimensiones corresponden a los valores de coordenadas de cada uno de los d ejes.
Figura 6. Una vista geométrica de las ponderaciones de la capa de incorporación.
N.) Ejercicio de programación
Tiempo estimado: 32 minutosEn el siguiente ejercicio, explorarás las incorporaciones en TensorFlow mediante el desarrollo de una red neuronal que realizará un análisis de opiniones sobre datos de reseñas de películas.
Los ejercicios de programación se ejecutan directamente en tu navegador mediante Colaboratory (no es necesario configurar nada). Esta plataforma es compatible con la mayoría de los navegadores principales y se prueba minuciosamente en las versiones de escritorio de Chrome y Firefox. Si prefieres descargar y ejecutar los ejercicios sin conexión, consulta estas instrucciones para configurar un entorno local.
Sistemas de machione learning en produccion
El aprendizaje automático es mucho más que una mera implementación de un algoritmo de AA. Un sistema de AA de producción incluye una gran cantidad de componentes.
Objetivos de aprendizaje
entender la importancia de los componentes en un sistema de AA de producción
Llos sistemas de AA de producción del mundo real son ecosistemas grandes en los cuales el modelo es solo una parte.
Figura 1. Sistema de AA de producción del mundo real
El código de AA es el componente fundamental de un sistema de AA de producción del mundo real, pero por lo general solo representa el 5% o menos del código total del sistema (sí, no es un error tipográfico). Debes tener en cuenta que un sistema de AA de producción dedica una gran cantidad de recursos a recopilar datos de entrada, verificarlos y extraer atributos de ellos. Además, considera que debe haber una infraestructura de servicio implementada para que las predicciones del modelo de AA puedan tener un uso práctico en el mundo real.
Entrenamiento estático o dinámico
En términos generales, hay dos formas de entrenar un modelo:
Un modelo estático se entrena fuera de línea. Eso significa que el modelo se entrena una sola vez y ese modelo entrenado se utiliza durante un tiempo.
El modelo dinámico se entrena en línea. Eso significa que los datos ingresan de forma continua al sistema, y estos se incorporan al modelo con pequeñas actualizaciones periódicas.
Objetivo de aprendizaje
identificar las ventajas y desventajas del entrenamiento estático y dinámico
Por suerte, muchos de los componentes en la figura anterior pueden volver a usarse. Además, no es necesario crear todos los componentes que se muestran en la Figura 2.Si bien muchos de estos componentes están disponibles en TensorFlow, hay otras opciones de otras plataformas, como Spark o Hadoop.Los siguientes módulos te ayudarán a tomar decisiones de diseño en la creación de un sistema de AA de producción
A.) Resumen deL video En términos generales, los siguientes puntos dominan la decisión entre entrenamiento estático o dinámico:
Los modelos estáticos son más fáciles de desarrollar y probar.
Un modelo dinámicos se adapta a los datos cambiantes. El mundo es un lugar muy cambiante. Es poco probable que las predicciones de ventas del año pasado predigan correctamente los resultados del año próximo.
Si tu conjunto de datos realmente no cambia en el tiempo, elige el entrenamiento estático, porque su desarrollo y mantenimiento son más económicos que el entrenamiento dinámico. Sin embargo, muchas fuentes de información realmente cambian en el tiempo, incluso aquellas con atributos que crees que son constantes, como el nivel del mar. Moraleja: Incluso con el entrenamiento estático, igualmente debes supervisar si ocurren cambios en los datos de entrada.
Por ejemplo, considera un modelo entrenado para predecir la probabilidad de que los usuarios compren flores. Debido a la presión del tiempo, el modelo se entrena una sola vez con un conjunto de datos del comportamiento de compra de flores durante julio y agosto. Después, el modelo se pone en funcionamiento para procesar predicciones en producción, pero nunca se actualiza . El modelo funciona bien durante varios meses, pero después realiza predicciones muy desacertadas en torno al día de San Valentín porque el comportamiento de los usuarios durante ese período festivo cambia drásticamente.
B.) evaluación
Explora las opciones que aparecen a continuación.
¿Cuál de las siguientes afirmaciones es verdadera sobre el entrenamiento en línea (dinámico)?
El modelo se mantiene actualizado a medida que ingresan datos nuevos.
Este es el principal beneficio del entrenamiento en línea; se pueden evitar muchos problemas obsoletos al permitir que el modelo se entrene sobre datos nuevos a medida que ingresan.
Se debe realizar muy poca supervisión de los datos de entrada en el momento de la inferencia.
Al igual que con un modelo estático fuera de línea, también es importante supervisar las entradas de los modelos que se actualizan de forma dinámica. Es probable que no existan riesgos durante temporadas largas, pero los cambios grandes y repentinos de las entradas (como una fuente de datos superior que pasa a ser inferior) pueden causar predicciones poco confiables.
Realizar muy poca supervisión de los trabajos de entrenamiento.
En realidad, los trabajos de entrenamiento se deben supervisar de manera continua para garantizar que sean correctos y funcionen como está previsto. También necesitarás una infraestructura de respaldo, como la capacidad de restaurar un modelo a un estado anterior en caso de que se produzca un problema en el entrenamiento, como una tarea con errores o daños en los datos de entrada.
Entrenamiento fuera de línea Explora las opciones que aparecen a continuación.
¿Cuál de las siguientes dos afirmaciones es verdadera acerca del entrenamiento fuera de línea?
El entrenamiento fuera de línea requiere menos supervisión de los trabajos de entrenamiento que el entrenamiento en línea.
En general, los requisitos de supervisión en el momento del entrenamiento son más simples para el entrenamiento fuera de línea, lo cual nos protege de muchas consideraciones de producción. Sin embargo, cuanto más frecuentemente entrenes el modelo, mayor será la inversión que necesites realizar en supervisión. También querrás realizar validaciones periódicas para asegurarte de que los cambios en tu código (y sus dependencias) no afecten de manera adversa la calidad del modelo.
El modelo se mantiene actualizado a medida que ingresan datos nuevos.
En realidad, si entrenamos fuera de línea, el modelo no tiene forma de incorporar datos nuevos a medida que ingresan. Si la distribución de la cual intentamos aprender cambia con el tiempo, esto puede provocar que el modelo quede obsoleto.
.
El modelo se puede verificar antes de aplicarlo en producción.
Sí, el entrenamiento fuera de línea ofrece una gran oportunidad para verificar el rendimiento del modelo antes de incorporarlo en producción.
Se debe realizar muy poca supervisión de los datos de entrada en el momento de la inferencia.
Contrariamente a lo que podría indicar la intuición, debes supervisar los datos de entrada en el momento del procesamiento. Si las distribuciones de entrada cambian, las predicciones de nuestro modelo podrían volverse poco confiables. Imagina, por ejemplo, un modelo entrenado únicamente con datos de indumentaria de verano que de repente se usa para predecir el comportamiento de compra de indumentaria en el invierno.
Inferencia estática o dinámica
Puedes elegir una de las siguientes estrategias de inferencia:
Inferencia fuera de línea : Significa que realizas todas las predicciones posibles en un lote, a través de MapReduce o un cómputo similar. A continuación, escribes las predicciones en SSTable o Bigtable, y luego ingrésalas en una tabla de búsqueda/caché.Inferencia en línea : Significa que predices a petición mediante un servidor.
Objetivos de aprendizaje
comprender las ventajas y desventajas de la inferencia estática y dinámica
estimar las necesidades de entrenamiento y procesamiento para escenarios del mundo real
Resumen del video Aquí se incluyen las ventajas y desventajas de la inferencia fuera de línea (estática) :
La Ventaja: No necesitas preocuparte por el costo de la inferencia.
Otra Ventaja: Es probable que se pueda usar la cuota de lote o un MapReduce gigante.
Una Ventaja: Es posible realizar una verificación posterior sobre los datos predichos antes de insertarlos.
La Desventaja: Solo puedes predecir elementos conocidos, lo que representa un aspecto negativo en los casos de una cola larga.
Otra Desventaja: Es probable que la latencia actualizada se mida en horas o días.
Aquí se incluyen las ventajas y desventajas de la inferencia en línea:
Ventaja 1: Puedes predecir cualquier elemento nuevo a medida que surge, lo que resulta ideal en los casos de una cola larga.
Ventaja 2: El cómputo es intensivo y sensible a latencia, lo cual puede limitar la complejidad del modelo.
Ventaja 2: Las necesidades de supervisión son más intensivas.
A.) EVALUACION: Inferencia fuera de línea Explora las opciones que aparecen a continuación.
En la inferencia fuera de línea, realizamos predicciones en función de un gran lote de datos de una sola vez. Luego colocamos esas predicciones en una tabla de búsqueda para utilizarlas más adelante. ¿Cuáles de las siguientes afirmaciones son verdaderas sobre la inferencia fuera de línea?
Tendremos predicciones de todas las entradas posibles.
No, no tendremos predicciones de todas las entradas posibles. Esta es una de las desventajas de la inferencia fuera de línea. Solo podremos proporcionar predicciones de aquellos ejemplos que ya conocemos. Esto es eficaz si el conjunto de elementos que estamos prediciendo es limitado, como las ciudades del mundo. Pero, para entradas como las consultas de los usuarios que tienen una larga cola de elementos inusuales o extraños, es posible que no podamos proporcionar una cobertura completa con un sistema de inferencia fuera de línea.
Podremos reaccionar rápidamente a los cambios en el mundo.
No, esta es una desventaja de la inferencia fuera de línea. Tendremos que esperar hasta que se haya escrito un nuevo conjunto de clasificaciones en la tabla de búsqueda para poder responder de manera diferente en función de los cambios en el mundo.
Las señales de entrada se deberán supervisar atentamente durante un período de tiempo prolongado.
En realidad, este es el único caso en el que no necesitamos supervisar las señales de entrada durante un período de tiempo prolongado. Esto se debe a que, una vez que las predicciones se escriben en una tabla de búsqueda, ya no dependemos de los atributos de entrada. Ten en cuenta que cualquier actualización posterior del modelo requerirá una nueva serie de verificación de entrada.
Después de generar las predicciones, podemos verificarlas antes de aplicarlas.
De hecho, esto es algo útil sobre la inferencia fuera de línea. Podemos realizar una comprobación de estado y verificar todas nuestras predicciones antes de que se utilicen.
Para una entrada específica, podemos proporcionar una predicción más rápidamente que con la inferencia en línea .
Uno de los aspectos interesantes de la inferencia fuera de línea es que, una vez que las predicciones se escriben en una tabla de búsqueda, estas se pueden procesar con una latencia mínima. No es necesario realizar cómputo de atributos o inferencia del modelo en el momento de la solicitud.
————————————— Explora las opciones que aparecen a continuación.
Inferencia en línea significa realizar predicciones a petición. Esto quiere decir que, en la inferencia en línea, colocamos el modelo entrenado en un servidor y emitimos solicitudes de inferencia según sea necesario.
¿Cuáles de las siguientes afirmaciones son verdaderas sobre la inferencia en línea?
Puedes proporcionar predicciones para todos los elementos posibles.
Sí, este es un aspecto positivo de la inferencia en línea. Se clasificarán todas las solicitudes que ingresen. La inferencia en línea maneja las distribuciones de larga estela (aquellas con muchos elementos extraños), como el espacio de todas las oraciones posibles escritas en reseñas de películas.
Al realizar la inferencia en línea, no necesitas preocuparte por la latencia de predicción (el tiempo de retardo para devolver predicciones) como cuando realizas inferencia fuera de línea.
Con frecuencia, la latencia de predicción es una preocupación real en la inferencia en línea. Lamentablemente, los problemas de latencia de predicción no necesariamente se solucionan al agregar más servidores de inferencia.
Debes supervisar cuidadosamente las señales de entrada.
Sí. Las señales pueden cambiar de manera repentina debido a problemas de nivel superior, lo cual afectaría nuestras predicciones de manera negativa.
Puedes realizar una verificación posterior de las predicciones antes de que se utilicen.
En general, no es posible realizar una verificación posterior de todas las predicciones antes de que se utilicen, porque las predicciones se realizan a petición. Sin embargo, puedes supervisar potencialmente las calidades de predicción totales para proporcionar cierto nivel de comprobación de estado, pero estas señalarán las alertas recién después de que los problemas se hayan propagado.
Dependencias de datos
Los datos son tan importantes para los desarrolladores de AA como lo es el código para los desarrolladores tradicionales. Esta lección se centra en los tipos de preguntas que deberías hacerte sobre los datos.
Objetivos de aprendizaje
comprender las dependencias de datos en los sistemas de AA de producción
Resumen de la clase por video El comportamiento de un sistema de AA depende del comportamiento y la calidad de sus atributos de entrada . A medida que cambian los datos de entrada para esos atributos, también lo hará el modelo. A veces, ese cambio es intencional; otras veces, no.
En el desarrollo de software tradicional, te centras más en el código que en los datos. En el desarrollo de aprendizaje automático, si bien la codificación es parte del trabajo, debes ampliar el enfoque para incluir los datos. Por ejemplo, en proyectos de desarrollo de software tradicional, se recomienda escribir pruebas de unidades para validar el código. En los proyectos de AA, debes probar, verificar y controlar los datos de entrada de forma continua.
Por ejemplo, debes controlar continuamente el modelo para quitar los atributos que se usan poco o no se usan. Imagina un determinado atributo que contribuyó poco o nada al modelo. Si los datos de entrada para ese atributo cambian de forma abrupta, es probable que el comportamiento del modelo también cambie de una forma indeseada.
Fiabilidad Preguntas para hacer sobre la fiabilidad de los datos de entrada:
¿La señal siempre estará disponible o proviene de una fuente que no es confiable? Por ejemplo:
¿La señal proviene de un servidor que falla cuando hay muchas cargas?
¿La señal proviene de personas que se van de vacaciones todos los meses de agosto?
Control de versiones Preguntas para hacer sobre el control de versiones:
¿El sistema que calcula los datos cambia alguna vez? Si es así:
¿Con qué frecuencia?
¿Cómo sabes que el sistema cambia?
A veces, los datos provienen de un proceso superior. Si ese proceso cambia de forma abrupta, el modelo será afectado.
Considera crear tu propia copia de los datos que recibes del proceso superior. Luego, usa solo la siguiente versión de los datos superiores cuando tengas la certeza de que es seguro hacerlo.
Necesidad Es posible que siguiente pregunta te recuerde a la regularización :
¿La utilidad del atributo justifica el costo de incluirlo?
Siempre es tentador agregar más atributos al modelo. Por ejemplo, supongamos que encuentras un atributo nuevo que permite que el modelo sea más exacto. Más exactitud parece mucho mejor que menos exactitud. Sin embargo, acabas de agregar una carga de mantenimiento. Es posible que el atributo adicional se degrade de forma inesperada, por lo que deberás controlarlo. Piensa con cuidado antes de agregar atributos que solo generen beneficios menores a corto plazo.
Correlaciones Algunos atributos se correlacionan (de forma positiva o negativa) con otros. Pregúntate lo siguiente:
¿Algunos de los atributos están tan vinculados que se necesitan estrategias adicionales para separarlos?
Retroalimentación A veces, un modelo puede afectar sus propios datos de entrenamiento. Por ejemplo, los resultados de algunos modelos son, a su vez, atributos de entrada directos o indirectos de ese mismo modelo.
A veces, un modelo puede afectar a otro modelo. Por ejemplo, analiza dos modelos para predecir los precios de las acciones:
el Modelo A, con una predicción muy inexacta
el Modelo B
Como el Modelo A tiene fallas, a veces decide por error comprar valores de la Acción X. El Modelo B usa el precio de la Acción X como atributo de entrada, por lo que este modelo puede llegar con facilidad a conclusiones erróneas sobre el precio de los valores de la Acción X. Por lo tanto, es posible que el Modelo B compre o venda valores de la Acción X, según el comportamiento con fallas del Modelo A. A su vez, el comportamiento del Modelo B puede afectar al Modelo A, por lo que se desencadena una tulipomanía o una caída en las acciones de la Empresa X.
evaluacion
Explora las opciones que aparecen a continuación.
¿En cuál de los siguientes modelos se puede encontrar un ciclo de reacción?
Un modelo de recomendación de libros que sugiere novelas a los usuarios según la popularidad (es decir, la cantidad de ventas de los libros).
Probablemente, las recomendaciones de los libros aumenten las ventas; estas ventas adicionales se sumarán al modelo como entradas, lo que aumentará las posibilidades de que esos mismos libros se recomienden en el futuro.
Un modelo de pronóstico del tráfico que predice los atascos en las salidas de carreteras junto a la playa, con el tamaño de la multitud como uno de sus atributos.
Algunos bañistas prefieren armar sus planes según el pronóstico del tráfico. Si hay mucha gente en la playa y se pronostican muchos atascos en el tráfico, es posible que la gente haga otros planes. Es posible que esto reduzca la cantidad de gente en la playa, por lo que se pronosticará menos tráfico, lo que puede aumentar la concurrencia y el ciclo se repite.
Un modelo de resultados de elecciones que predice el ganador mediante una encuesta al 2% de los votantes después del cierre de urnas.
Si el modelo no publica su pronóstico hasta después del cierre de urnas, no es posible que sus predicciones afecten el comportamiento de los votantes.
Un modelo de tasación de viviendas que predice el precio de las casas al usar el tamaño (el área en metros cuadrados), la cantidad de habitaciones y la ubicación geográfica como atributos.
No es posible cambiar rápidamente la ubicación, el tamaño y la cantidad de habitaciones de una casa en respuesta a los pronósticos de los precios, por lo que es poco probable que se produzca una retroalimentación. Sin embargo, existe una retroalimentación potencial entre el tamaño y la cantidad de habitaciones (las casas más grandes tienden a tener más habitaciones) que posiblemente se deba analizar por separado.
Un modelo de atributos faciales que detecta si una persona está sonriendo en una foto, el cual se entrena periódicamente con una base de datos de fotos de archivo que se actualiza cada mes de forma automática.
No existe una retroalimentación, ya que las predicciones del modelo no afectan la base de datos de las fotos. Sin embargo, las versiones de los datos de entrada son un problema en este caso, ya que las actualizaciones mensuales pueden tener efectos inesperados en el modelo.
Un modelo de clasificación de universidades que ordena las facultades en parte por su selectividad, es decir, el porcentaje de estudiantes que se presentaron para ingresar con respecto a los que efectivamente ingresaron.
Es posible que las clasificaciones del modelo generen un interés adicional hacia las facultades con mejor calificación, lo que aumenta la cantidad de solicitudes que reciben. Si estas facultades siguen recibiendo la misma cantidad de estudiantes, la selectividad aumentará (el porcentaje de estudiantes ingresantes se reducirá). Esto impulsará la clasificación de las facultades, lo que a su vez aumentará el interés de los estudiantes y así sucesivamente…
Sistemas de aprendizaje automático en el mundo real A.) Predicción del cáncer
En esta lección, depurarás un problema de aprendizaje automático en el mundo real* relacionado con la predicción del cáncer.
Objetivos de aprendizaje
Determinar las fallas en el modelo de aprendizaje automático en el mundo real
* Este módulo se basó en líneas muy generales (con algunas modificaciones sobre la marcha) en «Leakage in data mining: formulation, detection, and avoidance» de Kaufman, Rosset y Perlich .
B.) Literatura
En esta lección, depurarás un problema de aprendizaje automático en el mundo real* relacionado con la literatura del siglo XVIII.
Objetivos de aprendizaje
Determinar las fallas en el diseño experimental de un modelo de aprendizaje automático en el mundo real.
C.) el mundo real
En esta lección, se resumen los lineamientos aprendidos de estos ejemplos del mundo real.
Objetivos de aprendizaje
Determinar las fallas en el AA aplicadas al mundo real.
Resumen del video Aquí se incluye un breve resumen de los lineamientos eficaces para el aprendizaje automático:
mantener tu primer modelo simple
concentrarse en garantizar que la canalización de los datos sea correcta
usar una métrica simple y observable para el entrenamiento y la evaluación
controlar y supervisar tus atributos de entrada
tratar la configuración del modelo como si fuera código: revisarla y registrarla
tomar nota de los resultados de todos los experimentos, especialmente aquellos que no resultan eficaces
Otros recursos Rules of Machine Learning contiene orientación adicional.
Próximos pasos
Para saber más sobre el aprendizaje automático y desarrollar mejor tus habilidades con TensorFlow, consulta los siguientes recursos:
Práctica de aprendizaje automático Conoce estos casos de éxito reales sobre la forma en que Google usa el aprendizaje automático en sus productos, con videos y ejercicios prácticos de codificación:
Clasificación de imágenes ¡Pronto habrá más prácticas de aprendizaje automático!
Otros recursos de aprendizaje automático
Deep Learning : Curso de aprendizaje automático avanzado sobre redes neuronales, con una extensa cobertura de modelos de texto e imágenes.Rules of ML : Recomendaciones para la ingeniería del aprendizaje automático.TensorFlow.js : Biblioteca de JavaScript, basada en el navegador y acelerada por WebGL para implementar y entrenar modelos de AA.
TensorFlow Únete a nuestra competencia de Kaggle ¿Estás listo para aplicar tus nuevas habilidades de AA en un desafío real de ciencia de datos? Prueba tus destrezas en una de las diferentes competencias en Kaggle .
VERDADERA
VERDADERA
