EXAMENES 2026 RNAP

Quieres desplegar una CNN en un dispositivo móvil con recursos limitados. ¿Qué enfoque es más razonable?. No se puede ejecutar una CNN en un dispositivo móvil: se hace a través de internet y el modelo se ejecuta en un servidor remoto. Pasar de GPU a CPU en el entrenamiento, para que el modelo ya esté preparado. Usar una arquitectura eficiente y considerar cuantización o pruning. Usar modelos de visión basados en transformers, que son mucho más eficientes. La única manera sería tener un dispositivo móvil con GPU.

Estás trabajando en Amazon y te asignan la tarea de clasificar paquetes de salida según diferentes características (tamaño, descripción en la etiqueta, color, forma...). ¿Qué arquitectura utilizas?. Un modelo GAN para generar nuevas etiquetas con el resultado de la clasificación. Una RNN para el histórico de paquetes y MLP profundo para clasificación. Basta con un perceptrón simple para capturar toda la información necesaria. Combinación de CNN y LSTM para extracción de características y MLP para clasificación. Aprendizaje por refuerzo para aprender una política.

En el siguiente modelo se ha introducido una capa de dropout. ¿Qué efecto está teniendo? model = tf.keras.Sequential([ tf.keras.layers.Input(shape=(100,)), tf.keras.layers.Dense(1024, activation="relu"), tf.keras.layers.Dropout(0.2), tf.keras.layers.Dense(1024, activation="relu"), tf.keras.layers.Dense(5, activation="softmax")]). Reduce el número de parámetros de la capa anterior en un 20%. Durante el entrenamiento, desactiva aleatoriamente el 20% de las neuronas de la capa anterior en cada iteración. Tal como está no tiene ningún efecto, ya que necesitaríamos añadir dropout en todas las capas densas del modelo. En entrenamiento no tiene efecto, pero en inferencia hace que sólo se use el 80% de las neuronas de la capa anterior. Hace que la capa anterior se comporte como si tuviera 512 neuronas.

Estás procesando texto con un vocabulario muy grande. Frente al one-hot encoding, una ventaja clave de los embeddings aprendidos es que: Imponen independencia total entre palabras similares. Pueden capturar similitud semántica, aunque el tamaño de los vectores sea mucho más grande. La codificación con embeddings es mucho más rápida. Eliminan la necesidad de entrenamiento. Pueden capturar similitud semántica en un espacio denso de menor dimensión.

¿Cuál de los siguientes es un hiperparámetro y no un parámetro entrenable?. El gradiente de un peso en una iteración. La tasa de aprendizaje. El bias de una neurona. El peso de una conexión entre dos neuronas. La salida de una capa oculta.

Estás resolviendo un problema usando aprendizaje profundo supervisado. Observas que el entrenamiento de tu modelo avanza, pero muy lentamente en valles alargados y con ciertas oscilaciones laterales. ¿Qué técnica es la que, de manera general, más ayudaría a mejorar ese comportamiento?. Momentum. Flatten. One-hot encoding. Dropout. Padding.

¿Qué inicialización suele asociarse especialmente a capas con activación ReLU?. Inicialización de He o Kaiming. Inicialización uniforme centrada en 1. Inicialización normal centrada en 0. Inicializar todos los pesos a 1 y todos los bias a 0. Inicialización uniforme centrada en 0.

Quieres ajustar hiperparámetros de un modelo y dispones de un presupuesto pequeño para probar combinaciones. Frente a grid search, ¿qué estrategia suele explorar mejor cuando hay muchos hiperparámetros y no todos son igual de relevantes?. Random search. Backpropagation. Inicialización a cero. Batch normalization. Pruning estructural.

Tu compañero te enseña el siguiente fragmento de código: model = tf.keras.Sequential([ tf.keras.layers.Dense(256, activation="relu"), tf.keras.layers.Dense(256, activation="relu"), tf.keras.layers.Dense(256, activation="relu"), tf.keras.layers.Dense(256, activation="relu"), [...]]) Se sorprende porque muchas neuronas parecen devolver siempre valores nulos. ¿Qué puede estar pasando?. El problema se solucionaría se usaran capas convolucionales antes de las capas densas. Puede deberse a neuronas muertas, un conocido problema al usar ReLU. Lo más seguro es que sea un problema de tamaño del dataset: demasiado pequeño para un modelo tan complejo. Es un problema de regularización que debería abordarse con técnicas como dropout. Habría que usar arquitecturas mejoradas como LSTM o GRU.

Durante el entrenamiento de una red recurrente, los gradientes alcanzan valores extremos y la optimización se vuelve inestable. ¿Qué técnica se usa de forma específica para limitar ese problema?. Max pooling. Gradient clipping. One-hot encoding. Flatten. DropConnect obligatorio.

Entrenas una red y observas que la pérdida apenas disminuye desde el principio. Has comprobado que el código no tiene errores graves. ¿Cuál de las siguientes causas es más plausible?. Se usan tensores en lugar de arrays de Python. La red tiene bias en sus capas. La tasa de aprendizaje es demasiado baja. Se está aplicando batch normalization. Hay una capa flatten antes de la salida.

¿Cuál es la lógica de early stopping?. Detener el entrenamiento tras un número fijo de épocas. Detener el entrenamiento cuando las curvas de entrenamiento y validación se tocan por primera vez. Detener el entrenamiento cuando la métrica de validación deja de mejorar. Detener el entrenamiento cuando la pérdida de entrenamiento deja de mejorar. Detener el entrenamiento cuando está tardando mucho en terminar.

Un problema requiere dependencias largas, pero se usa una RNN simple y se observa dificultad para retener información lejana. ¿Qué cambio de arquitectura sería el más razonable?. Aumentar el número de capas ocultas. Probar una función de activación diferente, como leaky ReLU. Probar un MLP. Probar LSTM o GRU. Probar una CNN.

¿Qué función cumple un scheduler en el entrenamiento de redes neuronales?. Regulariza el modelo limitando el valor de sus pesos. Realiza la retropropagación, aplicando la regla de la cadena, en pasos marcados. Evita problemas de desvanecimiento de gradiente. Fija el número de épocas de entrenamiento. Modificar la tasa de aprendizaje a lo largo del entrenamiento.

Estás entrenando un modelo de visión para diagnosticar enfermedades en plantas a partir de fotografías de las hojas. Observas que el modelo tiene un rendimiento mucho peor cuando un botánico lo usa con su celular que sobre tu dataset de entrenamiento. ¿Qué técnica ayudaría más a mejorar este problema?. Disminuir la cantidad de datos de entrenamiento. Batch normalization en la capa de salida. Aumentar el tamaño de lote. Añadir pérdida L2. Aumentar la tasa de aprendizaje.

Indica cuál es la principal ventaja de las redes neuronales convolucionales respecto a perceptrones multicapa a la hora de analizar imágenes. Muestra mucho menos sobreajuste. Usa más parámetros para realizar la extracción de características. Permite realizar clasificación, detección y segmentación. Permite usar data argumentation. Mantiene la relación espacial entre las características de entrada.

Al entrenar una red profunda, observas que las activaciones de algunas capas crecen o se atenúan de forma problemática desde el inicio. ¿Qué factor puede estar contribuyendo?. El uso de un conjunto de validación demasiado pequeño. La existencia de biases en la red. Un problema de sobreajuste. Una tasa de aprendizaje demasiado pequeña. Una inicialización de pesos poco adecuada.

A grandes rasgos, ¿qué tipo de arquitectura es el generador de una GAN clásica entrenada para generar imágenes?. Capas de de-convolución y unpooling para pasar de vectores latentes a imágenes. Un modelo de embeddings que genera datos en un espacio vectorial. Una CNN para clasificación. Un autoencoder que pasa de imágenes a vectores latentes. Un transformer que genera secuencias.

¿Qué idea clave introducen LSTM y GRU respecto a una RNN simple?. Usar mecanismos de puertas para controlar el flujo de información y memoria. Eliminar la necesidad de retropropagación a través del tiempo (BPTT). Introducir un estado oculto que da lugar a la recurrencia en este tipo de redes. Aplicar gradient clipping a nivel de neurona. Introducir mecanismos de atención.

Cuál de las siguientes capas tiene parámetros entrenables en una red neuronal típica?. Dropout. Max pooling. Linear (Dense). ReLU. Flatten.

¿Qué persigue, conceptualmente, una inicialización tipo Xavier/Glorot?. Hacer todos los pesos suficientemente grandes para acelerar el aprendizaje. Usar una distribución de probabilidad uniforme entre -1 y 1 para inicializar los valores de los pesos de la red neuronal. Mantener una escala razonable de activaciones y gradientes en redes profundas. Inicializar pesos de la manera más aleatoria posible. Forzar la salida inicial a coincidir con las etiquetas.

¿Cuál de las siguientes frases describe mejor cómo se entrena una red neuronal?. Los pesos de una red neuronal se ajustan al valor que minimiza la pérdida a través del descenso de gradiente. El entrenamiento de redes neuronales es siempre más costoso que el de otros modelos de machine learning, pero siempre funcionan mejor. Las redes neuronales memorizan las características del dataset que observan durante el entrenamiento, por lo que tienden a no poder generalizar nunca. Las redes neuronales son cajas negras que contienen pesos aleatorios pero que funcionan tras el entrenamiento. El entrenamiento de redes neuronales se realiza enseñando datos al modelo, y la red puede aprender sin necesidad de una función de pérdida.

¿Qué representan las entradas de una red neuronal en un problema de deep Q-learning?. Las acciones posibles que puede hacer el agente. Las variables de entrada de la función Q. El valor Q en cada estado. Una codificación de los posibles estados del sistema. Una codificación de la política óptima.

En el entrenamiento de un modelo observas NaNs. Viendo el código, observas lo siguiente: model = tf.keras.Sequential([ tf.keras.layers.Input(shape=(512, 512, 3)), tf.keras.layers.Conv2D(16, 3, strides=4, activation="relu"), tf.keras.layers.MaxPooling2D(pool_size=4), tf.keras.layers.Conv2D(32, 3, strides=4, activation="relu"), tf.keras.layers.MaxPooling2D(pool_size=4), tf.keras.layers.Flatten(), tf.keras.layers.Dense(512, activation="relu"), tf.keras.layers.Dense(128, activation="relu"), tf.keras.layers.Dense(10, activation="softmax") )optimizer = tf.keras.optimizers.Adam(learning_rate=1.0)model.compile(optimizer=optimizer, loss="sparse_categorical_crossentropy", metrics=["accuracy"]) ¿Cuál es el error más probable?. La función de pérdida no tiene sentido para este problema. La tasa de aprendizaje es probablemente demasiado alta. Las dimensiones de las imágenes no son las esperadas por las capas convolucionales. Falta la función de activación en las capas de MaxPooling. Este modelo sólo puede correr en GPU.

Necesitas entrenar un modelo para que un robot aprenda a mover paquetes en un almacén, tomando siempre las decisiones más correctas, independientemente del escenario. ¿Qué tipo de problema es este?. Un problema de análisis de secuencias con RNN o LSTM. Es un problema de visión de computador para identificar paquetes. Un problema de clasificación, para escoger entre diferentes categorías. Es un problema de procesamiento del lenguaje natural para entender instrucciones. Es un problema de aprendizaje por refuerzo para aprender la política óptima.

¿Cuál es el objetivo del data augmentation como técnica asociada a la regularización?. Garantizar que no aparezca ruido en entrenamiento. Aumentar el número de parámetros del modelo para mejorar su capacidad de aprender patrones. Reducir el número de parámetros de la red neuronal para facilitar el aprendizaje. Aumentar el batch size sin causar overfitting. Generar variaciones de los datos para mejorar la generalización.

¿Con qué tipo de tarea se asocia habitualmente la binary cross-entropy?. Clasificación en dos categorías. Reducción de dimensionalidad por pooling. Cuantización de modelos. Redes neuronales binarias. Inicialización de pesos.

¿En qué consiste la cuantización de un modelo?. Eliminar pesos o conexiones poco relevantes. Adaptar la red neuronal para correr el modelo en ordenadores cuánticos. Usar ReLU o funciones de activación similares, en lugar de sigmoide o tanh. Reducir la precisión numérica de los pesos para disminuir la memoria requerida. Uso de redes neuronales cuánticas (QNN) para modelar el problema.

¿Qué papel desempeña la tasa de aprendizaje en un algoritmo de optimización?. Multiplica al gradiente para controlar el tamaño de las actualizaciones. Multiplica globalmente los pesos de la red. Usa información histórica de gradientes para hacer que el entrenamiento sea más estable. Es una medida del número de neuronas. Indica la velocidad de convergencia del modelo.

¿Cuál de las siguientes capas u operaciones no suele tener parámetros entrenables?. Embedding. Flatten. Batch normalization. Capa densa. Convolución.

¿Cuál es la motivación principal para pasar de Q-learning tabular a Deep Q-Learning?. Eliminar el concepto de recompensa. Poder aproximar la función Q cuando el espacio de estados es grande o continuo. Es mucho más fiable entrenar la red neuronal que tener una tabla completa. Evitar usar codificación one-hot para computar la función Q. Garantizar optimalidad exacta en cualquier problema.

¿Cuál es una desventaja clásica de la función sigmoide en redes profundas?. No puede utilizarse como función de activación, sólo para normalizar. No es derivable en todo el rango. Puede favorecer el desvanecimiento de gradientes. Puede disminuir la cantidad de parámetros de la red. No puede dar lugar a valores negativos.

¿Qué diferencia general puede decirse entre SGD clásico y optimizadores adaptativos como Adam?. SGD se usa en redes tipo MLP mientras que Adam se usa en CNN, RNN, GANs y otras. Adam no requiere de hiperparámetros, mientras que SGD sí. Adam va más rápido porque evita la retropropagación, que es un proceso computacionalmente costoso. SGD calcula gradientes para actualizar los pasos, mientras que Adam no necesita gradientes. Adam ajusta de manera adaptativa el tamaño de paso de las actualizaciones usando estadísticas de gradientes.

Te dispones a entrenar una LSTM para predicción del lenguaje. La LSTM recibe datos numéricos como entrada, pero el texto está formado por palabras, por lo que necesitas hacer una transformación de palabras a vectores. ¿Cuál es la opción más eficiente?. Usar una codificación one-hot. Codificar las palabras como conjuntos de caracteres, y asignar un código ASCII a cada caracter para obtener una codificación numérica del input. Usar transformers, que pueden lidiar directamente con palabras, sin necesidad de vectores. Usar una red neuronal que entrenamos para codificar la información de palabras en vectores (embeddings). Tratar las palabras como imágenes con capas CNN primero, antes de la LSTM.

Una ventaja habitual de tanh respecto a la sigmoide es que: Es equivalente a softmax en clasificación multiclase. Su salida está centrada en cero. Evita completamente la saturación. Su rango de salida es de 0 a infinito. No necesita derivadas para entrenarse.

¿Cuál de las siguientes técnicas o capas no introduce parámetros entrenables?. Batch normalization. Capa convolucional. Capa densa. Flatten. Celda LSTM.

¿Qué comparten optimizadores como AdaGrad, RMSprop y Adam?. Ajustan el tamaño de las actualizaciones usando información histórica de gradientes. Ajustan el tamaño de los lotes de manera adaptativa y añaden momentum. Eliminan la no linealidad, acelerando notablemente el entrenamiento. Evitan el cálculo de gradientes, acelerando notablemente el entrenamiento. Eliminan por completo la necesidad de escoger una tasa de aprendizaje.

Durante el entrenamiento de un modelo, observas que a partir de cierto ciclo de entrenamiento la pérdida disminuya cuando se evalúa sobre el dataset de entrenamiento pero aumenta en el dataset de validación. ¿Qué está ocurriendo?. El modelo está subajustando y hay que hacerlo más grande. El descenso del gradiente está teniendo dificultades con algunos datos presentes en el dataset de validación. El modelo está empezando a mostrar sobreajuste. Hay data leakage en validación. Es un problema de explosión de gradientes.

Estás observando las curvas de aprendizaje de una red neuronal profunda. Observas que en cada iteración el valor de la pérdida varía mucho, lo cual no parece adecuado. Revisando el código, parece que no hay ningún error. ¿Qué puede estar pasando?. Puede deberse a un tamaño de lote demasiado pequeño. El uso de sigmoide como función de activación, lo cual incrementa las fluctuaciones. La única causa posible es un enorme sobreajuste. El ruido demuestra data leakage. Hay que aumentar el tamaño del dataset.

¿Cuál es una idea característica de la optimización bayesiana de hiperparámetros?. Usar descenso de gradiente para optimizar hiperparámetros. Usar un modelo sustituto para guiar qué configuraciones probar a continuación. Probar todas las combinaciones posibles exhaustivamente. Actualizar directamente los hiperparámetros con retropropagación estándar en cada batch. Probar combinaciones de hiperparámetros al azar.

¿Por qué es importante la correcta inicialización de pesos en redes profundas?. Facilita el cálculo de los gradientes. Mejora mucho al posible sobreajuste de la red. Sólo para que no colapse a una situación de simetría de pesos, en la que la red no es capaz de aprender. Influye en la estabilidad y la eficiencia del entrenamiento. Reduce el tiempo de inferencia.

¿Qué efecto tiene usar padding apropiado en una convolución?. Ayuda a tratar mejor los bordes y obtener el tamaño del output deseado. Ayuda a tratar con imágenes borrosas. Es la mejor alternativa al pooling para reducir el tamaño de las imágenes. Es necesario para poder apilar varias capas convolucionales. Ayuda a reducir la dimensionalidad y mejorar la calidad del resultado.

Indica cuál de los siguientes enunciados acerca de los modelos de aprendizaje profundo es cierto. Cuando escogemos una arquitectura de un modelo de deep learning, queremos, en general, que tenga más hiperparámetros que parámetros. La optimización de hiperparámetros sólo se realiza tras el entrenamiento, cuando los parámetros ya están fijos. El descenso del gradiente es un algoritmo de optimización que se utiliza para establecer los valores de los parámetros pero no de los hiperparámetros. Tanto los parámetros como los hiperparámetros se optimizan durante el entrenamiento con descenso del gradiente. Las redes neuronales son cajas negras y los parámetros se ajustan probando combinaciones al azar hasta que vemos que el modelo es capaz de realizar la tarea.

¿Qué describe mejor una época o ciclo completo de entrenamiento?. Es un recorrido completo por todas las muestras del conjunto de entrenamiento. Equivale a un número de actualizaciones igual al tamaño del lote. Es cada vez que se actualizan los pesos en el entrenamiento de una red neuronal. Cada época consta de un paso forward y otro backwards. En una época se calcula la función de pérdida con un lote y se hace retropropagación.

Un entrenamiento resulta inestable al principio y, cuando por fin aprende, termina generalizando peor de lo deseado. ¿Qué diagnóstico y estrategia global son más razonables?. Usar ReLU como función de activación y MSE como función de pérdida, ya que se sabe que las redes neuronales funcionar mucho mejor con estas funciones. Ajustar learning rate y aplicar batch normalization para mejorar estabilidad y técnicas de regularización para mejorar la generalización. Eliminar el conjunto de validación y considerar sólo métricas sobre el dataset de entrenamiento. Modificar la arquitectura de la red para hacerla más compleja, de manera que pueda captar mejor las relaciones. Aumentar mucho el tamaño de los lotes puede solucionar ambos problemas.

Tu compañero te enseña el siguiente fragmento de código: model = tf.keras.Sequential([ tf.keras.layers.Dense(256, activation="relu"), tf.keras.layers.Dense(256, activation="relu"), tf.keras.layers.Dense(256, activation="relu"), tf.keras.layers.Dense(256, activation="relu"), [...]]) Se sorprende porque muchas neuronas parecen devolver siempre valores nulos. ¿Qué puede estar pasando?. El problema se solucionaría si se usaran capas convolucionales antes de las capas densas. Puede deberse a neuronas muertas, un conocido problema al usar ReLU. Lo más seguro es que sea un problema de tamaño del dataset: demasiado pequeño para un modelo tan complejo. Es un problema de regularización que debería abordarse con técnicas como dropout. Habría que usar arquitecturas mejoradas como LSTM o GRU.

A grandes rasgos, ¿qué tipo de arquitectura es el clasificador de una GAN clásica entrenada para generar imágenes?. Una CNN para clasificación binaria. El inverso a una CNN, que pasa de vectores planos a imágenes. Una CNN de segmentación que va identifi cando partes de una imagen. Una serie de capas de-convolucionales para pasar de vectores latentes a nuevas imágenes. Un transformer que parte de imágenes y genera secuencias o distribuciones de probabilidad.

¿Cuál es la idea principal del dropout durante el entrenamiento?. Eliminar ejemplos difíciles o anómalos del dataset. Apagar capas completas de manera permanente. Reducir el número de parámetros de la red para mejorar la generalización. Desactivar aleatoriamente parte de las unidades para reducir coadaptaciones. Normalizar todos los tensores de entrada en algunas capas.

Durante el entrenamiento la pérdida fluctúa fuertemente, con oscilaciones grandes, y no parece asentarse cerca de una solución estable. ¿Cuál es una causa plausible?. La regularización L1 o L2 es necesariamente demasiado fuerte. El modelo tiene muy pocos parámetros. El conjunto de validación es demasiado pequeño y eso explica el entrenamiento caótico. Demasiadas capas ocultas sin conexiones residuales. La tasa de aprendizaje puede ser demasiado alta.

¿Qué ventaja aporta típicamente el uso de momentum en descenso del gradiente?. Hace innecesario el ajuste de hiperparámetros. Sustituye la necesidad de función de pérdida. Ayuda a suavizar oscilaciones y a acelerar el entrenamiento. Evita tener que introducir un valor de la tasa de aprendizaje. Convierte cualquier problema no lineal en lineal.

¿Respecto a un perceptón lineal simple, qué aporta principalmente una capa oculta con función de activación no lineal en un perceptrón multicapa? A. B. D. E. Hace innecesaria la función de pérdida. Permite representar relaciones no lineales. Reduce automáticamente el sobreajuste. Evita la necesidad de retropropagación. Hace que pueda trabajar con números reales.

Tienes una LSTM con 8 nodos que procesa ventanas de 12 valores consecutivos de una serie temporal para predecir el siguiente valor. Si después de la LSTM añades un MLP final para producir la predicción, ¿cuántas salidas debería tener ese MLP?. 1. 96. 48. 8. 12.

Una ventaja conceptual de la tangente hiperbólica frente a la sigmoide es que: No puede saturarse nunca. Es lineal para cualquier entrada. Solo sirve en redes recurrentes. No muestra nunca desvanecimiento de gradiente. Está centrada en cero.

¿Cuál es una ventaja típica de ReLU frente a sigmoide en capas ocultas profundas?. No requiere cálculo de derivadas. Suele mitigar el problema de desvanecimiento de gradientes respecto a sigmoide. Está centrada exactamente en cero para toda entrada. Es siempre mejor que cualquier otra activación en cualquier tarea. Está acotada entre 0 y 1, lo que siempre mejora la convergencia.

¿Cuál es una limitación clásica de las RNN simples al modelar dependencias largas?. Problemas de desvanecimiento o explosión de gradientes durante BPTT. No admiten estado oculto. Solo aceptan secuencias de longitud 2. No pueden usar funciones de activación. No pueden entrenarse con gradiente descendente.

En una tarea con series temporales, un estudiante mezcla aleatoriamente todas las observaciones antes de separar datasets en conjuntos de entrenamiento y test, ¿qué problema puede aparecer?. Una evaluación incorrecta por ruptura indebida de la estructura temporal. Este procedimiento va a dar lugar a sobreajuste necesariamente. Las series temporales no requieren de conjuntos de entrenamiento y test. La mezcla temporal mejora la generalización real, si se usan RNN, pero puede dar problemas de explosión de gradientes. El único problema es que faltan embeddings.

¿En qué consiste random search para optimización de hiperparámetros? A. B. C. D. E. Definir un espacio de hiperparámetros y probar un número de combinaciones escogidas aleatoriamente. Búsqueda exhaustiva de valores de hiperparámetros hasta encontrar la mejor combinación. Optimizar sólo unos pocos hiperparámetros, escogidos al azar. Usar optimización bayesiana para encontrar valores óptimos de hiperparámetros. Definir un espacio de hiperparámetros y un tamaño de paso para cada uno de ellos, para realizar una búsqueda en forma de rejilla.

El elemento que introdujo la arquitectura ResNet es: A. B. C. D. E. Entrenar sin retropropagación, estimando el cálculo de gradientes automáticamente. Eliminar por completo las convoluciones, lo cual facilita la convergencia. Sustituir sigmoide por tanh en toda la red. Conexiones residuales que facilitan el entrenamiento de redes profundas. Agrega mecanismos de atención al modelo.

Estás entrenando una red profunda con SGD y observas que distintos parámetros parecen requerir escalas de actualización diferentes: es decir, partes de la red neuronal necesitan una tasa de aprendizaje más alta y otras partes más baja. ¿Qué técnica podría ayudar en este caso?. Usar varios optimizadores a la vez. Entrenar dos o más redes neuronales por separado. Usar ReLU y una función de pérdida suave como MSE o MAE. Hacer optimización de hiperparámetros para encontrar el valor adecuado de la tasa de aprendizaje. Usar optimizador Adam.

¿En qué consta el problema de "neuronas muertas". Ocurre con funciones de activación como sigmoide, con valores muy grandes, porque el gradiente es 0. Ocurre cuando la salida de la ReLU queda siempre en 0 para muchas entradas y deja de aprender. Es un problema asociado a las RNN. Ocurre cuando el modelo tiene demasiadas neuronas y tarda mucho en entrenarse. Ocurre con funciones de activación como sigmoide, con valores muy grandes o pequeños, la salida está acotada.

Necesitas clasificar imágenes médicas en rayos X en dos categorías: sano y enfermo. Para ello, estás entrenando una CNN con una salida con sigmoide. En el dataset de entrenamiento el modelo funciona bien, pero cuando lo pruebas en el dataset de validación observas un notable sobreajuste, por lo que vas a probar a añadir más capas convolucionales. ¿Qué esperas observar?. El sobreajuste se debería corregir, aunque no arreglar por completo. El sobreajuste va a ir a peor. Si se añaden más capas convolucionales, el sobreajuste sólo mejorará si también se añaden más neuronas en las capas densas. Es buena idea ya que es necesario para captar mejor las características de las imágenes. El sobreajuste es esperado en este tipo de problemas y no requiere corrección.

¿En qué situación es más natural emplear una salida softmax?. Clasificación multiclase mutuamente excluyente. Maximización de la pérdida, en lugar de minimización. Cuando necesitamos suavizar el entrenamiento, mejorando la convergencia. Clasificación binaria con una sola neurona y salida logit. Regresión de una variable continua.