Modelos de Redes Neuronales

¿En qué hallazgos neurofisiológicos se inspira fundamentalmente la organización y el funcionamiento arquitectónico de las redes neuronales convolucionales?. En los principios de condicionamiento operante y las leyes del refuerzo animal. En la organización del sistema visual animal, específicamente en las neuronas de la corteza visual que responden a formas geométricas y orientaciones. En los estudios de neuroplasticidad cortical sobre el procesamiento exclusivo de series temporales verbales.

Dentro de la arquitectura en capas de una red convolucional, ¿cómo se distribuye analíticamente el procesamiento de la información desde la entrada hasta la salida?. Todas las capas procesan información con el mismo nivel de abstracción holística. Existe una relación de gradiente: las primeras capas procesan información concreta (primitiva) y las últimas procesan abstracciones complejas. Las primeras capas formulan la representación abstracta que luego las últimas capas deconstruyen en píxeles concretos.

A nivel de macro-arquitectura, ¿cuáles son los dos grandes bloques operativos que conforman una red neuronal convolucional?. El bloque de convolución y el bloque de conexión. El bloque de relleno (padding) y el bloque de retropropagación. El bloque de activación y el bloque de inicialización.

A diferencia de los modelos clásicos de procesamiento de señales visuales, ¿qué característica diferencial ostentan los filtros empleados en las capas convolucionales?. Sus valores son fijos, definidos "a-priori" y son inmutables durante el procesamiento. Poseen parámetros ajustables que aprenden a identificar patrones automáticamente mediante el entrenamiento y el error. Solo pueden aplicarse una única vez a toda la extensión global de la imagen simultáneamente.

Una vez calculada la suma ponderada en el nodo tras la aplicación de un filtro, ¿cómo responde matemáticamente la función de activación ReLU?. Transforma el sumatorio en una distribución probabilística softmax asintótica al valor 1. Proyecta los valores en una curva sigmoide suave delimitada entre -1 y +1. Anula cualquier valor igual o menor a cero (devolviendo cero) y preserva íntegramente los valores mayores a cero.

Durante la fase de aprendizaje de la red, ¿cómo se ajustan analíticamente los pesos de los filtros en la fase denominada de "paso hacia atrás"?. Inicializando todos los valores aleatoriamente con la función de Xavier en cada época. Utilizando el gradiente descendiente, calculando la derivada del peso respecto al error global de la predicción. Promediando el error de las capas contiguas mediante el uso exclusivo del parámetro softmax.

Tras la aplicación de las capas convolucionales, ¿cuál es el objetivo empírico y matricial de intercalar "capas de agrupación" (pooling) en la arquitectura de la red?. Añadir complejidad cromática saturando los canales de color. Reducir la dimensionalidad de las características, proveyendo al sistema de robustez e invarianza espacial frente a pequeños desajustes. Aumentar drásticamente el tamaño final de la imagen para que coincida con las dimensiones del input originario.

Si el ingeniero o analista desea aplicar filtros a la imagen sin perder la valiosa información recluida en los bordes y extremos de la misma, ¿qué parámetro auxiliar aplicará en la matriz original?. Operación de relleno explícito o "Padding". Incremento logarítmico del factor "Striding". Un Average Pooling de escala superior a los 227 píxeles.

En la fase terminal del procesamiento de la red, ¿cómo fluye y se procesa la información procedente de las capas de agrupamiento para emitir un output unificado?. Se desecha la información abstracta y se recurre de nuevo a filtros locales de bajo nivel. La información ingresa en capas completamente conectadas (Affine), donde todos los nodos interactúan unificadamente sin usar filtros zonales, aplicando finalmente una función softmax. Se invoca una función Heaviside aislada y se aplica una única regla de corrección lineal.

¿Cuáles son las dimensiones estandarizadas de procesamiento de imagen de la célebre y fundacional arquitectura AlexNet (Krizhevsky et al. 2012)?. Estímulos de bajísima resolución configurados a 28x28 píxeles por matriz. Matrices complejas dimensionadas para procesar entradas estandarizadas de 227x227 píxeles. Imágenes hiperespectrales procesadas sin ninguna limitación prefijada.