Redes Neuronales

1. Redes Neuronales Su implementación en Hardware

2. ¿Qué son las Redes Neuronales Biológicas? Introducción Implementación Software Implementación Hardware Son el principal elemento del Sistema Nervioso. Cada neurona posee un cuerpo y dos tipos de prolongaciones: dendritas y cilindroeje o axón. Las neuronas se conectan por medio de sinapsis. Se disponen en capas. Las conexiones entre neuronas tienen pesos que representan la influencia de una sobre la otra. Cada una envía su información de estado multiplicado por el correspondiente peso. Luego se suman los valores recibidos desde las dendritas para actualizar los estados respectivos. Ejemplos Futuras Tendencias y Conclusión

3. ¿Qué son las Redes Neuronales Artificiales (ANN)? Introducción Implementación Software Implementación Hardware Una ANN es un paradigma de procesamiento de la información que está inspirado en la manera en que los sistemas nerviosos biológicos procesan la información. Ejemplos Futuras Tendencias y Conclusión Las ANN aprenden a través de ejemplos. Una ANN es configurada para una aplicación específica a través de un proceso de aprendizaje. Son aptas para resolver problemas que no poseen un algoritmo claramente definido para transformar una entrada en una salida. Se emplean ejemplos representativos de la transformación deseada para “entrenar” el sistema. Los sistemas autómatas evolucionan sin una reprogramación explícita.

4. ¿Por qué usar Redes Neuronales Artificiales? Introducción Implementación Software Implementación Hardware Las redes neuronales artificiales se aplican a problemas que la gente puede resolver bien, pero las computadoras no. Una red neuronal entrenada puede verse como un experto en la categoría de información que se le ha sido dada para analizar. Ejemplos Futuras Tendencias y Conclusión Ventajas: • Aprendizaje adaptable. • Auto – Organización. • Operación en tiempo real. • Tolerancia a fallas a través de código de información redundante.

5. ¿Por qué usar Redes Neuronales Artificiales? Introducción Implementación Software Implementación Hardware Las redes neuronales se consideran la mejor técnica de reconocimiento de patrones y análisis de tendencias en los datos. Ejemplos Futuras Tendencias y Conclusión Aplicaciones: • Pronósticos de ventas • Control de procesos industriales • Investigación sobre clientes • Validación de datos • Administración de riesgo • Marketing

6. ¿Cómo funcionan las Redes Neuronales Artificiales? Introducción Implementación Software Implementación Hardware Las ANN se basan en el circuito de procesamiento de entradas en el cual los pesos son sumados. Las funciones de peso se llaman Atenuadores. Las entradas son pesadas multiplicando su valor por un factor menor o igual a uno. Las entradas atenuadas son sumadas mediante la Función “Sigmoid”. Si la salida de la función suma excede el valor de entrada máximo de la neurona, ésta responde generando una salida. Ejemplos Futuras Tendencias y Conclusión

7. Atenuadores Entradas  Salidas ¿Cómo funcionan las Redes Neuronales Artificiales? Introducción Implementación Software Implementación Hardware Ejemplos Futuras Tendencias y Conclusión Modelo de Neurona

8. Entradas Red Neuronal Artificial Salidas P P P P P P P P P ¿Cómo funcionan las Redes Neuronales Artificiales? Introducción Implementación Software Implementación Hardware Ejemplos Futuras Tendencias y Conclusión Red Neuronal

9. P P P P P Modelos de Conectividad Introducción Implementación Software Implementación Hardware Ejemplos Futuras Tendencias y Conclusión Modelo de Hopfield

10. Implementación en Software Introducción Implementación Software Una Red Neuronal implementada en software es considerada una simulación y presenta numerosas desventajas sobre sus similares de hardware. El principal motivo para descartar una implementación software es el de la velocidad. Un chip especializado para ANN, de funcionamiento paralelo, es capaz de ofrecer respuestas totalmente confiables en tiempo real. Para aplicaciones que exigen Redes de menos de 100 neuronas y escaso entrenamiento las implementaciones software son suficientes. Cuando los problemas a resolver exigen cantidades tales como 1000 neuronas y 10000 sinapsis, es necesario emplear hardware de alta performance. Implementación Hardware Ejemplos Futuras Tendencias y Conclusión

11. Hardware vs Software Introducción Implementación Software La mayoría de las aplicaciones ANN en uso comercial están implementadas en software y corren en una computadora de propósito general con un procesador convencional simple. Razones más comunes para usar hardware ANN: • Velocidad: las ANN son intrínsecamente paralelas, y las implementaciones hardware pueden hacer uso de esto. • Costo: una implementación hardware puede proveer márgenes para reducir los costos del sistema: cantidad de componentes, potencia de los requerimientos, etc. • Confiabilidad: reducida probabilidad de fallas en el equipo. • Condicionesoperativasespeciales: en aplicaciones que imponen restricciones tales como tamaño físico o peso limitado, una implementación hardware puede ser esencial • Seguridad: el hardware especializado puede ofrecer mejor protección contra la "ingeniería inversa" de potenciales competidores. Implementación Hardware Ejemplos Futuras Tendencias y Conclusión

12. Componentes Utilizados Introducción Implementación Software Neurocomputadoras: proveen un completo sistema basado en técnicas neuronales, con significativo poder de procesamiento. Aceleradoras de PC y otras tarjetas: son generalmente hechas para un bus estándar tal como el ISA. Chips: pueden ser usados para construir algunas de las formas precedentes o pueden ser incluidos dentro de otros dispositivos para hacer una unidad de aplicación completa. Bibliotecascelda: permiten un apropiado nivel de funcionalidad neuronal al ser incluidas dentro de un chip dedicado al lado de otras funciones necesarias. Esto es lo indicado para aplicaciones de gran volumen. Microcomputadoras embebidas: pueden ser pensadas como computadoras de propósito general implementando un software ANN en hardware dedicado sin los periféricos normales de una computadora. Implementación Hardware Ejemplos Futuras Tendencias y Conclusión

13. Tipos de Implementación Hardware Introducción Implementación Software Implementación Hardware Digital Ejemplos Futuras Tendencias y Conclusión Analógica Híbrida

14. Tipos de Implementación Hardware Introducción Implementación Software Implementaciones digitales Implementación Hardware Todos los valores pasados en la red están representados por palabras binarias con una longitud de palabra característica. Ejemplos Futuras Tendencias y Conclusión Ventajas: • Liberación del ruido. • Almacenamiento de coeficientes de peso por una indefinida longitud de tiempo mediante RAM. • Tecnologías de fabricación off-the-shelf. • Precisión exacta de las fases de multiplicación y suma. • Fácil incorporación dentro de los sistemas existentes.

15. Tipos de Implementación Hardware Introducción Implementación Software Implementaciones digitales Implementación Hardware Restricciones: • Baja velocidad de operación, especialmente en los pasos de multiplicación y suma. • Las entradas del mundo real son típicamente analógicas, y deben ser convertidas a un formato digital para ser procesadas. Ejemplos Futuras Tendencias y Conclusión

16. Tipos de Implementación Hardware Introducción Implementación Software Implementaciones digitales Implementación Hardware Arquitecturas Slice: proveen bloques de construcción de los cuales pueden ser construidas redes neuronales de tamaño y longitud de palabra arbitraria. Chips Multiprocesador: consiste en poner muchos procesadores simples en un solo procesador. Hay dos grupos: SIMD y Arreglos Sistólicos. Funciones Base Radiales: operan por la manipulación de vectores prototipo, que definen regiones de influencia alrededor de la formación de datos de entrada. Otros diseños digitales: algunas redes neuronales digitales no pueden ser clasificadas usando las categorías expuestas. Por ejemplo, el MT19003 NISP es un procesador RISC, que implementa siete instrucciones optimizadas para redes multicapa. Los chips Hitachi Wafer SI han sido diseñados para implementar redes Hopfield y de retropropagación. Ejemplos Futuras Tendencias y Conclusión

17. Tipos de Implementación Hardware Introducción Implementación Software Implementaciones analógicas Implementación Hardware Tienen la capacidad de alcanzar altas velocidades y alta densidad de implementación. Diseño neurofórmico: la circuitería intenta imitar el comportamiento de neuronas biológicas y sinapsis tan cerca como sea posible. Ejemplos Futuras Tendencias y Conclusión Desventajas debido a dificultades en: • La obtención de alta precisión a efectos de diferencias en componentes. • El almacenamiento a largo plazo de coeficientes de peso analógicos. • La implementación de multiplicadores analógicos.

18. Tipos de Implementación Hardware Introducción Implementación Software Diseños híbridos Implementación Hardware Por la combinación de técnicas digitales y analógicas, los diseños híbridos intentan obtener “lo mejor de ambos mundos”. En algunos diseños las comunicaciones externas son digitales, mientras que el procesamiento interno es total o parcialmente analógico. Ejemplos Futuras Tendencias y Conclusión Ejemplos: • Bellcore CLNN-32 • AT&T ANNA • Neuroclassifier • Neural Semiconductor

19. Tipos de Implementación Hardware Introducción Implementación Software Implementaciones ópticas Implementación Hardware Los hologramas se utilizan para implementar la función sináptica, logrando la conectividad a través de la luz. Ejemplos Futuras Tendencias y Conclusión No están lo suficientemente desarrolladas. Los rayos de luz no pueden sufrir interferencias. La principal dificultad es poder soportar la variedad de tipos de entrada que existen a menudo, como así también la generación de atenuadores holográficos.

20. Aplicaciones y ejemplos Introducción Implementación Software Las redes neuronales han sido usadas en la imitación de patrones, para generalizar, para combinar nuevas situaciones con otras anteriores, reflejar estructuras dentro de su entorno, y seleccionar entre diversas posibilidades. Implementación Hardware Ejemplos Futuras Tendencias y Conclusión Intel Corporation lanzó un chip de red neuronal analógica en Agosto de 1990. Las investigaciones prosiguieron además en los laboratorios de AT&T, TRW, Texas Instruments, IBM, General Electric, NASA’s Jet Propulsion Laboratory, entre otros. Los investigadores de Allied Signal entrenaron una red para reconocer objetivos submarinos a partir de un sonar. La Universidad de Pennsylvania creó una red neuronal óptica para detectar objetos mediante un radar.

21. Aplicaciones y ejemplos Introducción Implementación Software El soft NestorWriter de Nestor, Inc. utiliza un diseño de red neuronal para interpretar letras manuscritas sobre un pad sensible. Implementación Hardware Ejemplos Futuras Tendencias y Conclusión Los beneficios de las redes neuronales han sido reconocidos especialmente en Japón, donde un número considerable de bienes de consumo está haciéndose usando esta tecnología. Compañías europeas que han investigado el uso de redes neuronales basadas en hardware: Ericsson (UK y Suecia), Philips Research (NL), Siemens AG Munich, Siemens / Nixdorf Bonn, 3M Laboratories (Europa) GmbH Neuss, XIONICS Document Technologies GmbH dortmund, Robert Bosch GmbH Reutlingen, Spectrum Microelectronics Siek (Alemania), Fiat (Italia), Domain Dynamics Ltd (UK).

22. CNAPS de Adaptive Solutions Introducción Implementación Software Implementación Hardware Ejemplos Futuras Tendencias y Conclusión Emplea chips CNAPS-1064 ó 1016 según posea 64 ó 16 elementos procesadores (neuronas). Cada elemento procesador contiene un multiplicador de 9x16 bits, un acumulador de 32 bits y 4 kbytes de memoria “on-chip” para almacenamiento de pesos sinápticos. Arquitectura SIMD. No provee operaciones de punto flotante, y la división debe ser implementada mediante algoritmos.

23. ZISC de IBM (Zero Instruction Set Computer) Introducción Implementación Software Implementación Hardware Ejemplos Futuras Tendencias y Conclusión Desarrollado en los laboratorios IBM de París. Es de tipo Funciones Base Radiales (RBF). El ZISC036 consta de 36 neuronas. El chip se vende por separado, o en formatos de Tarjetas ISA, SIMM o PCI.

24. Futuras tendencias y conclusión Introducción Implementación Software Están emergiendo los chips basados en neuronas como también las aplicaciones para la resolución de problemas complejos. Claramente, el presente es un período de transición para la tecnología de las redes neuronales. Implementación Hardware Ejemplos Futuras Tendencias y Conclusión Predicción 1 Predicción 2 Predicción 3 Realidades alternativas producidas por entornos sensitivos. Integración de la Inteligencia Artificial con la vida orgánica. Nuevas interfases máquina-hombre.

25. Integrantes • Aguilera Fernández Oscar A. • Carbajal Coronado Jaime F. • Chávez Mendoza Diana • Leal Aranda Liliana A. • Karla Gpe. Montes de Oca Lima