Memoria virtual

1. Memoria virtual

2. Introducción • Memoria virtual es un mecanismo que permite que la memoria principal parezca mas grande que su tamaño físico. • Permite ejecutar programas mas grandes que la memoria física disponible. • La memoria principal actúa como caché de la memoria secundaria (disco duro). Arquitectura de Computadoras

3. Definiciones • Espacio de direcciones. Rango de localidades de memoria accesibles solo por un programa. • Dirección física. Dirección en la memoria principal. • La memoria virtual incluye mecanismos para traducir del espacio de direcciones a direcciones físicas. • Protección. Mecanismos para asegurar que múltiples procesos que compartan la CPU, memoria o dispositivos de I/O no interfieran uno con otro. • La protección también aísla los procesos del usuario de los procesos del sistema operativo. Arquitectura de Computadoras

4. Memoria y cachés • Los conceptos en memoria virtual y cachés son los mismos pero con nombres diferentes. • Un bloque en memoria virtual se llama “página”. • Una falla en memoria virtual se llama “falta de página”. • En memoria virtual la CPU produce una “dirección virtual” que es traducida por hardware y software a una dirección física que se usa para accesar la memoria principal. Arquitectura de Computadoras

5. Mapeo de direcciones • Esta traducción se le llama “mapeo de direcciones” o “traducción de direcciones”. Arquitectura de Computadoras

6. Relocalización • La memoria virtual ofrece un mecanismo de relocalización de programas. • Las direcciones virtuales usada por un programa se mapean a direcciones físicas. • Los programas se componen de una o mas páginas de tamaño fijo. • El sistema operativo carga en memoria principal solo un número suficiente de páginas por programa. Arquitectura de Computadoras

7. Direcciones virtuales y físicas • En memoria virtual, una dirección se compone de un número de página virtual y un offset. • El número de página virtual se traduce a un número de página física. Arquitectura de Computadoras

8. Direcciones virtuales y físicas • El número de bits del offset determina el tamaño de la página. • El número de bits del número de página virtual es mayor o igual al número de bits del número de página física. • La idea es que la memoria virtual sea mas grande que la memoria física. Arquitectura de Computadoras

9. Consideraciones de diseño • La falta de página es muy costosa. • La memoria principal es 100,000 veces más rápida que el disco duro. Arquitectura de Computadoras

10. Consideraciones de diseño • Consideraciones: • Las páginas deben ser suficientemente grandes para amortizar el costo de acceso (32 – 64KB). • Para reducir la tasa de faltas, los bloques pueden ir en cualquier parte de la memoria principal (i.e. la memoria es fully associative). • Las faltas de página se manejan por software para permitir algoritmos “inteligentes”. • Cualquier reducción en la tasa de faltas vale la pena el esfuerzo de implementación. Arquitectura de Computadoras

11. Consideraciones de diseño • Write-through no funciona para memoria virtual. Los sistemas de memoria virtual usan write-back. Arquitectura de Computadoras

12. Buscando una página • Una página puede estar en cualquier lugar de la memoria. • Se usa una tabla para accesar la memoria llamada “tabla de páginas”. • La tabla de páginas se indexa con el número de página virtual y regresa el número de página física. • La CPU incluye un registro para apuntar a la tabla de páginas del programa que está corriendo. Arquitectura de Computadoras

13. Tabla de páginas Arquitectura de Computadoras

14. Explicación • El registro de tabla de páginas apunta al comienzo de la tabla de páginas. • El tamaño de página es 212 = 4 KB. • El espacio de direcciones virtuales es 232 = 4 GB. • El espacio de direcciones físicas es 230 = 1 GB. • El número de entradas en la tabla de páginas es 220 = 1,048,576. • Cada entrada tiene un bit válido para indicar si el mapeo es legal. • Si el bit es falso, se genera una falta de página. Arquitectura de Computadoras

15. Tabla de páginas • Cada programa tiene su propia tabla de páginas. • Varios programas pueden tener el mismo espacio de direcciones virtuales. • El sistema operativo se encarga de: • Asignar la memoria física. • Actualizar las tablas de páginas para que los espacios de direcciones virtuales de los distintos programas no colisionen. Arquitectura de Computadoras

16. Falta de página • Ocurre cuando el bit válido es falso. • El sistema operativo: • Toma el control. • Interrumpe el proceso y guarda su estado. • Busca la página en el área de swap del disco duro y la carga en la memoria principal. • Si la memoria está llena, se necesita reemplazar una página. • Típicamente, la estrategia de reemplazo es LRU (o una aproximación). Arquitectura de Computadoras

17. Área de swap • Área del disco reservada para todo el espacio de memoria virtual de un proceso. • Incluye un registro de donde se guarda en disco cada página virtual. Arquitectura de Computadoras

18. Tamaño de la tabla de páginas • Suponer lo siguiente: • Direcciones virtuales de 32 bits. • Número de página virtual ocupa 20 bits y el offset los otros 12 bits. • El número de entradas en la tabla de páginas es 220 = 1,048,576. • Si cada entrada ocupa 4 bytes, la tabla ocupa 4 MB. • Si hay cientos de procesos, la memoria puede ser insuficiente. • Es deseable reducir el tamaño de la tabla. Arquitectura de Computadoras

19. Tamaño de la tabla de páginas • Estrategias: • La tabla crece según el proceso consume memoria (tabla dinámica). • No es práctico en los esquemas modernos de usar un área dinámica de pila y otra de heap. • Usar dos tablas dinámicas, una para la pila y otra para el heap. • Las tablas crecen en direcciones opuestas. • Usado en varias arquitecturas incluyendo MIPS. Arquitectura de Computadoras

20. Tamaño de la tabla de páginas • Hacer la tabla de páginas virtual. • La tabla se página y reside en el espacio de direcciones virtuales. • Desventaja: se generan nuevos problemas, como posibles cadenas sin fin de faltas de página. • Solución general: • Las tablas residen en el espacio de direcciones del sistema operativo. • Algunas de las tablas del sistema se colocan en memoria principal y nunca en disco. Arquitectura de Computadoras

21. TLB • Aunque las tablas de páginas residan en memoria principal, cada acceso toma el doble de tiempo: • Un acceso para obtener la dirección física. • Un segundo acceso para obtener los datos. • Para mejorar el rendimiento se aprovecha el concepto de “locality”. • Si una traducción de una dirección virtual se acaba de usar, es posible que se vuelva a usar. • Se usa un caché especial de traducciones llamado TLB (translation-lookaside buffer). Arquitectura de Computadoras

22. TLB Arquitectura de Computadoras

23. Explicación • La TLB actúa como caché para las entradas que mapean solo a páginas físicas. • La TLB contiene un subconjunto de los mapeos de página virtual a página física que están en la tabla de páginas. • Como el TLB es un caché tiene campo de etiqueta. • Si la página no está en el TLB se busca en la tabla de páginas. Arquitectura de Computadoras

24. Explicación • Se busca la página virtual en la tabla de páginas y sucede una de dos cosas: • Regresa el número de página física de la página (que se usa para construir una entrada en la TLB). • Indica que la página reside en disco, en cuyo caso se genera una falta de página. • La tabla de páginas no tiene campo de etiqueta porque no es un cache. Arquitectura de Computadoras

25. Valores típicos de TLB • Tamaño: 16 – 512 entradas. • Tamaño de bloque: 1 – 2 entradas de la tabla de páginas (4 – 8 bytes cada una). • Hit time: 0.5 – 1 ciclo de reloj. • Miss penalty: 10 – 100 ciclos de reloj. • Miss rate: 0.01% – 1%. • Estategia de escritura: write-back. • Organización típica: fully associative con reemplazo aleatorio de bloques. Arquitectura de Computadoras

26. Intrinsity FastMATH TLB • Tamaño de página: 4 KB. • Tamaño de la dirección: 32 bits, 20 bits para el número de página virtual y 12 bits para el offset. • La dirección física también es de 32 bits. • El TLB tiene 16 entradas, es fully associative y se comparte entre referencias a datos y a instrucciones. • Cada entrada del TLB es de 64 bits. • Etiqueta de 20 bits (número de página virtual). • Número de página física, también de 20 bits. • Bit válido, bit sucio y otros bits de referencia. Arquitectura de Computadoras

27. Arquitectura de Computadoras

28. Intrinsity FastMATH TLB • Procesando una petición de lectura o escritura. Arquitectura de Computadoras

29. Intrinsity FastMATH TLB • Cuando ocurre una falla de TLB: • Se interrumpe el proceso actual. • Entra el sistema operativo a manejar la falla. • Accesa la tabla de páginas. • Si la dirección física es válida, la guarda en el TLB. • Si no es válida, se genera una falta de página. • La entrada a reemplazar se escoge aleatoriamente. Arquitectura de Computadoras

30. Jerarquía de memoria • La Memoria virtual, el TLB y los cachés forman una jerarquía. • Un dato no puede estar en el caché sin estar en la memoria principal. • El sistema operativo mantiene la jerarquía borrando una página del caché si decide migrar la página de la memoria principal al disco duro. • Al mismo tiempo, modifica el TLB y la tabla de página de modo que una referencia a un dato en la página produce una falta de página. Arquitectura de Computadoras

31. Combinaciones • Posibles combinaciones de eventos en el TLB, memoria virtual y caché. Arquitectura de Computadoras

32. Protección • El sistema operativo debe asegurar que un proceso no escriba en el espacio de direcciones de otro proceso. • El bit de acceso de escritura en la TLB protege una página de ser escrita. • El hardware debe ofrecer al menos tres capacidades: • Soportar dos modos para distinguir entre un proceso de usuario (modo usuario) y un proceso del sistema operativo (modo kernel o supervisor). Arquitectura de Computadoras

33. Protección • Proveer una parte del estado del procesador de solo lectura. Esto incluye el bit de modo usuario/supervisor, el apuntador a la tabla de páginas y el TLB. • Proveer un mecanismo para que el procesador vaya de modo usuario a modo supervisor y viceversa. • Modo usuario  supervisor: excepción de llamada al sistema (system call exception). • Modo supervisor  usuario: regreso de excepción. Arquitectura de Computadoras

34. Protección • Un proceso no debe accesar los datos de otro. • Un proceso de usuario no puede cambiar su propia tabla de páginas. • El sistema operativo es el único que puede hacerlo. • Si un proceso P2 desea compartir una página con P1, debe pedirle al sistema operativo que cree una entrada en la tabla de páginas de P1 que apunte a dicha página física de P2. Arquitectura de Computadoras

35. Protección • Cambio de contexto (context switch). Cuando el sistema operativo decide dejar de correr un proceso P1 para correr otro proceso P2. • El sistema operativo debe asegurarse que P2 no pueda accesar las páginas de P1. • Hay dos opciones: • Limpiar el TLB en cada cambio de contexto. Problema: serie de fallas cuando P1 regrese y encuentre el TLB vacío. Arquitectura de Computadoras

36. Protección • Agregar el número de proceso (pid – process id) al TLB. Intrinsity FastMATH usa un campo de 8 bits con el pid. Un éxito en el TLB ocurre solo si el número de página y el pid coinciden. Arquitectura de Computadoras

37. Conclusión • Memoria virtual es el nivel de memoria que actúa como caché entre la memoria principal y el disco. • Permite a un programa expander su espacio de direcciones mas allá de los límites de la memoria principal. • Permite compartir la memoria principal entre varios procesos activos. • Para apoyar la compartición, la memoria virtual debe ofrecer mecanismos para protección de la memoria. Arquitectura de Computadoras

38. Conclusión • El principal problema es el alto costo de las faltas de página. • Técnicas para reducir la tasa de faltas: • Usar páginas grandes para tomar ventaja del locality espacial. • El mapeo entre direcciones virtuales y físicas es fully associative. Una página virtual puede estar donde sea en la memoria principal. • El sistema operativo usa técnicas, como LRU (o su aproximación) para escoger la página a reemplazar. Arquitectura de Computadoras

39. Conclusión • Las escrituras son caras. Se usa write-back y un bit sucio para evitar escribir páginas que no cambiaron. • Para asegurar que los procesos estén protegidos unos de otros, el sistema operativo es el único que puede alterar las tablas de páginas. • La tabla de páginas incluye un bit de acceso de escritura para permitir que otro proceso escriba en alguna página. • El TLB actúa como caché de la tabla de páginas. Arquitectura de Computadoras