[ES] La creciente presión sobre los recursos compartidos de la jerarquía de memoria en los sistemas de cómputo modernos se ha convertido en un factor crítico que limita el rendimiento. La proliferación de aplicaciones concurrentes, impulsada por cargas de trabajo de aprendizaje automático y entornos virtualizados en la nube, ha transformado la concepción tradicional de las jerarquías de memoria y acentuado la necesidad de ampliar la capacidad de la memoria principal. Sin embargo, la memoria DRAM convencional enfrenta restricciones físicas y tecnológicas que comprometen su escalabilidad, lo que ha impulsado la incorporación de memorias no volátiles (NVRAM) como alternativa emergente. A pesar de sus ventajas en densidad, la mayor latencia de acceso de la NVRAM plantea nuevos desafíos que requieren rediseñar y optimizar los mecanismos de gestión de memoria.
En este contexto, los mecanismos de prefetching resultan fundamentales para mitigar las penalizaciones de latencia y aprovechar plenamente las nuevas tecnologías de memoria. No obstante, la configuración de prefetchers en arquitecturas multinivel plantea tensiones significativas, dado que su carácter especulativo incrementa el consumo de ancho de banda y puede deteriorar el rendimiento en sistemas con alta concurrencia. Así, la selección adecuada de configuraciones de prefetching requiere un equilibrio entre las características de acceso de las aplicaciones y la eficiencia en el uso del ancho de banda compartido.
De manera complementaria, la integración de memorias NVRAM en la jerarquía introduce profundos cambios estructurales. La menor velocidad de estas memorias en comparación con la DRAM exige el diseño de nuevas organizaciones de caché y controladores de memoria capaces de mitigar sus limitaciones de latencia y preservar el rendimiento de los procesadores de altas prestaciones.
Esta tesis aborda de forma conjunta dos problemáticas clave en la evolución de las jerarquías de memoria: (i) la selección óptima de configuraciones de prefetching en cargas de trabajo multiprogramadas mediante técnicas basadas en redes neuronales, y (ii) el diseño de jerarquías profundas con NVRAM orientadas a aumentar la capacidad de memoria principal sin comprometer el rendimiento., [EN] The increasing pressure on shared resources within the memory hierarchy of modern computing systems has become a critical performance-limiting factor. The proliferation of concurrent applications, driven by machine learning workloads and cloud-based virtualized environments, has reshaped the traditional conception of memory hierarchies and highlighted the need to expand main memory capacity. However, conventional DRAM faces physical and technological constraints that hinder its scalability, fostering the integration of non-volatile memories (NVRAM) as an emerging alternative. Despite their advantages in density, NVRAM technologies introduce higher access latency, which demands new strategies for memory management and optimization.
In this context, prefetching mechanisms play a fundamental role in mitigating latency penalties and fully exploiting the potential of emerging memory technologies. Nevertheless, the configuration of prefetchers in multilevel architectures poses significant challenges, as their speculative nature increases bandwidth consumption and can degrade performance in highly concurrent systems. Therefore, the optimal selection of prefetching configurations requires balancing application-specific access patterns with efficient shared bandwidth utilization.
Complementarily, the integration of NVRAM into the hierarchy introduces profound structural changes. The slower speed of these memories compared to DRAM necessitates the design of new cache organizations and memory controllers to mitigate latency limitations and sustain high-performance processor efficiency.
This dissertation %jointly
addresses two key challenges in the evolution of memory hierarchies: (i) the optimal selection of prefetching configurations in multiprogrammed workloads through neural network-based techniques, and (ii) the design of deep NVRAM hierarchies aimed at increasing main memory capacity without compromising system performance., [CA] La creixent pressió sobre els recursos compartits dins de la jerarquia de memòria dels sistemes de computació moderns s'ha convertit en un factor crític que limita el rendiment. La proliferació d'aplicacions concurrents, impulsada per les càrregues de treball d'aprenentatge automàtic i els entorns virtualitzats al núvol, ha transformat la concepció tradicional de les jerarquies de memòria i ha posat de manifest la necessitat d'ampliar la capacitat de la memòria principal. No obstant això, la DRAM convencional afronta restriccions físiques i tecnològiques que en dificulten l'escalabilitat, fet que ha propiciat la incorporació de memòries no volàtils (NVRAM) com a alternativa emergent. Tot i els seus avantatges en densitat, les NVRAM introdueixen una latència d'accés superior, la qual cosa exigeix noves estratègies de gestió i optimització de la memòria.
En aquest context, els mecanismes de prefetching són fonamentals per a mitigar les penalitzacions de latència i aprofitar plenament el potencial de les noves tecnologies de memòria. Tanmateix, la configuració dels prefetchers en arquitectures multinivell planteja reptes importants, atés que el seu caràcter especulatiu incrementa el consum d'ample de banda i pot degradar el rendiment en sistemes amb alta concurrència. Per tant, la selecció òptima de configuracions de prefetching requereix equilibrar els patrons d'accés específics de les aplicacions amb una utilització eficient dels recursos compartits.
De manera complementària, la integració de NVRAM en la jerarquia introdueix canvis estructurals profunds. La menor velocitat d'aquestes memòries en comparació amb la DRAM obliga a dissenyar noves organitzacions de memòria cau i nous controladors de memòria capaços de mitigar les seues limitacions de latència i mantindre l'eficiència dels processadors d'altes prestacions.
Aquesta tesi aborda conjuntament dos reptes clau en l'evolució de les jerarquies de memòria: (i) la selecció òptima de configuracions de prefetching en càrregues de treball multiprogramades mitjançant tècniques basades en xarxes neuronals, i (ii) el disseny de jerarquies profundes amb NVRAM orientades a augmentar la capacitat de la memòria principal sense comprometre el rendiment del sistema., This work has been supported by the Spanish Ministerio de Ciencia e Innovación and European ERDF under grants PID2021-123627OB-C51, PID2024-158682OB-C31, by MCIN/AEI/10.13039/501100011033 and European Union NextGenerationEU/PRTR under grant TED2021-130233B-C32, and Generalitat Valenciana under grant CIPROM/2024/007. Manel Lurbe is supported by Ayudas Contratos predoctorales UPV-subprograma 1 (PAID-01-20).