RiuNet. Repositorio Institucional de la Universitat Politécnica de Valéncia
Publicación
Tesis de maestría (MasterThesis)
Toolchain automatizado para la integración de Kernels CUTLASS en motores TensorRT, Automated Toolchain for the Integration of CUTLASS Kernels into TensorRT Engines, Toolchain automatitzat per a la integració de Kernels CUTLASS en motors TensorRT
[ES] El despliegue de Redes Neuronales Convolucionales (CNN) en sistemas críticos exige tanto un alto rendimiento como estrictas garantías de seguridad funcional frente a fallos
físicos de hardware. Sin embargo, motores de inferencia de referencia como NVIDIA TensorRT operan bajo un paradigma de «caja negra» que impide la inyección de mecanismos
de tolerancia a fallos a nivel de kernel. Este Trabajo de Fin de Máster presenta el diseño, implementación y evaluación de un toolchain automatizado que sustituye las convolu-
ciones nativas de TensorRT por kernels altamente optimizados generados con CUTLASS. Esta transición hacia un paradigma de «caja blanca» otorga un control granular sobre
la ejecución, permitiendo la integración de un mecanismo de saneamiento in-situ. Dicho mecanismo intercepta activaciones anómalas mediante la inyección de una operación de
recorte asimétrico directamente en el epílogo del kernel, acotando los valores corruptos antes de que colapsen el grafo tensorial. La evaluación experimental, realizada sobre un
modelo YOLOv8n en un dispositivo NVIDIA Jetson AGX Orin, demuestra que el toolchain propuesto ofrece un rendimiento competitivo frente al motor propietario, siendo
capaz de generar un engine equivalente compatible con el motor de inferencia de NVIDIA. Sometido a una severa campaña de inyección de fallos (bit-flips), el mecanismo de
protección logra erradicar por completo los colapsos del sistema (Tasa de Fallo Fatal del 0,00 %) garantizando la continuidad de la inferencia con una sobrecarga computacional
inferior al 1 %.