NVIDIA revoluciona la inteligencia artificial con eficiencia extrema

Fuente: OKDiario · tecnologia · nacional, España

NVIDIA revoluciona la inteligencia artificial con eficiencia extrema

El avance tecnológico en el sector de los microprocesadores y la inteligencia artificial sigue su curso con el anuncio de los nuevos sistemas de NVIDIA. La compañía ha detallado el funcionamiento del sistema Vera Rubin NVL72, destacando una capacidad de rendimiento que multiplica por treinta la rentabilidad por dólar en comparación con el modelo anterior GB300 NVL72. Lo más llamativo de este desarrollo es que se consigue utilizando apenas un tres por ciento más de memoria HBM por GPU, en un contexto global donde el suministro de componentes se reduce y los precios continúan al alza. En una entrada publicada en su blog oficial y firmada por Amr Elmeleegy, la compañía subraya que cada gigabyte ahorrado representa un valor económico muy significativo para los centros de datos actuales. Expertos del sector ya habían advertido previamente sobre la fuerte subida en los precios de la memoria. En este escenario, el desafío principal ya no reside únicamente en acumular más capacidad de memoria, sino en maximizar el trabajo útil que entrega cada byte disponible dentro de la infraestructura. El sistema Vera Rubin integra importantes novedades técnicas firmadas por especialistas como Eduardo Alvarez, Jamie Li y Ronil Prasad. Cada GPU Rubin incorpora hasta 288 gigabytes de memoria HBM4, sumando más de veinte terabytes en todo el rack completo. Para ilustrar las limitaciones físicas del hardware, NVIDIA recurre al símil logístico de un almacén y sus muelles de carga, señalando que ampliar el espacio de almacenamiento no sirve de nada si los accesos se saturan, un fenómeno conocido en la industria como el muro de memoria. Para superar este escollo, la estrategia pasa por reducir el tamaño de los datos mediante formatos avanzados como el NVFP4, que disminuye de forma drástica el espacio ocupado tanto por los modelos como por la caché de contexto, vital para los agentes de inteligencia artificial que procesan millones de tokens de información. Asimismo, la arquitectura combina la potencia de las nuevas CPU Vera con un sistema de almacenamiento flash compartido llamado CMX, logrando abatar costes y agilizar los tiempos de respuesta de forma notable en los centros de datos. Fuente: OKDiario

🔗 Leer la noticia completa en OKDiario

Ver más en NewsToday