IA generativa con Blackwell B200

El pasado 18 de marzo, durante la NVIDIA GTC 2024, Jensen Huang, CEO de NVIDIA,compartió su visión sobre la evolución
y el futuro prometedor de la Inteligencia Artificial (IA). Desde su concepción hasta el impresionante panorama actual,
la IA ha revolucionado numerosos campos, simplificando y enriqueciendo nuestras vidas de maneras que apenas empezamos a comprender.

Sin embargo, como bien apunta Huang, el potencial de cualquier software está intrínsecamente vinculado
a la capacidad del hardware que lo ejecuta. En este sentido, NVIDIA no solo ha anunciado el procesador gráfico
Blackwell B200, sino que, con él,promete redefinir los límites de lo posible en este sector.

El Blackwell B200, nombrado en honor al matemático y estadístico David Harold Blackwell, es el sucesor de la arquitectura Hopper de NVIDIA y promete un rendimiento sin precedentes. Destaca por ofrecer un incremento de 2.5 veces en rendimiento por chip en FP8 para entrenamiento, y hasta 5 veces en FP4 para inferencia, comparado con su predecesor. Esta mejora es fundamental para el entrenamiento y ejecución de modelos de IA generativa, que requieren de una potencia de cómputo cada vez mayor.

Además, la arquitectura Blackwell introduce la quinta generación de NVLink, una interconexión que duplica la velocidad de Hopper y permite escalar hasta 576 GPUs. Esto, combinado con el NVIDIA GB200 Grace Blackwell Superchip, que integra dos GPUs Blackwell B200 Tensor Core con la CPU NVIDIA Grace mediante un interconector NVLink de 900GB/s de bajo consumo, marca el inicio de una nueva era en computación acelerada.

El sistema GB200, complementado con las plataformas NVIDIA Quantum-X800 InfiniBand y Spectrum-X800 Ethernet, ofrece una solución de red avanzada capaz de manejar velocidades de hasta 800Gb/s. Este ecosistema no solo es una proeza tecnológica por su capacidad, sino también por su eficiencia energética y su diseño compacto y coherente, que permite a distintos componentes trabajar unificados en aplicaciones complejas.

Para escalar aún más estas capacidades, NVIDIA ha creado el NVLink Switch, que puede conectar cuatro interconexiones NVLink a 1.8 terabytes por segundo, facilitando la creación de "un gigantesco GPU", el NVIDIA GB200 NVL72. Este sistema multi-nodo ofrece 720 petaflops de rendimiento de entrenamiento de IA y 1.4 exaflops de rendimiento de inferencia en un solo rack, una capacidad comparada solo con las pocas superordenadores exaflop existentes.

Mirando hacia el futuro, el NVIDIA DGX SuperPOD, alimentado por NVIDIA GB200 Grace Blackwell Superchips, representa la próxima generación en supercomputación de IA, con 11.5 exaflops de supercomputación de IA a precisión FP4 y 240 terabytes de memoria rápida, expandible con racks adicionales. Este superordenador, diseñado para cargas de trabajo de entrenamiento e inferencia generativa de IA a gran escala, subraya la visión de Huang de los centros de datos como "fábricas de IA".

La siguiente imagen compara las características principales de las diferentes generaciones del sistema NVLink:

La adopción de Blackwell por parte de líderes tecnológicos y empresas innovadoras en IA alrededor del mundo testimonia el potencial transformador de esta plataforma. Con el respaldo de figuras como Sundar Pichai de Alphabet y Google, y Elon Musk de Tesla y xAI, entre otros, está claro que Blackwell no solo es una promesa para el futuro de la IA, sino una realidad que ya está redefiniendo las capacidades de la computación acelerada.

La era de la IA generativa promete ser revolucionaria, y con el lanzamiento de Blackwell B200, NVIDIA no solo está preparada para liderar esta transformación, sino también para empoderar a las empresas y desarrolladores a explorar nuevos horizontes en este sector.