“La IA generativa está transformando industrias y abriendo nuevas oportunidades para la innovación y el crecimiento”, dijo Jensen Huang, fundador y CEO de NVIDIA, en un discurso previo a la conferencia tecnológica COMPUTEX que se celebra esta semana en Taipéi.
“Hoy estamos en el umbral de un cambio importante en la computación”, dijo Huang a la audiencia, vestido con su característico chaqueta de cuero negro. “La intersección de la IA y la computación acelerada está destinada a redefinir el futuro”.
Huang habló delante de más de 6,500 líderes de la industria, prensa, emprendedores, jugadores, creadores y entusiastas de la IA reunidos en el Centro Deportivo de la Universidad Nacional de Taiwán, con cúpula de cristal, situado en el corazón verde de Taipéi.
El tema: las plataformas aceleradas de NVIDIA están en plena producción, ya sea a través de PCs y dispositivos de consumo con capacidades impulsadas por NVIDIA RTX o empresas que construyen y despliegan fábricas de IA con la plataforma de computación completa de NVIDIA.
“El futuro de la computación es acelerado”, dijo Huang. “Con nuestras innovaciones en IA y computación acelerada, estamos ampliando los límites de lo que es posible y conduciendo la próxima ola de avances tecnológicos.”
‘Ritmo anual’
Viene más, con Huang revelando una hoja de ruta para nuevos semiconductores que llegarán con un ritmo anual. Presentada por primera vez, la plataforma Rubin sucederá a la próxima plataforma Blackwell, con nuevos GPUs, un nuevo CPU basado en Arm — Vera — y redes avanzadas con NVLink 6, CX9 SuperNIC y el conmutador X1600 InfiniBand/Ethernet convergido.
“Nuestra empresa tiene un ritmo anual. Nuestra filosofía básica es muy simple: construir todo el centro de datos a escala, desagregar y venderle partes a usted en un ritmo anual, y empujar todo a los límites de la tecnología”, explicó Huang.
El equipo creativo de NVIDIA usó herramientas de IA de miembros del programa de startups NVIDIA Inception, construidas en NVIDIA NIM y la computación acelerada de NVIDIA, para crear la presentación principal de COMPUTEX. Esta exhibición, repleta de demostraciones, destacó estas herramientas innovadoras y el impacto transformador de la tecnología de NVIDIA.
‘La computación acelerada es computación sostenible’
NVIDIA está reduciendo el costo de convertir datos en inteligencia, explicó Huang al comenzar su charla.
“La computación acelerada es computación sostenible”, enfatizó, detallando cómo la combinación de GPUs y CPUs puede ofrecer hasta una aceleración de 100 veces mientras solo aumenta el consumo de energía por un factor de tres, logrando 25 veces más rendimiento por vatio en comparación con las CPUs solas.
“Cuanto más compre, más ahorra”, señaló Huang, destacando los ahorros significativos en costos y energía de este enfoque.
la industria se une a NVIDIA para construir fábricas de IA que impulsen una nueva revolución industrial
Los principales fabricantes de computadoras, particularmente de Taiwán, el centro global de TI, han adoptado GPUs y soluciones de redes NVIDIA. Las principales empresas incluyen ASRock Rack, ASUS, GIGABYTE, Ingrasys, Inventec, Pegatron, QCT, Supermicro, Wistron y Wiwynn, que están creando sistemas de IA en la nube, en instalaciones y en el borde.
La plataforma de diseño de referencia modular NVIDIA MGX ahora admite Blackwell, incluida la plataforma GB200 NVL2, diseñada para un rendimiento óptimo en la inferencia de grandes modelos de lenguaje, generación aumentada por recuperación y procesamiento de datos.
AMD e Intel están apoyando la arquitectura MGX con planes para entregar, por primera vez, sus propios diseños de módulos de procesadores host CPU. Cualquier fabricante de sistemas de servidores puede utilizar estos diseños de referencia para ahorrar tiempo de desarrollo mientras garantiza consistencia en diseño y rendimiento.
Redes de próxima generación con Spectrum-X
En el ámbito de las redes, Huang presentó planes para el lanzamiento anual de productos Spectrum-X para atender la creciente demanda de redes Ethernet de alto rendimiento para IA.
NVIDIA Spectrum-X, la primera estructura Ethernet construida para IA, mejora el rendimiento de la red en un 1.6 veces más que las estructuras Ethernet tradicionales. Acelera el procesamiento, análisis y ejecución de cargas de trabajo de IA y, a su vez, el desarrollo y despliegue de soluciones de IA.
CoreWeave, GMO Internet Group, Lambda, Scaleway, STPX Global y Yotta son algunos de los primeros proveedores de servicios en la nube que adoptaron Spectrum-X para llevar un rendimiento extremo de redes a sus infraestructuras de IA.
NVIDIA NIM transformará a millones en desarrolladores de IA generativa
Con NVIDIA NIM, los 28 millones de desarrolladores del mundo ahora pueden crear fácilmente aplicaciones de IA generativa. NIM — microservicios de inferencia que proporcionan modelos como contenedores optimizados — pueden desplegarse en nubes, centros de datos o estaciones de trabajo.
NIM también permite a las empresas maximizar sus inversiones en infraestructura. Por ejemplo, ejecutar Meta Llama 3-8B en un NIM produce hasta 3 veces más tokens de IA generativa en infraestructura acelerada que sin NIM.
Casi 200 socios tecnológicos — incluidos Cadence, Cloudera, Cohesity, DataStax, NetApp, Scale AI y Synopsys— están integrando NIM en sus plataformas para acelerar los despliegues de IA generativa para aplicaciones específicas de dominios, como copilotos, asistentes de código, avatares humanos digitales y más. Hugging Face ahora ofrece NIM — comenzando con Meta Llama 3.
“Hoy acabamos de publicar en Hugging Face Llama 3 totalmente optimizado, está disponible allí para que lo prueben. Incluso pueden llevárselo”, dijo Huang. “Así que pueden ejecutarlo en la nube, en cualquier nube, descargar este contenedor, ponerlo en su propio centro de datos y pueden hospedarlo para hacerlo disponible a sus clientes.”
NVIDIA da vida a asistentes de IA con GeForce RTX AI PC
Las PCs RTX AI de NVIDIA, impulsadas por las tecnologías RTX, están preparadas para revolucionar las experiencias de los consumidores con más de 200 laptops RTX AI y más de 500 aplicaciones y juegos impulsados por IA.
El RTX AI Toolkit y los microservicios de inferencia NIM para PC basados en la plataforma digital humana NVIDIA ACE subrayan el compromiso de NVIDIA con la accesibilidad de la IA.
El proyecto G-Assist, una demostración de tecnología de asistente de IA impulsada por RTX, también se anunció, presentando asistencia contextual para juegos y aplicaciones de PC.
Y Microsoft y NVIDIA están colaborando para ayudar a los desarrolladores a llevar nuevas capacidades de IA generativa a sus aplicaciones nativas de Windows y web con acceso fácil a API que permiten capacidades de RAG aceleradas por RTX que se ejecutan en el dispositivo como parte de Windows Copilot Runtime.
La robótica de NVIDIA es adoptada por líderes de la industria
NVIDIA está liderando el cambio de digitalización industrial de $50 billones, con sectores que adoptan operaciones autónomas y gemelos digitales — modelos virtuales que mejoran la eficiencia y reducen costos. A través de su Programa de Desarrolladores, NVIDIA ofrece acceso a NIM, fomentando la innovación en IA.
Los fabricantes taiwaneses están transformando sus fábricas usando la tecnología de NVIDIA, con Huang mostrando el uso de NVIDIA Omniverse, Isaac y Metropolis por parte de Foxconn para crear gemelos digitales, combinando IA de visión y herramientas de desarrollo de robots para instalaciones robóticas mejoradas.
“La próxima ola de IA es IA física. IA que entiende las leyes de la física, IA que puede trabajar entre nosotros”, dijo Huang, enfatizando la importancia de la robótica y la IA en futuros desarrollos.
La plataforma NVIDIA Isaac proporciona un robusto conjunto de herramientas para que los desarrolladores construyan robots de IA, incluidos AMRs, brazos industriales y humanoides, impulsados por modelos de IA y supercomputadoras como Jetson Orin y Thor.
“La robótica está aquí. La IA física está aquí. Esto no es ciencia ficción, y se está utilizando por todas partes de Taiwán. Es realmente, realmente emocionante”, añadió Huang.
Gigantes de la electrónica global están integrando la robótica autónoma de NVIDIA en sus fábricas, aprovechando la simulación en Omniverse para probar y validar esta nueva ola de IA para el mundo físico. Esto incluye más de 5 millones de robots preprogramados en todo el mundo.
“Todas las fábricas serán robóticas. Las fábricas orquestarán robots, y esos robots construirán productos que son robóticos”, explicó Huang.
Huang enfatizó el papel de NVIDIA Isaac en la mejora de la eficiencia de fábricas y almacenes, con líderes globales como BYD Electronics, Siemens, Teradyne Robotics e Intrinsic adoptando sus avanzadas bibliotecas y modelos de IA.
NVIDIA AI Enterprise en la plataforma IGX, con socios como ADLINK, Advantech y ONYX, ofrece soluciones de IA en el borde que cumplen con estrictos estándares regulatorios, esenciales para la tecnología médica y otras industrias.
Un homenaje a Taiwán
Huang terminó su discurso de la misma manera en que lo comenzó, rindiendo homenaje a Taiwán y a los numerosos socios de NVIDIA allí. “Gracias”, dijo Huang. “Los quiero, chicos.”