La inteligencia artificial y la computación acelerada, dos motores que NVIDIA mejora continuamente, están proporcionando eficiencia energética para muchas industrias.
La comunidad en general está comenzando a reconocer estos avances.
“Aunque las predicciones de que los centros de datos pronto representarán el 4% del consumo global de energía se hagan realidad, la IA está teniendo un gran impacto en la reducción del 96% restante del consumo de energía”, afirmó un informe del Lisbon Council Research, una organización sin fines de lucro formada en 2003 que estudia problemas económicos y sociales.
El artículo del grupo de investigación con sede en Bruselas es uno de los pocos estudios de políticas de IA que están comenzando a surgir. Utiliza el supercomputador Leonardo de Italia, acelerado con casi 14,000 GPUs de NVIDIA, como ejemplo de un sistema que avanza en campos que van desde el diseño de automóviles y el descubrimiento de medicamentos hasta la predicción del clima.
Por qué la computación acelerada es computación sostenible
La computación acelerada utiliza el procesamiento en paralelo de GPUs de NVIDIA para hacer más trabajo en menos tiempo. Como resultado, consume menos energía que los servidores de propósito general que emplean CPUs diseñadas para manejar una tarea a la vez.
Por eso, la computación acelerada es computación sostenible.
Las ganancias son aún mayores cuando los sistemas acelerados aplican IA, una forma de computación inherentemente en paralelo que es la tecnología más transformadora de nuestro tiempo.
“Cuando se trata de aplicaciones avanzadas como el aprendizaje automático o el aprendizaje profundo, el rendimiento de las GPUs es un orden de magnitud mejor que el de las CPUs”, afirmó el informe.
Experiencias de usuarios con IA acelerada
Usuarios de todo el mundo están documentando las ganancias en eficiencia energética con IA y computación acelerada.
En servicios financieros, Murex, una empresa con sede en París con una plataforma de gestión de comercio y riesgo utilizada diariamente por más de 60,000 personas, probó el NVIDIA Grace Hopper Superchip. En sus tareas, la combinación CPU-GPU entregó una reducción de 4x en el consumo de energía y una reducción de 7x en el tiempo de finalización en comparación con los sistemas solo con CPU.
“En cálculos de riesgo, Grace no solo es el procesador más rápido, sino también mucho más eficiente en términos de energía, haciendo que la TI verde sea una realidad en el mundo del comercio”, dijo Pierre Spatz, jefe de investigación cuantitativa en Murex.
En manufactura, Wistron, con sede en Taiwán, construyó una copia digital de una sala donde los sistemas NVIDIA DGX pasan pruebas de estrés térmico para mejorar las operaciones en el sitio. Utilizó NVIDIA Omniverse, una plataforma para la digitalización industrial, con un modelo sustituto, una versión de IA que emula simulaciones.
El gemelo digital, vinculado a miles de sensores en red, permitió a Wistron aumentar la eficiencia energética general de la instalación hasta en un 10%. Eso equivale a reducir el consumo de electricidad en 120,000 kWh por año y las emisiones de carbono en 60,000 kilogramos.
Hasta un 80% menos de emisiones de carbono
The RAPIDS Accelerator for Apache Spark puede reducir la huella de carbono para el análisis de datos, una forma ampliamente utilizada de aprendizaje automático, hasta en un 80%, mientras ofrece aumentos de velocidad promedio de 5x y reducciones en los costos de computación de 4x, según un benchmark reciente.
Miles de empresas — alrededor del 80% de las Fortune 500 — usan Apache Spark para analizar sus crecientes montañas de datos. Compañías que utilizan el acelerador de Spark de NVIDIA incluyen Adobe, AT&T y el Servicio de Impuestos Internos de EE.UU.
En la atención médica, Insilico Medicine descubrió y puso en fase 2 de ensayos clínicos un candidato a medicamento para una enfermedad respiratoria relativamente rara, gracias a su plataforma de IA impulsada por NVIDIA.
Utilizando métodos tradicionales, el trabajo habría costado más de $400 millones y tomado hasta seis años. Pero con IA generativa, Insilico alcanzó el hito por una décima parte del costo en un tercio del tiempo.
“Este es un hito significativo no solo para nosotros, sino para todos en el campo del descubrimiento de medicamentos acelerado por IA”, dijo Alex Zhavoronkov, CEO de Insilico Medicine.
Estos son solo algunos resultados que los usuarios de computación acelerada e IA están obteniendo en empresas como Amgen, BMW, Foxconn, PayPal y muchas más.
Acelerando la ciencia con IA acelerada
En la investigación básica, el Centro Nacional de Computación Científica para la Investigación Energética (NERSC), la instalación principal para la ciencia abierta del Departamento de Energía de EE.UU., midió resultados en un servidor con cuatro GPUs NVIDIA A100 Tensor Core comparados con servidores de CPU x86 de doble socket en cuatro de sus principales aplicaciones de computación de alto rendimiento e IA.
Los investigadores encontraron que las aplicaciones, cuando se aceleraron con las GPUs NVIDIA A100, vieron un aumento de 5x en promedio en la eficiencia energética. Una aplicación, para la previsión del clima, registró ganancias de casi 10x.
Científicos e investigadores de todo el mundo dependen de la IA y la computación acelerada para lograr alto rendimiento y eficiencia.
En una reciente clasificación de los supercomputadores más eficientes en energía del mundo, conocidos como los Green500, los sistemas impulsados por NVIDIA ocuparon los seis primeros lugares y 40 de los 50 primeros.
Ahorros de energía subestimados
Las muchas ganancias en todas las industrias y la ciencia a veces se pasan por alto en pronósticos que extrapolan solo el consumo de energía del entrenamiento de los modelos de IA más grandes. Eso pasa por alto los beneficios de la mayor parte de la vida de un modelo de IA cuando consume relativamente poca energía, proporcionando las eficiencias que los usuarios describen arriba.
En un análisis que cita docenas de fuentes, un estudio reciente desmintió como engañosas e infladas las proyecciones basadas en modelos de entrenamiento.
“Así como las primeras predicciones sobre las huellas energéticas del comercio electrónico y la transmisión de video demostraron ser exageradas, también lo serán probablemente esas estimaciones sobre la IA”, dijo el informe de la Fundación para la Tecnología de la Información e Innovación (ITIF), un think tank con sede en Washington.
El informe señala que hasta el 90% del costo — y todas las ganancias de eficiencia — de operar un modelo de IA están en su despliegue en aplicaciones después de ser entrenado.
“Dadas las enormes oportunidades de utilizar la IA para beneficiar a la economía y la sociedad — incluyendo la transición a un futuro de bajo carbono — es imperativo que los legisladores y los medios de comunicación hagan un mejor trabajo evaluando las afirmaciones que aceptan sobre el impacto ambiental de la IA”, dijo el autor del informe, quien describió sus hallazgos en un reciente podcast.
Otros citan los beneficios energéticos de la IA
Analistas de políticas del Instituto R Street, también en Washington D.C., estuvieron de acuerdo.
“En lugar de una pausa, los responsables de políticas necesitan ayudar a concretar el potencial de las ganancias de la IA”, escribió el grupo en un artículo de 1,200 palabras.
“La computación acelerada y el auge de la IA tienen un gran potencial para el futuro, con beneficios sociales significativos en términos de crecimiento económico y bienestar social”, decía el informe, citando los beneficios demostrados de la IA en el descubrimiento de medicamentos, la banca, el comercio de acciones y los seguros.
AI puede hacer que la red eléctrica, la manufactura y los sectores de transporte sean más eficientes, agregó.
La IA apoya los esfuerzos de sostenibilidad
Los informes también citaron el potencial de la IA acelerada para combatir el cambio climático y promover la sostenibilidad.
“La IA puede mejorar la precisión de la modelación del clima para mejorar la seguridad pública, así como generar predicciones más precisas de rendimientos de cultivos. El poder de la IA también puede contribuir a desarrollar modelos climáticos más precisos”, afirmó el informe de R Street.
El informe de Lisboa agregó que la IA juega “un papel fundamental en la innovación necesaria para abordar el cambio climático” en trabajos como el descubrimiento de materiales de baterías más eficientes.
Cómo la IA puede ayudar al medio ambiente
ITIF instó a los gobiernos a adoptar la IA como una herramienta en sus esfuerzos para descarbonizar sus operaciones.
Organizaciones públicas y privadas ya están aplicando la IA de NVIDIA para proteger los arrecifes de coral, mejorar el seguimiento de incendios forestales y climas extremos y aumentar la agricultura sostenible.
Por su parte, NVIDIA está trabajando con cientos de startups que utilizan IA para abordar problemas climáticos. NVIDIA también anunció planes para Earth-2, que se espera sea el supercomputador de IA más poderoso del mundo dedicado a la ciencia climática.
Mejorando la eficiencia energética en todos los niveles
Desde su fundación en 1993, NVIDIA ha trabajado en la eficiencia energética en todos sus productos: GPUs, CPUs, DPUs, redes, sistemas y software, así como plataformas como Omniverse.
En IA, la mayor parte de la vida de un modelo de IA está en la inferencia, proporcionando ideas que ayudan a los usuarios a lograr nuevas eficiencias. El NVIDIA GB200 Grace Blackwell Superchip ha demostrado una eficiencia energética 25x superior a la generación anterior de GPUs Hopper de NVIDIA en la inferencia de IA.
En los últimos ocho años, las GPUs de NVIDIA han avanzado increíblemente 45,000x en su eficiencia energética para ejecutar grandes modelos de lenguaje.
Las innovaciones recientes en software incluyen TensorRT-LLM. Puede ayudar a las GPUs a reducir 3x el consumo de energía de la inferencia de grandes modelos de lenguaje.
Un dato sorprendente: si la eficiencia de los autos mejorara tanto como NVIDIA ha avanzado en la eficiencia de la IA en su plataforma de computación acelerada, los autos recorrerían 280,000 millas por galón. Eso significa que podrías conducir hasta la luna con menos de un galón de gasolina.
El análisis aplica la eficiencia de combustible de los autos al enorme aumento de eficiencia de 10,000x de NVIDIA en el entrenamiento y la inferencia de IA de 2016 a 2025.
Impulsando la eficiencia de los centros de datos
NVIDIA entrega muchas optimizaciones a través de innovaciones a nivel de sistema. Por ejemplo, los DPUs NVIDIA BlueField-3 pueden reducir el consumo de energía hasta en un 30% al descargar funciones esenciales de redes e infraestructura de centros de datos de CPUs menos eficientes.
El año pasado, NVIDIA recibió una subvención de $5 millones del Departamento de Energía de EE.UU., la más grande de 15 subvenciones de un grupo de más de 100 aplicaciones, para diseñar una nueva tecnología de enfriamiento líquido para centros de datos. Funcionará un 20% más eficientemente que los enfoques de enfriamiento por aire actuales y tendrá una huella de carbono más pequeña.
Estas son solo algunas de las formas en que NVIDIA contribuye a la eficiencia energética de los centros de datos.
Los centros de datos están entre los usuarios más eficientes de energía y uno de los mayores consumidores de energía renovable.
El informe de ITIF destaca que entre 2010 y 2018, los centros de datos globales experimentaron un aumento del 550% en instancias de cómputo y un aumento del 2,400% en la capacidad de almacenamiento, pero solo un 6% en el uso de energía, gracias a mejoras en hardware y software.
NVIDIA continúa impulsando la eficiencia energética para la IA acelerada, ayudando a usuarios en la ciencia, el gobierno y la industria a acelerar sus caminos hacia la computación sostenible.
