NVIDIA presentó Project DIGITS, un superordenador personal de IA que proporciona a investigadores, científicos de datos y estudiantes acceso a la potencia de la plataforma NVIDIA Grace Blackwell.
Características de Project DIGITS
Project DIGITS cuenta con el nuevo NVIDIA GB10 Grace Blackwell Superchip, que ofrece un petaflop de rendimiento en computación de IA para la creación de prototipos, ajuste fino y ejecución de grandes modelos de IA.
Con Project DIGITS, los usuarios pueden desarrollar y ejecutar inferencias en modelos utilizando su propio sistema de escritorio, y luego desplegar los modelos sin problemas en infraestructura de nube o centros de datos acelerados.
“La IA será común en todas las aplicaciones para cada industria. Con Project DIGITS, el Superchip Grace Blackwell llega a millones de desarrolladores”, comentó Jensen Huang, fundador y CEO de NVIDIA. “Ubicar un superordenador de IA en los escritorios de cada científico de datos, investigador de IA y estudiante les permite participar y dar forma a la era de la IA.”
GB10 Superchip proporciona un petaflop de rendimiento
El GB10 Superchip es un sistema en un chip (SoC) basado en la arquitectura NVIDIA Grace Blackwell y ofrece hasta 1 petaflop de rendimiento de IA a una precisión FP4.
El GB10 cuenta con una NVIDIA Blackwell GPU con núcleos CUDA® de última generación y Tensor Cores de quinta generación, conectados a una NVIDIA Grace™ CPU de alto rendimiento mediante un interconector chip a chip NVLink®-C2C, que incluye 20 núcleos de tipo Arm de alta eficiencia energética. MediaTek, un líder del mercado en diseños de SoC basados en Arm, colaboró en el diseño del GB10, contribuyendo a su eficiencia energética, rendimiento y conectividad de primera clase.
El GB10 Superchip permite a Project DIGITS ofrecer un rendimiento potente utilizando únicamente una toma de corriente estándar. Cada Project DIGITS cuenta con 128 GB de memoria unificada y coherente y hasta 4 TB de almacenamiento NVMe. Con el superordenador, los desarrolladores pueden ejecutar modelos de lenguaje de hasta 200 mil millones de parámetros para impulsar la innovación en IA. Además, utilizando la red NVIDIA ConnectX®, dos superordenadores de IA Project DIGITS pueden conectarse para ejecutar modelos de hasta 405 mil millones de parámetros.
Supercomputación de IA Grace Blackwell al alcance
Con la arquitectura Grace Blackwell, las empresas e investigadores pueden crear prototipos, afinar y probar modelos en sistemas locales Project DIGITS que ejecutan el sistema operativo NVIDIA DGX basado en Linux, y luego desplegarlos sin problemas en NVIDIA DGX Cloud™, instancias de nube aceleradas o infraestructura de centros de datos.
Esto permite a los desarrolladores crear prototipos de IA en Project DIGITS y luego escalar en infraestructura de nube o centros de datos, utilizando la misma arquitectura Grace Blackwell y la plataforma de software NVIDIA AI Enterprise.
Los usuarios de Project DIGITS pueden acceder a una amplia biblioteca de software de IA de NVIDIA para experimentación y creación de prototipos, que incluye kits de desarrollo de software, herramientas de orquestación, marcos y modelos disponibles en el catálogo NVIDIA NGC y en el portal para desarrolladores de NVIDIA. Los desarrolladores pueden afinar modelos con el NVIDIA NeMo™ y acelerar la ciencia de datos con las bibliotecas NVIDIA RAPIDS™, además de ejecutar marcos comunes como PyTorch, Python y Jupyter notebooks.
Para crear aplicaciones de IA autónomas, los usuarios también pueden aprovechar NVIDIA Blueprints y microservicios NVIDIA NIM™, que están disponibles para investigación, desarrollo y pruebas a través del Programa para Desarrolladores de NVIDIA. Cuando las aplicaciones de IA están listas para pasar de la experimentación a entornos de producción, la licencia NVIDIA AI Enterprise ofrece seguridad de nivel empresarial, soporte y versiones de productos de software de IA de NVIDIA.
Disponibilidad
Project DIGITS estará disponible en mayo a través de NVIDIA y de los principales socios, con un precio inicial de $3,000.
