El cómputo acelerado está transformando el procesamiento y análisis de datos para las empresas, declaró el fundador y CEO de NVIDIA, Jensen Huang, el miércoles durante una charla en el escenario con el cofundador y CEO de Databricks, Ali Ghodsi, en la Databricks Data + AI Summit 2024.
“Los datos empresariales de cada compañía son su mina de oro,” dijo Huang, explicando que cada empresa tiene enormes cantidades de datos, pero extraer información y destilar inteligencia de ellos ha sido un desafío.
Databricks aprovecha la tecnología de NVIDIA para acelerar aplicaciones de IA generativa
Para desbloquear toda esa inteligencia, Huang y Ghodsi anunciaron la integración del cómputo acelerado de NVIDIA con Databricks Photon, el motor de Databricks para procesamiento de datos rápido, diseñado para potenciar Databricks SQL con rendimiento y eficiencia de costos de primera categoría.
“Este es un gran anuncio,” dijo Huang, agregando que el cómputo acelerado y la IA generativa son las dos tendencias tecnológicas más importantes de hoy. “NVIDIA y Databricks van a asociarse para combinar nuestras habilidades en estas áreas y llevarlas a todos ustedes.”
Huang compartió que a NVIDIA le tomó cinco años construir un conjunto de bibliotecas que hacen posible acelerar Photon, permitiendo a los usuarios “manejar datos más rápido, de manera más costo-efectiva y consumiendo mucho menos energía.”
“Estamos muy emocionados de asociarnos con ustedes para usar la aceleración de GPU en el motor Photon y así mejorar el procesamiento de datos central y hacer que también se ejecute en GPUs de NVIDIA,” dijo Ghodsi.
Creando fábricas de IA generativa con NVIDIA NIM
NVIDIA y Databricks también anunciaron que el modelo de código abierto de Databricks, DBRX, ahora está disponible como un microservicio NVIDIA NIM alojado en el catálogo de API de NVIDIA.
Los microservicios de inferencia NVIDIA NIM proporcionan modelos como contenedores optimizados y preconstruidos para su implementación en cualquier lugar.
“Crear estos puntos finales es complicado,” explicó Huang. “Optimizamos todo en un microservicio, que se ejecuta en cada nube y en las instalaciones.”
Los microservicios aumentan dramáticamente la productividad de los desarrolladores empresariales al proporcionar una forma simple y estandarizada de agregar modelos de IA generativa a las aplicaciones.
Lanzado en marzo, DBRX fue construido completamente sobre Databricks, aprovechando todas las herramientas y técnicas disponibles para los clientes y socios de Databricks, y se entrenó con NVIDIA DGX Cloud, una plataforma de IA escalable de extremo a extremo para desarrolladores.
Las organizaciones pueden personalizar DBRX con datos empresariales para crear modelos de alta calidad específicos para la organización o usarlo para construir una mezcla personalizada de modelos expertos en estilo DBRX como arquitectura de referencia.
Huang dijo que acelerar el procesamiento de datos es una enorme oportunidad, alentando a todos a poner en marcha el cómputo acelerado y la IA generativa.
”Cualquiera que sea tu actividad, simplemente empieza: tienes que subirte a este tren increíblemente rápido,” dijo Huang. “Recuerda que la IA generativa está creciendo exponencialmente: no quieres esperar y observar una tendencia exponencial, porque en un par de años, estarás muy atrasado.”
Participando en la conversación
Se anima a los asistentes a la cumbre a participar en las sesiones y a interactuar con expertos de NVIDIA para aprender más sobre cómo NVIDIA y Databricks están impulsando el futuro de la IA y la inteligencia de datos.
Las sesiones clave, que se llevarán a cabo el 13 de junio, incluyen:
- “Desarrollo y despliegue de IA generativa con NVIDIA” a las 12:30 p.m. PT
- “Análisis de arquitectura para procesamiento ETL: CPU vs. GPU” a las 4:30 p.m. PT
- “Spark RAPIDS ML: ML distribuido acelerado por GPU en clusters Spark” a la 1:30 p.m. PT
