NVIDIA ha presentado un nuevo servicio de NVIDIA AI Foundry y microservicios de inferencia NVIDIA NIM™ para potenciar la inteligencia artificial generativa en las empresas a nivel mundial. Esto se logra mediante la colección de modelos disponibles de forma abierta, Llama 3.1, que también se introdujo recientemente.
Empresas y naciones pueden crear ‘supermodelos’
Con NVIDIA AI Foundry, empresas y naciones tienen la capacidad de crear “supermodelos” personalizados para casos de uso específicos de su sector, utilizando Llama 3.1 junto con el software y la experiencia de NVIDIA. Estas empresas pueden entrenar estos supermodelos con datos propietarios, así como con datos sintéticos generados a partir de Llama 3.1 405B y el modelo NVIDIA Nemotron™.
Recursos computacionales escalables
NVIDIA AI Foundry utiliza la plataforma de inteligencia artificial NVIDIA DGX™ Cloud, co-diseñada con las principales nubes públicas del mundo. Esta colaboración ofrece a las empresas recursos computacionales significativos que pueden escalar fácilmente en función de las demandas de la inteligencia artificial.
Aplicaciones de inteligencia artificial generativa personalizadas
Las nuevas ofertas llegan en un momento en que tanto empresas como naciones están desarrollando estrategias de inteligencia artificial soberana, y desean construir modelos de lenguaje amplios personalizados con conocimiento específico del dominio para aplicaciones de inteligencia artificial generativa que reflejen sus culturas y negocios únicos.
Apertura para todas las empresas
“El acceso a los modelos Llama 3.1 marca un momento importante para la adopción de la inteligencia artificial generativa en las empresas a nivel mundial”, afirmó Jensen Huang, fundador y CEO de NVIDIA. “Llama 3.1 abre las puertas para que cada empresa e industria construya aplicaciones de inteligencia artificial generativa de vanguardia. NVIDIA AI Foundry ha integrado Llama 3.1 en su totalidad y está listo para ayudar a las empresas a construir y desplegar supermodelos personalizados de Llama.”
Accenture utiliza los nuevos servicios
La firma global de servicios profesionales Accenture fue la primera en adoptar NVIDIA AI Foundry para construir modelos personalizados de Llama 3.1. Julie Sweet, presidenta y CEO de Accenture, comentó que “las principales empresas del mundo ven cómo la inteligencia artificial generativa está transformando cada industria y están ansiosas por lanzar aplicaciones basadas en modelos personalizados”.
Poder de personalización de modelos avanzado
Las empresas que necesitan datos de entrenamiento adicionales para crear modelos específicos pueden usar Llama 3.1 405B junto con Nemotron-4 340B para generar datos sintéticos y así mejorar la precisión del modelo. Aquellos clientes que ya poseen sus propios datos de entrenamiento pueden ajustar los modelos de Llama 3.1 mediante NVIDIA NeMo para un preentrenamiento adaptativo.
Las empresas líderes en la industria impulsan la IA
Empresas de diversos sectores como la salud, la energía, los servicios financieros, el comercio minorista, el transporte y las telecomunicaciones están trabajando con microservicios NIM de NVIDIA para Llama. Algunas de las primeras en tener acceso a los nuevos microservicios para Llama 3.1 incluyen a Aramco, AT&T y Uber.
Mejora en la precisión y rendimiento
Al utilizar los nuevos microservicios de inferencia NVIDIA NeMo Retriever para la generación aumentada por recuperación, las organizaciones pueden mejorar la precisión de las respuestas al implementar supermodelos de Llama personalizados. Combinados con los microservicios de inferencia de NVIDIA NIM para Llama 3.1 405B, los microservicios de NeMo Retriever ofrecen la mayor precisión en recuperación de texto para pipelines de RAG.
Listos para implementar en el ecosistema empresarial
Cientos de socios de NVIDIA NIM que brindan plataformas empresariales, de datos e infraestructura ahora pueden integrar los nuevos microservicios en sus soluciones de inteligencia artificial, potenciando la inteligencia generativa para la comunidad NVIDIA de más de 5 millones de desarrolladores y 19,000 startups.
El soporte para los microservicios de Llama 3.1 NIM y NeMo Retriever NIM está disponible a través de NVIDIA AI Enterprise. Los miembros del NVIDIA Developer Program pronto podrán acceder a los microservicios NIM de forma gratuita para investigación, desarrollo y pruebas en su infraestructura preferida.
