En el mundo en constante evolución de la inteligencia artificial, la inteligencia artificial generativa está cautivando la imaginación y transformando industrias. Detrás de escena, un héroe silencioso está haciendo todo esto posible: la arquitectura de microservicios.

Los bloques de construcción de las aplicaciones de IA modernas

Los microservicios han surgido como una arquitectura poderosa, cambiando fundamentalmente cómo se diseña, construye y despliega el software.

Una arquitectura de microservicios descompone una aplicación en una colección de servicios acoplados de manera flexible y desplegables de forma independiente. Cada servicio es responsable de una capacidad específica y se comunica con otros servicios a través de APIs bien definidas. Este enfoque modular contrasta fuertemente con las arquitecturas tradicionales todo-en-uno, en las que toda la funcionalidad se agrupa en una única aplicación integrada de manera rígida.

Al desacoplar los servicios, los equipos pueden trabajar en diferentes componentes simultáneamente, acelerando los procesos de desarrollo y permitiendo que las actualizaciones se implementen de manera independiente sin afectar la aplicación completa. Los desarrolladores pueden centrarse en construir y mejorar servicios específicos, lo que lleva a una mejor calidad del código y una resolución de problemas más rápida. Esta especialización permite a los desarrolladores convertirse en expertos en su dominio particular.

Los servicios pueden escalarse de manera independiente según la demanda, optimizando el uso de recursos y mejorando el rendimiento general del sistema. Además, diferentes servicios pueden utilizar diferentes tecnologías, permitiendo a los desarrolladores elegir las mejores herramientas para cada tarea específica.

Una combinación perfecta: microservicios e inteligencia artificial generativa

La arquitectura de microservicios es particularmente adecuada para desarrollar aplicaciones de inteligencia artificial generativa debido a su escalabilidad, modularidad mejorada y flexibilidad.

Los modelos de IA, especialmente los grandes modelos de lenguaje, requieren recursos computacionales significativos. Los microservicios permiten una escalabilidad eficiente de estos componentes intensivos en recursos sin afectar todo el sistema.

Las aplicaciones de inteligencia artificial generativa a menudo involucran múltiples pasos, como el preprocesamiento de datos, la inferencia del modelo y el post-procesamiento. Los microservicios permiten que cada paso se desarrolle, optimice y escale de manera independiente. Además, a medida que los modelos y técnicas de IA evolucionan rápidamente, una arquitectura de microservicios permite una integración más fácil de nuevos modelos, así como el reemplazo de los existentes sin interrumpir toda la aplicación.

NVIDIA NIM: simplificando el despliegue de la inteligencia artificial generativa

A medida que crece la demanda de aplicaciones potenciadas por IA, los desarrolladores enfrentan desafíos para desplegar y gestionar modelos de IA de manera eficiente.

Los microservicios de inferencia NVIDIA NIM proporcionan modelos como contenedores optimizados para desplegar en la nube, centros de datos, estaciones de trabajo, escritorios y portátiles. Cada contenedor NIM incluye los modelos de IA previamente entrenados y todos los componentes de tiempo de ejecución necesarios, lo que facilita la integración de capacidades de IA en aplicaciones.

NIM ofrece un enfoque revolucionario para los desarrolladores de aplicaciones que buscan incorporar funcionalidades de IA proporcionando una integración simplificada, preparación para la producción y flexibilidad. Los desarrolladores pueden centrarse en construir sus aplicaciones sin preocuparse por las complejidades de la preparación de datos, el entrenamiento del modelo o la personalización, ya que los microservicios de inferencia NIM están optimizados para el rendimiento, incluyen optimizaciones de tiempo de ejecución y soportan APIs industriales estándar.

IA al alcance de tu mano: NVIDIA NIM en estaciones de trabajo y PCs

Construir aplicaciones empresariales de IA generativa presenta muchos desafíos. Mientras que las APIs de modelos hospedados en la nube pueden ayudar a los desarrolladores a comenzar, los problemas relacionados con la privacidad de los datos, la seguridad, la latencia de respuesta del modelo, la precisión, los costos de la API y la escalabilidad a menudo dificultan el camino hacia la producción.

Las estaciones de trabajo con NIM proporcionan a los desarrolladores acceso seguro a una amplia gama de modelos y microservicios de inferencia optimizados para el rendimiento.

Al evitar la latencia, el costo y las preocupaciones de cumplimiento asociadas con las APIs hospedadas en la nube, así como las complejidades del despliegue de modelos, los desarrolladores pueden centrarse en el desarrollo de aplicaciones. Esto acelera la entrega de aplicaciones de IA generativa listas para producción, permitiendo una escala automática y sin problemas con la optimización del rendimiento en centros de datos y en la nube.

La disponibilidad general del modelo Meta Llama 3 8B como NIM, que puede ejecutarse localmente en sistemas RTX, trae capacidades de modelos de lenguaje de última generación a los desarrolladores individuales, permitiendo pruebas y experimentación locales sin la necesidad de recursos en la nube. Con NIM ejecutándose localmente, los desarrolladores pueden crear proyectos sofisticados de generación aumentada con recuperación (RAG) directamente en sus estaciones de trabajo.

La RAG local se refiere a la implementación de sistemas RAG completamente en hardware local, sin depender de servicios basados en la nube o APIs externas.

Los desarrolladores pueden utilizar el NIM Llama 3 8B en estaciones de trabajo con una o más GPUs NVIDIA RTX 6000 Ada Generation o en sistemas NVIDIA RTX para construir sistemas RAG de extremo a extremo completamente en hardware local. Esta configuración permite a los desarrolladores aprovechar todo el poder de Llama 3 8B, asegurando alto rendimiento y baja latencia.

Al ejecutar toda la canalización RAG localmente, los desarrolladores pueden mantener el control total sobre sus datos, asegurando privacidad y seguridad. Este enfoque es particularmente útil para desarrolladores que construyen aplicaciones que requieren respuestas en tiempo real y alta precisión, como chatbots de soporte al cliente, herramientas de generación de contenido personalizado y asistentes virtuales interactivos.

El RAG híbrido combina recursos locales y basados en la nube para optimizar el rendimiento y la flexibilidad en las aplicaciones de IA. Con NVIDIA AI Workbench, los desarrolladores pueden comenzar con el Proyecto Workbench de RAG híbrido, una aplicación de ejemplo que puede usarse para ejecutar bases de datos vectoriales y modelos de incrustación localmente mientras se realiza la inferencia utilizando NIM en la nube o en centros de datos, ofreciendo un enfoque flexible para la asignación de recursos.

Esta configuración híbrida permite a los desarrolladores equilibrar la carga computacional entre recursos locales y en la nube, optimizando el rendimiento y el costo. Por ejemplo, la base de datos vectorial y los modelos de incrustación pueden hospedarse en estaciones de trabajo locales para asegurar una rápida recuperación y procesamiento de datos, mientras que las tareas de inferencia más intensivas en computación pueden ser delegadas a poderosos microservicios de inferencia NIM basados en la nube. Esta flexibilidad permite a los desarrolladores escalar sus aplicaciones sin problemas, acomodando cargas de trabajo variables y asegurando un rendimiento consistente.

Los microservicios de inferencia NVIDIA ACE traen humanos digitales, personajes de juegos no jugables (NPCs) y avatares interactivos para el servicio al cliente a la vida con IA generativa, funcionando en PCs y estaciones de trabajo RTX.

Los microservicios de inferencia ACE para el habla —incluyendo reconocimiento automático de voz Riva, texto a voz y traducción automática neural— permiten transcripción precisa, traducción y voces realistas.

El modelo de lenguaje pequeño NVIDIA Nemotron es un NIM para inteligencia que incluye cuantización INT4 para un uso mínimo de memoria y soporta casos de uso de juego de roles y RAG.

Y los microservicios de inferencia ACE para la apariencia incluyen Audio2Face y Omniverse RTX para animación realista con visuales ultrarrealistas. Estos proporcionan personajes de juegos más inmersivos y atractivos, así como experiencias más satisfactorias para usuarios interactuando con agentes virtuales de servicio al cliente.

Sumérgete en NIM

A medida que la IA progresa, la capacidad de desplegar y escalar sus capacidades de manera rápida se volverá cada vez más importante.

Los microservicios NIM de NVIDIA proporcionan la base para esta nueva era de desarrollo de aplicaciones de IA, permitiendo innovaciones revolucionarias. Ya sea que estés construyendo la próxima generación de juegos impulsados por IA, desarrollando avanzadas aplicaciones de procesamiento de lenguaje natural o creando sistemas de automatización inteligente, los usuarios pueden acceder a estas poderosas herramientas de desarrollo a su alcance.

Formas de comenzar:

• Experimenta e interactúa con microservicios NIM de NVIDIA en ai.nvidia.com.
• Únete al Programa de Desarrolladores de NVIDIA y obtén acceso gratuito a NIM para pruebas y prototipos de aplicaciones potenciadas por IA.
• Compra una licencia de NVIDIA AI Enterprise con un período de evaluación gratuito de 90 días para el despliegue en producción y usa NIM para auto-hospedar modelos de IA en la nube o en centros de datos.

Generative AI está transformando los videojuegos, videoconferencias y experiencias interactivas de todo tipo.