Over the past year, la IA generativa ha transformado la manera en que las personas viven, trabajan y juegan, mejorando todo, desde la escritura y creación de contenido hasta los videojuegos, el aprendizaje y la productividad. Los entusiastas de las PC y los desarrolladores están liderando el avance en los límites de esta tecnología innovadora.
Inicia la serie RTX AI Garage
Esta semana marca el inicio de la serie RTX AI Garage, que ofrecerá contenido recurrente para desarrolladores y entusiastas que deseen aprender más sobre los microservicios NVIDIA NIM y los AI Blueprints, así como sobre cómo construir agentes de IA, flujos de trabajo creativos, humanos digitales, aplicaciones de productividad y más en PCs con inteligencia artificial. Bienvenidos al RTX AI Garage.
Nuevos modelos de IA en RTX AI PCs
Este primer episodio resalta los anuncios realizados anteriormente en CES, incluyendo nuevos modelos de base de IA disponibles en las PCs NVIDIA RTX AI que llevan a un nuevo nivel a los humanos digitales, la creación de contenido, la productividad y el desarrollo. Estos modelos, ofrecidos como microservicios NVIDIA NIM, están impulsados por las nuevas GPUs GeForce RTX 50 Series. Construidas sobre la arquitectura NVIDIA Blackwell, las GPUs RTX 50 Series ofrecen hasta 3.352 billones de operaciones de IA por segundo, 32 GB de VRAM y cuentan con FP4 computing, duplicando el rendimiento de inferencia de IA y permitiendo que la IA generativa funcione localmente con un menor uso de memoria.
Presentación de NVIDIA AI Blueprints
NVIDIA también presentó NVIDIA AI Blueprints: flujos de trabajo preconfigurados y listos para usar, basados en microservicios NIM, para aplicaciones como humanos digitales y creación de contenido. Los microservicios NIM y AI Blueprints permiten a los entusiastas y desarrolladores construir, iterar y entregar experiencias impulsadas por IA en PCs más rápido que nunca. El resultado es una nueva ola de capacidades prácticas y atractivas para los usuarios de PCs.
Superando desafíos de IA en PCs
Existen dos desafíos clave para llevar los avances de IA a las PCs. Primero, el ritmo de la investigación en IA es veloz, con nuevos modelos apareciendo a diario en plataformas como Hugging Face, que ahora alberga más de un millón de modelos. Como resultado, los avances rápidamente se vuelven obsoletos. Segundo, adaptar estos modelos para su uso en PC es un proceso complicado y que requiere muchos recursos. Optimizar los modelos para el hardware de PC, integrarlos con el software de IA y conectarlos a aplicaciones exige un esfuerzo de ingeniería significativo.
NVIDIA NIM ayuda a abordar estos desafíos al ofrecer modelos de IA de última generación optimizados para PCs. Estos microservicios NIM abarcan diferentes dominios de modelos, pueden instalarse con un solo clic, cuentan con interfaces de programación de aplicaciones (APIs) para una fácil integración, y aprovechan el software de IA de NVIDIA y las GPUs RTX para un rendimiento acelerado.
En CES, NVIDIA anunció un flujo de microservicios NIM para PCs RTX AI, apoyando casos de uso que abarcan modelos de lenguaje grande (LLMs), modelos de visión y lenguaje, generación de imágenes, reconocimiento de voz, generación aumentada por recuperación (RAG), extracción de PDF y visión por computadora.
Familia de modelos Llama Nemotron
La nueva familia de modelos abiertos Llama Nemotron proporciona alta precisión en una amplia gama de tareas agentivas. El modelo Llama Nemotron Nano, que se ofrecerá como un microservicio NIM para PCs y estaciones de trabajo RTX AI, sobresale en tareas de IA agentiva como seguimiento de instrucciones, llamadas a funciones, conversación, programación y matemáticas. Pronto, los desarrolladores podrán descargar y ejecutar rápidamente estos microservicios en PCs con Windows 11 mediante el Subsistema de Windows para Linux (WSL).
Proyecto R2X de NVIDIA
Para demostrar cómo los entusiastas y desarrolladores pueden usar NIM para construir agentes y asistentes de IA, NVIDIA presentó el Proyecto R2X, un avatar de PC habilitado para visión que puede facilitar información al usuario, ayudar con aplicaciones de escritorio y videoconferencias, leer y resumir documentos, y más.
Al utilizar microservicios NIM, los entusiastas de la IA pueden evitar las complejidades de la curación de modelos, la optimización y la integración de backend, y enfocarse en crear e innovar con modelos de IA de vanguardia.
Qué hay en una API
Una API es la manera en que una aplicación se comunica con una biblioteca de software. Define un conjunto de "llamadas" que la aplicación puede hacer a la biblioteca y lo que la aplicación puede esperar a cambio. Las APIs tradicionales de IA requieren mucha configuración, lo que dificulta el uso de capacidades de IA y limita la innovación.
Los microservicios NIM exponen APIs intuitivas y fáciles de usar, a las que una aplicación puede enviar solicitudes y recibir respuestas. Además, están diseñados en torno a los medios de entrada y salida para diferentes tipos de modelos. Por ejemplo, los LLMs toman texto como entrada y producen texto como salida, los generadores de imágenes convierten texto en imágenes, y los reconocedores de voz transforman voz en texto, entre otros.
Los microservicios están diseñados para integrarse sin problemas con los marcos de desarrollo de IA y agentes líderes, como AI Toolkit para VSCode, AnythingLLM, ComfyUI, Flowise AI, LangChain, Langflow y LM Studio. Los desarrolladores pueden descargarlos y desplegarlos fácilmente desde la plataforma de NVIDIA.
Al llevar estas APIs a RTX, NVIDIA NIM acelerará la innovación en IA en PCs.
Innovación rápida con AI Blueprints
Al utilizar modelos de última generación, preempaquetados y optimizados para PCs, desarrolladores y entusiastas pueden crear proyectos impulsados por IA rápidamente. Llevando esto un paso más allá, pueden combinar múltiples modelos de IA y otras funcionalidades para construir aplicaciones complejas como humanos digitales, generadores de pódcast y asistentes de aplicación.
NVIDIA AI Blueprints, basados en microservicios NIM, son implementaciones de referencia para flujos de trabajo complejos de IA. Facilitan a los desarrolladores la conexión de varios componentes, incluyendo bibliotecas, kits de desarrollo de software y modelos de IA, dentro de una sola aplicación.
Los AI Blueprints incluyen todo lo que un desarrollador necesita para construir, ejecutar, personalizar y extender el flujo de trabajo de referencia, que incluye la aplicación de referencia y el código fuente, datos de muestra y documentación para la personalización y orquestación de los diferentes componentes.
Nuevos desafíos en la generación de IA
Las nuevas GPUs GeForce RTX 50 Series están diseñadas específicamente para enfrentar complejos desafíos de IA generativa, presentando núcleos Tensor de quinta generación con soporte FP4, memoria G7 más rápida y un procesador de gestión de IA para una multitarea eficiente entre flujos de trabajo de IA y creativos.
La serie GeForce RTX 50 añade soporte FP4 para mejorar el rendimiento y traer más modelos a las PCs. FP4 es un método de cuantización más bajo, similar a la compresión de archivos, que reduce el tamaño de los modelos. Comparado con FP16 —el método predeterminado que presentan la mayoría de los modelos—, FP4 utiliza menos de la mitad de la memoria, y las GPUs de la Serie 50 ofrecen más de 2 veces el rendimiento comparado con la generación anterior, prácticamente sin pérdida de calidad gracias a los métodos avanzados de cuantización ofrecidos por NVIDIA TensorRT Model Optimizer.
Por ejemplo, el modelo FLUX.1 [dev] de Black Forest Labs en FP16 requiere más de 23 GB de VRAM, lo que significa que solo puede ser soportado por la GeForce RTX 4090 y GPUs profesionales. Con FP4, FLUX.1 [dev] requiere menos de 10 GB, permitiendo que se ejecute localmente en más GPUs GeForce RTX.
Con una GeForce RTX 4090 en FP16, el modelo FLUX.1 [dev] puede generar imágenes en 15 segundos con 30 pasos. Con una GeForce RTX 5090 en FP4, las imágenes pueden generarse en solo 5 segundos.
Comienza con las nuevas APIs de IA para PCs
Se espera que los microservicios NIM de NVIDIA y los AI Blueprints estén disponibles el próximo mes, con soporte inicial de hardware para la GeForce RTX 50 Series, GeForce RTX 4090 y 4080, así como las GPUs profesionales NVIDIA RTX 6000 y 5000. Se añadirán más GPUs en el futuro.
Se prevé que las PCs RTX AI listas para NIM estén disponibles a través de Acer, ASUS, Dell, GIGABYTE, HP, Lenovo, MSI, Razer y Samsung, así como de constructores locales como Corsair, Falcon Northwest, LDLC, Maingear, Mifcon, Origin PC, PCS y Scan.
Las GPUs y laptops de la serie GeForce RTX 50 ofrecen un rendimiento revolucionario, potencian experiencias transformadoras de IA y permiten a los creadores completar flujos de trabajo en tiempos récord.
