Los agentes de inteligencia artificial están listos para transformar la productividad de mil millones de trabajadores del conocimiento en el mundo con «robots de conocimiento» capaces de realizar diversas tareas. Para desarrollar estos agentes de IA, las empresas deben abordar preocupaciones como la confianza, la seguridad y el cumplimiento.
Nuevos microservicios de NVIDIA NIM para las guardias de IA —parte de la colección de herramientas de software NVIDIA NeMo Guardrails— son microservicios de inferencia optimizados y portátiles que ayudan a las empresas a mejorar la seguridad, la precisión y la escalabilidad de sus aplicaciones de IA generativa.
NVIDIA NeMo Guardrails mantiene a los agentes de IA en el camino
La IA está impulsando rápidamente la productividad en una amplia gama de procesos empresariales. En el servicio al cliente, está ayudando a resolver problemas hasta un 40% más rápido. Sin embargo, escalar la IA para el servicio al cliente y otros agentes de IA requiere modelos seguros que prevengan salidas perjudiciales o inapropiadas y aseguren que la aplicación de IA opere dentro de parámetros definidos.
NVIDIA ha introducido tres nuevos microservicios NIM para NeMo Guardrails que ayudan a los agentes de IA a operar a gran escala mientras mantienen un comportamiento controlado:
Al aplicar múltiples modelos ligeros y especializados como guardias, los desarrolladores pueden cubrir vacíos que pueden ocurrir cuando solo existen políticas y protecciones globales más generales, ya que un enfoque único no asegura adecuadamente los flujos de trabajo agentic AI complejos.
Modelos de lenguaje pequeños, como los de la colección NeMo Guardrails, ofrecen latencia reducida y están diseñados para funcionar de manera eficiente, incluso en entornos limitados en recursos o distribuidos. Esto los convierte en la opción ideal para escalar aplicaciones de IA en industrias como la salud, la automotriz y la manufactura, en lugares como hospitales o almacenes.
Líderes de la industria y socios protegen la IA con NeMo Guardrails
NeMo Guardrails, disponible para la comunidad de código abierto, ayuda a los desarrolladores a orquestar múltiples políticas de software de IA —llamadas guardias— para mejorar la seguridad y el control de las aplicaciones LLM. Funciona con microservicios NVIDIA NIM para ofrecer un marco sólido para construir sistemas de IA que puedan implementarse a gran escala sin comprometer la seguridad o el rendimiento.
Amdocs, un proveedor global líder de software y servicios para empresas de comunicaciones y medios, está utilizando NeMo Guardrails para mejorar las interacciones con los clientes impulsadas por IA al ofrecer respuestas más seguras, precisas y apropiadas en contexto.
“Tecnologías como NeMo Guardrails son esenciales para proteger las aplicaciones de IA generativa, ayudando a asegurar que operen de manera segura y ética”, comentó Anthony Goonetilleke, presidente del grupo de tecnología y director de estrategia en Amdocs. “Al integrar NVIDIA NeMo Guardrails en nuestra plataforma amAIz, estamos mejorando las capacidades de ‘IA Confiable’ de la plataforma para entregar experiencias agentic que sean seguras, confiables y escalables. Esto empodera a los proveedores de servicios a implementar soluciones de IA de forma segura y con confianza, estableciendo nuevos estándares para la innovación y la excelencia operativa en IA.”
Cerence AI, una empresa especializada en soluciones de IA para la industria automotriz, está utilizando NVIDIA NeMo Guardrails para asegurar que sus asistentes en el auto ofrezcan interacciones seguras y apropiadas en contexto, impulsadas por su familia de modelos de lenguaje CaLLM.
Lowe’s, un importante minorista de mejoras para el hogar, está aprovechando la IA generativa para potenciar la profunda experiencia de sus asociados en tienda. Al proporcionar acceso mejorado a un conocimiento productivo integral, estas herramientas permiten a los asociados responder preguntas de los clientes, ayudándoles a encontrar los productos adecuados para completar sus proyectos y estableciendo un nuevo estándar para la innovación en el comercio minorista y la satisfacción del cliente.
NeMo Guardrails ofrece herramientas de código abierto para pruebas de seguridad en IA
Los desarrolladores que estén listos para probar la efectividad de la aplicación de modelos de salvaguarda y otras guardias pueden usar NVIDIA Garak —una herramienta de código abierto para el escaneo de vulnerabilidades en LLM y aplicaciones desarrollada por el equipo de investigación de NVIDIA.
Con Garak, los desarrolladores pueden identificar vulnerabilidades en sistemas que utilizan LLM al evaluarlas frente a problemas como filtraciones de datos, inyecciones de comandos, alucinaciones de código y escenarios de jailbreak. Al generar casos de prueba que involucran resultados inapropiados o incorrectos, Garak ayuda a los desarrolladores a detectar y abordar debilidades potenciales en los modelos de IA para mejorar su solidez y seguridad.
Los microservicios de NVIDIA NeMo Guardrails, así como NeMo Guardrails para la orquestación de guardias y el toolkit NVIDIA Garak, están ahora disponibles para desarrolladores y empresas. Los desarrolladores pueden comenzar a integrar salvaguardas de IA en agentes de IA para el servicio al cliente utilizando NeMo Guardrails.
