Con la evolución de la inteligencia artificial generativa, una comunidad de entusiastas de la IA ha experimentado con formas de integrar esta poderosa tecnología en los flujos de trabajo productivos comunes. Las aplicaciones que admiten complementos comunitarios permiten a los usuarios explorar cómo los modelos de lenguaje grandes (LLMs) pueden mejorar una variedad de flujos de trabajo. Usando servidores de inferencia locales impulsados por la biblioteca de software llama.cpp acelerada por NVIDIA RTX, los usuarios de computadoras RTX AI pueden integrar LLMs locales con facilidad.

Ventajas de Leo AI en el navegador Brave

En ocasiones anteriores, se analizó cómo los usuarios podían aprovechar la IA de Leo en el navegador web Brave para optimizar la experiencia de navegación. En esta ocasión, se examina Obsidian, una popular aplicación de escritura y toma de notas basada en el lenguaje de marcado Markdown, que resulta útil para mantener registros complejos y conectados para múltiples proyectos. La aplicación admite complementos desarrollados por la comunidad que aportan funcionalidad adicional, incluyendo varios que permiten a los usuarios conectar Obsidian a un servidor de inferencia local como Ollama o LM Studio.

Conectando Obsidian a LM Studio

Para conectar Obsidian a LM Studio, solo se requiere habilitar la funcionalidad de servidor local en LM Studio haciendo clic en el icono “Desarrollador” en el panel izquierdo, cargar cualquier modelo descargado, habilitar el interruptor CORS y hacer clic en “Iniciar”. Tenga en cuenta la URL de finalización de chat desde la consola de registro del “Desarrollador” (“http://localhost:1234/v1/chat/completions” por defecto), ya que los complementos necesitarán esta información para conectarse.

Luego, inicie Obsidian y abra el panel de “Configuración”. Haga clic en “Complementos comunitarios” y luego en “Examinar”. Existen varios complementos comunitarios relacionados con los LLMs, pero dos opciones populares son Text Generator y Smart Connections.

• Text Generator es útil para generar contenido en una bóveda de Obsidian, como notas y resúmenes sobre un tema de investigación.
• Smart Connections es útil para hacer preguntas sobre el contenido de una bóveda de Obsidian, como la respuesta a una pregunta de trivia poco conocida guardada años atrás.

Cada complemento tiene su propia forma de ingresar la URL del servidor LM. Para Text Generator, abra la configuración y seleccione “Personalizado” para el “perfil del proveedor” y pegue la URL completa en el campo “Endpoint”. Para Smart Connections, configure los ajustes después de iniciar el complemento. En el panel de configuración en el lado derecho de la interfaz, seleccione “Personalizado Local (Formato OpenAI)” para la plataforma del modelo. Luego, ingrese la URL y el nombre del modelo (por ejemplo, “gemma-2-27b-instruct”) en sus respectivos campos como aparecen en LM Studio.

Una vez que los campos estén llenos, los complementos funcionarán. La interfaz de usuario de LM Studio también mostrará la actividad registrada si los usuarios tienen curiosidad sobre lo que sucede en el lado del servidor local.

Transformando flujos de trabajo con complementos de IA en Obsidian

Tanto el complemento Text Generator como Smart Connections utilizan IA generativa de manera convincente. Por ejemplo, imagine que un usuario desea planificar unas vacaciones al destino ficticio de Lunar City y generar ideas sobre qué hacer allí. El usuario comenzaría una nueva nota titulada “Qué Hacer en Lunar City”. Dado que Lunar City no es un lugar real, la consulta enviada al LLM deberá incluir algunas instrucciones adicionales para guiar las respuestas. Al hacer clic en el icono del complemento Text Generator, el modelo generaría una lista de actividades para hacer durante el viaje.

Obsidian, a través del complemento Text Generator, solicitaría a LM Studio que generara una respuesta, y a su vez, LM Studio ejecutaría el modelo Gemma 2 27B. Con la aceleración por GPU RTX en la computadora del usuario, el modelo podría generar rápidamente una lista de cosas para hacer.

O, supongamos que muchos años después el amigo del usuario va a Lunar City y quiere saber dónde comer. El usuario puede que no recuerde los nombres de los lugares donde comió, pero puede revisar las notas en su bóveda (término de Obsidian para referirse a una colección de notas) en caso de que haya escrito algo.

En lugar de revisar todas las notas manualmente, un usuario puede utilizar el complemento Smart Connections para hacer preguntas sobre su bóveda de notas y otro contenido. El complemento utiliza el mismo servidor LM Studio para responder a la solicitud y proporciona información relevante que encuentra en las notas del usuario para ayudar en el proceso. El complemento hace esto utilizando una técnica llamada generación aumentada por recuperación.

Estos son ejemplos interesantes, pero tras pasar un tiempo con estas capacidades, los usuarios pueden observar los verdaderos beneficios y mejoras para la productividad cotidiana. Los complementos de Obsidian son solo dos maneras en las que los desarrolladores de la comunidad y los entusiastas de la IA están adoptando la IA para potenciar sus experiencias en PC.

La tecnología NVIDIA GeForce RTX para computadoras con Windows puede ejecutar miles de modelos de código abierto para que los desarrolladores los integren en sus aplicaciones de Windows.

Conozca más sobre el poder de los LLMs, la generación de texto y las conexiones inteligentes integrando Obsidian en su flujo de trabajo y explore la experiencia acelerada disponible en PCs RTX AI.

La inteligencia artificial generativa está transformando el gaming, las videoconferencias y experiencias interactivas de todo tipo. Comprenda lo nuevo y lo que está por venir suscribiéndose al boletín AI Decoded.