Myrtle.ai, líder en aceleración de la inferencia de aprendizaje automático, anunció hoy que ha logrado resultados de latencia increíbles con la solución VOLLO en el punto de referencia STAC-ML Markets (Inference) de STAC®, una autoridad de referencia líder en la industria financiera.
VOLLO es la primera solución basada en FPGA con resultados publicados para Tacana Suite de STAC-ML™ y ha logrado latencias tan bajas como 5,08 microsegundos con un rendimiento de más de 800,000 inferencias por segundo. Esto permite a los usuarios tomar decisiones más inteligentes utilizando modelos más complejos más rápidamente que en el pasado, brindándoles una ventaja competitiva en el comercio, el análisis de riesgos, las cotizaciones y muchas otras actividades relacionadas con el comercio.
STAC-ML Markets (Inference) representa las necesidades de las empresas de mercados de capital que utilizan la inferencia de aprendizaje automático para responder rápidamente a los cambios en los mercados. El punto de referencia es una herramienta objetiva que se utiliza para comparar diferentes plataformas en cuanto a latencia, rendimiento, eficiencia y calidad en la inferencia de aprendizaje automático.
La solución VOLLO se ejecuta en una tarjeta aceleradora PCIe de factor de forma estándar con Intel Agilex® 7 FPGA, hasta 4 de las cuales se pueden instalar en un servidor de 1U. Puede admitir hasta 12 modelos paralelos por tarjeta aceleradora FPGA instalada en el sistema, lo que permite un máximo de 48 modelos paralelos para un sistema con 4 tarjetas instaladas.
El FPGA en el corazón de VOLLO es el Intel Agilex 7 FPGA F-Series, la primera familia de FPGA de la industria que contiene soporte bfloat16 nativo reforzado. El uso de bfloat16 endurecido reduce la latencia y aumenta el rendimiento para aplicaciones de IA que requieren baja latencia, como las del benchmark STAC-ML.
Peter Baldwin, director ejecutivo de Myrtle.ai, dijo: «Desde que anunciamos nuestro primer conjunto de resultados de referencia STAC-ML en diciembre, ahora estamos interactuando con empresas que desean obtener una ventaja competitiva al responder rápidamente a los datos del mercado en tiempo real. Estas empresas saben quieren la ventaja de latencia que brindan los FPGA de Intel, pero a menudo no tienen los diseñadores de FPGA que necesitarían para crear sus propias soluciones. VOLLO resuelve ese problema».
Jim Dworkin, vicepresidente y gerente general de la División de Aceleración Empresarial y de la Nube en el Grupo de Soluciones Programables de Intel, dijo: «Todas las empresas de servicios financieros en el vasto ecosistema que cultiva STAC se beneficiarán de la baja latencia y la alta eficiencia de rendimiento que ofrece VOLLO, lo que les permitirá tomar decisiones comerciales más inteligentes».
Myrtle.ai también dio una charla sobre cómo las empresas financieras que no tienen conocimientos de FPGA pueden beneficiarse de las latencias extremadamente bajas que se pueden lograr con un producto basado en FPGA como VOLLO en la Cumbre de STAC de Londres el 4 de mayo.
VOLLO está disponible hoy y se pueden programar evaluaciones. Para obtener más detalles, visite myrtle.ai/fintech o póngase en contacto con Myrtle.ai hoy mismo en [email protected].
Acerca de Myrtle.ai: Myrtle.ai es una empresa de software de IA/ML que ofrece aceleradores de inferencia de clase mundial en plataformas basadas en FPGA de todos los principales proveedores de FPGA. Con experiencia en redes neuronales en todo el espectro de redes ML, Myrtle ha entregado aceleradores para FinTech, procesamiento de voz y recomendación.
STAC y todos los nombres de STAC son marcas comerciales o marcas comerciales registradas de Securities Technology Analysis Center, LLC.
Intel, el logotipo de Intel y otras marcas de Intel son marcas comerciales de Intel Corporation o sus subsidiarias.