OBSERVABILIDAD

Cómo funciona la observabilidad IA de Dynatrace



Dirección copiada

La observabilidad IA de Dynatrace es completa y con medidas de seguridad robustas para grandes modelos lingüísticos (LLMs) y aplicaciones impulsadas por Inteligencia Artificial Generativa.

Publicado el 5 feb 2024



Dynatrace lanza plataforma integral de monitoreo de aplicaciones IA

La observabilidad IA de Dynatrace permite a las empresas a nivel global adaptar la Inteligencia Artificial Generativa de forma confiable y rentable, como un componente esencial para potenciar la innovación, la eficiencia y el crecimiento económico.

Se trata de Dynatrace IA Observabilidad, una solución integral que abarca de principio a fin la IA, incluida la infraestructura, como las GPU Nvidia, modelos fundamentales como GPT4, caches semánticos y las bases de datos vectoriales como Weaviate, y marcos de orquestación como LangChain.

También es compatible con las principales plataformas para construir, entrenar y entregar modelos de IA, como Microsoft Azure OpenAI Service, Amazon SageMaker y Google AI Platform.

La Observabilidad IA de Dynatrace

La Observabilidad IA de Dynatrace utiliza la Inteligencia Artificial Davis (Davis IA) y otras tecnologías centrales para ofrecer una visión precisa y completa de las aplicaciones impulsadas por IA.

Como resultado, las organizaciones pueden ofrecer excelentes experiencias de usuario mientras identifican automáticamente cuellos de botella de rendimiento y sus causas.

La Observabilidad IA de Dynatrace con Davis IA también ayuda a cumplir con las normativas de privacidad y seguridad y estándares de gobernanza, rastreando con precisión los orígenes de los resultados creados por sus aplicaciones.

Además, pronostica y controla costos monitoreando el consumo de tokens, que son las unidades básicas que los modelos generative AI utilizan para procesar las consultas.

El testimonio de un caso

Ryan Berry, Vicepresidente Senior de Ingeniería y Arquitectura en OneStream explica que la IA generativa y predictiva “abrirá nuevas posibilidades para el negocio con nuestros servicios de ML y LLM” y agrega que, para implementarlos con éxito, “debemos asegurarnos de que nuestros servicios que respaldan estas cargas de trabajo críticas sean confiables y funcionen bien”.

En este sentido, comparta, es que “confiamos en Dynatrace, líder en IA y observabilidad” y cocluye: “Nuestros equipos utilizan Dynatrace para construir y optimizar aplicaciones de AI generativa, que funcionan bien y son rentables de gestionar e implementar a escala”.

Predicciones de Gartner

Según Gartner, para 2028, la adopción de la IA culminará en más del 50% de los recursos informáticos en la nube dedicados a cargas de trabajo de IA, frente a menos del 10% en 2023”, afirmó el profesional.

Este crecimiento refleja parcialmente el creciente interés de las organizaciones por la IA generativa para mejorar la eficiencia y productividad, impulsar la automatización y fomentar la innovación.

Preocupaciones y regulaciones

A pesar de esto, muchas organizaciones están preocupadas por los costos asociados a los servicios impulsados por la IA generativa. Estos pueden ser muchas veces más costosos que los servicios tradicionales en la nube y son difíciles de prever debido porque se basan en el consumo de tokens de IA generativa por parte de aplicaciones que aún no están en producción.

Al mismo tiempo, los gobiernos en todo el mundo están estableciendo normativas centradas en el uso de tecnologías de IA de manera responsable y ética, y en cumplimiento de las leyes aplicables.

Necesidad de observabilidad IA integral

Las organizaciones no pueden permitirse ignorar el potencial de la IA generativa. Sin embargo, necesitan una observabilidad de IA integral para ayudar a que sus inversiones en IA generativa tengan éxito y evitar el riesgo de comportamientos impredecibles, “alucinaciones” de IA y malas experiencias de usuario.

Artículos relacionados

Artículo 1 de 3