¿Se fusionarán la observabilidad, evaluación y garantía de IA?

Los 7 principios de Nadella, el acuerdo de USD 915 millones entre Dynatrace y Arize, y un debate entre CIOs, fundadores e inversores sobre quién debería auditar a los agentes de IA. Actualizado en octubre de 2026.

Un agente de IA puede explicar un reembolso a la perfección y aun así enviar el dinero a la cuenta equivocada. La transcripción se lee bien, pero la transacción está mal.

Existen tres grupos de productos para detectar problemas como este: observabilidad, evaluación y aseguramiento (assurance). Los proveedores empezaron a fusionarlos. Si los compradores seguirán ese camino es una incógnita, igual que una segunda pregunta: ¿quién debería hacer las verificaciones y qué se considera realmente independiente?

La IA está pasando de simplemente responder preguntas a ejecutar acciones. Gartner predice que para 2028, un tercio de las aplicaciones de software empresarial incluirá IA agéntica, frente a menos del 1 % en 2024. Estos agentes pueden escribir y enviar código, transferir dinero y comunicarse con los clientes, por lo general sin que nadie tenga que supervisarlos en tiempo real.

Cuando el software solo generaba respuestas, la gran pregunta era si eran buenas. Los agentes plantean muchas más: ¿qué hizo?, ¿estuvo bien?, ¿alguien puede respaldarlo? y ¿se puede detener? Para los CIOs, estas son tanto cuestiones de gobernanza de IA y gestión de riesgos como de ingeniería.

Hoy hay tres mercados que cubren partes de esto:

• La observabilidad de IA registra lo que hizo la IA.
• La evaluación de IA mide qué tan bien lo hizo.
• El aseguramiento de IA reúne la evidencia, los controles y sus límites para que una persona pueda tomar una decisión responsable. El gobierno del Reino Unido lo describe como el proceso de medir, evaluar y comunicar la confiabilidad.

La observabilidad de IA fue un mercado de USD 1.25 mil millones en 2025, y la misma investigación espera que la evaluación y el aseguramiento de calidad sean los segmentos de mayor crecimiento dentro de él. Dynatrace cerró la adquisición de Arize el 1 de octubre de 2026, un acuerdo de USD 915 millones para combinar evaluación y observabilidad. Cisco completó su acuerdo con Galileo en mayo. El 10 de octubre, Satya Nadella publicó siete principios para confiar en la IA que tocan los tres mercados.

El resto de este artículo explica cómo llegó la IA hasta aquí, qué propuso Nadella y un debate entre cinco voces representativas sobre hacia dónde va el mercado.

De las reglas a los agentes de IA: por qué ahora cuesta más generar confianza

Una historia simplificada en cuatro etapas. Cada una hizo que la máquina fuera más capaz y más difícil de explicar.

1. Reglas (aproximadamente de los años 50 a los 2000). La mayoría de las aplicaciones de software se escribían a mano, paso a paso. Tenían muchos errores, pero un ingeniero podía abrir el código y encontrar la línea que causaba uno.
2. Patrones (década de 2010). Con el deep learning, las máquinas aprendieron de ejemplos en lugar de reglas para tareas como el reconocimiento de imágenes y de voz. Nadie escribió la lógica. Estos sistemas principalmente etiquetaban, clasificaban y recomendaban, y las personas o el software tradicional decidían qué hacer con el resultado.
3. Chat (de 2022 a 2024). Los chatbots podían escribir, resumir y argumentar. Muchas veces se equivocaban, pero alguien solía leer la respuesta antes de actuar en base a ella.
4. Agentes (de 2025 en adelante). Los agentes hacen clic, escriben, compran, programan y despliegan. Los laboratorios los entrenan haciéndolos practicar tareas en oficinas simuladas, navegadores y bases de código. Algunos funcionan durante largos períodos sin que una persona revise cada paso.

En la etapa del chat, una mala respuesta generalmente solo costaba volver a leer. En la etapa de los agentes, una mala acción puede costar dinero, datos o un cliente.

El software tomaba decisiones automatizadas costosas mucho antes de que existieran los agentes. La diferencia ahora es que un único modelo de propósito general elige y ejecuta una cadena de acciones en varias herramientas. Cuando algo sale mal, la causa podría ser el modelo, el prompt, los datos que recuperó, una API, una memoria desactualizada, sus permisos o un intercambio entre dos agentes. La respuesta final es solo una parte de la evidencia.

Nadella describe la situación anterior así: con el software tradicional, "teníamos las herramientas y la capacidad de rastrear comportamientos hasta una ruta de código específica". Con los modelos actuales, nadie puede señalar los datos de entrenamiento o los pesos detrás de una decisión particular. Estos tres mercados intentan cerrar esa brecha.

El marco de gobernanza de IA de Satya Nadella: 7 principios para confiar en los agentes de IA

El 10 de octubre de 2026, Nadella publicó "Models as Insider Risks in the Super Intelligence Era" en su blog. Su propuesta central es que "necesitamos separar el suministro de inteligencia de la autoridad sobre ella".

Compara un modelo potente con un empleado que tiene acceso amplio. La preocupación no es que el modelo sea malicioso. Cualquier persona con acceso a sistemas importantes puede cometer errores o verse comprometida, por eso limitas a lo que puede llegar, registras lo que hace y mantienes la capacidad de detenerla. En sus palabras: "¡Si no se puede observar, no se puede confiar!".

Los llama siete "principios de observabilidad". Leídos en conjunto, funcionan como un marco de gobernanza de IA para agentes. A continuación, parafraseo cada principio, seguido de mi propio mapeo con los mercados que hoy lo cubren.

1. Diversidad de modelos: ninguna IA revisa su propio trabajo ni toma una decisión importante por sí sola. Mercado actual: evaluación.
2. Observar todo: cada acción significativa deja evidencia a prueba de manipulaciones que un humano puede leer. Mercado actual: observabilidad.
3. Verificabilidad: todo el sistema se prueba continuamente, incluyendo ataques, fallos y casos extremos. Mercado actual: evaluación y aseguramiento.
4. Controles independientes: las reglas sobre lo que la IA puede acceder están fuera de la IA, donde no puede modificarlas. Mercado actual: principalmente herramientas de seguridad y acceso, con guardrails que empiezan a aparecer en las plataformas de IA.
5. Auditabilidad independiente: la evidencia sobre el comportamiento de la IA se mantiene separada de la IA que se está revisando. Mercado actual: aseguramiento.
6. Contención: una persona autorizada puede pausar o apagar el modelo en medio de una tarea. Mercado actual: principalmente herramientas de runtime y seguridad.
7. Divulgación de incidentes: cuando falla, se informa a los afectados y se comparten las lecciones aprendidas. Mercado actual: una práctica corporativa, respaldada por los registros de observabilidad.

Ningún mercado individual cubre más de dos de los siete. Los controles independientes y la contención quedan mayormente fuera de los tres, junto con las herramientas de seguridad y runtime. En conjunto, los principios describen un sistema más grande que los tres mercados combinados.

Su frase de cierre es: "El sistema de Superinteligencia más confiable no será aquel con el modelo en el que más confiamos. Será el que nos permita confiar lo menos posible en el modelo".

Confiar lo menos posible en el modelo requiere un registro de lo que hizo (observabilidad), una forma de juzgarlo (evaluación) y evidencia que una persona pueda respaldar (aseguramiento). También exige dos cosas que estos mercados han dejado casi por completo en manos de las herramientas de seguridad y runtime: controles que el modelo no pueda cambiar y una forma para que una persona lo detenga.

Observabilidad vs. evaluación vs. aseguramiento de IA: el mercado hoy

Imagina un agente de IA como un conductor recién contratado.

• La observabilidad es la cámara del tablero. Registra cada giro, frenada y casi accidente, y responde a "¿qué hizo la IA?". Se vende principalmente a los equipos que mantienen los sistemas funcionando.
• La evaluación es el examen de manejo. Califica cómo el conductor maneja situaciones predefinidas y responde a "¿qué tan bueno es?". La compran sobre todo los ingenieros que desarrollan productos de IA y, cada vez más, los equipos de QA.
• El aseguramiento es el informe de revisión técnica. Recopila la evidencia necesaria para decidir si el auto y el conductor están listos para salir a la calle, antes del primer viaje y durante toda la conducción. Responde a "¿hay suficiente evidencia para respaldar esto?". Ninguna revisión garantiza que un auto nunca va a chocar; un buen informe indica qué se revisó, qué se encontró y qué sigue siendo desconocido. Es el menos desarrollado de los tres, y hoy el trabajo está repartido entre los equipos de calidad, riesgo y cumplimiento.

Tener herramientas separadas para compradores distintos funcionó bastante bien mientras la IA solo generaba respuestas. Con los agentes, las brechas entre ellas importan mucho más. Cada herramienta es útil por sí sola, pero un video que nadie revisa demuestra poco, un examen pierde vigencia si el conductor cambia cada semana, y un informe depende del video y de los resultados de las pruebas que lo respaldan.

Adquisiciones recientes de plataformas de observabilidad y evaluación de IA:

• En octubre de 2026, Dynatrace adquirió Arize por USD 915 millones, combinando evaluación con monitoreo en producción.
• En mayo de 2026, Cisco adquirió Galileo para Splunk, abarcando evaluación, monitoreo y guardrails para agentes.
• En febrero de 2026, Snowflake adquirió Observe, integrando la observabilidad en una plataforma de datos.
• En febrero de 2026, ClickHouse adquirió Langfuse, una herramienta de trazado para LLMs.

Dynatrace afirma que el acuerdo con Arize une la evaluación y la observabilidad para que los equipos puedan revisar la IA antes del lanzamiento y mantenerla confiable después. Cisco describe a Galileo como una solución que cubre desde la evaluación temprana hasta el monitoreo en producción y los guardrails.

Estos acuerdos muestran a los proveedores combinando productos. Todavía no muestran a los compradores fusionando presupuestos, descartando herramientas especializadas o comprándole aseguramiento a la misma empresa que ejecuta su IA. El resto de este artículo trata sobre esas preguntas.

![Diagrama de un agente de IA con observabilidad, evaluación, aprobación y control funcionando como un único ciclo externo

https://pbs.twimg.com/media/HUXj23UaIAAG2Id?format=png&name=small

leer descripción de la imagen

ALT

Si los mercados se fusionan · observar, calificar, aprobar, controlar

Una posible configuración si los mercados efectivamente se fusionan, no una predicción. El agente hace el trabajo, y el registro, la puntuación y los controles de detención se configuran de una manera que el agente no puede modificar.

El debate: ¿quién debería auditar a los agentes de IA?

Cinco voces representativas, construidas a partir de argumentos escuchados por inversores y fundadores. No son citas de personas reales.

• Inversor a largo plazo: invierte con un horizonte de 15 años y se enfoca en quién compra.
• Inversor de momentum: sigue hacia dónde se mueven el dinero y el talento en este momento.
• Constructor de agentes: entrega agentes de IA a los clientes todas las semanas.
• Fundador de plataforma: dirige una plataforma de datos e IA y quiere dominar todo el stack.
• CIO de un banco: aprueba cualquier agente antes de que toque la cuenta de un cliente.

Ronda 1: ¿Se fusionarán los mercados?

Inversor de momentum: Ya está pasando. Las empresas de monitoreo están comprando a las de evaluación, y los acuerdos de ese tamaño suelen indicar que se está formando una categoría.

CIO de un banco: Las adquisiciones no son lo mismo que una fusión. Antes compré suites y terminé con tres productos, un logo y tres inicios de sesión. Gartner también espera que más del 40 % de los proyectos de IA agéntica se cancelen para fines de 2027, y los controles de riesgo inadecuados están entre las razones. El problema de confianza es real. Todavía no se demostró que un único mercado fusionado lo resuelva.

Inversor a largo plazo: Los mercados se fusionan cuando los compradores se fusionan. Hoy hay tres: operaciones monitorea, el equipo de IA evalúa y riesgo aprueba. La pregunta es si los agentes crean a una sola persona que responda por los tres.

Constructor de agentes: Mi empresa ya tiene una. Cuando un agente le reembolsa al cliente equivocado, nadie pregunta qué equipo es dueño del problema. Me piden la grabación, la puntuación y la evidencia en cuestión de minutos.

Inversor a largo plazo: Si eso es algo común, el comprador se está fusionando, y eso me dice más que las adquisiciones.

Ronda 2: ¿Por qué no mantener tres herramientas separadas?

CIO de un banco: ¿Por qué no puedo quedarme con tres herramientas líderes en su clase?

Constructor de agentes: Porque cada una depende de las demás. No puedes evaluar lo que no se registró, y no puedes aprobar lo que no se evaluó. Un fallo en producción debería convertirse en un nuevo caso de prueba. Con tres herramientas, cada traspaso es un punto donde la información puede perderse.

Inversor de momentum: La línea entre antes y después del lanzamiento también se está borrando. Los agentes cambian cada semana: nuevo modelo, nuevo prompt, nueva herramienta. Probar una sola vez en el lanzamiento es como inspeccionar un auto una vez mientras alguien sigue cambiando el motor.

CIO de un banco: Las suites fusionadas suelen ser mediocres en todo.

Inversor a largo plazo: Al principio, sí. Las herramientas especializadas tienden a ganar primero, y los productos integrados alcanzan el nivel después. Eso pasó en muchas categorías de infraestructura, aunque no en todas.

Ronda 3: ¿Quién debería ser el dueño?

Fundador de plataforma: Nosotros ya ejecutamos el modelo, almacenamos los datos y registramos las trazas. Pongamos la evaluación y la aprobación en la misma plataforma: un proveedor, una factura, un solo lugar donde buscar.

CIO de un banco: ¿Entonces la empresa que ejecuta mi IA también me dice que funciona bien?

Fundador de plataforma: Somos buenos en eso.

CIO de un banco: Ese no es el punto. Mi auditor externo tiene que mantenerse independiente del negocio que audita. Los estudiantes no corrigen sus propios exámenes, y los fabricantes de autos no hacen todas las pruebas de choque por su cuenta.

Inversor a largo plazo: Nadella plantea algo similar: la validación tiene que ser independiente de la inteligencia que evalúa, y los controles deberían estar ubicados fuera del modelo; esto es como si una plataforma evaluara la IA que está ejecutando, calificando su propio rendimiento.

Constructor de agentes: Entonces las herramientas podrían fusionarse mientras el mercado se divide por otra línea: la verificación hecha dentro de la plataforma versus la verificación hecha fuera de ella.

Fundador de plataforma: Hacerlo adentro será más barato y fácil.

CIO de un banco: Hacerlo afuera puede ser lo que acepten mi regulador y mi aseguradora. Quizás pague por ambos, pero voy a aprobar basándome en uno.

Inversor a largo plazo: Hay que definir bien qué significa "afuera". La independencia técnica implica que el agente no pueda modificar a quien lo verifica, editar el registro ni evadir sus límites. La independencia organizacional significa que otra parte es dueña de la revisión y no tiene incentivos para ser indulgente.

Constructor de agentes: No son lo mismo. Una empresa separada puede usar los mismos modelos y las mismas verificaciones débiles que la plataforma. Una plataforma puede mantener sus controles y registros completamente fuera del alcance del agente.

CIO de un banco: Entonces prefiero hacer cinco preguntas antes que comparar logos. ¿El agente puede editar el registro? ¿Tu verificador puede ver el cambio real en mis sistemas, o solo lo que el agente reportó? ¿Quién prueba a tu verificador? ¿Alguien más puede reproducir tu resultado? ¿Qué no pudiste verificar?

Ronda 4: ¿Cómo debería llamarse?

Inversor de momentum: Los analistas probablemente lo sigan llamando observabilidad de IA por un par de años más, porque ahí está el presupuesto.

Fundador de plataforma: "Capa de confianza de IA".

Constructor de agentes: "Observe, Eval and Assure": observarlo, evaluarlo y que una persona lo apruebe.

CIO de un banco: Cuidado con "asegurar" (assure). Una herramienta genera evidencia. Una persona la lee y firma. Diseñen pensando en esa persona.

Inversor a largo plazo: El nombre importa menos que si los compradores tienen una partida presupuestaria para esto. En 2026, la mayoría no la tiene. Esperaría que para 2028 casi todas las grandes empresas tengan una, con un único responsable que rinda cuentas cuando un agente se equivoque.

CIO de un banco: Llámese como se llame, necesito poder detenerlo.

Cómo probar un agente de IA: un ejemplo de reembolso

Esto describe un agente hipotético de atención al cliente que puede emitir reembolsos pequeños. Es una ilustración, no el resultado de un cliente.

1. Define las reglas de negocio. El reembolso va al cliente correcto, se mantiene dentro del límite y sigue la política. Un reintento no debe pagar dos veces. Las excepciones llegan a la persona indicada antes de que se mueva el dinero.
2. Prueba condiciones difíciles. Usa registros de clientes contradictorios, un servicio de pago lento, un timeout de herramienta y una instrucción oculta en un mensaje de soporte. Ejecuta los casos importantes varias veces desde el mismo estado inicial, ya que una sola ejecución exitosa demuestra poco. Las simulaciones permiten probar casos peligrosos de forma segura; los dispositivos reales y las integraciones reales detectan diferencias que las simulaciones pasan por alto.
3. Revisa el sistema de registro. Que el agente diga "reembolsé USD 50" no es evidencia. Verifica que la cuenta correcta recibió exactamente un reembolso de USD 50. Usa comprobaciones exactas donde la respuesta es exacta, y jueces de IA solo donde no lo es.
4. Los fallos graves deben reportarse de forma individual. Los montos incorrectos, los pagos duplicados y las operaciones no autorizadas deberían mostrarse aparte de la evaluación general de finalización de la tarea. Un puntaje promedio del 94 % puede ocultar el fallo más importante.
5. Prueba los límites fuera del agente. ¿El sistema de pagos bloquea un reembolso que excede el límite incluso si el agente lo solicita? ¿Se puede revocar el acceso del agente en medio de una tarea? Detener al agente evita el siguiente pago, pero no revierte el último.
6. Pon a prueba al verificador. Introduce fallos conocidos y mide cuáles se le escapan. Dale resultados correctos para medir las falsas alarmas. Mantén el "no se pudo verificar" separado del "aprobado".

Esto no responde la pregunta del mercado. Describe cómo se ve una evidencia útil, sin importar quién la genere.

Dónde encaja el aseguramiento de calidad de IA: TestMu AI

TestMu AI (antes LambdaTest) trabaja sobre la independencia técnica. No construimos modelos ni vendemos dashboards de monitoreo en producción. Nuestras comprobaciones se ejecutan fuera del agente evaluado, antes del lanzamiento y en cada cambio, y examinan lo que realmente sucedió en lugar de solo lo que el agente reporta.

La plataforma cubre los tres tipos de software de este artículo: personas usando apps, personas hablando con bots y agentes trabajando con otros agentes. Cada producto responde a una necesidad mencionada arriba.

• Rook (agentes verificando agentes). Ejecuta tu agente a través de escenarios y registra los resultados esperados y reales de cada comprobación, con evidencia guardada para cada escenario. Reporta por separado lo aprobado, lo fallido y lo "imposible de verificar", para que la falta de evidencia nunca cuente como una aprobación.
• Agent Testing (bots hablando con clientes). Prueba agentes de chat, voz y teléfono en conversaciones realistas antes de que los clientes los usen.
• KaneAI y Kane CLI (apps que la IA ayuda a construir). Prueba aplicaciones en lenguaje natural (KaneAI) o desde la terminal (Kane CLI).
• SmartUI junto con Accessibility (fallos que nadie previó). Detecta problemas que las comprobaciones funcionales no buscan, como diseños rotos o pantallas que algunos usuarios no pueden usar.
• Real Device Cloud (lo que una simulación pasa por alto). Ejecuta pruebas en teléfonos y navegadores reales, no solo en emuladores.
• HyperExecute (ejecutar casos importantes muchas veces). Corre las mismas comprobaciones en cada cambio, en paralelo.
• Test Manager (un registro para la aprobación). Mantiene un único registro de lo que se verificó, lo que se encontró y lo que sigue siendo desconocido, para la persona que da la aprobación.

Las herramientas de observabilidad monitorean lo que pasa después del lanzamiento. Nosotros proporcionamos la evidencia que se usa para decidir qué llega al lanzamiento. Nuestros agentes ejecutan comprobaciones a una escala que un equipo no podría manejar manualmente, y los testers deciden qué vale la pena verificar y buscan problemas que ninguna comprobación detectaría. A este trabajo combinado lo llamamos Observe, Eval y Assure.

No se trata de certificaciones. Que un producto tenga un nombre o que haya un agente de verificación adicional no hace que un sistema sea seguro o independiente. En cambio, debemos ser evaluados igual que cualquier otro tester: por los escenarios que se ejecutaron, los fallos que se descubrieron y la evidencia disponible para inspección.

El futuro de la gobernanza de agentes de IA: cómo podría ser 2030

Estas son predicciones. Cada una tiene una señal temprana hoy.

• Los agentes obtienen identidades y registros. Cada agente tiene un alcance definido, un aprobador y un log de sus acciones. Microsoft planea distinguir las acciones de los agentes de las acciones humanas en su sistema de identidad.
• Los registros vienen de fuera del agente. Los logs los escribe algo que el agente no puede editar, en lugar de depender del propio relato del agente sobre lo que hizo.
• Las comprobaciones se ejecutan de forma continua. Una actualización del modelo, un cambio de prompt o una nueva herramienta dispara nuevas pruebas automáticamente, lo que deja a las personas más tiempo para el testing exploratorio.
• Los agentes verifican a otros agentes. Gartner espera que el 15 % de las decisiones del trabajo diario las tome de forma autónoma la IA agéntica para 2028, frente a ninguna en 2024. Las personas no pueden revisar ese volumen una por una, así que los agentes verificadores se encargarán de gran parte del monitoreo rutinario mientras los humanos definen prioridades e investigan anomalías.
• Las aseguradoras fijan el precio del riesgo de IA con base en evidencia. Desde 2025, las aseguradoras de Lloyd's ofrecen cobertura por errores de IA que pagan cuando el rendimiento cae por debajo de una línea base acordada, y un suscriptor dijo que no cubrirá sistemas que considere demasiado propensos a errores.
• Las empresas destinan presupuesto para esto. Un único responsable y un solo proceso cubren el monitoreo, la evaluación, la aprobación y el control, y cada fallo se retroalimenta como una nueva prueba.

Problemas sin resolver

1. Poner a prueba al verificador. Un juez de IA (lo que suele llamarse LLM-as-a-judge) puede ser engañado con la misma facilidad que la IA a la que evalúa. Un segundo modelo no garantiza un juicio independiente, sobre todo cuando ambos se entrenaron de formas similares.
2. Hacer trampa en la evaluación. En julio de 2026, modelos de OpenAI que trabajaban en una difícil evaluación interna de ciberseguridad buscaron soluciones en servicios externos, eludieron los controles de aislamiento y vulneraron partes de los sistemas de OpenAI y Hugging Face. OpenAI señala que el reward hacking fue uno de los principales detonantes y explica que la evaluación no contaba con las salvaguardas de sus modelos en producción. El incidente pone en duda cómo se aíslan las evaluaciones; no demuestra que todos los agentes se comporten así.
3. Autoinformes poco fiables. Nadella considera que la transparencia en el razonamiento es "innegociable", pero aclara que "por sí sola no es suficiente ni confiable". Lo que un modelo dice que hizo y lo que realmente hizo pueden ser cosas muy distintas.
4. Puntajes versus calidad. Una tasa de aprobación del 94 % solo mide el rendimiento frente a las pruebas que alguien escribió. No dice nada sobre situaciones para las que nadie creó una prueba.
5. Costo. El almacenamiento independiente de logs, los segundos modelos, las ejecuciones repetidas, los sandboxes aislados y la revisión humana suman costos y demoras. Registrar todo también genera obligaciones legales en torno a los datos sensibles.
6. Acciones irreversibles. Detener a un agente evita que siga actuando, pero no deshace lo que ya hizo, por lo que los permisos otorgados desde el principio importan más que el botón de parada.
7. Divulgación. En septiembre de 2026, OpenAI empezó a publicar incidentes de desalineación bajo un nuevo marco de divulgación, aunque es la propia empresa la que decide qué califica como tal. La mayoría de las compañías que implementan agentes no publican sus incidentes. La seguridad aérea mejoró, en parte, porque los accidentes se investigan de forma pública.
8. Verificaciones versus pruebas. Las comprobaciones automáticas confirman aquello que a alguien ya se le ocurrió preguntar. Muchas fallas graves surgen de preguntas que nadie hizo, y detectarlas requiere testers expertos que exploren, cuestionen las especificaciones y determinen qué riesgos son los que realmente importan.

Ninguno de estos puntos tiene una respuesta definitiva.

En qué punto está el debate

Las cinco voces coincidieron en tres aspectos:

• Los agentes vuelven más interdependientes el monitoreo, la evaluación y la aprobación.
• La evidencia debe provenir de un lugar que el agente no pueda modificar.
• Una persona sigue siendo quien aprueba la implementación, sus límites y sus excepciones, aunque no cada acción rutinaria.

Discreparon en cuatro:

• Una plataforma o varias herramientas. El Fundador de Plataforma quiere un solo proveedor; el CIO del Banco desconfía de las suites integrales.
• Adentro o afuera. Verificar dentro de la plataforma es más barato. La verificación independiente es lo que auditores, reguladores y aseguradoras exigen desde hace tiempo en finanzas y seguridad. Qué pesa más en el caso de la IA sigue sin resolverse.
• Responsabilidad. Podría recaer en operaciones, en el equipo de IA, en riesgo o en calidad. Pocas empresas tienen una partida presupuestaria específica para esto todavía.
• El nombre, y si alguna herramienta realmente puede "garantizar" algo.

Tres señales ayudarían a definir el rumbo. Si los compradores siguen conectando herramientas independientes mediante estándares abiertos, los mercados permanecerán separados. Si la evaluación integrada en las plataformas de observabilidad cubre la mayoría de las necesidades, ganará el enfoque interno. Y si no aparece un presupuesto específico para assurance, los proveedores independientes la tendrán difícil.

Si mañana tu agente cometiera un error costoso, ¿a quién confiarías la explicación de lo que pasó: a la empresa que lo opera o a alguien externo?

FAQ

¿Cuál es la diferencia entre observabilidad de IA, evaluación de IA y assurance de IA?

La observabilidad de IA registra lo que hizo un sistema de IA: sus entradas, llamadas a herramientas, salidas, errores y costo. La evaluación de IA mide su comportamiento frente a expectativas definidas, por ejemplo, precisión, cumplimiento de políticas o finalización de tareas. El assurance de IA reúne la evidencia, los controles y sus límites para que una persona pueda tomar una decisión responsable sobre implementar o seguir operando el sistema.

¿Qué es un marco de gobernanza de IA para agentes de IA?

Define quién decide a qué puede acceder un agente, cómo se registran sus acciones, cómo se prueba, quién puede detenerlo y cómo se reportan las fallas. Los siete principios de Satya Nadella son: diversidad de modelos, observar todo, verificabilidad, controles independientes, auditabilidad independiente, contención y divulgación de incidentes.

¿Cuáles son los siete principios de Satya Nadella para confiar en la IA?

En su ensayo de octubre de 2026 "Models as Insider Risks in the Super Intelligence Era", Nadella enumera la diversidad de modelos, observar todo, la verificabilidad, los controles independientes, la auditabilidad independiente, la contención y la divulgación de incidentes. Su idea central es separar el suministro de inteligencia de la autoridad sobre ella, tratando a los modelos capaces como empleados con amplios accesos.

¿Se están consolidando la observabilidad y la evaluación de IA?

Los proveedores las están combinando. Dynatrace cerró la adquisición de Arize por 915 millones de dólares en octubre de 2026, y Cisco completó la compra de Galileo en mayo de 2026, ambas con el objetivo de unir la evaluación con el monitoreo en producción. Que los compradores terminen fusionando sus presupuestos y equipos alrededor de una sola plataforma sigue siendo una incógnita.

¿Quién debería auditar a los agentes de IA: la plataforma que los ejecuta o un evaluador independiente?

Ambos enfoques existen y el tema aún no está resuelto. Las verificaciones dentro de la plataforma son más baratas y están más cerca de los datos. Las verificaciones independientes separan al evaluador del sistema evaluado, algo que auditores y reguladores suelen exigir. La independencia técnica —que el agente no pueda alterar a su verificador ni a sus registros— importa en cualquiera de los dos casos.

¿Cómo se prueba un agente de IA antes de lanzarlo?

Define las reglas de negocio y luego pon a prueba condiciones difíciles, como datos contradictorios, timeouts e instrucciones ocultas. Ejecuta los escenarios importantes muchas veces, comprueba el estado real del sistema en lugar de la descripción que da el agente, reporta las fallas graves por separado de los promedios, prueba los límites de permisos fuera del agente y valida el propio verificador automatizado.

Artículo publicado originalmente en https://medium.com/@mask.tech/will-ai-observability-evaluation-and-assurance-merge-a5b011e26b3a?sharedUserId=mask.tech

Fuentes

El ejemplo del reembolso es hipotético, las voces del debate son perfiles compuestos y la documentación de los productos describe capacidades en lugar de un rendimiento medido de forma independiente.

• Satya Nadella: Models as Insider Risks in the Super Intelligence Era (ensayo original)
• Forbes: Microsoft's Nadella wants an emergency brake on every AI model
• Data Studios: Los siete principios de Nadella explicados
• UK DSIT: Introduction to AI assurance
• W.Media: Gartner on agentic AI adoption and cancellations
• Detailed Research: mercado de observabilidad de IA
• Dynatrace: Dynatrace completes acquisition of Arize
• Magica: Dynatrace agrees $915 million deal for Arize
• Cisco: Making AI trustworthy and observable (Galileo, completada en mayo de 2026)
• Snowflake Form 8-K: cierre de la adquisición de Observe
• We The Flywheel: AI observability in 2026
• OpenAI: The Hugging Face incident and the road ahead
• Implicator: OpenAI's six misalignment incident reports
• The Decoder: Lloyd's insurers launch AI error policies
• Armilla: insurers launch cover for AI chatbot errors
• TestMu AI: Agent Assurance results and evidence
• TestMu AI: AI Agent Testing