Los principales bancos de EE. UU. están detectando agentes de IA de terceros que operan dentro de las cuentas de los clientes sin la aprobación de las entidades,según informó Axios esta mañana. Algunos de esos agentes parecen estar actuando más allá de las instrucciones de sus usuarios. Los directivos bancarios describieron la situación a Axios como aterradora, y los mayores prestamistas se están moviendo rápido: Morgan Stanley ha comenzado a bloquear a los agentes externos, mientras que JPMorgan, Bank of America y Citi los están restringiendo.
Los bancos siempre han sabido que estar autenticado no es lo mismo que estar autorizado. Han pasado décadas construyendo controles basados en ese principio: permisos, límites de transacciones, verificación adicional, monitoreo de fraude. Pero esos controles se diseñaron pensando en personas. Asumen que quien inicia sesión es quien actúa, y que una persona actúa a velocidad humana.
Los agentes de IA rompen ambas suposiciones. Muchos inician sesión con credenciales que los propios clientes les entregaron, y luego actúan dentro de la sesión del cliente con el mismo acceso que este tiene. Y trabajan a velocidad de máquina, las 24 horas del día.
Los controles actuales preguntan si el cliente tiene permiso para hacer algo. Con una persona al teclado, eso era suficiente: quien pedía y quien actuaba eran la misma. Con un agente, los controles se enfrentan a una segunda pregunta para la que nunca fueron diseñados: ¿el cliente realmente pidió esto? Demasiadas veces, los bancos solo se enteran cuando ya es tarde.
Esa es la brecha. Los controles no han fallado. Simplemente no pueden distinguir de forma fiable entre el cliente y el software que tiene su contraseña.
Bloquear a los agentes, o limitarlos a acceso de solo lectura, es un primer paso sensato. Pero no puede ser el último. Los directivos bancarios le dijeron a Axios que saben que los clientes seguirán usando estos agentes, y los líderes de la industria ya están haciendo las preguntas correctas. Brian Moynihan, director ejecutivo de Bank of America,ha dicho que un humano debería aprobar cualquier salida de dinero de una cuenta, y su banco está desarrollando protocolos sobre cómo interactúan los agentes con las cuentas y quién asume la responsabilidad cuando uno autoriza un pago. Y el mismo Morgan Stanley que ahora bloquea a los agentes externosanunció en junio que permitiría a los agentes de sus clientes corporativos conectarse a sus plataformas de planes de acciones a través de un canal aprobado.
Eso no es una contradicción. Es el modelo. La pregunta no es si dejar entrar a los agentes, sino qué puerta usan y qué se les permite hacer una vez dentro. Los bancos ya hicieron algo parecido antes, cuando sacaron a los agregadores de datos de las contraseñas de los clientes y los pasaron a conexiones aprobadas. Los agentes necesitan el mismo cambio, tanto para las acciones como para los datos.
Dar ese paso exige una nueva arquitectura basada en microautorizaciones en tiempo real. Cada acción que un agente intenta realizar se verifica en el momento en que intenta ejecutarla, contrastándola con lo que el cliente ha autorizado y con lo que la acción implicaría, mediante controles que operan fuera del modelo de IA. La gobernanza pasa del después al antes. Cada solicitud se somete a cuatro pruebas, tres antes de ejecutarse y una después:
- Identidad. ¿Quién actúa y en nombre de quién? Un agente debe llevar sus propias credenciales, nunca la contraseña del cliente.
- Autoridad. ¿Qué ha permitido realmente el cliente, dentro de qué límites y durante cuánto tiempo?
- Política. ¿Qué reglas de negocio aplican a esta solicitud?
- Prueba. ¿La acción se completó correctamente, una sola vez y con un registro verificable?
Las comprobaciones escalan según el riesgo. Consultar un saldo requiere un cliente verificado. Mover dinero exige límites establecidos por el cliente o su aprobación en el momento, además de controles antifraude. Cambiar una contraseña sigue siendo potestad exclusiva del cliente. El modelo propone; el sistema autoriza.
Esta semana planteé un argumento relacionadoen respuesta a Satya Nadella, quienha pedido separar “el suministro de inteligencia de la autoridad sobre ella”. Ese mismo principio define cómo construimos en Netomi.
La banca es una señal de alerta temprana, no un caso aislado. El mes pasado, Amazon bloqueó al agente Muse de Meta para que no comprara en su tienda. Al día siguiente, Shopify anunció un proceso de pago agéntico para Muse a través de Shop Pay. Desde las finanzas hasta el comercio minorista, todas las empresas se enfrentan ahora a la misma pregunta: cómo dar la bienvenida a los agentes de IA legítimos sin ceder el control.
A principios de este mes, terminamos un marco de trabajo diseñado exactamente para esa pregunta. Hoy lo hacemos público. “Agentes de IA para consumidores: gobernar la nueva interfaz entre clientes y empresas” es la versión técnica completa de este argumento: los controles, la arquitectura de referencia, los niveles de riesgo y cómo ponerlos en práctica.
El cliente puede delegar la tarea. La empresa no puede delegar la responsabilidad.
