Los principales bancos de EE. UU. están detectando agentes de IA de terceros que operan dentro de las cuentas de los clientes sin la aprobación de las entidades,según informó Axios esta mañana. Algunos de esos agentes parecen estar actuando más allá de las instrucciones de sus usuarios. Los ejecutivos bancarios le describieron la situación a Axios como aterradora, y los prestamistas más grandes se están moviendo rápido: Morgan Stanley ya empezó a bloquear agentes externos, mientras que JPMorgan, Bank of America y Citi los están restringiendo.
Los bancos siempre han sabido que estar autenticado no es lo mismo que estar autorizado. Pasaron décadas construyendo controles basados en ese principio: permisos, límites de transacciones, verificación adicional, monitoreo de fraudes. Pero esos controles se diseñaron pensando en personas. Asumen que quien inicia sesión es quien actúa, y que una persona actúa a velocidad humana.
Los agentes de IA rompen ambas suposiciones. Muchos inician sesión con credenciales que los propios clientes les entregaron, y luego actúan dentro de la sesión del cliente con el mismo acceso que este tiene. Y trabajan a velocidad de máquina, las 24 horas del día.
Los controles actuales solo preguntan si el cliente tiene permiso para hacer algo. Con una persona frente al teclado, eso era suficiente: quien pedía y quien actuaba eran la misma. Con un agente, los controles se enfrentan a una segunda pregunta para la que nunca fueron diseñados: ¿el cliente realmente pidió esto? Demasiadas veces, los bancos se enteran cuando ya es tarde.
Esa es la brecha. Los controles no fallaron. Simplemente no pueden distinguir de forma confiable al cliente del software que tiene su contraseña.
Bloquear agentes o limitarlos a acceso de solo lectura es un primer paso sensato. Pero no puede ser el último. Los ejecutivos bancarios le dijeron a Axios que saben que los clientes van a seguir usando estos agentes, y los líderes de la industria ya se están haciendo las preguntas correctas. Brian Moynihan, director ejecutivo de Bank of America,dijo que un humano debería aprobar cualquier salida de dinero de una cuenta, y su banco está desarrollando protocolos sobre cómo interactúan los agentes con las cuentas y quién responde cuando uno autoriza un pago. Y el mismo Morgan Stanley que hoy bloquea agentes externosanunció en junio que permitiría a los agentes de sus clientes corporativos conectarse a sus plataformas de planes de acciones a través de un canal aprobado.
Eso no es una contradicción. Es el modelo. La pregunta no es si dejar entrar a los agentes, sino por qué puerta entran y qué se les permite hacer una vez adentro. Los bancos ya hicieron algo parecido antes, cuando sacaron a los agregadores de datos de las contraseñas de los clientes y los pasaron a conexiones aprobadas. Los agentes necesitan el mismo cambio, tanto para las acciones como para los datos.
Hacer ese cambio requiere una nueva arquitectura basada en micro-sanciones en tiempo real. Cada acción que un agente intenta realizar se verifica justo en el momento en que trata de ejecutarla, comparándola con lo que el cliente autorizó y con lo que esa acción provocaría, mediante controles que están fuera del modelo de IA. La gobernanza pasa de ser reactiva a preventiva. Cada solicitud enfrenta cuatro pruebas, tres antes de ejecutarse y una después:
- Identidad. ¿Quién actúa y en nombre de quién? Un agente debería usar sus propias credenciales, nunca la contraseña del cliente.
- Autoridad. ¿Qué permitió realmente el cliente, dentro de qué límites y por cuánto tiempo?
- Política. ¿Qué reglas de negocio aplican a esta solicitud?
- Prueba. ¿La acción se completó correctamente, solo una vez y con un registro verificable?
Las verificaciones escalan según el riesgo. Consultar un saldo requiere un cliente verificado. Mover dinero exige respetar los límites que el cliente definió o contar con su aprobación en el momento, además de controles antifraude. Cambiar una contraseña sigue siendo potestad exclusiva del cliente. El modelo propone; el sistema autoriza.
Esta semana planteé un argumento relacionadoen respuesta a Satya Nadella, quienpidió separar “el suministro de inteligencia de la autoridad sobre ella”. Ese mismo principio guía cómo construimos en Netomi.
Lo que pasa en la banca es una señal de alerta temprana, no un caso aislado. El mes pasado, Amazon bloqueó al agente Muse de Meta para que no comprara en su tienda. Al día siguiente, Shopify anunció un checkout agéntico para Muse a través de Shop Pay. Desde las finanzas hasta el retail, todas las empresas enfrentan ahora la misma pregunta: cómo darle la bienvenida a los agentes de IA legítimos sin perder el control.
A principios de este mes, terminamos un marco de trabajo diseñado exactamente para responder esa pregunta. Hoy lo hacemos público. “Agentes de IA para consumidores: gobernar la nueva interfaz entre clientes y empresas” es la versión técnica completa de este argumento: los controles, la arquitectura de referencia, los niveles de riesgo y cómo ponerlos en práctica.
El cliente puede delegar la tarea. La empresa no puede delegar la responsabilidad.
