Великі банки США виявляють сторонніх AI-агентів, які працюють у клієнтських рахунках без дозволу банків, повідомив Axios сьогодні вранці. Деякі з цих агентів, схоже, діють за межами інструкцій своїх користувачів. Керівники банків описали ситуацію для Axios як жахливу, а найбільші кредитори діють швидко: Morgan Stanley почав блокувати зовнішніх агентів, а JPMorgan, Bank of America та Citi обмежують їхню роботу.
Банки завжди знали, що автентифікація не означає авторизацію. Вони десятиліттями будували систему контролю на цьому принципі: права доступу, ліміти транзакцій, додаткова верифікація, моніторинг шахрайства. Але цей контроль створювався для людей. Він виходить із того, що той, хто входить у систему, і є тим, хто діє, і що людина діє з людською швидкістю.
AI-агенти руйнують обидва ці припущення. Багато з них входять за допомогою облікових даних, які клієнти передали їм самостійно, а потім діють у сесії клієнта з тими ж правами доступу, що й він. І вони працюють зі швидкістю машини, цілодобово.
Сьогоднішній контроль перевіряє, чи дозволено клієнту щось робити. Коли за клавіатурою сиділа людина, цього було достатньо: той, хто запитував, і той, хто діяв, були однією особою. З агентом система контролю стикається з другим питанням, яке вона ніколи не була покликана ставити. Чи справді клієнт про це просив? Надто часто банки дізнаються про це лише постфактум.
Ось де прогалина. Контроль не дав збій. Він просто не здатний надійно відрізнити клієнта від програми, яка тримає його пароль.
Блокування агентів або обмеження їхнього доступу лише до читання — розумний перший крок. Але він не може бути останнім. Керівники банків сказали Axios, що знають: клієнти продовжать використовувати цих агентів, і лідери галузі вже ставлять правильні запитання. Браян Мойніган, генеральний директор Bank of America, заявив, що людина має схвалювати виведення коштів з рахунку, а його банк розробляє протоколи щодо того, як агенти взаємодіють із рахунками та хто несе відповідальність, коли агент авторизує платіж. А той самий Morgan Stanley, який зараз блокує зовнішніх агентів, оголосив у червні, що дозволить агентам корпоративних клієнтів підключатися до своїх платформ управління акціями через затверджений канал.
Це не суперечність. Це модель. Питання не в тому, чи пускати агентів усередину. Питання в тому, якими дверима вони заходять і що їм дозволено робити після цього. Банки вже проходили подібне, переводячи агрегатори даних з паролів клієнтів на затверджені з'єднання. Для агентів потрібен такий самий перехід — і щодо дій, і щодо даних.
Щоб здійснити цей перехід, потрібна нова архітектура, побудована на миттєвих мікро-санкціях. Кожна дія, яку намагається виконати агент, перевіряється саме в момент спроби: чи відповідає вона тому, що авторизував клієнт, і які будуть її наслідки. Цю перевірку здійснюють механізми контролю, що знаходяться поза AI-моделлю. Управління переходить від постфактумного до попереднього. Кожен запит проходить чотири перевірки: три до виконання та одну після:
- Ідентичність. Хто діє і від чийого імені? Агент повинен мати власні облікові дані, а не пароль клієнта.
- Повноваження. Що саме дозволив клієнт, у яких межах і на який термін?
- Політика. Які бізнес-правила застосовуються до цього запиту?
- Доказ. Чи була дія виконана правильно, лише один раз і з можливістю верифікації запису?
Рівень перевірок масштабується залежно від ризиків. Перегляд балансу потребує верифікованого клієнта. Переказ коштів вимагає встановлених клієнтом лімітів або його миттєвого схвалення, а також перевірок на шахрайство. Зміна пароля залишається виключно за клієнтом. Модель пропонує; система авторизує.
Цього тижня я висловив схожу думку у відповідь Сатьї Наделлі, який закликав розділити «надання інтелекту та повноваження щодо нього». Саме цей принцип визначає те, як ми будуємо продукти в Netomi.
Банківська сфера — це раннє попередження, а не ізольований випадок. Минулого місяця Amazon заблокував агенту Muse від Meta можливість робити покупки у своєму магазині. Наступного дня Shopify оголосив про агентну оплату для Muse через Shop Pay. Від фінансів до рітейлу кожна компанія тепер стикається з одним і тим самим питанням: як приймати легітимних AI-агентів, не втрачаючи контроль.
На початку цього місяця ми завершили роботу над фреймворком, який відповідає саме на це питання. Сьогодні ми робимо його публічним. «Споживчі AI-агенти: управління новим інтерфейсом між клієнтами та компаніями» — це повна технічна версія нашого аргументу: механізми контролю, еталонна архітектура, рівні ризику та способи їх застосування на практиці.
Клієнт може делегувати завдання. Компанія не може делегувати відповідальність.
