البنوك صممت ضوابطها للبشر. وكلاء الذكاء الاصطناعي يتجاوزونها بسهولة.

تكتشف البنوك الأمريكية الكبرى وكلاء ذكاء اصطناعي تابعين لجهات خارجية يعملون داخل حسابات العملاء دون موافقة البنوك، حسبما أفاد موقع Axios صباح اليوم. ويبدو أن بعض هؤلاء الوكلاء يتصرفون بما يتجاوز تعليمات مستخدميهم. ووصف مسؤولو البنوك التنفيذيون الوضع لموقع Axios بأنه "مرعب"، وتتحرك أكبر جهات الإقراض بسرعة: فقد بدأ Morgan Stanley في حظر الوكلاء الخارجيين، بينما تقوم بنوك JPMorgan و Bank of America و Citi بتقييدهم.

لطالما أدركت البنوك أن المصادقة على الهوية لا تعني منح الصلاحية. فقد أمضت عقودًا في بناء ضوابط قائمة على هذا المبدأ: الصلاحيات، وحدود المعاملات، والتحقق المتدرج، ومراقبة الاحتيال. لكن تلك الضوابط صُممت للبشر. فهي تفترض أن الشخص الذي يسجل الدخول هو نفسه من ينفذ الإجراء، وأن هذا الشخص يتصرف بسرعة بشرية.

يكسر وكلاء الذكاء الاصطناعي هذين الافتراضين معًا. فكثير منهم يسجلون الدخول ببيانات اعتماد سلّمها العملاء بأنفسهم، ثم يتصرفون داخل جلسة العميل بنفس صلاحيات الوصول التي يمتلكها العميل. وهم يعملون بسرعة الآلة، وعلى مدار الساعة.

تسأل ضوابط اليوم عما إذا كان مسموحًا للعميل القيام بشيء ما. ومع وجود شخص حقيقي خلف لوحة المفاتيح، كان ذلك كافيًا: فالطالب والمنفذ هما الشخص ذاته. أما مع الوكيل، فتواجه الضوابط سؤالًا ثانيًا لم تُصمم أبدًا لطرحه: هل طلب العميل هذا الفعل حقًا؟ وفي كثير من الأحيان، لا تكتشف البنوك ذلك إلا بعد وقوع الأمر.

هذه هي الفجوة. فالضوابط لم تفشل، لكنها ببساطة غير قادرة على التمييز بشكل موثوق بين العميل والبرنامج الذي يحمل كلمة مرور العميل.

يُعد حظر الوكلاء، أو قصرهم على صلاحية القراءة فقط، خطوة أولى منطقية. لكنها لا يمكن أن تكون الخطوة الأخيرة. فقد أخبر المسؤولون التنفيذيون في البنوك موقع Axios أنهم يدركون أن العملاء سيستمرون في استخدام هؤلاء الوكلاء، وأن قادة القطاع يطرحون بالفعل الأسئلة الصحيحة. فقد صرّح برايان موينيهان، الرئيس التنفيذي لبنك Bank of America، بأنه ينبغي أن يوافق إنسان على خروج الأموال من الحساب، ويعمل بنكه على تطوير بروتوكولات تحدد كيفية تفاعل الوكلاء مع الحسابات ومن يتحمل المسؤولية عندما يأذن أحدهم بعملية دفع. كما أن بنك Morgan Stanley نفسه، الذي يحظر الآن الوكلاء الخارجيين، أعلن في شهر يونيو أنه سيسمح لوكلاء عملائه من الشركات بالاتصال بمنصات خطط الأسهم الخاصة به عبر قناة معتمدة.

وهذا ليس تناقضًا، بل هو النموذج المطلوب. فالسؤال ليس ما إذا كنا سنسمح للوكلاء بالدخول، بل أي باب يستخدمونه، وما المسموح لهم بفعله بمجرد دخولهم. وقد طبقت البنوك نسخة من هذا النهج سابقًا، حين نقلت مجمّعي البيانات بعيدًا عن كلمات مرور العملاء إلى اتصالات معتمدة. ويحتاج الوكلاء إلى الخطوة ذاتها، سواء فيما يتعلق بالعمليات أو البيانات.

يتطلب تنفيذ هذه الخطوة بنية جديدة قائمة على عمليات تحقق دقيقة وفورية (micro-sanctions). فكل إجراء يحاول الوكيل تنفيذه يُفحص في اللحظة ذاتها، بناءً على ما أذن به العميل وما سيفعله الإجراء، وذلك عبر ضوابط تقع خارج نموذج الذكاء الاصطناعي. وبذلك تنتقل الحوكمة من مرحلة "ما بعد الحدث" إلى مرحلة "قبله". ويخضع كل طلب لأربعة اختبارات، ثلاثة منها قبل التنفيذ وواحد بعده:

• الهوية. من الذي ينفذ الإجراء، ونيابةً عن من؟ يجب أن يحمل الوكيل بيانات اعتماده الخاصة، وألا يستخدم كلمة مرور العميل أبدًا.
• الصلاحية. ما الذي سمح به العميل فعلًا، وفي أي حدود، ولمدة كم؟
• السياسة. ما هي قواعد العمل المنطبقة على هذا الطلب؟
• الإثبات. هل نُفّذ الإجراء بشكل صحيح، ولمرة واحدة فقط، مع وجود سجل قابل للتحقق؟

تتدرج هذه الفحوصات بحجم المخاطر. فمعرفة الرصيد تتطلب عميلًا تم التحقق من هويته. أما تحويل الأموال فيتطلب حدودًا وضعها العميل أو موافقته في اللحظة ذاتها، إلى جانب فحوصات الاحتيال. ويبقى تغيير كلمة المرور من اختصاص العميل وحده. النموذج يقترح، والنظام يأذن.

وقد طرحت حجة مشابهة هذا الأسبوع ردًا على ساتيا ناديلا، الذي دعا إلى الفصل بين "توفير الذكاء والسلطة عليه". وهذا المبدأ ذاته هو ما يشكّل طريقة عملنا في Netomi.

إن ما يحدث في القطاع المصرفي هو إنذار مبكر وليس حالة منعزلة. ففي الشهر الماضي، حظرت Amazon وكيل Muse التابع لشركة Meta من التسوق عبر متاجرها. وفي اليوم التالي، أعلنت Shopify عن عملية دفع تعتمد على الوكلاء لخدمة Muse عبر Shop Pay. ومن التمويل إلى التجزئة، تواجه كل مؤسسة الآن السؤال ذاته: كيف نرحب بوكلاء الذكاء الاصطناعي الشرعيين دون التخلي عن السيطرة؟

وفي وقت سابق من هذا الشهر، أنجزنا إطار عمل يجيب تحديدًا عن هذا السؤال. واليوم نعلن عنه للعامة. إن وثيقة "وكلاء الذكاء الاصطناعي للمستهلكين: حوكمة الواجهة الجديدة بين العملاء والمؤسسات" هي النسخة التقنية الكاملة لهذه الحجة: الضوابط، والبنية المرجعية، ومستويات المخاطر، وكيفية تفعيلها عمليًا.

اقرأ الإطار الكامل ←

يمكن للعميل تفويض المهمة، لكن المؤسسة لا يمكنها تفويض المسؤولية.