ومع تطور الذكاء الاصطناعي من النماذج التنبؤية والتوليدية إلى وكلاء مستقلين تحركهم أهداف، بدأت الهيئات التنظيمية المالية في تطوير أطر حوكمة جديدة. أطلقت هيئة النقد السنغافورية (MAS)، بالتعاون مع مجموعة من المؤسسات المالية وشركات التكنولوجيا المالية، مبادرة لوضع معايير حوكمة لاستخدام وكلاء الذكاء الاصطناعي في الخدمات المالية.
مخطط للتنظيم المستقبلي
بدلاً من التركيز فقط على اختبار ما قبل النشر أو عمليات تدقيق ما بعد الحدث، يقدم إطار الإجراءات الوقائية للتمويل الوكيل في وقت التشغيل (SAFR) مفهوم الحوكمة في الوقت الفعلي ومراقبة قرارات الذكاء الاصطناعي والتحقق من صحتها عند نقطة التنفيذ.
على الرغم من أن الوثيقة البيضاء ليست لائحة ملزمة، إلا أنها توفر إشارة واضحة للاتجاه الذي يسلكه المنظمون. بالنسبة لصناعة التداول، حيث يعد اتخاذ القرار الآلي والتنفيذ عالي السرعة من الممارسات القياسية، تقدم SAFR مخططًا مبكرًا لإدارة أنظمة الذكاء الاصطناعي المستقلة.
لماذا يتطلب الذكاء الاصطناعي الوكيل قواعد جديدة؟
تعتمد الأتمتة التقليدية على قواعد محددة مسبقًا أنشأها مطورو البرامج. يعمل Agent AI بشكل مختلف. بدلاً من اتباع تعليمات ثابتة، يتم تعيين هدف لوكيل الذكاء الاصطناعي، مثل إدارة السيولة أو معالجة المطالبات أو تنفيذ الصفقات، ويحدد بشكل مستقل الخطوات المطلوبة لتحقيق هذا الهدف. وهذا يخلق تحديات حوكمة جديدة تمامًا لم يتم تصميم أطر الامتثال الحالية لمعالجتها.
الرقابة في الوقت الحقيقي بدلا من ضوابط ما بعد التجارة
ولمواجهة هذه التحديات، يقدم إطار عمل SAFR طبقة حوكمة وقت التشغيل الموضوعة بين وكيل الذكاء الاصطناعي وأنظمة التنفيذ في المؤسسة. بدلاً من السماح للوكيل بالتصرف دون إشراف، يتم تقييم كل إجراء مقترح والتحقق من صحته قبل التنفيذ.
يحدد الإطار أربع نتائج محتملة:
الآثار المترتبة على وسطاء التجزئة
بالنسبة لوسطاء التجزئة الذين يتعاملون مع كميات كبيرة من نشاط العميل الآلي، يعزز الإطار مبدأ مهمًا: تظل الشركات مسؤولة بشكل كامل عن تصرفات أنظمة الذكاء الاصطناعي الخاصة بها. لا يمكن تفويض المسؤولية لموردي الذكاء الاصطناعي الخارجيين. يظل الكيان المنظم مسؤولاً عن ضمان عمل الأنظمة الآلية ضمن حدود المخاطر المناسبة.
اقرأ التحليل الكامل واستكشف جميع الأفكار الأساسية حول بوابة Finance Magnates Intelligence Portal.
كتب هذا المقال سيلوستر ماجوسكي على www.financemagnates.com.
