وصلت حوادث مرتبطة باستخدام الذكاء الاصطناعي إلى مجالس الإدارة أو القيادات التنفيذية العليا لدى 75% من المؤسسات الكبيرة في الإمارات التي شملتها دراسة لـ”آي بي إم” (IBM)، في مؤشر على تزايد تحديات الحوكمة والمساءلة مع انتقال الشركات إلى استخدام وكلاء ذكاء اصطناعي أكثر استقلالية في اتخاذ القرارات.
وأظهرت الدراسة أن 49% من التنفيذيين الذين واجهت مؤسساتهم حوادث وصلت إلى القيادة العليا عدّلوا سياسات أو أطر حوكمة الذكاء الاصطناعي استجابة لها، فيما غيّر 40% خطط الاستثمار في التقنية أو نشر تطبيقاتها.
وتشمل الحوادث التي تناولتها الدراسة تعطل وكلاء الذكاء الاصطناعي، وانكشاف البيانات، والأخطاء في القرارات المدعومة بالتقنية، إلى جانب الحوادث الأمنية المرتبطة بها.
ورغم هذه المخاطر، لا تبدو المؤسسات الإماراتية مستعدة لإبطاء وتيرة تبني الذكاء الاصطناعي على نطاق واسع. وقال 60% من المشاركين إن مؤسساتهم تواصل التوسع في اعتماد التقنية ضمن حدود المخاطر المتفق عليها بالتزامن مع تطوير أطر الحوكمة، مقابل 30% يؤجلون الخطوة حتى اكتمال جاهزية تلك الأطر.
وكلاء ذكاء اصطناعي أكثر استقلالية
يتزامن الضغط المتزايد على الحوكمة مع انتقال “وكلاء الذكاء الاصطناعي” من مرحلة التجربة إلى الاستخدام الفعلي داخل المؤسسات. ويشير المصطلح إلى أنظمة تستطيع تنفيذ مهام واتخاذ إجراءات بدرجات متفاوتة من الاستقلالية لتحقيق أهداف محددة، بدلاً من الاكتفاء بالاستجابة المباشرة لطلبات المستخدمين.
طالع أيضاً: الشرق الأوسط قد يحصد أكثر من تريليون دولار من الذكاء الاصطناعي.. لكن بشروط
وبحسب الدراسة، قال 38% من المشاركين في الإمارات إن الذكاء الاصطناعي الوكيل دخل بالفعل مرحلة الإنتاج في وظيفة واحدة على الأقل داخل مؤسساتهم، فيما أفاد 13% بأنه دُمج على نطاق واسع في العمليات المؤسسية.
ويتوقع 78% من التنفيذيين أن يتمتع وكلاء الذكاء الاصطناعي بمستوى من الاستقلالية في اتخاذ القرارات بحلول 2027، ما يزيد الحاجة إلى ضوابط تحدد المسؤولية عن قرارات هذه الأنظمة وآليات التدخل عند وقوع أخطاء.
وقال شكري عيد، نائب الرئيس والمدير العام لـ”آي بي إم” في منطقة الخليج وبلاد الشام وباكستان، إن زيادة الاعتماد على وكلاء الذكاء الاصطناعي في اتخاذ القرارات وتنفيذ الإجراءات تستدعي أن تصبح الحوكمة “جزءاً لا يتجزأ من آلية عمل الذكاء الاصطناعي، لا مجرد خطوة لاحقة”.
وأضاف أن ذلك يتطلب من المؤسسات الإماراتية “إرساء مساءلة واضحة، وتعزيز الرقابة، وتطوير ضوابط قادرة على التوسع بالتوازي مع تبني هذه التقنيات”.
من يتحمل مسؤولية أخطاء الذكاء الاصطناعي؟
تكشف الدراسة عن فجوة أخرى تتعلق بتحديد المسؤولية عندما تتسبب الأنظمة المستقلة في نتائج سلبية. فرغم خضوع مخاطر الذكاء الاصطناعي للحوكمة على مستوى مجالس الإدارة لدى جميع المؤسسات الإماراتية المشمولة تقريباً، لم يتشكل توافق واضح بشأن الجهة المسؤولة عن أخطاء الوكلاء.
اقرأ أيضاً: البنك الدولي: الذكاء الاصطناعي قد يرفع إنتاجية 20% من وظائف المنطقة بقيادة السعودية والإمارات
واختار 21% رئيس إدارة المخاطر أو رئيس إدارة الامتثال باعتباره المسؤول، مقابل 17% قالوا إن المسؤولية مشتركة بين أعضاء محددين من الإدارة التنفيذية العليا، فيما حمّل 15% المسؤولية لرئيس المعلومات أو رئيس التكنولوجيا.
ويمتد الغموض إلى المسؤولية القانونية، إذ يرى 26% أن تحديد المسؤولية عن الأضرار الجسيمة التي قد يسببها الذكاء الاصطناعي يعتمد على ظروف كل حالة، بينما قال 19% إن الأطر التنظيمية القائمة ليست كافية، ويرى 16% أن المسؤولية ينبغي أن توزع بين المؤسسة التي تنشر النظام والمورد التقني.
ومع توقع اتساع استقلالية الوكلاء، قال 37% إن المرحلة المقبلة تحتاج إلى أطر قانونية أو تعاقدية تحدد مسؤوليات موردي الذكاء الاصطناعي، فيما أشار 36% إلى الحاجة إلى هياكل حوكمة عابرة للولايات القضائية، والنسبة نفسها إلى ضرورة امتلاك المؤسسات القدرة على إيقاف أنشطة الوكلاء فوراً على مستوى المؤسسة بأكملها.
فجوة في قياس المخاطر المالية
رغم تصاعد الاهتمام بالحوكمة، لا تزال عملية تحويل مخاطر الذكاء الاصطناعي إلى تقديرات مالية في مراحلها الأولى. وقال 39% فقط إن مؤسساتهم أجرت تقييماً كمياً رسمياً للمخاطر المالية الناجمة عن ثغرات الحوكمة وخضع لمراجعة مجلس الإدارة.
وتظل السياسات الحكومية محركاً رئيسياً للإنفاق على الحوكمة، إذ ذكر 59% من التنفيذيين أن متطلبات الاستراتيجية الوطنية للذكاء الاصطناعي في الإمارات من أبرز دوافع الاستثمار في هذا المجال، مقابل 42% أشاروا إلى متطلبات الامتثال التنظيمي الدولي، و38% إلى اللوائح الخاصة بالقطاعات.
وأجرت “سينسوس وايد” “Censuswide” الدراسة لصالح “آي بي إم”، وشملت 3221 مسؤولاً تنفيذياً في مؤسسات تضم ألف موظف أو أكثر في ثماني دول، بينها الإمارات.
